AI滲透人們生活的方方面面已是必然，隨著越來越多應(yīng)用場景落地，幫助人們改善生活也將無微不至。如今，為了幫助新晉爸媽群體，美國一家名為Predictim的AI公司開發(fā)了一款同名APP，提供評估保姆人格的在線服務(wù)。不過，僅過了一個月的時間，這款A(yù)PP就被用戶和媒體吐槽不靠譜，但也讓人們看到了未來的想象空間。
“AI判斷你有虐童傾向，所以你找不到工作”
Predictim基于AI評估一名保姆的可靠性，主要參與新晉爸媽尋找保姆的環(huán)節(jié)。寶爸寶媽們首先聯(lián)系到一名潛在的人選，獲得保姆的姓名和電子郵件，獲得對方同意獲取社交媒體賬戶的訪問權(quán)限，即可以在平臺上進(jìn)行評估。如果保姆拒絕，則會收到一封電子郵件，提示無法被雇傭。
既然不評不行，那么進(jìn)入到這一評估流程后，這名保姆的隱私就會交給AI過濾。Predictim會掃描這名候選人的Facebook、Twitter 和Instagram 等社交平臺上近幾年的發(fā)帖和圖片，在幾分鐘之內(nèi)生成評估報告。而這份報告包含個性特征、行為特征、擅長領(lǐng)域等，重點提供是否有霸凌、態(tài)度不佳、不尊重人等傾向，用以反應(yīng)一名保姆的就職風(fēng)險。從無風(fēng)險的綠色到非常危險的紅色，一名潛在的候選人就這樣被AI打上了標(biāo)簽，并且結(jié)果只呈獻(xiàn)給孩子的父母，不會告訴保姆本人。
愛沒有界限，AI有些問題
保姆這一職業(yè)雖然屬于服務(wù)業(yè)，但是對于新晉爸媽來說是類似于家人的存在。靠譜的保姆不僅能解放家長，還能起到影響孩子的良好作用，不靠譜的保姆卻屢屢見諸報端，虐童、縱火，駭人聽聞。
雖然保姆的可靠性至關(guān)重要，但是顯然Predictim的評估規(guī)則有些簡單粗暴。所以首先被吐槽的就是它的片面性。
Facebook、Twitter 和 Instagram 等APP對于美國人來說是主流的線上社交平臺，雖然能夠一定程度上體現(xiàn)一個人的個性，但恰恰因為是用戶發(fā)聲的出口，所以涉及到的話題非常豐富。
值得注意的是，美國保姆市場和中國不盡相同，并不是中年人主導(dǎo)，而是大多是年輕人，因此社交軟件才被Predictim作為主要的檢測對象。
但是，如果用戶引用了電影臺詞或歌曲歌詞、玩了什么網(wǎng)絡(luò)上的梗、在評論時用了反話(類似微博加狗頭的做法)等，AI是否能識別并最終正確反映一個人的性格？
對于這一問題，目前的AI水平還不能讓人那么放心，即便達(dá)到了人類的理解水平，也有網(wǎng)友表示：“電腦沒有感情，又怎能評判所有事？”
當(dāng)然，即便AI擁有感情，也只是在線上，而一個人的真正畫像還包括與他人的接觸，也就是占有更大比重的線下。
除了評判標(biāo)準(zhǔn)片面、智能水平不可靠，Predictim在上線的短短一個月后，還迎來了不小的打擊。今年(11月27日)消息，F(xiàn)acebook認(rèn)為Predictim違反了其使用個人數(shù)據(jù)的政策，撤銷了大部分來自Predictim的訪問權(quán)限，正在調(diào)查是否應(yīng)該將其完全屏蔽，而Twitter則已經(jīng)完全屏蔽。
Twitter發(fā)言人通過電子郵件向媒體回應(yīng)稱，“我們嚴(yán)格禁止將Twitter數(shù)據(jù)和api用于監(jiān)控目的，包括進(jìn)行背景調(diào)查。當(dāng)我們意識到Predictim的服務(wù)時，我們進(jìn)行了調(diào)查，并撤銷了他們對Twitter公共api的訪問。”
Predictim通過過濾包含“毒品”、“暴力”等關(guān)鍵詞或相關(guān)話題的發(fā)帖作為主要的評估維度，但作為一家今年6月份才成立的創(chuàng)業(yè)公司，通過并未被認(rèn)可、也不可證偽的單一算法就決定一個人的就業(yè)，批評人士表示不可信任。
雖然Predictim也有人工復(fù)檢的機制，被標(biāo)記為有問題的帖子會被手動查看，以防止出現(xiàn)假陰性，但是初創(chuàng)公司的屬性和AI現(xiàn)階段的局限性都讓其無法走出輿論的旋渦。
雖然不靠譜，但是AI的想象空間由此大開
Predictim的發(fā)展雖然坎坷，但是讓AI評估人類這件事本身必將成為趨勢。
首先，AI在企業(yè)招聘、人力資源管理過程中已經(jīng)開始發(fā)揮作用。
除了招聘軟件自動篩選簡歷為HR釋放了不少精力，IBM公司還用AI判定員工績效。據(jù)IBM人力資源部統(tǒng)計，與人類的評估結(jié)果對比來看，Watson的準(zhǔn)確率達(dá)到了96%，在HR可以接受的范圍內(nèi)，因此已經(jīng)開始試用了。
國內(nèi)也已經(jīng)出現(xiàn)了仟尋MoSeeker、iPin等入局AI招聘的創(chuàng)企，甚至部分企業(yè)在面試過程中加入了AI評定環(huán)節(jié)。
目前在招聘環(huán)節(jié)使用AI還有一定局限，即便是HR本人面試也難以在短短一面之緣下完整地了解求職者，不過未來“AI驗人”有著巨大的想象空間。
試想，此前多次在網(wǎng)約車平臺爆出的刑事案件中，犯罪分子因為網(wǎng)貸逾期而產(chǎn)生反社會心里、走上犯罪道路，半年向57個網(wǎng)貸平臺申請過資金，這樣完全在線上的行為竟然沒有被提前感知。
另有例如，某網(wǎng)貸平臺在放款環(huán)節(jié)需要用戶填寫擔(dān)保聯(lián)系人，但卻不核實該聯(lián)系人與用戶的社會關(guān)系，在逾期后卻電話聯(lián)系該聯(lián)系人催款，簡直讓人無法理解其邏輯。
如果形成了以每一個人實名用戶為中心的數(shù)據(jù)平臺，AI的作用就能真正惠及大眾。當(dāng)AI檢測到用戶頻繁的社交平臺不良言論及時干預(yù)，扶正的就是一個本可以健康陽光成長的網(wǎng)民;當(dāng)AI檢測到用戶收入水平偏低卻頻繁在二手平臺出售電子產(chǎn)品及時干預(yù)，預(yù)防的就是一個潛在的犯罪分子;當(dāng)AI檢測到用戶出現(xiàn)頻繁網(wǎng)貸行為的失信傾向并及時干預(yù)，挽救的就是一個活生生的生命。
我們反對片面地評判他人，無論是人還是AI，但我們期待未來AI可以做得更好。
【來源：擴黑科技】
