AI滲透人們生活的方方面面已是必然，隨著越來越多應用場景落地，幫助人們改善生活也將無微不至。如今，為了幫助新晉爸媽群體，美國一家名為Predictim的AI公司開發了一款同名APP，提供評估保姆人格的在線服務。不過，僅過了一個月的時間，這款APP就被用戶和媒體吐槽不靠譜，但也讓人們看到了未來的想象空間。
“AI判斷你有虐童傾向，所以你找不到工作”
Predictim基于AI評估一名保姆的可靠性，主要參與新晉爸媽尋找保姆的環節。寶爸寶媽們首先聯系到一名潛在的人選，獲得保姆的姓名和電子郵件，獲得對方同意獲取社交媒體賬戶的訪問權限，即可以在平臺上進行評估。如果保姆拒絕，則會收到一封電子郵件，提示無法被雇傭。
既然不評不行，那么進入到這一評估流程后，這名保姆的隱私就會交給AI過濾。Predictim會掃描這名候選人的Facebook、Twitter 和Instagram 等社交平臺上近幾年的發帖和圖片，在幾分鐘之內生成評估報告。而這份報告包含個性特征、行為特征、擅長領域等，重點提供是否有霸凌、態度不佳、不尊重人等傾向，用以反應一名保姆的就職風險。從無風險的綠色到非常危險的紅色，一名潛在的候選人就這樣被AI打上了標簽，并且結果只呈獻給孩子的父母，不會告訴保姆本人。
愛沒有界限，AI有些問題
保姆這一職業雖然屬于服務業，但是對于新晉爸媽來說是類似于家人的存在。靠譜的保姆不僅能解放家長，還能起到影響孩子的良好作用，不靠譜的保姆卻屢屢見諸報端，虐童、縱火，駭人聽聞。
雖然保姆的可靠性至關重要，但是顯然Predictim的評估規則有些簡單粗暴。所以首先被吐槽的就是它的片面性。
Facebook、Twitter 和 Instagram 等APP對于美國人來說是主流的線上社交平臺，雖然能夠一定程度上體現一個人的個性，但恰恰因為是用戶發聲的出口，所以涉及到的話題非常豐富。
值得注意的是，美國保姆市場和中國不盡相同，并不是中年人主導，而是大多是年輕人，因此社交軟件才被Predictim作為主要的檢測對象。
但是，如果用戶引用了電影臺詞或歌曲歌詞、玩了什么網絡上的梗、在評論時用了反話(類似微博加狗頭的做法)等，AI是否能識別并最終正確反映一個人的性格？
對于這一問題，目前的AI水平還不能讓人那么放心，即便達到了人類的理解水平，也有網友表示：“電腦沒有感情，又怎能評判所有事？”
當然，即便AI擁有感情，也只是在線上，而一個人的真正畫像還包括與他人的接觸，也就是占有更大比重的線下。
除了評判標準片面、智能水平不可靠，Predictim在上線的短短一個月后，還迎來了不小的打擊。今年(11月27日)消息，Facebook認為Predictim違反了其使用個人數據的政策，撤銷了大部分來自Predictim的訪問權限，正在調查是否應該將其完全屏蔽，而Twitter則已經完全屏蔽。
Twitter發言人通過電子郵件向媒體回應稱，“我們嚴格禁止將Twitter數據和api用于監控目的，包括進行背景調查。當我們意識到Predictim的服務時，我們進行了調查，并撤銷了他們對Twitter公共api的訪問。”
Predictim通過過濾包含“毒品”、“暴力”等關鍵詞或相關話題的發帖作為主要的評估維度，但作為一家今年6月份才成立的創業公司，通過并未被認可、也不可證偽的單一算法就決定一個人的就業，批評人士表示不可信任。
雖然Predictim也有人工復檢的機制，被標記為有問題的帖子會被手動查看，以防止出現假陰性，但是初創公司的屬性和AI現階段的局限性都讓其無法走出輿論的旋渦。
雖然不靠譜，但是AI的想象空間由此大開
Predictim的發展雖然坎坷，但是讓AI評估人類這件事本身必將成為趨勢。
首先，AI在企業招聘、人力資源管理過程中已經開始發揮作用。
除了招聘軟件自動篩選簡歷為HR釋放了不少精力，IBM公司還用AI判定員工績效。據IBM人力資源部統計，與人類的評估結果對比來看，Watson的準確率達到了96%，在HR可以接受的范圍內，因此已經開始試用了。
國內也已經出現了仟尋MoSeeker、iPin等入局AI招聘的創企，甚至部分企業在面試過程中加入了AI評定環節。
目前在招聘環節使用AI還有一定局限，即便是HR本人面試也難以在短短一面之緣下完整地了解求職者，不過未來“AI驗人”有著巨大的想象空間。
試想，此前多次在網約車平臺爆出的刑事案件中，犯罪分子因為網貸逾期而產生反社會心里、走上犯罪道路，半年向57個網貸平臺申請過資金，這樣完全在線上的行為竟然沒有被提前感知。
另有例如，某網貸平臺在放款環節需要用戶填寫擔保聯系人，但卻不核實該聯系人與用戶的社會關系，在逾期后卻電話聯系該聯系人催款，簡直讓人無法理解其邏輯。
如果形成了以每一個人實名用戶為中心的數據平臺，AI的作用就能真正惠及大眾。當AI檢測到用戶頻繁的社交平臺不良言論及時干預，扶正的就是一個本可以健康陽光成長的網民;當AI檢測到用戶收入水平偏低卻頻繁在二手平臺出售電子產品及時干預，預防的就是一個潛在的犯罪分子;當AI檢測到用戶出現頻繁網貸行為的失信傾向并及時干預，挽救的就是一個活生生的生命。
我們反對片面地評判他人，無論是人還是AI，但我們期待未來AI可以做得更好。
【來源：擴黑科技】
