Facebook正在推出一種新的復仇色情檢測工具，利用AI來追蹤未經同意分享的親密照片。該公司聲稱，機器學習可以幫助它在用戶舉報之前檢測近乎裸體的圖像和視頻。然后由人工管理員審查標記的內容，如果違反了社區標準，就將其刪除。該公司表示，分享復仇色情內容會導致Facebook封殺其來源的賬號，不過如果出現不正確的刪除，可以上訴。
這些工具將同時在Facebook和Instagram上推出。它們還包括為受害者提供的資源——比如當地支持團體的聯系信息，以及如何報告內容的指南——在Facebook的安全中心。這些工具是用戶反饋的結果，包括與來自英國、肯尼亞和丹麥的受害者、倡導者和學者的討論。Facebook表示，它還利用美國、巴基斯坦、巴西和韓國的非營利組織，幫助為受害者創建與文化和當地相關的資源。
Facebook在一篇博客文章中表示：我們創建了上傳圖片的副本，以防止將來共享。“在未來幾個月將擴大這一試點，讓更多的人在緊急情況下可以從這一選擇中受益，”
Facebook全球安全政策項目經理Karuna Nain和產品政策研究主管Radha Iyengar在一篇博客中寫道：“我們的研究表明，我們可以改進我們的報告工具，以確保它們更方便使用，不會讓那些嘗試使用的人感到沮喪。”
圖文出自：engadget
原文鏈接：https://www.engadget.com/2019/03/15/facebook-ai-revenge-porn/
