谷歌有一個雄心勃勃的計劃，那就是利用人工智能刪除侮辱性評論，防御網絡暴民。雖然目前的技術無法應對這樣的挑戰，但它有助于改善那些已經標準化的互聯網社區。

【資料圖】

人類已經摧毀了互聯網。網絡欺凌、騷擾言論、社會羞辱和惡心言論在推特和紅迪網等網站上像瘟疫一樣傳播，尤其是當你碰巧得到了錯誤的關注時。

提供在線服務的公司正被指控無視騷擾言論和壓制言論自由。然而，谷歌現在認為，人工智能可以用來減少這種數字評論造成的悲劇。該公司的技術孵化器Jigsaw(原名谷歌智庫Google Ideas)正計劃通過自動化程序“對話AI”識別和刪除數字騷擾信息。

正如Jigsaw負責人賈里德科恩(Jared Cohen)所說，“我想用我們擁有的最好的技術來應對那些戰爭哨所和不公平的戰術(這些不公平的手段讓那些敵對的聲音占據了不成比例的比例)，并盡最大努力提供一個公平的環境”。

谷歌此舉顯示了它的大膽，這個計劃與Jigsaw之前的工作不同。Jigsaw此前的工作包括推出Project Shield(免費開放的DDoS攔截服務)，旨在保護新聞網站和促進言論自由的網站免受拒絕服務攻擊。Jigsaw的另一個成就，密碼警報，是一個Chrome插件，旨在確保用戶的密碼免受網絡釣魚攻擊。

這些曾經是主要的技術挑戰，但戰爭帖子和網絡暴民的話題已經成為一個社會學問題。

對話AI是谷歌“月球拍攝”項目中最成功的項目之一，也是“谷歌大腦”的一個分支。一方面，Conversation AI通過大規模的神經網絡給機器學習領域帶來了革命性的發展，同時也讓谷歌擁有了更多的優勢，比如在圖像識別領域比人類更加熟練。但是對話人工智能對網上的辱罵言論無能為力。

雖然Jigsaw的目標是“對抗網絡暴民的崛起”，但目前程序本身過于溫和，所以距離Jigsaw成為合格項目還有很長的路要走。對話AI將主要用于簡化社區評論流程(這個流程目前主要是人類完成的)，所以即使不能根除那些不良的網絡行為，也能為一些網站積累更多更好的評論。

暗示性言語的檢測

幾個月后，Jigsaw將率先將Conversation AI應用到《紐約時報》網站，幫助公司管理其在線評論。目前，《紐約時報》的所有者幾乎必須審查他們網站上發布的每一條評論。

現在，Conversation AI正在閱讀1800萬條評論，并學習如何檢測被拒絕的評論，包括沒有實質性內容的評論、跑題的評論、垃圾郵件、煽動性和攻擊性的評論、包含淫穢信息的評論等。

《紐約時報》的目標不是盡量減少其評論中的辱罵性言論，因為這個問題現在已經得到控制；相反，《紐約時報》希望減少人工版主的工作量。“我們預計不會有全自動系統。”《紐約時報》社區團隊項目經理Erica Greene說。

《紐約時報》社區編輯Bassey Etim估計，大約有50% ~ 80%的評論可以自動評論，從而使手動版主能夠將更多精力投入到其他部分。

與實時免費網站Twitter和Reddit不同，《紐約時報》網站面臨其他問題。考慮到目前機器學習的局限性，會話人工智能無法有效對抗網絡空間中存在的辱罵言論。

盡管機器學習取得了輝煌的成就，但它仍然沒有破解人類語言。

辱罵性言論檢測中的語言難題是語言的語境。Conversation AI的評論分析并不適用于一個完整的討論過程，因為它只可以將單個的評論和學習模式中的評論來進行匹配，從而識別哪些是好評論或者壞評論。

例如，如果評論傾向于包含常用詞匯、短語和其他特征時，這些評論就會被認為是可接受的。但據Greene介紹，谷歌的系統經常會將關于唐納德·特朗普（Donald Trump）的文章中的評論視為辱罵性的言論，因為他們會引用特朗普的一些言論，而這些言論如果出現在讀者的評論中通常都會被屏蔽。對于這些類型的文章，《紐約時報》將會選擇關閉自動審核機制。

因此，期望Conversation AI在開放的網站（例如Twitter）中有良好的表現，幾乎是癡人說夢。

Conversation AI如何檢測那些發送給猶太記者的辱罵性言論中關于大屠殺的暗示？對這些辱罵性言論的檢測是建立在機器學習算法能夠檢測的歷史知識和文化背景基礎之上的，而這些只有在機器學習算法接受過類似的訓練之后才能實現。

即便如此，如果有人發送“如果特朗普贏了，我就會買這個”并附上相同的圖片，Conversation AI又如何能夠將其與辱罵性言論進行區分？

事實上，這個過程所需要的語義和實踐知識，甚至已經超出了目前機器學習所希望達到的目標。

因此，毫無疑問，專門的引戰帖將會找到一種新的方法來發布辱罵性言論，而這種方式可以避開類似于Conversation AI這樣的系統。如果目標是阻止評論者用侮辱性稱呼例如“同志”等稱呼對方的話，那么機器學習通過屏蔽一些評論可以很好地實現這一點。但是機器學習無法識別隱喻，例如說某人是“彎”的來隱喻某人不正常。

換句話說，對于那些已經非常規范的社區來說，Conversation AI將會使得審核任務完成得更有效率。

但如果想要根除那些我們聽到的最糟糕的辱罵性言論（這些言論通常出現在那些審核標準最低的網站上)，Conversation AI則顯得無能為力。

除非改變Twitter和Reddit這些平臺的性質，否則想要管理存在于這些網站的辱罵性言論幾乎不可能。

鄭重聲明：本文版權歸原作者所有，轉載文章僅為傳播更多信息之目的，如作者信息標記有誤，請第一時候聯系我們修改或刪除，多謝。