來源標題：打敗AI謠言亟待“魔法”升級

隨著AIGC(利用人工智能技術(shù)來生成各種類型的內(nèi)容)創(chuàng)作的快速發(fā)展與迭代，網(wǎng)絡(luò)空間變得更加豐富多元。比如，用各種模版一鍵上傳照片，就可以生成各種有趣的小視頻;看AI小貓小狗做飯，也成了近段時間的熱議話題。但與此同時，AI生成的各種低質(zhì)內(nèi)容也鋪天蓋地而來，給廣大用戶造成信息干擾。

生成式AI降低了標題黨、“擦邊”內(nèi)容的制作門檻，但技術(shù)的加持讓AI謠言更具“說服力”、偽裝性和強傳播性，使得傳統(tǒng)辟謠手段難以招架。可以說，部分生成式AI正在重塑謠言的傳播生態(tài)，并嚴重擾亂網(wǎng)絡(luò)環(huán)境。

去年4月，在公安部公布的10起打擊整治網(wǎng)絡(luò)謠言違法犯罪典型案例中，就有4起涉及使用AI造謠。據(jù)不完全統(tǒng)計，2024年搜索熱度較高的50個國內(nèi)AI風險相關(guān)輿情案例中，超1/5與AI造謠有關(guān)。

當AI學會“一本正經(jīng)地胡說八道”后，我們該怎么辦?一方面，全鏈條的有效治理迫在眉睫，從企業(yè)平臺、監(jiān)管部門、技術(shù)提供者、用戶等多方面發(fā)力，方能最大程度擠壓AI謠言的生存空間;另一方面，作為AI技術(shù)應(yīng)用和海量信息的載體，平臺方的治理效能顯得尤為重要。不少專家建議把關(guān)注重點放到源頭治理上來，特別是同樣利用AI，在謠言內(nèi)容識別、路徑追蹤和自動化辟謠等方面“用魔法打敗魔法”。

例如，今日頭條在鼓勵用戶使用AI提效的基礎(chǔ)上，也迅速升級、迭代AI模型的識別能力，收嚴AI內(nèi)容的審核力度。識別到創(chuàng)作者使用AI輔助創(chuàng)作時，平臺會打上標簽，以提醒用戶注意甄別。除此之外，平臺還增加了后臺的AI治理——持續(xù)迭代低質(zhì)內(nèi)容AI模型，命中模型的內(nèi)容會被自動處置，從而減少或禁止對外傳播。據(jù)了解，對于AI謠言治理，今日頭條已構(gòu)建起涵蓋內(nèi)容治理制度、內(nèi)容審核、辟謠教育、內(nèi)外聯(lián)動的四位一體“防御工事”，取得了較為顯著的效果。2024年攔截不實信息超500萬條，處置低質(zhì)AI內(nèi)容93萬條。

讓“AI治理”跑贏“AI謠言”，我們期待各平臺積極踐行社會責任，不斷升級“魔法”。政府機構(gòu)、媒體、公眾的多方協(xié)同也不可缺位，畢竟，網(wǎng)絡(luò)謠言治理需多方握指成拳、形成合力。