東湖評論：筑牢“AI換臉”技術安全的防護墻

2023-05-12 12:29:53來源：荊楚網 ?（湖北日報網）

(資料圖片)

近來，“AI換臉”技術又掀起一波熱潮，“只需上傳照片，輕松生成換臉視頻，隨心所欲體驗百變造型”，不少“AI換臉軟件的簡介上這樣介紹，這種爆火的新玩法吸引了大批網友嘗試。

“AI換臉”技術通過深度合成算法處理，對圖片或者視頻中的目標人臉進行置換，便可“以假亂真”，滿足了網絡受眾的獵奇心理和社交需求，為影視、教育、娛樂等領域的發展提供了技術上的支持。不論是各色各樣的換臉變裝，還是影視劇中的技術修復，人們真真切切地感受到了科技進步帶來的驚喜與樂趣。

“AI換臉”技術帶給人新鮮感的同時，風險也日益顯現，非法濫用導致的侵犯隱私、危害數據安全、違法犯罪等問題層出不窮，一個個鮮活真實的案例就在我們身邊。隨意將明星替換到不雅視頻中丑化傳播；“AI黃謠”事件鬧得沸沸揚揚，女子在乘坐地鐵時被不法之人利用AI一鍵脫衣；犯罪團伙利用AI技術，制作變聲換臉視頻，誘騙老人和小孩。從網民傳播照片到軟件程序開發平臺提供“換臉腳本和詳細教程”，再到灰色產業鏈條進行照片加工服務，逐步打開了“AI換臉”的“潘多拉的魔盒”。

“AI換臉”技術是數據智能化發展的產物，并沒有什么黑白好壞之分，但不法分子的貪婪與瘋狂卻是不可低估的。高科技不能淪為肆意侵權的幫兇，不能成為滿足他人欲望和非法牟利的工具，更不能成為引發社會信任危機的導火索。為“AI換臉”技術戴上“緊箍咒”、打造“鐵柵欄”，筑牢“AI換臉”技術安全的防護墻還需要法律和技術雙管齊下。

目前，針對“AI換臉”亂象，國家互聯網信息辦公室、工業和信息化部、公安部聯合發布了《互聯網信息服務深度合成管理規定》，重點強調深度合成技術涉及的信息安全主體責任，給“AI換臉”劃定應用“紅線”。國家互聯網信息辦公室起草了《生成式人工智能服務管理辦法（征求意見稿）》，明確合成人工智能技術服務的規范、監督和管理等內容，這些政策法規和監管體系不斷完善，使從業者、使用者有法可依、違法必究。但“AI換臉”技術也會隨著發展日臻成熟，因此對于深度合成技術治理路徑還需進一步探索，對數據確權、行業倫理、技術安全等方面作出更系統的規定，只有把法律的防護“盔甲”打造的無比堅硬，才能時刻抵御住“AI換臉”這把雙刃劍。

以技術手段克服技術困境，除了網絡服務平臺對用戶信息審核及限定傳播范圍外，相關行業和監管部門還需不斷加強技術更迭，細化人工智能算法的安全評估體系，研發出相應的“反換臉”技術，能夠檢測、鑒定、溯源深度合成的視頻和圖片，為法律的保護成效提供技術支撐，為可能到來的挑戰做好準備。

身處在人工智能時代的每一個人，應該提高對深度合成技術的辨別和防范意識以及自我素養，在安全享受技術的同時，共同維護清朗的網絡環境。只有多方發力，促進“AI技術”向上向善，才能讓科學技術真正地助推社會發展，便利人們生活。

稿源：荊楚網（湖北日報網）

作者：秦雪花（宜昌興山）

責編：王舒嫻

標簽：