AI技術(shù)的發(fā)展，給我們的生活帶來很多便利，然而在近期發(fā)生的詐騙案中，犯罪團(tuán)伙也利用上了AI技術(shù)，令人真假難辨。

在湖北黃石，一名老人急匆匆到派出所報(bào)案，說她接了孫子的電話后就被騙了兩萬元，但她可以確定，電話那頭分明就是她孫子的聲音，怎么就被騙了呢？

接了“孫子”來電

卻被騙兩萬元

劉女士今年70多歲了，她的孫子在本地的一所學(xué)校上初中。今年4月28日下午，她和老伴突然接到孫子打來的電話。

被害人 劉女士：我孫子說他在外面超市里買東西時(shí)，把別人一推，頭被打破了。那個(gè)孩子在醫(yī)院里面，孫子已經(jīng)在派出所。對(duì)方要求私了，給2萬塊錢。

接到電話后，老兩口非常著急。由于當(dāng)時(shí)家里的錢不夠，劉女士趕緊給親朋好友打電話籌錢。不一會(huì)兒，家里的座機(jī)電話又響了。

被害人 劉女士：這個(gè)時(shí)候來電話了，孫子在電話那頭哭得不行了，哭得很傷心。他說奶奶來救救我，我知道我錯(cuò)了，我以后再也不會(huì)犯錯(cuò)了。這個(gè)事情別跟媽媽講，講了我就跳樓。我安慰他，我說別急，人人會(huì)犯錯(cuò)，奶奶不怪你。

叮囑老人

千萬不能告訴家長

聽到電話那頭孫子的哭聲，老兩口更加著急了，趕忙東拼西湊了2萬塊錢。由于孫子說千萬不能將這件事告訴媽媽，老人就決定自己去派出所給孫子送錢。但是，當(dāng)她詢問孫子在哪個(gè)派出所時(shí)，對(duì)方突然掛掉了電話。

老兩口不知道孫子在哪個(gè)派出所，也不敢聯(lián)系孩子的父母和學(xué)校，就在他們手足無措的時(shí)候，電話鈴又響了。

被害人 劉女士：這個(gè)時(shí)候電話鈴又響了，他說你不用來，我同學(xué)爸爸來拿錢。我說來拿錢可以，我就把爺爺電話告訴你，來的時(shí)候找不到我就打這個(gè)電話，我接到這個(gè)電話就給錢。

在電話里孫子告訴了老兩口一個(gè)地址，說一會(huì)兒同學(xué)的爸爸會(huì)去那里取錢，只說了這一句就掛斷了電話。老兩口聽后趕緊拿著現(xiàn)金出了門，按照指示來到孫子說的地點(diǎn)，等待取錢的人。

公共場所的視頻畫面顯示，當(dāng)天下午5點(diǎn)左右，一名戴著帽子和口罩的男子出現(xiàn)在老兩口附近。隨后，他掏出手機(jī)撥打電話，并將電話交給了劉女士。

被害人 劉女士：電話遞給我叫我接，對(duì)方說奶奶給吧，是我孫子的聲音，這個(gè)時(shí)候我毫不猶豫地把錢給他了。

始終未告訴家人

直到孫子回家才察覺被騙

視頻畫面顯示，男子拿到錢以后，迅速離開了現(xiàn)場。對(duì)方把錢取走后，老兩口覺得孫子遇到的麻煩已經(jīng)解決，放心回了家。接下來的幾天，劉女士守口如瓶，沒有向任何人提起這件事。直到孫子回到家，老人問起當(dāng)時(shí)的情況，得到的回復(fù)卻令人大吃一驚。

被害人 劉女士：我就問我孫子，同學(xué)的頭打破了現(xiàn)在怎么樣？他說沒有這個(gè)事。我這個(gè)時(shí)候就知道自己被騙了，就報(bào)警了。

接到老人的報(bào)警后，警方立即展開調(diào)查。他們發(fā)現(xiàn)近段時(shí)間在當(dāng)?shù)赜眠@種方式實(shí)施詐騙的案件，不僅有這一起。

黃石市公安局黃石港區(qū)分局刑偵大隊(duì)大隊(duì)長 徐海雄：短短的幾天內(nèi)，公安機(jī)關(guān)就接到了兩起報(bào)案。報(bào)案的內(nèi)容都是冒充孫子詐騙老年人的案件，而且犯罪嫌疑人要求上門取錢。公安機(jī)關(guān)通過調(diào)取視頻畫面，發(fā)現(xiàn)是同一人上門取錢，所以公安機(jī)關(guān)將這兩起案件并案處理。

民警調(diào)查發(fā)現(xiàn)，這兩起案件里的被害人都是老年人，而且詐騙電話都是通過家里的座機(jī)打進(jìn)來的。

黃石市公安局黃石港區(qū)分局刑偵大隊(duì)大隊(duì)長 徐海雄：老年人在家通過座機(jī)接聽電話，一般情況下不會(huì)注意對(duì)方電話的來電顯示。對(duì)電話的內(nèi)容核實(shí)帶來了困難，給犯罪分子帶來了可乘之機(jī)。

網(wǎng)上找到高薪兼職

上門取錢并轉(zhuǎn)移資金

民警根據(jù)視頻線索，成功鎖定了在兩起案件中負(fù)責(zé)上門取錢的犯罪嫌疑人張某，并將其抓獲。據(jù)張某交代，他是按照上家的指示前往現(xiàn)場取錢并轉(zhuǎn)移資金。

黃石市公安局黃石港區(qū)分局刑偵大隊(duì)民警 蘭迪：嫌疑人到案之后，經(jīng)過審訊我們了解到，他是在網(wǎng)上收到了犯罪團(tuán)伙發(fā)送的兼職信息，可以日賺千元。工作內(nèi)容也很簡單，就是上門收取詐騙資金，然后放到指定的地點(diǎn)，再由詐騙團(tuán)伙安排人員把錢取走。目前此案我們正在進(jìn)一步偵辦當(dāng)中。

兩位被害人都表示，電話里騙子的聲音都和自己親屬的聲音極為相似。那么，犯罪嫌疑人是怎么做到偽裝得這么像的呢？被害人劉女士提到了這樣一個(gè)細(xì)節(jié)。

被害人 劉女士：孫子曾經(jīng)提供這樣一個(gè)信息，曾經(jīng)有幾次打進(jìn)電話是我接的，但是我問找誰沒人應(yīng)。

逐步收集聲音信息

再精準(zhǔn)施騙

根據(jù)被害人提供的線索，民警分析認(rèn)為，犯罪嫌疑人可能是通過多次撥打劉女士家的座機(jī)電話，逐步收集了她孫子的聲音信息，進(jìn)而利用這些信息實(shí)施了詐騙犯罪。

黃石市公安局黃石港區(qū)分局刑偵大隊(duì)民警 蘭迪：在接聽電話的過程當(dāng)中，騙子能夠捕捉到孫子聲音的特點(diǎn)，進(jìn)而利用這個(gè)聲音進(jìn)行聲音的克隆。通過聲音的合成技術(shù)是完全可以做得到的。

民警調(diào)查發(fā)現(xiàn)，現(xiàn)在很多軟件都具備聲音模擬的功能，能夠高度還原甚至偽造他人的語音。而在這幾起案件中，被騙的都是家里的老人，聽到孫子求助的聲音后一下就慌了神，也顧不上分辨對(duì)方是真是假。

警方提示，老人再接到類似這樣的電話，一定要多聊幾句，如果對(duì)方不容分說就掛斷電話，很可能就是用AI軟件提前錄好的聲音。

“AI換臉”激活電話卡

警方演示步驟

除了利用AI模擬聲音，犯罪團(tuán)伙還盯上了“AI換臉”。前不久，湖北襄陽警方就查獲了一起利用“AI換臉”技術(shù)激活電話卡，再倒賣給詐騙團(tuán)伙的案件。根據(jù)相關(guān)規(guī)定，電話卡激活聯(lián)網(wǎng)是需要實(shí)名認(rèn)證和人臉識(shí)別的，那么，犯罪團(tuán)伙是如何做到的呢？

2024年5月，襄陽警方獲取了一條線索，轄區(qū)內(nèi)有人通過網(wǎng)絡(luò)大量購買電話卡。

南漳縣公安局網(wǎng)安大隊(duì)大隊(duì)長 葉文俊：發(fā)現(xiàn)本地一名可疑人員，伙同外地三名可疑人員在網(wǎng)上大量購買電話卡。我們隨即對(duì)他們?yōu)槭裁促徺I電話卡，怎么購買的電話卡和購買電話卡的去向開展綜合調(diào)查。

根據(jù)相關(guān)法律規(guī)定，購買電話卡需要進(jìn)行實(shí)名制登記。那么，嫌疑人是如何購得這些電話卡的呢？即使他們成功購買了電話卡，還需通過用戶的人臉識(shí)別來激活使用。對(duì)于這些步驟，嫌疑人又是如何逐一完成的呢？

警方調(diào)查并成功鎖定了這一犯罪團(tuán)伙，將團(tuán)伙成員悉數(shù)抓獲歸案。

南漳縣公安局網(wǎng)安大隊(duì)副大隊(duì)長 吳長融：我們抓獲這個(gè)團(tuán)伙成員后，扣押手機(jī)卡200余張，現(xiàn)金10萬余元。同時(shí)我們發(fā)現(xiàn)該團(tuán)伙非法掌握的公民個(gè)人信息1000余條。

這個(gè)團(tuán)伙由7個(gè)人組成，他們分布在全國各地，一般通過網(wǎng)絡(luò)進(jìn)行聯(lián)系。他們分工明確；有負(fù)責(zé)收集公民個(gè)人信息的，有負(fù)責(zé)購買手機(jī)電話卡的，有負(fù)責(zé)技術(shù)的，有負(fù)責(zé)銷售手機(jī)電話卡的。

非法獲取公民個(gè)人信息

其中包括照片

警方調(diào)查發(fā)現(xiàn)，這一犯罪團(tuán)伙非法獲取了大量公民個(gè)人信息，并利用這些信息購買了大量電話卡。然而，電話卡只有通過人臉識(shí)別才能激活使用。那么，嫌疑人又是如何完成人臉識(shí)別這個(gè)步驟的呢？

原來，嫌疑人所掌握的個(gè)人信息不僅包括姓名、身份證號(hào)等，還包含個(gè)人照片。他們正是利用這些照片制作成人臉識(shí)別所需的動(dòng)態(tài)視頻，從而成功通過系統(tǒng)驗(yàn)證，完成電話卡激活。

南漳縣公安局網(wǎng)安大隊(duì)副大隊(duì)長 吳長融：這些手機(jī)卡被他們寄給了一名掌握換臉技術(shù)的團(tuán)伙成員。這個(gè)人在收到手機(jī)電話卡后，會(huì)利用換臉軟件將公民的個(gè)人信息制作成換臉視頻。

用照片合成動(dòng)態(tài)視頻

完成認(rèn)證

警方調(diào)查發(fā)現(xiàn)，嫌疑人在進(jìn)行電話卡的人臉識(shí)別激活步驟時(shí)，通過播放預(yù)先制作好的人臉合成動(dòng)態(tài)視頻，使得注冊系統(tǒng)自動(dòng)完成了識(shí)別和認(rèn)證過程，從而逐一激活了所有電話卡。

犯罪團(tuán)伙將這些電話卡激活后，以每張200元左右的價(jià)格賣給電信網(wǎng)絡(luò)詐騙團(tuán)伙。

南漳縣公安局網(wǎng)安大隊(duì)副大隊(duì)長 吳長融：這種被非法激活的手機(jī)電話卡，大量流入詐騙團(tuán)伙手中。詐騙團(tuán)伙利用這些手機(jī)電話卡在全國作案50余起，涉案金額超過500萬元。山西省太原市一70歲老人，被詐騙團(tuán)伙利用這種手機(jī)電話卡詐騙了60余萬元。

2025年6月10日，本案的三名主犯因犯幫助信息網(wǎng)絡(luò)犯罪活動(dòng)罪，已被南漳縣人民法院一審分別判處有期徒刑一年八個(gè)月至一年，并處罰金。

“線上激活”還足夠安全嗎

如何防范風(fēng)險(xiǎn)

據(jù)記者了解，這起案件中，犯罪嫌疑人使用的都是同一個(gè)運(yùn)營商的電話卡。他們也是看到了這家運(yùn)營商在實(shí)名認(rèn)證中的技術(shù)漏洞，所以頻繁作案。警方已經(jīng)聯(lián)系這家運(yùn)營商，督促他們及時(shí)更新系統(tǒng)。那么，其他運(yùn)營商也會(huì)存在這樣的問題嗎？現(xiàn)有的電話卡激活程序還安全嗎？我們又該如何有效防范這些風(fēng)險(xiǎn)呢？帶著這些問題，記者采訪到了法學(xué)專家、行業(yè)內(nèi)的專家以及從業(yè)者，去聽一聽他們的專業(yè)分析和見解。

為了進(jìn)一步了解新電話卡的激活流程，記者分別致電了幾大運(yùn)營商進(jìn)行咨詢。

運(yùn)營商客服人員：本人攜帶您的實(shí)名認(rèn)證的身份證，到當(dāng)?shù)貭I業(yè)廳開卡。比如您在App上自己號(hào)選套餐，我們就安排我們的派送員給您派送到家，派送的時(shí)候需要機(jī)主本人在場，身份證原件在場，當(dāng)場給您激活。服務(wù)號(hào)，那里面有一個(gè)專區(qū)服務(wù)，有一個(gè)新號(hào)碼激活，也可以申請激活一下。

根據(jù)運(yùn)營商提供的信息，電話卡激活方式主要分為線上和線下兩種。如果選擇線下激活，用戶可以在營業(yè)廳由工作人員協(xié)助完成激活流程，或者在快遞員派送時(shí)現(xiàn)場協(xié)助激活。無論哪種方式，都要求用戶本人攜帶身份證件并親自到場，確保了整個(gè)流程的規(guī)范性和安全性。

如果選擇線上激活，可以通過運(yùn)營商的App或微信公眾號(hào)。記者打開運(yùn)營商App進(jìn)行查看時(shí)發(fā)現(xiàn)，用戶只需上傳身份證信息并完成生物識(shí)別，即可完成電話卡的激活。

然而，隨著AI換臉、偽造身份等技術(shù)的不斷升級(jí)，僅依賴“身份證+人臉識(shí)別”的線上激活方式，是否還足夠安全呢？

對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心主任 許可：我們做網(wǎng)絡(luò)安全的內(nèi)行人都會(huì)說一句話，沒有任何一個(gè)網(wǎng)絡(luò)是永遠(yuǎn)安全的。人臉識(shí)別技術(shù)發(fā)展可能只有幾年的時(shí)間，在這幾年過程中，有一些技術(shù)仍然在不斷更新和迭代，每次更新和迭代都可能會(huì)帶來新的漏洞，所以這個(gè)漏洞我們覺得是很難避免的。

法學(xué)專家指出，人臉識(shí)別認(rèn)證的初衷是為了提升身份驗(yàn)證環(huán)節(jié)的安全性。然而，隨著技術(shù)的進(jìn)步，不法分子攻擊的技術(shù)手段也在不斷提升。這也是新技術(shù)應(yīng)用過程中固有的挑戰(zhàn)。

對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心主任 許可：但凡是新技術(shù)新應(yīng)用，它永遠(yuǎn)存在著我們之前沒有發(fā)現(xiàn)的新問題，但是我不能因?yàn)樗嬖谶@種新問題，就抹殺了它自身技術(shù)的進(jìn)步性。在網(wǎng)絡(luò)安全的斗爭中，維護(hù)網(wǎng)絡(luò)安全的一方和去打破網(wǎng)絡(luò)安全的一方，永遠(yuǎn)是魔高一尺，道高一丈，在此消彼長中，推動(dòng)了我們網(wǎng)絡(luò)安全的水位。

然而，法學(xué)專家也提到，盡管任何技術(shù)都可能存在一定的漏洞，但根據(jù)相關(guān)法律規(guī)定，運(yùn)營商作為服務(wù)提供方，仍然負(fù)有保障用戶信息安全的法定義務(wù)。

對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心主任 許可：運(yùn)營商一直是網(wǎng)絡(luò)安全風(fēng)險(xiǎn)防控的第一線，因?yàn)槲覀冎阅軌蜻M(jìn)入到網(wǎng)絡(luò)空間，很多時(shí)候靠的就是運(yùn)營商提供的入網(wǎng)服務(wù)。我國法律已經(jīng)有非常明確的規(guī)定，要求運(yùn)營商應(yīng)當(dāng)提高技術(shù)防護(hù)的水平和能力，對(duì)于這種繞開人臉識(shí)別的攻擊應(yīng)當(dāng)做好防范。

《中華人民共和國反電信網(wǎng)絡(luò)詐騙法》對(duì)電信業(yè)務(wù)經(jīng)營者的責(zé)任作出了明確規(guī)定。

第九條規(guī)定，電信業(yè)務(wù)經(jīng)營者應(yīng)當(dāng)依法全面落實(shí)電話用戶真實(shí)身份信息登記制度。

第十四條規(guī)定，電信業(yè)務(wù)經(jīng)營者應(yīng)當(dāng)采取技術(shù)措施，及時(shí)識(shí)別、阻斷用于實(shí)施電信網(wǎng)絡(luò)詐騙等違法犯罪的設(shè)備、軟件接入網(wǎng)絡(luò)，并向公安機(jī)關(guān)和相關(guān)行業(yè)主管部門報(bào)告。

法學(xué)專家指出，如果電信業(yè)務(wù)經(jīng)營者未能依法履行相關(guān)義務(wù)，造成嚴(yán)重后果，將依法承擔(dān)相應(yīng)的法律責(zé)任。

對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心主任 許可：如果運(yùn)營商沒有落實(shí)好實(shí)名制的認(rèn)證責(zé)任，可能會(huì)面臨著從5萬到500萬的罰款。在非常極端情況下可能會(huì)承擔(dān)著更多的責(zé)任，包括相關(guān)的負(fù)責(zé)人也可能會(huì)受到相應(yīng)的處罰，包括暫停營業(yè)，或者是不允許他再從事相關(guān)業(yè)務(wù)的處罰。

那么，作為信息通信安全的第一道防線，運(yùn)營商應(yīng)該如何有效堵住技術(shù)漏洞，履行好風(fēng)險(xiǎn)防控的責(zé)任呢？

對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心主任 許可：以夷制夷，由技術(shù)帶來的風(fēng)險(xiǎn)需要由技術(shù)本身的發(fā)展去解決。在實(shí)踐中，一些運(yùn)營商已經(jīng)通過人工智能的技術(shù)研發(fā)出一些以人工智能去防范人工智能造假的產(chǎn)品。通過這種以AI治理AI的方式，去解決我們現(xiàn)在面臨的人臉識(shí)別攻擊的問題。

防偽鑒別程序日漸成熟

準(zhǔn)確率超95%

為此，記者專門采訪了AI安全領(lǐng)域的資深從業(yè)者。據(jù)介紹，當(dāng)前行業(yè)內(nèi)多家領(lǐng)先企業(yè)正積極投入防偽技術(shù)的研發(fā)中，在識(shí)別偽造圖像和視頻方面的準(zhǔn)確率已經(jīng)超過95%，大大提升了現(xiàn)有系統(tǒng)的安全性。

AI安全領(lǐng)域從業(yè)者 朱萌：現(xiàn)在業(yè)內(nèi)其實(shí)已經(jīng)有這樣的技術(shù)研發(fā)，已經(jīng)嘗試去集成一些用熱力圖的方法去鑒別對(duì)面的AI到底是真的一個(gè)人在講話，還是由深度換臉形成的一個(gè)人。實(shí)際上業(yè)內(nèi)最頂尖技術(shù)的檢測率或者檢出率是超過95%的，它已經(jīng)能夠在實(shí)戰(zhàn)中應(yīng)對(duì)AI風(fēng)險(xiǎn)了。

朱萌介紹，有些偽造的圖片和視頻，人眼是難以識(shí)別的，但通過訓(xùn)練AI，可以讓AI來完成這一任務(wù)。

不斷提升技術(shù)手段

“用AI對(duì)抗AI”

實(shí)驗(yàn)人員將一段真實(shí)視頻與另一段經(jīng)過AI換臉處理的視頻輸入到檢測系統(tǒng)中，系統(tǒng)可以準(zhǔn)確識(shí)別出哪一段是偽造的。

中國電子技術(shù)標(biāo)準(zhǔn)化研究院網(wǎng)安中心測評(píng)實(shí)驗(yàn)室副主任何延哲介紹，當(dāng)前，一些應(yīng)用人臉識(shí)別技術(shù)的單位已經(jīng)采用了類似的防偽鑒別程序，提升人臉識(shí)別系統(tǒng)的可靠性。

中國電子技術(shù)標(biāo)準(zhǔn)化研究院 網(wǎng)絡(luò)安全研究中心測評(píng)實(shí)驗(yàn)室副主任 何延哲：比如某款最新出臺(tái)的智能手機(jī)，它在視頻通話的時(shí)候就會(huì)有一個(gè)功能，比如是否識(shí)別對(duì)面的人臉是偽造的，其實(shí)已經(jīng)把這樣的技術(shù)應(yīng)用上了。我們現(xiàn)在AI的發(fā)展，生成式人工智能的發(fā)展其實(shí)也比較方便我們能夠利用AI去對(duì)抗AI，我們只要保證我們自己相應(yīng)AI的技術(shù)能夠不斷地創(chuàng)新發(fā)展，我們就可以有效地對(duì)抗那些利用AI作惡的人。

保護(hù)個(gè)人信息仍是重點(diǎn)

安全措施應(yīng)更嚴(yán)格

何延哲認(rèn)為，除了不斷提升技術(shù)手段和增強(qiáng)防偽鑒別能力外，個(gè)人信息保護(hù)依然是非常重要的環(huán)節(jié)。一方面，普通百姓應(yīng)提高自我防范意識(shí)，避免隨意泄露個(gè)人信息；另一方面，存儲(chǔ)這些信息的單位也應(yīng)采取更為嚴(yán)格的安全措施，特別是實(shí)施分離存儲(chǔ)策略。

今年6月1日，《人臉識(shí)別技術(shù)應(yīng)用安全管理辦法》正式實(shí)施。該《辦法》不僅明確要求人臉識(shí)別技術(shù)的應(yīng)用必須遵循合法、正當(dāng)、必要的原則，并實(shí)施嚴(yán)格保護(hù)措施。還鼓勵(lì)、支持研究開發(fā)和推廣應(yīng)用安全、方便的電子身份認(rèn)證技術(shù)，推進(jìn)網(wǎng)絡(luò)身份認(rèn)證的公共服務(wù)建設(shè)。

(央視新聞客戶端 總臺(tái)央視記者 張李彬 王思思 劉強(qiáng) 李想)