生成圖像、合成語(yǔ)音、偽裝客服、偽造場(chǎng)景……

以假亂真的AI詐騙，如何防范？

上傳一張靜態(tài)照片，即可生成動(dòng)態(tài)視頻；只需幾秒語(yǔ)音，就能克隆聲音……這不是科幻電影，而是發(fā)生在身邊的真實(shí)事件，“AI換臉”正成為侵權(quán)違法的重災(zāi)區(qū)。

近期，為規(guī)范應(yīng)用人臉識(shí)別技術(shù)處理人臉信息活動(dòng)、保護(hù)個(gè)人信息權(quán)益，國(guó)家互聯(lián)網(wǎng)信息辦公室、公安部聯(lián)合公布《人臉識(shí)別技術(shù)應(yīng)用安全管理辦法》，對(duì)應(yīng)用人臉識(shí)別技術(shù)處理人臉信息的基本要求和處理規(guī)則、人臉識(shí)別技術(shù)應(yīng)用安全規(guī)范、監(jiān)督管理職責(zé)等作出了規(guī)定。辦法將于2025年6月1日起施行。

人臉識(shí)別技術(shù)應(yīng)用與人臉信息安全緊密相關(guān)。人臉識(shí)別具有唯一性、不可更改性、不可匿名性，一旦泄露，極易對(duì)個(gè)人的人身和財(cái)產(chǎn)安全造成危害，還可能威脅公共安全。

AI詐騙形式多樣

換臉、變聲、對(duì)口型

貴州省黔東南苗族侗族自治州凱里市公安局反詐中心負(fù)責(zé)人吳西福介紹，一家科技公司的負(fù)責(zé)人郭先生有一天接到好友打來的視頻電話，說自己正在外地投標(biāo)，需要幾百萬(wàn)元保證金，想用郭先生的公司賬戶走一下賬。不久后，好友說已經(jīng)把錢轉(zhuǎn)到郭先生的賬戶并截圖證明。郭先生覺得通過視頻能看到好友本人，便沒等收到轉(zhuǎn)賬成功的通知就給好友轉(zhuǎn)了錢。后來，郭先生遲遲沒收到轉(zhuǎn)款，聯(lián)系好友時(shí)才發(fā)現(xiàn)自己被騙。

寧夏回族自治區(qū)銀川市某公司部門經(jīng)理張先生接到“老板”視頻電話，對(duì)方稱因情況緊急，急需轉(zhuǎn)賬匯款。在視頻中確認(rèn)是“老板”后，張先生放下了戒心，十幾分鐘內(nèi)將20萬(wàn)元轉(zhuǎn)入指定賬戶。直到下午當(dāng)面匯報(bào)工作時(shí)，張先生才發(fā)現(xiàn)上當(dāng)受騙。

這些案件都是典型的AI詐騙?！澳阋詾樵诤团笥延H人視頻聊天，其實(shí)是騙子使用的‘AI換臉’技術(shù)，讓別人的嘴能夠‘對(duì)口型’?！睂幭幕刈遄灾螀^(qū)公安廳刑偵總隊(duì)副總隊(duì)長(zhǎng)、反詐中心負(fù)責(zé)人吳克剛介紹，如今，“AI換臉”技術(shù)不僅限于靜態(tài)照片的活化，還能在即時(shí)視頻通信中實(shí)時(shí)換臉。雖然需要采集大量不同角度的照片進(jìn)行模型訓(xùn)練，但一旦成功，便可以假亂真。過去，公民個(gè)人身份證號(hào)、手機(jī)號(hào)以及家人信息需要重點(diǎn)防范，現(xiàn)在，人臉、聲音、指紋等同樣要避免泄露。

新型AI詐騙主要有以下類型：語(yǔ)音合成詐騙，不法分子利用AI技術(shù)，合成受害人親友或熟人的聲音，讓受害人誤以為是親友或熟人需要幫助，進(jìn)而實(shí)施電話詐騙；圖像生成詐騙，不法分子通過AI技術(shù)，生成虛假的照片或視頻，制造出受害人親友緊急且合理的情景，從而獲取個(gè)人信息，騙取錢財(cái)；智能客服詐騙，不法分子利用AI技術(shù)，制作智能客服系統(tǒng)，通過語(yǔ)音或文字同受害人交流，誘騙受害人提供個(gè)人信息或進(jìn)行轉(zhuǎn)賬操作；AI情感詐騙，不法分子運(yùn)用AI訓(xùn)練面向網(wǎng)聊的大語(yǔ)言模型，通過偽造場(chǎng)景、聲音與受害人建立情感關(guān)系，進(jìn)而獲取個(gè)人信息。

吳西福介紹，共享屏幕等新型詐騙也要注意。不法分子以“提升信用卡額度”“航班延誤退費(fèi)”“贈(zèng)送禮品”等為借口，向個(gè)人發(fā)送短信或撥打電話，誘導(dǎo)受害人下載指定軟件，并開啟軟件的“共享屏幕”功能，就可以“實(shí)時(shí)監(jiān)控”受害人手機(jī)、電腦屏幕，同步獲取個(gè)人銀行賬戶、口令、驗(yàn)證碼等重要信息，從而盜取銀行卡資金。

AI詐騙危害廣泛

造成經(jīng)濟(jì)損失、心理創(chuàng)傷

相較于電信詐騙、網(wǎng)絡(luò)詐騙，新型AI詐騙的受害者身份更廣泛、多元，成功率更高，更難以追蹤。

警方梳理后發(fā)現(xiàn)，新型AI詐騙有以下危害：造成經(jīng)濟(jì)損失，新型AI詐騙具有針對(duì)性強(qiáng)、高度逼真等特征，普通群眾短時(shí)間內(nèi)難以分辨，很容易上當(dāng)受騙、遭受經(jīng)濟(jì)損失，甚至?xí)o家庭帶來沉重的經(jīng)濟(jì)負(fù)擔(dān)；發(fā)生信息泄露，新型AI詐騙往往能獲取受害人的個(gè)人信息，包括身份證號(hào)、銀行賬戶、人臉、指紋等，進(jìn)而濫用這些信息從事非法活動(dòng)，導(dǎo)致受害人信息泄露，身份被盜用，引發(fā)潛在的法律風(fēng)險(xiǎn)；造成心理創(chuàng)傷，遭受新型AI詐騙，除了面臨經(jīng)濟(jì)損失，受害人還可能產(chǎn)生焦慮、自責(zé)、抑郁等情緒，造成嚴(yán)重的心理創(chuàng)傷；危害社會(huì)治安，如果新型AI詐騙案件變多，容易讓群眾對(duì)社會(huì)產(chǎn)生不信任感，甚至造成恐慌情緒，有些受害者也因無(wú)法承擔(dān)損失，走上違法犯罪道路。

新型AI詐騙案件增加，偵破難度加大，對(duì)公安機(jī)關(guān)來說也是挑戰(zhàn)。吳西福說，只有不斷提升民警的專業(yè)素質(zhì)和偵查能力，加強(qiáng)對(duì)新型電信網(wǎng)絡(luò)詐騙犯罪的研究，才能創(chuàng)新偵查手段和方法，提高打擊效能。要加強(qiáng)與其他地區(qū)公安機(jī)關(guān)的協(xié)作配合，建立健全跨區(qū)域警務(wù)合作機(jī)制，形成打擊合力。

有效防范AI詐騙

保護(hù)個(gè)人信息、學(xué)習(xí)識(shí)別方法

新型AI詐騙花樣頻出，偽裝性越來越強(qiáng)，該如何防范？

吳克剛給出了兩條防騙建議：視頻通話時(shí)，讓對(duì)方做出指定動(dòng)作，比如眨眼3次、摸摸鼻子，或者讓對(duì)方用手指或其他遮擋物在臉前晃動(dòng)，如畫面出現(xiàn)延遲或者異常扭曲等不自然的微小變化，那對(duì)方很可能正在使用“AI換臉”技術(shù)。在與對(duì)方的溝通中，也可以問一些只有對(duì)方知道的問題，比如生日、電話號(hào)碼、喜好等，來驗(yàn)證對(duì)方身份的真實(shí)性。

我們也應(yīng)該提高安全防范意識(shí)，防止個(gè)人臉部信息被非法獲取利用。貴州警方提示，不輕信他人，不貪圖小便宜。妥善保管個(gè)人信息，把好個(gè)人信息保護(hù)的第一道關(guān)。在非必要情況下，不向陌生人提供身份證號(hào)碼、工作單位、家庭住址、職務(wù)等重要信息，不將身份證照片或號(hào)碼保存在手機(jī)中，盡可能避免將人臉、照片、聲音、指紋等留存到網(wǎng)站和小程序上。在日常生活中，加強(qiáng)對(duì)人臉、聲音、指紋等生物特征數(shù)據(jù)的安全防護(hù)，做好個(gè)人手機(jī)、電腦等終端設(shè)備的軟硬件安全管理，不登錄來路不明的網(wǎng)站，以免感染木馬病毒。另外，對(duì)可能進(jìn)行聲音、圖像甚至視頻和定位等信息采集的應(yīng)用，做好授權(quán)管理，不輕易給他人收集個(gè)人信息的機(jī)會(huì)，也能在一定程度遠(yuǎn)離“AI換臉”詐騙。

此外，公安機(jī)關(guān)也要?jiǎng)?chuàng)新線上線下反詐宣傳，打造全方位反詐宣傳矩陣。一方面，利用線上平臺(tái)，深入挖掘本地發(fā)生的電信網(wǎng)絡(luò)詐騙典型案例，結(jié)合地區(qū)特色、民俗以及當(dāng)下流行的網(wǎng)絡(luò)文化，拍攝制作風(fēng)格獨(dú)特、通俗易懂的反詐宣傳短視頻。通過短視頻的形式還原詐騙分子的話術(shù)、作案流程以及背后的犯罪邏輯，幫助群眾提高反詐意識(shí)。

推動(dòng)反詐宣傳進(jìn)校園、進(jìn)社區(qū)、進(jìn)企業(yè)，將反詐宣傳與群眾喜愛的文化娛樂活動(dòng)緊密結(jié)合，打造出一系列具有貼近性的反詐宣傳場(chǎng)景。堅(jiān)持精準(zhǔn)施策，針對(duì)不同群體、行業(yè)和地區(qū)特點(diǎn)，開展有針對(duì)性的宣傳，做到有的放矢，切實(shí)增強(qiáng)群眾防騙意識(shí)和識(shí)騙能力。

警方也警告不法分子：通過“AI換臉”進(jìn)行視頻合成、實(shí)施詐騙的行為，是利用新技術(shù)進(jìn)行的詐騙，與傳統(tǒng)詐騙行為沒有本質(zhì)區(qū)別。對(duì)于構(gòu)成詐騙罪的，將依照我國(guó)刑法第二百六十六條的規(guī)定追究刑事責(zé)任；對(duì)于為利用“AI換臉”實(shí)施詐騙行為提供技術(shù)支持、幫助的，將根據(jù)反電信網(wǎng)絡(luò)詐騙法的規(guī)定進(jìn)行行政處罰，構(gòu)成犯罪的，還要追究刑事責(zé)任。