【CPS中安網(wǎng) cps.com.cn】 繼此前“10分鐘科技公司老板被AI換臉騙走430萬(wàn)元”事件引發(fā)關(guān)注之后，5月25日，又一起AI換臉詐騙事件被媒體曝光，這次金額達(dá)到245萬(wàn)，且整個(gè)詐騙過(guò)程時(shí)間更短，僅有9秒鐘。

　　一時(shí)間，“AI換臉”新型詐騙進(jìn)入大眾視野，“AI詐騙正在全國(guó)爆發(fā)”話題更是一度沖上熱搜第一，引發(fā)網(wǎng)友熱議。

　　01.

　　AI科技被“黑化”

　　這兩起典型的AI詐騙事件，先是詐騙分子通過(guò)使用他人真實(shí)姓名及照片冒充他人身份添加被害人微信，再利用“AI換臉”和聲音合成等相關(guān)技術(shù)與被害人進(jìn)行短暫視頻通話，博取被害人信任后實(shí)施詐騙。

　　雖然目前經(jīng)披露曝光的AI詐騙案件并不多，但據(jù)官方機(jī)構(gòu)發(fā)布的微博，自AI技術(shù)新騙局來(lái)襲后，詐騙成功率竟接近100%。

　　未來(lái)，犯罪團(tuán)伙可能不再如以前電話詐騙那般漫無(wú)目的地全面撒網(wǎng)，而是通過(guò)AI技術(shù)篩選受騙人群，鎖定特定對(duì)象，為此不少網(wǎng)友表示AI技術(shù)被“黑化”實(shí)在太可怕。

　　不可否認(rèn)的是，隨著AI技術(shù)的進(jìn)步，AI換臉的門檻確實(shí)也越來(lái)越低，也許以前AI換臉還需要一兩百?gòu)垐D片，現(xiàn)在不同角度的照片，一般5到8張就可以生成很不錯(cuò)的模型了，而這也是現(xiàn)階段不少企業(yè)官宣的大模型所具備的亮點(diǎn)。

　　02.

　　AIGC的矛與盾

　　值得大家關(guān)注的是，現(xiàn)在AI換臉不只用于詐騙，還出現(xiàn)在了直播帶貨上，有的主播通過(guò)換臉冒充當(dāng)紅女明星帶貨，以賺取大額流量和銷量。

　　除此之外，由AI生成的數(shù)字人主播、歌手如今也開(kāi)始在相關(guān)平臺(tái)中24小時(shí)活躍在線，要往較大應(yīng)用范圍來(lái)說(shuō)，某些娛樂(lè)平臺(tái)推出的“美顏濾鏡”其實(shí)也算得上是AI換臉的“平替”。

　　顯而易見(jiàn)，隨著AIGC技術(shù)的普及推廣，如今普通大眾輕而易舉便能使用到AI生成式相關(guān)應(yīng)用工具，這從APP Store搜索相關(guān)詞條便出現(xiàn)一堆眼花繚亂的APP應(yīng)用便可印證。

　　不可否認(rèn)，近期基于AIGC技術(shù)的各類大模型的發(fā)布也確實(shí)讓人眼前一亮，AI技術(shù)平權(quán)在某些方面確實(shí)能夠較大幅度提高個(gè)人的信息內(nèi)容處理和輸出效率。

　　AIGC有著“化繁為簡(jiǎn)”的神奇魔法，在如今碎片化嚴(yán)重、信息量爆炸的時(shí)代，能熟練運(yùn)用AIGC技術(shù)無(wú)疑相當(dāng)于開(kāi)了上帝視角。

　　如果說(shuō)AIGC的應(yīng)用是矛，那安全便應(yīng)是AIGC的盾。在面臨惡意偽造的物理或生物信息造成的安全隱患事件上，極需要政府或者企業(yè)研究基于AI生成內(nèi)容的鑒偽技術(shù)，通過(guò)更成熟的反AIGC技術(shù)去鑒定、識(shí)別、阻止造假。

　　另外，都說(shuō)用“魔法”打敗“魔法”，正如創(chuàng)新工場(chǎng)董事長(zhǎng)李開(kāi)復(fù)前兩日的公開(kāi)分享，AI 2.0可能制造虛假信息，這個(gè)缺陷不能完全被杜絕，AI 2.0可能被壞人利用來(lái)針對(duì)性的欺騙或洗腦用戶，因此，開(kāi)發(fā)AI 2.0時(shí)，需要同時(shí)研究控制AI 2.0的技術(shù)和管理AI 2.0的法律法規(guī)。

　　去年12月，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》發(fā)布，其對(duì)人臉生成、替換、操控，合成人聲、仿聲等都有明確約束。

　　今年4月11日，國(guó)家網(wǎng)信辦也起草了《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》，征求意見(jiàn)稿提出，提供生成式人工智能產(chǎn)品或服務(wù)應(yīng)當(dāng)遵守法律法規(guī)的要求，尊重社會(huì)公德、公序良俗，禁止非法獲取、披露、利用個(gè)人信息和隱私、商業(yè)秘密。

　　顯然，隨著相關(guān)法律法規(guī)制度的健全，AI監(jiān)管將會(huì)越來(lái)越嚴(yán)格。那話說(shuō)回來(lái)，面對(duì)惡意的AI詐騙，普通大眾該如何去辨認(rèn)、防范呢？

　　03.

　　個(gè)人如何預(yù)防AI騙局

　　有專家提示稱，“AI假臉”的紋理特征存在破綻。例如，偽造后的視頻人物的眼睛或牙齒輪廓細(xì)節(jié)容易不一致；兩只眼睛瞳孔的顏色不一樣或瞳孔中心反射的細(xì)節(jié)不一樣；很多偽造視頻由于視頻分辨率低于原始視頻，偽造出來(lái)的視頻牙齒邊緣過(guò)于整齊等。

　　除了以上的細(xì)節(jié)關(guān)注，以下防范方式是受較多官方媒體推廣的，整理出來(lái)僅供大家參考：

　　多重身份驗(yàn)證，適時(shí)設(shè)置延時(shí)到賬

　　在涉及到轉(zhuǎn)賬交易等行為時(shí)，要格外留意，可以通過(guò)長(zhǎng)時(shí)間電話和視頻等方式確認(rèn)對(duì)方是否是本人。

　　在無(wú)法確認(rèn)對(duì)方身份時(shí)，可以將到賬時(shí)間設(shè)定為“2小時(shí)到賬”或者“24小時(shí)到賬”以預(yù)留處理時(shí)間。盡量通過(guò)電話詢問(wèn)具體信息，確認(rèn)對(duì)方是否為本人。

　　即便對(duì)方運(yùn)用AI技術(shù)行騙，也可以通過(guò)提問(wèn)的方式進(jìn)一步確認(rèn)身份。建議大家最好向?qū)Ψ降你y行賬戶轉(zhuǎn)賬，避免通過(guò)微信等社交軟件轉(zhuǎn)賬。一方面有利于核實(shí)對(duì)方身份，另一方面也有助于跟進(jìn)轉(zhuǎn)賬信息。

　　加強(qiáng)對(duì)個(gè)人信息的保護(hù)

　　加強(qiáng)個(gè)人信息保護(hù)意識(shí)，要謹(jǐn)防各種信息泄露，不管是在互聯(lián)網(wǎng)上還是社交軟件上，盡量避免過(guò)多地暴露自己的信息。

　　對(duì)于不明平臺(tái)發(fā)來(lái)的廣告、中獎(jiǎng)、交友等鏈接提高警惕，不隨意填寫個(gè)人信息，以免被騙子“精準(zhǔn)圍獵”。

　　做好提示預(yù)防工作

　　多多提醒、告誡身邊的親人、朋友提高安全意識(shí)和應(yīng)對(duì)高科技詐騙的能力，共同預(yù)防受騙。做好家中老人的宣傳防范工作。提醒老年人在接到電話、短信時(shí)，要放下電話，再次撥打家人電話確認(rèn)，不要貿(mào)然轉(zhuǎn)賬。

　　當(dāng)然了，一定要記住，如有發(fā)現(xiàn)異常，一定要及時(shí)報(bào)警，這樣才能將已經(jīng)造成的傷害降至最低。