公司老板遭遇AI換臉詐騙
10分鐘被“好友”騙走430萬(wàn)元
今年5月8日，內蒙古包頭市公安局電信網(wǎng)絡(luò )犯罪偵查局發(fā)布了一起使用智能AI技術(shù)進(jìn)行電信詐騙的案件，4月20日，福建省福州市某科技公司法人代表郭先生的“好友”突然通過(guò)微信視頻聯(lián)系他，聲稱(chēng)自己的朋友在外地投標，需要430萬(wàn)元保證金，且需要公對公賬戶(hù)過(guò)賬，所以想要借用郭先生公司的賬戶(hù)走賬。
這位“好友”向郭先生要了銀行卡號，聲稱(chēng)已把錢(qián)轉入郭先生的賬戶(hù)，并將銀行轉賬截圖發(fā)給郭先生。基于視頻聊天信任的前提，郭先生并未核實(shí)錢(qián)是否到賬，就陸續轉給對方共計430萬(wàn)元，之后郭先生才發(fā)現被騙。對方通過(guò)智能AI換臉技術(shù)，佯裝成好友對他實(shí)施了詐騙。
民警陳歆怡曾辦理過(guò)多起倒賣(mài)、非法利用用戶(hù)人臉照片的侵公案件，她表示AI換臉換聲的基本邏輯是通過(guò)深度學(xué)習特定算法，將目標人物的人臉、表情、聲音等嫁接進(jìn)模仿的視頻中，成本低、合成速率高、檢測鑒別難度大，一般人很難發(fā)現偽裝痕跡。目前，AI詐騙主要有兩種形式：
民警提示，以上兩種詐騙方式都受限于樣本數量，所以可以通過(guò)延長(cháng)通話(huà)時(shí)間、多次進(jìn)行提問(wèn)的方式讓對方多說(shuō)話(huà)，露出破綻。
如何預防此類(lèi)詐騙案件的發(fā)生？
2022年，網(wǎng)信辦、工信部和公安部制定的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規定》明確，深度合成服務(wù)者應采取技術(shù)或人工方式對使用者的輸入數據和合成結果進(jìn)行審核。今年8月，網(wǎng)信辦發(fā)布的《人臉識別技術(shù)應用安全管理規定（試行）（征求意見(jiàn)稿）》明確，人臉識別技術(shù)使用者應每年對圖像采集設備、個(gè)人身份識別設備的安全性和可能存在的風(fēng)險進(jìn)行檢測評估，采取有效措施保護圖像采集設備、個(gè)人身份識別設備免受攻擊、侵入、干擾和破壞。
北京航空航天大學(xué)法學(xué)院副教授趙精武表示，相關(guān)部門(mén)加強監管的同時(shí)，也需要公眾自身樹(shù)立起良好的防詐騙意識。“涉及到轉賬等財務(wù)信息的電話(huà)請求，采取其他方式跟好友進(jìn)行確認。”
民警進(jìn)一步強調，要想從源頭上預防此類(lèi)詐騙案件的發(fā)生，保護好個(gè)人信息是關(guān)鍵：
此外，民警表示，各APP網(wǎng)絡(luò )服務(wù)提供者在收集、使用個(gè)人信息時(shí)應遵循合法、正當、必要、公開(kāi)的原則，不得收集與其提供的服務(wù)無(wú)關(guān)的個(gè)人信息，應當采取技術(shù)措施和其他必要措施，確保其收集的個(gè)人信息安全，不得主動(dòng)向外提供，也要防止信息泄露、毀損、丟失。
如何實(shí)現安全和便捷兼備的AI驗證模式？對此，趙精武認為，二者的平衡有探討的空間。“需要結合AI技術(shù)的發(fā)展動(dòng)向進(jìn)行同步調整，也需要服務(wù)提供者在相關(guān)深度合成產(chǎn)品和服務(wù)中增加‘AI生成’的標識機制，降低第三方識別AI生成內容的難度。”
來(lái)源：“中央廣電總臺中國之聲”微信公眾號