公安機關(guān)查處網(wǎng)絡(luò )謠言丨AI 背后的陷阱：有圖未必有真相，警惕謠言 “新偽裝”

真實(shí)案例

 

2024年8月，一則令人震驚的消息在網(wǎng)絡(luò )上迅速傳播。“南平松溪縣遭遇嚴重大風(fēng)襲擊，造成棗嶺街一人死亡”。這則消息圖文并茂，甚至還有逼真的視頻片段，一時(shí)間引得大量網(wǎng)民關(guān)注和轉發(fā)。但經(jīng)公安機關(guān)核查發(fā)現，這竟然是用 AI編造而成的網(wǎng)絡(luò )謠言視頻。

經(jīng)查，該謠言系發(fā)布者周某為博取關(guān)注、獲取流量，通過(guò)AI軟件生成的。周某對圖片和視頻剪輯拼湊后，制造出“有圖片”“有文字”“有聲音”的虛假信息，發(fā)布至網(wǎng)絡(luò )平臺上，造成社會(huì )不良影響。

公安機關(guān)依法對周某給予行政處罰。

案例分析

造謠者利用AI低成本、高效率、操作簡(jiǎn)單的特點(diǎn)，通過(guò)提供關(guān)鍵字，AI軟件便會(huì )自動(dòng)在網(wǎng)絡(luò )上抓取相關(guān)信息，以熱點(diǎn)新聞和隨機網(wǎng)絡(luò )音視頻為素材，批量化生產(chǎn)網(wǎng)絡(luò )謠言，投放到各大網(wǎng)絡(luò )平臺上，實(shí)現吸引眼球或流量變現的目的。謠言的傳播率和影響力成倍增加。

當謠言披上AI的外衣時(shí)，不但能自動(dòng)生成文本，還能生成逼近真實(shí)的圖片和音視頻，讓不存在的場(chǎng)景變得栩栩如生，讓虛構的人物仿佛真實(shí)存在一般。這就完全顛覆了我們常規認知里的“有圖就有真相”，使我們對網(wǎng)絡(luò )謠言本身難辨其真假。

AI謠言已經(jīng)成為亟需治理的一道網(wǎng)絡(luò )新課題，那么在日常生活中，我們怎樣擦亮眼睛，識別并抵制AI謠言呢？

01

好奇之心要適度：面對新奇夸張的信息，先別急著(zhù)一探究竟，AI就是選擇、抓取大家關(guān)注話(huà)題來(lái)制造網(wǎng)絡(luò )謠言，利用網(wǎng)民好奇心進(jìn)行傳播。

02

來(lái)源不明不輕信：切記不要盲目相信和傳播未經(jīng)證實(shí)的信息。在社交媒體或網(wǎng)絡(luò )上看到可疑信息時(shí)，可以先進(jìn)行核實(shí)或者等待官方消息發(fā)布后再做判斷。

03

權威渠道常關(guān)注：在上網(wǎng)瀏覽信息時(shí)要保持對信息來(lái)源的警惕性，多訂閱官方媒體、政府部門(mén)的賬號，盡量選擇權威、可信賴(lài)的媒體或機構作為信息來(lái)源。

04

邏輯分析不可少：注意網(wǎng)絡(luò )信息的邏輯性，如果發(fā)現一條信息在邏輯上存在明顯的漏洞或矛盾，它很可能是經(jīng)過(guò)篡改或杜撰的。

來(lái)源：公安部網(wǎng)安局

公安機關(guān)查處網(wǎng)絡(luò )謠言丨AI 背后的陷阱：有圖未必有真相，警惕謠言 “新偽裝”