聽(tīng)說(shuō)過(guò)AI造謠嗎？

AI在文本生成、圖片創(chuàng )作

等方面有著(zhù)廣泛應用

輸入幾個(gè)關(guān)鍵詞即可

快速生成一張畫(huà)或一篇文章

一些網(wǎng)民為博眼球、蹭熱度

將AI技術(shù)用以

編“偽消息”、造“假新聞”

以此來(lái)獲得網(wǎng)民關(guān)注和點(diǎn)贊量

進(jìn)而實(shí)現流量變現

今天，我們就來(lái)一起學(xué)習

面對網(wǎng)上疑似利用AI造謠時(shí)

如何增強“免疫力”

AI網(wǎng)絡(luò )謠言案例

2024年6月，網(wǎng)絡(luò )平臺上的一條“廣東省五華縣華陽(yáng)鎮一70多歲老人被毆打致昏迷，其孫子為此跳河自殺，打人者一審被判九年十個(gè)月”的短視頻在互聯(lián)網(wǎng)平臺傳播，引發(fā)大量網(wǎng)民關(guān)注、討論。公安網(wǎng)安部門(mén)迅速開(kāi)展調查，發(fā)現該視頻的圖文內容系移花接木、肆意編造的網(wǎng)絡(luò )謠言。據造謠人員任某供述，這段長(cháng)達幾分鐘、聲色并茂的視頻全是由AI合成的。目前，公安機關(guān)已依法對任某追究法律責任。

 

2024年1月，廣西東興市駱某某為博取流量，使用AI軟件自動(dòng)編輯抗洪、救災視頻，捏造了新疆烏什縣發(fā)生地震的虛假視頻信息，造成該謠言信息在互聯(lián)網(wǎng)平臺大量傳播。目前，公安機關(guān)已依法對駱某某追究法律責任。

 

2024年5月，河南一網(wǎng)民在某平臺發(fā)布《一場(chǎng)驚心動(dòng)魄的“鈔票大戰”巴中市警民對峙引發(fā)轟動(dòng)誰(shuí)將成為勝利者》的謠言文章，引發(fā)大量網(wǎng)民關(guān)注、討論。經(jīng)查，該涉謠文章由AI系統生成并發(fā)布，相關(guān)言論及照片均為不實(shí)信息。目前，公安機關(guān)已依法對造謠人員追究法律責任。

 

AI網(wǎng)絡(luò )謠言特征

定制化

生成式人工智能能夠利用多類(lèi)機器學(xué)習方法從數據中學(xué)習不同內容的生成特征以及主體的表達風(fēng)格，只需要輸入關(guān)鍵詞，AI軟件可在網(wǎng)絡(luò )上抓取素材生成文本，形成定制化的文章、新聞、報告等信息。

 

門(mén)檻低

相比此前造謠者單純靠人工捏造、散布謠言這一略顯“原始”的方式，現在利用AI造謠者只需在A(yíng)I工具輸入關(guān)鍵詞即可“一鍵生成”可以假亂真的文章、圖片。

 

識別難

AI生成的虛假信息在形式上非常逼真，往往新聞要素齊全、內容完整，甚至可能包含圖像和視頻，這使得公眾難以辨別真偽，這種偽裝性和欺騙性讓謠言更加具有迷惑性。

 

破壞大

利用AI工具制造謠言能生成極為逼真的圖片、音視頻，顛覆了“有圖有真相”的常規認知，蠱惑性極強，短時(shí)間內就能快速傳播，易引發(fā)社會(huì )恐慌，擾亂社會(huì )公共秩序。

 

網(wǎng)絡(luò )謠言危害

泄露敏感數據

AI對話(huà)、文字創(chuàng )作等AI工具可收集并存儲用戶(hù)信息，造成個(gè)人隱私數據泄露，甚至可能從一些涉密敏感人員數據中推斷出敏感信息。

損害他人名譽(yù)

網(wǎng)絡(luò )謠言往往針對特定個(gè)人或群體，散布虛假信息，惡意攻擊和詆毀他們的名譽(yù)和利益。這可能導致受害者遭受經(jīng)濟損失、社會(huì )壓力和精神創(chuàng )傷。

誤導公眾認知

網(wǎng)絡(luò )謠言往往利用人們的認知和心理弱點(diǎn)，制造虛假信息，誤導公眾對特定事件或人物的認知和評價(jià)。這可能導致公眾價(jià)值觀(guān)的混亂。

擾亂公共秩序

網(wǎng)絡(luò )謠言可能引發(fā)公眾恐慌和不安，破壞社會(huì )信任和穩定。虛假信息的傳播可能引發(fā)群體性事件，甚至導致社會(huì )動(dòng)蕩。

如何增強“免疫力”

1

保持警惕。仔細分析信息的邏輯性，若存在明顯漏洞、矛盾或與常理不符的地方，很可能是虛假信息。比如，一些謠言中事件的發(fā)展過(guò)程不符合常理，或者數據存在不合理的夸張等。

2

多方驗證。不要僅僅依賴(lài)單一的信息來(lái)源，應從多個(gè)權威渠道獲取信息進(jìn)行對比。對于一些熱點(diǎn)事件，可以檢索官方媒體的報道，以驗證信息的真實(shí)性。

3

謹慎分享。在確定信息真實(shí)可靠之前，不要隨意轉發(fā)，以免無(wú)意中成為謠言傳播的推手。

4

保護隱私。注意保護個(gè)人隱私，不隨意泄露個(gè)人信息給不可信的網(wǎng)站或應用程序，防止個(gè)人信息被用于生成虛假內容。

素材│廣西網(wǎng)警