2023年12月21日，某短視頻平臺上，一條短視頻引發(fā)了很多西安市民的關(guān)注。視頻里，流經(jīng)當地的一條河流潭峪河上，冒出一陣陣白色的熱氣，有市民擔心是不是市政的熱水管道出現了泄漏。
西安市公安局鄠邑分局網(wǎng)安大隊副大隊長(cháng) 張羽林：因為發(fā)這條視頻的時(shí)候是在甘肅地震后，有很多網(wǎng)友留言說(shuō)會(huì )不會(huì )跟甘肅的地震有關(guān)系。
由于涉及市政管道，當地多個(gè)部門(mén)很快介入調查，然而查來(lái)查去，這個(gè)視頻里提到的內容，跟地震和水管破裂都沒(méi)有關(guān)系。
西安市公安局鄠邑分局網(wǎng)安大隊副大隊長(cháng) 張羽林：經(jīng)過(guò)調查，這是長(cháng)安新區熱力公司的一條熱力管道。經(jīng)過(guò)潭峪河，熱力管道的工作人員也進(jìn)行了現場(chǎng)調查，管道也沒(méi)有破裂，也沒(méi)有出現熱水外泄的情況。
西安市公安局鄠邑分局網(wǎng)安大隊民警 劉通：因為這條管道在河道上，在冬天的時(shí)候管道過(guò)熱，在河面上產(chǎn)生的水蒸氣。
根據調查核實(shí)的結果，當地很快發(fā)布了官方消息。然而令人奇怪的是，在此之后，網(wǎng)絡(luò )平臺上仍然有一些自媒體賬號在不斷散播西安市鄠邑區管道破裂的消息，而且帖文里還言之鑿鑿相關(guān)部門(mén)正在對事故原因展開(kāi)深入調查。警方調查發(fā)現，有的帖文配發(fā)的圖片甚至都不在陜西省。
西安市公安局鄠邑分局網(wǎng)安大隊副大隊長(cháng) 張羽林：這張配圖經(jīng)過(guò)我們調查是2011年的5月份，商丘網(wǎng)當時(shí)發(fā)布的管道破裂的一張圖片。
然而，就是這樣一個(gè)拼湊的不實(shí)帖文，在很多自媒體賬號上被大量轉發(fā)，并引起了很多網(wǎng)友的恐慌。
西安市公安局鄠邑分局網(wǎng)安大隊副大隊長(cháng) 張羽林：在發(fā)現帖文之后的幾個(gè)小時(shí)里，我們陸續發(fā)現了很多同質(zhì)的不同類(lèi)型的不同描述的一些帖文，這些帖文總閱讀量已經(jīng)達到20多萬(wàn)了。
雷同謠言猛然出現
背后竟是AI“洗稿”
一條自媒體發(fā)布的不實(shí)信息，為什么經(jīng)過(guò)官方辟謠后謠言還在大量傳播，甚至愈演愈烈，這背后到底是怎么回事？不查不知道，原來(lái)，在這些散布不實(shí)消息的自媒體賬號背后，竟然隱藏一條依靠AI人工智能洗稿并且未經(jīng)審核、肆意發(fā)布的產(chǎn)業(yè)鏈。
根據警方的調查，最早發(fā)布不實(shí)消息的，有一個(gè)名叫“可愛(ài)的牛牛往上沖”的自媒體賬號。而這個(gè)賬號的實(shí)際操作人，是四川綿陽(yáng)的王某。于是，辦案民警趕到綿陽(yáng)，對王某進(jìn)行了傳喚。
西安市公安局鄠邑分局網(wǎng)安大隊副大隊長(cháng) 張羽林：在我們調查的過(guò)程中發(fā)現，王某加入了一個(gè)微信群，微信群里面像王某這種類(lèi)型的群眾還比較多。他們微信群的群主，每天定時(shí)會(huì )推送一些文章到群成員自媒體賬號的草稿箱里面。
據王某交代，微信群里的成員收到這些文章后，還需要在草稿箱里點(diǎn)擊發(fā)送，這樣就可以把文章發(fā)布到各自的自媒體賬號上，而發(fā)布者會(huì )根據閱讀量和轉發(fā)量來(lái)獲取收益。
西安市公安局鄠邑分局網(wǎng)安大隊副大隊長(cháng) 張羽林：用戶(hù)獲取收益之后，會(huì )把收益五五分成，把一半的收益分給建群的群主，也就是供稿人。
警方很快查明，王某所在的微信群群主是柳某，而據柳某交代，跟他一起發(fā)布文章的還有他的同學(xué)唐某，而且他們發(fā)布的文章也都不是自己寫(xiě)的，而是來(lái)自AI自動(dòng)生成。
西安市公安局鄠邑分局網(wǎng)安大隊副大隊長(cháng) 張羽林：這位姓唐的同學(xué)給柳某推薦了一款叫“翠綠筆墨”的寫(xiě)稿軟件，然后柳某跟著(zhù)唐某一塊注冊“翠綠筆墨”的寫(xiě)稿軟件，用軟件每天寫(xiě)很多帖文發(fā)送到群里面。
涉案軟件每天自動(dòng)生成19萬(wàn)篇文章
在自媒體賬號上發(fā)布文章博流量，竟然還用到了專(zhuān)門(mén)的寫(xiě)稿軟件。涉案的這款“翠綠筆墨”軟件一天就能生成19萬(wàn)篇文章，7天能達到上百萬(wàn)篇。它是如何運作的？又是怎么流向網(wǎng)絡(luò )的呢？
據警方了解，這款名為“翠綠筆墨”的軟件，是一個(gè)名叫黃某的男子開(kāi)發(fā)的。用戶(hù)需要從一家專(zhuān)門(mén)售賣(mài)新聞稿件的網(wǎng)絡(luò )平臺上，購買(mǎi)大量的真實(shí)新聞稿件，形成稿池。接下來(lái)，注冊用戶(hù)就可以根據各自的需求，自動(dòng)生成一篇篇的文稿。
西安市公安局鄠邑分局網(wǎng)安大隊副大隊長(cháng) 張羽林：這個(gè)軟件生成文章的特點(diǎn)就是它會(huì )從大量的從平臺購買(mǎi)的社會(huì )熱點(diǎn)新聞里，根據用戶(hù)的需求抓取熱點(diǎn)比較高的文章，然后用AI軟件把這些文章進(jìn)行拼湊、前后段落顛倒、同義詞替換，產(chǎn)生一篇同質(zhì)的反映同一件事情的不同類(lèi)型的文章。
為了規避監管，不引發(fā)風(fēng)險，這款軟件在抓取社會(huì )熱點(diǎn)文章時(shí)，還專(zhuān)門(mén)設計了關(guān)鍵詞篩選的功能。
西安市公安局鄠邑分局網(wǎng)安大隊副大隊長(cháng) 張羽林：這個(gè)文章會(huì )規避一些涉政、涉案件、涉暴恐的文章。
據民警介紹，從2023年10月黃某開(kāi)發(fā)“翠綠筆墨”軟件之后，在三個(gè)月時(shí)間內，獲利24000多元。雖然他個(gè)人獲利不多，但是每天由這款軟件自動(dòng)生成的文章卻數目驚人。
西安市公安局鄠邑分局網(wǎng)安大隊副大隊長(cháng) 張羽林：我們發(fā)現，每天產(chǎn)生的文章大概在19萬(wàn)篇左右，然后我們提取了7天這個(gè)軟件里面保存的文章，大概在100多萬(wàn)（篇）。涉及時(shí)事新聞、社會(huì )熱點(diǎn)、社會(huì )生活方面的事情，他不會(huì )去核實(shí)，他（也）沒(méi)有辦法去核實(shí)這些事情。
那么，這100多萬(wàn)篇由軟件自動(dòng)生成的文稿最終都去了哪里呢？警方調查發(fā)現，這款軟件的注冊用戶(hù)雖然還不是很多，但是借助自媒體平臺，這些稿件傳播的范圍和產(chǎn)生的影響令人擔憂(yōu)。
西安市公安局鄠邑分局網(wǎng)安大隊副大隊長(cháng) 張羽林：使用（翠綠筆墨）軟件的用戶(hù)169個(gè)，軟件錄入的自媒體賬號6000多個(gè)，就表示這個(gè)軟件現在有169個(gè)人在使用，每天產(chǎn)生的文章有6000多個(gè)賬號在發(fā)布，但是發(fā)布的這些文章都不是原創(chuàng )，全部是拼湊過(guò)的。
平臺應要求自媒體做到3個(gè)“必須”
目前，本案涉及的賬號已被平臺查封，有關(guān)軟件和服務(wù)器也被關(guān)閉，警方還在對案件深挖。在這次“整治‘自媒體’無(wú)底線(xiàn)博流量”專(zhuān)項行動(dòng)中，也強調了平臺責任。平臺應要求“自媒體”發(fā)布涉國內外時(shí)事、公共政策、社會(huì )事件等相關(guān)信息時(shí)，必須準確標注信息來(lái)源；使用AI等技術(shù)生成信息的，必須明確標注系技術(shù)生成；發(fā)布含有虛構、演繹等內容的，必須明確加注虛構標簽。同時(shí)，平臺要在顯著(zhù)位置展示“自媒體”標注的信息來(lái)源或標簽。那么，如果自媒體違反相關(guān)規定，將承擔哪些法律責任呢？
中國社會(huì )科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心主任 劉曉春：自媒體相對于傳統媒體而言，沒(méi)有專(zhuān)門(mén)的準入要求，個(gè)人、公司都可以通過(guò)以社交媒體為主要載體的賬號公開(kāi)發(fā)布內容，因此在傳播效果上具有比較明顯的媒體屬性，但是沒(méi)有傳統媒體的嚴格審核規范和流程。所以在豐富網(wǎng)絡(luò )內容生態(tài)的同時(shí)，的確也帶來(lái)了很多內容失范的亂象。自媒體造謠造假，構成對于他人名譽(yù)侵害的，需要承擔侵權責任，嚴重的構成誹謗罪，還需要承擔刑事責任。如果不涉及對于個(gè)人權利的侵害，編造、傳播謠言造成損害擾亂社會(huì )公共秩序和市場(chǎng)秩序的，可以進(jìn)行行政處罰，嚴重的也會(huì )構成犯罪，需要承擔刑事責任。封號是從平臺治理角度出發(fā)進(jìn)行的比較快捷、直接的切斷謠言傳播源頭或者節點(diǎn)的處置方式，還是需要采取更加有效的事前和事中防范措施，比如賬號注冊核驗、動(dòng)態(tài)巡查、重點(diǎn)環(huán)節重點(diǎn)防控措施等，達到防患于未然的目標。
中國政法大學(xué)傳播法研究中心副主任 朱�。�傳統媒體對一些新聞包括信源的審核力度是比較大的，核實(shí)義務(wù)是保證真實(shí)性的一個(gè)必要的條件。但是你會(huì )發(fā)現，AI“洗稿”過(guò)程中，幾乎沒(méi)互相的核實(shí)義務(wù)，有一些常識性的錯誤，作為一個(gè)理性人，一眼都能看得到的。為什么傳播這么廣？就是因為很多的受眾更喜歡獵奇，更希望這件事情可能會(huì )存在，所謂的1%的真實(shí)性，所以有了這種獵奇就變成了流量的加持。
來(lái)源：央視新聞客戶(hù)端