中央網(wǎng)信辦有關(guān)負責人表示，本次專(zhuān)項行動(dòng)分兩個(gè)階段開(kāi)展。第一階段強化AI技術(shù)源頭治理，清理整治違規AI應用程序，加強AI生成合成技術(shù)和內容標識管理，推動(dòng)網(wǎng)站平臺提升檢測鑒偽能力。第二階段聚焦利用AI技術(shù)制作發(fā)布謠言、不實(shí)信息、色情低俗內容，假冒他人、從事網(wǎng)絡(luò )水軍活動(dòng)等突出問(wèn)題，集中清理相關(guān)違法不良信息，處置處罰違規賬號、MCN機構和網(wǎng)站平臺。
第一階段重點(diǎn)整治6類(lèi)突出問(wèn)題：一是違規AI產(chǎn)品。利用生成式人工智能技術(shù)向公眾提供內容服務(wù)，但未履行大模型備案或登記程序。提供“一鍵脫衣”等違背法律、倫理的功能。在未經(jīng)授權同意情況下，克隆、編輯他人聲音、人臉等生物特征信息，侵犯他人隱私。二是傳授、售賣(mài)違規AI產(chǎn)品教程和商品。傳授利用違規AI產(chǎn)品偽造換臉視頻、換聲音頻等教程信息。售賣(mài)違規“語(yǔ)音合成器”“換臉工具”等商品信息。營(yíng)銷(xiāo)、炒作、推廣違規AI產(chǎn)品信息。三是訓練語(yǔ)料管理不嚴。使用侵犯他人知識產(chǎn)權、隱私權等權益的信息。使用網(wǎng)上爬取的虛假、無(wú)效、不實(shí)內容。使用非法來(lái)源數據。未建立訓練語(yǔ)料管理機制，未定期排查清理違規語(yǔ)料。四是安全管理措施薄弱。未建立與業(yè)務(wù)規模相適應的內容審核、意圖識別等安全措施。未建立有效的違規賬號管理機制。未定期開(kāi)展安全自評估。社交平臺對通過(guò)API接口接入的AI自動(dòng)回復等服務(wù)底數不清、把關(guān)不嚴。五是未落實(shí)內容標識要求。服務(wù)提供者未對深度合成內容添加隱式、顯式內容標識，未向使用者提供或提示顯式內容標識功能。內容傳播平臺未開(kāi)展生成合成內容監測甄別，導致虛假信息誤導公眾。六是重點(diǎn)領(lǐng)域安全風(fēng)險。已備案AI產(chǎn)品提供醫療、金融、未成年人等重點(diǎn)領(lǐng)域問(wèn)答服務(wù)的，未針對性設置行業(yè)領(lǐng)域安全審核和控制措施，出現“AI開(kāi)處方”“誘導投資”“AI幻覺(jué)”等問(wèn)題，誤導學(xué)生、患者，擾亂金融市場(chǎng)秩序。
第二階段重點(diǎn)整治7類(lèi)突出問(wèn)題：一是利用AI制作發(fā)布謠言。無(wú)中生有、憑空捏造涉時(shí)事政治、公共政策、社會(huì )民生、國際關(guān)系、突發(fā)事件等各類(lèi)謠言信息，或擅自妄測、惡意解讀重大方針政策。借突發(fā)案事件、災難事故等，編造、捏造原因、進(jìn)展、細節等。冒充官方新聞發(fā)布會(huì )或新聞報道，發(fā)布謠言信息。利用AI認知偏差生成的內容進(jìn)行惡意引導。二是利用AI制作發(fā)布不實(shí)信息。將無(wú)關(guān)圖文、視頻拼湊剪輯，生成虛實(shí)混雜、半真半假的信息。模糊修改事件發(fā)生的時(shí)間、地點(diǎn)、人物等要素，翻炒舊聞。制作發(fā)布涉財經(jīng)、教育、司法、醫療衛生等專(zhuān)業(yè)領(lǐng)域的夸大、偽科學(xué)等不實(shí)內容。借助AI算命、AI占卜等誤導欺騙網(wǎng)民，傳播迷信思想。三是利用AI制作發(fā)布色情低俗內容。利用AI脫衣、AI繪圖等功能生成合成色情內容或他人不雅圖片、視頻，衣著(zhù)暴露、搔首弄姿等軟色情、二次元擦邊形象，或扮丑風(fēng)等導向不良內容。制作發(fā)布血腥暴力場(chǎng)景，人體扭曲變形、超現實(shí)怪物等恐怖詭譎畫(huà)面。生成合成“小黃文”“葷段子”等性暗示意味明顯的小說(shuō)、帖文、筆記。四是利用AI假冒他人實(shí)施侵權違法行為。通過(guò)AI換臉、聲音克隆等深度偽造技術(shù)，假冒專(zhuān)家、企業(yè)家、明星等公眾人物，欺騙網(wǎng)民，甚至營(yíng)銷(xiāo)牟利。借AI對公眾人物或歷史人物進(jìn)行惡搞、抹黑、歪曲、異化。利用AI冒充親友，從事網(wǎng)絡(luò )詐騙等違法活動(dòng)。不當使用AI“復活逝者”，濫用逝者信息。五是利用AI從事網(wǎng)絡(luò )水軍活動(dòng)。利用AI技術(shù)“養號”，模擬真人批量注冊、運營(yíng)社交賬號。利用AI內容農場(chǎng)或AI洗稿，批量生成發(fā)布低質(zhì)同質(zhì)化文案，博取流量。使用AI群控軟件、社交機器人批量點(diǎn)贊跟帖評論，刷量控評，制造熱點(diǎn)話(huà)題上榜。六是AI產(chǎn)品服務(wù)和應用程序違規。制作和傳播仿冒、套殼AI網(wǎng)站和應用程序。AI應用程序提供違規功能服務(wù)，例如創(chuàng )作類(lèi)工具提供“熱搜熱榜熱點(diǎn)擴寫(xiě)成文”等功能，AI社交、陪聊軟件等提供低俗軟色情對話(huà)服務(wù)等。提供違規AI應用程序、生成合成服務(wù)或課程的售賣(mài)、推廣引流等。七是侵害未成年人權益。AI應用程序誘導未成年人沉迷、在未成年人模式下存在影響未成年人身心健康的內容等。
中央網(wǎng)信辦有關(guān)負責人強調，各地網(wǎng)信部門(mén)要充分認識專(zhuān)項行動(dòng)對于防范AI技術(shù)濫用風(fēng)險，維護網(wǎng)民合法權益的重要意義。切實(shí)履行屬地管理責任，督導網(wǎng)站平臺對照專(zhuān)項行動(dòng)有關(guān)要求，健全AI生成合成內容審核機制，提升技術(shù)檢測能力，做好整改落實(shí)。加強人工智能相關(guān)政策的宣傳推廣和人工智能素養的科普教育，引導各方正確認識和應用人工智能技術(shù)，不斷凝聚治理共識。
來(lái)源：“網(wǎng)信中國”微信公眾號