編者按

近年來，網(wǎng)絡謠言逐漸出現(xiàn)一些新動向，其中比較典型的便是利用AI工具造謠。隨著人工智能技術快速發(fā)展，AI謠言呈現(xiàn)數(shù)量增多、涉及領域廣泛、傳播渠道集中、與社會熱點話題緊密關聯(lián)等特征，給政法機關社會治理工作帶來較大挑戰(zhàn)。今年1月份后，公安部網(wǎng)安局、互聯(lián)網(wǎng)聯(lián)合辟謠平臺以及各地警方持續(xù)通報對多起涉AI謠言的處置情況，引發(fā)輿論持續(xù)熱議。法治網(wǎng)輿情中心從2025年1月以來的涉AI謠言事件中挑出10起熱度較高、較具代表性的事件，分析當前AI網(wǎng)絡謠言的輿情特征，研判其背后的輿情風險并提出應對建議，供政法機關參考。

輿情事件

10起典型案例中，有4起AI謠言與自然災害相關，包括地震、山體滑坡等；2起謠言涉及食品安全和突發(fā)事件，分別為“四川某中學食堂用淋巴肉做包子致87名學生中毒”和“某地學校發(fā)生火災”；還有4起謠言分別涉及偽科學、文娛行業(yè)、社會秩序和司法案件四個方面。AI謠言表現(xiàn)形式較多，大多通過微博、微信、短視頻等社交媒體渠道擴散，并以文字、圖片、視頻形式單一或“搭配”傳播，比如“西藏定日縣地震一小孩被壓廢墟”謠言形式為圖片，“上海退休教授靠陽臺核電池供電”謠言則是以“文字+視頻”的形式傳播。造謠動機方面，有8起事件明確提到造謠者是為了蹭熱點、賺取流量收益，可見流量經(jīng)濟仍然是AI謠言存在的底層邏輯。10起事件中，有2起事件被官方辟謠，但沒有其他情況通報，其余8起均有明確處理結果。處置結果方面，10起事件中有5起事件的造謠者被公安機關給予行政處罰或行政拘留，有2起事件進入到司法流程，網(wǎng)民閆某某因刻意炒作“國內首例智能駕駛致死案”，被屬地警方刑事拘留；網(wǎng)民徐某某等3人散布“上海某地驚現(xiàn)骨灰房”等謠言，獲利數(shù)額較大，被上海當?shù)胤ㄔ阂苑欠ń?jīng)營罪判處有期徒刑一年十個月不等。

輿情特征

 1. 形式多樣、細節(jié)逼真增強內容迷惑性

相較于人工炮制的謠言，AI謠言在內容上有著更強的迷惑性，主要體現(xiàn)在兩個方面。一是傳播形式多樣。當前的AI謠言已經(jīng)不止于生成文字、圖片、視頻等單一形式內容，而是可以實現(xiàn)“文字+圖片”“文字+視頻”等多種形式的疊加，而不同傳播形式之間相互補充和印證，讓“有圖有真相”“有視頻有真相”的欺騙性進一步加深，如四川一男子利用AI制作短視頻并配文，稱“瞬間幾十條生命是那么脆弱，讓我們一起祈禱雅安平安”，逼真影像產(chǎn)生強烈沖擊效果。二是細節(jié)呈現(xiàn)真實。AI生成的內容往往配圖、數(shù)據(jù)齊全。為增加真實性，很多謠言將某個真實細節(jié)、某個真實的音視頻片段進行嫁接、偽造、混剪，謠言內容真假交織，圖文并茂、細節(jié)充分，被網(wǎng)民吐槽為“一本正經(jīng)胡說八道”。比如“首例智能駕駛致死案宣判”這則謠言，從事故認定到訴訟細節(jié)再到法院判決結果，整篇文章在邏輯上和專業(yè)性上都難以察覺出漏洞，不少媒體都對該“案件”進行了報道。

2. AI技術助長謠言批量化生產(chǎn)、破壞力升級

從上述案例可以看到，AI技術的不斷成熟令造謠變得十分容易。造謠者只要提供素材和簡單描述，AI技術就能實現(xiàn)“文生圖”或“圖配文”，前者只需提供文字，就能自動生成相對應的圖片，后者則會根據(jù)圖片內容，自動匹配相應的文字?？此茝碗s的操作，在AI工具強大的功能下，使用者僅用幾句簡單直白的指令就可以完成。這種操作方式大大降低了謠言生產(chǎn)的技術門檻，提升了謠言編造效率，幫助造謠者在很短的時間內批量生產(chǎn)出欺騙性很強的內容。如網(wǎng)民徐某某等三人為了博眼球，以獲取流量和點擊量變現(xiàn)，利用某AI軟件將已有文章洗稿后變成偽原創(chuàng)，行為人還通過AI設置“爆款標題”“重復率不得高于25%”等指令逃避平臺監(jiān)管，批量生成近10萬條假消息。可見，利用AI技術，謠言制造者可以批量生成大量的虛假新聞內容，并通過自動化工具發(fā)布到多個網(wǎng)絡平臺，以極強的偽裝性干擾公眾的認知判斷，形成較大破壞力。

3. 充當謠言傳播“幫兇”助推虛假消息擴散

AI不僅可能成為謠言的始作俑者，還可能充當謠言傳播的“幫兇”，成為放大錯誤和虛假信息的重要一環(huán)。具體來看，數(shù)據(jù)質量對AI內容至關重要，互聯(lián)網(wǎng)上良莠不齊的信息源在某種程度上加劇了AI內容生成的錯誤率，自媒體為商業(yè)利益制造的虛假信息、歷史記錄的多版本等，都成為AI模型的“事實陷阱”，形成“垃圾進－垃圾出”的惡性循環(huán)。例如，近期成都官方辟謠了“成都艾滋病17萬人”的虛假信息，隨后就有網(wǎng)民向DeepSeek詢問四川艾滋病感染人數(shù)，AI給出的答案仍然是“新增17.47萬例”。此外，還有一些網(wǎng)民利用AI技術對謠言進行“二創(chuàng)”，如謠言“上海退休教授在陽臺搞核發(fā)電”在傳播過程中，有網(wǎng)民依據(jù)文字制作了類似“真人出鏡”效果的AI短視頻，一本正經(jīng)地介紹“陽臺核發(fā)電原理分析”，用言之鑿鑿的偽科普謠言“取信于民”，產(chǎn)生更大范圍的輿論誤解。

輿情風險

1. 信息垃圾泛濫，溯源難度大

隨著AI生成、偽造或篡改文本、圖片、音頻和視頻的現(xiàn)象趨于普遍，大量粗制濫造、真假難辨的“信息垃圾”充斥輿論場。這些垃圾信息數(shù)量龐大，識別篩選難度較高，傳播路徑復雜，內容碎片化難以溯源。如“上海退休教授靠陽臺核電池供電”的謠言主要表現(xiàn)為兩個版本，一個是在朋友圈等圈群中傳播的文字版，一個是短視頻版，但文字版本標明“討論內容來自短視頻”，短視頻的內容又稱“引用了文字版本內容”，再加上AI技術具有匿名性和隱蔽性，使得謠言鑒定追蹤的難度增大。同時，由于AI背靠龐大數(shù)據(jù)庫，對于各類領域的謠言都可以“信手拈來”，這就為造謠者提供極大便利，他們可以借助AI輕松突破知識壁壘，為達到某種目的針對目標人群輸出特定觀點或情感化內容，致使謠言呈現(xiàn)一定的針對性和私密性，在擾亂公眾視聽的同時難以被快速捕捉。

2. 辟謠成本增加，加劇輿論場混亂

AI謠言給官方的辟謠工作造成困難，主要體現(xiàn)在辟謠速度滯后和辟謠效果削弱兩個方面。由于AI謠言生成呈現(xiàn)速度快、批量化的特征，尤其是關于公共安全的謠言內容，在短時間內可以實現(xiàn)大范圍的傳播，但相對來說辟謠則需要更加謹慎，無論是對AI謠言的識別還是溯源，都要花費比較長的時間成本，辟謠速度難以跑贏AI謠言的傳播速度。另外，由于AI無法識別信源的真實性，因此可能會將過往的謠言內容二次輸出，導致謠言再次回流輿論場，辟謠的同時還會有源源不斷的新謠言出現(xiàn)。如“80后死亡率5.2%”的謠言被辟謠后，有網(wǎng)民在AI大模型中輸入問題：“50后、60后、70后、80后，這幾代人的死亡率分別是多少？”，AI給出的回答仍然是5.2%。由此可見謠言可能會借AI形成二次傳播，進而增加辟謠難度，混亂局面難以快速終結。

3. 侵蝕公眾認知 影響社會穩(wěn)定

“AI幻覺”也可能會給公眾帶來“認知幻覺”。隨著AI技術的發(fā)展，部分公眾對AI技術產(chǎn)生一種“技術崇拜”心態(tài)，對AI輸出的信息的判斷能力和認知水平整體下降，特別當某個“不同文案同一結論”的信息重復多次出現(xiàn)，即便公眾此前對網(wǎng)絡信息的真實性有所懷疑，公眾內心的確信也可能產(chǎn)生動搖。這種盲從或依賴心理在公共安全、重大突發(fā)等事件中體現(xiàn)得最突出，社會危害性更大。比如事件發(fā)生后，公眾對傷亡人數(shù)、救援進展等方面的信息需求十分急切，而趁機侵入的AI謠言生成虛假現(xiàn)場圖片，以文字形式夸大傷亡人數(shù)和破壞程度等，無疑會引發(fā)公眾強烈焦慮感。當肉眼難辨的AI工具輸出的信息越來越像人類創(chuàng)作的內容，甚至連轉發(fā)、評論等互動表現(xiàn)也與真實用戶高度一致，真實和虛假的邊界逐漸模糊，就會嚴重擾亂社會秩序，影響社會穩(wěn)定。

輿情建議

AI技術快速發(fā)展的同時為虛假信息的治理帶來了新的挑戰(zhàn)。面對網(wǎng)絡中不斷出現(xiàn)的AI謠言，屬地公安、網(wǎng)信等部門迅速開展核查，在查清事實后及時辟謠，讓造謠者承擔相應法律責任，受到輿論認可。目前，國家已制定了一系列明確的法律法規(guī)，對AI造謠行為進行規(guī)制監(jiān)管，比如《網(wǎng)絡音視頻信息服務管理規(guī)定》《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》《生成式人工智能服務管理辦法》等，通過設置標識等方式提醒用戶辨別虛假信息，明確相關服務主體的標識責任義務，規(guī)范內容操作、傳播各環(huán)節(jié)標識行為，為依法治謠提供了重要法律依據(jù)。如何從社會治理層面開展AI謠言治理工作，從輿論呼聲來看，以下兩點建議供參考。一是建立行之有效的網(wǎng)絡監(jiān)管機制。公安、網(wǎng)信等部門需加強日常網(wǎng)絡巡邏，對疑似謠言的線索快速核實，盡早阻斷謠言發(fā)酵。在操作層面上，要利用AI工具進行技術對抗，加強對事件的真實性判斷，提高辟謠效率和精準度。二是在通報處置上，需重視辟謠信息發(fā)布頻次，同時進行階段性的集納式通報，強化和鞏固公眾對于事實的認知。對一些造成惡劣影響的謠言要保持高壓態(tài)勢，嚴肅追責造謠者和惡意傳播者，營造風清氣正的網(wǎng)絡空間。

閱讀全文可訂閱

《政法輿情》電子產(chǎn)品

詳情咨詢：010-84772595

來源：法治網(wǎng)輿情中心

分析師：任靜

編輯：彭曉月

新媒體編輯：劉思源