案例一

近日，威海網民張某為提升賬號關注度，博取流量、牟取私利，使用某AI工具編造了“在監獄直播帶貨”圖片的謠言信息，并發布在某互聯網平臺，引發大量網民關注和討論，擾亂公共秩序。

案例二

近日，在廣東臺風期間，威海網民遲某為博取眼球、吸引流量，編造“廣東陽江兩所教學樓因臺風受損”虛假災情視頻畫面，在某短視頻平臺發布，誤導大量網民關注，嚴重擾亂社會公共秩序，引發恐慌，造成了不良社會影響。

公安機關依法給予張某和遲某行政處罰。

法律責任

根據《中華人民共和國治安管理處罰法》第二十五條的規定，散布謠言，謊報險情、疫情、警情或者以其他方法故意擾亂公共秩序的，處以五日以上十日以下拘留，可以并處五百元以下罰款；情節較輕的，處五日以下拘留或者五百元以下罰款。

風險隱患

通過類似案件看，一些AI謠言的背后已形成分工明確的灰色產業鏈。其具備“低成本量產”的特性，有資料顯示通過AI單日最高可生成4000至7000篇虛假文章，成本僅為傳統造謠的1%。AI謠言帶來的風險隱患確實值得高度警惕，其風險隱患主要體現在：

一是與傳統謠言相比，AI謠言因其技術特性，危害性呈指數級放大。

二是具有高仿真與強迷惑性，生成的文字、圖片、音視頻內容逼真，普通網民難以分辨。

三是進化與迭代能力強，AI謠言甚至能針對辟謠信息快速生成新版本進行反駁或迭代，形成“打地鼠”式的動態對抗，讓治理防不勝防。

如何預防

作為信息接收者，可以通過以下方式識別潛在的AI謠言：

查源頭：警惕那些沒有明確作者、來源模糊或偽裝成“網友投稿”“內部消息”的內容。可靠的信息通常有正規的新聞機構或官方信源背書。

看細節：對于圖片和視頻，仔細觀察是否存在AI生成的典型痕跡，例如人物手指數量異常、光影效果不自然、視頻口型與聲音不同步或背景模糊扭曲等。

驗邏輯：判斷內容是否存在明顯的事實錯誤或邏輯矛盾，比如時間線錯亂（用未來的數據描述過去的事件）或地理信息錯誤。

用工具：善用權威辟謠平臺進行查證，可以關注官方機構發布的相關警示信息。

警方提示

網絡不是法外之地！為博流量無下限，惡意AI不可取！公安機關嚴厲打擊惡意編造傳播網絡謠言的行為，請廣大網民自覺遵守法律法規，不造謠、不信謠、不傳謠，積極向公安機關舉報各類網絡謠言和傳播虛假信息的違法行為，攜手營造清朗網絡空間。

來源：“公安部網安局”微信公眾號