2月21日,中央網信辦發布2025年“清朗”系列專項行動整治重點。明確提出整治AI技術濫用亂象,突出AI技術管理和信息內容管理,強化生成合成內容標識,打擊借AI技術生成發布虛假信息、實施網絡水軍行為等問題,規范AI類應用網絡生態。

1月7日,西藏日喀則市定日縣突發6.8級地震。很快,一張令人揪心的照片在社交媒體上傳播:頭戴彩色毛線帽的孩童被壓在廢墟下,稚嫩的面龐滿是塵土,一雙黑亮的眼睛望向遠方。

這張照片被一些自媒體賬號配上“日喀則地震”相關標簽迅速傳播。有網友在評論區留言,詢問孩子安全。然而幾天后,“地震廢墟中小孩圖片是AI生成”的話題登上網絡熱搜。原來,這張照片2024年11月已出現在網絡上,當時創作者明確標注該圖系AI生成作品。部分自媒體賬號卻移花接木,用來博取眼球、收割流量。

“利用災難加兒童的‘情感組合’,這條謠言在網絡上成為‘病毒式傳播’?！鼻迦A大學新聞與傳播學院副教授陸洪磊在接受中青報·中青網記者采訪時表示,在AI技術的加持下,網絡謠言已呈現出一些新特征,謠言制造者已形成“工業化造謠”模式,需通過平臺、有關部門與公眾協同構建防御體系。

陸洪磊指出,傳統謠言傳播具有模糊性和隱晦性,但伴隨技術發展,“AI使得謠言越來越清晰、逼真,一些專業人士需要進行專門的事實核查來確認真偽,普通公眾更是難辨真假,需要引起警醒?！?/p>

北京師范大學法學院院長、教授梁迎修講述了身邊的一起真實案例。2024年年底,一名學生與前女友分手后,遭遇對方的網絡誹謗,因而陷入重度抑郁,不得已報警。

2月24日,今日頭條“平臺治理開放日”上發布的《2024年度治理報告》顯示,平臺全年累計攔截不實信息超500萬條,攔截和處置涉嫌詐騙內容超200萬條。隨著人工智能的發展,今日頭條面臨諸多挑戰。去年,平臺攔截低質 AI內容超 93萬條,處罰同質化發文超781萬篇。

那么,如何將謠言扼殺于萌芽階段,防止其進一步擴散傳播?

梁迎修指出,法律是治理網絡謠言的有效手段,我國法律為網絡謠言治理提供了充分依據。刑法中有編造傳播虛假恐怖信息罪、侮辱罪、誹謗罪等罪名;民法典對謠言侵權責任有詳細規定;治安管理處罰法規定對網絡謠言傳播的行政制裁措施;網絡安全法等互聯網專門法律條款,明確了公民和平臺在維護網絡安全、打擊網絡謠言方面的責任。

“目前,生成式AI技術加劇了謠言的欺騙性,權利受損的個體維權需投入大量時間與經濟資源,維權成本很高,治理謠言還需要法律與技術的雙重干預?！绷河薇硎?政府應建立信息發布辟謠平臺,平臺要采取必要措施防范謠言傳播,切實履行維護網絡生態的社會責任。媒體要及時轉發權威辟謠和真實信息,攜手推動謠言治理。公眾要提升網絡素養,積極參與相關培訓。

今日頭條生態治理運營負責人韓雨桐介紹,對于虛假謠言,今日頭條建立起三大核心治理能力,包括謠言庫、權威信源庫以及專業審核團隊,并于2024年在發文下方增加權威媒體報道來源標簽,在保障資訊真實性的基礎上,為用戶提供更多客觀視角。針對近年來快速發展的AI技術和涌現的低質內容,平臺在鼓勵用戶使用AI提效的基礎上,保護原創空間,迅速升級、迭代AI模型的識別能力,加大AI內容的審核力度。

陸洪磊表示,如果沒有AI技術助力謠言識別,僅靠傳統手段,此類虛假賬號及謠言的治理難度將顯著增大。

陸洪磊建議平臺建立謠言知識庫,對虛假內容實施前置攔截,以AI技術識別AI謠言,著重強化機器識別模型訓練,對多次違規賬號予以嚴懲,并對AI生成內容進行明確標注;建立跨平臺線索互通機制,推動相關法律細則落地實施。

同時,他建議平臺開展辟謠教育,致力于提升公眾數字免疫力,倡導網民踐行“三秒原則”,即在轉發信息前,花三秒時間仔細思考其來源與邏輯合理性。

“一方面要消滅假的信息,另一方面要主動傳播真實信息?！苯袢疹^條內容策劃負責人劉姍姍表示,2023年以來平臺推出《頭條講真的》項目,聯合醫學、財經、法律等領域專業創作者,為平臺治理工作拓展新的思路。截至2024年,《頭條講真的》發布科普、辟謠等主題視頻,全網話題討論量超36億,成為今日頭條健康和優質內容生態的重要一環。

“針對謠言需要進行協同治理,希望大家能夠攜手同行,助力網絡空間清朗健康發展?！标懞槔谡f。

(中國青年報客戶端北京2月24日電)