3月下旬，一則“華山醫院前院長張明遠因闌尾炎未得到及時救治，客死他鄉”的消息被廣泛傳播。然而經核查，華山醫院沒有名為“張明遠”的前院長，也沒有同名員工。目前，編造該謠言的網絡水軍團伙被搗毀，3名犯罪嫌疑人已被上海靜安警方依法采取刑事強制措施，相關違法賬號被依法封禁。

從這起案件看，犯罪嫌疑人之所以要在網絡謠言中設置“華山醫院前院長”“客死他鄉”等吸引眼球的關鍵詞，就是為了制造沖突，消費公眾的同情心，增加謠言的傳播機會，博取更多的流量和關注度，以便后續通過直播帶貨等方式牟利。

犯罪嫌疑人在接受采訪時承認，“根本不知道上海有一家華山醫院”，也不知道有“張明遠”這個人。這正是當下利用AI造謠的新特點：如果說此前人工炮制的謠言很容易露出馬腳，那么如今在AI的加持下，即使犯罪嫌疑人并不掌握相關情況，也可以通過AI生成煞有介事的“故事”，達到以假亂真的效果。

更可怕的是，AI能極大提升虛假信息的“生產能力”。本案中的三個犯罪嫌疑人，給AI提供一些提示詞，讓其聯網搜索相關信息后，再進行整合，可以每天發布1萬條帖文。僅僅是這三人，通過4個大號、500多個小號，短短兩個月就發布了30多萬條垃圾信息。

顯然，通過AI編造大量虛假、有害的劣質信息，加劇了“AI幻覺”，是“毒流量”，也是對網絡環境的一種劣化。

目前，經過警方的教育，犯罪嫌疑人已經認識到，不應該胡編亂造或者夸大其詞，編造發布虛假信息，感到“非常后悔”。他們將為自己的所作所為付出應有的代價，廣大網絡內容創作者也應該吸取教訓，引以為戒。

尤其值得注意的是，三個犯罪嫌疑人此前在某知名女明星剛去世時，就曾用AI編造過內容，而且被平臺提示、扣分。但他們還是“有僥幸心理”，因為相對AI批量生成的大量內容來說，他們被平臺處罰的概率還是很低。

為應對生成式AI帶來的影響，國家互聯網信息辦公室已經發布了《人工智能生成合成內容標識辦法》，在《互聯網信息服務深度合成管理規定》《生成式人工智能服務管理暫行辦法》等法律法規上，進一步細化了AI合成內容的標識。

但是，一些平臺的提示還不夠清晰，容易被忽略；一些平臺“先發后審”，給假信息傳播提供了時間窗口；一些平臺無法識別AI作品，導致假新聞成為漏網之魚。這就要求平臺進一步加強審核，盡到主體責任。目前，上海公安機關和頭部平臺已經建立了暢通的工作聯動機制，通過案件管理合作，及時通報掌握的問題。

算法必須向善，不能流量至上。今年以來，上海公安機關全力開展打擊整治網絡謠言專項行動，按照“以打開路、以打促治”思路重拳出擊，全量清理造謠傳謠信息，分級懲治涉謠賬號，嚴厲打擊“造熱點”“帶節奏”的網絡水軍。

面對AI生成內容，公眾也要保持理性和冷靜，在閱讀、轉發之前，多一分思考，多一分求證。不讓劣質信息充斥網絡空間，全力營造清朗有序的網絡環境，需要社會各方的共同努力。

Android版

iPhone版

iPad版

滬ICP備14003370號

滬公網安備31010602000299號

? 2014-2025 上海東方報業有限公司