來源：寧波晚報
“華山醫(yī)院前院長張明遠(yuǎn)，因闌尾炎未得到及時救治，客死他鄉(xiāng)醫(yī)院走廊長椅。”
“悼念！當(dāng)‘醫(yī)療泰斗’倒在異國急診室，我才讀懂中國醫(yī)生的‘生死時速’！”
今年3月初，“華山醫(yī)院前院長”的故事在互聯(lián)網(wǎng)廣泛傳播。然而經(jīng)警方核查，華山醫(yī)院沒有名為“張明遠(yuǎn)”的前院長，也沒有同名員工。上海公安網(wǎng)安部門開展調(diào)查，成功偵破這起利用AI造謠案，抓獲犯罪嫌疑人王某某、郭某某、石某某。
自2025年2月起，犯罪嫌疑人王某某等3人成立了工作室，通過自媒體賬號發(fā)文吸粉引流牟利。他們控制500余個自媒體賬號，設(shè)置社會熱點、明星緋聞、爆款推薦等關(guān)鍵詞，引導(dǎo)AI軟件自動生成并發(fā)布不實帖文30余萬條，造成惡劣社會影響。截至案發(fā)，非法牟利共計4萬余元。
目前，王某某等3人因涉嫌非法利用信息網(wǎng)絡(luò)罪，被上海警方依法采取刑事強制措施，相關(guān)違法賬號被依法封禁。
今年以來，上海公安機關(guān)全力開展打擊整治網(wǎng)絡(luò)謠言專項行動，嚴(yán)厲打擊“造熱點”“帶節(jié)奏”的網(wǎng)絡(luò)水軍。截至目前，破獲網(wǎng)絡(luò)水軍案件15起，抓獲38名違法犯罪嫌疑人。
據(jù)新民晚報報道，4月22日上午，記者在看守所見到了犯罪嫌疑人王某某。以下是他的口述。
“發(fā)布內(nèi)容前我不知道有華山醫(yī)院”
問：“張明遠(yuǎn)”的故事是怎么生成的？
答：“張明遠(yuǎn)”是AI生成的。
今年2月，我們開始用AI軟件批量生產(chǎn)虛假信息。我們找到了一個網(wǎng)絡(luò)平臺上的App，這是我們的素材庫，按照不同領(lǐng)域、“閱讀量top”、發(fā)布時間等，批量采集爆款內(nèi)容。隨后用AI軟件批量改寫，予以發(fā)布。
“張明遠(yuǎn)”的故事就是這樣生成的。在此之前，我們根本不知道上海有一家華山醫(yī)院。我也不知道“張明遠(yuǎn)”這個人。其實我已經(jīng)記不清原文了，都是批量采集生成的。
我們要求AI“第一句話要吸引人”
問：采集、發(fā)布內(nèi)容一般是怎樣的流程？如何獲利？
答：我們會采集“閱讀top”內(nèi)容，因為這些內(nèi)容本身就是爆款。用AI批量改寫時，我們會給AI一些提示詞，比如“以原文實際情況為基礎(chǔ)，中心思想不變”，比如“第一句話要吸引人”等，因為這樣才能吸引更多點擊量。AI軟件有聯(lián)網(wǎng)版，我們也會讓它聯(lián)網(wǎng)搜索相關(guān)信息后，再進行整合。
我們采集的都是短咨詢，約200-300字，發(fā)布的也是這樣的內(nèi)容。我們?nèi)齻€人有4個“大號”，還有500多個“小號”。“大號”可以添加“小號”作為子賬號，子賬號獲得的收益可以流轉(zhuǎn)到母賬號，每個月可以提現(xiàn)獲益。
問：對你來說“流量就是收入”嗎？
答：是的。我們?nèi)齻€人，每天發(fā)布1萬條帖文，內(nèi)容基本不一樣，閱讀量不等。有的幾萬次閱讀量，最高的一條能有十幾萬次。一萬次閱讀量，大約就有5元收益。
“某女明星去世后我們因為造謠被平臺處罰”
問：你覺得有哪些內(nèi)容比較吸睛？
答：八卦類的內(nèi)容，比如明星八卦，社會八卦。還有涉及職場、科技、養(yǎng)老、國際、教育、醫(yī)療等內(nèi)容，都比較吸睛。像“醫(yī)院”這條，現(xiàn)在想來，可能涉及職場、養(yǎng)老等領(lǐng)域的重疊，所以獲得了不小的流量。
問：之前用AI生成發(fā)布謠言，你們有被處罰過嗎？
答：我們被平臺扣過分。前陣子，某知名女明星剛?cè)ナ罆r，關(guān)于孩子撫養(yǎng)權(quán)的問題，我們也用AI編造過內(nèi)容。被平臺發(fā)現(xiàn)后，出現(xiàn)了提示，并且扣了分?！耙堰^時效”“標(biāo)題黨”“謠言”等都會被平臺處罰，但我們還是有僥幸心理。其實，相對我們生成的大量內(nèi)容來說，我們被平臺處罰的概率很低。
“很后悔，沒掙到什么錢，但帶來很大麻煩”
問：你現(xiàn)在覺得獲得流量應(yīng)該有底線嗎？
答：應(yīng)該有底線，不應(yīng)該胡編亂造或者夸大其詞，不應(yīng)該編造發(fā)布虛假信息。我們現(xiàn)在認(rèn)識到了做得不足的地方，沒有把握好尺度，也沒有好好審核。
問：對你的所作所為，有什么反思嗎？
答：經(jīng)過警方的教育，我們知道自己錯在哪里，也感到非常后悔。其實做這個事沒有掙到什么錢，但卻要被法律嚴(yán)懲，還被警方刑事拘留了。
警方解讀：“毒流量”是對網(wǎng)絡(luò)環(huán)境的劣化
這一團伙造謠的目的是什么？在網(wǎng)安總隊三隊隊長符斌看來，這一行為主要是為了“養(yǎng)號”漲粉，以便后續(xù)直播帶貨等牟利。
“這是常見‘流量經(jīng)濟’劣化的表現(xiàn)形式?！狈笳f，正常賬號吸粉、漲粉，都需要時間精力的投入，而此案通過AI編造大量不實、虛假、有害的劣質(zhì)信息，這是“AI的幻覺”，是“毒流量”，也是對網(wǎng)絡(luò)環(huán)境的一種劣化。
據(jù)悉，目前上海公安機關(guān)和頭部平臺建立了暢通的工作聯(lián)動機制，通過案件管理合作，及時通報掌握的問題。“我們始終認(rèn)為，算法必須向善，不能流量至上?！狈蟊硎尽?/p>
今年以來，上海公安機關(guān)全力開展打擊整治網(wǎng)絡(luò)謠言專項行動，按照“以打開路、以打促治”思路重拳出擊，全量清理造謠傳謠信息，分級懲治涉謠賬號，嚴(yán)厲打擊“造熱點”“帶節(jié)奏”的網(wǎng)絡(luò)水軍。
上海警方將堅決依法嚴(yán)厲打擊，持續(xù)加強網(wǎng)絡(luò)生態(tài)治理，全力營造清朗有序的網(wǎng)絡(luò)環(huán)境。
來源 新民晚報
熱門跟貼