“頂流男星豪賭10億”“路易吉自殺”“梅西去世”，這些都是近期流傳在網(wǎng)上的“新聞”。
與其叫它們“新聞”，不如叫“AI幻想碎片”。近些年來，隨著人工智能的快速發(fā)展，生成式內(nèi)容得到越來越多人的關(guān)注。
用AI生成“新聞”，成了最近大家的新樂子，不少網(wǎng)友開始嘗試自己生成相關(guān)內(nèi)容并進行傳播。
“頂流男星豪賭10億”就來自某網(wǎng)友手筆，該網(wǎng)友使用AI軟件輸入社會熱點詞，制作了標題為‘頂流明星被曝境外豪賭輸光十億身價引發(fā)輿論海嘯’的謠言信息，并在小紅書、微博等社交平臺迅速擴散，目前已被處以行政拘留8日處罰。
其實使用AI助力新聞生產(chǎn)不是新鮮事。早在十年前新華社就開發(fā)了自己的第一位機器人記者“快筆小新”。它可以7×24小時不間斷工作，更可以跨越條線，原本需要編輯記者們15～30分鐘完成的稿件，“快筆小新”只需要3～5秒鐘就能完成。
國外媒體如BBC、紐約時報等媒體也都將AI納入新聞生產(chǎn)過程。但用AI助力新聞生產(chǎn)與用AI生成新聞是兩碼事。
由于當前語言類AI還是抓取語料進行生成，不少網(wǎng)友的自發(fā)內(nèi)容也會被AI識別為“資料”，從而生成一些看似真實，實際根本沒有發(fā)生的“新聞”。
更值得注意的是，這些由AI生成的假新聞正成為內(nèi)容循環(huán)的源頭，也就是說用戶用AI生成內(nèi)容進行發(fā)布，其他用戶進行相關(guān)提問，AI會再次抓取這些內(nèi)容反饋給用戶。
當新聞有一天也可以被“生成”，它將帶來什么，又將消解什么？帶著這些問題，毒眸與多位媒體行業(yè)、AI行業(yè)以及互聯(lián)網(wǎng)行業(yè)從業(yè)者展開對話。
在AI席卷而來的當下，我們更需要厘清，真實與虛幻的邊界。
頂流男星的謠言
“哇，是林俊杰還是周杰倫啊？玩這么大！”
三月初，一則內(nèi)容為“某超一線男星在澳門永利皇宮賭場貴賓廳連賭七日”的消息在網(wǎng)絡瘋傳。這則消息據(jù)稱“經(jīng)權(quán)威渠道確認”，由國際金融調(diào)查機構(gòu)Global Financial Watch于3月10日發(fā)布的跨境資金異常流動曝光。
信息顯示，該位“頂流男星”七日豪賭輸盡10.3億元流動資產(chǎn)，抵押三處豪宅及私人飛機，為翻本還向澳門黑幫借貸3億元。
網(wǎng)友吃瓜熱情被迅速點燃，相關(guān)帖子開始在微博、小紅書、豆瓣、知乎等社交平臺大肆傳播，林俊杰、周杰倫等“頂流男星”都被提及，甚至還有網(wǎng)友跑到黃曉明微博下方求證是否輸了十億，得到對方“歡樂豆嗎？”的回答。
這條消息還釋出了相當多的細節(jié)，諸如該男明星輸?shù)舻?0億分為離岸公司轉(zhuǎn)入8.6億，以及地下錢莊兌換1.7億港元現(xiàn)金籌碼；其內(nèi)地經(jīng)紀公司還在3月9日深夜發(fā)布聲明承認其存在“個人財務問題”，兩棟被抵押的豪宅分別是位于北京朝陽區(qū)2.8億元的獨棟別墅以及上海陸家嘴的頂級公寓。
眼見各位被猜測的男明星們都默不作聲，輿論風波愈演愈烈，越來越多的男明星被網(wǎng)友列入“可能名單”。就在網(wǎng)友們猜的不亦樂乎之際，公安部網(wǎng)安部門發(fā)布通告，原來這條看起來有鼻子有眼的網(wǎng)絡消息，竟然是AI生成的假新聞。
公安部通告稱，“網(wǎng)民徐某強（男，36歲）為博取流量、謀取非法利益，于2025年3月10日10時，使用軟件“某書”中AI智慧生成功能，輸入社會熱點詞制作了標題為‘頂流明星被曝境外豪賭輸光十億身價引發(fā)輿論海嘯’的謠言，公安機關(guān)根據(jù)相關(guān)法律法規(guī)，已對徐某強處以行政拘留8日處罰。”
無獨有偶，在震驚韓國的金秀賢金賽綸事件中，也有AI假新聞的身影。
3月12日，微博名為“戀輿智”的網(wǎng)友發(fā)布微博，稱金秀賢在金賽綸頭七當天（2025年3月12日前后）通過粉絲互動平臺Bubble發(fā)布動態(tài)，曬出粉絲禮物，并稱“不愧是超級chill的我”。
這條消息沒有引起“頂流男星豪賭輸10億”如此大的輿論風波，但也燃起不少中國網(wǎng)友的義憤之情。由于金賽綸與金秀賢此前戀愛六年，金秀賢涉嫌“戀童癖”，金賽綸又在男方生日當天選擇自殺，讓這條消息也開始快速擴散。
但仔細分析此條微博，就會發(fā)現(xiàn)金賽綸去世日期為2月16日，頭七不管按照中韓哪一國家的習俗計算，都不應該是3月12日。
和“頂流男星豪賭十億”的“新聞”一樣，這些AI生成式內(nèi)容雖然看起來真實詳細，但只要仔細一想，便有諸多細節(jié)經(jīng)不起推敲。或許AI比新聞從業(yè)者更是熟知人性，在這些精準挑動網(wǎng)友情緒的“新聞”中，AI加速了生成新聞的腳步，同時也消減了用戶冷靜思考的反應與時間。
此時AI擔任的不再是省時省力的工具角色，而是幻覺碎片的生產(chǎn)者。
AI的自由與偏見
這兩年，AI假新聞層出不窮，而且以文字、圖片、視頻等各種形式出現(xiàn)。
今年年初，西藏日喀則市定日縣發(fā)生6.8級地震，多張“小男孩被埋圖”在網(wǎng)絡瘋傳，引發(fā)網(wǎng)友關(guān)切。然而經(jīng)公安機關(guān)核查，這些圖片均由一位青海網(wǎng)友使用AI工具生成而來，該網(wǎng)友將日喀則地震信息進行關(guān)聯(lián)拼湊，引發(fā)謠言擴散。
除此之外，還有不少網(wǎng)友也使用AI工具嫁接圖片，以其他地區(qū)地震現(xiàn)場生成為定日地震現(xiàn)場，駭人聽聞。
2023年，“杭州市政府3月1號取消機動車依尾號限行”的“新聞”也在網(wǎng)絡瘋傳。
隨后“江浙之聲”報道，這則所謂的“新聞”，是杭州某小區(qū)業(yè)主群討論ChatGPT，一位業(yè)主開玩笑，稱試試用ChatGPT寫“杭州取消限行”的“新聞”，并在群里直播ChatGPT寫作的全過程，其他看到文章的業(yè)主直接當成新聞截圖轉(zhuǎn)發(fā)。
AI還生成諸如“路易吉自殺”“梅西去世”“80后死亡率突破5.2%”等各種聳人聽聞的假新聞，從這些案例中不難看出，AI假新聞已經(jīng)蔓延至文娛、體育、社會生活等多個領域，并產(chǎn)生不小影響。
在此前毒眸對十位記者的采訪中，不少媒體從業(yè)者也都提及日常工作已經(jīng)開始使用AI，會用AI生成視頻新聞封面、搜集信息數(shù)據(jù)等。
2015年，新華社就開發(fā)了自己的第一位機器人記者“快筆小新”。“快筆小新”可以7×24小時不間斷工作，更可以跨越條線，從體育賽事報道到股市、國債開收盤，它都能自動根據(jù)信息快速生成新聞稿件，原本需要編輯記者們15～30分鐘完成的稿件，“快筆小新”只需要3～5秒鐘就能完成。
在國外，新聞從業(yè)者對于AI的使用更加激進大膽。
3月18日，意大利自由保守主義日報《Il Foglio》發(fā)布了全球首份完全由AI生成的報紙。該份報紙共4頁，全部內(nèi)容均由AI生成。頭版頭條劍指美國總統(tǒng)特朗普，此外頭版還刊登了專欄文章《普京的十次背叛》，稱普京“20年來違背承諾、撕毀協(xié)議和言而無信”。
經(jīng)濟、文化版面也都由AI生成最新數(shù)據(jù)討論及社會現(xiàn)象分析，最后還刊登了由AI生成的“讀者來信”。
《Il Foglio》編輯Claudio Cerasa認為，《Il Foglio AI》展現(xiàn)了一份“真正的報紙”，它是“新聞、辯論和觀點碰撞的產(chǎn)物”以及“我們不得不思考的問題，這些問題不僅僅是新聞領域的”。
《洛杉磯時報》在今年3月3日也引入了一項新功能“Insights”?！癐nsights”可以表達特定觀點或“從個人角度”撰寫文章，但就在一天后，由于“Insights”淡化三K黨種族主義問題，該功能隨即下線。
代表《洛杉磯時報》記者的工會也隨后發(fā)表聲明，對“未經(jīng)編輯部審核的AI生成分析”表示擔憂。工會表示，他們不認為這種做法會“增強公眾對媒體的信任，相反，這種工具可能會進一步削弱新聞機構(gòu)的公信力”。
在毒眸和多位媒體從業(yè)者的對談中，我們也發(fā)現(xiàn)，隨著使用程度加深，也有不少新聞從業(yè)者開始掉入“AI陷阱”。
“3月份烏拉圭和阿根廷的比賽，梅西都沒上場，國內(nèi)某知名體育垂直媒體平臺發(fā)布的半場戰(zhàn)報就有‘梅西通過靈活跑位為球隊創(chuàng)造機會’的這種表述，疑似是用AI提前寫的。日常搜集資料的時候，我也在大平臺上看到過AI生成的莫須有新聞戰(zhàn)報?！敝w育自媒體博主碧波介紹。
“我們會使用AI進行基礎資料搜集，原本以為會比較省力，但最近發(fā)現(xiàn)工作量似乎更多了，因為要驗證AI給到的是否是‘假數(shù)據(jù)’”。文娛記者周敬儀這樣說道。
多位媒體從業(yè)者都提到ChatGpt、DeepSeek、kimi，這是目前媒體從業(yè)者使用最多的三個AI應用。
“kimi會給到很多文章索引，使用起來比較方便，但這些參考文章良莠不齊，有些也是網(wǎng)友自己發(fā)布的信息?！必斀?jīng)記者朱元這樣認為，”但財經(jīng)條線還好，因為我們一般用AI搜集財報數(shù)據(jù)以及經(jīng)營數(shù)據(jù)”。
擁有八年文娛行業(yè)從業(yè)經(jīng)歷的編輯李莞爾則有些“苦不堪言”，“剛?cè)胄械臅r候我就發(fā)現(xiàn)很難找到關(guān)于文娛產(chǎn)業(yè)的權(quán)威信息，當時主流還是用百度，但搜出來的基本都是網(wǎng)友自己發(fā)的八卦，或者是片湯話湊出來的所謂‘文章’，毫無價值。”
有了AI之后，李莞爾的工作似乎更難了。“我之前非常信任DeepSeek，因為感覺更有‘人味’，但后來發(fā)現(xiàn)，它生成的內(nèi)容看似非常完整且很‘權(quán)威’，但很多內(nèi)容根本就不存在。如果對行業(yè)沒有積累或者常識，很容易被騙到?！?/p>
一條莫比烏斯環(huán)
如同莫比烏斯環(huán)，現(xiàn)在的AI已經(jīng)形成“虛空內(nèi)容環(huán)”。
從上述AI假新聞的相關(guān)報道中，我們能看到，幾乎都是用戶自發(fā)在AI相關(guān)應用中輸入指令即可完成。
“AI生成新聞的prompt非常簡單，下指令，加一段參考，把新聞教科書里的寫作要求寫進去，再根據(jù)一些基礎事實以及搜索內(nèi)容就可以生成。不需要專業(yè)AI應用，在網(wǎng)頁版甚至就能生成?！癆I行業(yè)從業(yè)者Ingemar這樣說道。
就職于AIGC相關(guān)企業(yè)的Han則提供了另一種生成可能?！斑€有一種類似于自動抓取信息，比如在某搜索引擎上比較常見的無價值聚合信息。這在這一輪生成式AI爆發(fā)前就存在，主要利用爬蟲加上一代的文字處理AI做簡單處理來填充平臺內(nèi)容?！?/p>
這更接近李莞爾在上文中提到的，更早時期，搜索引擎提供的無用信息。如果說早期這些無用信息大規(guī)模聚合在搜索引擎搭建的內(nèi)容平臺上，那到如今隨著社交媒體快速發(fā)展，以及傳播媒介的快速更迭，這些內(nèi)容被更快、更廣、更大規(guī)模地散播于更多平臺。
比如“頂流男星豪賭10億”就在小紅書上引起廣泛討論，更是一度登上微博熱搜。一則AI假新聞的生產(chǎn)成本、傳播成本都被大大降低，其擴散范圍也變得更大、更廣。
更值得注意的是，這些由AI生成的假新聞正成為內(nèi)容循環(huán)的源頭，也就是說用戶用AI生成內(nèi)容進行發(fā)布，其他用戶進行相關(guān)提問，AI會再次抓取這些內(nèi)容反饋給用戶。
“這接近于AI的數(shù)據(jù)崩潰的合成數(shù)據(jù)遞歸，持續(xù)下去會讓數(shù)據(jù)庫完全失真，是一個大問題，之前有不少LLM（AI大語言模型）訓練時都遇到過這一問題。AI假新聞的產(chǎn)生很大程度上是這一問題的根源也是這個問題的結(jié)果?！盚an這樣認為。
即便LLM（AI大語言模型）以學習文本數(shù)據(jù)為核心，但這些文本數(shù)據(jù)往往包含“歷史和當代的偏見”以及如今真假混雜的信息，導致模型再精心篩選訓練，也難以解決這一問題。
劍橋大學博士后，西湖大學終身教授張岳在澎湃新聞的采訪中分享了目前主流的三大AI生成文本鑒別法，主要是監(jiān)督分類器法、零樣本分類器法以及水印法。
“監(jiān)督分類器法要收集大量已知數(shù)據(jù)，做分類學習。對訓練時見過的大語言模型生成的文本，它的識別準確率較高；但遇到未見過的模型生成的文本，識別準確率下降；Fast-DetectGPT、DetectGPT屬于零樣本分類器法，無需收集數(shù)據(jù)進行訓練，主要通過AI文本的特征來“找同類”；水印法是在生成AI文本時打上“水印”。相關(guān)服務提供者對生成合成內(nèi)容添加顯式標識，或在生成合成內(nèi)容的文件元數(shù)據(jù)中添加隱式標識，這種方法準確率高，但存在標記被人為弱化甚至移除的風險。”
“目前法規(guī)也在規(guī)范化相關(guān)內(nèi)容，比如要求AI生成內(nèi)容需要額外標注，有了標注，后續(xù)這一問題有可能會得到緩解?！盚an補充道。
在今年兩會上，也有人大代表提出加強對AI生成虛假信息治理的建議。全國政協(xié)委員、四川大學華西醫(yī)院教授甘華田在接受紅星新聞采訪時稱，AI深度偽造視頻、政府公告、企業(yè)聲明、名人言論、虛假金融信息等行為，已嚴重干擾公眾的判斷，這類虛假信息不僅誤導消費者，還損害了社會公信力。
國家互聯(lián)網(wǎng)信息辦公室、工信部、公安部、國家廣電總局已發(fā)布《人工智能生成合成內(nèi)容標識辦法》，將于今年9月起實施，《辦法》聚焦人工智能“生成合成內(nèi)容標識”關(guān)鍵點，通過標識提醒用戶辨別虛假信息，明確相關(guān)服務主體的標識責任義務，規(guī)范內(nèi)容操作、傳播各環(huán)節(jié)標識行為。也就是開始對AI內(nèi)容“打水印”。
國外方面，OpenAI也已與新聞集團和《金融時報》簽署了商業(yè)合作及授權(quán)協(xié)議，讓ChatGPT用戶能看到特定的、注明出處的新聞摘要、引用和鏈接。
這些措施與手段都在強化AI生成內(nèi)容的可靠性與確定性。在這個人人都可以產(chǎn)生內(nèi)容，“假作真時真亦假”的時代，AI的確如同雙刃劍，但不管如何使用，這把劍始終不能對著自己。
熱門跟貼