又是靳東。
連續(xù)兩年全國(guó)兩會(huì)，政協(xié)委員靳東都提交了有關(guān)AI技術(shù)與網(wǎng)絡(luò)平臺(tái)立法的建議。
3月5日，在政協(xié)小組討論上，靳東回應(yīng)稱：“一些喜歡我影視劇的觀眾，被AI換臉視頻騙得很慘，這個(gè)性質(zhì)非常惡劣。希望能建立更好的規(guī)則?！?/p>
靳東所指的，讓人們聯(lián)想到了去年11月，江西宜春，一位老人來(lái)到銀行，揚(yáng)言要貸款200萬(wàn)，給網(wǎng)戀男友“靳東”拍戲。她的材料不全，銀行沒(méi)給辦，但堅(jiān)持不肯離開(kāi)。好在民警趕來(lái)勸阻，才知所謂靳東是AI換臉視頻。一場(chǎng)騙局險(xiǎn)些成真。
這不是孤立案件?！癆I假靳東”登上熱搜后，一些網(wǎng)友紛紛講起在家?guī)屠先撕虯I“斗法”的過(guò)程。老人們沉迷刷AI靳東，無(wú)法自拔。幫他們破除AI迷障，成了家庭生活的日常。
考慮到靳東在中老年群體中的觀眾基礎(chǔ)，即便類似詐騙近年來(lái)屢見(jiàn)報(bào)端，但“假靳東”依然在互聯(lián)網(wǎng)的隱秘處招搖。
2020年秋天，江西都市頻道報(bào)道了當(dāng)?shù)匾粍t軼聞，一名61歲女子，因與“假靳東”網(wǎng)戀數(shù)年，離家出走?！凹俳鶘|”至此廣為人知，但大都是演員靳東的影視片段，配上腔調(diào)生硬的機(jī)械男聲，有的甚至操著濃重的地方口音，破綻百出。
五年過(guò)去，騙術(shù)套路未變，技術(shù)卻愈發(fā)逼真了。有了AI換臉和AI擬聲技術(shù)的加持，“假靳東”在方寸屏幕之間愈發(fā)栩栩如生、真假難辨起來(lái)。
換臉技術(shù)不新鮮。只是，如今AI技術(shù)以假亂真，互聯(lián)網(wǎng)空間AI信息泛濫成災(zāi)。年輕一代網(wǎng)友“沖浪”經(jīng)驗(yàn)豐富，練就了“火眼金睛”，依然難免被騙，何況中老年和未成年群體，對(duì)AI技術(shù)不甚了解，所以存在巨大認(rèn)知盲區(qū)。
因此，對(duì)人工智能生成內(nèi)容的規(guī)范和治理，也成了今年全國(guó)兩會(huì)期間多個(gè)委員代表的關(guān)注議題。
全國(guó)人大代表、小米集團(tuán)創(chuàng)始人雷軍建議，加強(qiáng)“AI換臉擬聲”違法侵權(quán)重災(zāi)區(qū)治理——去年國(guó)慶期間，“AI雷軍”那句“開(kāi)小米Su7創(chuàng)死你們”，就讓他本人深受其擾。全國(guó)政協(xié)委員、四川大學(xué)華西醫(yī)院教授甘華田則稱，應(yīng)當(dāng)加快制定針對(duì)AI生成虛假信息的專項(xiàng)法律法規(guī)。
甘華田在接受媒體采訪時(shí)強(qiáng)調(diào)，AI生成的虛假信息“已嚴(yán)重干擾公眾判斷、損害社會(huì)公信力和穩(wěn)定”。
清華大學(xué)新聞與傳播學(xué)院副教授陸洪磊告訴南風(fēng)窗，如果對(duì)AI謠言放任自流，很可能會(huì)對(duì)社會(huì)的信心和穩(wěn)定在造成巨大沖擊。
他說(shuō)：“我們正在面臨一場(chǎng)前所未有的認(rèn)知戰(zhàn)爭(zhēng)?！?/p>
真與假的邊緣
一個(gè)看起來(lái)不過(guò)周歲左右的嬰兒，左手端握著瓷碗，右手熟練地使用筷子，把沾滿辣椒醬的面條喂進(jìn)嘴中、咀嚼吞下。
光是文字描述，大多數(shù)人都能立刻意識(shí)到上述場(chǎng)景違反常理之處，如果進(jìn)一步仔細(xì)辨認(rèn)其中的細(xì)節(jié)，人們會(huì)發(fā)現(xiàn)，面條在被夾起以后驟然變得稀疏，與嬰兒吞咽的節(jié)奏并不一致——顯然，這是AI生成的“杰作”。
但僅憑這樣粗糙的完成度，就足以令一部分中老年用戶蒙在鼓中。在AI生成的嬰幼兒短視頻的評(píng)論區(qū)，鮮花、愛(ài)心和大拇指的表情包，被“人海沉浮”“上善若水”們反復(fù)敲下，堆砌成一片熱烈的海洋。
一則廣為流傳的AI視頻中，一群胖嘟嘟的嬰兒，抱著碩大的金元寶，迎面走來(lái)。評(píng)論區(qū)清一色是“爺爺（或奶奶）接住了?！?/p>
春節(jié)期間，有網(wǎng)友回家過(guò)年，發(fā)現(xiàn)家中老人對(duì)著這樣一段短短幾秒的視頻，反復(fù)觀看了一個(gè)小時(shí)，笑得合不攏嘴，“老人沉迷假孫子”現(xiàn)象，這才引起了廣泛的關(guān)注，也讓AI假信息在老年群體中的泛濫問(wèn)題，引發(fā)了廣泛討論。
部分AI短視頻底部，會(huì)附以一行半透明的小字：“作者提示：內(nèi)容為AI技術(shù)制作，虛構(gòu)內(nèi)容請(qǐng)謹(jǐn)慎甄別?！毕炔徽撨@行不起眼的小字能否被中老年人的老花眼睛看清，“AI”究竟是什么、有什么用，他們或許都不甚清晰，只懷抱著一副樸素的心態(tài)瀏覽互聯(lián)網(wǎng)上的種種奇觀：“視頻怎么會(huì)騙人呢？”
被AI蒙騙，并非中老年人的“專利”。就在上個(gè)月，正值壯年的“80后”也被AI謠言玩弄于股掌之中：一則“中國(guó)80后累計(jì)死亡率為5.20%”的信息在網(wǎng)絡(luò)上肆意蔓延，而中國(guó)人民大學(xué)教授李婷對(duì)此公開(kāi)辟謠時(shí)稱，這一虛假數(shù)據(jù)很有可能“來(lái)源于AI大模型的錯(cuò)誤”。
甚至股市也會(huì)被AI謠言操縱。2023年5月，一網(wǎng)友利用某生成式AI撰寫信息發(fā)表于某股市平臺(tái)，造成科大訊飛當(dāng)日午后遭遇股價(jià)跳水，盤中一度跌超9%。
陸洪磊告訴南風(fēng)窗，AI謠言的可怕之處就在于，“它與新聞的邊界正在變得越來(lái)越模糊”。
傳統(tǒng)謠言更像一則模糊的信息，模糊之中存在大量邏輯漏洞，普通人很容易辨別。而AI可以賦予謠言確切的時(shí)間、地點(diǎn)、人物，甚至是信源和圖片，“一本正經(jīng)地胡說(shuō)八道”，更像一則真實(shí)發(fā)布的新聞信息。
這種高度的逼真性，讓謠言的威力提升至一個(gè)新的水平。陸洪磊打了個(gè)比方，如果說(shuō)互聯(lián)網(wǎng)的誕生讓謠言從“冷兵器”進(jìn)入“熱兵器”時(shí)代，那么AI謠言的破壞力就是“核武器”。
“良心活”
據(jù)《法治在線》報(bào)道，去年1月，一則“西安突然響起巨大爆炸聲”的謠言，在網(wǎng)絡(luò)上迅速傳播，后經(jīng)查證，該謠言的發(fā)布賬號(hào)，隸屬江西一家MCN機(jī)構(gòu)，“從文本到圖片都是AI生成”。
其基本的操作邏輯是，將關(guān)鍵詞指令輸入AI，它便會(huì)自動(dòng)生成幾百至上千字的文本，配上幾幅貌似與事件有關(guān)的圖片，編造成一篇煞有介事的謠言。
經(jīng)警方調(diào)查，該賬戶負(fù)責(zé)人王某發(fā)布該謠言，目的就是為了推高賬戶閱讀量，以換取平臺(tái)的流量激勵(lì)。他所經(jīng)營(yíng)的MCN機(jī)構(gòu)，最高一天可以生成4000至7000篇文章，其中流量最高的一篇文章收入達(dá)700元。初步估算，其每天收入在一萬(wàn)元以上。
每天數(shù)千篇文章，遠(yuǎn)遠(yuǎn)超出全世界任何一家媒體的單日產(chǎn)能，從中足以看到，AI生成信息，正以何種爆炸式的速度，擠占整個(gè)互聯(lián)網(wǎng)空間。
這股浪潮的背后，是整個(gè)人類的信息生產(chǎn)方式的變革。低成本、高利潤(rùn)，伴隨著生成式大模型技術(shù)的突飛猛進(jìn)，制造謠言的門檻大大降低，催生了一大批以此為生的灰黑產(chǎn)業(yè)。
對(duì)此追查卻十分不易。鄭州市公安局負(fù)責(zé)人在相關(guān)媒體采訪中稱，AI書寫段落的語(yǔ)言能力很高，還可以隨機(jī)插入素材和圖片，這要求他們必須對(duì)每一處信息要素都加以印證，事實(shí)核查的成本大大提高。
于是，辟謠的速度被迫放緩。而在“傳謠”與“辟謠”速度逐漸拉開(kāi)的時(shí)間差之中，AI謠言對(duì)公共輿論空間的破壞性，就此肆意放大和顯現(xiàn)。
那么，我們是否能“以其人之道，還治其人之身”，運(yùn)用AI去治理AI謠言呢？
一個(gè)技術(shù)性的客觀現(xiàn)實(shí)是，AI生成圖像檢測(cè)技術(shù)的發(fā)展，目前依然落后于生成模型技術(shù)的發(fā)展速度，并將在未來(lái)一段時(shí)間始終面臨“道高一尺，魔高一丈”的困境。
另一重挑戰(zhàn)則來(lái)源于跨平臺(tái)協(xié)作。
我國(guó)自2023年1月10日起實(shí)行《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，其中明確要求，深度合成服務(wù)提供者對(duì)使用其服務(wù)生成或者編輯的信息內(nèi)容，應(yīng)當(dāng)采取技術(shù)措施添加不影響用戶使用的標(biāo)識(shí)。然而在實(shí)踐中，限于各平臺(tái)技術(shù)水平、內(nèi)容特性和標(biāo)準(zhǔn)化的各項(xiàng)差異，當(dāng)一則AI生成內(nèi)容被下載或截屏，再上傳至另一平臺(tái)，“原先的水印有可能就消失了”。
陸洪磊說(shuō)，高水平的水印和圖像檢測(cè)技術(shù)高度依賴于大規(guī)模的資金和人力投入，目前只有規(guī)模較大的企業(yè)能夠去承擔(dān)其成本?！耙恍┲行⌒推脚_(tái)檢測(cè)技術(shù)依賴開(kāi)源工具，且往往難以承擔(dān)計(jì)算資源和維護(hù)成本，準(zhǔn)確率較低”。
更何況，單純基于商業(yè)角度考慮，對(duì)水印和檢測(cè)技術(shù)的龐大投入收益究竟如何，“需要打一個(gè)問(wèn)號(hào)”。在陸洪磊看來(lái)，在缺乏相關(guān)法律法規(guī)的狀況下，平臺(tái)對(duì)AI生成內(nèi)容的規(guī)范治理并無(wú)嚴(yán)格約束，“更像個(gè)良心活”。
“人機(jī)對(duì)齊”
AI生成的圖像和影像，人們尚且可以通過(guò)它的光影變化規(guī)則、邊緣物理規(guī)律的異常去細(xì)心辨別。比如今年1月在網(wǎng)絡(luò)上廣泛流傳的合成視頻，“西藏地震小男孩被廢墟掩埋”，只要細(xì)心觀察，男孩的左手由六根手指組成，肉眼就能“檢測(cè)”出來(lái)——至少，目前還不難，未來(lái)卻不好說(shuō)。
而對(duì)AI文字謠言的甄別，卻幾乎無(wú)從下手。
“當(dāng)前AI生成文本語(yǔ)義一致性之高，已經(jīng)到了專家學(xué)者都難以區(qū)分的水平?！标懞槔谡f(shuō)。當(dāng)下，對(duì)AI文字謠言的檢測(cè)，“更多時(shí)候需要深入其意義表達(dá)去判別，目前尚無(wú)特別有效的手段攻克”。
就比如上文所述那則“中國(guó)80后累計(jì)死亡率為5.20%”的謠言，若非長(zhǎng)期研究人口的學(xué)者公開(kāi)辟謠，對(duì)統(tǒng)計(jì)學(xué)和人口普查專業(yè)知識(shí)知之甚少的普羅大眾，很容易便會(huì)信以為真。
對(duì)于文字信息的治理，平臺(tái)目前的普遍做法，集中于對(duì)同質(zhì)化內(nèi)容的識(shí)別和處理。個(gè)別MCN機(jī)構(gòu)利用AI批量生成相似內(nèi)容大規(guī)模投放，而平臺(tái)通過(guò)對(duì)文字相似性的比對(duì)，可以及時(shí)發(fā)現(xiàn)異常、實(shí)時(shí)整治。盡管卓有成效，“但在同質(zhì)化內(nèi)容與謠言之間，依然存在一定的概念差異?！庇袑W(xué)者向南風(fēng)窗表示。
技術(shù)條件日新月異，行業(yè)秩序尚未建立，繁蕪叢雜之中，亟盼相關(guān)法律法規(guī)的完善與規(guī)范。
而這也正是今年兩會(huì)期間數(shù)位委員代表共同關(guān)注的焦點(diǎn)。
我國(guó)于2023年8月15日起施行《生成式人工智能服務(wù)管理暫行辦法》，如今形成了以此暫行辦法為核心，輔以數(shù)據(jù)安全法、個(gè)人信息保護(hù)法等單行法的人工智能規(guī)范。
全國(guó)政協(xié)委員、安徽省律師協(xié)會(huì)監(jiān)事長(zhǎng)周世虹在媒體采訪中介紹，目前依然缺乏高位階的專門立法，現(xiàn)有管理體系覆蓋范圍較為有限，尚且難以應(yīng)對(duì)快速的技術(shù)發(fā)展可能引發(fā)的各種社會(huì)問(wèn)題。
全國(guó)人大代表，TCL創(chuàng)始人、董事長(zhǎng)李東生也在《關(guān)于加強(qiáng)AI深度偽造欺詐管理的建議》中寫道：我國(guó)相關(guān)立法雖有關(guān)注這一議題，“但已出臺(tái)的規(guī)章制度尚不成體系，還不具備可操作的細(xì)則和明確的處罰標(biāo)準(zhǔn)”。
陸洪磊提到了一個(gè)概念，叫做“人機(jī)對(duì)齊”。即AI的內(nèi)容創(chuàng)造，應(yīng)當(dāng)受到人類倫理規(guī)范的約束，“人類造謠會(huì)面臨的結(jié)果，AI造謠應(yīng)該一視同仁”。
只是，落實(shí)這一原則的過(guò)程中，責(zé)任應(yīng)該指向哪個(gè)主體、細(xì)化至怎樣的程度，還需視具體情況共同商定。
而無(wú)論如何，陸洪磊相信，人類的智慧與經(jīng)驗(yàn)，不光可以體現(xiàn)在大模型技術(shù)的飛速迭代之上，它們同樣可以體現(xiàn)在對(duì)規(guī)范和管理機(jī)制的動(dòng)態(tài)設(shè)計(jì)之中。
作者 | 南風(fēng)窗記者 奚佑
編輯 | 阿樹(shù)
值班主編 | 張來(lái)
排版 | 阿車
熱門跟貼