近年來，人工智能（AI）技術(shù)的迅猛發(fā)展在為各行各業(yè)帶來創(chuàng)新機(jī)遇的同時(shí)，也遇到了諸多問題。
近日，兩則與AI應(yīng)用相關(guān)的新聞事件再次將這一話題推向了公眾視野。3月27日，淘寶宣布全平臺啟動AI假圖治理，迄今已成功攔截近10萬張過度PS或AI夸大的假圖。這一舉措表明，電商平臺正在積極應(yīng)對AI技術(shù)濫用可能帶來的消費(fèi)體驗(yàn)下降和商家權(quán)益受損問題。淘寶方面強(qiáng)調(diào)，AI的正確使用應(yīng)當(dāng)是提升用戶體驗(yàn)、促進(jìn)原創(chuàng)內(nèi)容的創(chuàng)作，并保護(hù)合法商家的利益，而非成為黑灰產(chǎn)牟利的工具。
與此同時(shí)，3月25日，微信小店運(yùn)營團(tuán)隊(duì)發(fā)布了針對教育培訓(xùn)領(lǐng)域的新規(guī)，明確禁止與AI商業(yè)應(yīng)用相關(guān)的課程，如“AI創(chuàng)業(yè)”“獲客”“變現(xiàn)”等內(nèi)容。平臺擔(dān)憂AI技術(shù)在教育領(lǐng)域可能引發(fā)的虛假宣傳和不當(dāng)使用，尤其是涉及AI換臉和換聲等技術(shù)的課程。微信小店此舉旨在規(guī)范AI技術(shù)在教育行業(yè)的應(yīng)用，防止其成為誤導(dǎo)消費(fèi)者的工具。
盡管技術(shù)本身并無過錯(cuò)，但在實(shí)際應(yīng)用中，部分用戶的行為偏離了正軌，導(dǎo)致了負(fù)面影響的產(chǎn)生。正如極目新聞所指出的，AI技術(shù)的應(yīng)用需要在創(chuàng)新與監(jiān)管之間找到平衡，以確保其為社會帶來積極的價(jià)值。
AI狂飆突進(jìn)中的“跑偏”樣本
在AI時(shí)代，數(shù)據(jù)成為關(guān)鍵生產(chǎn)要素。然而，數(shù)據(jù)隱私與安全問題日益突出。安踏集團(tuán)副總裁李玲在近期舉辦的2025全球數(shù)字經(jīng)濟(jì)大會？數(shù)據(jù)要素發(fā)展論壇上指出，數(shù)據(jù)隱私保護(hù)是AI應(yīng)用面臨的核心挑戰(zhàn)之一。企業(yè)在AI應(yīng)用過程中，掌握著大量消費(fèi)者數(shù)據(jù)，如何確保這些數(shù)據(jù)不被泄露與濫用，成為企業(yè)必須面對的問題。
廣電總局近期披露的數(shù)據(jù)顯示，僅2023年下半年，全網(wǎng)累計(jì)監(jiān)測到42.7萬條AI魔改影視片段，其中《紅樓夢》《甄嬛傳》等經(jīng)典IP被篡改為武俠、科幻題材的占比高達(dá)63%。這類內(nèi)容通過算法批量生產(chǎn)，利用觀眾懷舊心理收割流量，導(dǎo)致“劣幣驅(qū)逐良幣”的文化荒漠化現(xiàn)象。
以《紅樓夢》為例，其細(xì)膩的情感描寫、復(fù)雜的人物關(guān)系和深刻的社會洞察是作品的精髓所在，而AI魔改后的“武俠版紅樓夢”，將其變成了簡單的打打殺殺，完全背離了原著的精神內(nèi)核。這種現(xiàn)象不僅誤導(dǎo)了觀眾對經(jīng)典文化的理解，也破壞了文化傳承的根基，長此以往，真正優(yōu)秀的文化作品將被邊緣化，文化創(chuàng)新也將陷入困境。
AI跑偏的現(xiàn)象還出現(xiàn)在電商中。淘寶數(shù)據(jù)顯示，2023年“AI生成商品圖”投訴量同比激增340%，涉及服飾、家居、美妝等12個(gè)類目。某服裝店鋪通過AI生成“超模同款”效果圖，實(shí)際商品與圖片存在色差、版型等23項(xiàng)差異，消費(fèi)者投訴率達(dá)78%。這種“視覺詐騙”正在侵蝕電商平臺的信任基石。
在電商領(lǐng)域，消費(fèi)者主要通過圖片來了解商品信息，AI假圖的泛濫使得消費(fèi)者難以判斷商品的真實(shí)情況。當(dāng)消費(fèi)者收到與圖片相差甚遠(yuǎn)的商品時(shí)，不僅會對購買的商品感到失望，還會對整個(gè)電商平臺的信譽(yù)產(chǎn)生懷疑。以某家居用品為例，消費(fèi)者在網(wǎng)上看到的AI生成圖片中，商品外觀精美、質(zhì)感上乘，但實(shí)際收到的商品卻材質(zhì)粗糙、做工簡陋，與圖片完全不符。這種“視覺詐騙”不僅損害了消費(fèi)者的權(quán)益，也破壞了電商平臺的生態(tài)環(huán)境，影響了平臺的長期發(fā)展。
此前復(fù)旦大學(xué)抽檢發(fā)現(xiàn)，2023屆本科畢業(yè)論文中12%存在AI深度介入痕跡，部分案例出現(xiàn)“數(shù)據(jù)篡改”“邏輯斷裂”等結(jié)構(gòu)性問題。更嚴(yán)峻的是，DeepSeek等工具已進(jìn)化出“論文降重-框架重構(gòu)-文獻(xiàn)綜述”的全流程代寫能力，迫使高校設(shè)立“AI檢測紅線”。雖然在一定程度上可以遏制AI在學(xué)術(shù)領(lǐng)域的濫用，但也需要進(jìn)一步加強(qiáng)學(xué)術(shù)道德教育，提高學(xué)生的自律意識。
湖南省醫(yī)保局披露的典型案例顯示，某患者在DeepSeek指導(dǎo)下自行調(diào)整胰島素劑量，導(dǎo)致酮癥酸中毒入院。這類“AI輕診斷”現(xiàn)象在基層醫(yī)療中尤為突出，2023年全國互聯(lián)網(wǎng)醫(yī)療投訴中，38%涉及AI誤診或用藥建議偏差。醫(yī)療關(guān)乎人們的生命健康，任何決策都必須謹(jǐn)慎。AI在醫(yī)療領(lǐng)域的應(yīng)用本應(yīng)輔助醫(yī)生做出更準(zhǔn)確的診斷，但由于技術(shù)的局限性和數(shù)據(jù)的不完整性，AI誤診的情況時(shí)有發(fā)生。患者對AI診斷的過度依賴，可能會導(dǎo)致嚴(yán)重的健康后果。如上述案例中，患者自行根據(jù)AI建議調(diào)整胰島素劑量，結(jié)果引發(fā)了嚴(yán)重的健康問題。這不僅損害了患者的健康權(quán)益，也降低了公眾對醫(yī)療行業(yè)的信任度。醫(yī)療行業(yè)需要更加謹(jǐn)慎地應(yīng)用AI技術(shù)，加強(qiáng)對AI醫(yī)療產(chǎn)品的監(jiān)管，確保其準(zhǔn)確性和可靠性。
騰訊封禁的AI創(chuàng)富課程中，宣稱“月入20萬”的營銷話術(shù)屢見不鮮。某頭部MCN機(jī)構(gòu)數(shù)據(jù)顯示，AI教育賽道在2023年融資額達(dá)47億元，但課程完課率不足15%，學(xué)員轉(zhuǎn)化率低于0.3%，暴露出“割韭菜”式的商業(yè)模式。AI教育市場的快速發(fā)展，吸引了大量資本的涌入，但其中不少課程存在虛假宣傳、質(zhì)量低下等問題。一些課程打著“AI創(chuàng)富”的旗號，向?qū)W員承諾高額收入，但實(shí)際教學(xué)內(nèi)容空洞無物，無法幫助學(xué)員實(shí)現(xiàn)目標(biāo)。這種“割韭菜”式的商業(yè)模式，不僅損害了學(xué)員的利益，也破壞了AI教育行業(yè)的聲譽(yù)。
打響“AI跑偏”治理第一槍？
電商行業(yè)中，AI假圖泛濫已成為嚴(yán)重影響消費(fèi)者體驗(yàn)和市場秩序的頑疾。AI假圖是指利用AI等技術(shù)合成方式呈現(xiàn)顯著失真的與實(shí)際不符的商品效果圖，包括 AI虛構(gòu)商品效果、抄襲拼接原創(chuàng)款式、篡改商品材質(zhì)或功能、偽造拼接虛假場景等。這些AI假圖的大量存在，既誤導(dǎo)消費(fèi)者，侵犯消費(fèi)者知情權(quán)，又?jǐn)_亂商家生態(tài)，導(dǎo)致劣幣驅(qū)逐良幣。
為解決這一問題，淘寶率先行動。3月27日，淘寶正式發(fā)布新規(guī)，明確認(rèn)定“商品材質(zhì)或款式不符”“效果失真或夸大效果”“不存在場景導(dǎo)致商品失真”“摳圖貼圖感明顯失真”等AI假圖典型場景，并上線識別模型，通過“源頭攔截”“存量清理” 和 “標(biāo)識提醒”等舉措，對平臺AI假圖進(jìn)行全面治理。
在商品發(fā)布端，淘寶實(shí)時(shí)檢測和攔截失真圖片；在商品詳情頁上線AI合成提示標(biāo)識，保障消費(fèi)者的知情權(quán)。截至目前，平臺已累計(jì)攔截過度PS、AI夸大的假圖近10萬張。同時(shí)，淘寶向全行業(yè)發(fā)出倡議，呼吁規(guī)范使用AI生成圖片，保障商品信息真實(shí)，共同加入對AI假圖的全面治理，推動行業(yè)回歸品質(zhì)競爭。
在教育領(lǐng)域，AI的應(yīng)用也引發(fā)了諸多問題，高校和教育平臺紛紛出臺限制措施。
高校學(xué)生利用AI工具輔助論文寫作、完成作業(yè)的現(xiàn)象日益普遍，甚至出現(xiàn)學(xué)術(shù)不端行為。近三成學(xué)生在寫論文或作業(yè)時(shí)使用AI工具，部分學(xué)生利用AI偽造研究數(shù)據(jù)、進(jìn)行實(shí)驗(yàn)圖片編輯等。為規(guī)范學(xué)生行為，復(fù)旦大學(xué)出臺“六個(gè)禁止”規(guī)定，明確允許和禁止使用 AI 工具的范圍，嚴(yán)重違規(guī)者論文成績不合格；天津科技大學(xué)要求學(xué)生論文中智能生成內(nèi)容比例原則上不超過40%；北京郵電大學(xué)、中國傳媒大學(xué)等多所高校也在試行或出臺相關(guān)規(guī)定。
教育平臺方面，騰訊課堂宣布對平臺上的AI課程進(jìn)行全面下架治理整頓。當(dāng)前 AI課程市場魚龍混雜，部分課程存在虛假宣傳、誤導(dǎo)消費(fèi)者等問題。一些課程夸大教學(xué)效果，承諾學(xué)員輕松月入二十萬等不切實(shí)際的收益，引發(fā)大量投訴和糾紛。騰訊課堂此舉旨在凈化平臺環(huán)境，保障消費(fèi)者權(quán)益，促進(jìn) AI 教育行業(yè)的健康發(fā)展。
為遏制AI“魔改”亂象，廣電總局發(fā)布《管理提示 (AI 魔改)》，要求排查清理相關(guān)短視頻，落實(shí)生成式人工智能內(nèi)容審核要求，對平臺相關(guān)技術(shù)產(chǎn)品進(jìn)行自查和嚴(yán)格準(zhǔn)入監(jiān)看。通過加強(qiáng)監(jiān)管，規(guī)范 AI 在影視創(chuàng)作中的應(yīng)用，保護(hù)原創(chuàng)作品的知識產(chǎn)權(quán)，維護(hù)影視行業(yè)的正常秩序。
在醫(yī)療行業(yè)，AI的應(yīng)用雖然具有一定潛力，但也存在巨大風(fēng)險(xiǎn)。以DeepSeek為例，其在醫(yī)療領(lǐng)域的使用引發(fā)了諸多爭議。廣東一位醫(yī)學(xué)博主稱病人因 DeepSeek 質(zhì)疑其治療方案，還有醫(yī)生博主遇到病人拿 DeepSeek 診斷方案要求開藥的情況。
鑒于醫(yī)療安全的重要性，湖南省醫(yī)療保障局發(fā)布通知，嚴(yán)禁互聯(lián)網(wǎng)醫(yī)院使用人工智能等自動生成處方。國家衛(wèi)健委等也出臺了對人工智能使用的限制規(guī)定。從法律層面來看，個(gè)人使用DeepSeek 看病出現(xiàn)誤診，DeepSeek 一方通常無需擔(dān)責(zé)；若醫(yī)生直接采用其處方給患者，一旦發(fā)生醫(yī)療事故則需擔(dān)責(zé)。專家也提醒，應(yīng)審慎對待人工智能醫(yī)療建議，身體不適要去正規(guī)醫(yī)院就診，以確保醫(yī)療安全和質(zhì)量。
AI健康發(fā)展需法規(guī)與自律協(xié)同
為應(yīng)對AI發(fā)展帶來的數(shù)據(jù)安全與隱私保護(hù)挑戰(zhàn)，法規(guī)層面需進(jìn)一步完善相關(guān)制度。比如應(yīng)強(qiáng)制執(zhí)行數(shù)據(jù)最小化原則，要求企業(yè)在AI應(yīng)用過程中，僅收集與業(yè)務(wù)需求直接相關(guān)的數(shù)據(jù)，避免過度收集用戶數(shù)據(jù)。安踏集團(tuán)在AI應(yīng)用中，就通過建立嚴(yán)格的數(shù)據(jù)訪問權(quán)限管理機(jī)制，確保消費(fèi)者數(shù)據(jù)的安全與隱私。
要完善《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》等法律法規(guī)，明確數(shù)據(jù)所有權(quán)歸屬與數(shù)據(jù)使用規(guī)則。在數(shù)據(jù)交易過程中，應(yīng)建立健全數(shù)據(jù)交易市場監(jiān)管機(jī)制，規(guī)范數(shù)據(jù)交易行為，防止數(shù)據(jù)泄露與濫用。
算法透明化是保障AI公平性與可解釋性的關(guān)鍵。法規(guī)應(yīng)推行算法備案制度，要求企業(yè)對用于高風(fēng)險(xiǎn)領(lǐng)域（如醫(yī)療、金融）的AI模型進(jìn)行備案，并通過可解釋性測試，確保模型決策過程能夠被理解與監(jiān)督。
同時(shí)，建立AI算法風(fēng)險(xiǎn)等級評估體系，根據(jù)模型的應(yīng)用場景、數(shù)據(jù)來源、影響范圍等因素，對生成式AI內(nèi)容實(shí)施分類分級監(jiān)管。對于醫(yī)療、金融等關(guān)鍵領(lǐng)域的AI應(yīng)用，應(yīng)設(shè)定更高的安全標(biāo)準(zhǔn)與監(jiān)管要求，確保技術(shù)的穩(wěn)健性與可靠性。
針對算力與能源消耗問題，法規(guī)需制定算力基礎(chǔ)設(shè)施建設(shè)與運(yùn)營標(biāo)準(zhǔn)，推動國產(chǎn)芯片研發(fā)與應(yīng)用，降低對進(jìn)口芯片的依賴。在數(shù)據(jù)中心建設(shè)方面，應(yīng)強(qiáng)制要求使用可再生能源，提高能源利用效率，減少碳排放。
企業(yè)在AI應(yīng)用過程中，應(yīng)承擔(dān)起社會責(zé)任，建立健全AI倫理框架。推廣“AI對齊技術(shù)”，確保AI模型的輸出符合人類價(jià)值觀與道德標(biāo)準(zhǔn)。騰訊在AI產(chǎn)品研發(fā)過程中，引入了倫理審查機(jī)制，對模型的設(shè)計(jì)、訓(xùn)練與應(yīng)用進(jìn)行全程監(jiān)督，避免技術(shù)濫用。
同時(shí)，建立行業(yè)聯(lián)盟，如“北京前沿算法協(xié)同創(chuàng)新矩陣”，整合行業(yè)內(nèi)的技術(shù)、算力與數(shù)據(jù)資源，共同開展關(guān)鍵技術(shù)研發(fā)與安全防護(hù)體系建設(shè)，提升行業(yè)整體的技術(shù)水平與安全保障能力。
AI技術(shù)的“跑偏”，本質(zhì)上是人類在技術(shù)應(yīng)用過程中的失范，而非技術(shù)本身的問題。通過法規(guī)迭代與行業(yè)自律的協(xié)同作用，可以引導(dǎo)AI回歸“賦能”本質(zhì)，成為推動社會經(jīng)濟(jì)發(fā)展的重要力量。
未來，在發(fā)展AI技術(shù)的同時(shí)，需更加注重平衡創(chuàng)新與治理的關(guān)系，避免“技術(shù)巨獸”失控帶來的風(fēng)險(xiǎn)。同時(shí)，積極推動全球協(xié)作，構(gòu)建人類命運(yùn)共同體，讓AI技術(shù)真正造福全人類。
作 者 |元方
熱門跟貼