近日，名為“嬋寶小助理”“全妹福利號”等多個賬號，使用全紅嬋賽后接受采訪和家人直播的畫面，用AI合成相應(yīng)的聲音，在社交平臺發(fā)布視頻。以“全紅嬋家建別墅”“全紅嬋為觀眾送上福利”等話題吸引觀眾，博取流量。
視頻里呈現(xiàn)全紅嬋受訪的畫面，內(nèi)容卻被AI篡改為介紹土蜂蜜、駱駝奶粉、洗衣凈等商品，并推薦觀看者點(diǎn)擊商品鏈接購買。評論區(qū)有用戶被合成視頻欺騙，表示“支持全紅嬋，值得購買。”
▲社交媒體上的合成視頻帶貨截圖
4月29日，全紅嬋父親告訴記者，有人用AI偽造一家人聲音賣蜂蜜，他們也沒有辦法?！皫臀冶僦{一下，我沒有賣這東西，什么蜂蜜才十幾塊錢一斤，拿糖來搞都搞不到?！?/p>
據(jù)悉，全紅嬋的父母長期靠種植水果維持生計(jì)，全紅嬋的大哥全進(jìn)華是一名三農(nóng)主播，帶貨湛江本地的特產(chǎn)水果，全紅嬋的母親也時常入鏡，全家人直播帶貨曾引發(fā)不少網(wǎng)友的質(zhì)疑。
對此，全進(jìn)華在采訪中表示：“我現(xiàn)在在自媒體上發(fā)發(fā)視頻，主要是想帶動‘三農(nóng)’產(chǎn)品進(jìn)行銷售。為什么做這個呢？一是我媽媽身體不好，做這個比較自由，可以兼顧照顧長輩。二是我們這邊種有很多水果，特別是菠蘿，每隔幾年就會出現(xiàn)滯銷。因?yàn)榉N得太多，行情波動較大，沒人來收的話，水果就爛在地里，所以我想幫一下他們。”
他說：“雖然我還不是個（流量）很大的博主，也不一定能賣出很多東西，但我希望盡自己能力幫助家人、村里乃至湛江以及其他地方的農(nóng)產(chǎn)品進(jìn)行銷售?！?/p>
━━━━━
此前曾有多位明星被AI侵權(quán)
2024年4月，北京互聯(lián)網(wǎng)法院宣判全國首例“AI聲音侵權(quán)案”，明確認(rèn)定在具備可識別性的前提下，自然人聲音權(quán)益的保護(hù)范圍可及于AI生成聲音。法院認(rèn)為，未經(jīng)權(quán)利人許可，擅自使用或許可他人使用錄音制品中的聲音構(gòu)成侵權(quán)。
今年兩會期間，全國人大代表、小米集團(tuán)創(chuàng)始人雷軍建議“加強(qiáng)‘AI換臉擬聲’違法侵權(quán)治理”，并表示他本人也曾是“AI換臉擬聲”的“受害者”。
早前短視頻平臺上曾出現(xiàn)大量“雷軍AI配音”的惡搞視頻，涉及堵車、調(diào)休、游戲等熱門話題，雷軍兩會期間回應(yīng)，“一開始我還覺得這是網(wǎng)民喜聞樂見的一種方式，但是隨著內(nèi)容越來越多，網(wǎng)友們也都在投訴。”為此，他呼吁盡快出臺相關(guān)治理措施。
同樣，全國政協(xié)委員靳東也回應(yīng)了AI換臉導(dǎo)致的詐騙問題，并表示“一些喜歡我影視劇的觀眾，被AI換臉視頻騙得很慘，這個性質(zhì)非常惡劣，希望能建立更好的規(guī)則?！?/p>
此前，有網(wǎng)友向演員劉曉慶反饋有人在視頻號AI生成視頻假冒她。劉曉慶轉(zhuǎn)發(fā)并配文：“天哪，我點(diǎn)進(jìn)去看了一下，畫面是我，聲音很像我，但不是我！這是怎么做到的？大家以后不會搞不清楚哪個才是真的我了吧？我在各個平臺都叫劉曉慶！”
4月18日，張馨予發(fā)文表示：“近期發(fā)現(xiàn)有品牌AI復(fù)制我的聲音，未經(jīng)授權(quán)編造剪輯廣告視頻，還有減肥藥廣告，我覺得這樣的行為很惡劣。在此說明我從來沒有推薦過任何減肥藥，有商家利用Ai技術(shù)非法剪輯投放廣告，我一定追究到底?！?/p>
河南澤槿律師事務(wù)所主任付建稱，通過AI技術(shù)冒用他人聲音的行為屬于違法行為。根據(jù)《中華人民共和國民法典》，對自然人聲音的保護(hù)參照適用肖像權(quán)保護(hù)的有關(guān)規(guī)定。而商家利用AI篡改專家說辭進(jìn)行直播賣貨既侵犯了專家有關(guān)聲音的人格權(quán)益，也可能損害了專家的名譽(yù)權(quán)以及肖像權(quán)。
同時，這種打廣告的行為也涉及虛假廣告宣傳，如果所賣商品沒有宣傳效果還構(gòu)成消費(fèi)者欺詐，違反了《反不正當(dāng)競爭法》和《消費(fèi)者權(quán)益保護(hù)法》有關(guān)規(guī)定，有可能面臨罰款、吊銷營業(yè)執(zhí)照等行政責(zé)任以及相應(yīng)的民事賠償責(zé)任，情節(jié)嚴(yán)重的還涉及刑事犯罪。
“平臺有權(quán)依據(jù)《互聯(lián)網(wǎng)信息服務(wù)管理辦法》《電子商務(wù)法》以及平臺規(guī)則履行監(jiān)管義務(wù)，對違法商家采取封禁賬號、限流等處理措施。如果未及時采取合理措施導(dǎo)致?lián)p害擴(kuò)大的，對擴(kuò)大部分與不法商家承擔(dān)連帶責(zé)任?！备督ū硎?。
━━━━━
觀點(diǎn)
用AI合成全紅嬋家人聲音，這樣的帶貨走火入魔了
從全紅嬋家里建房、古天樂“被游戲代言”、張馨予“賣減肥藥”，這些事件背后，都是不法分子在利用AI技術(shù)，明目張膽地偽造公眾人物的形象和聲音，或者生造出來某個人物形象，蓄意欺騙消費(fèi)者，以謀取非法收益。
具體到“全紅嬋家人事件”，聲音作為具有個人標(biāo)識性特征的信息，未經(jīng)本人授權(quán)就被隨意用于商業(yè)行為，這已構(gòu)成對個人肖像權(quán)、名譽(yù)權(quán)以及聲音相關(guān)權(quán)益的侵犯，相關(guān)偽造者的行為涉嫌違法犯罪。
而消費(fèi)者在不知情的情況下，基于對全紅嬋及其家人的信任和支持下單購買商品，結(jié)果卻發(fā)現(xiàn)自己上當(dāng)受騙，不僅蒙受經(jīng)濟(jì)損失，更會對類似網(wǎng)絡(luò)信息的真實(shí)性產(chǎn)生懷疑。從長遠(yuǎn)來看，此類事件沖擊的將是整個短視頻平臺消費(fèi)市場的信任環(huán)境。
AI合成技術(shù)是一把雙刃劍。一方面，它極大提升了信息生產(chǎn)與傳播的效率；另一方面，技術(shù)濫用導(dǎo)致信息真假難辨，給監(jiān)管帶來巨大挑戰(zhàn)。AI合成信息易誤導(dǎo)公眾，干擾判斷與決策，還增加了監(jiān)管部門發(fā)現(xiàn)和查處虛假信息的難度，容易引發(fā)社會亂象。
同時，由于網(wǎng)絡(luò)信息傳播迅速且范圍廣泛，虛假信息一旦發(fā)布，難以有效控制，溯源和處理成本很高，這對傳統(tǒng)監(jiān)管模式和技術(shù)手段提出了新的更高要求。
面對AI合成技術(shù)被濫用這一新難題，國家互聯(lián)網(wǎng)信息辦公室等四部門聯(lián)合發(fā)布了《人工智能生成合成內(nèi)容標(biāo)識辦法》，定于2025年9月1日起正式施行。該辦法為AI生成內(nèi)容設(shè)定了明確的標(biāo)識規(guī)范，讓以往難以辨別的AI作品必須“持證上崗”，清晰標(biāo)注其AI生成身份，相當(dāng)于在源頭上為AI合成信息套上了“緊箍咒”。
在此基礎(chǔ)上，還要加大對侵權(quán)行為的懲罰力度，讓違法者付出高昂代價，才能讓他們畏于造假售假。
對平臺而言，當(dāng)務(wù)之急是提升技術(shù)手段，對AI合成內(nèi)容進(jìn)行識別和標(biāo)注，“用AI打敗AI”，及時清理虛假信息，對違規(guī)賬號進(jìn)行封禁處理。
而作為普通消費(fèi)者，在AI合成日益被濫用的趨勢下，尤其要提高辨別能力和防范意識，不要輕信、傳播未經(jīng)證實(shí)的消息，更不要輕易地“一鍵下單”。
總之，只有讓AI合成技術(shù)的應(yīng)用真正規(guī)范起來，才能避其短、揚(yáng)其長，營造健康、真實(shí)、可信的網(wǎng)絡(luò)環(huán)境和消費(fèi)市場，讓AI真正服務(wù)人，而不是成為騙子的工具。
撰稿/和生（媒體人） 編輯/遲道華 校對/李立軍
來源 封面新聞、九派新聞、新京報(bào)此前報(bào)道、網(wǎng)友評論
值班編輯 康嘻嘻 古麗 實(shí)習(xí)生 康斯諾
星標(biāo)“新京報(bào)”
及時接收最新最熱的推文
點(diǎn)擊“在看”，分享熱點(diǎn)
熱門跟貼