不是，現(xiàn)在AI造假都這么離譜了嘛？
前幾天央視曝光了“苗古金貼”騙局，這款產(chǎn)品宣傳的名頭可不小，號稱由傳承“千年秘方”的非遺傳承人制作，而且還有模有樣曬出了“非遺傳承人”證書跟“非遺傳承人”照片，這下子銷量猛漲，登上了電商暢銷榜，總銷量幾十萬，當(dāng)真是恐怖。
圖片來源：央視新聞
結(jié)果媒體深挖下去，傳承人的照片實際上是AI生成的，臉部表情僵硬、手掌有六指、光線美顏到離譜、一眼假。
而所謂的“非遺傳承人”證書乃是機構(gòu)非法制作，花兩三千塊錢就能夠買到；“苗古金貼”則是由第三方代工廠貼牌生產(chǎn)，成本不到10塊錢?！扒昝胤健?、“專治頸椎問題”只不過是借助AI來割韭菜的騙局。
圖片來源：央視新聞
AI生成的人物、偽造的品牌證書、貼牌生產(chǎn)的產(chǎn)品，整個事件就魔幻起來了。最后有關(guān)部門介入，對相關(guān)企業(yè)和涉案人立案調(diào)查，這波賣假藥的就等著法律的審判吧。
圖片來源：央視新聞
這件事也讓小雷想起以前電視上那位“做出違背祖宗決定”的“神醫(yī)”，同樣是各種光環(huán)加身，家族傳承得到的藥方，也是公然兜售假藥。
只不過以前的“神醫(yī)”是出現(xiàn)在電視，還是真人，現(xiàn)在的“神醫(yī)”是出現(xiàn)再互聯(lián)網(wǎng)，還是AI生成的，真“查無此人”。
但電視上的“神醫(yī)”起碼起碼還有真人出鏡扮演“神醫(yī)”，這點“情緒價值”多多少少增加點可信度。
圖片來源：澎湃新聞
哪像“苗古金貼”這么離譜，直接AI生成人物圖片就出來騙，偏偏還有這么多人上當(dāng)，整個事件都讓小雷覺得不可思議卻又真實發(fā)生了，只能說世界就是個草臺班子。
“失控”的AI技術(shù)
今年是AI技術(shù)蓬勃發(fā)展的年份，AI生成圖片、AI生成視頻、AI生成代碼這樣的功能也都被AI企業(yè)開發(fā)出來了，可以說現(xiàn)階段的AI技術(shù)已經(jīng)進入了一個新階段，
此前央視315晚會就曝光了AI詐騙的違法行為，目前比較常見的主要有AI聲音合成與AI換臉兩種，而且隨著AI技術(shù)的不斷進步，成本越來越低，只需花費幾十元，就可定制AI深度合成名人音頻視頻。
圖片來源：央視財經(jīng)
而且圍繞AI技術(shù)還形成了外呼產(chǎn)業(yè)鏈，外呼公司使用人工智能機器人撥打營銷電話，機器人不知疲倦，不管白天黑夜都可以撥打營銷電話；而且外呼公司事先用真人錄音進行AI克隆復(fù)制成機器人的聲音，這樣一來使得接聽者根本難以分辨電話那頭的究竟是人，還是機器人。
小雷就曾接到這樣的外呼AI電話，兩三分鐘里確實很難聽出來是真人還是AI，后面是發(fā)現(xiàn)對面沒有換氣聲，所以才判斷出來是AI，但足以迷惑他人了。
此外據(jù)新京報報道，現(xiàn)今圍繞AI技術(shù)也形成了一條完整的黑色產(chǎn)業(yè)鏈：上游技術(shù)負(fù)責(zé)兜售“AI換臉套餐”，中游則利用非法獲取的個人信息來投放詐騙信息，下游則通過虛擬貨幣、跑分平臺等渠道轉(zhuǎn)移資金。技術(shù)、數(shù)據(jù)、資金”三位一體“，織了一張AI詐騙的大網(wǎng)，讓許多用戶深陷其中。
這兩年利用AI技術(shù)冒充名人實施不法行為事件時有發(fā)生，張文宏、靳東、雷軍等名人都深受其害：騙子用“AI靳東”實施詐騙，許多女性消費者上當(dāng)；張文宏醫(yī)生“帶貨”沖上熱搜，但這是AI換臉之后的“張文宏”，稍微懂點AI的小伙伴一眼就能看出來是假的，可還是有不少老年人上當(dāng)，在“AI張文宏”處買了產(chǎn)品。
此事也讓張文宏醫(yī)生無奈，他也曾向媒體透露自己投訴無門，不勝其擾。
圖片來源：央視新聞
雷軍的遭遇更離譜，2024年國慶節(jié)期間“雷軍語音包”引熱議，許多以“雷軍”聲音為配音的內(nèi)容在社交平臺迅速傳播，“銳評”假期堵車、游戲等話題，這其中也出現(xiàn)了不少污言穢語。以至于出現(xiàn)了”國慶7天，被AI雷軍罵了8天”的調(diào)侃。
雷軍本人還專門為此發(fā)了個視頻，呼吁大家不要再用自己的聲音惡搞。
靳東、雷軍等名人的遭遇也讓我們看到了AI技術(shù)濫用的后果，以前講究耳聽為實、眼見為實，但在互聯(lián)網(wǎng)AI時代，耳朵聽到的有可能是假的，眼睛看到的也不一定是真實的。
并且利用AI技術(shù)圍獵的不僅僅是老年人，即便是年輕人也會掉進坑中。據(jù)東南早報報道，福建一公司老板郭某接到了“好友”的視頻通話，對方向郭某借錢，不到十分鐘的時間里郭某就被騙走430萬元，事后才發(fā)現(xiàn)電話那頭是好友的“數(shù)字替身”——臉是直接AI換的，聲音也是用AI擬聲技術(shù)合成的。問題是受害者對此一點警覺都沒有，這就有點可怕了。
難怪有人會擔(dān)心，以前還可以通過觀察眼睛、頭發(fā)、手指等來辨別是否是AI生成，現(xiàn)在這些伎倆都不太好使了。若是AI再發(fā)現(xiàn)下去，怕是真可以達到以假亂真的效果。
給AI技術(shù)戴上“緊箍咒”
小雷很喜歡一句話，技術(shù)本無善惡之分，有善惡之分的是使用技術(shù)的人，這句話就是對AI最好、最準(zhǔn)確的描述。AI用得好可以幫助人類提高效率、更好地處理復(fù)雜繁多的事務(wù)；而當(dāng)AI技術(shù)被用于誤導(dǎo)消費者、實施不法行為之時，平臺與監(jiān)管者就成為幫兇。
像前面提到的“苗古金貼”騙局，靠著AI生成的圖片就可以堂而皇之出來賣假貨，這其中暴露的正是電商平臺審核制度的缺陷。像電商暢銷榜等榜單，平臺是否有審核過登上榜單的相關(guān)店鋪的資質(zhì)？是否有對店鋪投放的廣告進行排查？如果平臺不重視起來，加強對內(nèi)容的審核，像“苗古金貼”這種AI生成的假人都能過審的離譜事件，以后只怕會越來越多。
圖片來源：中國質(zhì)量報
想要斬斷“苗古金貼”、“AI雷軍”等AI技術(shù)“惡之花”，還需要監(jiān)管部門的介入，盡快制訂AI技術(shù)行業(yè)的統(tǒng)一規(guī)范，明確AI生成技術(shù)、數(shù)字人使用的使用范圍和條件，讓技術(shù)能更好地為人類服務(wù)。
而對于消費者來說，要懂得保護自己的個人信息，像面部識別、指紋等個人生物信息，能不錄就不錄；身份證號碼、銀行卡號、手機驗證碼等敏感信息也不要隨意泄露給他人，免得悔之晚矣。
此外在涉及到資金、關(guān)鍵信息等方面的溝通，還是要留個心眼，通過多種方式來核實對方的真實身份。
畢竟這年頭大家賺錢都不容易，要是被AI技術(shù)騙走了，那可真是得不償失了。
總結(jié)
還記得幾年前AI技術(shù)剛飛速發(fā)展的時候，有不少人視AI技術(shù)如洪水猛獸，覺得應(yīng)該將AI扼殺在搖籃里。
小雷看來這種想法還是有失偏頗的，新事物的誕生往往都要經(jīng)歷一番曲折的發(fā)展，才能夠逐漸為世人所接受。
AI也是如此，人類要做的就是引導(dǎo)AI健康發(fā)展，讓AI真正為我們所用。而不是在技術(shù)泛濫的時代里，還要用AI給人類添堵。
像AI換臉詐騙、AI圖片謀取不當(dāng)收益等行為肯定是要制止的，除了嚴(yán)厲打擊之外，還需要一套全面、完整的行業(yè)標(biāo)準(zhǔn)，將AI技術(shù)關(guān)進籠子里，才能讓AI更好為人類服務(wù)。
熱門跟貼