打開網(wǎng)易新聞 查看精彩圖片

AI不僅能替你上學(xué),幫你寫作業(yè),甚至還能為你領(lǐng)筆“補(bǔ)助金”回來——不過,前提是你得先教它怎么騙過活人。

這魔幻現(xiàn)實(shí)的一幕正在美國社區(qū)大學(xué)上演:詐騙集團(tuán)用ChatGPT等等AI工具批量生成學(xué)生身份,專門盜取聯(lián)邦和州政府的助學(xué)補(bǔ)貼。

這些“賽博學(xué)生”比人類更善于“賣慘”,無家可歸學(xué)生和寄養(yǎng)青年的身份偽裝幫助他們更快通過申請(qǐng)。課堂表現(xiàn)更堪稱模范,不僅能搶課占位,出勤率甚至比真學(xué)霸還高,還能準(zhǔn)時(shí)交作業(yè)。

魔幻的背后,是技術(shù)與人性的博弈。YouTube上,甚至有人發(fā)布“教學(xué)”視頻,展示了自動(dòng)化程序如何繞過Contra Costa College的入學(xué)審核系統(tǒng)。

這些“賽博學(xué)生”已經(jīng)幫助詐騙集團(tuán)收割了數(shù)百萬美金。根據(jù)CalMatters,2022年6月,教育部對(duì)洛杉磯海港學(xué)院(Los Angeles Harbor College)和西洛杉磯學(xué)院(West Los Angeles College)一個(gè)詐騙集團(tuán)展開調(diào)查,該集團(tuán)在過去四年中利用至少57人的身份竊取超過110萬美元聯(lián)邦援助。洛杉磯城市學(xué)院(Los Angeles City College)另一詐騙案可能涉及超過100萬美元,盜用70人身分。

校方也不得不為此支付高昂的費(fèi)用,借助專業(yè)的技術(shù)手段偵破騙局。加州校長辦公室統(tǒng)計(jì),2023年社區(qū)大學(xué)申請(qǐng)者中高達(dá)25%是機(jī)器人,而校方為此支付的防欺詐費(fèi)用已超過25萬美元。

然而,這場校園騙局不過是AI侵蝕現(xiàn)實(shí)世界的冰山一角。

從偽造“全紅嬋家新房開工”的帶貨視頻,到用雷軍的聲音生成罵人內(nèi)容;從“假靳東”騙取老人20萬元,到寶媽被AI戀人騙走200萬元,AI詐騙已滲透社交、消費(fèi)、金融的每一個(gè)縫隙。

在這場AI技術(shù)與人類的認(rèn)知攻防戰(zhàn)中,人類正面臨一場前所未有的信任危機(jī)——我們還能相信自己的眼睛和耳朵嗎?

01

AI學(xué)霸攻陷社區(qū)大學(xué)

“賽博學(xué)生”們的偽裝也并非毫無破綻。

2023年,伯克利市立學(xué)院(Berkeley City College)圖書館員道奇(Heather Dodge)在線上課程中要求學(xué)生用iPhone或網(wǎng)路攝影機(jī)拍攝基本自我介紹的影片作業(yè),但發(fā)現(xiàn)4名學(xué)生提交的是類似ChatGPT生成的泛泛文字。

道奇開始懷疑他們的學(xué)生身份,但因?yàn)閾?dān)心存在偏見,她要求對(duì)他們分別進(jìn)行Zoom會(huì)議。其中兩人沒回應(yīng),一名學(xué)生同意進(jìn)行視頻會(huì)議,但表示攝影機(jī)和麥克風(fēng)無法使用,另一名學(xué)生幾乎不會(huì)說英語,每次透過Zoom提問,都用手機(jī)翻譯。

除此以外,還出現(xiàn)了大量回復(fù)內(nèi)容明顯不合常理、幾乎不可能是人類所寫的賬戶。例如有的注冊(cè)賬號(hào)會(huì)在自我介紹中寫出“你好,我是 [請(qǐng)輸入城市名稱] 的學(xué)生”這類明顯的程序模板語句,或者使用學(xué)生通常不會(huì)用的文法。

這些“賽博學(xué)生”通過注冊(cè)課程并保持足夠長的注冊(cè)時(shí)間,為了維持在校身份,TA們會(huì)提交由 AI 生成的作業(yè)。

TA們的目標(biāo)是社區(qū)大學(xué)的助學(xué)金。作為兩年制的公立大學(xué),美國社區(qū)大學(xué)學(xué)費(fèi)通常低于四年制大學(xué)。由于招生對(duì)象以本地學(xué)生為主,州和聯(lián)邦政府也會(huì)提供助學(xué)金支持。

加州法律要求社區(qū)大學(xué)接受所有合法學(xué)生,且長期致力降低注冊(cè)門檻,學(xué)生需簽署宣誓書,保證其資訊真實(shí)性,但許多大學(xué)不會(huì)獨(dú)立核實(shí)學(xué)生身分。部分學(xué)院聲稱對(duì)無家可歸或曾寄養(yǎng)青年的申請(qǐng)者較為寬松,這一漏洞正被詐騙者利用。

打開網(wǎng)易新聞 查看精彩圖片

等到助學(xué)金發(fā)放后,“賽博學(xué)生”再退課,從中獲取資金。

教師們也面臨甄別真假學(xué)生的挑戰(zhàn)。Southwestern College 教授伊麗莎白?史密斯透露,她原本課程注冊(cè)的 104 人中,僅確認(rèn)其中 15 人為真實(shí)學(xué)生,其余均被她判斷為機(jī)器人。“起初我還為課程受歡迎感到開心,現(xiàn)在只剩下滿心失望。”

但在許多情況下,人工判斷并不容易,還需要借助專業(yè)的技術(shù)手段,當(dāng)然也需要學(xué)校支付不菲的費(fèi)用。

洛杉磯社區(qū)學(xué)院副校長洛佩茲(Nicole Albo-Lopez)表示,去年因詐欺行為,學(xué)區(qū)刪除約四分之一課程注冊(cè),學(xué)校向身份驗(yàn)證公司Socure支付超過25萬美元協(xié)助偵測詐欺。

當(dāng)“賽博學(xué)生”在校園中悄然蠶食教育資源時(shí),一場AI信任危機(jī)正在社會(huì)各個(gè)角落悄然蔓延。

02

AI騙局隨處可見

AI詐騙的觸角早已突破校園圍墻,在國內(nèi),自帶光環(huán)的公眾人物正在成為首批大規(guī)模受害者。

近日,社交平臺(tái)上出現(xiàn)多個(gè)賬號(hào)使用AI合成的全紅嬋爸爸、哥哥聲音,用完全相同的文案介紹家里要蓋新房,以此來博取流量。

在AI合成視頻中攜帶有駱駝奶粉、土雞蛋、洗衣液等多種商品鏈接,流量較大的仿冒作品評(píng)論區(qū)中,不乏有人被騙下單購買,部分消費(fèi)者收到三無產(chǎn)品后投訴無門。

事實(shí)上,利用AI偽造視頻的現(xiàn)象并不罕見,此前曾有多位明星成為AI偽造視頻的素材。

半個(gè)月前,張馨予公開譴責(zé)商家用 AI 合成其聲音推銷減肥藥。一個(gè)月前,劉曉慶也遭遇 AI 換臉視頻冒用,公開表示 “聲音像我卻非我”。

“去年‘十一’,有網(wǎng)友說過了7天假,被我整整罵了8天。是什么(情況)?網(wǎng)上出現(xiàn)了非常多(AI生成的)用我的聲音罵人的內(nèi)容。”今年3月,小米集團(tuán)創(chuàng)始人雷軍在兩會(huì)期間就表示,他本人就是AI換臉擬聲的受害者。

“假靳東”詐騙老年人、“國慶7天AI雷軍罵了8天”、“張文宏”深夜帶貨等一眾AI假冒名人的新聞?lì)l頻出現(xiàn)在熱搜榜單上,已經(jīng)引起今年兩會(huì)代表委員的高度關(guān)注,呼吁通過法律手段來加強(qiáng)對(duì)AI詐騙的管理和約束。

與此同時(shí),AI 詐騙早已突破名人圈,滲透至社交陷阱、消費(fèi)欺詐和信息泄露等生活高頻場景。

不久前,AI假孫子的視頻就讓不少老年人深陷其中,視頻里穿紙尿褲的嬰兒獨(dú)自去地里摘茄子、洗凈后還能抄起菜刀給全家做三菜一湯。這些違背常理的內(nèi)容,在年輕人看來簡直讓人難以置信,卻絲毫不影響評(píng)論區(qū)“幸福時(shí)光”“幸??鞓贰钡壤夏暧脩袅粝曼c(diǎn)贊和祝福。

如果說面對(duì)AI假孫子,老年人只是投入感情,那在面對(duì)假“靳東”的時(shí)候,則是情感金錢雙投入。在假“靳東”詐騙案中,其中最典型的一例是60歲阿姨向假靳東轉(zhuǎn)賬近20萬元。

打開網(wǎng)易新聞 查看精彩圖片

圖源:AI生成

傳統(tǒng)電詐中,詐騙分子集中圍獵“一老一少”的情況比較常見,面對(duì)完全可以以假亂真的AI詐騙,年輕人也和老年人一樣沒有招架之力。

利用換臉和換聲技術(shù),AI 化身“虛擬戀人”,用精心設(shè)計(jì)的話術(shù)和人設(shè),把受害人迷得暈頭轉(zhuǎn)向,最后露出“騙錢”的真面目,類似網(wǎng)絡(luò)交友詐騙案例屢見不鮮。

據(jù)《中國青年報(bào)》報(bào)道,2023年,寶媽王枚(化名)在境外求學(xué)期間通過社交平臺(tái)結(jié)識(shí)偽裝成房東的男性網(wǎng)友,對(duì)方利用AI換臉換聲技術(shù)獲取其信任并發(fā)展戀愛關(guān)系。隨后以投資加密貨幣為名誘騙其小額試水獲利,逐步誘導(dǎo)加大投入,致使王枚抵押房產(chǎn)、網(wǎng)貸累計(jì)損失約200萬元,最終提現(xiàn)受阻發(fā)現(xiàn)被騙。

從名人到普羅大眾,AI 詐騙正無孔不入。

03

AI黑產(chǎn)已成產(chǎn)業(yè)鏈

AI 騙局在現(xiàn)實(shí)中肆意橫行,而在這背后,一個(gè)龐大且復(fù)雜的 AI 黑產(chǎn)產(chǎn)業(yè)鏈正悄然成型。

在電影《孤注一擲》中,大型詐騙集團(tuán)由成百上千名詐騙分子組成,集團(tuán)內(nèi)部分工明確。如今,AI技術(shù)普及讓詐騙門檻大幅降低,一兩名詐騙分子就可以展開個(gè)人作案,AI技術(shù)承擔(dān)了從目標(biāo)篩選到身份偽裝的一系列工作。

幾年前“假靳東”進(jìn)行情感詐騙時(shí)還需要有真人來扮演,可現(xiàn)在AI生成的虛擬人物不僅更逼真,而且還更懂老年人的需求。

事實(shí)上,AI黑產(chǎn)由來已久。

早在2017年,一個(gè)名為“deepfakes”的 Reddit 用戶在社交網(wǎng)站上發(fā)布了斯嘉麗?約翰遜等女演員的換臉視頻,使得“Deepfake”成為了 “AI 換臉”的代名詞。

模型公布后引發(fā)轟動(dòng)。網(wǎng)絡(luò)上隨即開始出現(xiàn)大量使用Deepfake合成的色情視頻,其中不少視頻女主角的人臉被替換為斯嘉麗·約翰遜、蓋爾·加朵等大牌女星。

這給女星們?cè)斐闪藰O其惡劣的負(fù)面影響,最終在粉絲的譴責(zé)中,視頻被刪除,相關(guān)論壇也被封禁。

但由于相關(guān)技術(shù)的源代碼都免費(fèi)開放,很快,一系列AI換臉軟件在國內(nèi)風(fēng)生水起,包括ZAO、去演、顏技和AI換臉等。

在號(hào)稱“僅需一張照片,出演天下好戲”的ZAO,只需一張正面照,就能生成十分真實(shí)且靈動(dòng)的最長可達(dá)一分鐘的視頻,吸引了大量用戶關(guān)注。但很快,ZAO的霸王條款和隱私泄露等問題遭到人們質(zhì)疑,其發(fā)行公司陌陌也隨即遭到工信部約談。

雖然AI換臉、AI脫衣以及AI語音和視頻這些技術(shù)早已有之,但隨著ChatGPT的火熱,這些技術(shù)再次回到大家的視野,甚至變得更加逼真,更加低門檻。

更讓人擔(dān)憂的是,AI詐騙已經(jīng)形成了“生成-傳播-洗錢”的完整產(chǎn)業(yè)鏈。

打開網(wǎng)易新聞 查看精彩圖片

上游技術(shù)提供者通過暗網(wǎng)兜售“AI換臉套餐”,價(jià)格從幾百元到數(shù)萬元不等。中游推廣者則利用非法獲取的個(gè)人信息庫,通過短信、社交軟件精準(zhǔn)投放詐騙信息。下游洗錢者則通過虛擬貨幣、跑分平臺(tái)等渠道轉(zhuǎn)移資金。

除此以外,AI詐騙也在越來越普遍。

在一起山東警方破獲的AI詐騙案中。受騙人在收到冒充他的親戚的信息后,還收到了他打來的視頻,盡管在7秒的視頻中連線有些許卡頓,但是聲音和樣貌都讓受騙人確認(rèn)了對(duì)方的身份,進(jìn)而向?qū)Ψ劫~戶轉(zhuǎn)賬。

近一段時(shí)間以來,這種案例屢見不鮮。福州某科技公司法定代表人郭先生,也因?yàn)锳I偽造的微信視頻,在短短十分鐘內(nèi),就被騙了430萬。

AI的進(jìn)化史,也是一塊人性的試金石。當(dāng)“賽博學(xué)生”以公益之名掠奪教育資源,當(dāng)“虛擬戀人”以溫情為餌榨干受害者積蓄,技術(shù)的雙刃性從未如此鋒利。

歡迎在評(píng)論區(qū)留言~
如需開白請(qǐng)加小編微信:dongfangmark

打開網(wǎng)易新聞 查看精彩圖片