
AI不僅能替你上學(xué),幫你寫作業(yè),甚至還能為你領(lǐng)筆“補(bǔ)助金”回來——不過,前提是你得先教它怎么騙過活人。
這魔幻現(xiàn)實(shí)的一幕正在美國社區(qū)大學(xué)上演:詐騙集團(tuán)用ChatGPT等等AI工具批量生成學(xué)生身份,專門盜取聯(lián)邦和州政府的助學(xué)補(bǔ)貼。
這些“賽博學(xué)生”比人類更善于“賣慘”,無家可歸學(xué)生和寄養(yǎng)青年的身份偽裝幫助他們更快通過申請。課堂表現(xiàn)更堪稱模范,不僅能搶課占位,出勤率甚至比真學(xué)霸還高,還能準(zhǔn)時交作業(yè)。
魔幻的背后,是技術(shù)與人性的博弈。YouTube上,甚至有人發(fā)布“教學(xué)”視頻,展示了自動化程序如何繞過Contra Costa College的入學(xué)審核系統(tǒng)。
這些“賽博學(xué)生”已經(jīng)幫助詐騙集團(tuán)收割了數(shù)百萬美金。根據(jù)CalMatters,2022年6月,教育部對洛杉磯海港學(xué)院(Los Angeles Harbor College)和西洛杉磯學(xué)院(West Los Angeles College)一個詐騙集團(tuán)展開調(diào)查,該集團(tuán)在過去四年中利用至少57人的身份竊取超過110萬美元聯(lián)邦援助。洛杉磯城市學(xué)院(Los Angeles City College)另一詐騙案可能涉及超過100萬美元,盜用70人身分。
校方也不得不為此支付高昂的費(fèi)用,借助專業(yè)的技術(shù)手段偵破騙局。加州校長辦公室統(tǒng)計,2023年社區(qū)大學(xué)申請者中高達(dá)25%是機(jī)器人,而校方為此支付的防欺詐費(fèi)用已超過25萬美元。
然而,這場校園騙局不過是AI侵蝕現(xiàn)實(shí)世界的冰山一角。
從偽造“全紅嬋家新房開工”的帶貨視頻,到用雷軍的聲音生成罵人內(nèi)容;從“假靳東”騙取老人20萬元,到寶媽被AI戀人騙走200萬元,AI詐騙已滲透社交、消費(fèi)、金融的每一個縫隙。
在這場AI技術(shù)與人類的認(rèn)知攻防戰(zhàn)中,人類正面臨一場前所未有的信任危機(jī)——我們還能相信自己的眼睛和耳朵嗎?
01
AI學(xué)霸攻陷社區(qū)大學(xué)
“賽博學(xué)生”們的偽裝也并非毫無破綻。
2023年,伯克利市立學(xué)院(Berkeley City College)圖書館員道奇(Heather Dodge)在線上課程中要求學(xué)生用iPhone或網(wǎng)路攝影機(jī)拍攝基本自我介紹的影片作業(yè),但發(fā)現(xiàn)4名學(xué)生提交的是類似ChatGPT生成的泛泛文字。
道奇開始懷疑他們的學(xué)生身份,但因?yàn)閾?dān)心存在偏見,她要求對他們分別進(jìn)行Zoom會議。其中兩人沒回應(yīng),一名學(xué)生同意進(jìn)行視頻會議,但表示攝影機(jī)和麥克風(fēng)無法使用,另一名學(xué)生幾乎不會說英語,每次透過Zoom提問,都用手機(jī)翻譯。
除此以外,還出現(xiàn)了大量回復(fù)內(nèi)容明顯不合常理、幾乎不可能是人類所寫的賬戶。例如有的注冊賬號會在自我介紹中寫出“你好,我是 [請輸入城市名稱] 的學(xué)生”這類明顯的程序模板語句,或者使用學(xué)生通常不會用的文法。
這些“賽博學(xué)生”通過注冊課程并保持足夠長的注冊時間,為了維持在校身份,TA們會提交由 AI 生成的作業(yè)。
TA們的目標(biāo)是社區(qū)大學(xué)的助學(xué)金。作為兩年制的公立大學(xué),美國社區(qū)大學(xué)學(xué)費(fèi)通常低于四年制大學(xué)。由于招生對象以本地學(xué)生為主,州和聯(lián)邦政府也會提供助學(xué)金支持。
加州法律要求社區(qū)大學(xué)接受所有合法學(xué)生,且長期致力降低注冊門檻,學(xué)生需簽署宣誓書,保證其資訊真實(shí)性,但許多大學(xué)不會獨(dú)立核實(shí)學(xué)生身分。部分學(xué)院聲稱對無家可歸或曾寄養(yǎng)青年的申請者較為寬松,這一漏洞正被詐騙者利用。

等到助學(xué)金發(fā)放后,“賽博學(xué)生”再退課,從中獲取資金。
教師們也面臨甄別真假學(xué)生的挑戰(zhàn)。Southwestern College 教授伊麗莎白?史密斯透露,她原本課程注冊的 104 人中,僅確認(rèn)其中 15 人為真實(shí)學(xué)生,其余均被她判斷為機(jī)器人?!捌鸪跷疫€為課程受歡迎感到開心,現(xiàn)在只剩下滿心失望。”
但在許多情況下,人工判斷并不容易,還需要借助專業(yè)的技術(shù)手段,當(dāng)然也需要學(xué)校支付不菲的費(fèi)用。
洛杉磯社區(qū)學(xué)院副校長洛佩茲(Nicole Albo-Lopez)表示,去年因詐欺行為,學(xué)區(qū)刪除約四分之一課程注冊,學(xué)校向身份驗(yàn)證公司Socure支付超過25萬美元協(xié)助偵測詐欺。
當(dāng)“賽博學(xué)生”在校園中悄然蠶食教育資源時,一場AI信任危機(jī)正在社會各個角落悄然蔓延。
02
AI騙局隨處可見
AI詐騙的觸角早已突破校園圍墻,在國內(nèi),自帶光環(huán)的公眾人物正在成為首批大規(guī)模受害者。
近日,社交平臺上出現(xiàn)多個賬號使用AI合成的全紅嬋爸爸、哥哥聲音,用完全相同的文案介紹家里要蓋新房,以此來博取流量。
在AI合成視頻中攜帶有駱駝奶粉、土雞蛋、洗衣液等多種商品鏈接,流量較大的仿冒作品評論區(qū)中,不乏有人被騙下單購買,部分消費(fèi)者收到三無產(chǎn)品后投訴無門。
事實(shí)上,利用AI偽造視頻的現(xiàn)象并不罕見,此前曾有多位明星成為AI偽造視頻的素材。
半個月前,張馨予公開譴責(zé)商家用 AI 合成其聲音推銷減肥藥。一個月前,劉曉慶也遭遇 AI 換臉視頻冒用,公開表示 “聲音像我卻非我”。
“去年‘十一’,有網(wǎng)友說過了7天假,被我整整罵了8天。是什么(情況)?網(wǎng)上出現(xiàn)了非常多(AI生成的)用我的聲音罵人的內(nèi)容。”今年3月,小米集團(tuán)創(chuàng)始人雷軍在兩會期間就表示,他本人就是AI換臉擬聲的受害者。
“假靳東”詐騙老年人、“國慶7天AI雷軍罵了8天”、“張文宏”深夜帶貨等一眾AI假冒名人的新聞頻頻出現(xiàn)在熱搜榜單上,已經(jīng)引起今年兩會代表委員的高度關(guān)注,呼吁通過法律手段來加強(qiáng)對AI詐騙的管理和約束。
與此同時,AI 詐騙早已突破名人圈,滲透至社交陷阱、消費(fèi)欺詐和信息泄露等生活高頻場景。
不久前,AI假孫子的視頻就讓不少老年人深陷其中,視頻里穿紙尿褲的嬰兒獨(dú)自去地里摘茄子、洗凈后還能抄起菜刀給全家做三菜一湯。這些違背常理的內(nèi)容,在年輕人看來簡直讓人難以置信,卻絲毫不影響評論區(qū)“幸福時光”“幸??鞓贰钡壤夏暧脩袅粝曼c(diǎn)贊和祝福。
如果說面對AI假孫子,老年人只是投入感情,那在面對假“靳東”的時候,則是情感金錢雙投入。在假“靳東”詐騙案中,其中最典型的一例是60歲阿姨向假靳東轉(zhuǎn)賬近20萬元。

圖源:AI生成
傳統(tǒng)電詐中,詐騙分子集中圍獵“一老一少”的情況比較常見,面對完全可以以假亂真的AI詐騙,年輕人也和老年人一樣沒有招架之力。
利用換臉和換聲技術(shù),AI 化身“虛擬戀人”,用精心設(shè)計的話術(shù)和人設(shè),把受害人迷得暈頭轉(zhuǎn)向,最后露出“騙錢”的真面目,類似網(wǎng)絡(luò)交友詐騙案例屢見不鮮。
據(jù)《中國青年報》報道,2023年,寶媽王枚(化名)在境外求學(xué)期間通過社交平臺結(jié)識偽裝成房東的男性網(wǎng)友,對方利用AI換臉換聲技術(shù)獲取其信任并發(fā)展戀愛關(guān)系。隨后以投資加密貨幣為名誘騙其小額試水獲利,逐步誘導(dǎo)加大投入,致使王枚抵押房產(chǎn)、網(wǎng)貸累計損失約200萬元,最終提現(xiàn)受阻發(fā)現(xiàn)被騙。
從名人到普羅大眾,AI 詐騙正無孔不入。
03
AI黑產(chǎn)已成產(chǎn)業(yè)鏈
AI 騙局在現(xiàn)實(shí)中肆意橫行,而在這背后,一個龐大且復(fù)雜的 AI 黑產(chǎn)產(chǎn)業(yè)鏈正悄然成型。
在電影《孤注一擲》中,大型詐騙集團(tuán)由成百上千名詐騙分子組成,集團(tuán)內(nèi)部分工明確。如今,AI技術(shù)普及讓詐騙門檻大幅降低,一兩名詐騙分子就可以展開個人作案,AI技術(shù)承擔(dān)了從目標(biāo)篩選到身份偽裝的一系列工作。
幾年前“假靳東”進(jìn)行情感詐騙時還需要有真人來扮演,可現(xiàn)在AI生成的虛擬人物不僅更逼真,而且還更懂老年人的需求。
事實(shí)上,AI黑產(chǎn)由來已久。
早在2017年,一個名為“deepfakes”的 Reddit 用戶在社交網(wǎng)站上發(fā)布了斯嘉麗?約翰遜等女演員的換臉視頻,使得“Deepfake”成為了 “AI 換臉”的代名詞。
模型公布后引發(fā)轟動。網(wǎng)絡(luò)上隨即開始出現(xiàn)大量使用Deepfake合成的色情視頻,其中不少視頻女主角的人臉被替換為斯嘉麗·約翰遜、蓋爾·加朵等大牌女星。
這給女星們造成了極其惡劣的負(fù)面影響,最終在粉絲的譴責(zé)中,視頻被刪除,相關(guān)論壇也被封禁。
但由于相關(guān)技術(shù)的源代碼都免費(fèi)開放,很快,一系列AI換臉軟件在國內(nèi)風(fēng)生水起,包括ZAO、去演、顏技和AI換臉等。
在號稱“僅需一張照片,出演天下好戲”的ZAO,只需一張正面照,就能生成十分真實(shí)且靈動的最長可達(dá)一分鐘的視頻,吸引了大量用戶關(guān)注。但很快,ZAO的霸王條款和隱私泄露等問題遭到人們質(zhì)疑,其發(fā)行公司陌陌也隨即遭到工信部約談。
雖然AI換臉、AI脫衣以及AI語音和視頻這些技術(shù)早已有之,但隨著ChatGPT的火熱,這些技術(shù)再次回到大家的視野,甚至變得更加逼真,更加低門檻。
更讓人擔(dān)憂的是,AI詐騙已經(jīng)形成了“生成-傳播-洗錢”的完整產(chǎn)業(yè)鏈。

上游技術(shù)提供者通過暗網(wǎng)兜售“AI換臉套餐”,價格從幾百元到數(shù)萬元不等。中游推廣者則利用非法獲取的個人信息庫,通過短信、社交軟件精準(zhǔn)投放詐騙信息。下游洗錢者則通過虛擬貨幣、跑分平臺等渠道轉(zhuǎn)移資金。
除此以外,AI詐騙也在越來越普遍。
在一起山東警方破獲的AI詐騙案中。受騙人在收到冒充他的親戚的信息后,還收到了他打來的視頻,盡管在7秒的視頻中連線有些許卡頓,但是聲音和樣貌都讓受騙人確認(rèn)了對方的身份,進(jìn)而向?qū)Ψ劫~戶轉(zhuǎn)賬。
近一段時間以來,這種案例屢見不鮮。福州某科技公司法定代表人郭先生,也因?yàn)锳I偽造的微信視頻,在短短十分鐘內(nèi),就被騙了430萬。
AI的進(jìn)化史,也是一塊人性的試金石。當(dāng)“賽博學(xué)生”以公益之名掠奪教育資源,當(dāng)“虛擬戀人”以溫情為餌榨干受害者積蓄,技術(shù)的雙刃性從未如此鋒利。
歡迎在評論區(qū)留言~
如需開白請加小編微信:dongfangmark

熱門跟貼