前一陣刮起的“吉卜力模仿秀”還歷歷在目，大家譴責(zé)OpenAI利用宮崎駿或吉卜力工作室的作品訓(xùn)練大模型，但網(wǎng)絡(luò)上卻梗圖不斷。
現(xiàn)在，這股風(fēng)已經(jīng)開始“歪樓”了，由ChatGPT生成的Aadhaar卡終于讓人們開始嚴(yán)肅對待此事。
如果你認(rèn)為這張Aadhaar卡的風(fēng)格還有吉卜力的影子，那接下來將讓你大跌眼鏡。拋開人物的身份不談，至少從肉眼上看，已經(jīng)達到以假亂真的程度。
簡單來說，Aadhaar卡就是印度的身份證，由印度唯一身份識別局（UIDAI）頒發(fā)，現(xiàn)在卻被GPT-4o的圖像生成功能濫用。此事一出，網(wǎng)絡(luò)上聲音也很快分成兩個陣營。
正方認(rèn)為，GPT-4o的圖像生成功能只是“照貓畫虎”，類似Aadhaar卡這樣的身份ID都有防偽系統(tǒng)，不會造成實際影響；反方則認(rèn)為，哪怕只是看起來逼真，也足夠讓別有用心的人利用，況且，隨著AI系統(tǒng)迭代，未來偽造身份將變得十分容易。
根據(jù)現(xiàn)在的情況看來，此事還在發(fā)酵中，而且似乎沒有要停下來的意思。最新消息是，ChatGPT的濫用已經(jīng)不僅限于Aadhaar卡，還有印度的另外一張PAN卡，這張卡由所得稅部門發(fā)行。
毫無疑問，ChatGPT可以輕松生成假的Aadhaar和PAN卡，也必然可以偽造其他國家的身份信息，這將是一個嚴(yán)重的安全風(fēng)險。
根據(jù)人力資源分析公司IDfy的首席商務(wù)官解釋，“Aadhaar是一個相對容易解決的案例，因為文本和人臉信息都可以根據(jù)后端系統(tǒng)進行核對。但其他身份證卻比較麻煩，比如印度的PAN卡，該卡的信息在政府?dāng)?shù)據(jù)庫中沒有人臉數(shù)據(jù)。”
說起不需要人臉識別的票據(jù)，ChatGPT的濫用已經(jīng)可以輕松覆蓋到假的收據(jù)和處方，只需要通過簡單的編輯，這種不需要嚴(yán)格審核的票據(jù)將極容易被偽造。
正所謂矛和盾要同時發(fā)展，過去想要偽造一張圖片需要有專業(yè)的圖片處理技術(shù)，比如熟練使用Photoshop這類軟件?，F(xiàn)在，只需要用語言敘述，就可以生成以假亂真的圖片，現(xiàn)實情況是“矛已經(jīng)足夠鋒利”，需要在盾上下功夫了。
熱門跟貼