美國ChatGPT再次面臨新的指責。這一次，一位歐洲父親聲稱，這款聊天機器人散布了關(guān)于他“殺害自己孩子”的虛假信息。
奧地利隱私保護組織NOYB于3月20日向挪威數(shù)據(jù)保護當局提出投訴，指控OpenAI放任ChatGPT生成涉及誹謗的回答。該組織認為，OpenAI違反了歐盟《通用數(shù)據(jù)保護條例》（GDPR）中關(guān)于“數(shù)據(jù)準確性”的原則。
根據(jù)NOYB提交的文件，一位名為阿爾維·哈爾馬爾·霍爾門的父親表示，ChatGPT散布了關(guān)于他“因殺害兩名孩子并試圖殺害第三名孩子而被判有罪，并被判處21年監(jiān)禁”的虛假信息。
霍爾門表示：“如果有人看到這個輸出，他們可能會相信這是事實?！?/p>
NOYB去年還提出過另一項投訴，指控OpenAI存在“幻覺”問題，并要求其修改或刪除某位公眾人物的錯誤生日信息。然而，OpenAI并未修正該信息，只是將其屏蔽，導致虛假信息仍然存在于系統(tǒng)中。
NOYB強調(diào)：“AI公司不能僅僅滿足于向用戶隱藏虛假信息。如果幻覺問題得不到解決，人們很容易因此名譽受損?！?/p>
該組織呼吁挪威數(shù)據(jù)保護當局責令OpenAI刪除錯誤信息并改進其AI模型，同時要求對OpenAI處以罰款。
生成式AI的幻覺問題早已引發(fā)關(guān)注，而這次并非首次因幻覺問題導致誹謗指控。例如，德國記者馬丁·伯恩克勞在今年早些時候發(fā)現(xiàn)，微軟的Copilot將他描述為“戀童癖者”、“毒品販子”和“精神病院逃犯”，這些描述似乎基于他撰寫的文章。
此外，澳大利亞地方官員布萊恩·胡德也聲稱，ChatGPT散布了關(guān)于他涉及賄賂丑聞的虛假信息。
NOYB的律師約阿希姆·塞德伯格表示：“GDPR規(guī)定，平臺提供的個人數(shù)據(jù)必須準確。如果違反這一規(guī)定，用戶有權(quán)要求修改以反映事實?！彼€補充道：“ChatGPT僅僅在輸出界面添加‘該工具可能提供錯誤信息’的小提示是不夠的?！?/p>
對此，OpenAI表示，已通過安全系統(tǒng)和過濾機制采取了盡可能多的措施，并“致力于提高關(guān)于真實人物的回答準確性”。
該公司的一位發(fā)言人補充道：“我們一直在研究新方法，以提高模型的準確性并減少幻覺問題。此次投訴涉及的是ChatGPT的舊版本?！?/p>
結(jié)語
AI幻覺問題當然不僅限于Chatgpt，我國的代表性AI“Deepseek”的幻覺問題也很嚴重，甚至有研究報告指出，Deepseek R1的幻覺率遠超業(yè)界平均水平。
AI的幻覺主要源于模型訓練數(shù)據(jù)的不足、推理鏈過長以及對創(chuàng)造性獎勵過多等因素。
在實際應(yīng)用中，幻覺問題可能導致嚴重后果，比如在金融、醫(yī)療等領(lǐng)域引發(fā)錯誤決策。因此，用戶在使用時需保持警惕，尤其是涉及事實性內(nèi)容時，應(yīng)通過交叉驗證、聯(lián)網(wǎng)搜索等方式核實信息?。同時，企業(yè)在應(yīng)用生成式AI時，也應(yīng)結(jié)合人工干預，確保輸出內(nèi)容的準確性?。
熱門跟貼