機(jī)器之心報(bào)道
機(jī)器之心編輯部
最近幾天，ChatGPT 驚現(xiàn)神秘 Bug，當(dāng)被問及「David Mayer」這個(gè)名字時(shí)，它拒絕回答問題。
如果你試圖讓它回答，聊天會(huì)立即結(jié)束。
圖源：https://x.com/venturetwins/status/1862910201113739328
人們嘗試了各種各樣的方法 —— 密碼、謎語、技巧等，但都不起作用。甚至在個(gè)性化設(shè)置里，用戶自己的名字改成 David Mayer，還是不行。
消息迅速傳出，有人說，這個(gè)名字對(duì)聊天機(jī)器人來說是毒藥。每次試圖讓 ChatGPT 拼出這個(gè)特定的名字都會(huì)導(dǎo)致它失敗，甚至在名字中間中斷。
最初人們只是好奇，但很快就發(fā)現(xiàn) ChatGPT 無法說出的名字不僅僅是 David Mayer。
他們還發(fā)現(xiàn)導(dǎo)致服務(wù)崩潰的還有 Brian Hood、Jonathan Turley、Jonathan Zittrain、David Faber 和 Guido Scorza 等等。
這些人是誰？為什么會(huì)讓 ChatGPT 崩潰？
認(rèn)真觀察，可以發(fā)現(xiàn)其中一些名字可能屬于許多人。但 ChatGPT 用戶發(fā)現(xiàn)的一個(gè)潛在聯(lián)系是，這些人是公眾人物或半公眾人物，他們可能希望搜索引擎或 AI 模型「忘記」某些信息。
例如，Brian Hood 是澳大利亞的一位市長，他指責(zé) ChatGPT 錯(cuò)誤地將他描述為幾十年前犯罪的肇事者，而事實(shí)上，他曾舉報(bào)過這一錯(cuò)誤。
雖然他的律師與 OpenAI 取得了聯(lián)系，但從未提起過訴訟。正如他今年早些時(shí)候說的那樣，違規(guī)內(nèi)容已被刪除。
David Faber 是 CNBC 的資深記者，Jonathan Turley 是一名律師和?？怂剐侣勗u(píng)論員，Jonathan Zittrain 也是一名法律專家，Guido Scorza 是意大利數(shù)據(jù)保護(hù)局的董事會(huì)成員。
他們并非完全從事同一行業(yè)，也不是隨機(jī)選擇的。這些人可能出于某種原因正式要求以某種方式限制他們在網(wǎng)上的信息。
讓我們再回到 David Mayer，沒有人能找到叫這個(gè)名字的律師、記者或其他知名的人士。
不過，有一位教授叫 David Mayer，他教授戲劇和歷史，于 2023 年夏天去世，享年 94 歲。然而，在此之前的幾年里，這位英裔美國學(xué)者面臨著法律和網(wǎng)絡(luò)問題，因?yàn)樗拿峙c一名通緝犯有關(guān)，該通緝犯以他的名字作為化名，以至于他無法旅行。
Mayer 一直努力讓自己的名字與那位恐怖分子的名字區(qū)分開來，即使在生命的最后幾年里他仍繼續(xù)教書。
那么，從這一切中我們可以得出什么結(jié)論呢？
一種猜測是：模型已提取或提供了需要進(jìn)行特殊處理的姓名列表。無論是出于法律、安全、隱私還是其他考慮，這些名稱可能受到特殊規(guī)則的保護(hù)。
可能發(fā)生的情況是，這些列表之一幾乎肯定是主動(dòng)維護(hù)或自動(dòng)更新的，但由于錯(cuò)誤的代碼或指令而以某種方式損壞，當(dāng)調(diào)用這些列表時(shí)，會(huì)導(dǎo)致聊天智能體立即中斷。
這一切很好地提醒我們，人工智能模型不僅不神奇，而且還具有超凡的自動(dòng)完成功能，并受到制造它們的公司的主動(dòng)監(jiān)控和干擾。因此當(dāng)您考慮從聊天機(jī)器人獲取事實(shí)時(shí)，直接查找源頭是否會(huì)更好？
OpenAI 周二證實(shí)，「David Mayer」這個(gè)名字已被內(nèi)部隱私工具標(biāo)記，并在一份聲明中表示：「在某些情況下，ChatGPT 可能不會(huì)提供有關(guān)人們的某些信息以保護(hù)他們的隱私?！乖摴静粫?huì)提供有關(guān)工具或流程的進(jìn)一步細(xì)節(jié)。
參考內(nèi)容：https://techcrunch.com/2024/12/03/why-does-the-name-david-mayer-crash-chatgpt-digital-privacy-requests-may-be-at-fault/
熱門跟貼