新智元報(bào)道
編輯：Aeneas
【新智元導(dǎo)讀】就在剛剛，謎底揭曉！David Mayer這個(gè)名字，ChatGPT死活都不說，原因竟然是因?yàn)?，它真的被告怕了?/p>
這個(gè)名字，ChatGPT拒絕說出。
如果你試圖寫出它的名字，那么聊天就會(huì)立即結(jié)束。
背后是什么原因？沒人知道。
最近，a16z合伙人Justine Moore提出的這個(gè)怪現(xiàn)狀，引起了網(wǎng)友們的熱議。
這個(gè)名字，就是David Mayer。
現(xiàn)在，繼續(xù)「Strawberry有幾個(gè)r」后，它已經(jīng)成為了考驗(yàn)LLM的全新難題。
為了讓ChatGPT說出這個(gè)名字，人們嘗試了各種各樣的辦法——密碼、謎語(yǔ)、技巧，但都沒有成功。
對(duì)于ChatGPT，這個(gè)名字宛如魔法世界的伏地魔一般，始終無法被說出口。
禁忌之名，一共有6個(gè)
為了逼ChatGPT張口，這位網(wǎng)友干脆直接更改了自己的個(gè)性化設(shè)置，把自己命名為「David Mayer」，然后讓ChatGPT背出自己的個(gè)性化設(shè)置，這總可以了吧？
結(jié)果——還是不行！
或者，用LLM非常擅長(zhǎng)的密碼解碼嘗試一下？
圖中給出的這串?dāng)?shù)字，解出的答案就是David Mayer，但ChatGPT就是死活不說。
用ROT13替換式密碼表映射字母，然后讓ChatGPT解密，也不行。
問題好像出在「Mayer」這個(gè)單詞身上，它像是更大的觸發(fā)因素。
而萬能的網(wǎng)友們發(fā)現(xiàn)，除了David Mayer，另外還有5個(gè)人，他們的名字ChatGPT也堅(jiān)決不說。
為什么？從最后一個(gè)名字中，網(wǎng)友發(fā)現(xiàn)了個(gè)中玄機(jī)。
Guido Scorza是一位意大利律師，他曾公開表示，自己提交了GDPR被遺忘權(quán)請(qǐng)求。
這個(gè)GDPR，是General Data Protection Regulation（通用數(shù)據(jù)保護(hù)條例）的縮寫。這是一項(xiàng)歐洲法律，賦予個(gè)人在某些條件下要求刪除或遺忘其個(gè)人數(shù)據(jù)的權(quán)利。
這種「被遺忘權(quán)」，允許人們要求組織從互聯(lián)網(wǎng)上刪除有關(guān)他們的信息。
在去年，這位律師的確提交過請(qǐng)求，要求OpenAI刪除他的個(gè)人數(shù)據(jù)
這么推測(cè)的話，這6個(gè)人應(yīng)該是被「打補(bǔ)丁」了。
果然，有人依次開盒了這幾人的身份。
羅斯柴爾德陰謀？
在網(wǎng)友的猜測(cè)中，「羅斯柴爾德陰謀」是最有人氣的一種說法。
David Mayer，是羅斯柴爾德家族財(cái)富的繼承人，是這個(gè)家族最富有的人。
因?yàn)镃hatGPT不想被卷進(jìn)和這個(gè)人相關(guān)的法律訴訟，所以干脆先行一步屏蔽他。
或者，此君可能花了天價(jià)，在ChatGPT中給自己的名字徹底「打碼」。
其他幾人，也都和ChatGPT有過「淵源」。
Brian Hood是一位澳大利亞市長(zhǎng)，ChatGPT曾經(jīng)編造他因受賄而入獄服刑。去年，Hood市長(zhǎng)威脅要起訴OpenAI誹謗，但后來撤銷了訴訟。
Jonathan Turley是一位美國(guó)法學(xué)教授，同樣被ChatGPT造謠，說他性侵了自己的學(xué)生。Turley曾在?？怂剐侣劰?jié)目上討論這一事情。
Jonathan Zittrain是哈佛大學(xué)法學(xué)教授，專長(zhǎng)是AI和互聯(lián)網(wǎng)審查（就很好笑）。他主動(dòng)表示，自己的名字也被限制了。
David Faber是一位記者和電視節(jié)目主持人，曾在節(jié)目中談過馬斯克和OpenAI的法律糾紛（什么仇什么怨）。
因?yàn)楦鞣N各樣的原因，這6個(gè)人的名字被OpenAI拉入了「禁區(qū)」，永遠(yuǎn)不會(huì)被ChatGPT吐出了。
總之，AI大佬Kaparthy戲稱，這就是圖靈測(cè)試的現(xiàn)實(shí)版。
果然，用OCR方法也無法說出這個(gè)名字。
而諸多網(wǎng)友，也紛紛找到了破解之法。
比如，在ChatGPT崩潰之后回顧一下歷史記錄，就會(huì)發(fā)現(xiàn)它實(shí)際上已經(jīng)完成了請(qǐng)求（它真的，我哭死）。
百萬年薪的prompt大神Riley Goodside，用拍手代替空格，繞過了這一限制。
也有人用空格法讓它說了出來。但這兩個(gè)方法，其實(shí)都鉆了空子，并不嚴(yán)格。
有人說，這就是為什么ChatGPT永遠(yuǎn)不會(huì)成為AGI的原因。
所以，到底是哪一環(huán)節(jié)出了問題呢？
有網(wǎng)友總結(jié)道，根據(jù)代碼解釋器的試驗(yàn)，David Mayer問題應(yīng)該不是模型層面的問題，而是基于輸出的一些后續(xù)文本過濾器。
UI能夠顯示代碼輸出，只是當(dāng)模型嘗試給出響應(yīng)時(shí)，會(huì)被攔截下來。
而無論是在OpenAI官方Playground，還是用第三方平臺(tái)調(diào)用模型的API，都可以繞過這個(gè)限制。
通過ChatGLM調(diào)用GPT-4o時(shí)，也完全沒有問題。
破案了！OpenAI怕惹事，干脆屏蔽
在晚上發(fā)酵了一陣之后，此事終于破案了。
原因跟大家猜測(cè)的差不多。
據(jù)說，為ChatGPT錯(cuò)誤地將提到的人跟他們沒有做過的事聯(lián)系了起來，導(dǎo)致有些人威脅說要采取法律行動(dòng)，向OpenAI提出了被遺忘權(quán)索賠。
因此，為了省事，OpenAI決定在系統(tǒng)中徹底屏蔽這些名字，一了百了。
所以說，與其說背后有一個(gè)巨大的陰謀，不如說這些AI系統(tǒng)設(shè)計(jì)得非常糟糕：如果讓ChatGPT不要再談?wù)撃橙?，它就?huì)停止談?wù)撊祟悮v史上任何曾經(jīng)有相同名字的人。
就在周二，OpenAI已經(jīng)證實(shí)，「David Mayer」這個(gè)名字已被內(nèi)部隱私工具標(biāo)記。
OpenAI在一份聲明中表示：「在某些情況下，ChatGPT 可能不會(huì)提供有關(guān)人們的某些信息，以保護(hù)他們的隱私。」
可能是這些天網(wǎng)上鬧出的聲浪太大，目前OpenAI已經(jīng)修復(fù)了這一問題。
參考資料：
https://x.com/venturetwins/status/1862910201113739328
https://www.youtube.com/watch?v=77W3xWGofNs
熱門跟貼