近日，諾獎(jiǎng)得主&加拿大多倫多大學(xué)教授杰弗里·辛頓（Geoffrey Hinton）、Hugging Face 首席倫理科學(xué)家瑪格麗特·米切爾（Margaret Mitchell）和美國(guó)加州大學(xué)伯克利分校教授斯圖爾特·拉塞爾（Stuart Russell）以及 10 名前 OpenAI 員工，在一封提交給美國(guó)加利福尼亞州和特拉華州總檢察長(zhǎng)的聯(lián)名信中，敦促美國(guó)當(dāng)局阻止 OpenAI 從非營(yíng)利組織轉(zhuǎn)變?yōu)楣婀荆≒BC，public benefit corporation，一種兼顧營(yíng)利與公益的商業(yè)模式）。他們?cè)诜磳?duì)這一舉措的同時(shí)，表達(dá)了與馬斯克相同的擔(dān)憂，目前馬斯克正通過法律訴訟努力阻止這一轉(zhuǎn)變。
由于 OpenAI 的總部和注冊(cè)地分別位于美國(guó)加利福尼亞州和特拉華州，因此這兩個(gè)州的司法部長(zhǎng)有權(quán)對(duì)此決定進(jìn)行監(jiān)管，并有責(zé)任確保此次轉(zhuǎn)換符合公眾利益且價(jià)格合理。
OpenAI 成立于 2015 年，是一家非營(yíng)利組織，其成立動(dòng)機(jī)源于對(duì)營(yíng)利性公司可能在開發(fā)與公共利益不完全一致的情況下開發(fā)出 AGI 的擔(dān)憂。OpenAI 的財(cái)務(wù)結(jié)構(gòu)頗為復(fù)雜，2019 年它成立了一家營(yíng)利性子公司，為投資者設(shè)定了回報(bào)上限，并賦予其非營(yíng)利性董事會(huì)對(duì)于營(yíng)利性子公司的完全控制權(quán)。OpenAI 此前曾警告稱，AGI 將帶來“濫用、重大事故和社會(huì)動(dòng)蕩的嚴(yán)重風(fēng)險(xiǎn)”。2023 年 5 月，OpenAI CEO 山姆·奧特曼（Sam Altman）簽署一份聲明并警告稱，“降低 AI 導(dǎo)致滅絕的風(fēng)險(xiǎn)應(yīng)成為全球首要任務(wù)，（這一任務(wù)的重要性）與流行病和核戰(zhàn)爭(zhēng)等其他社會(huì)層面的風(fēng)險(xiǎn)并列?！倍鶕?jù)此次 OpenAI 擬議的變更明細(xì)來看，非營(yíng)利性董事會(huì)將在營(yíng)利性實(shí)體中持有股份并擁有一定的投票權(quán)。按照計(jì)劃，OpenAI 擬在 2025 年年底前轉(zhuǎn)變?yōu)闋I(yíng)利性實(shí)體。若不進(jìn)行轉(zhuǎn)變，OpenAI 可能會(huì)失去軟銀大約 300 億美元的投資以及投資者在之前幾輪中的額外投資，并且可能難以籌集到計(jì)算基礎(chǔ)設(shè)施、模型訓(xùn)練和人員配置所需的巨額資金。盡管目前 OpenAI 估值已達(dá) 3000 億美元，但其辯稱在谷歌和 Meta 等競(jìng)爭(zhēng)對(duì)手正投資數(shù)千億美元開發(fā)這項(xiàng)技術(shù)之際，其投資者“需要傳統(tǒng)股權(quán)和更少的結(jié)構(gòu)性定制”來承諾進(jìn)一步投資。
此次聯(lián)名信認(rèn)為，OpenAI 擬議的重組將會(huì)把 AGI 開發(fā)控制權(quán)轉(zhuǎn)移給一家以利潤(rùn)為驅(qū)動(dòng)力的公司，這與 OpenAI 的創(chuàng)始使命相悖。要知道，OpenAI 的創(chuàng)始使命是確保 AGI 造福全人類，而非實(shí)現(xiàn)“任何個(gè)人的私利”。
據(jù)了解，參與簽署聯(lián)名信的 Stuart Russell 表示：“如果 OpenAI 放棄對(duì)其營(yíng)利性子公司的控制權(quán)，這不僅明顯違背了其宣稱的慈善宗旨……而且還會(huì)大大增加其 CEO 所描述的‘我們所有人都將陷入黑暗’的可能性。”而參與簽署聯(lián)名信的 Hinton 也表示：“我希望（OpenAI）能執(zhí)行這一（原始）使命，而不是為投資者謀利?！?聯(lián)名信簽署者們寫道：“擬議的重組威脅到了所有這些保障措施，因此應(yīng)予以制止?！?/p>
信中指出，OpenAI 的結(jié)構(gòu)旨在平衡市場(chǎng)力量與其使命，而擬議的變革將放棄這些措施，轉(zhuǎn)而屈從于財(cái)務(wù)壓力。簽署者們反對(duì)將運(yùn)營(yíng)控制權(quán)從非營(yíng)利實(shí)體轉(zhuǎn)移給公益公司的計(jì)劃，并指出這一轉(zhuǎn)變將使股東利益優(yōu)先于公共安全。 信件簽署者之一的前 OpenAI 員工佩奇·赫德利（Page Hedley）表示：“競(jìng)爭(zhēng)不是 OpenAI 的使命。從各方面來看，它在籌資方面已經(jīng)取得了非凡的成功。”
簽署者們還質(zhì)疑了 OpenAI 重組的理由。此前，OpenAI 指出為了保持與其他資金充裕的 AI 公司的競(jìng)爭(zhēng)力，因此其表示需要簡(jiǎn)化資本結(jié)構(gòu)。但是，此次聯(lián)名信對(duì)此提出異議，指出 OpenAI 的競(jìng)爭(zhēng)對(duì)手并不像其目前的非營(yíng)利結(jié)構(gòu)那樣受到信托責(zé)任的約束，以至于需要優(yōu)先考慮公共福利。
聯(lián)名信寫道：“OpenAI 指出，投資者利益服從于使命是需要解決的問題，但這恰恰是在不破壞使命的情況下無法改變的?！監(jiān)penAI 還聲稱，此次重組將使該非營(yíng)利組織成為“歷史上資源最豐富的非營(yíng)利組織之一”。然而，這封聯(lián)名信認(rèn)為 OpenAI 只應(yīng)該獲得其在營(yíng)利性部門所持股份的公平市場(chǎng)價(jià)值。
聯(lián)名信還強(qiáng)調(diào)，OpenAI 的非營(yíng)利組織結(jié)構(gòu)并非象征性的，而是一種具有法律約束力的機(jī)制。聯(lián)名信進(jìn)一步批評(píng)了在新架構(gòu)下關(guān)于誰將控制 AGI 技術(shù)，并質(zhì)疑了 OpenAI 的最大投資者微軟是否可以獲取該技術(shù)的透明度。簽署者們還擔(dān)心，OpenAI 章程中的“停止并協(xié)助”條款將不再具有可執(zhí)行性，該條款要求如果其他與安全相關(guān)的 AGI 項(xiàng)目率先實(shí)現(xiàn) AGI，OpenAI 必須支持這些項(xiàng)目。
聯(lián)名信認(rèn)為，OpenAI 的重組“將以犧牲公眾利益為代價(jià)，使 OpenAI 的股東受益”，這將影響 AGI 的開發(fā)方式、從中獲利的人以及最終控制它的人。簽署者們還表示，關(guān)鍵在于“OpenAI 是投入時(shí)間和資源來確保其 AI 系統(tǒng)對(duì)人類安全且有益，還是為了競(jìng)爭(zhēng)和財(cái)務(wù)收益而魯莽地一往直前”。
事實(shí)上，對(duì)于OpenAI 的擔(dān)憂并不限于這封聯(lián)名信。此前，12 名前 OpenAI 員工提交了一封支持埃隆·馬斯克（Elon Musk）起訴 OpenAI 的信件，信中重復(fù)了許多相同的批評(píng)意見。文件指控 OpenAI 一邊利用其非營(yíng)利組織的身份吸引以安全為研發(fā)導(dǎo)向的研究人員，一邊在內(nèi)部為商業(yè)轉(zhuǎn)型做準(zhǔn)備。
另?yè)?jù)悉，本次聯(lián)名信還得到了美國(guó)哈佛大學(xué)、美國(guó)加州大學(xué)洛杉磯分校和美國(guó)哥倫比亞大學(xué)的研究人員的支持。而這封信將起到怎么樣的作用，或許不久之后即將揭曉。
參考資料：
聯(lián)名信https://notforprivategain.org/#names
熱門跟貼