新智元報(bào)道
編輯：桃子
【新智元導(dǎo)讀】日前，諾獎(jiǎng)得主、AI教父Geoffrey Hinton聯(lián)合10名前OpenAI員工及其他業(yè)內(nèi)人士聯(lián)合發(fā)表公開信反對OpenAI的重組計(jì)劃，理由非常直接：OpenAI違背了他們的慈善宗旨，即確保AGI的安全開發(fā)和造福人類。
在剛剛簽署的公開信中，Hinton表示，OpenAI獨(dú)特的非營利法律結(jié)構(gòu)是防止商業(yè)利益凌駕使命的保障，重組將削弱公眾利益的保護(hù)機(jī)制，違反公司章程，構(gòu)成對其非營利責(zé)任的威脅。
他們在公開信中呼吁：要求OpenAI解答根本問題。OpenAI并未公開解釋其擬議的重組將如何推進(jìn)該非營利組織的慈善目標(biāo)，即安全地開發(fā)AGI，造福人類。它也沒有充分解釋，為什么CEO奧特曼在國會(huì)作證時(shí)所強(qiáng)調(diào)的治理保障措施在2023年對OpenAI的使命至關(guān)重要，卻在2024年卻成為了其使命的障礙。
確保非營利組織保留控制權(quán)，從而保護(hù)慈善信托和宗旨。要求OpenAI停止重組，并保護(hù)治理保障措施（包括非營利組織的控制權(quán)），OpenAI領(lǐng)導(dǎo)層一直堅(jiān)稱，這些措施對于「確保其繼續(xù)專注于其長期使命」至關(guān)重要。
公開信簽署者名單如下：
公開信鏈接：https://notforprivategain.org/
為何阻止OpenAI重組？
想要理解OpenAI的慈善宗旨：非營利控制為何能保護(hù)使命，我們可以先理解OpenAI所說的「AGI」是什么意思。OpenAI將AGI定義為「一種高度自主的系統(tǒng)，在最具經(jīng)濟(jì)價(jià)值的工作上表現(xiàn)優(yōu)于人類」。
而另一方面，OpenAI警告稱，「AGI還會(huì)帶來嚴(yán)重的濫用風(fēng)險(xiǎn)、重大事故和社會(huì)混亂。失調(diào)的超級智能AGI可能會(huì)對世界造成嚴(yán)重傷害。」奧特曼和OpenAI的高級員工此前與Hinton在內(nèi)的數(shù)百人一起簽署了一份聲明，該聲明指出，「緩解AI滅絕的風(fēng)險(xiǎn)應(yīng)該是全球優(yōu)先事項(xiàng)，優(yōu)先于其他社會(huì)規(guī)模的風(fēng)險(xiǎn)，如大流行病和核戰(zhàn)爭?！?/p>
OpenAI的成立目的即是因?yàn)閾?dān)憂一家營利性公司開發(fā)AGI。為了實(shí)現(xiàn)其使命，同時(shí)避免成為另一個(gè)以利潤為導(dǎo)向的谷歌競爭對手或?qū)舛薃I沒有直接影響力的學(xué)術(shù)安全實(shí)驗(yàn)室，OpenAI嘗試構(gòu)建AGI。為了確保他們在構(gòu)建AGI的競賽中的動(dòng)力永遠(yuǎn)不會(huì)損害他們的使命，他們注冊為非營利組織，并在法律和結(jié)構(gòu)上將構(gòu)建AGI的目標(biāo)置于使命之下。
2019年，OpenAI決定，除了作為一家非營利性非股份公司所能籌集的捐款和債務(wù)資本外，還需要籌集股權(quán)資本。為了在保持其使命優(yōu)先地位的同時(shí)實(shí)現(xiàn)這一目標(biāo)，OpenAI成立了一家受控的營利性子公司。通過這家受控子公司「OpenAI-profit」，OpenAI將向?qū)で蠡貓?bào)的投資者籌集資金。然而，新的營利性實(shí)體將是原非營利組織「OpenAI-nonprofit」的子公司，原非營利組織將保留其信托責(zé)任，將慈善事業(yè)置于首位。
擬議的重組將顛覆OpenAI的慈善使命。OpenAI近期宣布，計(jì)劃再次進(jìn)行重組，據(jù)稱是為了滿足投資者簡化資本結(jié)構(gòu)的需求。根據(jù)這項(xiàng)新的重組方案，OpenAI-profit將轉(zhuǎn)型為特拉華州的一家公益公司「OpenAI-PBC」。屆時(shí)，OpenAI-PBC將「運(yùn)營和控制OpenAI的運(yùn)營和業(yè)務(wù)，而該非營利組織將聘請領(lǐng)導(dǎo)團(tuán)隊(duì)和員工，在醫(yī)療保健、教育和科學(xué)等領(lǐng)域開展慈善事業(yè)」。OpenAI-nonprofit的「對現(xiàn)有營利性組織的重大權(quán)益將以PBC股份的形式持有」。
通過取消非營利組織的控制權(quán)，擬議的重組將消除OpenAI一直堅(jiān)稱對其慈善宗旨至關(guān)重要的大部分治理保障措施。而且，任何金額都比控制一家全球領(lǐng)先的AI公司更能促進(jìn)OpenAI非營利組織的慈善宗旨。
OpenAI公開的重組理由是，其優(yōu)先考慮競爭優(yōu)勢而非慈善宗旨，且未能闡明放棄非營利組織控制權(quán)如何與其使命相兼容。盡管OpenAI目前的架構(gòu)可能存在局限性，且競爭定位可能間接支持其使命，但任何擬議的解決方案都必須在不損害核心原則的情況下，針對實(shí)際缺陷進(jìn)行量身定制。
OpenAI尚未公開證明，其重組對使命的所謂益處如何大于拆除旨在確保OpenAI忠于其使命的保障措施所帶來的巨大風(fēng)險(xiǎn)。非營利組織可能因失去控制權(quán)而一無所獲。
如何阻止OpenAI重組？
公開信中寫道，「我們懇請Bonta和Jennings總檢察長采取以下行動(dòng)...」即上述提到的「要求回答基本問題」和「確保非營利組織保留控制權(quán)，保護(hù)慈善信托和宗旨」。
1.OpenAI需要回答哪些基本問題
OpenAI尚未公開回答有關(guān)重組的一些基本問題。他們敦促總檢察長調(diào)查以下問題：
1）董事會(huì)決定的理由
取消非營利組織的控制權(quán)是推進(jìn)OpenAI慈善目標(biāo)的最佳途徑嗎？如果是，為什么？做了哪些分析，又考慮了哪些替代方案？
2023年5月，奧特曼在國會(huì)作證時(shí)表示，OpenAI的治理「確保其始終專注于其長期使命」。他當(dāng)時(shí)提到的許多（如果不是全部）保障措施，在擬議的重組方案下都將不復(fù)存在。2023年5月至2024年9月之間發(fā)生了什么變化，以至于對OpenAI使命至關(guān)重要的保障措施反而變成了障礙？
奧特曼曾多次表示，營利性機(jī)構(gòu)會(huì)給試圖構(gòu)建AGI的組織帶來不良激勵(lì)?，F(xiàn)在情況不是這樣嗎？如果是這樣，原因是什么？
投資者壓力對重組決策有何影響？董事會(huì)是否正式批準(zhǔn)了一輪包含以重組為條件的投資？如果是，董事會(huì)提供了哪些信息來支持其批準(zhǔn)？
2）利益相關(guān)董事的參與
哪些現(xiàn)任董事已經(jīng)參與或計(jì)劃參與有關(guān)擬議重組的決策，哪些（如果有）沒有參與，以及各自有哪些潛在的利益沖突？
根據(jù)擬議的重組，任何董事是否會(huì)獲得OpenAI-PBC的股權(quán)、額外股權(quán)或其他直接或間接個(gè)人利益？
3）OpenAI提出的重組計(jì)劃
OpenAI-PBC的治理結(jié)構(gòu)是怎樣的？誰會(huì)加入這個(gè)致力于構(gòu)建AGI的實(shí)體的董事會(huì)？
OpenAI-PBC需要什么樣的架構(gòu)來保證其行動(dòng)符合其使命，即確保AGI的安全開發(fā)并造福全人類？具體來說，他們將采取哪些保障措施來確保其發(fā)布的AI系統(tǒng)是安全的，并且AGI的收益能夠惠及全人類，而不是優(yōu)先惠及投資者？
如果OpenAI-PBC采取明顯對人類有害的行動(dòng)，誰能采取補(bǔ)救措施？
OpenAI-PBC是否會(huì)重新承諾章程中的原則，包括承諾停止與接近構(gòu)建AGI的使命一致的組織競爭并為其提供幫助？
OpenAI的立場是否是，其他前沿AI公司的目標(biāo)與OpenAI不一致？OpenAI的立場是否是，如果任何一家公司搶在OpenAI之前開發(fā)AGI，人類的利益就會(huì)受到威脅？如果是這樣，OpenAI的立場又有何依據(jù)？
新投資者的利潤是否仍會(huì)受到限制？超過上限的利潤還會(huì)歸OpenAI-nonprofit所有嗎？過去投資者的利潤上限會(huì)被取消嗎？利潤上限結(jié)構(gòu)的任何變化將為非營利組織帶來什么價(jià)值？所有關(guān)于超過上限的利潤預(yù)期值的內(nèi)部分析都應(yīng)被要求提供。
如果OpenAI構(gòu)建了AGI，誰將擁有并控制它？微軟對AGI的知識(shí)產(chǎn)權(quán)是否與 OpenAI現(xiàn)有AI系統(tǒng)的知識(shí)產(chǎn)權(quán)相同？
他們呼吁不要讓OpenAI的重組按計(jì)劃進(jìn)行。他們敦促總檢察長通過保留OpenAI和奧特曼反復(fù)聲稱對其使命至關(guān)重要的核心治理保障措施來保護(hù)OpenAI的慈善宗旨：
OpenAI的領(lǐng)導(dǎo)層（試圖構(gòu)建AGI的實(shí)體）應(yīng)該對使命負(fù)有信托責(zé)任：確保 AGI安全開發(fā)并造福人類。
除了使命之外的所有目標(biāo)——包括利潤和贏得AGI競賽——都應(yīng)該服從于使命。
OpenAI將使命放在首位的義務(wù)必須至少由總檢察長、董事和對此事有特殊利益的各方依法強(qiáng)制執(zhí)行。
投資者的利潤應(yīng)該繼續(xù)受到限制，超過限制的利潤應(yīng)該專門直接用于造福人類。
OpenAI應(yīng)該保留其章程中的承諾，停止競爭并開始協(xié)助接近構(gòu)建AGI的使命一致的項(xiàng)目。
AGI本身（如果OpenAI創(chuàng)建的話）應(yīng)該屬于非營利組織或類似的實(shí)體，其唯一責(zé)任是確保AGI得到負(fù)責(zé)任的使用并造福人類。它不應(yīng)由商業(yè)實(shí)體或其投資者擁有或控制。
然而，僅僅停止重組是不夠的，因?yàn)檫@些治理保障措施顯然不足以阻止管理層推動(dòng)將其移除。他們還請求您確保董事會(huì)擁有必要的獨(dú)立性、資源、信息和意愿，以履行其受托責(zé)任，抵制管理層。具體如下：
罷免董事。任何被發(fā)現(xiàn)破壞董事會(huì)重組決策完整性的董事均應(yīng)被罷免。
獨(dú)立性：董事會(huì)的大多數(shù)成員不應(yīng)在OpenAI-profit中擁有直接或間接的個(gè)人利益。
專業(yè)知識(shí)。董事會(huì)應(yīng)具備必要的專業(yè)知識(shí)，以了解OpenAI-profit何時(shí)采取與使命相悖的行動(dòng)。
資源。董事會(huì)應(yīng)擁有必要的人員和預(yù)算，以監(jiān)督這家擁有數(shù)千名員工、估值達(dá)3000億美元的組織的運(yùn)營。
信息。OpenAI應(yīng)定期及時(shí)向董事會(huì)匯報(bào)任何可能與其使命相沖突的活動(dòng)。董事向管理層提出的任何問題都應(yīng)得到及時(shí)、詳細(xì)的答復(fù)。
監(jiān)督。監(jiān)督這些變更的實(shí)施，或指定一個(gè)獨(dú)立機(jī)構(gòu)來監(jiān)督其實(shí)施。在這些變更最終確定之前，董事會(huì)的任何決定都應(yīng)接受仔細(xì)審查。
他們在公開信的最后寫道，OpenAI的成立是為了確保AGI的安全發(fā)展并造福全人類，其目前的架構(gòu)在法律上將營利動(dòng)機(jī)置于「確保AGI的安全發(fā)展，造福全人類」的使命之下。
擬議中的重組將取消必要的保障措施，實(shí)際上將這項(xiàng)可能是有史以來最強(qiáng)大的技術(shù)的控制權(quán)和利潤，交給一個(gè)有法律義務(wù)優(yōu)先考慮股東回報(bào)的營利性實(shí)體。
「我們敦促您停止這一重組，恢復(fù)適當(dāng)?shù)闹卫?，并確保OpenAI繼續(xù)對您、公眾及其慈善宗旨負(fù)責(zé)?！?/p>
本文轉(zhuǎn)自學(xué)術(shù)頭條，若二次轉(zhuǎn)載聯(lián)系原作者。
熱門跟貼