新智元報道
編輯：桃子
【新智元導讀】日前，諾獎得主、AI教父Geoffrey Hinton聯合10名前OpenAI員工及其他業(yè)內人士聯合發(fā)表公開信反對OpenAI的重組計劃，理由非常直接：OpenAI違背了他們的慈善宗旨，即確保AGI的安全開發(fā)和造福人類。
在剛剛簽署的公開信中，Hinton表示，OpenAI獨特的非營利法律結構是防止商業(yè)利益凌駕使命的保障，重組將削弱公眾利益的保護機制，違反公司章程，構成對其非營利責任的威脅。
他們在公開信中呼吁：要求OpenAI解答根本問題。OpenAI并未公開解釋其擬議的重組將如何推進該非營利組織的慈善目標，即安全地開發(fā)AGI，造福人類。它也沒有充分解釋，為什么CEO奧特曼在國會作證時所強調的治理保障措施在2023年對OpenAI的使命至關重要，卻在2024年卻成為了其使命的障礙。
確保非營利組織保留控制權，從而保護慈善信托和宗旨。要求OpenAI停止重組，并保護治理保障措施（包括非營利組織的控制權），OpenAI領導層一直堅稱，這些措施對于「確保其繼續(xù)專注于其長期使命」至關重要。
公開信簽署者名單如下：
公開信鏈接：https://notforprivategain.org/
為何阻止OpenAI重組？
想要理解OpenAI的慈善宗旨：非營利控制為何能保護使命，我們可以先理解OpenAI所說的「AGI」是什么意思。OpenAI將AGI定義為「一種高度自主的系統(tǒng)，在最具經濟價值的工作上表現優(yōu)于人類」。
而另一方面，OpenAI警告稱，「AGI還會帶來嚴重的濫用風險、重大事故和社會混亂。失調的超級智能AGI可能會對世界造成嚴重傷害?！箠W特曼和OpenAI的高級員工此前與Hinton在內的數百人一起簽署了一份聲明，該聲明指出，「緩解AI滅絕的風險應該是全球優(yōu)先事項，優(yōu)先于其他社會規(guī)模的風險，如大流行病和核戰(zhàn)爭。」
OpenAI的成立目的即是因為擔憂一家營利性公司開發(fā)AGI。為了實現其使命，同時避免成為另一個以利潤為導向的谷歌競爭對手或對尖端AI沒有直接影響力的學術安全實驗室，OpenAI嘗試構建AGI。為了確保他們在構建AGI的競賽中的動力永遠不會損害他們的使命，他們注冊為非營利組織，并在法律和結構上將構建AGI的目標置于使命之下。
2019年，OpenAI決定，除了作為一家非營利性非股份公司所能籌集的捐款和債務資本外，還需要籌集股權資本。為了在保持其使命優(yōu)先地位的同時實現這一目標，OpenAI成立了一家受控的營利性子公司。通過這家受控子公司「OpenAI-profit」，OpenAI將向尋求回報的投資者籌集資金。然而，新的營利性實體將是原非營利組織「OpenAI-nonprofit」的子公司，原非營利組織將保留其信托責任，將慈善事業(yè)置于首位。
擬議的重組將顛覆OpenAI的慈善使命。OpenAI近期宣布，計劃再次進行重組，據稱是為了滿足投資者簡化資本結構的需求。根據這項新的重組方案，OpenAI-profit將轉型為特拉華州的一家公益公司「OpenAI-PBC」。屆時，OpenAI-PBC將「運營和控制OpenAI的運營和業(yè)務，而該非營利組織將聘請領導團隊和員工，在醫(yī)療保健、教育和科學等領域開展慈善事業(yè)」。OpenAI-nonprofit的「對現有營利性組織的重大權益將以PBC股份的形式持有」。
通過取消非營利組織的控制權，擬議的重組將消除OpenAI一直堅稱對其慈善宗旨至關重要的大部分治理保障措施。而且，任何金額都比控制一家全球領先的AI公司更能促進OpenAI非營利組織的慈善宗旨。
OpenAI公開的重組理由是，其優(yōu)先考慮競爭優(yōu)勢而非慈善宗旨，且未能闡明放棄非營利組織控制權如何與其使命相兼容。盡管OpenAI目前的架構可能存在局限性，且競爭定位可能間接支持其使命，但任何擬議的解決方案都必須在不損害核心原則的情況下，針對實際缺陷進行量身定制。
OpenAI尚未公開證明，其重組對使命的所謂益處如何大于拆除旨在確保OpenAI忠于其使命的保障措施所帶來的巨大風險。非營利組織可能因失去控制權而一無所獲。
如何阻止OpenAI重組？
公開信中寫道，「我們懇請Bonta和Jennings總檢察長采取以下行動...」即上述提到的「要求回答基本問題」和「確保非營利組織保留控制權，保護慈善信托和宗旨」。
1.OpenAI需要回答哪些基本問題
OpenAI尚未公開回答有關重組的一些基本問題。他們敦促總檢察長調查以下問題：
1）董事會決定的理由
取消非營利組織的控制權是推進OpenAI慈善目標的最佳途徑嗎？如果是，為什么？做了哪些分析，又考慮了哪些替代方案？
2023年5月，奧特曼在國會作證時表示，OpenAI的治理「確保其始終專注于其長期使命」。他當時提到的許多（如果不是全部）保障措施，在擬議的重組方案下都將不復存在。2023年5月至2024年9月之間發(fā)生了什么變化，以至于對OpenAI使命至關重要的保障措施反而變成了障礙？
奧特曼曾多次表示，營利性機構會給試圖構建AGI的組織帶來不良激勵?，F在情況不是這樣嗎？如果是這樣，原因是什么？
投資者壓力對重組決策有何影響？董事會是否正式批準了一輪包含以重組為條件的投資？如果是，董事會提供了哪些信息來支持其批準？
2）利益相關董事的參與
哪些現任董事已經參與或計劃參與有關擬議重組的決策，哪些（如果有）沒有參與，以及各自有哪些潛在的利益沖突？
根據擬議的重組，任何董事是否會獲得OpenAI-PBC的股權、額外股權或其他直接或間接個人利益？
3）OpenAI提出的重組計劃
OpenAI-PBC的治理結構是怎樣的？誰會加入這個致力于構建AGI的實體的董事會？
OpenAI-PBC需要什么樣的架構來保證其行動符合其使命，即確保AGI的安全開發(fā)并造福全人類？具體來說，他們將采取哪些保障措施來確保其發(fā)布的AI系統(tǒng)是安全的，并且AGI的收益能夠惠及全人類，而不是優(yōu)先惠及投資者？
如果OpenAI-PBC采取明顯對人類有害的行動，誰能采取補救措施？
OpenAI-PBC是否會重新承諾章程中的原則，包括承諾停止與接近構建AGI的使命一致的組織競爭并為其提供幫助？
OpenAI的立場是否是，其他前沿AI公司的目標與OpenAI不一致？OpenAI的立場是否是，如果任何一家公司搶在OpenAI之前開發(fā)AGI，人類的利益就會受到威脅？如果是這樣，OpenAI的立場又有何依據？
新投資者的利潤是否仍會受到限制？超過上限的利潤還會歸OpenAI-nonprofit所有嗎？過去投資者的利潤上限會被取消嗎？利潤上限結構的任何變化將為非營利組織帶來什么價值？所有關于超過上限的利潤預期值的內部分析都應被要求提供。
如果OpenAI構建了AGI，誰將擁有并控制它？微軟對AGI的知識產權是否與 OpenAI現有AI系統(tǒng)的知識產權相同？
他們呼吁不要讓OpenAI的重組按計劃進行。他們敦促總檢察長通過保留OpenAI和奧特曼反復聲稱對其使命至關重要的核心治理保障措施來保護OpenAI的慈善宗旨：
OpenAI的領導層（試圖構建AGI的實體）應該對使命負有信托責任：確保 AGI安全開發(fā)并造福人類。
除了使命之外的所有目標——包括利潤和贏得AGI競賽——都應該服從于使命。
OpenAI將使命放在首位的義務必須至少由總檢察長、董事和對此事有特殊利益的各方依法強制執(zhí)行。
投資者的利潤應該繼續(xù)受到限制，超過限制的利潤應該專門直接用于造福人類。
OpenAI應該保留其章程中的承諾，停止競爭并開始協(xié)助接近構建AGI的使命一致的項目。
AGI本身（如果OpenAI創(chuàng)建的話）應該屬于非營利組織或類似的實體，其唯一責任是確保AGI得到負責任的使用并造福人類。它不應由商業(yè)實體或其投資者擁有或控制。
然而，僅僅停止重組是不夠的，因為這些治理保障措施顯然不足以阻止管理層推動將其移除。他們還請求您確保董事會擁有必要的獨立性、資源、信息和意愿，以履行其受托責任，抵制管理層。具體如下：
罷免董事。任何被發(fā)現破壞董事會重組決策完整性的董事均應被罷免。
獨立性：董事會的大多數成員不應在OpenAI-profit中擁有直接或間接的個人利益。
專業(yè)知識。董事會應具備必要的專業(yè)知識，以了解OpenAI-profit何時采取與使命相悖的行動。
資源。董事會應擁有必要的人員和預算，以監(jiān)督這家擁有數千名員工、估值達3000億美元的組織的運營。
信息。OpenAI應定期及時向董事會匯報任何可能與其使命相沖突的活動。董事向管理層提出的任何問題都應得到及時、詳細的答復。
監(jiān)督。監(jiān)督這些變更的實施，或指定一個獨立機構來監(jiān)督其實施。在這些變更最終確定之前，董事會的任何決定都應接受仔細審查。
他們在公開信的最后寫道，OpenAI的成立是為了確保AGI的安全發(fā)展并造福全人類，其目前的架構在法律上將營利動機置于「確保AGI的安全發(fā)展，造福全人類」的使命之下。
擬議中的重組將取消必要的保障措施，實際上將這項可能是有史以來最強大的技術的控制權和利潤，交給一個有法律義務優(yōu)先考慮股東回報的營利性實體。
「我們敦促您停止這一重組，恢復適當的治理，并確保OpenAI繼續(xù)對您、公眾及其慈善宗旨負責?！?/p>
本文轉自學術頭條，若二次轉載聯系原作者。
熱門跟貼