智東西
編譯 金碧輝
編輯 程茜
智東西4月28日消息，昨日，據(jù)《時代》周刊報道，記者比利?佩里戈（Billy Perrigo）獨家專訪了谷歌DeepMind CEO、2024年諾貝爾化學獎得主德米斯?哈薩比斯（Demis Hassabis）。這位AI領域的領軍人物猜測，通用人工智能（AGI）可能會在未來十年內實現(xiàn)。
他指出，近年來AI研究進展顯著，如今有諸多不同路徑正助力實現(xiàn)AGI 。并且，谷歌DeepMind的模型Gemini已開始從理解世界邁向行動，能完成如訂票、購物、操控機器人執(zhí)行復雜任務等操作。哈薩比斯認為AGI若發(fā)展得當，將幫助人類攻克疾病、能源危機等重大挑戰(zhàn)，但同時也可能被濫用為生物武器或脫離人類控制。
此次訪談中，他聊了不少AGI的可能性及最新進展，并坦言全球地緣政治變化可能迫使企業(yè)調整相關原則同時，哈薩比斯呼吁國際社會合作制定AI安全標準，他認為實現(xiàn)AGI需多領域研究者協(xié)同。
作為最早公開倡導AGI可行性的科學家，哈薩比斯在2022年行業(yè)普遍質疑AGI可能性時，便將其定位為畢生科研目標。
薩姆?阿爾特曼（Sam Altman）和達里奧?阿莫迪（Dari0 Amodei）預測AGI的實現(xiàn)時間在2026年。哈薩比斯稱，AGI實現(xiàn)時間在很大程度上取決于對其的定義，當前不少定義因籌資等目的存在水分 。
他強調自己團隊對AGI的定義始終是具備人類所有認知能力，并提出以AI能否憑借愛因斯坦20世紀初的同等信息量提出廣義相對論為測試標準，指出解決數(shù)學問題與提出有價值的猜想是兩回事，即便很快會有能解決千禧年數(shù)學難題之一的AI系統(tǒng)，但提出系列有趣猜想仍頗具挑戰(zhàn)。
以下是此次《時代》周刊資深記者佩里戈與哈薩比斯訪談全程內容的編譯（為提高可讀性，智東西在不違背原意的前提下進行了一定的增刪修改）：
一、AGI演進挑戰(zhàn)：掌控權、決策邏輯、安全防護
佩里戈：如果AGI得以實現(xiàn)，它將帶來深遠影響。能否請您展望最理想的發(fā)展前景？當人類成功研發(fā)AGI時，世界將呈現(xiàn)怎樣的圖景？
哈薩比斯：我畢生投身AI和AGI研究，是因為我堅信只要以正確、負責任的方式發(fā)展，它們將成為人類史上最具變革性的技術。展望未來十年，AI或將幫助我們實現(xiàn)諸多突破：從攻克所有疾病，到開發(fā)核聚變、優(yōu)化電池技術、研制新型超導體等革命性能源方案。
當前人類社會面臨的氣候變化、疾病等重大挑戰(zhàn)，都將通過AI技術找到突破口。可以預見，十年后的世界將因AI的賦能而達到前所未有的繁榮水平，人類不僅在地球上安居樂業(yè)，更將借助AI驅動的技術開啟星際探索的新紀元。
以氣候變化為例。除了技術創(chuàng)新，特別是AI賦能的清潔能源技術等突破性方案外，我們很難指望通過集體行動在短期內取得實質性進展。坦白說，若不是預見AI即將帶來的這場技術革命，我對人類當前的發(fā)展軌跡會深感憂慮。
正是由于確信AI能幫助我們解決這些迫在眉睫的危機，我才對今后50年的發(fā)展保持樂觀。就像及時趕到的援軍，AI正是當下人類最需要的工具之一。
佩里戈：您一直積極呼吁重視AI風險管控，能否具體說明最壞可能出現(xiàn)的局面？
哈薩比斯：當然，最壞的情況在科幻作品中已有諸多描繪。我個人最為擔憂的風險主要集中在兩個方面。
首先，AI雖然是一項前景廣闊的技術，但它具有典型的“雙刃劍”特性，且能力將超乎想象。AI具有的特性意味著心懷不軌者可能將其用于危害性用途。我們面臨的核心矛盾是如何在確?？蒲袡C構等善意使用者能利用AI攻克疑難疾病的同時，又能有效防范個人乃至敵對勢力濫用這項技術。這個平衡難題極具挑戰(zhàn)性。
其次，是AGI自身演進帶來的風險。隨著技術向自主化、智能體化方向發(fā)展（這將是未來幾年的必然趨勢），我們必須解決三大關鍵問題：如何維持人類對系統(tǒng)的掌控權，如何準確理解和預測AI的決策邏輯，以及如何建立牢不可破的安全防護機制使其不被具備自我優(yōu)化能力的超級系統(tǒng)突破，這都是極其復雜的課題。
這兩類風險猶如懸在頭頂?shù)倪_摩克利斯之劍。但若能妥善應對，人類終將迎來理想中的美好未來。
佩里戈：但這還不是最壞的情況，最壞的情形會是怎樣的？
哈薩比斯：我認為，AI技術失控可能會帶來災難性后果。若安全防護體系存在重大漏洞，這些系統(tǒng)可能被全面逆向利用。原本用于藥物研發(fā)的AI模型，可能被惡意改造為生化武器設計工具。每個正向應用場景都可能被系統(tǒng)性轉化為攻擊性武器。
這解釋了為何我始終強調建立全球治理框架，AI技術的研發(fā)無國界特性，決定了其影響必然突破地域限制，最終波及世界每個個體。
同時，未來構建全球技術治理AI體系需聚焦三大核心要素。首先要建立統(tǒng)一的系統(tǒng)架構安全標準來保證研發(fā)規(guī)范，同時，嵌入不可篡改的倫理目標約束機制來管理AI技術，最后形成跨國界部署的協(xié)同審查制度同一進行應用監(jiān)管。
二、因AI安全問題難眠，呼吁構建全球治理框架應對挑戰(zhàn)
佩里戈：AI安全學界正熱議系統(tǒng)行為的風險特征維度，包括自主權力擴張傾向、欺騙性策略實施、系統(tǒng)性削弱人類決策權及突破控制框架等潛在可能。您對此類風險性質有怎樣的研判：究竟屬于必然發(fā)展路徑，還是小概率事件？
哈薩比斯：我的基本判斷是這類風險仍處于不可測狀態(tài)。學界對此存在嚴重分歧，我的同事中不乏圖靈獎得主級別的權威專家，但對這類風險的預測也是各執(zhí)一詞。這種認知對立恰恰表明，真理往往存在于辯證認知中。
當我們深入觀察技術發(fā)展史，控制系統(tǒng)的難度或許會隨著系統(tǒng)進化呈指數(shù)級下降，現(xiàn)有技術軌跡已透露出這種可能性。實證數(shù)據(jù)表明，某些場景下的可控性已優(yōu)于極端悲觀預測模型。
但這絕不意味著可以放松警惕。我們亟需構建多維度風險評估體系，通過可控實驗建立可靠的風險量化模型，在技術擴散前完成預防性治理框架設計。對于具有技術奇點級創(chuàng)新的領域，“被動響應”模式可能會帶來災難性后果，這正是我們堅持“預測性治理”原則的根本原因。
佩里戈：有什么事會讓你徹夜難眠？
哈薩比斯：對我來說，AI的安全本質上關乎構建全球治理框架的緊迫性，不僅需要國家間協(xié)同，更需形成技術治理共同體，特別是在接近AGI技術收斂的關鍵階段。當前我們正處于技術奇點的突破前夜，時間窗口可能在5-10年區(qū)間內波動。部分前沿研究者的預測模型甚至指向更短周期。我不會感到驚訝，這就像一個概率分布。但無論如何，它很快就會到來。
而我不確定社會是否已經為此做好了充分準備。我們需要深入思考這一點，同時也要考慮我之前提到的那些問題，包括這些系統(tǒng)的可控性、對這些系統(tǒng)的訪問權限以及確保一切順利進行相關的問題。
佩里戈：你覺得自己更像是一名科學家，還是一名技術專家呢？你身處倫敦，離硅谷十分遙遠。你對自己有著怎樣的定位呢？
哈薩比斯：我首先把自己定位為一名科學家。我這一生所做的一切，其根本原因都是為了追求知識，努力去理解我們周圍的世界。我從小就對這件事癡迷。
對我而言，研發(fā)AI是我探索問題的一種方式，首先要打造出一個工具—這本身就相當引人入勝，而且它表明了關于智能、意識以及這些本身就堪稱最大謎團的事物的某種觀點。同時，這個工具能有雙重用途，因為它也可以被用作研究你周圍自然世界的工具，比如化學、物理和生物學領域。還有什么比這更激動人心的探索之旅和追求目標呢？
所以，我首先把自己看作是一名科學家，其次可能會覺得自己是個企業(yè)家，主要是因為這是實現(xiàn)目標最快捷的方式。最后，或許我還算是一名技術工程師，因為說到底，你不會只想在實驗室里進行理論推導、思考問題。你實際上是希望能給這個世界帶來實實在在的改變。
三、阿爾特曼和阿莫迪預測AGI實現(xiàn)時間，哈薩比斯稱定義影響判斷
佩里戈：我想稍微談一談時間線方面的事情。阿爾特曼和阿莫迪最近都公開表態(tài)……
哈薩比斯：那可能是超短的，對吧？
佩里戈：阿爾特曼認為，他預計AGI將在特朗普總統(tǒng)任期內實現(xiàn)。阿莫迪則表示，AGI最早可能2026年實現(xiàn)。
哈薩比斯：我覺得在一定程度上，這取決于你對AGI的定義。由于各種各樣的原因，這個定義已經被大打折扣了，比如為了籌集資金，人們出于各種原因可能會這么做。而我們的定義自始至終都保持得非常一致，即具備人類所擁有的所有認知能力的這一概念。
實際上，我對此的測試標準是：一個AI能否憑借愛因斯坦20世紀初所擁有的同等信息量，提出廣義相對論呢？所以這可不只是解決一個數(shù)學猜想的問題，你能否提出一個有價值的猜想呢？所以我相當確定，我們很快就會有能夠解決千禧年數(shù)學難題之一的系統(tǒng)，但你能提出一系列像千禧年數(shù)學難題那樣有趣的猜想嗎？
佩里戈：簡而言之，這聽起來就像是你所描述的科學家和技術專家之間的區(qū)別。所有的技術專家都在說：AGI是這樣一種系統(tǒng)，它能夠以比人類更出色或成本更低的方式，完成具有經濟價值的工作。
哈薩比斯：這句話說得真好。也許這就是我如此著迷研發(fā)AGI的原因。我一直都特別佩服歷史上的科學家。在我看來，真正讓人類知識不斷增長、向前發(fā)展的是他們，而不是那些一門心思把知識用在實際生活里的人。可能，兩者對社會都很重要。工程領域和科學領域都是如此。但我認為現(xiàn)有的AI缺乏提出假設的能力。
佩里戈：咱們說得更具體些。你覺得距離出現(xiàn)那種能切實對AI研究作出有意義貢獻的自動化研究工具（或系統(tǒng)），我們還有多大差距呢？
哈薩比斯：我覺得距離實現(xiàn)目標還得再過幾年時間。我認為當下的編程輔助工具已經相當不錯了。而且我猜測，到了明年，它們的表現(xiàn)會極為出色。我們正全力以赴地推進這方面的工作。
Anthropic公司主要聚焦在編程輔助工具的研發(fā)上，而我們一直以來更多地是在開展科學領域的研究工作。就為操作系統(tǒng)設計出精巧合理的架構這一點而言，AI仍然比不上那些最頂尖的程序員。
我認為在這一方面，AI還存在欠缺，所以我覺得要達到理想狀態(tài)，還得再過幾年時間。
四、真正的智能建立在現(xiàn)實世界之上，大力投入通用助理、機器人研發(fā)
佩里戈：你在Gemini模型中極為重視多模態(tài)特性，而且不僅在語言領域構建基礎，還將其拓展至現(xiàn)實世界。你在這方面的關注度比其他實驗室更高。這是為什么呢？
哈薩比斯：有幾個原因。其一，我認為真正的智能必然要求對周圍的時空世界有所理解。這對于任何你想要開展的真正意義上的科學研究而言，都是至關重要的。我還認為，這樣做實際上能夠讓語言模型得到提升，而且我們也確實看到了一些成效，因為你切實地將模型建立在了現(xiàn)實世界的情境之中。
盡管實際上，語言自身的發(fā)展程度已經遠超部分人以及我之前的預期，甚至可以說，有些成果在之前我都覺得不太可能實現(xiàn)。
最后，這也與應用場景相關。因為我心中有兩個我們正大力投入研究的應用場景。第一個是通用數(shù)字助理的設想，它能在日常生活中為你提供幫助，提升你的工作效率，豐富你的生活體驗。
這個數(shù)字助理不只是存在于你的電腦里，還能與你形影不離，可能是在你的手機、智能眼鏡或者其他設備上，并且時刻都能發(fā)揮極大的作用。而要實現(xiàn)這一點，它就必須理解并處理你周圍的世界。
其二，對于機器人技術來說，這恰恰是現(xiàn)實世界中的機器人正常運作所不可或缺的要素。機器人必須理解自身所處的空間環(huán)境。人類本就是多模態(tài)的，不是嗎？
我們在屏幕上操作，擁有視覺感知，喜歡觀看視頻，想要創(chuàng)作圖像，也會聆聽音頻。所以我認為，AI系統(tǒng)需要具備類似的多模態(tài)特性，才能以最全面的方式與我們進行互動。
佩里戈：信號基金會的總裁梅雷迪斯?惠特克（Meredith Whittaker）對您剛剛所描述的AGI提出了頗為尖銳的批評，其觀點是這種幫助并非平白無故就能獲得的。你得拿出大量自己的數(shù)據(jù)來作為交換。為了讓這個智能體發(fā)揮作用，你得讓它能夠獲取你生活中的幾乎所有信息。谷歌是一家數(shù)字廣告公司，它收集個人信息以便投放定向廣告。您是如何看待智能體對隱私所產生的影響的呢？
哈薩比斯：梅雷迪斯指出這一點是正確的。我很欣賞她在信號公司（Signal）所做的工作。我認為，首先，所有這些功能都應該是用戶可以選擇開啟或使用的，用戶要能夠自主決定是否參與，是否提供相關數(shù)據(jù)等。
五、AGI引發(fā)哲學思考，呼喚新哲學家給答案
佩里戈：但我們會主動選擇參與各種各樣的事情，我們會主動選擇接受數(shù)字追蹤。
哈薩比斯：首先，這是你的選擇，不過很明顯，人們會選擇這么做，因為它確實有用。我認為，只有當你完全相信那個智能助手是屬于你自己的，這個模式才會行得通，對吧？
它必須得讓你覺得值得信賴，因為要讓它像現(xiàn)實生活中的人類助手一樣，一旦它了解了你，才能真正發(fā)揮作用。我的助手們對我的了解甚至比我對自己的了解還要深，這就是為什么我們作為一個團隊合作得如此默契。
我覺得這就是你希望從你的數(shù)字助手那里得到的那種實用性。但與此同時，你得確保它的信息是不會被泄露的。我們有世界上一些最優(yōu)秀的安全專家來處理這些事情，以確保它能保護隱私，即使在我們的服務器上信息也是加密的。
我們正在全力以赴地開展這些工作，以便當我們的“阿斯特拉計劃（Project Astra）” 的智能助手項目準備好正式投入使用時，這些安全保障措施也能到位。
我認為這將是一個由消費者來做的決定，他們會傾向于選擇那些能夠保護隱私的系統(tǒng)。而且我覺得邊緣計算和邊緣模型在這方面也會非常重要，這也是我們如此關注那些性能卓越的小型模型的原因之一，這些小模型能夠在單個設備上運行。
佩里戈：我不知道你認為還要過多久，我們才會看到這類技術對勞動力市場產生重大影響。但如果這種情況發(fā)生時，它肯定會在政治層面上引起巨大的動蕩，對吧？對于應對這種動蕩，你有沒有什么計劃呢？
哈薩比斯：我和很多經濟學家探討過這個問題。首先，這個領域的專家—經濟學家和其他相關人士，需要做更多深入嚴謹?shù)难芯抗ぷ?。當我和經濟學家交流時，我不確定在這方面是否已經開展了足夠多的研究。
我們正在開發(fā)智能體系統(tǒng)，因為它們會更有用。而且我覺得，這也會對就業(yè)產生一定的影響，不過我猜測它也會催生其他一些目前還不存在的新工作崗位。
比如你可能會負責管理一組執(zhí)行日?，嵥槭聞盏闹悄荏w，它們或許會做一些背景研究之類的工作，但最終的文章仍由你來撰寫，或者完成最終的研究報告，又或者提出研究的思路，比如為什么要研究這些東西。
所以我認為，在下一個階段，假設你懂得如何使用這些神奇的工具，人類將借助它們獲得超能力，對吧？
因此，的確會有變革和沖擊，但總體而言，我認為情況會變得更好，會出現(xiàn)更好、更有成就感的工作，而那些更單調乏味的工作則會逐漸消失。過去，技術發(fā)展帶來的影響就是如此。
不過，當AGI能夠勝任眾多工作時，可能就會出現(xiàn)這樣一個問題，我們能否在全球范圍內公平且廣泛地分配生產力提升所帶來的成果呢？在這之后，還有一個關于意義和目標的問題。這就是下一個哲學層面的問題，實際上如今我們需要一些杰出的新哲學家來思考這個問題。
六、AGI帶來極度富足，或需政治變革重新分配財富
佩里戈：我上次在2022年采訪你的時候，我們稍微談到過這個問題，當時你說：“如果你身處一個極度富足的世界，那么不平等的空間應該會更小，產生不平等的途徑也會更少。所以，如果AGI的美好愿景得以實現(xiàn)，這將是它所帶來的積極影響之一?！?但在那樣的世界里，依然會有掌控財富的人和沒有財富的人，也會有那些可能不再有工作的勞動者。似乎要實現(xiàn)極度富足的愿景，就需要一場重大的政治變革，才能達到財富重新分配的目的。你能詳細闡述一下你認為這將如何實現(xiàn)嗎？
哈薩比斯：我個人在這方面并沒有花太多時間，不過也許我應該越來越多地關注這個問題。而且，我覺得頂尖的經濟學家應該多多思考這個問題。極度富足真正意味著一些事情，比如你解決了核聚變問題，或者研發(fā)出了最優(yōu)電池，又或者實現(xiàn)了超導技術。
假設在AI的幫助下，你把這三件事都解決了。這就意味著能源成本基本上會降為零，而且是清潔可再生的，對吧？
這就意味著所有的用水問題都能迎刃而解，因為你可以建造海水淡化廠，這沒問題，因為這只需要能源和海水就行。這也意味著制造火箭燃料…… 你可以用類似的技術從海水中分離出氫和氧，對吧？
所以突然之間，許多支撐資本主義世界的基礎要素就不再成立了，因為其基礎是能源成本、資源成本以及資源稀缺性。但如果你現(xiàn)在開拓了太空領域，并且能夠開采小行星以及做所有那些事情—這需要數(shù)十年時間來建設相關基礎設施—那么我們應該會進入一個全新的經濟時代。
佩里戈：我覺得這根本沒有解決不平等的問題，不是嗎？開采那些小行星仍然可以獲取和積累財富。而土地是有限的。
哈薩比斯：如今有很多東西都是有限的，這就意味著最終這是一場零和博弈。我所設想的是一個至少從資源角度來看不再是零和博弈的世界。所以，仍然存在其他問題，比如人們是否依然渴望權力以及諸如此類的東西呢？很可能是的。
所以這必須從政治層面來加以解決。但至少你已經解決了一個主要問題，那就是在我們目前所處的這個資源有限的世界里，事情最終會變成零和博弈。這雖然不是不平等和沖突的唯一根源，但歸根結底，它是沖突的一個主要根源，也是不平等的一個主要根源。
這就是我所說的“極度富足”的含義。從實際意義上講，我們不再處于一個資源受限的零和世界。但我非常確定，圍繞這一點可能需要一種全新的政治哲學。
佩里戈：西方世界通過啟蒙運動實現(xiàn)了民主，很大程度上是因為公民有能力拒絕提供勞動，并以推翻國家政權相威脅，不是嗎？如果我們真的實現(xiàn)了AGI，似乎我們會失去這兩種能力，而這可能對民主不利。
哈薩比斯：也許吧。我的意思是，也許我們得發(fā)展出某種更好的東西，我也不確定。畢竟，民主本身也存在一些問題。它絕不是萬能的解決方案。我記得前英國首相溫斯頓·丘吉爾（Winston Churchill）曾說過類似這樣的話：民主是最不算糟糕的政府形式。也許存在更好的形式。
我可以告訴你從技術層面將會發(fā)生什么。如果我們把事情做好，最終應該能實現(xiàn)極度富足。前提是我們解決了一些我稱之為 “根源性關鍵問題” 的東西。然后就出現(xiàn)了政治哲學方面的問題。我覺得這是人們低估的問題之一。我覺得我們需要一種關于如何生活的全新哲學理念。
來源：《時代》周刊
熱門跟貼