打開(kāi)網(wǎng)易新聞 查看精彩圖片

原文作者：

Billy Perrigo，《時(shí)代》周刊駐倫敦分社記者，主要報(bào)道科技行業(yè)，關(guān)注那些以奇特和意想不到的方式重塑我們世界的公司。

https://time.com/7280740/demis-hassabis-interview/

【編者按】去年 10 月，DeepMind 聯(lián)合創(chuàng)始人 Demis Hassabis 因開(kāi)發(fā) AlphaFold 以解決蛋白質(zhì)復(fù)雜結(jié)構(gòu)預(yù)測(cè)問(wèn)題，而獲得了諾貝爾化學(xué)獎(jiǎng)；2016 年，他和他的團(tuán)隊(duì)開(kāi)發(fā)的 AlphaGo 戰(zhàn)勝了人類(lèi)圍棋世界冠軍李世石，自此聲名鵲起；作為一個(gè)天才少年，他更是在 13 歲時(shí)就晉升為了國(guó)際象棋“大師”。

一直以來(lái)，Demis Hassabis 都被認(rèn)為是人工智能（AI）的風(fēng)向標(biāo)人物，作為一家頂級(jí) AI 公司的 CEO，他更愿意將自己視為一名科學(xué)家，稱(chēng)一生所做的一切都是為了追求知識(shí)，了解我們周?chē)氖澜?，并將?chuàng)造通用人工智能（AGI）視為他一生的目標(biāo)。

在當(dāng)前由大模型推動(dòng)的 AI 浪潮中，他甚至主張不要急功近利，不要打破常規(guī)。他批評(píng)了他所認(rèn)為的 AI 領(lǐng)域某些人的魯莽態(tài)度，他把這些人比作 “沒(méi)有意識(shí)到自己手中拿著危險(xiǎn)材料 ”的實(shí)驗(yàn)者。

日前，他被《時(shí)代》周刊評(píng)為了“2025 年全球最具影響力百大人物”（TIME 100）之一，并接受了《時(shí)代》周刊駐倫敦分社記者 Billy Perrigo 的專(zhuān)訪(fǎng)。

在采訪(fǎng)中，他談到了 AGI 的潛在“喜”與“憂(yōu)”：喜在“治愈疾病、開(kāi)發(fā)新能源，推動(dòng)人類(lèi)文明發(fā)展等”，憂(yōu)在“被不法分子惡意使用、失去人類(lèi)控制等”。他還表示，AGI 的倫理和社會(huì)問(wèn)題，如就業(yè)、隱私等，也需要得到更多關(guān)注。

他還毫不吝嗇地分享了他的樂(lè)觀看法，“我們將在這個(gè)人類(lèi)最繁榮的世界里，帶著人工智能將幫助實(shí)現(xiàn)的所有技術(shù)，遨游星際?！?/p>

他還認(rèn)為，掌握新工具將賦予人類(lèi)“超能力”，帶來(lái)更好、更有意義的工作，同時(shí)淘汰部分平凡崗位。但當(dāng) AGI 能夠勝任大多數(shù)任務(wù)時(shí)，新的問(wèn)題隨之而來(lái)：如何公平分配生產(chǎn)力提升的成果？以及，失去傳統(tǒng)工作的意義后，人類(lèi)如何重塑存在的目標(biāo)？“這需要新的哲學(xué)思考”。

學(xué)術(shù)頭條在不改變?cè)拇笠獾那疤嵯?，?duì)采訪(fǎng)內(nèi)容做了適當(dāng)?shù)木幒蛣h減。如下：

AGI 如果誕生，將會(huì)產(chǎn)生巨大的影響。你能為我描繪一下最好的情況嗎？如果我們創(chuàng)造了 AGI，世界會(huì)變成什么樣？

我之所以一輩子都在研究人工智能和 AGI，是因?yàn)槲蚁嘈?，如果操作得?dāng)、負(fù)責(zé)任發(fā)展，它將是有史以來(lái)最有益的技術(shù)。因此，我認(rèn)為，從現(xiàn)在起往前推 10 多年，我們可以利用它來(lái)做的事情包括：利用人工智能治愈所有疾病，以及幫助開(kāi)發(fā)新能源，無(wú)論是核聚變還是最佳電池，或是新材料，如新型超導(dǎo)體。我認(rèn)為，當(dāng)今社會(huì)面臨的一些最大問(wèn)題，無(wú)論是氣候還是疾病，都將通過(guò)人工智能解決方案來(lái)解決。因此，如果我們?cè)偻巴?10 年，我認(rèn)為樂(lè)觀的看法是，我們將在這個(gè)人類(lèi)最繁榮的世界里，帶著人工智能將幫助實(shí)現(xiàn)的所有技術(shù)，遨游星際。

以氣候問(wèn)題為例。我認(rèn)為，除了更多的技術(shù)，包括人工智能輔助技術(shù)（如新型能源等），我們沒(méi)有任何其他方法可以解決這個(gè)問(wèn)題。我不認(rèn)為我們能迅速采取集體行動(dòng)來(lái)解決這個(gè)問(wèn)題。

換一種說(shuō)法： 如果我不知道像人工智能這樣的變革性技術(shù)即將出現(xiàn)，我會(huì)對(duì)當(dāng)今社會(huì)感到非常擔(dān)憂(yōu)。我堅(jiān)信這一點(diǎn)。我之所以對(duì)未來(lái) 50 年的發(fā)展持樂(lè)觀態(tài)度，是因?yàn)槲抑溃绻覀冋_地構(gòu)建人工智能，它將能夠幫助我們解決一些最緊迫的問(wèn)題。這幾乎就像騎兵。我認(rèn)為我們今天就需要這支騎兵。

你也一直強(qiáng)調(diào)要規(guī)避風(fēng)險(xiǎn)。你能描述一下最壞的情況嗎？

最壞的情況，我想在科幻小說(shuō)中已經(jīng)說(shuō)得很多了。我認(rèn)為我最擔(dān)心的兩個(gè)問(wèn)題是：如果使用得當(dāng)，人工智能將是一項(xiàng)神奇的技術(shù)，但這是一項(xiàng)雙重用途的技術(shù)，它將強(qiáng)大得令人難以置信。因此，這意味著潛在的壞人可以重新利用這種技術(shù)來(lái)達(dá)到潛在的有害目的。因此，作為一個(gè)領(lǐng)域和社會(huì)，我們面臨的一個(gè)巨大挑戰(zhàn)是，我們?nèi)绾巫尯玫男袨檎吣軌颢@得這些技術(shù)，從而做出令人驚嘆的事情，比如治愈可怕的疾病，同時(shí)又限制可能的壞行為者獲得同樣的技術(shù)？這是一個(gè)很難解決的難題。第二件事是 AGI 風(fēng)險(xiǎn)本身。隨著技術(shù)變得更加自主、更加基于智能體，技術(shù)本身也會(huì)帶來(lái)風(fēng)險(xiǎn)，而這正是未來(lái)幾年將要發(fā)生的事情。我們?nèi)绾未_保能夠掌控這些系統(tǒng)、控制它們、解讀它們?cè)谧鍪裁?、理解它們、設(shè)置正確的防護(hù)欄，而這些防護(hù)欄又不能被自我改進(jìn)的高能力系統(tǒng)移動(dòng)？這也是一項(xiàng)極其艱巨的挑戰(zhàn)。因此，這是兩個(gè)主要的風(fēng)險(xiǎn)點(diǎn)。如果我們能正確處理這兩方面的問(wèn)題，我想我們就能實(shí)現(xiàn)令人驚嘆的未來(lái)。

但這并不是最壞的情況。最壞的情況是什么樣的？

我認(rèn)為，如果你弄錯(cuò)了，那么這些系統(tǒng)就會(huì)產(chǎn)生所有這些有害的用例，而這些用例的范圍可能與我們?cè)噲D做的事情相反--你可能最終沒(méi)有找到治療方法，而是用這些系統(tǒng)找到了毒素。因此，如果你顛倒了系統(tǒng)的目標(biāo)，所有好的用例都會(huì)變成有害的用例。作為一個(gè)社會(huì)，這就是我一直支持國(guó)際合作的原因。因?yàn)闊o(wú)論系統(tǒng)建在哪里，無(wú)論以何種方式建造，它們都可以分布在世界各地。它們會(huì)影響到世界上幾乎每一個(gè)角落的每一個(gè)人。因此，我認(rèn)為，我們需要圍繞這些系統(tǒng)的構(gòu)建方式、我們賦予它們的設(shè)計(jì)和目標(biāo)，以及它們的部署和使用方式制定國(guó)際標(biāo)準(zhǔn)。

在人工智能安全領(lǐng)域，有很多人都在談?wù)撨@些系統(tǒng)在多大程度上可能會(huì)尋求權(quán)力、具有欺騙性、試圖剝奪人類(lèi)的權(quán)力并擺脫人類(lèi)的控制。你對(duì)這是否是默認(rèn)路徑，還是尾部風(fēng)險(xiǎn)有什么看法？

我的感覺(jué)是，風(fēng)險(xiǎn)是未知的。所以有很多人，我的同事，著名的圖靈獎(jiǎng)獲得者，都站在這個(gè)論點(diǎn)的兩邊。我認(rèn)為正確的答案應(yīng)該是在中間的某個(gè)位置，也就是說(shuō)，如果你看看這場(chǎng)辯論，辯論雙方都有非常聰明的人。因此，這告訴我，我們對(duì)它的了解還不夠多，無(wú)法真正量化風(fēng)險(xiǎn)。隨著我們對(duì)這些系統(tǒng)的進(jìn)一步開(kāi)發(fā)，可能會(huì)發(fā)現(xiàn)要控制這些系統(tǒng)比我們想象的要容易得多，或者說(shuō)比我們預(yù)期的要容易得多。很多事情都是這樣的。因此，有一些證據(jù)表明，事情可能比一些最悲觀的人所想的要容易一些，但在我看來(lái)，風(fēng)險(xiǎn)仍然很大，我們必須仔細(xì)研究，量化風(fēng)險(xiǎn)，然后盡可能有預(yù)見(jiàn)性地提前處理，而不是事后處理。

是什么讓你夜不能寐？

對(duì)我來(lái)說(shuō)，是國(guó)際標(biāo)準(zhǔn)與合作的問(wèn)題，不僅是國(guó)家之間的合作，還有公司與研究人員之間的合作，因?yàn)槲覀冋谶~向 AGI 的最后一步。我認(rèn)為我們正站在這個(gè)風(fēng)口上。也許我們還有 5-10 年的時(shí)間。有人說(shuō)更短。我不會(huì)感到驚訝。這就像一個(gè)概率分布。但無(wú)論如何，它很快就會(huì)到來(lái)。我不確定社會(huì)是否已經(jīng)做好了準(zhǔn)備。我們需要考慮清楚這一點(diǎn)，同時(shí)也要考慮我之前談到的這些問(wèn)題，包括這些系統(tǒng)的可控性，以及這些系統(tǒng)的可訪(fǎng)問(wèn)性，并確保一切順利。

你認(rèn)為自己是科學(xué)家還是技術(shù)專(zhuān)家？你遠(yuǎn)離硅谷，來(lái)到倫敦。你如何定位自己？

我首先認(rèn)為自己是一名科學(xué)家。我一生所做的一切都是為了追求知識(shí)，試圖了解我們周?chē)氖澜?。我從孩提時(shí)代起就癡迷于此。對(duì)我來(lái)說(shuō)，打造人工智能就是我對(duì)如何解決這些問(wèn)題的表達(dá)：首先打造一個(gè)工具，這本身就非常吸引人，是對(duì)智能和意識(shí)以及這些已經(jīng)成為最大謎團(tuán)的事物的一種陳述，然后它可以有雙重目的，因?yàn)樗部梢宰鳛橐环N工具來(lái)研究你周?chē)淖匀皇澜?，比如化學(xué)、物理和生物學(xué)。還有比這更令人興奮的冒險(xiǎn)和追求嗎？因此，我認(rèn)為自己首先是一名科學(xué)家，其次可能是一名企業(yè)家，這主要是因?yàn)檫@是做事最快的方法。最后，也許是一名技術(shù)工程師，因?yàn)闅w根結(jié)底，你不想只是在實(shí)驗(yàn)室里理論和思考問(wèn)題。實(shí)際上，你想為世界帶來(lái)實(shí)際的改變。

我想談?wù)剷r(shí)間線(xiàn)的問(wèn)題。奧特曼和 Dario Amodei 最近都給出了...

很近了，對(duì)吧？

奧特曼說(shuō)他預(yù)計(jì) AGI 會(huì)在特朗普任期內(nèi)出現(xiàn)。Amodei則說(shuō)最早在2026年就會(huì)實(shí)現(xiàn)。

部分取決于你對(duì) AGI 的定義。因此，我認(rèn)為，出于各種原因，人們?cè)诘@一定義，籌集資金，人們可能會(huì)出于各種原因這樣做。我們的定義其實(shí)一直都是一致的：擁有人類(lèi)所有的認(rèn)知能力。實(shí)際上，我對(duì)此的測(cè)試是：[人工智能]能否在 1900 年代利用與愛(ài)因斯坦相同的信息量提出廣義相對(duì)論？所以，這不僅僅是解決一個(gè)數(shù)學(xué)猜想，你能提出一個(gè)有價(jià)值的猜想嗎？所以，我敢肯定，我們的系統(tǒng)很快就能解決其中一個(gè)“千年獎(jiǎng)”。但是，你能提出一組像這樣有趣的猜想嗎？

聽(tīng)起來(lái)，一言以蔽之，這就是你所說(shuō)的科學(xué)家和技術(shù)專(zhuān)家之間的區(qū)別。所有技術(shù)專(zhuān)家都在說(shuō)：這是一個(gè)能比人類(lèi)更好或更便宜地完成有經(jīng)濟(jì)價(jià)值的勞動(dòng)的系統(tǒng)。

這種說(shuō)法很好。也許這就是我對(duì)這部分內(nèi)容如此著迷的原因，因?yàn)樵跉v史上，我一直欽佩那些科學(xué)家，我認(rèn)為他們才是真正推動(dòng)知識(shí)向前發(fā)展的人，而不是讓知識(shí)變得實(shí)際有用的人。顯然，兩者對(duì)社會(huì)都很重要。工程和科學(xué)都是如此。但我認(rèn)為，[現(xiàn)有的人工智能]缺少這種假設(shè)的產(chǎn)生。

讓我們具體問(wèn)題具體分析。你認(rèn)為我們離能為人工智能研究做出有意義貢獻(xiàn)的自動(dòng)研究員還有多遠(yuǎn)？

我認(rèn)為還有幾年時(shí)間。我認(rèn)為編碼助手已經(jīng)相當(dāng)不錯(cuò)了。到明年，我認(rèn)為他們會(huì)非常出色。我們正在努力推進(jìn)這項(xiàng)工作。[Anthropic]主要專(zhuān)注于此，而我們一直在做更多科學(xué)方面的事情。[人工智能仍然]不如最好的程序員能為操作系統(tǒng)設(shè)計(jì)出漂亮的結(jié)構(gòu)。我認(rèn)為這部分還很欠缺，所以我認(rèn)為還需要幾年的時(shí)間。

在 Gmini 模型中，你非常注重多模態(tài)性，不僅將語(yǔ)言空間作為基礎(chǔ)，還將現(xiàn)實(shí)世界作為基礎(chǔ)。與其他實(shí)驗(yàn)室相比，你們更注重這一點(diǎn)。這是為什么？

有幾個(gè)原因。其一，我認(rèn)為真正的智慧需要了解你周?chē)臅r(shí)空世界。這對(duì)你想做的任何真正的科學(xué)也很重要。我還認(rèn)為，這實(shí)際上會(huì)讓語(yǔ)言模型變得更好，而且我認(rèn)為我們已經(jīng)看到了一些這樣的效果，因?yàn)槟銓?shí)際上已經(jīng)把它建立在了真實(shí)世界的語(yǔ)境中。不過(guò)，事實(shí)上，語(yǔ)言本身已經(jīng)走得比某些人想象的要遠(yuǎn)得多，也許我也會(huì)認(rèn)為這是可能的。最后，這也是一個(gè)用例問(wèn)題，因?yàn)槲夷X海中有兩個(gè)用例，我們正在大力開(kāi)發(fā)。一個(gè)是通用數(shù)字助理的概念，它能在日常生活中幫助你提高工作效率，豐富你的生活。它不只存在于你的電腦中，而是隨身攜帶，可能是手機(jī)、眼鏡或其他設(shè)備，而且一直都非常有用。要做到這一點(diǎn)，它需要了解你周?chē)氖澜?，并處理你周?chē)氖澜纭?/p>

其次，對(duì)于機(jī)器人技術(shù)來(lái)說(shuō)，它也正是現(xiàn)實(shí)世界中機(jī)器人技術(shù)所需要的。它必須了解所處的空間環(huán)境。[人類(lèi)是]多模態(tài)的，對(duì)嗎？所以，我們?cè)谄聊簧瞎ぷ?。我們有視覺(jué)。我們有喜歡看的視頻，有想創(chuàng)作的圖像，還有想聽(tīng)的音頻。因此，我認(rèn)為人工智能系統(tǒng)需要反映出這一點(diǎn)，才能與我們進(jìn)行最充分的互動(dòng)。

Signal 總裁 Meredith Whittaker 對(duì)你剛才描述的萬(wàn)能智能體提出了批評(píng)，認(rèn)為你并不是憑空得到這種幫助。作為交換，你需要放棄大量數(shù)據(jù)。你必須讓它獲取你生活中的幾乎所有信息使其有用。谷歌是一家收集個(gè)人信息以提供有針對(duì)性廣告的數(shù)字廣告公司。你如何看待智能體對(duì)隱私的影響？

Meredith 指出了這一點(diǎn)。我喜歡她在 Signal 所做的工作。我認(rèn)為，首先，這些東西都需要選擇加入。

但我們選擇了各種東西。我們選擇數(shù)字追蹤。

所以，首先，這是你的選擇，當(dāng)然，人們會(huì)這么做，顯然是因?yàn)樗苡杏?。我認(rèn)為，只有當(dāng)你完全相信這個(gè)助手是你的，它才會(huì)起作用，對(duì)嗎？它必須值得你信任，因?yàn)樗拖瘳F(xiàn)實(shí)生活中的人類(lèi)助手一樣，一旦他們了解你，他們就真的很有用。我的助理們比我自己還了解我，這就是為什么我們的團(tuán)隊(duì)合作得這么好。我想，這就是你想要的數(shù)字助理的實(shí)用性。但是，你必須確保它真的是孤立的。我們擁有世界上最優(yōu)秀的安全人員，他們負(fù)責(zé)這些工作，以確保它能保護(hù)隱私，甚至在我們的服務(wù)器上也能加密，以及所有這些技術(shù)。我們正在努力研發(fā)這些技術(shù)，以便在我們的助理產(chǎn)品（我們稱(chēng)之為 “Project Astra”）準(zhǔn)備就緒時(shí)使用。我認(rèn)為這將是消費(fèi)者的決定，他們會(huì)希望使用保護(hù)隱私的系統(tǒng)。我認(rèn)為邊緣計(jì)算和端側(cè)模型在這里也將非常重要，這也是我們?nèi)绱岁P(guān)注小型、高性能、可在單個(gè)設(shè)備上運(yùn)行的模型的原因之一。

我不知道你認(rèn)為還要過(guò)多久，我們才能開(kāi)始看到這些東西對(duì)勞動(dòng)力市場(chǎng)的重大影響。但如果或當(dāng)這種情況發(fā)生時(shí)，將會(huì)造成巨大的破壞，對(duì)嗎？你有應(yīng)對(duì)這種混亂的計(jì)劃嗎？

我和很多經(jīng)濟(jì)學(xué)家談過(guò)這個(gè)問(wèn)題。我認(rèn)為，首先，該領(lǐng)域的專(zhuān)家，經(jīng)濟(jì)學(xué)家和其他人，需要做更認(rèn)真的工作。當(dāng)我與經(jīng)濟(jì)學(xué)家交談時(shí)，我不確定這方面的工作做得是否足夠。我們正在建立智能體系統(tǒng)，因?yàn)樗鼈儠?huì)更有用。我認(rèn)為，這也會(huì)對(duì)工作產(chǎn)生一些影響，盡管我懷疑它會(huì)帶來(lái)其他工作，現(xiàn)在還不存在的新工作，即你要管理一組智能體，他們?cè)谧鲆恍┈嵥榈氖虑?，也許是一些背景研究，等等，但你還是要寫(xiě)出最終的文章，或提出最終的研究論文?；蛱岢鲅芯康南敕?。比如，你為什么要研究這些東西？

所以我認(rèn)為在下一階段，人類(lèi)將被這些神奇的工具賦予超能力，前提是你知道如何使用它們，對(duì)吧？所以會(huì)有顛覆，但我認(rèn)為會(huì)更好，會(huì)有更好的工作和更充實(shí)的工作，然后更平凡的工作就會(huì)消失。過(guò)去的科技就是這樣。但是，當(dāng) AGI 可以做很多很多事情的時(shí)候，我認(rèn)為這是一個(gè)問(wèn)題：我們能否在全世界范圍內(nèi)公平、廣泛地分配生產(chǎn)力的提高？之后還有一個(gè)問(wèn)題，就是意義和目的。這就是下一個(gè)哲學(xué)問(wèn)題，我認(rèn)為我們今天需要一些偉大的新哲學(xué)家來(lái)思考這個(gè)問(wèn)題。

我在2022年采訪(fǎng)你時(shí)，我們談到過(guò)這個(gè)問(wèn)題，你說(shuō)過(guò) “如果你身處一個(gè)極度富足的世界，不平等的空間和方式就會(huì)減少。所以，如果AGI愿景得以實(shí)現(xiàn)，這也是它的積極后果之一。” 但在那樣的世界里，仍然會(huì)有人控制財(cái)富，有人沒(méi)有財(cái)富，工人也可能不再有工作。你能詳細(xì)闡述一下你的愿景嗎？

我個(gè)人并沒(méi)有花很多時(shí)間在這個(gè)問(wèn)題上，盡管我可能越來(lái)越應(yīng)該這樣做。同樣，我認(rèn)為頂尖的經(jīng)濟(jì)學(xué)家也應(yīng)該對(duì)此多加思考。我覺(jué)得，徹底的富足真正意味著你解決了核聚變和/或最佳電池和/或超導(dǎo)體等問(wèn)題。假設(shè)你在人工智能的幫助下解決了這三件事。這意味著能源的[成本]基本上應(yīng)該為零，而且是清潔和可再生的，對(duì)嗎？突然間，這意味著你可以解決所有的用水問(wèn)題，因?yàn)槟阒恍枰泻Ｋ瘡S，這很好，因?yàn)槟侵皇悄茉春秃Ｋ?。這也意味著制造火箭燃料......你只需使用類(lèi)似的技術(shù)，從海水中分離出氫和氧，對(duì)嗎？突然間，資本主義世界的許多基礎(chǔ)都不復(fù)存在了，因?yàn)槠浠A(chǔ)是能源成本、資源成本和資源稀缺性。但是，如果你現(xiàn)在已經(jīng)打開(kāi)了太空，你可以開(kāi)采小行星和所有這些東西，這需要幾十年的時(shí)間來(lái)建設(shè)基礎(chǔ)設(shè)施，那么我們就應(yīng)該進(jìn)入這個(gè)新的經(jīng)濟(jì)時(shí)代。

我認(rèn)為這根本沒(méi)有解決不平等的問(wèn)題，對(duì)吧？開(kāi)采這些小行星仍然可以獲得和積累財(cái)富。土地是有限的。

所以現(xiàn)在有很多東西都是有限的，這就意味著最終是一場(chǎng)零和游戲。我所考慮的是一個(gè)不再是零和游戲的世界，至少?gòu)馁Y源的角度來(lái)看是這樣。那么還有其他問(wèn)題嗎？也許吧。因此，這些問(wèn)題必須在政治上加以解決。但至少你已經(jīng)解決了一個(gè)主要問(wèn)題，那就是，在我們所處的這個(gè)資源有限的世界里，一切最終都會(huì)變成零和。這不是唯一的根源，但卻是沖突的主要根源，也是不平等的主要根源。

這就是我所說(shuō)的徹底的富足。我們不再處于一個(gè)資源有限的零和世界。但我敢肯定，這可能需要一種新的哲學(xué)。

整理：與可

如需轉(zhuǎn)載或投稿，請(qǐng)直接在公眾號(hào)內(nèi)留言