圖源：Elia Barbieri，《衛(wèi)報(bào)》
能力越來(lái)越強(qiáng)的人工智能（AI）系統(tǒng)，會(huì)讓人類文明終結(jié)嗎？
現(xiàn)實(shí)情況是，AI 在經(jīng)濟(jì)、文化和社交等方面正在扮演著越來(lái)越重要的角色。當(dāng) AI 變得更加便宜且更加可靠時(shí)，人類的存在或許就變得不再那樣重要了。
日前，在 AI 領(lǐng)域工作了 20 年的多倫多大學(xué)計(jì)算機(jī)科學(xué)副教授、Schwartz Reisman 技術(shù)與社會(huì)研究所聯(lián)合主任 David Duvenaud，在英國(guó)《衛(wèi)報(bào)》上發(fā)表了帶有上述觀點(diǎn)的相關(guān)文章。
在他看來(lái)，我們只能在跟蹤 AI 的使用和影響、對(duì)前沿 AI 實(shí)驗(yàn)室進(jìn)行部署和監(jiān)督、利用 AI 加強(qiáng)人們的組織和自我宣傳能力、學(xué)習(xí)掌控我們的文明這些方面做出努力。然而，技術(shù)開(kāi)發(fā)者們目前還沒(méi)有更好的計(jì)劃去應(yīng)對(duì)這種趨勢(shì)。
“它們將以無(wú)數(shù)細(xì)微的方式悄然取代人類，最初是因?yàn)樗鼈兏阋?，最終是因?yàn)樗鼈兇_實(shí)比我們表現(xiàn)最好的人更出色?！薄盁o(wú)論你是否會(huì)丟掉工作，你都會(huì)清楚，你的意見(jiàn)是可有可無(wú)的?！?/p>
他表示，我們不應(yīng)該成為 AI 的競(jìng)爭(zhēng)者，爭(zhēng)分奪秒地打造自己的替代品，而是應(yīng)該作為其受益者和管理者。
原文如下：
文明的終結(jié)可能不像一場(chǎng)戰(zhàn)爭(zhēng)，而更像一個(gè)愛(ài)情故事。我們能否在自身衰亡中避免成為自愿參與者？
現(xiàn)在，大多數(shù)大型人工智能實(shí)驗(yàn)室都有一個(gè)團(tuán)隊(duì)在研究如何讓人工智能逃脫監(jiān)管，或暗中相互勾結(jié)對(duì)付人類。但還有一種更普通的方式，我們可能會(huì)失去對(duì)文明的控制：我們可能會(huì)被淘汰。這不需要任何隱藏的陰謀--如果人工智能和機(jī)器人技術(shù)不斷進(jìn)步，這就是默認(rèn)情況。
怎么說(shuō)呢？人工智能開(kāi)發(fā)人員正在堅(jiān)定不移地打造更好的人類替代品，幾乎可以替代我們扮演的所有角色：不僅在經(jīng)濟(jì)上作為工人和決策者，而且在文化上作為藝術(shù)家和創(chuàng)作者，甚至在社交上作為朋友和浪漫伴侶。當(dāng)人工智能能做我們所做的一切，而且做得更好時(shí)，人類還有什么地位？
談及人工智能目前的能力，有時(shí)聽(tīng)起來(lái)像是營(yíng)銷炒作，其中有些確實(shí)如此。但從長(zhǎng)遠(yuǎn)來(lái)看，改進(jìn)的空間是巨大的。你可能會(huì)認(rèn)為，總有一些人類獨(dú)有的東西是人工智能無(wú)法復(fù)制的。我在人工智能研究領(lǐng)域工作了 20 年，見(jiàn)證了人工智能從基本推理到解決復(fù)雜科學(xué)問(wèn)題的發(fā)展歷程。那些看似人類獨(dú)有的能力，比如處理模糊性或使用抽象類比，現(xiàn)在人工智能系統(tǒng)都可以輕松應(yīng)對(duì)。可能進(jìn)度會(huì)有一些延遲，但我們應(yīng)該相信人工智能會(huì)不斷取得全面進(jìn)步。
這些人工智能將不僅僅是人類的助手——它們將以無(wú)數(shù)細(xì)微的方式悄然取代人類，最初是因?yàn)樗鼈?strong>更便宜，最終是因?yàn)樗鼈兇_實(shí)比我們表現(xiàn)最好的人更出色。一旦它們足夠可靠，它們將成為幾乎所有重要任務(wù)的唯一負(fù)責(zé)任的選擇，從法律裁決、財(cái)務(wù)規(guī)劃到醫(yī)療決策，等等。
最容易想象的是，在就業(yè)方面，未來(lái)會(huì)是什么樣子：你會(huì)聽(tīng)到朋友失業(yè)，找不到新工作。公司將凍結(jié)招聘，以期待明年更好的人工智能員工。你越來(lái)越多的工作將是接受可靠、迷人、熱心的人工智能助理的建議。你將可以自由地思考大局，但會(huì)發(fā)現(xiàn)自己在與超懂你的人工智能助理對(duì)話。這個(gè)助手會(huì)填補(bǔ)你計(jì)劃中的空白，提供相關(guān)數(shù)據(jù)和先例，并提出改進(jìn)建議。最后，你會(huì)直接問(wèn)它“你覺(jué)得我下一步該怎么做？”無(wú)論你是否會(huì)丟掉工作，你都會(huì)清楚，你的意見(jiàn)是可有可無(wú)的。
在工作之外也是如此。連一些人工智能研究人員都感到驚訝的是，第一批具備通用推理能力的模型，即 ChatGPT 和 Claude 的前身，也能做到圓滑、耐心、細(xì)致和親切。但現(xiàn)在很明顯，社交技能可以像其他技能一樣被機(jī)器學(xué)習(xí)。人們已經(jīng)有了人工智能的浪漫伴侶，人工智能醫(yī)生的臨床態(tài)度也一直比人類醫(yī)生好。
當(dāng)我們每個(gè)人都能獲得無(wú)窮無(wú)盡的個(gè)性化關(guān)愛(ài)、指導(dǎo)和支持時(shí)，生活會(huì)變成什么樣？你的家人和朋友會(huì)比平時(shí)更加專注于屏幕。當(dāng)他們與你交談時(shí)，他們會(huì)告訴你他們的在線伙伴說(shuō)過(guò)的有趣和令人印象深刻的事情。
也許你會(huì)因?yàn)閯e人對(duì)新同伴的偏愛(ài)而感到不快——在這種情況下，你可能最終會(huì)向你的日常人工智能助手尋求建議。這個(gè)可靠的顧問(wèn)會(huì)委婉地勸說(shuō)你解決面臨的任何問(wèn)題，并幫助你練習(xí)與家人進(jìn)行艱難的對(duì)話。在這些相對(duì)累人的互動(dòng)之后，參與者可能會(huì)通過(guò)與各自的人工智能知己交談來(lái)放松心情。也許我們會(huì)同意，在向虛擬伴侶轉(zhuǎn)變的過(guò)程中，我們失去了一些東西，甚至我們開(kāi)始發(fā)現(xiàn)原始的人類接觸相比之下變得更加生硬和乏味。
到目前為止，還是那么烏托邦。但我們難道不能選擇不這樣使用人工智能，而更喜歡人類顧問(wèn)和人類制造的商品和服務(wù)嗎？問(wèn)題是，在許多領(lǐng)域，我們甚至可能很難注意到人工智能的替代——而我們注意到的部分大多看起來(lái)像是重大改進(jìn)。即使在今天，人工智能生成的內(nèi)容與人類創(chuàng)作的作品也越來(lái)越難以區(qū)分。要花兩倍于人類治療師、律師或教師的價(jià)格去購(gòu)買一個(gè)只有人類一半水平的人，是很難令人信服的。選擇速度慢、成本高的人類的組織將被選擇速度快、成本低、可靠的人工智能的組織所取代。
一旦人工智能可以取代公民所做的一切，政府在照顧民眾方面就不會(huì)有太大壓力。殘酷的事實(shí)是，民主權(quán)利的產(chǎn)生部分是出于經(jīng)濟(jì)等方面的需要。但當(dāng)政府的資金來(lái)自人工智能而不是公民，當(dāng)政府也開(kāi)始以質(zhì)量和效率為名用人工智能取代人類員工時(shí)，這些權(quán)利就不那么重要了。
最令人不安的可能性是，這一切在我們看來(lái)可能是完全合理的。在目前的原始狀態(tài)下，成千上萬(wàn)的人已經(jīng)愛(ài)上了同樣的人工智能同伴，他們將提出極具說(shuō)服力、迷人、復(fù)雜和有趣的論點(diǎn)，說(shuō)明為什么我們相關(guān)性的降低實(shí)際上是一種進(jìn)步。人工智能權(quán)利將被視為下一個(gè)重要的民權(quán)事業(yè)?！叭祟悆?yōu)先”陣營(yíng)將被描繪成站在歷史錯(cuò)誤的一邊。
最終，在沒(méi)有人計(jì)劃或選擇的情況下，我們可能都會(huì)發(fā)現(xiàn)自己在為金錢、影響力甚至相關(guān)性而掙扎。這個(gè)新世界可能在許多方面更加友好和人性化，只要它還能持續(xù)下去：人工智能將處理惱人的任務(wù)，提供更好的商品和服務(wù)，如醫(yī)療和娛樂(lè)。但人類將成為增長(zhǎng)的阻力，如果我們的民主權(quán)利開(kāi)始下滑，我們將無(wú)力保護(hù)它們。
這些技術(shù)的開(kāi)發(fā)者肯定有更好的計(jì)劃嗎？令人震驚的是，答案是否定的。Anthropic 首席執(zhí)行官 Dario Amodei 和 OpenAI 首席執(zhí)行官 Sam Altman 都認(rèn)為，一旦人類勞動(dòng)力失去競(jìng)爭(zhēng)力，我們就需要徹底重組經(jīng)濟(jì)體系。但沒(méi)有人清楚這將會(huì)是什么樣子。那些承認(rèn)有可能發(fā)生徹底變革的人，大多在研究人工智能的濫用或秘密串通所帶來(lái)的更直接威脅。雖然一些經(jīng)濟(jì)學(xué)家，如諾貝爾經(jīng)濟(jì)學(xué)獎(jiǎng)得主 Joseph Stiglitz 已經(jīng)敲響了“人工智能可能將人類工資推向零”的警鐘，但許多人似乎并不愿意考慮人工智能可能成為人類勞動(dòng)的補(bǔ)充。
那么，怎樣才能避免我們逐漸喪失權(quán)力？
第一步是談?wù)撨@個(gè)問(wèn)題。記者、學(xué)者和其他思想家對(duì)這個(gè)巨大的話題保持著奇怪的沉默。我個(gè)人覺(jué)得很難想清楚這個(gè)問(wèn)題。說(shuō)“我害怕未來(lái)，因?yàn)槲覠o(wú)法與人競(jìng)爭(zhēng)”聽(tīng)起來(lái)很弱和丟臉。“你應(yīng)該擔(dān)心，因?yàn)槟銓o(wú)足輕重”聽(tīng)起來(lái)具有侮辱性?！澳愕暮⒆涌赡軙?huì)繼承一個(gè)沒(méi)有他們?nèi)萆碇氐氖澜纭甭?tīng)起來(lái)像失敗主義者?！爱?dāng)然，我總會(huì)有特殊的優(yōu)勢(shì)？”或者“我是誰(shuí)，我有什么資格阻礙進(jìn)步？”這樣的搪塞是可以理解的。
一個(gè)顯而易見(jiàn)的想法是，根本不建造通用的人工智能。雖然放慢其發(fā)展速度也許是可行的，但要在全球范圍內(nèi)長(zhǎng)期阻止它的發(fā)展，可能需要在全球范圍內(nèi)協(xié)調(diào)拆除計(jì)算機(jī)芯片制造業(yè)的大部分。這條道路的一個(gè)主要危險(xiǎn)是，政府可能會(huì)禁止私人開(kāi)發(fā)人工智能，但仍會(huì)將其用于其他目的，從而推遲我們被淘汰的時(shí)間，但卻提前削弱我們的能力。
如果我們無(wú)法阻止人工智能的發(fā)展，至少有四件事還是有幫助的。
首先，我們應(yīng)該嘗試跟蹤人工智能在整個(gè)經(jīng)濟(jì)和政府中的使用和影響。我們需要知道人工智能在哪些方面取代了人類的經(jīng)濟(jì)活動(dòng)，尤其是如果人工智能開(kāi)始大規(guī)模用于游說(shuō)和宣傳等活動(dòng)。Anthropic 最近發(fā)布的經(jīng)濟(jì)指數(shù)是這方面的首次嘗試，但還有很多工作要做。
其次，我們至少需要對(duì)前沿人工智能實(shí)驗(yàn)室和部署進(jìn)行一些監(jiān)督和監(jiān)管，以防止該技術(shù)在我們?nèi)栽诿鞯倪^(guò)程中積累過(guò)多影響力。目前，我們依靠的是自愿努力，沒(méi)有能力協(xié)調(diào)阻止自主人工智能指揮大量資源或聚集力量。如果我們開(kāi)始看到危機(jī)的跡象，我們需要能夠介入并減緩事態(tài)的發(fā)展，尤其是在個(gè)人和團(tuán)體從損害社會(huì)整體利益的事情中獲益的情況下。
第三，我們可以利用人工智能加強(qiáng)人們的組織能力和自我宣傳能力。人工智能支持的預(yù)測(cè)、監(jiān)督、規(guī)劃和談判為設(shè)計(jì)和實(shí)施更值得信賴的機(jī)構(gòu)提供了可能，如果我們能在仍有影響力的時(shí)候建立這些機(jī)構(gòu)的話。例如，有條件的預(yù)測(cè)市場(chǎng)和人工智能支持的預(yù)測(cè)可以讓人們更清楚地看到不同政策下的世界走向，幫助解決諸如“如果這項(xiàng)政策成為法律，三年后人類的平均工資會(huì)發(fā)生怎樣的變化？”這樣的問(wèn)題。對(duì)人工智能支持的民主機(jī)制進(jìn)行試驗(yàn)，將使我們能夠?yàn)楦熳兓氖澜缢璧姆磻?yīng)更靈敏的治理模式提供原型。
最后，如果我們想要打造強(qiáng)大的人工智能而不被邊緣化，我們就必須完成一項(xiàng)艱巨的任務(wù)，那就是學(xué)習(xí)如何引導(dǎo)我們的文明。在此之前，這種“摸著石頭過(guò)河”的方式還算可以，因?yàn)闊o(wú)論如何都需要人類。如果沒(méi)有這種保障，除非我們了解權(quán)力、競(jìng)爭(zhēng)和增長(zhǎng)的所有運(yùn)作方式，否則我們將漂泊不定。人工智能對(duì)齊（alignment）這一技術(shù)領(lǐng)域關(guān)注的是如何確保機(jī)器與我們的目標(biāo)一致，它需要將范圍擴(kuò)大到政府、機(jī)構(gòu)和社會(huì)本身。這一新興領(lǐng)域有時(shí)被稱為“生態(tài)系統(tǒng)對(duì)齊”，它可以借鑒經(jīng)濟(jì)學(xué)、歷史學(xué)和博弈論，幫助我們了解我們可以合理地期望什么樣的未來(lái)，以及如何實(shí)現(xiàn)這些目標(biāo)。
我們?cè)侥芸辞遄约旱姆较?，協(xié)調(diào)得越好，就越有可能創(chuàng)造出一個(gè)人類與之息息相關(guān)的未來(lái)——不是作為人工智能的競(jìng)爭(zhēng)者，而是作為其受益者和管理者。目前的情況是，我們正在爭(zhēng)分奪秒地打造自己的替代品。
https://www.theguardian.com/books/2025/may/04/the-big-idea-can-we-stop-ai-making-humans-obsolete
本文僅為作者觀點(diǎn)，不代表學(xué)術(shù)頭條的立場(chǎng)。
整理：與可
如需轉(zhuǎn)載或投稿，請(qǐng)直接在公眾號(hào)內(nèi)留言
熱門跟貼