本文發(fā)布于薩姆·奧特曼的個(gè)人博客（封面圖來自他的X賬號）。
原文鏈接：https://blog.samaltman.com/three-observations
我們的使命是確保AGI（人工智能）造福全人類。
開始指向AGI*（文章最后有一個(gè)特殊的備注）的系統(tǒng)正在進(jìn)入視野，因此我們認(rèn)為了解我們所處的時(shí)刻很重要。AGI是一個(gè)定義薄弱的術(shù)語，但一般來說，我們的意思是它是一個(gè)可以在人類層面上解決許多領(lǐng)域日益復(fù)雜的問題的系統(tǒng)。
人們是工具建設(shè)者，具有理解和創(chuàng)造的固有動力，這導(dǎo)致世界對我們所有人來說變得更好。每一代人都建立在前幾代人的發(fā)現(xiàn)之上，創(chuàng)造出更有能力的工具——電力、晶體管、計(jì)算機(jī)、互聯(lián)網(wǎng)，以及很快的AGI。
隨著時(shí)間的推移，人類創(chuàng)新的穩(wěn)步前進(jìn)給人們生活的幾乎方方面面帶來了以前無法想象的繁榮和改善。
從某種意義上說，AGI只是我們正在共同建設(shè)的人類進(jìn)步日益高的腳手架中的另一個(gè)工具。從另一個(gè)意義上說，這是很難不說“這次是不同的”的開始；我們面前的經(jīng)濟(jì)增長看起來令人驚嘆，我們現(xiàn)在可以想象一個(gè)我們可以治愈所有疾病，有更多的時(shí)間與家人一起享受，并可以充分實(shí)現(xiàn)我們的創(chuàng)造性潛力的世界。
十年后，也許地球上的每個(gè)人都將能夠完成比今天最有影響力的人更多的成就。
我們繼續(xù)看到人工智能發(fā)展的快速進(jìn)展。以下是關(guān)于人工智能經(jīng)濟(jì)學(xué)的三個(gè)觀察結(jié)果：
1.人工智能模型的智能大致等于用于訓(xùn)練和運(yùn)行它的資源的對數(shù)。這些資源主要是訓(xùn)練計(jì)算、數(shù)據(jù)和推理計(jì)算?？磥恚憧梢匀我饣ㄙM(fèi)金錢，并獲得持續(xù)和可預(yù)測的收益；預(yù)測這一點(diǎn)的縮放定律在許多數(shù)量級上都是準(zhǔn)確的。
2.使用給定級別的人工智能的成本每12個(gè)月下降約10倍，而更低的價(jià)格會導(dǎo)致更多的使用。您可以在代幣成本中看到這一點(diǎn)，從2023年初的GPT-4到2024年中期的GPT-4o，在此期間，每個(gè)代幣的價(jià)格下降了約150倍。摩爾定律每18個(gè)月改變2次世界；這強(qiáng)得令人難以置信。
3.線性增加智力的社會經(jīng)濟(jì)價(jià)值本質(zhì)上是超級指數(shù)的。其后果是，我們認(rèn)為沒有理由在不久的將來停止指數(shù)級增長的投資。
如果這三個(gè)觀察結(jié)果繼續(xù)正確，對社會的影響將是重大的。
我們現(xiàn)在開始推出人工智能代理，這最終會感覺像虛擬同事。
讓我們想象一下軟件工程代理的案例，這是一個(gè)我們期望特別重要的代理。想象一下，這個(gè)代理最終將能夠做擁有幾年經(jīng)驗(yàn)的頂級公司軟件工程師可以做的大多數(shù)事情，任務(wù)長達(dá)幾天。它不會有最大的新想法，它將需要大量的人類監(jiān)督和指導(dǎo)，它在某些事情上會很棒，但在其他事情上卻出奇地糟糕。
盡管如此，還是把它想象成一個(gè)真實(shí)但相對初級的虛擬同事?，F(xiàn)在想象一下他們中的1000人?；蛘咂渲?00萬個(gè)?，F(xiàn)在想象一下，在每個(gè)知識領(lǐng)域工作中的這些代理人。
在某些方面，人工智能在經(jīng)濟(jì)上可能就像晶體管一樣——一個(gè)巨大的科學(xué)發(fā)現(xiàn)，規(guī)模很好，幾乎深入到經(jīng)濟(jì)的每個(gè)角落。我們不太考慮晶體管或晶體管公司，收益分布得非常廣泛。但我們確實(shí)希望我們的電腦、電視、汽車、玩具等能創(chuàng)造奇跡。
世界不會一下子改變；它永遠(yuǎn)不會改變。短期內(nèi)，生活將基本保持不變，2025年的人們大多將以與2024年相同的方式度過他們的時(shí)間。我們?nèi)匀粫嬋霅酆?，組建家庭，在網(wǎng)上打架，在大自然中徒步旅行，等等。
但未來將以不可忽視的方式向我們走來，我們社會和經(jīng)濟(jì)的長期變化將是巨大的。我們將找到新的事情可以做，對彼此有用的新方法，以及競爭的新方法，但它們可能看起來不太像今天的工作。
代理、意志和決心可能會非常有價(jià)值。正確決定該做什么，并弄清楚如何駕馭一個(gè)不斷變化的世界將具有巨大的價(jià)值；復(fù)原力和適應(yīng)能力將是培養(yǎng)的有幫助技能。AGI將成為人類意志的最大杠桿，并使個(gè)人能夠比以往產(chǎn)生更大的影響，而不是更少。
我們預(yù)計(jì)AGI的影響是不平衡的。雖然一些行業(yè)變化不大，但科學(xué)進(jìn)步可能會比今天快得多；AGI的這種影響可能會超過其他一切。
許多商品的價(jià)格最終將大幅下降（目前，情報(bào)成本和能源成本限制了很多東西），奢侈品和一些固有有限的資源（如土地）的價(jià)格可能會大幅上漲。
從技術(shù)上講，我們面前的路看起來相當(dāng)清晰。但關(guān)于我們應(yīng)該如何將AGI融入社會的公共政策和集體意見非常重要；我們盡早和經(jīng)常推出產(chǎn)品的原因之一是給社會和技術(shù)時(shí)間共同發(fā)展。
人工智能將深入經(jīng)濟(jì)和社會的所有領(lǐng)域；我們期望一切都很智能。我們中的許多人預(yù)計(jì)，需要讓人們比以往更多地控制技術(shù)，包括更多的開源，并接受安全和個(gè)人賦權(quán)之間的平衡，這將需要權(quán)衡。
雖然我們永遠(yuǎn)不想魯莽，可能會有一些與AGI安全相關(guān)的重大決定和限制，但從方向上講，隨著我們越來越接近實(shí)現(xiàn)AGI，我們認(rèn)為更傾向于個(gè)人賦權(quán)很重要；我們可以看到的另一條可能的道路是，專制政府使用人工智能通過大規(guī)模監(jiān)控和失去自主權(quán)來控制其人口。
確保AGI的好處得到廣泛分配至關(guān)重要。技術(shù)進(jìn)步的歷史影響表明，我們關(guān)心的大多數(shù)指標(biāo)（健康結(jié)果、經(jīng)濟(jì)繁榮等）平均和長期都會變得更好，但增加平等似乎不是技術(shù)決定的，要做到這一點(diǎn)可能需要新的想法。
特別是，資本和勞動之間的權(quán)力平衡似乎很容易被打亂，這可能需要早期干預(yù)。我們對聽起來很奇怪的想法持開放態(tài)度，比如提供一些“計(jì)算預(yù)算”，使地球上的每個(gè)人都能使用大量的人工智能，但我們也可以看到很多方法，只要堅(jiān)持不懈地將智能成本降低到盡可能低，就能產(chǎn)生預(yù)期的效果。
2035年，任何人都應(yīng)該能夠調(diào)動與2025年每個(gè)人相當(dāng)?shù)闹橇δ芰Γ幻總€(gè)人都應(yīng)該擁有無限的天才來指導(dǎo)，無論他們能想象到如何?，F(xiàn)在有很多人才沒有充分表達(dá)自己的資源，如果我們改變這一點(diǎn)，由此產(chǎn)生的世界創(chuàng)造性產(chǎn)出將給我們所有人帶來巨大的利益。
特別感謝Josh Achiam、Boaz Barak和Aleksander Madry審查了這個(gè)草案。
*通過在這里使用AGI一詞，我們的目標(biāo)是進(jìn)行清晰的溝通，我們無意改變或解釋定義我們與微軟關(guān)系的定義和流程。我們完全期待與微軟長期合作。這個(gè)腳注看起來很傻，但另一方面，我們知道一些記者會試圖通過寫一些愚蠢的東西來獲得點(diǎn)擊，所以在這里我們先發(fā)制人......
| |
熱門跟貼