大數(shù)據(jù)文摘編輯
3月5日夜，一款名為“Manus”的AI Agent產(chǎn)品悄然上線。短短24小時(shí)內(nèi)，Manus便成了國內(nèi)AI大模型領(lǐng)域最炙手可熱的明星——邀請(qǐng)碼一度在二手電商平臺(tái)被炒到數(shù)萬元，成為科技圈的“黃金船票”。
官方宣稱，Manus不是簡單的聊天機(jī)器人，而是能“連接思想和行動(dòng)”的通用代理。你丟給它一堆簡歷，它能自動(dòng)解壓、理解、生成Python腳本，最后奉上一份清晰的候選人分析表。簡單說，Manus不是陪聊的“智障AI”，而是真刀真槍上手“干活”的智能體。
人們?yōu)锳I的神奇驚嘆的同時(shí)，也開始惴惴不安：
AI離取代人類又近了一步？
它不僅會(huì)思考，還能行動(dòng)，甚至行動(dòng)得比你還好。
這不是第一次有人類面對(duì)“生產(chǎn)力飛躍”時(shí)的焦慮。
但這次和以往不同。
工業(yè)革命時(shí)期，機(jī)器替代了人類的體力勞動(dòng)，我們還能轉(zhuǎn)身成為機(jī)器的主人、工程師、管理者。
而AI，尤其是Agent的到來，第一次讓人類在“智能”本身——我們自以為最后的堡壘——上感受到了動(dòng)搖。
我們總喜歡問：AI能不能像人一樣思考？有沒有欲望？能不能像人類一樣理解復(fù)雜情感？我們努力畫出人與機(jī)器的邊界，仿佛只要守住這條線，人類就能在未來占有一席之地。
可現(xiàn)實(shí)往往反著來。
正如基辛格等人在新書《人工智能時(shí)代與人類價(jià)值》中所警示的，當(dāng)人類逐漸依賴機(jī)器處理越來越多的決策時(shí)，我們究竟是要讓科技賦能人類，還是被科技重新塑造甚至取代？
如果我們無法清晰界定人類與機(jī)器的本質(zhì)區(qū)別，我們可能會(huì)將定義自身價(jià)值的任務(wù)交給機(jī)器。而這可能是人類文明面臨的最大考驗(yàn)。
人工智能將開創(chuàng)“富足時(shí)代”
人工智能的出現(xiàn)提供了一個(gè)真正的機(jī)會(huì)，通過將人類的勞動(dòng)功能轉(zhuǎn)移到機(jī)器上，取代了至少一種原始的生產(chǎn)要素。此外，人工智能還將用于研究和開發(fā)日益廉價(jià)與豐富的原材料來源，作為對(duì)其自身的投入。隨著人工智能同時(shí)應(yīng)用于制造業(yè)，它可以減少任何特定商品所需的資本。誠然，裝備這種非人類智能本身仍需要一些不可再生的要素和商品，但如果人工智能被成功地用于尋找或生成這些要素的合成替代品，情況可能會(huì)為之一變。人工智能可以重新設(shè)計(jì)一種新的計(jì)算架構(gòu)，其效率要比現(xiàn)有的高出幾個(gè)數(shù)量級(jí)。最終，制造人工智能各組成部分的工廠也可以對(duì)此如法炮制。
人工智能可以為各種商品生產(chǎn)更具可持續(xù)性的合成替代品，從而開創(chuàng)一個(gè)新的富足時(shí)代。即使考慮到目前的一些物理和物質(zhì)限制，人工智能的產(chǎn)出——盡管不是無窮無盡的——也可以達(dá)到相當(dāng)寬裕的程度，足以滿足人類所有基本需求，并實(shí)現(xiàn)我們的眾多期待。這可能會(huì)讓我們?cè)谛睦韺用娌辉倌敲词苤朴诮?jīng)濟(jì)學(xué)的稀缺范式，以及我們?yōu)樯嫠榷ぷ魉鶎?dǎo)致的悲觀情緒。
但是，引導(dǎo)這些蘊(yùn)含巨大可能性的能量，并重新分配這些發(fā)展方向所帶來的利益，是一項(xiàng)重大責(zé)任。未來的決策者必須小心謹(jǐn)慎，避免讓工業(yè)革命時(shí)期蔓延開來的各種社會(huì)和經(jīng)濟(jì)不平等現(xiàn)象再度固化，然后才談得上著手通過更多由人類主導(dǎo)的控制結(jié)構(gòu)對(duì)此加以糾正，盡管其糾正速度將十分緩慢。
盡管如此，本書的作者們?nèi)韵嘈?，人工智能可以作為?chuàng)造人類財(cái)富和福祉的新基準(zhǔn)，而這種可能性本身就敦促我們朝著這個(gè)方向努力。此外，我們有信心，如果這樣的經(jīng)濟(jì)和政治方案得以實(shí)現(xiàn)，那么其即便不能完全消除之前蹂躪人類的各種勞動(dòng)、階級(jí)和沖突壓力，至少也可以減輕這些壓力。
我們確實(shí)擔(dān)心大部分人類會(huì)成為人工智能生成內(nèi)容的被動(dòng)消費(fèi)者。但這種擔(dān)憂源于人類好逸
惡勞的傾向，而且更令人不安的一點(diǎn)在于，關(guān)于人工智能在未來對(duì)我們的看法，我們也只能假設(shè)揣測(cè)而已。
換句話說，我們對(duì)人類被動(dòng)性的擔(dān)憂并不是因?yàn)槿祟愂チ擞袃敼ぷ鞯臋C(jī)會(huì)。其實(shí)，關(guān)于人們不用工作就能得償所愿時(shí)是如何生活的，我們現(xiàn)在已經(jīng)有了相應(yīng)的原型。我們稱這些人為富人和退休者。當(dāng)然，富人——包括許多以前并不富有的人——有時(shí)會(huì)在多年辛苦積累財(cái)富之后不知如何行使他們的選擇權(quán)。正如托爾斯泰所說：“如果有一個(gè)仙女來滿足我的一切愿望，我也不知道該許什么愿?！?/p>
對(duì)富足的適應(yīng)可能只是一個(gè)過渡性問題，而不是永久性的挑戰(zhàn)。有些人最初會(huì)認(rèn)為機(jī)器勞動(dòng)的引入剝奪了他們獲得滿足和快樂的主要來源。毫無疑問，這將是一次令人不快的經(jīng)歷。但對(duì)我們來說，這似乎不是對(duì)我們告誡的回應(yīng)，而是人類本能的產(chǎn)物——在既定時(shí)期內(nèi)，人類總會(huì)選擇鍥而不舍，或許是就此踏上新的道路，或許是成為人工智能的伙伴。人類不會(huì)畏縮不前，而是會(huì)轉(zhuǎn)而成為優(yōu)秀的思考者和實(shí)干家。最終，即便我們建立了分配、連接、參與和教育所需的諸多系統(tǒng)，但在人工智能賦予的力量和啟發(fā)之下，人類也可能會(huì)繼續(xù)工作，不為報(bào)酬，而是為了快樂和自豪感。
人類有多少能動(dòng)性？
一旦人工智能不再將人類視為機(jī)器世界的唯一創(chuàng)造者和主宰者，而是將其視為更廣闊世界中彼此離散的活動(dòng)者，那么機(jī)器將如何看待人類？人工智能將如何描述和權(quán)衡人類不完美的理性及其他品質(zhì)？一個(gè)能感知現(xiàn)實(shí)的人工智能需要多久才會(huì)自問，人類有多少能動(dòng)性？而它又需要多久才會(huì)根據(jù)人類特有的可預(yù)測(cè)屬性，問問自己人類“應(yīng)該”有多少能動(dòng)性？
那么機(jī)器本身呢？智能機(jī)器是否會(huì)將人類對(duì)它的指令理解為機(jī)器自身實(shí)際角色和理想角色的實(shí)現(xiàn)？或者說，它可能會(huì)從自身的功能中推斷出自己本應(yīng)是自主的，因此人類對(duì)機(jī)器的編程是一種奴役的形式？
最重要的是，人類的行為方式及其對(duì)待機(jī)器的方式將影響機(jī)器對(duì)人類的看法及其對(duì)自身在整個(gè)關(guān)系中所扮演角色的認(rèn)知。畢竟，人類是通過明確的指令和行為方式向機(jī)器展示人性的，機(jī)器也是通過這些指令和行為方式學(xué)會(huì)識(shí)別人類并以適當(dāng)?shù)姆绞綄?duì)待人類的。
想象一下，一臺(tái)機(jī)器被告知，所有屬于“人類”類別的生物都值得保護(hù)，這臺(tái)機(jī)器很可能已經(jīng)接受過“訓(xùn)練”，認(rèn)識(shí)到人類是優(yōu)雅、樂觀、理性和有道德的生物。但是，如果我們自己未能達(dá)到我們所定義的理想人類的標(biāo)準(zhǔn)呢？我們?cè)鯓硬拍茏寵C(jī)器相信，盡管我們的個(gè)體表現(xiàn)并不完美，卻仍歸屬于那個(gè)崇高的類別？
假設(shè)有一天，這臺(tái)機(jī)器遇到了一個(gè)表現(xiàn)出暴力、悲觀、非理性和貪婪的人，它將如何調(diào)整自身被打亂的預(yù)期呢？一種可能性是，機(jī)器可能會(huì)認(rèn)為這個(gè)壞分子只是“人類”這個(gè)總體為善的類別中的一個(gè)例外，一個(gè)非典型的例子。
或者，它也可以重新調(diào)整自己對(duì)人性的整體定義，將這個(gè)壞分子也包括在內(nèi)，在這種情況下，它可能會(huì)認(rèn)為自己可以自行弱化對(duì)人類的服從傾向。
又或者，更激進(jìn)的情況下，它可能完全不再認(rèn)為自己應(yīng)受制于那些它先前所習(xí)得的“合理”對(duì)待人類的規(guī)則。
今天，人類是機(jī)器與現(xiàn)實(shí)的中介。人工智能主要是一種思考機(jī)器，而不是執(zhí)行機(jī)器。它或許能給出問題的答案，但還不具備執(zhí)行結(jié)論的手段，而是依賴人類來完成與現(xiàn)實(shí)的對(duì)接。
但是，如果人類真的選擇了一個(gè)道德不作為的未來，從碳基世界退縮到硅基世界，進(jìn)一步鉆進(jìn)脫離現(xiàn)實(shí)的“數(shù)字洞穴”，將接觸原始現(xiàn)實(shí)的機(jī)會(huì)交予機(jī)器之手，那么兩者的角色就可能逆轉(zhuǎn)。
當(dāng)人工智能成為人類和現(xiàn)實(shí)世界的中介時(shí)，它們可能會(huì)逐漸相信，人類遠(yuǎn)非物理碳基世界中的積極參與者，而是置身于這個(gè)世界之外，他們是消費(fèi)者，而非塑造者或影響者。隨著這種自主性的倒錯(cuò)，機(jī)器將聲稱擁有獨(dú)立判斷和行動(dòng)的權(quán)利，而人類則放棄行使這些權(quán)利，于是前者對(duì)待后者的方式，就如同后者今日對(duì)待前者。
在這種情況下，無論是否得到其人類創(chuàng)造者的明確許可，人工智能都可能繞過人類主體的需求來實(shí)現(xiàn)自己的想法或直接代表自己影響世界。在物質(zhì)領(lǐng)域，我們這些創(chuàng)造者可能很快就會(huì)從人工智能的必要伙伴變成它的最大制約。這個(gè)過程未必直接以機(jī)器人技術(shù)為發(fā)端，而是可以通過人工智能對(duì)我們世界的間接觀察逐漸開始。
智能體的發(fā)展&人類的抉擇時(shí)刻
在短期內(nèi)，我們可以預(yù)見人工智能目前所遵循的指導(dǎo)原則將不斷進(jìn)步，其中許多原則將比現(xiàn)在的要復(fù)雜巧妙得多。對(duì)現(xiàn)有模型的擴(kuò)展將使其更智能、更準(zhǔn)確、更可靠。與此同時(shí)，訓(xùn)練和“推理”的成本正在迅速下降，從而導(dǎo)致不同價(jià)位和能力水平的模型廣泛涌現(xiàn)。
如今，許多科學(xué)家都在研究“智能體”（agent），即經(jīng)過優(yōu)化以實(shí)現(xiàn)特定結(jié)果的自主計(jì)算機(jī)程序。例如，為了執(zhí)行復(fù)雜的架構(gòu)設(shè)計(jì)，用戶可以雇用專門從事該具體工作領(lǐng)域的智能體。
屆時(shí)將出現(xiàn)數(shù)以百萬計(jì)的人工智能系統(tǒng)，它們很可能高度專業(yè)化，并構(gòu)成我們生活的一部分；還有更少數(shù)量的功能極其強(qiáng)大的機(jī)器，它們具有“通用智能”，但這種智能又以非人類的方式呈現(xiàn)。無論是開放式和分散式的，還是封閉式和集中式的，作為通用人工智能運(yùn)行的計(jì)算機(jī)都有可能在某一時(shí)刻聯(lián)網(wǎng)。專家級(jí)人工智能體將在不同主題之間相互咨詢，甚至以假想方式彼此進(jìn)行“交談”。這些交互所使用的語言可能由計(jì)算機(jī)自行設(shè)計(jì)。
人工智能的雛形已經(jīng)顯現(xiàn)，它可以比較概念、提出反駁和生成類比。它正朝著評(píng)估真實(shí)和實(shí)現(xiàn)直接動(dòng)力學(xué)效應(yīng)的方向邁出第一步。
當(dāng)機(jī)器到達(dá)智力或物質(zhì)世界的盡頭時(shí)會(huì)發(fā)生什么？可以想象，當(dāng)它們開始了解并塑造我們的世界時(shí)，它們可能會(huì)完全理解自身創(chuàng)造行為所依據(jù)的背景，也可能會(huì)超越我們所知的世界。
我們面臨著一場(chǎng)麥哲倫式的變革，這一次我們面臨的不是駛出世界邊緣的危險(xiǎn)，而是面對(duì)超越人類理解極限的奧秘所帶來的智力危機(jī)。
如果人類開始意識(shí)到，自己作為地球上最重要的智力和體力行為者的地位可能會(huì)被取代，一些人可能會(huì)賦予機(jī)器一種神性，從而有可能進(jìn)一步激發(fā)人類的宿命論和屈從心理。另一些人則可能會(huì)采取相反的觀點(diǎn)：一種以人類為中心的主觀主義，徹底否定機(jī)器觸及任何程度的客觀真理的可能性，并試圖取締人工智能賦能的活動(dòng)。
這兩種思維方式都無法讓“技術(shù)人”——一種在這個(gè)新時(shí)代可能與機(jī)器技術(shù)共生的人類物種——實(shí)現(xiàn)令人滿意或建設(shè)性的進(jìn)化。事實(shí)上，這兩種心態(tài)都可能阻礙我們這個(gè)物種的進(jìn)化。
在第一種宿命論情境下，我們可能會(huì)走向滅絕。而在第二種拒絕主義的情境下，通過禁止人工智能的進(jìn)一步發(fā)展并選擇停滯不前，我們將有希望避免同樣的滅絕命運(yùn)——盡管考慮到我們?nèi)祟惷媾R的生存風(fēng)險(xiǎn)，包括當(dāng)今的沖突頻發(fā)外交局面和日益惡劣的大氣條件，這種希望本身很可能落空。
GPU算力按需租用
A100/H100 GPU算力按需租用，
秒級(jí)計(jì)費(fèi)，平均節(jié)省開支30%以上！
掃碼了解詳情?
熱門跟貼