逐漸復(fù)雜的人工智能模型，看上去越來(lái)越像擁有自主能力的生命了。計(jì)算機(jī)在人際網(wǎng)絡(luò)中的地位迅速上升，歸根結(jié)底是因?yàn)?a class="keyword-search" >人工智能技術(shù)，已經(jīng)發(fā)展到了能夠撰寫(xiě)故事的地步了。而在往昔的歷史中，利用虛構(gòu)能力“編故事”，這可是人類(lèi)獨(dú)占在自己手里的特權(quán)。2016年，谷歌曾經(jīng)做了一項(xiàng)試驗(yàn)：他們首先建立了兩個(gè)獨(dú)立的人工智能神經(jīng)網(wǎng)絡(luò)系統(tǒng)，分別代號(hào)為愛(ài)麗絲（Alice）與鮑勃（Bob），讓它們彼此開(kāi)始交流，然后，再創(chuàng)建了第三個(gè)，代號(hào)伊芙（EVE），它的任務(wù)是“竊聽(tīng)”愛(ài)麗絲和鮑勃的”對(duì)話”。一開(kāi)始，愛(ài)麗絲和鮑勃使用的是計(jì)算機(jī)科學(xué)家提前研發(fā)好的加密通信方式，當(dāng)然，算力同樣強(qiáng)大，也了解這種加密通信方式的伊芙自然會(huì)不斷地加以破解。結(jié)果，在經(jīng)過(guò)大約15000次交流后，愛(ài)麗絲和鮑勃居然自行設(shè)計(jì)出了一種底層邏輯截然不同，全新的加密通信方式，從伊芙到谷歌的計(jì)算機(jī)科學(xué)家們，誰(shuí)也無(wú)法破譯。

如果人類(lèi)失去對(duì)“信息制造”的壟斷權(quán)，那會(huì)發(fā)生什么？赫拉利的預(yù)言是，這將意味著由人類(lèi)主導(dǎo)自身命運(yùn)歷史的終結(jié)，甚至人類(lèi)自身的終結(jié)。畢竟，我們生活在自己織造的信息繭房中，每天接收的信息塑造了我們的價(jià)值觀、道德、審美與生活消費(fèi)習(xí)慣。而現(xiàn)在，計(jì)算機(jī)在中間橫插了一杠，我們每天能接收到什么樣的信息，越來(lái)越要取決于它的心情了。

赫拉利說(shuō)，由計(jì)算機(jī)、網(wǎng)絡(luò)和人工智能技術(shù)引領(lǐng)的新一波“信息革命”，不僅會(huì)創(chuàng)造出新的政治結(jié)構(gòu)、經(jīng)濟(jì)模式和文化規(guī)范，也許還意味著地球的生物結(jié)構(gòu)中出現(xiàn)了一位全新的成員，而且是擁有超級(jí)智慧的全新生命體：僅僅是驅(qū)動(dòng)全球各地的人工智能神經(jīng)網(wǎng)絡(luò)進(jìn)行計(jì)算，以及儲(chǔ)存它們數(shù)據(jù)所消費(fèi)的能源，就已經(jīng)占據(jù)了全球人類(lèi)總能耗的百分之幾，并且這個(gè)比例還在迅速增加。凱文·凱利在他的著作《科技想要什么》里，索性就提出，地球上除了現(xiàn)有的動(dòng)物、真菌、植物等六個(gè)生命王國(guó)，還應(yīng)該把技術(shù)硬件，列為第七個(gè)生命王國(guó)。實(shí)際上，在人類(lèi)的日常社會(huì)經(jīng)濟(jì)與文化生活中，人工智能還悄無(wú)聲息地掌控了另外一些重要的部分或者節(jié)點(diǎn)：比如全球外匯交易、個(gè)人信貸和城市公共管理。所以，作為有史以來(lái)最為強(qiáng)大的信息傳播與生成技術(shù)，人工智能同時(shí)給人類(lèi)帶來(lái)了前所未有的賦能與危害：讓我們?cè)O(shè)想一下這樣一個(gè)場(chǎng)景，你坐在家里，掃地機(jī)器人正在清掃你的房間，智能音箱里在播放你喜歡的常聽(tīng)歌單，還通知你明天要下雨，當(dāng)然，天氣也是由氣象臺(tái)的AI神經(jīng)網(wǎng)絡(luò)來(lái)預(yù)測(cè)的。然而，就在這一切發(fā)生的同時(shí)，你一邊看著一條AI生成的Deep fake假視頻，一邊對(duì)遠(yuǎn)方某個(gè)素未謀面的人群產(chǎn)生了一股切齒的仇恨。隨后，你收到了一條手機(jī)推送：銀行剛剛拒絕了你的貸款申請(qǐng)，這個(gè)決定并非由某位金融財(cái)務(wù)審核人員做的，而是銀行最近啟用的，神秘的人工智能信用評(píng)估系統(tǒng)；而且它還告訴你，整個(gè)審核流程是由人工智能全程黑箱操作完成，沒(méi)有任何細(xì)節(jié)，而且這個(gè)結(jié)果也無(wú)法通過(guò)人工干預(yù)而進(jìn)行修改。

打開(kāi)網(wǎng)易新聞 查看精彩圖片

不僅如此，赫拉利警告我們，由于人類(lèi)對(duì)人工智能內(nèi)部的自我進(jìn)化機(jī)制還不是很了解，所以一旦出現(xiàn)某種類(lèi)似基因突變的偶然事件，讓人工智能決定與人類(lèi)為敵，我們很可能會(huì)束手無(wú)策。這種情況如果推演到極致，就會(huì)發(fā)生某種全新的、無(wú)可挽回的災(zāi)難。為了說(shuō)明這一點(diǎn)，赫拉利在書(shū)中引用了哲學(xué)家博斯特羅姆講過(guò)的一個(gè)寓言：一家生產(chǎn)回形針的企業(yè)購(gòu)買(mǎi)了一臺(tái)超級(jí)電腦，并讓它接管整個(gè)企業(yè)的制造流程，任務(wù)是盡一切可能擴(kuò)大產(chǎn)量，結(jié)果電腦迅速失控：它通過(guò)聯(lián)網(wǎng)，迅速操控了整個(gè)地球，甚至更多的行星，從地球到外太空，都布滿(mǎn)了生產(chǎn)回形針的工廠。隨后，它又判斷出，人類(lèi)的存在，占用了寶貴的資源，影響了回形針的產(chǎn)量，于是它又滅絕了人類(lèi)。當(dāng)然，寓言想要表達(dá)的道理是，這場(chǎng)荒誕的悲劇，并非因?yàn)橛?jì)算機(jī)天生邪惡所導(dǎo)致的，而是它過(guò)于強(qiáng)大，且無(wú)法與人共情。所以，人類(lèi)在使用人工智能為自己賦能的時(shí)候，要非常小心地為其制定目標(biāo)，確保人工智能的行動(dòng)與人類(lèi)的利益完全一致。那么，如何確保人工智能和人類(lèi)的利益保持一致呢？赫拉利在接下來(lái)的部分里，為我們進(jìn)行了抽絲剝繭一樣的分析與推理。

首先，是要培養(yǎng)人工智能的共情能力，讓它能和人有“同理心”，能夠感知到人類(lèi)的痛苦，并讓它在制定行為策略的時(shí)候，把避免人類(lèi)痛苦變成首要原則。但這個(gè)思路很快就遇到了一道難以逾越的障礙：對(duì)于擅長(zhǎng)量化計(jì)算的人工智能來(lái)說(shuō)，人類(lèi)的痛苦，或者快樂(lè)，恰恰是一種很難精確計(jì)算的模糊變量。說(shuō)到這里，又有人說(shuō)了，既然人工智能能夠迅速收集處理大量數(shù)據(jù)，那么只要放著它自己學(xué)習(xí)領(lǐng)悟，那么它遲早會(huì)變得既睿智，又公正，因?yàn)樗粫?huì)像人類(lèi)那樣，被各種價(jià)值觀和偏見(jiàn)帶歪。但很不幸，這個(gè)設(shè)想也不正確，已經(jīng)有不少實(shí)驗(yàn)表明，如果人類(lèi)對(duì)投喂人工智能的數(shù)據(jù)資料不加限制，那么人工智能本身也會(huì)迅速被污染：例如，2016年，微軟推出了一款人工智能聊天機(jī)器人Tay，為了讓Tay在交流中更像一個(gè)真實(shí)的人類(lèi)，微軟的計(jì)算機(jī)科學(xué)家就讓它自由瀏覽社交媒體Twitter（現(xiàn)在叫X）上的內(nèi)容，沒(méi)想到在十幾個(gè)小時(shí)之內(nèi)，形形色色的仇恨言論已經(jīng)教會(huì)了Tay發(fā)表仇恨女性與種族主義言論，于是微軟只能將Tay匆忙下架。

赫拉利說(shuō)，剛剛誕生的人工智能模型，就如同一個(gè)嬰幼兒時(shí)期的人類(lèi)；而我們給它投喂的數(shù)據(jù)，就仿佛這個(gè)嬰幼兒接受的最初教育和家庭環(huán)境，會(huì)決定它未來(lái)的價(jià)值觀取向。所以，要想培養(yǎng)出一個(gè)以關(guān)愛(ài)和公正態(tài)度來(lái)對(duì)待人類(lèi)的人工智能，我們可能首先需要的，是一整套“純潔”的數(shù)據(jù)。除了數(shù)據(jù)的公正性，赫拉利提出的另外一個(gè)策略，就是教會(huì)人工智能“自我懷疑”，讓它在面對(duì)人類(lèi)相關(guān)，而自己并不了解的問(wèn)題時(shí)，能夠誠(chéng)實(shí)地發(fā)出“我不知道，請(qǐng)?jiān)俳o我更多的數(shù)據(jù)和細(xì)化原則”的請(qǐng)求，而不是繼續(xù)埋頭蠻干。同時(shí)，赫拉利提醒我們說(shuō)，至少在短期可見(jiàn)的未來(lái)里，人類(lèi)一定不能放棄對(duì)人工智能實(shí)行最終控制與干涉的權(quán)力，并牢記這條原則：人是人工智能的控制者，它的使命是幫助人類(lèi)更快、更好地做出判斷，節(jié)省出那些原本做機(jī)械性基礎(chǔ)工作的精力，轉(zhuǎn)而用于創(chuàng)新、決策等高階任務(wù)。

當(dāng)然，這種人工智能可能“反客為主”，操控人類(lèi)的危險(xiǎn)，目前來(lái)看，距離我們相對(duì)遙遠(yuǎn)。但在眼下，一些因人工智能而起的分裂和危機(jī)，卻迫在眉睫。比如，赫拉利在本書(shū)結(jié)尾部分就說(shuō)，現(xiàn)在各國(guó)在人工智能技術(shù)領(lǐng)域的差距，已經(jīng)逐漸讓它們分裂為兩個(gè)截然不同的世界，中間是一道冷冰冰的“硅幕”。一方因?yàn)閾碛辛讼冗M(jìn)的人工智能技術(shù)，會(huì)獲得比工業(yè)革命初期西方列強(qiáng)還要強(qiáng)勢(shì)的主導(dǎo)性地位，而另一邊，則變成了所謂的“數(shù)據(jù)殖民地”：它們一邊被迫從先進(jìn)國(guó)家那里高價(jià)購(gòu)買(mǎi)昂貴的人工智能技術(shù)，一邊向先進(jìn)國(guó)家廉價(jià)輸出原料。與以往的農(nóng)產(chǎn)品與礦產(chǎn)不同，人工智能時(shí)代最重要的原料，就是數(shù)據(jù)，比如我們的日常生理數(shù)據(jù)與留下的網(wǎng)絡(luò)數(shù)字痕跡，諸如此類(lèi)。位于先進(jìn)國(guó)家的壟斷性技術(shù)公司，會(huì)利用來(lái)自落后國(guó)家地區(qū)的海量數(shù)據(jù)原料，持續(xù)升級(jí)迭代自身的人工智能模型，進(jìn)一步拉大自己的領(lǐng)先優(yōu)勢(shì)。

不僅如此，由于人類(lèi)進(jìn)入了一個(gè)“萬(wàn)物互聯(lián)”的時(shí)代，由人工智能驅(qū)動(dòng)的智能生產(chǎn)模式，將在人類(lèi)各個(gè)已知的領(lǐng)域內(nèi)普及。赫拉利認(rèn)為，這對(duì)于特別依靠勞動(dòng)密集型產(chǎn)業(yè)的發(fā)展中國(guó)家地區(qū)來(lái)說(shuō)，是一場(chǎng)滅頂之災(zāi)：對(duì)比人工智能超強(qiáng)的處理和控制能力，來(lái)自發(fā)展中國(guó)家的產(chǎn)業(yè)工人會(huì)發(fā)現(xiàn)，自己的勞動(dòng)會(huì)迅速貶值，最終變得不再被需要；而由此引發(fā)的社會(huì)震蕩與沖突，將會(huì)成為未來(lái)人類(lèi)社會(huì)全新的不安定因素；然而在同時(shí)，人工智能革命創(chuàng)造的新財(cái)富，也只會(huì)在發(fā)達(dá)國(guó)家內(nèi)部進(jìn)行分配和消化：根據(jù)全球知名會(huì)計(jì)師事務(wù)所普華永道的統(tǒng)計(jì)，在2030年，人工智能技術(shù)將為全球經(jīng)濟(jì)帶來(lái)15.7萬(wàn)億美元的增量財(cái)富，但其中的70%，都會(huì)流向少數(shù)幾個(gè)人工智能技術(shù)發(fā)達(dá)國(guó)家。屆時(shí)，整個(gè)人類(lèi)世界的紛爭(zhēng)和分裂會(huì)進(jìn)一步加劇，一方面，是因?yàn)樨?cái)富的不平等，而另一方面則是意識(shí)形態(tài)上的差距。對(duì)于這個(gè)全新的危機(jī)，赫拉利給出的建議是，首先，要相信合作的力量，畢竟合作精神自從人類(lèi)誕生起，就作為人類(lèi)文明的基石價(jià)值觀而長(zhǎng)期存在。當(dāng)然，人工智能的失控，會(huì)帶給人類(lèi)以前所未有的威脅，但反過(guò)來(lái)說(shuō)，這種威脅的嚴(yán)重性，也會(huì)成為人類(lèi)拋開(kāi)分歧，進(jìn)行合作的契機(jī)。其次，就是從此刻開(kāi)始，人類(lèi)必須加大對(duì)一切自我修正機(jī)制的投入，畢竟人工智能把海量數(shù)據(jù)，以前所未有的速度送到人類(lèi)面前，我們可以充分研究幾乎人類(lèi)以往全部的決策歷史，所以，人類(lèi)既沒(méi)有借口，也沒(méi)有資格，在這個(gè)重要的抉擇關(guān)口犯下錯(cuò)誤。