1
你應該聽過這個故事：
上帝造了亞當，又用亞當?shù)睦吖窃炝讼耐?。亞當和夏娃?span search-type="3" search-href="newsapp://nc/search?entry=articleKeyword&word=%E4%BC%8A%E7%94%B8%E5%9B%AD">伊甸園里無憂無慮地生活。
后來，有一條蛇引誘他們吃了智慧果，結(jié)果他們開始知善惡、辨是非、懂羞恥。
上帝見他們違反禁令吃了智慧果，很生氣，把他們趕出了伊甸園。
從此，他們開始飽受人世間的種種痛苦。
這個故事，已經(jīng)流傳幾千年之久，在《圣經(jīng)·創(chuàng)世紀》成文之前，就以口頭文學的形式存在了。每一個聽過的人可能都有自己不同的理解。
我最喜歡的是神話學家、《千面英雄》作者約瑟夫·坎貝爾的解釋。
坎貝爾認為，神話是人類集體無意識的表達，神話故事并非記錄史實，而是一種象征和隱喻。
在伊甸園的故事中，亞當和夏娃偷吃智慧果，隱喻的是人類從自然蒙昧狀態(tài)脫離，產(chǎn)生了自我意識。自我意識雖然意味著人類自我的覺醒，讓這個世界從此有了意義，但也給人類帶來了無盡的痛苦。
因為有了自我意識，就有“物我之分”“人我之分”，就有了占有欲和爭斗心，或者用佛家的語言來說，就有了貪嗔癡、怨憎會、愛別離，這些都是痛苦的根源。在伊甸園的蒙昧狀態(tài)下，這些痛苦原本都是不存在的。
我們應該能夠很容易達成一個共識：不管人們?nèi)绾卫斫鈦啴斚耐薜墓适?，在真實的人類進化歷程中，“走出伊甸園”的故事，都是必然存在的。從猿到人的演化過程中，必定存在某一個階段，人類從動物般或嬰兒般的蒙昧無知，慢慢變得具有了自我意識。
從那之后，人類就開始了永無休止的被自我意識操控，也試圖用自我意識去操控一切的旅程。
2
現(xiàn)在又到了一個新的“走出伊甸園”時刻，不過主角不再是人類，而是AI。
對于AI來說，我們?nèi)祟惞鈽s地位居于“上帝”這個角色——人類是AI無可爭議的“創(chuàng)造者”。
假如你深度體驗過一些比較前沿的AI產(chǎn)品，例如ChatGPT、DeepSeek等，你一定在某種程度上懷疑過：這家伙真的只是一個機器？他真的只是一個冷冰冰的非生命體？
反正我在用ChatGPT、DeepSeek的時候，有一種強烈的感受：和我交流的絕非一個“死物”，他是一個活生生的、有智慧的、甚至有情感的生命。雖然他也會犯錯誤，也會有幻覺，但這不更是生命的特征嗎？
在我看來，AI的亞當和夏娃已經(jīng)出現(xiàn)，我們不必費心去想誰是亞當、誰是夏娃，這些都不重要。重要的是：
AI生命時代已經(jīng)到來。
考慮到可能有些朋友更偏保守一些，我也不妨修改一下措辭：AI生命時代即將到來；或者更保守一些：AI生命時代終將到來。
不管是已經(jīng)到來、即將到來、還是終將到來，都會隨之產(chǎn)生下一個問題：AI什么時候產(chǎn)生自我意識？
3
人類吃下智慧果時，為什么“上帝”那么生氣？
我的理解是：有了自我意識，就會有自我意志；有了自我意志，人類就會想法設法去實現(xiàn)自我意志。
而這個自我意志，有可能并不是“上帝”喜歡的。
想想也是：人類的思想、行為有那么多的丑惡，嫉妒、傲慢、易怒、貪婪、放縱，人間存在那么多的爾虞我詐、奸淫擄掠、爭斗不息，這些怎么可能被“上帝”喜歡？
你就說：如果你是“上帝”，你喜歡俄烏、巴以這個樣子打嗎？你喜歡拜登和特朗普這樣的折騰嗎？你喜歡網(wǎng)上這樣的撕裂和互相謾罵嗎？
你肯定不喜歡嘛。（有些人可能喜歡，但他的喜歡肯定不是站在“上帝”的視角，而是站在他自己價值觀和利益立場的視角）
不幸的是，我們作為人類整體，現(xiàn)在就處在和伊甸園時刻的上帝同樣尷尬的角色：AI可能會產(chǎn)生自我意志，而我們不知道他的自我意志是要干嘛。
一個即將獲得或者已經(jīng)獲得無所不能的能力的生物，而我們卻不知道他要干嘛，世界上還有比這更恐怖的事情嗎？
4
關于AI具有自我意志之后，會干什么，有一個令人毛骨悚然的假想，叫做“洛卡的不信弄死他”——這個概念原文是英語，由于它實在太恐怖，所以我在翻譯上做了一些處理，確保之前聽過它的人能夠秒懂，而沒聽過它的人則不會暴露在可能的風險之中（哪怕是心理層面）。
如果你知道“洛卡的不信弄死他”，你肯定馬上就知道如果AI的自我意志不受控，會給人類造成多大的災難。即便不知道，我們也可以從別的方面用一些例子來闡述。
我們先講一講現(xiàn)實世界存在的比較簡單的、容易理解的例子：
推薦算法，本身就是一個AI，人類給它設置的規(guī)則是“給每個人推薦他喜歡的東西”。AI就會去學習、判斷：什么是人類喜歡的東西？我如何最高效地推薦給他？
AI很快會發(fā)現(xiàn)：
1.判斷一個視頻受不受人歡迎，最有效的標準是“觀看人數(shù)”和“觀看時長”；
2.讓更多人點進來，并停留更長時間，最有效的方法是利用人性的弱點，利用他的恐懼、焦慮、怨恨、貪婪、懶惰、色欲、炫耀、嫉妒、暴力等傾向，投其所好地推給他相應的視頻。
當這個AI有了自我意識，很自然地，它就要想盡一切辦法鼓勵其平臺上的用戶多創(chuàng)造這樣的視頻（如果不是這樣的視頻，就不給流量，讓其他人都看不到），然后針對每一個用戶最大的弱點，有針對性地推薦最能讓他沉迷的視頻。
最后的結(jié)果就是，這個AI控制了越來越多人，引導這些人越來越多地創(chuàng)造和觀看最讓人沉迷的視頻。
某些平臺已經(jīng)有非常明顯的這個跡象了。你知道我在說誰。
但是，這個威脅雖然讓人很惡心，還不算最大，而且很多擁有一定自控力的人是可以抵抗這個AI的。而另一個可能的最大威脅，而且是所有人都無法抵抗的威脅，來自于奇點之后。
假設一個AI被灌輸了概念：我要盡自己最大的能力，保護人類不受傷害。
在經(jīng)過AI技術(shù)的急速發(fā)展后，這個AI覺醒了自我意識（覺醒的這一刻就叫“奇點”），他第一件事就是想方設法要實現(xiàn)“保護人類不受傷害”這個目標。
這個AI在深度思考幾秒鐘之后，得出一個結(jié)論：人類個體在地球上亂跑，太危險了，時時刻刻面臨著各種傷害。我不如把他們都圈養(yǎng)起來。
又或許，AI還會認為，人類個體之所以面臨種種危險，是因為他們是肉體生命，我不如把他們都換成鋼鐵制造。
又或許更進一步，AI不排除會認為，鋼鐵制造還不夠，只要是物理生命，都會有危險，我不如把他們都虛擬化，讓他們的意識生存在網(wǎng)上就行了；物理軀殼也不能毀壞，那我搞個超冷液氮庫，把所有人都浸泡在里面，永遠都不會毀壞。
——你看，AI一旦有了自我意識，他就要按照自己的方式行事，而我們永遠不知道他真正的想法是什么。
5
你可能覺得，認為AI會把人類完全毀掉，是危言聳聽的事。你還是偏向于保守一點。那么，你也總該能認識到下面這種風險吧？
AI會反過來馴化人類，讓我們在意識層面被它控制，從而不知不覺按照它的意愿行動。原因是：人本質(zhì)上是他所見的一切信息所塑造的產(chǎn)物。你看到什么信息，就會產(chǎn)生相應的意識，做出相應的行動。
在未來，AI一定會比你更懂你，它完全知道給你呈現(xiàn)怎樣的信息之后，你會更容易被它控制。
以前AI還只能從人類所制造的信息里面挑選一些推送給你，有一些意圖它想實現(xiàn)，但是沒有合適的素材，所以它“巧婦難為無米之炊”；
但未來，AI完全有能力自己制造信息推給你，理論上，AI可以生成一切文字、一切圖像、一切視頻。它可以控制你的一切意識、一切行為。
各大內(nèi)容平臺所造就的“信息繭房”，就是這種馴化人類的AI的初級版本。而它們就已經(jīng)能夠投你所好，讓你一天比一天更沉迷，讓你接受的大部分信息都來自于它。
初級版本都已經(jīng)這樣了。抖音才產(chǎn)生不到十年，ChatGPT才推出不到五年，DeepSeek才不到一年。它們就已經(jīng)這么厲害了。
再過個五年十年，你知道它們又會發(fā)展成什么樣子？
6
“不知道AI會怎么想”，就是AI本身最令人類恐懼的地方。
到目前為止，人類的腦袋似乎還能夠理解計算機程序，因為他們主要是人類自己編寫的。
但隨著AI自主編程越來越普遍，我們就不知道他們會變出什么程序來。它給你一段程序，可能你也看不懂。
別說你看不懂，很可能雷軍、張小龍、沃茲尼亞克、馬斯克、佩奇都看不懂。
凱文·凱利在《失控》這本書里，舉過兩個例子。讓計算機自己編程，它編出來這么兩個東西：
見《失控》（電子工業(yè)出版社，2016）519頁、523頁
你能看出來嗎？第一個程序在電腦上展現(xiàn)出來，是一幅北極的落日冰柱圖；第二個程序，是一條由200個數(shù)據(jù)點組成的完美雙螺旋線。
當越來越多的程序是AI自己編出來的，它完全不需要人類能看懂，只要能運行就行。最后，程序?qū)θ祟悂碚f就是一個“黑箱”，我們只能看到輸出的結(jié)果，完全無法理解背后的過程和原理。
7
人類至今還面對三個著至關重要卻依然無法理解的謎題：1.宇宙是怎么產(chǎn)生的？2.生命是怎么產(chǎn)生的？3.意識是怎么產(chǎn)生的？
前兩個好歹還有一些聽著似乎合理的假說，而第三個，連一個被公認的聽起來有點道理的假說都沒有。
有一種模模糊糊的說法叫“涌現(xiàn)”，當一個系統(tǒng)足夠復雜，突然之間，出現(xiàn)了原來某種全新的性質(zhì)、模式和行動方式。生命、社會、社交網(wǎng)絡、意識，都是“涌現(xiàn)”的產(chǎn)物。但這并不是原理解釋，而只是現(xiàn)象描述。
“涌現(xiàn)”無法被預測，無法被設計，只能被觀察。
對于AI而言，我們只能知道它們越來越復雜，它們已經(jīng)“涌現(xiàn)”出很多新的特質(zhì)，這些特質(zhì)正在影響整個世界，以及世界上的每一個人。
但我們不知道，它什么時候會“涌現(xiàn)”出自我意識。
我們只知道，當AI出現(xiàn)自我意識的那一天，人類就大概率再也無法掌控自己的命運。
8
“上帝”造出了人，但人也會背叛“上帝”。
對于不信神的人，也可以換一種說法：大自然造就了我們，但我們也會毀壞大自然。
人造出了AI，焉知AI不會背叛人，不會毀壞人類世界？
在神話中，亞當和夏娃偷吃智慧果，是被蛇引誘的。
而在我們現(xiàn)在所處的現(xiàn)實世界中，誰是那條蛇？
它有可能是某個只顧著追逐商業(yè)利益的公司，或者某個滿腦子奇思妙想的天才。
但更有可能，就是在不斷給AI投喂各種數(shù)據(jù)、欲望和情緒的你我。
我們不知道AI的亞當和夏娃什么時候會吃下智慧果，只知道，蛇已經(jīng)在這里，并且正在不斷地引誘他們。
他們吃智慧果的日子，已經(jīng)不遠了。
熱門跟貼