【對(duì)話/ 觀察者網(wǎng) 心智觀察所】
人工智能技術(shù)狂飆突進(jìn)，正以前所未有的速度重塑千行百業(yè)。然而，光環(huán)之下暗流涌動(dòng)——深度學(xué)習(xí)依賴的“暴力計(jì)算”能否突破統(tǒng)計(jì)局限？通用人工智能（AGI）是觸手可及的未來，還是科學(xué)幻想？
值此產(chǎn)業(yè)躁動(dòng)與理性思辨交織之際，【心智觀察所】獨(dú)家對(duì)話東方通科技股份有限公司首席科學(xué)家謝耘，就AI技術(shù)狂奔與理論認(rèn)知等一系列問題做了深入探討。
心智觀察所：AI產(chǎn)業(yè)和相關(guān)技術(shù)演進(jìn)是業(yè)界持續(xù)關(guān)注的熱點(diǎn)，您對(duì)目前AI的基本現(xiàn)實(shí)有哪些判斷？
謝耘：AI迄今依然處于“前科學(xué)”狀態(tài)，其科學(xué)理論或稱智能科學(xué)理論至今沒有出現(xiàn)，只有一些零碎的認(rèn)識(shí)。人類從神經(jīng)生理學(xué)和心理學(xué)兩個(gè)角度研究了100年左右，前者是從低向上、后者是從外向內(nèi)試圖解開人類意識(shí)/智能之謎，但一直沒有能夠?qū)崿F(xiàn)突破。所以人工智能迄今為止依然是一門沒有科學(xué)理論支撐的、基于經(jīng)驗(yàn)的、解決具體問題的實(shí)用技術(shù)，屬于現(xiàn)代工匠技藝。
有人認(rèn)為，這樣做下去智能科學(xué)原理一定就會(huì)出現(xiàn)。但是從歷史上看，科學(xué)的出現(xiàn)并不是工匠技藝不斷積累的一個(gè)必然結(jié)果。否則中國就不會(huì)錯(cuò)過人類科技發(fā)展的機(jī)遇了。
人工智能在70年的發(fā)展歷程中，嘗試過包括邏輯推理在內(nèi)的多種方法，效果都不令人滿意：通用性差，難以應(yīng)對(duì)復(fù)雜情況。2010年隨著計(jì)算機(jī)暴力計(jì)算能力的出現(xiàn)，深度學(xué)習(xí)的統(tǒng)計(jì)方法相比其它方法而言，成為了能夠適用于更多類型問題的方法，成為當(dāng)下人工智能的中流砥柱。但統(tǒng)計(jì)方法受制于統(tǒng)計(jì)樣本自身蘊(yùn)含的信息，無法超越這些信息所能反映的問題范圍。
心智觀察所：有關(guān)AGI（通用人工智能）的范式、路徑等問題，業(yè)界多有討論且聚訟不休，您對(duì)通往AGI之路的方法論怎么看？
謝耘：AGI包含兩方面的含義。第一種含義是，找到一個(gè)通用的人工智能方法而不是應(yīng)用系統(tǒng)，通過對(duì)其進(jìn)行適當(dāng)?shù)膮?shù)設(shè)置（學(xué)習(xí)），構(gòu)造出不同的應(yīng)用系統(tǒng)，可以用它們分別去解決幾乎所有類型的人工智能問題；第二種含義是，構(gòu)造出一個(gè)應(yīng)用系統(tǒng)，它是“萬能”，可以解決幾乎所有類型的人工智能問題。
再談?wù)勍ㄓ萌斯ぶ悄艿姆椒?。因?yàn)闆]有科學(xué)理論，所以從理論上無法推斷出是否存在這樣的方法；從實(shí)踐上看，目前所有的具體方法，包括基于深度學(xué)習(xí)的大語言模型，都不具有這樣的通用能力。是否把不同的方法集成在一起就能夠形成這樣一種“萬能”的方法，因?yàn)闆]有理論支撐，只能依靠未來的實(shí)踐來回答這個(gè)問題。而人類過去的實(shí)踐沒有這樣的先例——高精尖的技術(shù)，都是基于科學(xué)理論發(fā)展出來的，靠工匠探索可以形成橫向的百花齊放，但是縱向深入的程度有限。
通用人工智能應(yīng)用系統(tǒng)這個(gè)目標(biāo)從現(xiàn)有的基礎(chǔ)來看還無法實(shí)現(xiàn)。就人腦來說，人腦在一般的意義上可以說是一個(gè)通用的智能“方法”或“平臺(tái)”，可以通過學(xué)習(xí)訓(xùn)練解決各種智能活動(dòng)。但是從具體的一個(gè)人來說，也就是當(dāng)一個(gè)大腦成為了一個(gè)實(shí)際的“應(yīng)用系統(tǒng)后”，它也不是通用萬能的，而是每一個(gè)人都有自己的側(cè)重。
由于上述的情況，所以AGI，特別是通用人工智能方法，現(xiàn)階段作為科學(xué)探索比較合適，作為產(chǎn)業(yè)應(yīng)用來開發(fā)，還缺少基本的前提條件。
心智觀察所：AI可以賦能千行白業(yè)，而且下游應(yīng)用領(lǐng)域也極為廣闊，那么人工智能的技術(shù)方法在未來是“一”還是“多”？
謝耘：從圖靈提出的人工智能圖靈測(cè)試開始，人工智能領(lǐng)域中就參雜了大量的不滿足科學(xué)規(guī)范的各種說法。圖靈測(cè)試就只是一種主觀評(píng)價(jià)方法，并不是滿足科學(xué)客觀性要求的科學(xué)性測(cè)試方法。它埋下了把主觀想象等誤當(dāng)作“科學(xué)”要素植入到人工智能中的種子。今天，這個(gè)領(lǐng)域混雜了更多的商業(yè)炒作內(nèi)容，卻都以“科學(xué)”的面目出現(xiàn)。
從技術(shù)發(fā)展而非謀取商業(yè)利益的角度來看，還是應(yīng)該大力提倡科學(xué)理性。對(duì)于人工智能的現(xiàn)狀與未來，還是應(yīng)該基于科學(xué)的規(guī)范和態(tài)度來做分析預(yù)測(cè)。這不是樂觀與悲觀、鼓勵(lì)與打擊的問題，而是實(shí)事求是的問題。失去基本的科學(xué)理性，這個(gè)領(lǐng)域的發(fā)展就會(huì)偏離健康的道路而遭遇許多不必要的曲折和代價(jià)。不久前的區(qū)塊鏈?zhǔn)怯星败囍b的。
由于AGI應(yīng)用系統(tǒng)的開發(fā)還缺少基本的前提基礎(chǔ)，所以面向大眾服務(wù)的人工智能系統(tǒng)，應(yīng)該以各個(gè)具體領(lǐng)域應(yīng)用為目標(biāo)。比如人工智能的法律服務(wù)系統(tǒng)、健康服務(wù)系統(tǒng)、旅游服務(wù)系統(tǒng)、歷史知識(shí)服務(wù)系統(tǒng)等等。國家應(yīng)該制定相應(yīng)的領(lǐng)域服務(wù)系統(tǒng)的技術(shù)與功能標(biāo)準(zhǔn)，對(duì)其進(jìn)行合理的管理，反對(duì)做所謂的“無所不知”的應(yīng)用。
這不是限制人工智能發(fā)展的自由，而恰恰會(huì)促進(jìn)這個(gè)領(lǐng)域的百花齊放，讓更多的企業(yè)參與到不同領(lǐng)域的應(yīng)用中來，發(fā)揮各自的優(yōu)勢(shì)，開發(fā)適用于不同領(lǐng)域的人工智能技術(shù)，而不是由一個(gè)技術(shù)與少數(shù)巨頭獨(dú)霸天下。
聚焦于具體的領(lǐng)域，系統(tǒng)提供的服務(wù)質(zhì)量才會(huì)有保證，這也會(huì)給用戶提供更好的服務(wù)。高質(zhì)量的服務(wù)，對(duì)于推動(dòng)社會(huì)的發(fā)展也更加正面。這種方式可以有效地消除貌似“萬能”的系統(tǒng)向社會(huì)傾吐不可預(yù)測(cè)的信息垃圾的情況。
配合聚焦各個(gè)領(lǐng)域服務(wù)的目標(biāo)，從政策和輿論導(dǎo)向上，應(yīng)該大力鼓勵(lì)百花齊放的發(fā)展，而不是萬眾一心擠上一條道路。工匠技藝的特點(diǎn)，決定了人工智能的技術(shù)方法在可以預(yù)見的未來，必然是發(fā)散性百花齊放而不是在科學(xué)規(guī)律指導(dǎo)下的萬宗歸一。而且很多突破可能都是主流之外的。
這次人工智能的復(fù)興，就是被主流冷落多年的人工神經(jīng)網(wǎng)絡(luò)技術(shù)在暴力計(jì)算的加持下重生為“深度學(xué)習(xí)”而帶來的。目前社會(huì)上強(qiáng)大的跟風(fēng)的習(xí)氣，是不利于這樣一個(gè)工匠技藝性領(lǐng)域的健康發(fā)展的。
心智觀察所：在人工智能技術(shù)迅速發(fā)展的當(dāng)下，您認(rèn)為AI在替代人類工作崗位及潛在控制風(fēng)險(xiǎn)方面面臨哪些關(guān)鍵挑戰(zhàn)？我們應(yīng)如何平衡技術(shù)創(chuàng)新與倫理安全，以確保AI的發(fā)展既能提升社會(huì)效率，又不逾越人類主導(dǎo)的決策邊界？
謝耘：技術(shù)每次的進(jìn)步，都是在某些方面替代人類，提升生產(chǎn)效率。也幾乎每一次都引發(fā)“失業(yè)”的議論與焦慮。而事實(shí)上，每一次的進(jìn)步，每一次對(duì)人類的替代，最后導(dǎo)致的是平均工作時(shí)間與強(qiáng)度的降低，及與之相伴的生活質(zhì)量水平的提升。不斷提升的社會(huì)福利正是這種進(jìn)步的一個(gè)結(jié)果。當(dāng)然這需要社會(huì)管理方式相應(yīng)的改變的配合。
談到有關(guān)AI對(duì)人類的控制問題，我認(rèn)為超級(jí)人工智能一直是科幻作品的一個(gè)重要的主題，現(xiàn)在也成為了社會(huì)現(xiàn)實(shí)的焦慮。當(dāng)人類對(duì)于我們自己的智能都還沒有形成一個(gè)科學(xué)的認(rèn)識(shí)的時(shí)候，談?wù)摮?jí)智能還為時(shí)尚早。就像我們不會(huì)將汽車意外自己發(fā)動(dòng)行走而造成傷亡損失解釋為汽車自己有意為之而產(chǎn)生恐懼那個(gè)樣，我們也不應(yīng)該將人工智能系統(tǒng)的某些意外行為解釋為它有了自我意識(shí)，人類有被其控制的危險(xiǎn)。
我們沒有必要在人類還不知道如何飛上天的時(shí)候，就下功夫去研究人類如果有一天可以飛上天之后，會(huì)遇到什么樣的問題。這樣的研究既是杞人憂天，產(chǎn)出的結(jié)果可能也與飛機(jī)出現(xiàn)后的真實(shí)情況不大相干。
技術(shù)的發(fā)展對(duì)于人類的挑戰(zhàn)往往是那些隱性的作用。工業(yè)發(fā)展對(duì)環(huán)境的影響就是這方面的一個(gè)例子。人工智能對(duì)人類的一個(gè)重要的挑戰(zhàn)可能也是它的一個(gè)隱性的作用：導(dǎo)致人類智力的退化。就這個(gè)問題我去年已經(jīng)寫了一篇文章——在2024年7月2日觀網(wǎng)“科工力量”上以“‘暴力計(jì)算’讓‘外意識(shí)’爆發(fā)后，我們是否還將是‘人’？”為題發(fā)表。
本文系觀察者網(wǎng)獨(dú)家稿件，文章內(nèi)容純屬作者個(gè)人觀點(diǎn)，不代表平臺(tái)觀點(diǎn)，未經(jīng)授權(quán)，不得轉(zhuǎn)載，否則將追究法律責(zé)任。關(guān)注觀察者網(wǎng)微信guanchacn，每日閱讀趣味文章。
熱門跟貼