作者：肖茜（Xiao Qian）
清華大學(xué)戰(zhàn)略與安全研究中心副主任
當(dāng)前，人工智能技術(shù)的快速迭代發(fā)展，已成為經(jīng)濟(jì)發(fā)展的新引擎和國家競爭的新焦點(diǎn)。在促進(jìn)技術(shù)快速發(fā)展的同時(shí)，如何制定合理有效的治理規(guī)則以防范人工智能帶來的潛在風(fēng)險(xiǎn)，已成為國際社會(huì)的重要關(guān)切。中美作為人工智能技術(shù)和應(yīng)用發(fā)展的兩個(gè)大國，在人工智能治理上的競爭與合作受到各界高度關(guān)注。今年以來，DeepSeek的問世提振了中國企業(yè)突破美國技術(shù)封鎖實(shí)現(xiàn)技術(shù)創(chuàng)新的信心，另一方面，“特朗普2.0”開啟，美新政府對待人工智能治理以及對華科技競爭上的態(tài)度和政策尚未完全明晰。
近日，《紐約時(shí)報(bào)》刊登弗里德曼先生的文章，呼吁中美兩國合作，共同應(yīng)對通用人工智能可能給人類帶來的風(fēng)險(xiǎn)。他認(rèn)為，正如1970年代以來美蘇核武器控制之于世界穩(wěn)定的意義，未來確保人類有效掌控這些快速進(jìn)化的人工智能系統(tǒng)，將取決于美中兩國在人工智能領(lǐng)域的合作程度——這關(guān)乎明日世界的存續(xù)根基。通用人工智能（A.G.I.）誕生后，若不能達(dá)成共同的信任標(biāo)準(zhǔn)，美中將無法開展任何合作。
在人工智能治理中，“信任”一詞常常被提及，包括對機(jī)器的信任，對人機(jī)協(xié)同的信任，對使用系統(tǒng)的人的信任，對機(jī)構(gòu)的信任，對國家的信任等等。信任是最本的要素，也是最寶貴的資源。以色列歷史學(xué)家尤瓦爾·赫拉利（Yuval Noah Harari）近日在中國發(fā)展論壇上的發(fā)言中從人類歷史的宏觀視角解讀信任：“我們應(yīng)當(dāng)先增進(jìn)人類之間的信任，再去開發(fā)真正意義上的超級人工智能體。……從本質(zhì)上講，信任是生存的必要條件。以人類身體為例，我們每秒鐘都在呼吸，每一次呼吸都是一種信任——信任外界的空氣，我們將氧氣吸入肺中、融入身體，再將廢氣呼出到外界。這種信任和呼吸是生命的象征，如果失去對外部世界的信任，停止呼吸，生命也將終結(jié)?！瓪v史告訴我們，信任比恐懼更為重要。為什么地球是由人類主宰？而不是被大象或者是其他的動(dòng)物？并非是因?yàn)槿祟惐绕渌麆?dòng)物更聰明，而是因?yàn)槲覀兏萌绾闻c陌生人建立信任并展開合作，這種能力經(jīng)過了數(shù)千年的錘煉。在AI時(shí)代，想要生存和繁榮，我們需要更加信任他人，這一點(diǎn)比信任AI更為重要”。赫拉利同時(shí)也一針見血指出，“當(dāng)前，人類之間的信任在瓦解，國際機(jī)制的基本范式和規(guī)則遭到破壞”。筆者最近出席聯(lián)合國裁軍署舉辦的首屆全球人工智能峰會(huì)，會(huì)上，嘉賓們都無一例外提到地緣政治競爭破壞國與國之間的信任，延宕甚至破壞人工智能國際治理的進(jìn)程。
然而，什么是信任？信任到底有什么標(biāo)準(zhǔn)？劍橋詞典對Trust一詞的解釋為：相信某人是善良和誠實(shí)的，不會(huì)傷害自己，或者相信某個(gè)東西是安全、可靠的（to believe that someone is good and honest and will not harm you, or that something is safe and reliable）。韋氏詞典的解釋是，對某人或某物的品質(zhì)、能力、實(shí)力或真相的放心依賴（assured reliance on the character, ability, strength, or truth of someone or something）?，F(xiàn)代漢語詞典對于信任一詞的解釋為“相信而敢于托付”。新華字詞中對于“信任”一詞中“信”字的解釋為不懷疑，認(rèn)為可靠，“任”字的解釋為相信，信賴。在國際關(guān)系領(lǐng)域，信任是指國家或行為體對彼此意圖、承諾和行動(dòng)的正面預(yù)期。綜上所述，信任需要包括以下基本要素：可相信、可預(yù)期、可解釋。
中美兩國之間能像弗里德曼先生期待的那樣，至少建立基本的信任，在人工智能治理領(lǐng)域開展迫在眉睫的合作？要回答這個(gè)問題，不僅要從中美關(guān)系現(xiàn)狀來分析，也要考慮人工智能技術(shù)本身的特性。
從中美關(guān)系來看，當(dāng)前中美關(guān)系存在嚴(yán)重的信任赤字。中美兩國之間相互懷疑和恐懼，對彼此意圖的不確定一直影響兩國關(guān)系走向。21世紀(jì)初，中國經(jīng)濟(jì)和軍事力量的快速增長引發(fā)美國國內(nèi)關(guān)于如何應(yīng)對中國崛起的廣泛辯論，美國國內(nèi)學(xué)術(shù)和政策界開始關(guān)于中國的大辯論。中國積極推進(jìn)“一帶一路”倡議、發(fā)布《中國制造2025》、大幅提升對高科技產(chǎn)業(yè)投資等，使得美國政策界對中國的態(tài)度轉(zhuǎn)向懷疑和警惕，擔(dān)心中國挑戰(zhàn)美國的領(lǐng)導(dǎo)地位。
2017年12月，特朗普政府在《國家安全戰(zhàn)略》報(bào)告中將中國定位為競爭者，2021年3月，拜登政府發(fā)布《臨時(shí)國家安全戰(zhàn)略方針》強(qiáng)調(diào)，“中國是唯一一個(gè)有潛力綜合運(yùn)用經(jīng)濟(jì)、外交、軍事以及科技力量來對穩(wěn)定與開放的國際機(jī)制發(fā)起持續(xù)挑戰(zhàn)的競爭者”。美國《2022年國防戰(zhàn)略》宣稱中國是“美國最重要的戰(zhàn)略競爭者和緊迫的挑戰(zhàn)者”，將中國置于美國的對立面，急劇壓縮兩國對話合作的領(lǐng)域。多位美國官員曾公開表示，要確保對華技術(shù)競爭的絕對優(yōu)勢。為實(shí)現(xiàn)這一目標(biāo)，美國泛化“國家安全”概念，通過設(shè)立對外投資審查機(jī)制，加強(qiáng)對關(guān)鍵技術(shù)和設(shè)備的出口管制，限制對華技術(shù)轉(zhuǎn)讓，將中國企業(yè)列入出口管制“實(shí)體清單”等方式，極盡其能保護(hù)自身的技術(shù)優(yōu)勢和所謂“國家安全”。
另一方面，中國則認(rèn)為，美方做法實(shí)為限制中國的發(fā)展，目的是維護(hù)自身霸權(quán)，剝奪中國正當(dāng)發(fā)展的權(quán)利。此外，美國在特朗普第一任期的后期，開始突出對華戰(zhàn)略中的意識(shí)形態(tài)因素。2020年5月20日，特朗普政府發(fā)布《美國對中華人民共和國的戰(zhàn)略方針》，將中美兩國的競爭上升到意識(shí)形態(tài)層面，認(rèn)為“中美意識(shí)形態(tài)競爭體現(xiàn)在政治、經(jīng)濟(jì)和社會(huì)等所有領(lǐng)域”。此后，特朗普政府的多位重要官員就美中關(guān)系發(fā)表演講，攻擊中國的社會(huì)制度，指責(zé)中國的內(nèi)外政策。在中美博弈和地緣政治大背景下，中美兩大行為體的相互懷疑和恐懼，對彼此意圖的不確定性愈演愈烈，構(gòu)成兩國信任赤字的最大因素，使“可相信”這一目標(biāo)更加難以企及。而“特朗普2.0”初期在對外政策上的取向，使得“可預(yù)期”也成為兩國關(guān)系的“稀缺資源”。
▲2月21日，特朗普簽署“美國第一”投資政策備忘錄，下令限制中國對美國人工智能等關(guān)鍵領(lǐng)域的投資。
從人工智能技術(shù)本身來看，雖然近年來獲得突飛猛進(jìn)的發(fā)展，但仍然存在一些尚未解決的問題，包括不確定性、算法黑箱、不可解釋性等。有AI“教父”之稱的約書亞·本希奧教授于2025年1月領(lǐng)銜發(fā)布《國際人工智能安全報(bào)告》，其中列出通用人工智能（General-purpose AI）可能存在可靠性問題，包括虛構(gòu)或幻覺——即不準(zhǔn)確或具有誤導(dǎo)性的內(nèi)容； 常識(shí)推理與推斷失敗——無法正確執(zhí)行符合常識(shí)的邏輯推理；未能反映情境相關(guān)、最新且無偏見的知識(shí)與理解——輸出內(nèi)容脫離實(shí)際背景、過時(shí)或帶有偏見。報(bào)告指出，可靠性問題的具體表現(xiàn)可能引發(fā)多種風(fēng)險(xiǎn)，包括對個(gè)人造成身體或心理傷害，對組織造成聲譽(yù)、法律及經(jīng)濟(jì)損失，通過錯(cuò)誤信息干擾治理流程等。而與此同時(shí)，雖然各國紛紛立法或制定規(guī)則對本國人工智能的發(fā)展予以約束，在國際層面針對人工智能技術(shù)尚無統(tǒng)一的、具有約束力的國際法律或條約。弗里德曼在文章中也預(yù)測，若中美各自發(fā)展人工智能系統(tǒng)，大量貿(mào)易將陷入停滯，只能互售大豆釀醬油。世界將淪為一個(gè)高科技封建主義世界。由此可見，人工智能技術(shù)本身不穩(wěn)定性和不可解釋性會(huì)讓中美兩國在這一領(lǐng)域的合作與競爭充滿挑戰(zhàn)。
2024年5月，中美人工智能政府間對話會(huì)議在日內(nèi)瓦舉行。從會(huì)后新聞稿看出，雙方對此次對話均作出積極評價(jià)，認(rèn)識(shí)到應(yīng)確保人工智能技術(shù)的安全，重申繼續(xù)致力于落實(shí)“舊金山共識(shí)”。但在治理側(cè)重點(diǎn)上，雙方存在較大分歧和錯(cuò)位。中方強(qiáng)調(diào)人工智能技術(shù)的發(fā)展，就美方在人工智能領(lǐng)域?qū)θA限制打壓表明嚴(yán)正立場；強(qiáng)調(diào)人工智能發(fā)展的公平，認(rèn)為AI全球治理應(yīng)發(fā)揮聯(lián)合國主渠道作用，建議建立具有廣泛共識(shí)的全球人工智能治理框架和標(biāo)準(zhǔn)規(guī)范。而美國則傾向于將本次對話視為技術(shù)交流與交鋒，聚焦人工智能的安全風(fēng)險(xiǎn)和治理，強(qiáng)調(diào)應(yīng)確保建設(shè)AI系統(tǒng)安全、可靠、可信賴，并關(guān)注所謂中方“錯(cuò)用”（misuse）人工智能的做法。2024年11月，中美兩國領(lǐng)導(dǎo)人在智利利馬會(huì)晤，雙方就有必要加強(qiáng)國際合作，促進(jìn)人工智能向善普惠，維持由人類控制核武器使用的決定達(dá)成一致，獲得國際社會(huì)廣泛好評。如今，距離上一次中美人工智能政府間對話會(huì)議已經(jīng)近一年，雙方下次人工智能政府間對話仍未提上正式議程。而與此同時(shí)，僅2024年一年，美方共數(shù)次發(fā)布針對中國的人工智能管制措施和政策，拜登政府在針對中國的AI技術(shù)出口管制措施上仍在不斷加碼。
▲2024年5月14日，中美人工智能政府間對話首次會(huì)議在瑞士日內(nèi)瓦舉行。
弗里德曼先生確實(shí)看到了中美兩國在人工智能問題上進(jìn)行合作的必要性和緊迫性，但在當(dāng)前中美博弈的背景下，中美兩國要想實(shí)現(xiàn)真正意義上的人工智能治理對話與合作，構(gòu)建應(yīng)對人工智能“生存性”風(fēng)險(xiǎn)的合作治理框架，必須首先跳出當(dāng)前存在的“安全困境”。
“安全困境”是美國政治學(xué)者約翰·赫茨于1950年提出，指的是國家在追求自身安全的過程中，由于缺乏信任，可能導(dǎo)致軍備競賽、緊張局勢升級，甚至引發(fā)沖突。這一困境的根本原因在于各國對彼此意圖的不確定性，以及國際體系中無政府狀態(tài)導(dǎo)致的安全焦慮。根據(jù)郝茨定義，安全困境存在以下幾類要素：一是無政府狀態(tài)的國際環(huán)境，缺乏規(guī)范行為和保護(hù)行為體免受攻擊的權(quán)威組織或機(jī)構(gòu)；二是行為體之間的相互懷疑和恐懼，對對方意圖的不確定性；三是各行為體為尋求安全而強(qiáng)化競爭和采取安全措施；四是對所有行為體安全的減損。中美兩國在人工智能上的競爭與合作呈現(xiàn)出“安全困境”的種種跡象。
中美之間進(jìn)行人工智能治理合作，需要努力走出“安全困境”，而在當(dāng)前背景下重建最基本的信任是唯一出路，需要雙方都采取切實(shí)措施，一步一步做出調(diào)整。一是需要調(diào)整對彼此國家的認(rèn)知和定位。如一定程度的競爭不可避免，那也要避免你死我活、非黑即白、零和博弈的惡性競爭。這是雙方進(jìn)行合作的認(rèn)知前提。二是為國家安全設(shè)定紅線，明確哪些為無法合作和交流的敏感領(lǐng)域，同時(shí)克制無限擴(kuò)大這些領(lǐng)域的沖動(dòng)。這是為雙方合作提供確定性的基礎(chǔ)。第三，在劃定紅線的基礎(chǔ)上，可嘗試在低敏感領(lǐng)域開展交流與合作，例如兩國可圍繞AI治理的政策和原則、最佳實(shí)踐、能力建設(shè)上進(jìn)行對話，以期增進(jìn)相互了解，形成自身在對方眼中的可預(yù)測性和可解釋性，逐步建立信任。第四，2024年兩國在聯(lián)合國大會(huì)相互聯(lián)署各自關(guān)于人工智能的決議，為國際社會(huì)樹立了良好典范，未來應(yīng)繼續(xù)在聯(lián)合國框架下共同推動(dòng)人工智能國際治理，探討建立規(guī)范相關(guān)行為和保護(hù)行為體的權(quán)威組織或機(jī)構(gòu)。第五，作為人工智能技術(shù)與能力的兩個(gè)大國，中美應(yīng)攜手推動(dòng)人工智能能力建設(shè)，為提高發(fā)展中國家人工智能能力水平，縮小數(shù)字鴻溝，推動(dòng)實(shí)現(xiàn)聯(lián)合國可持續(xù)發(fā)展目標(biāo)貢獻(xiàn)力量。
高端訪談
更多訪談
基金會(huì)動(dòng)態(tài)
更多動(dòng)態(tài)
中美聚焦網(wǎng)｜中美交流基金會(huì)
熱門跟貼