張文魁資料圖。
本賬號(hào)接受投稿，投稿郵箱：jingjixuejiaquan@126.com
AI治理及數(shù)據(jù)治理：靠技術(shù)之盾更靠制度之明
張文魁
國(guó)務(wù)院發(fā)展研究中心研究員
一、AI最需關(guān)注的能力和AI治理的潛在漏洞
眾所周知，人工智能（AI）正在發(fā)展出許多強(qiáng)大的能力，不但以大語(yǔ)言模型實(shí)現(xiàn)知識(shí)吸收并建立創(chuàng)作、推理、判斷能力，而且具身AI的空間辨別能力和動(dòng)作控制能力也在快速提高。毫無(wú)疑問(wèn)，AI正在為我們賦能，正在改變我們的經(jīng)濟(jì)和社會(huì)，一些重要的經(jīng)濟(jì)學(xué)家還就AI對(duì)宏觀經(jīng)濟(jì)的影響進(jìn)行了模擬分析，譬如2024年諾貝爾經(jīng)濟(jì)學(xué)獎(jiǎng)獲得者阿西莫格魯就發(fā)表了一篇題為“AI的簡(jiǎn)單宏觀經(jīng)濟(jì)學(xué)”的論文，指出AI技術(shù)將使全要素生產(chǎn)率有所提高，但很可能會(huì)進(jìn)一步拉大收入財(cái)富差距。因此，許多國(guó)家的政府，以及許多學(xué)者，都在研究AI帶來(lái)的發(fā)展機(jī)遇，同時(shí)也關(guān)注其帶來(lái)的潛在挑戰(zhàn)。
不過(guò)，我認(rèn)為，AI最需關(guān)注的能力，也是至今為止尚未受到足夠關(guān)注的能力，是如下三個(gè)：用計(jì)能力、欺騙能力、自我復(fù)制能力。
首先是用計(jì)能力。去年底有一篇論文刊發(fā)于《阿波羅研究》上，題目是“前沿模型具有場(chǎng)景內(nèi)用計(jì)能力”。所謂用計(jì)（scheming），或者叫耍巧，就是AI可以巧妙地隱藏其真實(shí)能力和目標(biāo)，這意味著它有可能逃避真人的監(jiān)督，而實(shí)現(xiàn)AI的非對(duì)齊目的（misaligned goals）。這篇論文基于對(duì)一些現(xiàn)有前沿模型的測(cè)驗(yàn)，具有一定的可信度。
其次是欺騙能力。前年就有一篇麻省理工學(xué)院的工作論文，題目就是“AI欺騙：實(shí)例、風(fēng)險(xiǎn)與潛在對(duì)策”。這個(gè)研究小組發(fā)現(xiàn)，AI已經(jīng)學(xué)到了如何欺騙人類（how to deceive humans）；這些欺騙手段的潛在風(fēng)險(xiǎn)包括造假、篡改，等等。顯然，如果這種能力為真，而且人類對(duì)AI的這種能力缺乏警覺(jué)，就會(huì)使AI失去控制。
再次是自我復(fù)制能力。去年底還有一篇論文題為“前沿AI系統(tǒng)跨越了自我復(fù)制紅線”，也是通過(guò)對(duì)前沿AI的測(cè)試，發(fā)現(xiàn)一些AI系統(tǒng)在沒(méi)有真人幫助的情況下實(shí)現(xiàn)了自我復(fù)制（self-replicating），而這可視為流氓AI（rouge AI）的早期信號(hào)。自我復(fù)制是一條紅線，如果AI可以自我復(fù)制，毫無(wú)疑問(wèn)就可以拒絕和抵制人類的管控，或許真的有可能成為一類獨(dú)立的新物種。
當(dāng)然，前沿AI模型的上述能力是否被夸大，以及是否具有普遍性，還需進(jìn)一步的嚴(yán)格測(cè)試和評(píng)估。我認(rèn)為，這些早期的研究和測(cè)試所獲得的初步結(jié)論，需要引起研究者的高度注意。從AI治理的角度來(lái)看，在AI的所有強(qiáng)大能力中，用計(jì)（scheming）、欺騙（deceiving）、自我復(fù)制（self-replicating）這三種能力，其潛在影響最值得關(guān)注。這三種能力如果的確存在，就好比AI可以成為諸葛亮和哪吒，而本尊真人有可能成為司馬懿和李靖。更進(jìn)一步，如果這三種能力被真人有意利用，所導(dǎo)致惡果的問(wèn)責(zé)就會(huì)成為重大疑難問(wèn)題。
遺憾的是，即使一些重要國(guó)家和國(guó)際組織都發(fā)布了專門(mén)的AI治理文件和政策，以及許多學(xué)者都發(fā)表了AI治理的文章，但似乎尚未對(duì)這三種能力及其潛在影響有所關(guān)注和分析。眾所周知，AI治理也關(guān)注造假問(wèn)題，但主要集中在深度偽造（deep fake）及虛假信息（false information）等方面，而這些造假實(shí)際上受真人指揮、操縱和控制。而AI上述三種能力的實(shí)質(zhì)在于失去真人控制。譬如AI監(jiān)管和治理領(lǐng)域最前沿、最系統(tǒng)、最具里程碑意義的文件，就是歐盟于2024年通過(guò)的《AI法案》，這部法案界定了禁止使用的AI，包括：超越人類意識(shí)或欺騙、操控技術(shù)，從而扭曲人們決策能力的AI；利用個(gè)人或特定群體特征和弱點(diǎn)并扭曲他們行為的AI；根據(jù)個(gè)人或特定群體的社會(huì)行為或人格特征進(jìn)行識(shí)別分類的AI；在公共場(chǎng)所進(jìn)行遠(yuǎn)程生物識(shí)別和情緒識(shí)別的AI（特別執(zhí)法除外），等等。該法案還界定了高風(fēng)險(xiǎn)AI，主要就是對(duì)人的基本權(quán)利和健康構(gòu)成威脅的AI，并提出了相應(yīng)的合規(guī)要求和風(fēng)險(xiǎn)管理規(guī)范。但是，這些內(nèi)容都沒(méi)有清晰地涉及上述三種AI能力，當(dāng)然應(yīng)該是沒(méi)有來(lái)得及涉及這三種能力。
我認(rèn)為，未來(lái)如果繼續(xù)忽視這三種AI能力，就會(huì)成為AI治理的重大潛在漏洞。而在現(xiàn)實(shí)世界，類似的問(wèn)題已經(jīng)現(xiàn)出苗頭。譬如意大利的情感聊天智能工具Replika，曾遭到“欺騙感情”和“性騷擾”的起訴。即便這類實(shí)例仍然非常鮮見(jiàn)，即便應(yīng)該承認(rèn)AI治理的步伐趕不上AI發(fā)展的步伐，但AI治理的研究者，以及AI治理政策的制訂者，應(yīng)該有一些基本的先見(jiàn)之明?？梢灶A(yù)料，AI在未來(lái)幾年將有更快的發(fā)展，并將擁有更加多樣和更加強(qiáng)大的能力，因此會(huì)給AI治理帶來(lái)更多挑戰(zhàn)。這就更需要基本的先見(jiàn)之明，從而可以較好地應(yīng)對(duì)這些挑戰(zhàn)。
二、數(shù)據(jù)治理的關(guān)鍵：AI場(chǎng)景數(shù)據(jù)是具有人格含量的資產(chǎn)
AI治理還與數(shù)據(jù)治理密切聯(lián)系在一起。研究AI治理，不可能離開(kāi)數(shù)據(jù)治理，因?yàn)橛惺芬詠?lái)從來(lái)沒(méi)有哪一項(xiàng)技術(shù)像AI一樣高度依賴數(shù)據(jù)。實(shí)際上，前面提到的歐盟《AI法案》就涉及數(shù)據(jù)治理。歐盟在此之前還通過(guò)了專門(mén)的《數(shù)據(jù)治理法案》和《數(shù)據(jù)法案》。不過(guò)，這些法案在歐盟的實(shí)施并不順利，譬如采集和利用個(gè)人數(shù)據(jù)的知情同意就是一個(gè)很大問(wèn)題，此外還有數(shù)據(jù)跨境流動(dòng)方面的問(wèn)題。我國(guó)也在探索建立數(shù)據(jù)治理框架，特別是推進(jìn)數(shù)據(jù)確權(quán)，但在實(shí)際中也面臨很多棘手問(wèn)題，主要就是數(shù)據(jù)權(quán)利無(wú)法清晰界定，從而數(shù)據(jù)流動(dòng)和利用在許多時(shí)候處于灰色地帶，一旦按照法律和政策來(lái)較真就矛盾重重、寸步難行。數(shù)據(jù)治理方面的問(wèn)題，自然會(huì)影響AI治理，譬如歐盟有可能對(duì)《AI責(zé)任指令》撤回或進(jìn)行調(diào)整。總體而言，在全球范圍內(nèi)，數(shù)據(jù)治理都處于探索和爭(zhēng)論之中，最大困難是如何認(rèn)識(shí)和確定數(shù)據(jù)權(quán)利，從而有力地促進(jìn)數(shù)據(jù)的流通和使用。
我國(guó)將數(shù)據(jù)視為一種新生產(chǎn)要素，意欲加以最大化地利用。我國(guó)許多專家，傾向于將數(shù)據(jù)視為一種資產(chǎn)，從資產(chǎn)、財(cái)產(chǎn)的角度來(lái)認(rèn)識(shí)和界定權(quán)利，從而在底層邏輯上將數(shù)據(jù)權(quán)利基本上等同于產(chǎn)權(quán)；一些人還熱衷于將數(shù)據(jù)資產(chǎn)進(jìn)行估價(jià)而計(jì)入資產(chǎn)負(fù)債表，即“數(shù)據(jù)入表”。不過(guò)我認(rèn)為，這種底層邏輯很可能存在較大問(wèn)題，熱衷于“數(shù)據(jù)入表”之類的發(fā)展路徑很可能是誤入歧途。我們首先應(yīng)該認(rèn)識(shí)到，數(shù)據(jù)超越了生產(chǎn)要素，即使從經(jīng)濟(jì)學(xué)框架來(lái)看也是如此，因?yàn)樗^的生產(chǎn)要素具有高度凝練性和抽象性，勞動(dòng)、資本等生產(chǎn)要素的投入量都可以進(jìn)行價(jià)值度量和經(jīng)濟(jì)增長(zhǎng)貢獻(xiàn)核算。數(shù)據(jù)難以被這樣對(duì)待和作這些處理。資本和勞動(dòng)等生產(chǎn)要素也會(huì)在使用中被消耗掉。而且，數(shù)據(jù)的權(quán)責(zé)利絕對(duì)不僅僅限于被當(dāng)作生產(chǎn)要素的權(quán)責(zé)利，即使數(shù)據(jù)沒(méi)有進(jìn)入生產(chǎn)過(guò)程，沒(méi)有滋生經(jīng)濟(jì)價(jià)值，它仍然可能涉及人的基本權(quán)利，譬如人格權(quán)、隱私權(quán)，以及由此衍生的關(guān)于個(gè)體安全、個(gè)體尊嚴(yán)、個(gè)體獨(dú)特性、個(gè)體自主性方面的關(guān)切，等等。這些基本權(quán)利和關(guān)切，很難或不能、不應(yīng)像財(cái)產(chǎn)或資產(chǎn)那樣進(jìn)行標(biāo)價(jià)和交易，也不可能像所有權(quán)、產(chǎn)權(quán)那樣進(jìn)行界定。我國(guó)的民法典，對(duì)人格權(quán)的闡述與對(duì)所有權(quán)、質(zhì)權(quán)的闡述就是完全分開(kāi)的，其中明確規(guī)定人格權(quán)包含生命權(quán)、身體權(quán)、隱私權(quán)和個(gè)人信息保護(hù)，明列了私人生活安寧、私人空間不愿為他人知曉的正當(dāng)權(quán)利。因此，簡(jiǎn)單地把數(shù)據(jù)視為生產(chǎn)要素，以及資產(chǎn)、財(cái)產(chǎn)，并在此基礎(chǔ)上進(jìn)行數(shù)據(jù)資產(chǎn)的產(chǎn)權(quán)界定和資產(chǎn)交易，根本不能全部覆蓋數(shù)據(jù)權(quán)責(zé)利的所有方面。顯然，數(shù)據(jù)權(quán)利超越了生產(chǎn)要素和財(cái)產(chǎn)的權(quán)利。
我認(rèn)為，即使從促進(jìn)數(shù)據(jù)流動(dòng)和利用、促進(jìn)AI快速發(fā)展的角度來(lái)看，頂多只能將AI場(chǎng)景數(shù)據(jù)定義為具有人格含量的資產(chǎn)。具有人格含量的資產(chǎn)，可以進(jìn)行利用和流通，可以創(chuàng)造價(jià)值和包含價(jià)值，但必須在保護(hù)人格權(quán)的基礎(chǔ)上建立契約關(guān)系，同時(shí)也可以建立數(shù)據(jù)利他主義機(jī)制。需要申明的是，這里的人，既包括自然人，也包括法人等組織。
有了這個(gè)基點(diǎn)，那么AI時(shí)代的數(shù)據(jù)治理，就應(yīng)該高度重視對(duì)數(shù)據(jù)用途的匡正與問(wèn)責(zé)。不管數(shù)據(jù)如何被采集、轉(zhuǎn)移、加工，不管數(shù)據(jù)如何被定價(jià)，都是它有用途。而用途則是各種各樣。在人工智能治理的那些重要文件中，幾乎都不允許基于大數(shù)據(jù)的AI用之于窺探個(gè)人隱私、刺激和放大人性弱點(diǎn)以實(shí)行誘使、欺詐等活動(dòng)，當(dāng)然也不允許用之于危害社會(huì)秩序與安全。如果數(shù)據(jù)用途涉及上述方面，政府和社會(huì)應(yīng)該有相應(yīng)機(jī)制，來(lái)匡正用途，并對(duì)明顯違背正當(dāng)用途的行為進(jìn)行問(wèn)責(zé)。完全可以說(shuō)，AI時(shí)代的數(shù)據(jù)治理，在相當(dāng)程度上取決于問(wèn)責(zé)而非確權(quán)。而將AI場(chǎng)景數(shù)據(jù)定義為具有人格含量的資產(chǎn)，不但有助于建立相應(yīng)的問(wèn)責(zé)制度，也有助于推進(jìn)基于場(chǎng)景的權(quán)責(zé)利談判與界定。由于目前的AI場(chǎng)景已經(jīng)十分復(fù)雜，而未來(lái)的AI場(chǎng)景更無(wú)法想象，因此AI數(shù)據(jù)治理需要特別注重良好實(shí)踐（good practices），在此過(guò)程中循序漸進(jìn)地構(gòu)建數(shù)據(jù)治理的基本框架。
三、技術(shù)之盾和制度之明
AI建立在先進(jìn)的信息技術(shù)、控制技術(shù)和數(shù)據(jù)處理技術(shù)之上，因此構(gòu)建合適的AI治理和數(shù)據(jù)治理，特別是應(yīng)對(duì)復(fù)雜的、困難的現(xiàn)實(shí)問(wèn)題及風(fēng)險(xiǎn)，迫切需要借助于技術(shù)手段，也即應(yīng)該以技術(shù)之盾來(lái)應(yīng)對(duì)技術(shù)之矛，就像應(yīng)對(duì)電腦病毒需要借助殺毒軟件一樣。
前面提到的AI最需關(guān)注和應(yīng)對(duì)的三種能力，即用計(jì)、欺騙、自我復(fù)制能力，依靠個(gè)人的感知器官和大腦，不但難以應(yīng)對(duì)，甚至無(wú)法辨別是否真的存在這三種問(wèn)題。這就需要通過(guò)技術(shù)手段來(lái)辨別、來(lái)應(yīng)對(duì)。即使現(xiàn)在受到廣泛關(guān)注的深度偽造和虛假信息等問(wèn)題，在很大程度上也需要通過(guò)技術(shù)手段來(lái)鑒定、來(lái)阻止。當(dāng)然，對(duì)于用計(jì)、欺騙、自我復(fù)制等AI能力，以及未來(lái)可能出現(xiàn)的更強(qiáng)大、更可規(guī)避真人監(jiān)管和控制的AI能力，目前并無(wú)現(xiàn)成的完善技術(shù)手段來(lái)檢測(cè)和攔截，但重要的是，我們應(yīng)該在意識(shí)到此類風(fēng)險(xiǎn)的基礎(chǔ)上，主動(dòng)開(kāi)發(fā)這方面的檢測(cè)和攔截技術(shù)，特別是政府機(jī)構(gòu)和非政府組織，應(yīng)該組織技術(shù)力量，認(rèn)真研究這類技術(shù)的基本方向和基礎(chǔ)架構(gòu)，并進(jìn)行聯(lián)合攻關(guān)，及時(shí)部署測(cè)試和應(yīng)用。實(shí)際上，現(xiàn)在已經(jīng)出現(xiàn)了一些相關(guān)技術(shù)方案和應(yīng)用設(shè)計(jì)，譬如在AI治理中開(kāi)發(fā)和使用更先進(jìn)的紅隊(duì)測(cè)試技術(shù)，在數(shù)據(jù)治理中開(kāi)發(fā)和使用更先進(jìn)的隱私計(jì)算和數(shù)據(jù)脫敏技術(shù)，等等。我相信，只要人類確立了這種意識(shí)，技術(shù)之盾可以在AI治理和數(shù)據(jù)治理中發(fā)揮較好作用。
不過(guò)，技術(shù)最終還是要依靠人的掌握。而人的行為，應(yīng)該依靠制度進(jìn)行引導(dǎo)和規(guī)范。因此，AI治理和數(shù)據(jù)治理，最終要依靠人類的制度之明。這個(gè)領(lǐng)域的制度之明，應(yīng)該重點(diǎn)針對(duì)可以逃避真人監(jiān)督、可以自我復(fù)制之類的AI技術(shù)。由于這類技術(shù)的潛在風(fēng)險(xiǎn)遠(yuǎn)遠(yuǎn)大于深度偽造，人類的制度之明，當(dāng)然要明了這一點(diǎn)。針對(duì)這類技術(shù)，應(yīng)該建立AI算法和推理、決策的邏輯解構(gòu)機(jī)制，以及問(wèn)責(zé)制度。這些算法和推理、決策方法不管有多么復(fù)雜和先進(jìn)，都有其自身邏輯，人類應(yīng)該而且可以解構(gòu)其邏輯。在此基礎(chǔ)上的問(wèn)責(zé)制度，毫無(wú)疑問(wèn)應(yīng)該將責(zé)任鏈條延伸到真人，而不至于使責(zé)任止于模型和機(jī)器，因?yàn)槟嵌ㄈ粫?huì)使責(zé)任懸空。在很大程度上，AI治理和數(shù)據(jù)治理的要害，很可能不在于確權(quán)制度而在于問(wèn)責(zé)制度。
當(dāng)然，AI治理和數(shù)據(jù)治理的制度之明，在相當(dāng)長(zhǎng)時(shí)期內(nèi)需要依賴良好實(shí)踐。對(duì)于AI這樣的前沿技術(shù)及相關(guān)應(yīng)用而言，很少有現(xiàn)成的經(jīng)驗(yàn)教訓(xùn)可以直接套用，特別是未來(lái)的AI場(chǎng)景可能遠(yuǎn)超當(dāng)下的所有想象，因此以良好實(shí)踐促進(jìn)AI治理和數(shù)據(jù)治理的構(gòu)建就非常重要。良好實(shí)踐能夠讓有關(guān)當(dāng)事方和公共輿論、社會(huì)意見(jiàn)在互動(dòng)和交鋒中尋找規(guī)則，能夠讓先發(fā)者的探索給后發(fā)者提供制度啟發(fā)。樹(shù)立AI治理和數(shù)據(jù)治理的良好實(shí)踐意識(shí)，意味著需要加強(qiáng)調(diào)查研究、討論交鋒、總結(jié)提高、與時(shí)俱進(jìn)地立規(guī)修規(guī)等系列工作。
最后需要指出，由于AI發(fā)展仍處于童年階段，AI治理和數(shù)據(jù)治理不可能現(xiàn)在就得以定型，甚至不可能現(xiàn)在就得以清晰勾畫(huà)。但從技術(shù)創(chuàng)新歷史來(lái)看， AI治理和數(shù)據(jù)治理可能將會(huì)像機(jī)動(dòng)車時(shí)代的交通治理一樣，以交通問(wèn)責(zé)為主線，建立起追責(zé)到人、責(zé)任分擔(dān)的制度?；蛘?，還會(huì)像現(xiàn)在的交通責(zé)任險(xiǎn)一樣，未來(lái)會(huì)有AI責(zé)任險(xiǎn)體系。總之，面對(duì)AI浪潮，我們一方面要迎接它，利用它推動(dòng)經(jīng)濟(jì)社會(huì)向前發(fā)展，而不要做勒德份子（luddite），對(duì)它采取抵制和破壞的態(tài)度；另一方面也不能讓AI世界淪為奧爾德斯·赫胥黎筆下的美麗新世界（brave new world）。AI治理和數(shù)據(jù)治理，正是要推動(dòng)AI交規(guī)的形成，來(lái)實(shí)現(xiàn)這兩方面目的?！?/p>
新經(jīng)濟(jì)學(xué)家智庫(kù)國(guó)別沙龍系列·越南篇
掃描二維碼添加小秘書(shū)報(bào)名
入群可參加全年至少12場(chǎng)精彩閉門(mén)研討
掃描添加知識(shí)星球獲得《小報(bào)告》
熱門(mén)跟貼