導(dǎo)語：2024年4月，英國艾倫圖靈研究所的新興技術(shù)與安全中心（CETaS）發(fā)布報告《人工智能驅(qū)動戰(zhàn)略決策：情報領(lǐng)域的信任溝通機制與不確定性管理》（AI and Strategic Decision-Making：Commu-nicating trust and uncertainty in AI-enriched intelligence）。該報告是英國聯(lián)合情報組織（JIO）和英國皇家通信總部（GCHQ）共同資助項目的成果，以人工智能驅(qū)動戰(zhàn)略決策為主題，分析了應(yīng)如何保障人工智能增強情報見解的嚴(yán)謹(jǐn)性、透明度和可靠性，旨在更好地利用人工智能增強情報支撐戰(zhàn)略決策。啟元洞見分享文章主要內(nèi)容，為讀者提供參考。
一、背景
英國情報機構(gòu)的一項關(guān)鍵職能是提供及時、準(zhǔn)確的見解，以支撐戰(zhàn)略決策。情報分析師匯集各種信息來源，進(jìn)行專業(yè)研判，形成全源情報評估，為政府各部門的戰(zhàn)略決策者（SDM）提供背景信息。這些決策可能會產(chǎn)生重大影響，如在國家出現(xiàn)緊急情況時，是否授權(quán)開展軍事行動、做出外交反應(yīng)或采取公共安全措施等。因此，支撐決策的情報如果來源于不完整的信息，情報分析師需明確指出知識中的空白，并有效地傳遞不確定性，以幫助決策者準(zhǔn)確的評估情報的可信度。
過去二十年來，可用于情報分析的數(shù)據(jù)量大幅增長，情報部門在識別、處理和分析這些信息源和信息量方面面臨巨大挑戰(zhàn)。人工智能技術(shù)在提高情報評估的嚴(yán)謹(jǐn)性和速度方面擁有巨大的潛力，該技術(shù)已被證明能夠提高情報分析評估的生產(chǎn)力和有效性。但同時，該技術(shù)可能存在放大當(dāng)前已知的偏見和不確定性等風(fēng)險，也可能因難以評估其局限性導(dǎo)致分析人員誤判而引發(fā)潛在風(fēng)險。如何在充分發(fā)揮人工智能技術(shù)優(yōu)勢的同時降低風(fēng)險，是當(dāng)前情報界面臨的主要挑戰(zhàn)之一。
報告充分將戰(zhàn)略決策定義為對國家安全有重大影響的關(guān)鍵決策制定過程。“人工智能增強的情報”（AI-enriched intelligence）是指部分或全部通過使用機器學(xué)習(xí)分析或生成式人工智能系統(tǒng)（如大語言模型）獲得的情報見解。報告探討了在數(shù)據(jù)激增和人工智能技術(shù)快速發(fā)展的背景下，人工智能增強的情報是否能確保嚴(yán)謹(jǐn)性、透明度和可靠性。報告研究了向戰(zhàn)略決策者傳遞人工智能增強情報局限性的時機和策略，確保在情報的可訪問性和技術(shù)細(xì)節(jié)之間取得平衡。此外，報告還探討了是否需要進(jìn)一步強化人工智能增強情報的治理、指導(dǎo)和升級，使戰(zhàn)略決策者能夠基于人工智能增強的情報做出重大決策。
二、人工智能驅(qū)動戰(zhàn)略決策
的優(yōu)勢和挑戰(zhàn)
人工智能是情報分析師的重要分析工具。人工智能系統(tǒng)能夠識別可能被忽視的趨勢和異?，F(xiàn)象，其處理大規(guī)模數(shù)據(jù)的能力遠(yuǎn)超人類分析師。因此，將人工智能用于情報工作，有利于實現(xiàn)情報評估標(biāo)準(zhǔn)中的全面覆蓋原則。此外，采用人工智能工具有助于發(fā)現(xiàn)信息間的關(guān)鍵聯(lián)系，提高情報產(chǎn)品支撐政府決策的有效性。
然而，人工智能的使用可能會放大情報分析和戰(zhàn)略決策過程中固有的不確定性。人工智能系統(tǒng)的輸出是概率計算的結(jié)果，在數(shù)據(jù)不完整或有偏差的情況下容易出現(xiàn)誤差。許多人工智能系統(tǒng)的不可解釋性也使人類難以理解其形成結(jié)論的原理和過程。有鑒于此，亟需對情報分析中使用的人工智能系統(tǒng)進(jìn)行精心設(shè)計、持續(xù)監(jiān)測和定期調(diào)整，以降低人工智能系統(tǒng)產(chǎn)生偏見和錯誤的風(fēng)險。情報部門對其交付的情報產(chǎn)品的相關(guān)技術(shù)指標(biāo)（如準(zhǔn)確率和錯誤率）負(fù)有最終責(zé)任，情報分析師在作出結(jié)論和判斷時必須考慮到人工智能技術(shù)的局限性和不確定性。
三、人工智能驅(qū)動戰(zhàn)略決策
的溝通機制
決策者需要了解人工智能增強情報的局限性，同時又不被技術(shù)復(fù)雜性過度干擾。平衡上述可訪問性和技術(shù)細(xì)節(jié)的方法包括：一是通過制定指南明確人工智能增強情報的不確定性；二是利用分層方法（layered approach）向決策者傳達(dá)技術(shù)細(xì)節(jié)；三是通過培訓(xùn)和指導(dǎo)使決策者了解技術(shù)專業(yè)知識。
（一）制定指南界定不確定性
制定新的指南，在全源情報分析中明確人工智能增強情報的局限性和不確定性。該指南應(yīng)建立一個標(biāo)準(zhǔn)術(shù)語表，簡明扼要地評估人工智能模型整體性能的置信度，以及模型輸出中固有的不確定性。隨著人工智能技術(shù)的不斷發(fā)展，需要定期審查和更新該指南。
（二）利用分層方法傳達(dá)技術(shù)細(xì)節(jié)
一方面為人工智能增強的情報產(chǎn)品提供通俗易懂的評估信息，使非技術(shù)專業(yè)的決策者能評估情報產(chǎn)品的可信度；另一方面，提供有關(guān)系統(tǒng)性能和局限性的額外技術(shù)信息，以便擁有更多技術(shù)專業(yè)知識的決策者查閱。
（三）培訓(xùn)技術(shù)專業(yè)知識
講習(xí)班、研討會和培訓(xùn)可有效提高分析師和決策者對人工智能及其局限性的認(rèn)識，這些課程還可以讓用戶直接與技術(shù)互動，提高他們的熟練度和信任度。隨著人工智能在情報分析領(lǐng)域的日益普及，情報分析師都應(yīng)接受培訓(xùn)，學(xué)習(xí)如何與模型互動，以及如何解讀、質(zhì)疑和評估人工智能增強的情報。為建立對人工智能增強情報產(chǎn)品的信任，應(yīng)向數(shù)據(jù)管理員、情報分析師和決策者介紹人工智能系統(tǒng)的基本原理和相應(yīng)的保證程序。
四、結(jié)論與建議
本研究表明人工智能是支撐情報分析的有效工具，可以提高情報工作的生產(chǎn)力和效率，并產(chǎn)出人類分析師無法洞察的新見解。在評估人工智能可能會產(chǎn)生的風(fēng)險時，需權(quán)衡以下兩方面的因素：一是所有情報分析工作的固有風(fēng)險；二是人工智能技術(shù)的優(yōu)勢。提高情報分析師和戰(zhàn)略決策者的人工智能素養(yǎng)將有助于深入理解人工智能模型及其局限性。最后，還需要為人工智能系統(tǒng)制定標(biāo)準(zhǔn)化的保證程序，以建立對人工智能增強情報的信任。研究認(rèn)為，應(yīng)當(dāng)立即開展相關(guān)工作，確保情報分析師和戰(zhàn)略決策者做好充分準(zhǔn)備，在未來將人工智能能力融入情報周期。報告提出以下建議，旨在采用最有效的方式向戰(zhàn)略決策者傳遞人工智能增強的情報產(chǎn)品。
1.情報評估專業(yè)負(fù)責(zé)人（PHIA）應(yīng)制定指南，以便在情報分析中明確指出人工智能增強情報的不確定性。該指南應(yīng)提出標(biāo)準(zhǔn)術(shù)語，通過標(biāo)準(zhǔn)術(shù)語向決策者闡明人工智能的局限性和注意事項，還應(yīng)對決策者如何使用人工智能增強的情報提供指導(dǎo)。
2.在向戰(zhàn)略決策者提供相關(guān)技術(shù)信息時，負(fù)責(zé)評估情報產(chǎn)品的人員應(yīng)考慮到不同決策者的技術(shù)背景差異，應(yīng)采取分層方法，保證非技術(shù)專業(yè)人員也能夠理解人工智能增強情報產(chǎn)品的評估結(jié)果。此外，向掌握更多技術(shù)專業(yè)知識的決策者提供額外的技術(shù)細(xì)節(jié)信息，幫助其深入了解系統(tǒng)性能及局限性。
3.英國情報評估學(xué)院（UK Intelligence Assessment Academy）應(yīng)進(jìn)行培訓(xùn)需求分析，根據(jù)分析結(jié)果開發(fā)適當(dāng)?shù)呐嘤?xùn)課程。
4.應(yīng)向戰(zhàn)略決策者（及相關(guān)工作人員）提供培訓(xùn)，介紹人工智能的基本原理和相應(yīng)的保證程序，以幫助其建立對人工智能增強情報產(chǎn)品的信任。
5.由于人工智能增強情報是重要決策的基礎(chǔ)，在舉行國家安全決策會議之前，應(yīng)舉行簡短的專家簡報會，向決策者簡要介紹關(guān)鍵的技術(shù)細(xì)節(jié)和局限性，并確保決策者提前評估情報產(chǎn)品的信任程度。專家簡報會應(yīng)由聯(lián)合情報組織和國家安全秘書處（National Security Secretariat）共同協(xié)調(diào)，并充分匯集首席科學(xué)顧問網(wǎng)絡(luò)和相關(guān)科學(xué)咨詢委員會的專業(yè)知識。
6.應(yīng)為情報分析和評估中使用的人工智能系統(tǒng)制定正式的認(rèn)證方案，以確保模型在穩(wěn)健性、安全性、透明度以及偏見緩解等方面達(dá)到?jīng)Q策所需的最低要求。將人工智能系統(tǒng)應(yīng)用于特定情報分析任務(wù)的技術(shù)保證應(yīng)下放給相關(guān)組織，但要對其保證程序進(jìn)行必要的認(rèn)證。這需要協(xié)調(diào)和組織專門資源，將情報分析專業(yè)知識與技術(shù)知識相結(jié)合。PHIA應(yīng)協(xié)助制定原則和要求，而認(rèn)證和測試方面的技術(shù)知識則應(yīng)來自情報界和政府內(nèi)的有關(guān)技術(shù)部門。
免責(zé)聲明：本文轉(zhuǎn)自啟元洞見。文章內(nèi)容系原作者個人觀點，本公眾號編譯/轉(zhuǎn)載僅為分享、傳達(dá)不同觀點，如有任何異議，歡迎聯(lián)系我們！
轉(zhuǎn)自丨啟元洞見
研究所簡介
國際技術(shù)經(jīng)濟(jì)研究所（IITE）成立于1985年11月，是隸屬于國務(wù)院發(fā)展研究中心的非營利性研究機構(gòu)，主要職能是研究我國經(jīng)濟(jì)、科技社會發(fā)展中的重大政策性、戰(zhàn)略性、前瞻性問題，跟蹤和分析世界科技、經(jīng)濟(jì)發(fā)展態(tài)勢，為中央和有關(guān)部委提供決策咨詢服務(wù)?！叭蚣夹g(shù)地圖”為國際技術(shù)經(jīng)濟(jì)研究所官方微信賬號，致力于向公眾傳遞前沿技術(shù)資訊和科技創(chuàng)新洞見。
地址：北京市海淀區(qū)小南莊20號樓A座
電話：010-82635522
微信：iite_er
熱門跟貼