文章來源丨麥肯錫公司：Lareina Yee、Michael Chui、Roger Roberts 和 Stephen Xu，慎思行采編翻譯
個人微信丨hello_SSX
在過去幾年里，生成式人工智能（Gen AI）所釋放出的能力和可能性令世人驚嘆不已。大型語言模型（LLMs）等基礎模型可以在文本、音頻、圖像和視頻等多種媒介中提取洞察并生成內容，工作表現(xiàn)令人印象深刻。但是，生成式人工智能的下一階段可能會更具變革性。
我們正從基于知識的生成式AI工具——例如回答問題和生成內容的聊天機器人——向生成式AI驅動的“智能體”演進，這些智能體利用基礎模型在數(shù)字世界中執(zhí)行復雜的多步驟工作流程。簡而言之，技術正在從“思想”轉向“行動”。
廣義上講，"智能體"系統(tǒng)指的是能夠在動態(tài)世界中獨立互動的數(shù)字系統(tǒng)。雖然這些軟件系統(tǒng)的版本已經存在多年，但是生成式AI的自然語言能力展現(xiàn)了新的可能性，使系統(tǒng)能夠規(guī)劃行動、使用在線工具完成任務、與其他智能體和人類協(xié)作，并通過學習改善表現(xiàn)。生成式AI智能體最終可能成為熟練的虛擬同事，以無縫且自然的方式與人類合作。例如，虛擬助手可以規(guī)劃和預訂復雜的個性化旅游行程，處理多個跨平臺的物流。工程師可以使用日常語言向程序員智能體描述新的軟件功能，然后智能體會編寫代碼、測試、迭代并部署它幫助創(chuàng)建的工具。
傳統(tǒng)上，智能體系統(tǒng)很難實現(xiàn)，需要基于規(guī)則的繁瑣編程或機器學習模型經過高度疼的訓練來實現(xiàn)，Gen AI改變了這一點。
當智能體系統(tǒng)使用基礎模型（這些模型在極其龐大且多樣的非結構化數(shù)據集上進行了訓練）而不是預定義規(guī)則來構建時，它們就有可能以類似于LLMs的方式對未經明確訓練的提示做出智能回應，適應不同場景。此外，人類用戶可以使用自然語言而不是編程代碼，指揮Gen AI智能體系統(tǒng)完成復雜的工作流程。
然后，多智能體系統(tǒng)可以將這一工作流程解釋和組織為可執(zhí)行的任務，將工作分配給專門的智能體，使用數(shù)字工具生態(tài)系統(tǒng)執(zhí)行這些細化任務，并與其他智能體和人類合作，不斷改進其行動的質量。
在本文中，我們將探討使用Gen AI智能體所帶來的機遇。盡管該技術仍處于初級階段，在商業(yè)部署之前還需要進一步的技術開發(fā)，但它正在迅速吸引關注。僅在過去一年，谷歌、微軟、OpenAI 等公司就已投資于支持智能體功能的軟件庫和框架。由LLM驅動的應用程序，如微軟Copilot、亞馬遜Q和谷歌即將推出的Project Astra，正從知識型向行動型轉變。Adept、crewAI 和 Imbue 等公司和研究實驗室也在開發(fā)基于智能體的模型和多智能體系統(tǒng)。鑒于Gen AI的發(fā)展速度，智能體可能會像今天的聊天機器人一樣普及。
智能體能為企業(yè)帶來什么價值？
智能體所能釋放的價值，源于其自動化處理大量復雜用例的潛力——這些用例通常具有高度可變的輸入和輸出，并且長期以來一直難以通過減少成本或時間的方式解決。以看似簡單的商務旅行為例，它可能涉及涵蓋涉及不同航空公司和航班的多種可能行程，更不必說酒店會員獎勵計劃、餐廳預訂和休閑活動安排，所有這些都必須在不同的平臺進行處理。雖然部分流程已經實現(xiàn)了自動化，但大部分仍需手動完成。這在很大程度上是因為潛在的輸入和輸出差異很大，導致整個流程過于復雜、成本過高或時間過長，難以實現(xiàn)自動化。
Gen AI驅動的智能體可以通過以下三種重要方式簡化復雜和開放式用例的自動化：
1. 智能體可以處理多樣性管理
許多商業(yè)用例和流程都具有線性工作流程的特點——明確的起點、一系列導向特定解決方案或結果的步驟。這種相對簡單的特點使其很容易通過基于規(guī)則的系統(tǒng)編碼和自動化。但基于規(guī)則的系統(tǒng)往往表現(xiàn)出“脆弱性”，即當遇到規(guī)則設計者未明確考慮的情況時，系統(tǒng)就會崩潰。例如，許多工作流程的可預測性要低得多，充斥著意想不到的波折和多種潛在結果；這些工作流程需要特殊處理和細致判斷，這使得基于規(guī)則的自動化極具挑戰(zhàn)性。
但是，Gen AI智能體系統(tǒng)基于基礎模型構建，能夠針對特定用例應對各種低概率場景，實時動態(tài)調整，以執(zhí)行完成流程所需的專項任務。
2.智能體系統(tǒng)可以通過自然語言指令驅動
目前，要實現(xiàn)一個用例的自動化，首先必須將其分解為一系列可編碼的規(guī)則和步驟。這些步驟通常要轉化為計算機代碼，并集成到軟件系統(tǒng)中——這一過程通常既費錢又費力，還需要大量的專業(yè)技術知識。由于智能體系統(tǒng)以自然語言作為指令形式，即使是復雜的工作流也能更快、更輕松地實現(xiàn)編碼。更重要的是，該流程可能由非技術人員（而不是軟件工程師）完成。這不僅便于整合領域專業(yè)知識，還拓寬了使用Gen AI和AI工具的普及范圍，同時簡化了技術與非技術團隊之間的協(xié)作。
3.智能體系統(tǒng)能夠與現(xiàn)有軟件工具和平臺協(xié)同工作
除了分析和生成知識，智能體系統(tǒng)還可以使用工具并在更廣泛的數(shù)字生態(tài)系統(tǒng)中進行交互。例如，可以指導智能體與軟件應用（如圖表繪制工具）協(xié)作、在互聯(lián)網上檢索信息、收集并整合人工反饋，甚至調用其他基礎模型。數(shù)字工具的使用既是智能體的核心特征（這是智能體在真實場景中產生實際行動的方式之一），也是Gen AI能夠得以發(fā)揮獨特作用的途徑?；A模型能夠學習如何通過自然語言或其他接口與工具交互。如果沒有基礎模型，這些能力將需要大量的手動工作來集成系統(tǒng)，例如使用ETL（提取、轉換和加載）工具），或通過繁瑣的人工操作來整理不同軟件系統(tǒng)的輸出結果。
Gen AI智能體如何工作？
智能體系統(tǒng)能夠支持跨行業(yè)和業(yè)務職能部門的高復雜度用例，尤其適用于涉及耗時任務或需要多種專業(yè)定性和定量分析的工作流。其核心能力在于通過遞歸方式分解復雜流程，并基于專項指令和數(shù)據源執(zhí)行子任務，以達成最終目標。這一流程通常遵循以下四個步驟：
1.用戶指令輸入
用戶通過自然語言指令與AI系統(tǒng)交互（類似對可信賴的員工下達任務）。系統(tǒng)識別目標用例，并在必要時要求用戶進一步說明需求。
2.智能體系統(tǒng)規(guī)劃、分配和執(zhí)行工作
智能體系統(tǒng)將指令處理成工作流程，分解為任務和子任務，并由管理型子智能體分配給其他專業(yè)子智能體。這些子智能體依托領域知識、工具，先前 "經驗 "和已編碼化的專業(yè)知識，協(xié)同調用組織數(shù)據與系統(tǒng)來執(zhí)行這些任務。
3.智能體系統(tǒng)不斷改進輸出
在整個過程中，智能體可能會要求用戶補充輸入，以確保準確性和相關性。最后，智能體系統(tǒng)會結合用戶反饋迭代優(yōu)化，直至提供最終輸出結果。
4.智能體執(zhí)行操作
智能體在實際操作中執(zhí)行所以的必要行動，以徹底完成用戶請求的任務。
可能性探索：三大潛在應用場景
這類系統(tǒng)對企業(yè)意味著什么？以下三個假設性用例揭示了不遠的將來的可能圖景。
用例 1：貸款核銷
金融機構需通過撰寫信貸風險備忘錄來評估向借款方提供信貸或貸款的風險。這一過程涉及收集、分析和審核與借款方、貸款類型和其他因素相關的各種類信息。由于信貸風險評估場景多樣且需多維度分析，該流程往往耗時且高度依賴協(xié)作——客戶經理需與借款方、利益相關方和信貸分析師合作進行專項分析，然后提交給信貸經理進行審核并補充專業(yè)意見。
基于智能體的潛在解決方案：一套由多個智能體組成的系統(tǒng)（每個智能體都承擔特定任務角色），可設計用于處理廣泛的信用風險場景。用戶可通過自然語言輸入高層級的工作計劃，明確規(guī)則、標準與條件。隨后，智能體團隊會將工作拆解為可執(zhí)行的子任務。
例如，一個智能體可以扮演客戶關系經理的角色，處理借款方與金融機構之間的溝通事宜。執(zhí)行智能體可以整理必要的文件，并轉發(fā)給財務分析智能體，后者將分析現(xiàn)金流量表中的債務數(shù)據，并計算相關財務比率，隨后由審核智能體進行審查識別矛盾并提供反饋。這種分解、分析、優(yōu)化和審核的過程會不斷重復，直到最終完成信貸風險備忘錄。
與傳統(tǒng)的生成式AI架構不同，智能體系統(tǒng)可以生成高質量的內容，將審核周期縮短 20% 至 60%。智能體還能跨多個系統(tǒng)，整合多來源的數(shù)據。最后，智能體可以展示其工作過程：信貸分析師可以快速追溯生成的文本或數(shù)字，訪問完整的任務鏈及數(shù)據來源，從而高效驗證輸出結果的可靠性。
用例 2：代碼文檔和現(xiàn)代化改造
大型企業(yè)的遺留軟件應用程序和系統(tǒng)往往會帶來安全風險，并可能減緩業(yè)務創(chuàng)新的步伐。但實現(xiàn)對這些系統(tǒng)的現(xiàn)代化改造過程復雜、成本昂貴且耗時費力，需要工程師審查和理解數(shù)百萬行的舊代碼庫和業(yè)務邏輯的手工文檔，然后將這些邏輯遷移至更新后的代碼庫，并與其他系統(tǒng)進行整合。
基于智能體的潛在解決方案：AI智能體有望大大簡化這一流程。
可以部署一個專門化的遺留軟件專家智能體，通過分析舊代碼實現(xiàn)文檔化處理和代碼片段的記錄與翻譯。與此同時，質量保障智能體可以審核這些文檔并生成測試用例，幫助AI系統(tǒng)迭代優(yōu)化其輸出結果，確保其準確性和對組織標準的遵從性。
此外，這種可重復的流程還將產生飛輪效應，即智能體框架的組件可在整個組織的其他軟件遷移項目中重復使用，從而顯著提高開發(fā)效率并降低軟件開發(fā)的總體成本。
用例 3：創(chuàng)建在線營銷活動
設計、啟動和運行在線營銷活動往往涉及一系列
不同的軟件工具、應用程序和平臺。在線營銷活動的工作流程也非常復雜：企業(yè)需要將業(yè)務目標和市場趨勢轉化為富有創(chuàng)意的營銷理念；針對不同客戶的細分市場和地域定制文字和視覺素材；還需通過不同平臺的用戶群體測試活動效果。為了完成這些任務，營銷團隊通常需要使用多種形式的軟件，并將產出從一個工具遷移到另一個工具，這一過程往往繁瑣且耗時。
基于智能體的潛在解決方案：智能體可以幫助連接這個數(shù)字營銷生態(tài)系統(tǒng)。例如，營銷人員可以用自然語言描述目標用戶、初始創(chuàng)意、目標渠道和其他參數(shù)。然后，在營銷人員的協(xié)助下，由智能體系統(tǒng)幫助開發(fā)、測試和迭代不同的營銷活動創(chuàng)意。數(shù)字營銷戰(zhàn)略智能體可以利用在線調查、客戶關系管理解決方案中的分析結果，以及其他市場研究平臺來收集洞察，借助多模態(tài)基礎模型制定戰(zhàn)略。然后，內容營銷、文案撰寫和設計智能體可以創(chuàng)建定制化內容，并由人工審核員評估其品牌契合度。這些智能體將合作迭代和完善產出內容，并朝著既能優(yōu)化活動影響又能最大限度降低品牌風險的方向努力。
領導者應如何為智能體時代做好準備？
雖然智能體技術剛剛起步，但隨著對相關工具的持續(xù)投資，智能體系統(tǒng)有望在未來幾年實現(xiàn)重大突破并大規(guī)模部署。
因此，企業(yè)領導者現(xiàn)在開始深入了解智能體技術，并考慮是否可以借助智能體系統(tǒng)來加速一些核心業(yè)務流程或戰(zhàn)略目標，時機正好。這種了解可以為未來的路線圖規(guī)劃提供依據，幫助企業(yè)在創(chuàng)新浪潮中保持競爭優(yōu)勢。一旦明確潛在用例，企業(yè)就可以通過API、工具包和庫（例如，微軟 Autogen、Hugging Face 和 LangChain）探索不斷發(fā)展的智能體環(huán)境，逐步篩選適配自身需求的解決方案
為迎接智能體系統(tǒng)的到來，企業(yè)應重點關注以下三個因素，這些要素將決定此類系統(tǒng)能否充分發(fā)揮其潛力：
1. 相關知識的系統(tǒng)化編碼
復雜用例的實施要求企業(yè)定義業(yè)務流程并文檔化為結構化工作流程，用于培訓智能體。同時，企業(yè)需思考如何將專業(yè)知轉化為自然語言指令，從而通過智能體簡化復雜的流程。
2.戰(zhàn)略性技術規(guī)劃
企業(yè)需重新梳理數(shù)據和 IT 系統(tǒng)架構，確保智能體系統(tǒng)能與現(xiàn)有基礎設施有效對接。這包括采集用戶交互數(shù)據以獲得持續(xù)反饋并優(yōu)化模型，以及構建靈活的技術框架以便在不干擾現(xiàn)有運營的情況下整合新興技術。
3. 人機協(xié)同控制機制
當AI智能體開始與現(xiàn)實世界互動時，控制機制對于平衡自主性和風險至關重要（見 "理解智能體系統(tǒng)的獨特風險"）。人類必須驗證輸出的準確性、合規(guī)性和公平性；與領域專家協(xié)作維護和擴展智能體系統(tǒng)；并建立持續(xù)改進的學習飛輪。企業(yè)應盡早明確人機協(xié)同機制的適用場景與部署方式。
了解智能智能體系統(tǒng)的獨特風險
眾所周知，當前的大型語言模型（LLMs）存在錯誤和“幻覺”問題。由于智能體系統(tǒng)處理的是 LLM生成的連續(xù)輸出序列，若缺乏保護措施，單個輸出中的“幻覺”可能產生連鎖反應。此外，由于智能體系統(tǒng)被設計為自主運行，企業(yè)領導者必須考慮額外的監(jiān)督機制和防護措施。雖然很難完全預測智能體機構會帶來的所有風險，但以下是一些應該考慮的風險。
01
潛在有害輸出：大語言模型的輸出并非總是準確，可能會提供不正確的信息或執(zhí)行具有不良后果的操作。隨著生成式人工智能（gen AI）智能體在千變萬化的場景中獨立使用數(shù)字工具和數(shù)據執(zhí)行任務，此類風險也隨之加劇。例如，智能體可能會批準一筆高風險貸款，從而導致經濟損失，也可能會代表客戶進行不可退款的高額消費。
緩解策略：企業(yè)應實施強有力的問責機制，明確界定智能體與人類的責任邊界，并確保智能體輸出結果的可解釋性。具體措施包括：
開發(fā)框架管理智能體的自主權：例如，根據用例的復雜度限制智能體的行動范圍。
確保人工監(jiān)督：例如，在執(zhí)行前驗證智能體的輸出，并對智能體的決策進行定期審核。
構建透明度和可追溯性機制，幫助用戶了解智能體的決策過程，及早發(fā)現(xiàn)潛在的問題
02
工具濫用風險：智能體能夠訪問工具和數(shù)據，如果被故意濫用，可能會引發(fā)危險。例如，智能體可能被用來編寫易受攻擊的代碼、制造仿真的網絡釣魚騙局或竊取敏感信息。
緩解策略：針對高風險場景，企業(yè)應建立防護機制（例如設置訪問控制與操作權限限制），并為智能體創(chuàng)建封閉的環(huán)境（例如限制智能體的可訪問的工具與數(shù)據源）。此外，企業(yè)還應對智能體活動進行實時監(jiān)控，對可疑行為自動發(fā)出警報。定期開展審核合規(guī)性檢查，確保防護機制持續(xù)有效。
03
人機信任失衡問題：正如人類與同事之間的關系一樣，人類與AI智能體之間的互動也建立在信任的基礎上。如果用戶缺乏對智能體系統(tǒng)的信任，可能減少必要的人機交互與信息共享，阻礙智能體系統(tǒng)的學習優(yōu)化。反之，隨著智能體越來越擅長模仿人類的行為，部分用戶可能過度信任智能體智能體，賦予其人類水平的理解力和判斷力，導致用戶不加批判地接受建議，或在沒有充分監(jiān)督的情況下給予智能體過多的自主權。
緩解策略：組織可以通過提升智能體決策的透明度來管理這些問題。在此過程中，我們需要確保用戶接受了負責任地使用智能體的培訓，并建立人機協(xié)同流程來管理智能體行為，人工監(jiān)督智能體程序是確保用戶保持平衡視角的關鍵所在。此外，通過關鍵績效指標（例如，客戶滿意度、票據的成功完成率）評估智能體效能，并保留智能體行動的最終權力和責任。
除上述風險外，企業(yè)還應關注Gen AI智能體引發(fā)的更廣泛問題：
價值觀一致：由于智能體與同事關系密切，他們的行為應體現(xiàn)組織的價值觀。智能體應在其決策中遵循哪些價值觀？如何對通過定期評估和培訓確保價值觀對齊？
勞動力結構轉型：通過獨立完成任務，智能體系統(tǒng)將極大地改變完成工作的方式，從而有可能讓人類更加專注于需要批判性思維和管理技能的高層次任務。各業(yè)務職能部門的角色和職責將如何轉變？如何為員工提供再培訓機會？是否有新的合作模式可以加強人機協(xié)作模式？
擬人化風險治理：隨著智能體的擬人化程度提升，用戶可能會產生過度依賴，或誤以為AI助手完全符合自己的興趣和價值觀。智能體應融入多多少人類特征？可以創(chuàng)建哪些流程來實時檢測人機交互中的潛在危害？
麥肯錫最近的《人工智能現(xiàn)狀 》調查顯示，超過 72% 的受訪企業(yè)正在部署AI解決方案，而且對Gen AI的興趣與日俱增。在此背景下，企業(yè)將AI智能體等前沿技術納入其戰(zhàn)略規(guī)劃和未來AI路線圖已是大勢所趨。智能體驅動的自動化展現(xiàn)出革命性的潛力，有望以全新行動速度重塑工作模式。
盡管如此，這項技術仍處于早期階段，其全部功能的釋放尚需持續(xù)開發(fā)。系統(tǒng)復雜性和自主性的不斷提高，會帶來一系列挑戰(zhàn)和風險。若將AI智能體視為團隊中的“新成員”，正如人類員工需要磨合一樣，企業(yè)在信任智能體獨立運作前，必須投入大量測試、培訓和指導。然而，即便在技術萌芽期，我們也不難預見新一代“虛擬同事”可能釋放的廣闊機遇。
編輯 | Jiaru
清流學苑2025Q1課程安排
我們也將在3月29~30日在上海推出我們的清流學苑的新晉課程《關鍵洞察營》，歡迎感興趣的朋友掃碼了解和報名。
進一步交流
進入專業(yè)社群展開深度討論
慎思行通過微信等平臺覆蓋超過10萬戰(zhàn)略人、咨詢人等各類專業(yè)人士。我們也構建了專業(yè)社群，推動戰(zhàn)略與咨詢領域的問題討論、信息交流和機會分享，社群已有超過5年歷史，并成為了頂尖專業(yè)人士感知市場前沿，獲得實踐經驗的首要選擇。入群請?zhí)砑由魉季⑿?，并提供名片?/p>
現(xiàn)在微信公眾號更改規(guī)則，如果你不特地點進來，很可能看不到我們的推送了。希望喜歡【慎思行】的讀者朋友們將本號【設為星標★】，方便找到我們；也歡迎點擊右下角的【在看】。
＞企業(yè)應用AI智能體的前景與現(xiàn)實
＞AI能幫我們獲得洞察和解決問題嗎？
＞AI將如何改變戰(zhàn)略？
熱門跟貼