與CapgeminiAI智能體的實(shí)踐應(yīng)用：圖片：AdobeStock導(dǎo)言.6免責(zé)聲明本文件由世界經(jīng)濟(jì)論壇作為一個(gè)項(xiàng)目，洞察力領(lǐng)域或互動(dòng)的貢獻(xiàn)本報(bào)告所述的調(diào)查結(jié)果、解釋和結(jié)論是世界經(jīng)濟(jì)論壇推動(dòng)和認(rèn)可的合作進(jìn)程的不代表世界經(jīng)濟(jì)論壇的觀點(diǎn)，也不代表其全體成員、合作伙伴或其他利益相關(guān)者的2025年世界經(jīng)濟(jì)論壇Allrightsreserved.本出版物的任何部分均不得以任何形式或通過(guò)任何手段（包括影印和記錄）或通過(guò)任何信息存儲(chǔ)和檢索系統(tǒng)進(jìn)行復(fù)制或傳播AIAgentsinAction：評(píng)估和治理的基礎(chǔ)2AIAgentsinAction：評(píng)估和治理的基礎(chǔ)3二〇二五年十一月AIAgentsinAction：評(píng)估和治理的基礎(chǔ)前言羅尚·嘉CapgeminiInvent首席執(zhí)行官本文旨在幫助回答這些問(wèn)題。通過(guò)繪制代理系李嘉欣世界經(jīng)濟(jì)論壇人工智能卓越中心主任、執(zhí)行委員會(huì)AIAgentsinAction：評(píng)估和治理的基礎(chǔ)4介紹圖1負(fù)責(zé)任地采用AI代理的基礎(chǔ)1技術(shù)基礎(chǔ)奠定基礎(chǔ)3評(píng)價(jià)和治理2功能分類定義代理AIAgents1技術(shù)基礎(chǔ)奠定基礎(chǔ)3評(píng)價(jià)和治理2功能分類定義代理AIAgentsinAction：評(píng)估和治理的基礎(chǔ)5AIAgentsinAction：評(píng)估和治理的基礎(chǔ)6），AIAgentsinAction：評(píng)估和治理的基礎(chǔ)7構(gòu)建代理不僅需要工程，還需要模型，工具，數(shù)據(jù)源和人類之間的協(xié)調(diào)和協(xié)調(diào)。AI代理的技術(shù)基礎(chǔ)構(gòu)建代理不僅需要工程，還需要模型，工具，數(shù)據(jù)源和人類之間的協(xié)調(diào)和協(xié)調(diào)。1AIAgent的軟件體系結(jié)構(gòu)1AIAgent的軟件體系結(jié)構(gòu)為了實(shí)現(xiàn)這一轉(zhuǎn)變，人工智能代理借鑒了四種技術(shù)范式：調(diào)了解這種架構(gòu)是預(yù)測(cè)代理如何與用戶和系統(tǒng)互了解這種架構(gòu)是預(yù)測(cè)代理如何與用戶和系統(tǒng)互動(dòng)、協(xié)調(diào)工作流程和做出上下文感知決策的關(guān)鍵點(diǎn)圖2AI代理的軟件架構(gòu)內(nèi)部組織資源第三方資源內(nèi)部組織資源環(huán)境人工智能邊界人工智能邊界行動(dòng)知覺(jué)對(duì)象行動(dòng)鋁劑鋁劑輸入/輸出輸入/輸出消息接發(fā)數(shù)據(jù)庫(kù)鋁劑應(yīng)用應(yīng)用應(yīng)用編排生成非生成機(jī)制構(gòu)造格架編排規(guī)劃存儲(chǔ)器工具工作流程模型應(yīng)用編排生成非生成機(jī)制構(gòu)造格架編排規(guī)劃存儲(chǔ)器工具工作流程模型AIAgentsinAction：評(píng)估和治理的基礎(chǔ)1.2通信協(xié)議和互操作性MCP在主流代理框架中獲得了廣泛的支持，并越來(lái)越多地被視為核心機(jī)制。MCP在主流代理框架中獲得了廣泛的支持，并越來(lái)越多地被視為核心機(jī)制。圖3基于MCP的代理通信示意圖MCP概述AIagent1AIagent2客戶端消息客戶端數(shù)客戶端數(shù)據(jù)庫(kù)服務(wù)器消息服務(wù)器數(shù)據(jù)庫(kù)4承認(rèn)更新32更新數(shù)據(jù)庫(kù)MCP概述AIagent1AIagent2客戶端消息客戶端數(shù)客戶端數(shù)據(jù)庫(kù)服務(wù)器消息服務(wù)器數(shù)據(jù)庫(kù)4承認(rèn)更新32更新數(shù)據(jù)庫(kù)證實(shí)消息傳遞AIAgentsinAction：評(píng)估和治理的基礎(chǔ)圖4代理到代理通信協(xié)議的圖示代理代理代理框架代理框架代理框架代理框架MCPA2A器MCPA2A器影處理API和企業(yè)應(yīng)用程序API和企業(yè)應(yīng)用程序MCP和A2A側(cè)重于數(shù)據(jù)交換和任務(wù)協(xié)調(diào)，而AP2則處理復(fù)雜的財(cái)務(wù)操作。盡管取得了這些進(jìn)展，但互操作性仍然是一個(gè)關(guān)鍵挑戰(zhàn)。技術(shù)兼容性本身并不能保證協(xié)AIAgentsinAction：評(píng)估和治理的基礎(chǔ)本報(bào)告來(lái)源于三個(gè)皮革制造商報(bào)告站（），由用戶Id：349網(wǎng)絡(luò)安全考慮因素），安全戰(zhàn)略已從周安全戰(zhàn)略已從周邊防御發(fā)展到分層“縱深防御”，最近又發(fā)展到零信任模式。AIAgentsinAction：評(píng)估和治理11AIAgentsinAction：評(píng)估和治理12的基礎(chǔ)2系統(tǒng)分類很重要，因?yàn)樗鼮楸容^代理人、預(yù)測(cè)風(fēng)險(xiǎn)和將評(píng)價(jià)與治理聯(lián)2系統(tǒng)分類很重要，因?yàn)樗鼮楸容^代理人、預(yù)測(cè)風(fēng)險(xiǎn)和將評(píng)價(jià)與治理聯(lián)系起來(lái)提供了共同基礎(chǔ)。），據(jù)AIAgentsinAction：評(píng)估和治理13的基礎(chǔ)圖5AI代理評(píng)估和治理的基礎(chǔ)↓分類維度↓風(fēng)險(xiǎn)評(píng)估生命周期分類分類界定了代理人的特征和運(yùn)作背景，以指導(dǎo)評(píng)價(jià)、風(fēng)險(xiǎn)評(píng)估和治理。建立自治級(jí)別可以幫助組織設(shè)定對(duì)功能的明確期望，并實(shí)施相應(yīng)的治理機(jī)制。建立自治級(jí)別可以幫助組織設(shè)定對(duì)功能的明確期望，并實(shí)施相應(yīng)的治理機(jī)制。圖6分類維度Agent特性Agent特性1.功能6.1.功能代理人是做什么的代理人是做什么的代理執(zhí)行其功能的應(yīng)用程序域和環(huán)境專家通才簡(jiǎn)單復(fù)雜3.預(yù)測(cè)性確定性非確定性4.自治低高5.權(quán)威低高人工智能代理人在行動(dòng)：評(píng)估和治理的基礎(chǔ) 田專家通才簡(jiǎn)單復(fù)雜3.預(yù)測(cè)性確定性非確定性4.自治低高5.權(quán)威低高人工智能代理人在行動(dòng)：評(píng)估和治理的基礎(chǔ) 田2.角色7.環(huán)境AIAgentsinAction：評(píng)估和治理15的基礎(chǔ)對(duì)于采用人工智能的組織，了解明確界定行動(dòng)范圍對(duì)確保實(shí)際部署的有效性至關(guān)重要AIAgentsinAction：評(píng)估和治理16的基礎(chǔ)機(jī)器人吸塵器Agent特性案例研機(jī)器人吸塵器Agent特性案例研究1機(jī)器人真空吸塵器.分類1.1.功能通才非確定性高低高低田5.權(quán)威2作用專家3.預(yù)測(cè)性確定性通才非確定性高低高低田5.權(quán)威2作用專家3.預(yù)測(cè)性確定性機(jī)器人真空吸塵器.分類操作上下文自主室內(nèi)導(dǎo)航和清潔地板6.用例7.環(huán)境簡(jiǎn)單復(fù)雜7.環(huán)境簡(jiǎn)單復(fù)雜家用真空機(jī)器人在家庭服務(wù)領(lǐng)域中操作，自主地在住宅環(huán)境中導(dǎo)航AIAgentsinAction：評(píng)估和治理17的基礎(chǔ)圖7–支助評(píng)估：評(píng)估在其環(huán)境中部署特定制劑所AI代理評(píng)估和治理的基礎(chǔ)-分類維度訪問(wèn)控制可解釋性溯源標(biāo)識(shí)監(jiān)測(cè)日志合法合規(guī)人工冗余長(zhǎng)效管理人類監(jiān)督試驗(yàn)確認(rèn)和更多...定義用分類維度評(píng)價(jià)標(biāo)準(zhǔn)風(fēng)險(xiǎn)評(píng)估生命周定義用途期途功能可預(yù)測(cè)性能力工具調(diào)用成功評(píng)估風(fēng)險(xiǎn)作用用例任務(wù)成功率邊緣情況魯棒性識(shí)別風(fēng)險(xiǎn)管理風(fēng)險(xiǎn)環(huán)境任務(wù)完成時(shí)間信任指標(biāo)分析風(fēng)險(xiǎn)權(quán)威錯(cuò)誤類型和更多.AIAgentsinAction：評(píng)估和治理18的基礎(chǔ)評(píng)價(jià)強(qiáng)大的評(píng)估是至關(guān)重要的評(píng)估代理的性能和限制在不同的情況下。一項(xiàng)以提供者為重點(diǎn)的有效評(píng)價(jià)應(yīng)首先從技術(shù)上篩選推理、規(guī)劃和工具使用等基線能力。一項(xiàng)以提供者為重點(diǎn)的有效評(píng)價(jià)應(yīng)首先從技術(shù)上篩選推理、規(guī)劃和工具使用等基線能力。圖8AI代理評(píng)估和治理的基礎(chǔ)-評(píng)估標(biāo)準(zhǔn)漸進(jìn)式治理做法溯源標(biāo)識(shí)監(jiān)測(cè)日志合法合規(guī)人工冗余長(zhǎng)效管理人類監(jiān)督溯源標(biāo)識(shí)監(jiān)測(cè)日志合法合規(guī)人工冗余長(zhǎng)效管理人類監(jiān)督試驗(yàn)確認(rèn)和更多...制可解釋性定義用分類維度評(píng)價(jià)標(biāo)準(zhǔn)風(fēng)險(xiǎn)評(píng)估生命周期定義用途功能可預(yù)測(cè)性能力工具調(diào)用成功評(píng)估風(fēng)險(xiǎn)作用用例任務(wù)成功率邊緣情況魯棒性識(shí)別風(fēng)險(xiǎn)管理風(fēng)險(xiǎn)自治環(huán)境任務(wù)完成時(shí)間信任指標(biāo)分析風(fēng)險(xiǎn)權(quán)威錯(cuò)誤類型和更多.人工智能行動(dòng)者：評(píng)估和治理的基礎(chǔ)AIAgentsinAction：評(píng)估和治理的基礎(chǔ)編碼副駕駛Agent特性案例研編碼副駕駛Agent特性案例研究2編碼副駕駛員評(píng)估1.1.功能專業(yè)通才3.預(yù)測(cè)性確定性非確定性高低高低5.權(quán)威2專業(yè)通才3.預(yù)測(cè)性確定性非確定性高低高低5.權(quán)威2作用編碼副駕駛員評(píng)估–性能：測(cè)量任務(wù)成功率、完成時(shí)間和錯(cuò)誤頻率，以及工–魯棒性：將代理暴露給模糊或沖突的代碼，以評(píng)幫助開(kāi)發(fā)人員進(jìn)行代碼生成和調(diào)試6.用例7.環(huán)境簡(jiǎn)單復(fù)雜7.環(huán)境簡(jiǎn)單復(fù)雜編碼副駕駛員在軟件開(kāi)發(fā)領(lǐng)域工作圖9風(fēng)險(xiǎn)評(píng)估風(fēng)險(xiǎn)評(píng)估識(shí)別和分析潛在危害，將評(píng)估結(jié)果與監(jiān)督聯(lián)系起來(lái)。AI代理評(píng)估和治理的基礎(chǔ)-風(fēng)險(xiǎn)評(píng)估生命周期為了使這個(gè)過(guò)程可操作，組織可以遵循五步生命周漸進(jìn)式治理做法訪問(wèn)控制可解釋性溯源標(biāo)識(shí)監(jiān)測(cè)日志合法合規(guī)人工冗余長(zhǎng)效管理人類監(jiān)督試驗(yàn)確認(rèn)和更多...定義用分類維度評(píng)價(jià)標(biāo)準(zhǔn)估生定義用途功能可預(yù)測(cè)性能力工具調(diào)用成功評(píng)估風(fēng)險(xiǎn)作用用例任務(wù)成功率邊緣情況魯棒性識(shí)別風(fēng)險(xiǎn)管理風(fēng)險(xiǎn)自治環(huán)境任務(wù)完成時(shí)間信任指標(biāo)分析風(fēng)險(xiǎn)權(quán)威錯(cuò)誤類型和更多.人工智能行動(dòng)者：評(píng)估和治理的基礎(chǔ)21表1AI代理的風(fēng)險(xiǎn)評(píng)估生命周期步驟目的示例活動(dòng)示例輸出2.識(shí)別風(fēng)險(xiǎn)），征價(jià)實(shí)施風(fēng)險(xiǎn)應(yīng)對(duì)措施（避免、緩控在實(shí)踐中織能夠等因素如何AIAgentsinAction：評(píng)估和治理22AIAgentsinAction：評(píng)估和治理23的基礎(chǔ)案例研究3自動(dòng)駕駛汽車案例研究3自動(dòng)駕駛汽車-風(fēng)險(xiǎn)評(píng)估自主車輛Agent特性Agent特性1.功能非確定性高低高低2作用專業(yè)通才3.預(yù)測(cè)性確定性5.權(quán)威非確定性高低高低2作用專業(yè)通才3.預(yù)測(cè)性確定性5.權(quán)威自動(dòng)駕駛汽車-風(fēng)險(xiǎn)評(píng)估在沒(méi)有人為控制的情況下執(zhí)行完整的駕駛?cè)蝿?wù)6.用例7.環(huán)境簡(jiǎn)單復(fù)雜7.環(huán)境簡(jiǎn)單復(fù)雜自動(dòng)駕駛車輛在運(yùn)輸領(lǐng)域中運(yùn)行，在公共或私人道路環(huán)境中導(dǎo)航，以安全有效地運(yùn)輸乘客或貨物，而無(wú)需直接的人類控制。AIAgentsinAction：評(píng)估和治理24的基礎(chǔ)治理級(jí)別由風(fēng)險(xiǎn)評(píng)估結(jié)果提供信息，確?？刂拼胧┑囊?guī)模與已證明的自主性、權(quán)威性和背景復(fù)雜性相符。AI代理的治理考慮漸進(jìn)式治理方法根據(jù)代理人的自主權(quán)、權(quán)威和復(fù)雜性來(lái)擴(kuò)大監(jiān)督和保障。AIAgentsinAction：評(píng)估和治理25的基礎(chǔ)案例研究4個(gè)人助理-治理考慮因素Agent特性Agent特性操作上下文1.功能通過(guò)組織時(shí)間表，管理溝通和協(xié)調(diào)來(lái)幫助用戶2.作用專家通才3.預(yù)測(cè)性確定性非確定性低高5.權(quán)威低高個(gè)人助理-治理考慮因素6.用例它在個(gè)人生產(chǎn)力領(lǐng)域運(yùn)行，管理用戶數(shù)字環(huán)境中的任務(wù)，通信和信息，以支持日常協(xié)調(diào)和決策。7.環(huán)境簡(jiǎn)單復(fù)雜AIAgentsinAction：評(píng)估和治理26的基礎(chǔ)表2表2訪問(wèn)控制訪問(wèn)控制法律與合規(guī)測(cè)試和驗(yàn)證測(cè)試和驗(yàn)證監(jiān)控和記錄人類監(jiān)督可追溯性和身份長(zhǎng)效管理長(zhǎng)效管理可信度和可解釋性人工冗余人工冗余AIAgentsinAction：評(píng)估和治理27的基礎(chǔ)圖10人工智能主體評(píng)估和治理的基礎(chǔ)：漸進(jìn)式治理實(shí)踐漸進(jìn)式治理做法溯源標(biāo)識(shí)監(jiān)測(cè)日志合法合規(guī)人工冗余長(zhǎng)效管理溯源標(biāo)識(shí)監(jiān)測(cè)日志合法合規(guī)人工冗余長(zhǎng)效管理人類監(jiān)督試驗(yàn)確認(rèn)和更多...制可解釋性定義用分類維度評(píng)價(jià)標(biāo)準(zhǔn)風(fēng)險(xiǎn)評(píng)估生命周期定義用途工具調(diào)能力任務(wù)成功率任務(wù)完成時(shí)間工具調(diào)能力任務(wù)成功率任務(wù)完成時(shí)間錯(cuò)誤類型評(píng)估風(fēng)險(xiǎn)識(shí)別風(fēng)險(xiǎn)管理風(fēng)險(xiǎn)分析風(fēng)險(xiǎn)用成功邊緣情況用例作用邊緣情況用例魯棒性信任指標(biāo)和更多信任指標(biāo)和更多.權(quán)威在部署之前，代理應(yīng)使用非生產(chǎn)數(shù)據(jù)進(jìn)行沙箱或受控試點(diǎn)測(cè)試，以驗(yàn)證預(yù)期行為。在部署之前，代理應(yīng)使用非生產(chǎn)數(shù)據(jù)進(jìn)行沙箱或受控試點(diǎn)測(cè)試，以驗(yàn)證預(yù)期行為。AIAgentsinAction：評(píng)估和治理28的基礎(chǔ)3隨著組織開(kāi)始跨部門、系統(tǒng)和網(wǎng)絡(luò)部3隨著組織開(kāi)始跨部門、系統(tǒng)和網(wǎng)絡(luò)部署多個(gè)代理，出現(xiàn)了一類新的故障模式。系統(tǒng)未來(lái)的互動(dòng)代理生態(tài)系統(tǒng)會(huì)帶來(lái)新的風(fēng)險(xiǎn)，需要可互操作的標(biāo)準(zhǔn)和監(jiān)督。–代理人對(duì)代理人的商務(wù)：代理人可以發(fā)起交數(shù)據(jù)與其他代理人，形成了一個(gè)新的互聯(lián)網(wǎng)–代理互聯(lián)網(wǎng)：除了孤立的交互，大規(guī)模的代理AIAgentsinAction：評(píng)估和治理29的基礎(chǔ)結(jié)論AIAgentsinAction：評(píng)估和治理30的基礎(chǔ)貢獻(xiàn)者世界經(jīng)濟(jì)論壇本杰明·塞德里克·拉森確認(rèn)阿米爾·巴尼法特米威廉·巴塞洛繆皮特·伯納德法比奧·卡薩蒂凱捷杰森·德佩羅凱茜·科貝本·科爾曼莫娜·迪亞卜珍·甘布爾AIAgentsinAction：評(píng)估和治理31的基礎(chǔ)彼得·哈利南貝納特·希倫布蘭德巴巴克·霍賈特羅伯特·卡茨邁克爾·卡恩斯亞歷克斯·勒布倫斯特凡·萊希瑙爾斯科特·利肯斯理查德·馬拉皮拉