2025年AI原生應(yīng)用開(kāi)發(fā)實(shí)戰(zhàn)營(yíng)·北京站分享材料-阿里云_第1頁(yè)
2025年AI原生應(yīng)用開(kāi)發(fā)實(shí)戰(zhàn)營(yíng)·北京站分享材料-阿里云_第2頁(yè)
2025年AI原生應(yīng)用開(kāi)發(fā)實(shí)戰(zhàn)營(yíng)·北京站分享材料-阿里云_第3頁(yè)
2025年AI原生應(yīng)用開(kāi)發(fā)實(shí)戰(zhàn)營(yíng)·北京站分享材料-阿里云_第4頁(yè)
2025年AI原生應(yīng)用開(kāi)發(fā)實(shí)戰(zhàn)營(yíng)·北京站分享材料-阿里云_第5頁(yè)
已閱讀5頁(yè),還剩174頁(yè)未讀, 繼續(xù)免費(fèi)閱讀

下載本文檔

版權(quán)說(shuō)明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)

文檔簡(jiǎn)介

構(gòu)建AI原生應(yīng)用的11個(gè)關(guān)鍵要素《AI原生應(yīng)用架構(gòu)白皮書》解讀王晨(望宸)阿里云智能高級(jí)技術(shù)運(yùn)營(yíng)專家AI領(lǐng)域的四大核心賽道通用智能體通用智能體AI客服AI硬件…應(yīng)用開(kāi)發(fā)框架存儲(chǔ)安全……紅色字體:把和應(yīng)用運(yùn)行相關(guān)的要素抽象出來(lái),形成一個(gè)可表達(dá)、可傳播、可共識(shí)的概念,就是AI原生應(yīng)用架開(kāi)發(fā)工具鏈的4個(gè)發(fā)展階段*確定性基礎(chǔ)開(kāi)發(fā)框架協(xié)作&工具強(qiáng)化學(xué)習(xí)模型更加中心化通過(guò)模塊化抽象來(lái)降低開(kāi)發(fā)復(fù)雜度腦力->行動(dòng)力數(shù)據(jù)驅(qū)動(dòng)優(yōu)化上下文工程能力內(nèi)化到跨部門協(xié)作減少人為干預(yù)模型側(cè)SpringAIAlibaba…FunctionCalling低代碼(Dify、n8n…)Jina.aiClaudeskills2022年-2023年2023年-2024年2024年-2025年2025年10月~*以階段來(lái)劃分,是為了更全面的理解開(kāi)發(fā)工具鏈的發(fā)展歷程,但每個(gè)階段的標(biāo)志性工具并不是迭代和替代關(guān)系,而是協(xié)同發(fā)展。開(kāi)發(fā)工具鏈的4個(gè)發(fā)展階段*確定性基礎(chǔ)開(kāi)發(fā)框架協(xié)作&工具強(qiáng)化學(xué)習(xí)模型更加中心化通過(guò)模塊化抽象來(lái)降低開(kāi)發(fā)復(fù)雜度腦力->行動(dòng)力數(shù)據(jù)驅(qū)動(dòng)優(yōu)化上下文工程能力內(nèi)化到跨部門協(xié)作減少人為干預(yù)模型側(cè)SpringAIAlibaba…FunctionCalling低代碼(Dify、n8n…)Jina.aiClaudeskills2022年-2023年2023年-2024年2024年-2025年2025年10月~*以階段來(lái)劃分,是為了更全面的理解開(kāi)發(fā)工具鏈的發(fā)展歷程,但每個(gè)階段的標(biāo)志性工具并不是迭代和替代關(guān)系,而是協(xié)同發(fā)展。AI領(lǐng)域的四大核心賽道通用智能體通用智能體AI客服AI硬件…應(yīng)用開(kāi)發(fā)框架存儲(chǔ)安全……紅色字體:把和應(yīng)用運(yùn)行相關(guān)的要素抽象出來(lái),形成一個(gè)可表達(dá)、可傳播、可共識(shí)的概念,就是AI原生應(yīng)用架AI云原生應(yīng)用架構(gòu)新范式人的思維能力被機(jī)器內(nèi)化智能化范式機(jī)器思考+執(zhí)行,人監(jiān)督智能化范式機(jī)器思考+執(zhí)行,人監(jiān)督解決問(wèn)題的鏈路步驟解決問(wèn)題的鏈路步驟人想清楚,機(jī)器執(zhí)行11意圖與需求解析明確任務(wù)目標(biāo)、理解背景與約束人完全主導(dǎo)人主導(dǎo),系統(tǒng)輔助22解決方案規(guī)劃構(gòu)思達(dá)成目標(biāo)的路徑、邏輯或創(chuàng)意人完全主導(dǎo)智能系統(tǒng)主導(dǎo)規(guī)劃(模型推理),人輔助微調(diào)33執(zhí)行載體構(gòu)建將規(guī)劃轉(zhuǎn)化為可運(yùn)行的形式數(shù)字系統(tǒng)執(zhí)行智能系統(tǒng)自主構(gòu)建+執(zhí)行44運(yùn)行與優(yōu)化迭代系統(tǒng)運(yùn)轉(zhuǎn)并根據(jù)結(jié)果迭代人主導(dǎo)優(yōu)化智能系統(tǒng)自主運(yùn)行+迭代數(shù)字化讓機(jī)器會(huì)執(zhí)行智能化讓機(jī)器會(huì)思考AI云原生應(yīng)用架構(gòu)定義基于模型,Agent驅(qū)動(dòng),以數(shù)據(jù)為中心,整合工具鏈AI原生應(yīng)用架構(gòu)AI原生應(yīng)用架構(gòu)模式Tools泛化(LLM編排)具象(code編排)單單應(yīng)用多應(yīng)用單任務(wù)單Agent單任務(wù)高代碼/零代碼Workflow低代碼/高代碼Workflow低代碼/高代碼高代碼/零代碼AI云原生應(yīng)用架構(gòu)定義云原生+AI原生雙輪驅(qū)動(dòng)手機(jī)APP手機(jī)APP生態(tài)GenUI手機(jī)APP手機(jī)APP生態(tài)GenUI大數(shù)據(jù)(Blink+ES大數(shù)據(jù)(Blink+ES)微服務(wù)3據(jù)AI原生應(yīng)用架構(gòu)(智能化)微服務(wù)1微服務(wù)1微服務(wù)2微服務(wù)2AgentAgentMySQL/Redis/OSS向量數(shù)據(jù)庫(kù)(RAG)CPU(FC)CPU(K8s)大模型(通義大模型(通義…)AI原生應(yīng)用架構(gòu)定義-數(shù)據(jù)飛輪大小飛輪,打磨垂類場(chǎng)景模型的輸出能力《AI原生應(yīng)用架構(gòu)白皮書》開(kāi)放下載20萬(wàn)40+位從傳統(tǒng)應(yīng)用到AI應(yīng)用的一站式托管AunifiedHostingplatformforLegacyandAlApplications盧令阿里云Serverless高級(jí)技術(shù)專家01傳統(tǒng)應(yīng)用運(yùn)維的‘簡(jiǎn)、穩(wěn)、省’優(yōu)化之道02加速AI創(chuàng)新:從快速探索到高效落地AI爆發(fā)進(jìn)行時(shí),投入結(jié)構(gòu)仍失衡AlAdoptionsurges,butInvestmentstructuresRemainImbalancedAIAgents正在獲取和分發(fā)信息機(jī)交互方式變革,簡(jiǎn)化開(kāi)發(fā)流與工作流"菜單式交互界面Agent式交互界面從1990年代到2020年代,展示從網(wǎng)頁(yè)/搜索引擎到社交媒體/電商,再到移動(dòng)應(yīng)用/推薦算法,最終到AIAgents/自動(dòng)化決策的歷程。??合規(guī)與安全顧慮?組織KPI與預(yù)算原因故障遷移凌晨升級(jí)本升級(jí)做預(yù)運(yùn)維培訓(xùn)算庫(kù)存管理AI業(yè)務(wù)學(xué)習(xí)故障遷移凌晨升級(jí)本升級(jí)做預(yù)運(yùn)維培訓(xùn)算庫(kù)存管理AI業(yè)務(wù)學(xué)習(xí)機(jī)器安全成本管理報(bào)警處理AI場(chǎng)景開(kāi)發(fā)發(fā)布策略發(fā)布策略AIAI技術(shù)學(xué)習(xí)AI投入AI投入?直接收益優(yōu)先,短期ROI?數(shù)據(jù)/人才/平臺(tái)能力不足--ServerlessAppEngine(SAE)產(chǎn)品simple:onestopcontainerHosting,simpleroperations0微服務(wù)/單體應(yīng)用無(wú)縫遷移支持代碼代碼改造0微服務(wù)/單體應(yīng)用無(wú)縫遷移支持代碼代碼改造包自動(dòng)構(gòu)建鏡像0使用門檻屏蔽K8s系統(tǒng)復(fù)雜性,沉淀雙十一等多年應(yīng)用經(jīng)驗(yàn),以應(yīng)用維度暴露給業(yè)務(wù)使用方0廠商綁定無(wú)廠商綁定,同時(shí)兼融K8s容器生態(tài),支持Sidecar、Yaml,支持90%運(yùn)維效率自動(dòng)化彈性、全鏈路的無(wú)侵入式業(yè)務(wù)監(jiān)控,和微服務(wù)治理能力業(yè)務(wù)應(yīng)用微服務(wù)應(yīng)用Web應(yīng)用APP小程序SaaS類服務(wù)定時(shí)/xxl業(yè)務(wù)應(yīng)用微服務(wù)應(yīng)用Web應(yīng)用APP小程序SaaS類服務(wù)定時(shí)/xxlJobAIAgent通過(guò)war/jar/phpzip源碼包/Docker鏡像等多種方式部署應(yīng)用管理CICD集成分批/金絲雀發(fā)布 AI應(yīng)用中心自動(dòng)構(gòu)建鏡像權(quán)限隔離/審批生命周期管理運(yùn)維配套自動(dòng)彈性伸縮端云聯(lián)調(diào)一鍵啟停環(huán)境AI智能助手應(yīng)用管理CICD集成分批/金絲雀發(fā)布 AI應(yīng)用中心自動(dòng)構(gòu)建鏡像權(quán)限隔離/審批生命周期管理運(yùn)維配套自動(dòng)彈性伸縮端云聯(lián)調(diào)一鍵啟停環(huán)境AI智能助手IaaS資源層(神龍+ECI+VPC+…)阿里云沙箱容器2.0微服務(wù)治理微服務(wù)治理SpringCloud/Dubbo無(wú)縫遷移微服務(wù)流量灰度無(wú)損上下線限流降級(jí)服務(wù)鑒權(quán)穩(wěn):從架構(gòu)到防護(hù),全程保障線上穩(wěn)定運(yùn)行stable:End-to-EndArchitectureandsecurityforuninterruptedonlineoperations從管控調(diào)度到資源池管理,全面支撐企業(yè)級(jí)容器化應(yīng)用的彈性、韌性與剛性交付架構(gòu)上的高可用設(shè)計(jì)架構(gòu)上的高可用設(shè)計(jì)跨可用區(qū)容災(zāi)+可用區(qū)親和+控制面與數(shù)據(jù)面解耦+彈性上的快速響應(yīng)機(jī)制實(shí)例與按需實(shí)例混合運(yùn)維上的全鏈路可觀測(cè)監(jiān)控+日志+鏈路追蹤+健康檢查流程上的自動(dòng)化保障移動(dòng)應(yīng)用Web應(yīng)用合作伙伴內(nèi)部系統(tǒng)A移動(dòng)應(yīng)用Web應(yīng)用合作伙伴內(nèi)部系統(tǒng)A云原生網(wǎng)關(guān) 管控調(diào)度創(chuàng)建/刪除實(shí)例 資源調(diào)度系統(tǒng)應(yīng)用定時(shí)/自動(dòng)伸縮Agent安全容器實(shí)例Agent安全容器實(shí)例Agen 管控調(diào)度創(chuàng)建/刪除實(shí)例 資源調(diào)度系統(tǒng)應(yīng)用定時(shí)/自動(dòng)伸縮Agent安全容器實(shí)例Agent安全容器實(shí)例AgentAgentECI容器實(shí)例資源池自動(dòng)伸縮ECI容器實(shí)例資源池資源池跨多可用區(qū)裸金屬安全容器資源池ECI彈性資源池注冊(cè)配置中心注冊(cè)配置中心微服務(wù)治理微服務(wù)治理云原生可觀測(cè)云原生可觀測(cè)安全防護(hù)costEfficient:MaximizingResourceutilizationthroughpay-as-you-GO,zeroRedundancy,andoversellingBenefits閑置過(guò)程閑置優(yōu)勢(shì)4vCPU配置規(guī)格閑置過(guò)程閑置優(yōu)勢(shì)4vCPU配置規(guī)格使用量計(jì)費(fèi)成本降低成本降低運(yùn)維增效零運(yùn)維干預(yù)開(kāi)啟閑置能力后,用戶無(wú)需手動(dòng)調(diào)動(dòng)態(tài)釋放的閑置資源,能在感知流量上升的1s內(nèi)按需快速恢復(fù)閑置時(shí)成本20%按秒計(jì)費(fèi),時(shí)間精確到秒,成本極致計(jì)算冷啟動(dòng)和彈性之間的取舍,在預(yù)留小AIIntelligentAssistantsolutionsandcapabilities從基礎(chǔ)問(wèn)答到故障診斷,AI重構(gòu)云原生運(yùn)維流程高覆蓋率的智能診斷覆蓋SAE平臺(tái)95%以上可枚舉問(wèn)題,基于大量數(shù)據(jù)訓(xùn)練,確保診斷高準(zhǔn)確性。特定領(lǐng)域、深耕垂直場(chǎng)景深度聚焦高覆蓋率的智能診斷覆蓋SAE平臺(tái)95%以上可枚舉問(wèn)題,基于大量數(shù)據(jù)訓(xùn)練,確保診斷高準(zhǔn)確性。特定領(lǐng)域、深耕垂直場(chǎng)景深度聚焦SAE平臺(tái)特性,精準(zhǔn)診斷平臺(tái)側(cè)問(wèn)題預(yù)警與自愈AI診斷針對(duì)用戶操作/配置問(wèn)題,輔助用戶優(yōu)化自身使用,平臺(tái)自身故障率降低90%+和優(yōu)化建議,準(zhǔn)確率80%+數(shù)據(jù)來(lái)源:數(shù)據(jù)來(lái)源:Log/Event/Metrics咨詢與故障問(wèn)題診斷咨詢與故障問(wèn)題診斷應(yīng)用資源管理應(yīng)用資源管理數(shù)據(jù)智能洞察數(shù)據(jù)智能洞察基礎(chǔ)知識(shí)問(wèn)答發(fā)布單錯(cuò)誤OOM問(wèn)題診斷跨越Agent生產(chǎn)力鴻溝BridgingtheAgentproductivityGap構(gòu)建智能體核心基礎(chǔ)設(shè)施,全面打通AI應(yīng)用落地最后一公里運(yùn)行時(shí)&沙箱大規(guī)模極速?gòu)椥裕褐胃叨茸兓呢?fù)載長(zhǎng)短期記憶持久的、上下文感知記憶安全合規(guī)細(xì)粒度權(quán)限管理同步和異步通信可觀測(cè)端對(duì)端推理過(guò)程診斷與監(jiān)控成本管理及質(zhì)量評(píng)估函數(shù)計(jì)算AgentRun:AgenticAI應(yīng)用基礎(chǔ)設(shè)施FunctioncomputeAgentRun:AgenticAlApplicationInfrastructure函數(shù)計(jì)算為AgenticAI應(yīng)用提供開(kāi)箱即用的開(kāi)發(fā)、部署與運(yùn)維服務(wù)開(kāi)發(fā)高代碼深度定制,低代碼快速搭建,提升AI應(yīng)用開(kāi)發(fā)效率低代碼高代碼APIAgentScopeA2A協(xié)議AgentScope函數(shù)計(jì)算AgentRun:AgenticAI應(yīng)用基礎(chǔ)設(shè)施FunctioncomputeAgentRun:AgenticAlApplicationInfrastructure函數(shù)計(jì)算為AgenticAI應(yīng)用提供開(kāi)箱即用的開(kāi)發(fā)、部署與運(yùn)維服務(wù)開(kāi)發(fā)部署開(kāi)發(fā)部署流量模型運(yùn)行時(shí)租戶數(shù)據(jù)隔離Sandbox會(huì)話流量模型運(yùn)行時(shí)租戶數(shù)據(jù)隔離Sandbox會(huì)話小參數(shù)大語(yǔ)言模型工具運(yùn)行時(shí)領(lǐng)域模型Agent易受注入攻擊毫秒級(jí)彈性執(zhí)行任務(wù)與拓展功能安全隔離不可預(yù)測(cè)思考與規(guī)劃行動(dòng)親和低代碼高代碼APIAgentScopeA2A協(xié)議AgentScope函數(shù)計(jì)算AgentRun:AgenticAI應(yīng)用基礎(chǔ)設(shè)施FunctioncomputeAgentRun:AgenticAlApplicationInfrastructure函數(shù)計(jì)算為AgenticAI應(yīng)用提供開(kāi)箱即用的開(kāi)發(fā)、部署與運(yùn)維服務(wù)開(kāi)發(fā)部署開(kāi)發(fā)部署運(yùn)維流量模型運(yùn)行時(shí)租戶數(shù)據(jù)隔離Sandbox會(huì)話小參數(shù)大語(yǔ)言模型工具運(yùn)行時(shí)領(lǐng)域模型Agent流量模型運(yùn)行時(shí)租戶數(shù)據(jù)隔離Sandbox會(huì)話小參數(shù)大語(yǔ)言模型工具運(yùn)行時(shí)領(lǐng)域模型Agent易受注入攻擊毫秒級(jí)彈性執(zhí)行任務(wù)與拓展功能安全隔離不可預(yù)測(cè)思考與規(guī)劃行動(dòng)親和模型代理MCP代理Agent代理注冊(cè)發(fā)現(xiàn)AI可觀測(cè)AI全棧監(jiān)控端到端鏈路追蹤成本與質(zhì)量評(píng)估低代碼高代碼APIAgentScopeA2A協(xié)議AgentScope函數(shù)計(jì)算AgentRun:AgenticAI應(yīng)用基礎(chǔ)設(shè)施FunctioncomputeAgentRun:AgenticAlApplicationInfrastructure函數(shù)計(jì)算為AgenticAI應(yīng)用提供開(kāi)箱即用的開(kāi)發(fā)、部署與運(yùn)維服務(wù)開(kāi)發(fā)部署開(kāi)發(fā)部署運(yùn)維流量模型運(yùn)行時(shí)租戶數(shù)據(jù)隔離Sandbox會(huì)話小參數(shù)大語(yǔ)言模型工具運(yùn)行時(shí)領(lǐng)域模型Agent易受注入攻擊毫秒級(jí)彈性執(zhí)行任務(wù)與拓展功能安全隔離不可預(yù)測(cè)思考與規(guī)劃行動(dòng)親和流量模型運(yùn)行時(shí)租戶數(shù)據(jù)隔離Sandbox會(huì)話小參數(shù)大語(yǔ)言模型工具運(yùn)行時(shí)領(lǐng)域模型Agent易受注入攻擊毫秒級(jí)彈性執(zhí)行任務(wù)與拓展功能安全隔離不可預(yù)測(cè)思考與規(guī)劃行動(dòng)親和模型代理MCP代理Agent代理注冊(cè)發(fā)現(xiàn)AI可觀測(cè)AI全棧監(jiān)控端到端鏈路追蹤成本與質(zhì)量評(píng)估低代碼高代碼APIAgentScopeA2A協(xié)議AgentScope模型管理模型管理Agent運(yùn)行時(shí)函數(shù)計(jì)算AgentRun:AgenticAI應(yīng)用基礎(chǔ)設(shè)施FunctioncomputeAgentRun:AgenticAlApplicationInfrastructure函數(shù)計(jì)算為AgenticAI應(yīng)用提供開(kāi)箱即用的開(kāi)發(fā)、部署與運(yùn)維服務(wù)開(kāi)發(fā)部署開(kāi)發(fā)部署運(yùn)維流量模型運(yùn)行時(shí)租戶數(shù)據(jù)隔離Sandbox會(huì)話小參數(shù)大語(yǔ)言模型工具運(yùn)行時(shí)領(lǐng)域模型Agent易受注入攻擊毫秒級(jí)彈性執(zhí)行任務(wù)與拓展功能安全隔離不可預(yù)測(cè)流量模型運(yùn)行時(shí)租戶數(shù)據(jù)隔離Sandbox會(huì)話小參數(shù)大語(yǔ)言模型工具運(yùn)行時(shí)領(lǐng)域模型Agent易受注入攻擊毫秒級(jí)彈性執(zhí)行任務(wù)與拓展功能安全隔離不可預(yù)測(cè)思考與規(guī)劃行動(dòng)親和模型代理MCP代理Agent代理注冊(cè)發(fā)現(xiàn)AI可觀測(cè)AI全棧監(jiān)控端到端鏈路追蹤成本與質(zhì)量評(píng)估低代碼高代碼APIAgentScopeA2A協(xié)議AgentScopeAgent運(yùn)行時(shí)Agent運(yùn)行時(shí)云沙箱模型管理AgentRun智能體運(yùn)行時(shí)&云沙箱AgentRunAgentRuntime&sandbox輕量靈活、安全隔離、極致彈性、精益成本的ServerlessAI運(yùn)行時(shí)AgentRuntime&AgentRuntime&Sandbox輕量化的函數(shù)管理&Session親和與安全AgentRun::RuntimeAgentRun::SandboxAgentAgentToolsToolsComputerComputerServerless冷啟動(dòng)加速Serverless運(yùn)行時(shí)隔離存儲(chǔ)隔離會(huì)話親和內(nèi)置多語(yǔ)言執(zhí)行引擎運(yùn)行時(shí)隔離存儲(chǔ)隔離會(huì)話親和內(nèi)置多語(yǔ)言執(zhí)行引擎細(xì)粒度資源毫秒級(jí)彈性輕量化函數(shù)GPU算力解耦&1/N切分Serverless細(xì)粒度資源毫秒級(jí)彈性輕量化函數(shù)GPU算力解耦&1/N切分基于內(nèi)存快照技術(shù)實(shí)現(xiàn)業(yè)務(wù)真實(shí)負(fù)載的忙閑時(shí)自動(dòng)切換請(qǐng)求感知調(diào)度,毫秒級(jí)CPU實(shí)例&秒級(jí)GPU算力xPUGPU算力xPU算力CPU算力平均TCO連續(xù)三次入圍《ForresterWavem:Serverless連續(xù)三次入圍《ForresterWavem:ServerlessDevelopme亞太區(qū)第一,全球前三Serverless降本提效分AgentRun模型運(yùn)行時(shí)AgentRunModelRuntime請(qǐng)求達(dá)到函數(shù)網(wǎng)關(guān)實(shí)時(shí)監(jiān)控與分析集群負(fù)載③①③②毫秒級(jí)喚醒毫秒級(jí)喚醒優(yōu)先分配請(qǐng)求彈性補(bǔ)充資源AgentRun網(wǎng)關(guān)AgentRunGateway高可用度,并發(fā)控制、token級(jí)和消費(fèi)者級(jí)別限流,容量管理等將模型穩(wěn)定性提升到99.9%以上通義千問(wèn)OpenAIDeepSeekAI開(kāi)發(fā)插件集語(yǔ)義緩存提示詞模板提示詞裝飾器Token限流插件Token配額插件AI安全防護(hù)集成安全護(hù)欄零信任部細(xì)粒度API-key,分配細(xì)粒度權(quán)限,流量,額度集成安全圍欄,解決安全合規(guī)搜索聊天地圖API高可用度,并發(fā)控制、token級(jí)和消費(fèi)者級(jí)別限流,容量管理等將模型穩(wěn)定性提升到99.9%以上通義千問(wèn)OpenAIDeepSeekAI開(kāi)發(fā)插件集語(yǔ)義緩存提示詞模板提示詞裝飾器Token限流插件Token配額插件AI安全防護(hù)集成安全護(hù)欄零信任部細(xì)粒度API-key,分配細(xì)粒度權(quán)限,流量,額度集成安全圍欄,解決安全合規(guī)搜索聊天地圖API多模型適配代理插代理插件協(xié)議轉(zhuǎn)換AI重試重試LLM訪問(wèn)日志Token消費(fèi)觀測(cè)Token消費(fèi)觀測(cè)高性能LLM訪問(wèn)日志Token消費(fèi)觀測(cè)Token消費(fèi)觀測(cè)高性能加速AI請(qǐng)求,降低Token消耗通過(guò)軟硬一體將性能提升300%AgentAgentRunAI統(tǒng)計(jì)插件AgentRunobservability一個(gè)典型的AI原生應(yīng)用全鏈路可觀測(cè)LLM應(yīng)用LLM應(yīng)用LLM應(yīng)用鏈路上下文鏈路上下文鏈路上下文鏈路上下文Dify、鏈路上下文鏈路上下文鏈路上下文鏈路上下文Dify、Langchain、LlamalndexAPI管理AIAPI管理PythonAgent流量防護(hù)Token限流流量防護(hù)Token限流WAF防護(hù)敏感信息過(guò)濾推理加速框架(SGLang/VLLMWAF防護(hù)敏感信息過(guò)濾向量數(shù)據(jù)庫(kù)緩存對(duì)象存儲(chǔ)向量數(shù)據(jù)庫(kù)緩存對(duì)象存儲(chǔ)服務(wù)發(fā)現(xiàn)Cache/RAGAI全棧統(tǒng)一監(jiān)控析、Token成本分析、GPU資源異動(dòng)分析等端到端鏈路追蹤服務(wù)發(fā)現(xiàn)Cache/RAGAI全棧統(tǒng)一監(jiān)控析、Token成本分析、GPU資源異動(dòng)分析等端到端鏈路追蹤基于OpenTelemetryTrace實(shí)現(xiàn)用戶終端、網(wǎng)關(guān)、模型應(yīng)構(gòu)建統(tǒng)一日志分析平臺(tái),對(duì)模型調(diào)用日志進(jìn)行二次評(píng)估分FunctioncomputeAgentRunpractices模型2萬(wàn)+熱門模型一鍵托管到云上環(huán)境開(kāi)箱即用,DevPod二次開(kāi)發(fā),彈性交付GPU,低峰縮0內(nèi)置模型2萬(wàn)+熱門模型一鍵托管到云上環(huán)境開(kāi)箱即用,DevPod二次開(kāi)發(fā),彈性交付GPU,低峰縮0內(nèi)置vLLM/SGLang/Ollama/LMDeploy推理框架最快30s將開(kāi)源模型轉(zhuǎn)化為生產(chǎn)級(jí)OpenAI兼容API工具助力Qwen3-Coder成為領(lǐng)先的代碼模型助力百煉發(fā)布MCPServer市場(chǎng)零改造將開(kāi)源STDIOMCP升級(jí)為SSE/StreamableHTTP原子化解耦,MCPServer冷熱分離,彈性伸縮RT抖動(dòng)少M(fèi)CPSSE親和調(diào)度,閑置計(jì)費(fèi),低峰自動(dòng)縮0成本最優(yōu)某行業(yè)頭部基模廠商智能體智能體打造行業(yè)領(lǐng)先的C端打造行業(yè)領(lǐng)先的C端Agent應(yīng)用50+內(nèi)置多語(yǔ)言運(yùn)行環(huán)境,代碼執(zhí)行延遲<100ms會(huì)話親和/隔離架構(gòu),滿足Agent/Sandbox上下文保持需求零運(yùn)維、毫秒級(jí)彈性、按量付費(fèi)的企業(yè)級(jí)安全沙箱,兼容E2B函數(shù)計(jì)算AgentRun函數(shù)計(jì)算AgentRun構(gòu)建企業(yè)私有化MCP/Agent市場(chǎng)的最佳實(shí)踐阿里云高級(jí)研發(fā)工程師,Higress開(kāi)源社區(qū)Maintainer01Higress:AI時(shí)代的演進(jìn)之路從傳統(tǒng)網(wǎng)關(guān)邁向AI網(wǎng)關(guān)HigressxHiMarket核心原理通過(guò)HigressxHiMarket快速構(gòu)建企業(yè)級(jí)AI市場(chǎng)從傳統(tǒng)網(wǎng)關(guān)邁向AI網(wǎng)關(guān)API-ServerAPI-Server黑白名單黑白名單WAF防護(hù)認(rèn)證鑒權(quán)安全防護(hù)規(guī)則熱更新/多語(yǔ)言插件擴(kuò)展規(guī)則熱更新/多語(yǔ)言插件擴(kuò)展服務(wù)限流服務(wù)限流API限流流量防護(hù)灰度(全鏈路灰度)/藍(lán)綠優(yōu)雅下線/服務(wù)預(yù)熱服務(wù)發(fā)現(xiàn)深度集成函數(shù)計(jì)算FC流量清洗服務(wù)熱更新服務(wù)灰度支持灰度,且支持全鏈路灰度服務(wù)優(yōu)雅上下線服務(wù)下線前提前隔離流量,再停應(yīng)用服務(wù)上線打10%流量預(yù)熱服務(wù)健康檢查APIFirst(前后端分離并發(fā)開(kāi)發(fā))/API防護(hù)(默認(rèn)安全/高可用)/API貨幣化(擴(kuò)大生態(tài)做營(yíng)收)核心優(yōu)勢(shì)智能化核心優(yōu)勢(shì)智能化AI輔助API設(shè)計(jì)AI生成端代碼AI測(cè)試/診斷策略豐富開(kāi)源開(kāi)放開(kāi)源中立APP管理權(quán)限管理額度管理API計(jì)量API計(jì)費(fèi)API防護(hù)(策略管理)安全防護(hù)流控跨域超時(shí)重試重寫API設(shè)計(jì)API文檔APIMock端代碼生成API測(cè)試通義千問(wèn)Google通義千問(wèn)GoogleGemini…….APIAI內(nèi)容審核第三方SaaS服務(wù)AI開(kāi)發(fā)插件集AI安全防護(hù)多模型適配代理插件多APIKey管理可觀測(cè)AI統(tǒng)計(jì)插件LLM訪問(wèn)日志Token消費(fèi)觀測(cè)插件開(kāi)發(fā)工具插件開(kāi)發(fā)工具插件編程AI助手插件代碼WebIDEAI插件提示詞+請(qǐng)求轉(zhuǎn)換AI觀測(cè)通義千問(wèn)GoogleGeminiAI安全防護(hù)AIAI安全防護(hù)AI開(kāi)發(fā)插件集提示詞模板代理代理插件AIAgent多API多APIKey管理支持MCP支持MCP可觀測(cè)第三方MCPServer市場(chǎng)LLM訪問(wèn)日志Token消費(fèi)觀測(cè)插件開(kāi)發(fā)工具企業(yè)級(jí)MCPServer市場(chǎng)插件編程AI助手插件代碼WebIDE插件編程AI助手插件代碼WebIDE多種部署方式的多種部署方式的LLM構(gòu)建AI構(gòu)建AIAgent的兩類方式LLM服務(wù)管理LLM服務(wù)統(tǒng)一管理鑒權(quán)認(rèn)證、安全、限流、聯(lián)網(wǎng)搜索流程式流程式 函數(shù)A- -節(jié)點(diǎn)A節(jié)點(diǎn)C節(jié)點(diǎn)A節(jié)點(diǎn)C編碼式A各類觸發(fā)器OSS觸發(fā)器SLS觸發(fā)器Kafka觸發(fā)器CloudFlow流程編排RocketMQ觸發(fā)器CloudFlow流程編排⑦⑦⑥數(shù)據(jù)服務(wù)服務(wù)商提供定時(shí)觸發(fā)器⑥數(shù)據(jù)服務(wù)服務(wù)商提供①①Serverless應(yīng)用引擎部署Dify基于FC新開(kāi)發(fā)手動(dòng)配置②⑧業(yè)務(wù)功能③Serverless應(yīng)用引擎部署Dify基于FC新開(kāi)發(fā)手動(dòng)配置②⑧業(yè)務(wù)功能③容器服務(wù)ACK部署DifyWebAPP圓API/路由統(tǒng)一管理流量統(tǒng)一管控(轉(zhuǎn)發(fā)、負(fù)載)容器服務(wù)ACK部署DifyWebAPP圓API/路由統(tǒng)一管理流量統(tǒng)一管控(轉(zhuǎn)發(fā)、負(fù)載)鑒權(quán)認(rèn)證、安全、限流作為普通服務(wù)注冊(cè)MCPServer/MCPTool自動(dòng)發(fā)現(xiàn)普通API向MCPTool的協(xié)議轉(zhuǎn)換鑒權(quán)認(rèn)證、安全、緩存普通服務(wù)/MCPServer元數(shù)據(jù)統(tǒng)一管理普通API/MCPTool定義統(tǒng)一管理服務(wù)配置/SystemPrompt安全管理函數(shù)計(jì)算SpringAIAlibaba/LangChain/…傳統(tǒng)現(xiàn)存業(yè)務(wù)現(xiàn)存業(yè)務(wù)A現(xiàn)存業(yè)務(wù)B現(xiàn)存業(yè)務(wù)服務(wù)0代碼改造轉(zhuǎn)換為MCPServerHigressxHiMarket核心原理HigressxHigressxNacos3MCP方案架構(gòu)原理存量業(yè)務(wù)改造痛點(diǎn)存量業(yè)務(wù)改造痛點(diǎn)開(kāi)發(fā)一個(gè)AI應(yīng)用或者做現(xiàn)存業(yè)務(wù)的AI增強(qiáng),AIAgent是需要和大量現(xiàn)存業(yè)務(wù)做交④發(fā)布RemoteMcpServer零代碼轉(zhuǎn)換為MCPServerNacos在傳統(tǒng)微服務(wù)場(chǎng)景下已經(jīng)注冊(cè)了很通過(guò)網(wǎng)關(guān)將注冊(cè)在Nacos中的傳統(tǒng)服務(wù)0代碼改造的轉(zhuǎn)換為MCPServer。④發(fā)布RemoteMcpServer零代碼轉(zhuǎn)換為MCPServerNacos在傳統(tǒng)微服務(wù)場(chǎng)景下已經(jīng)注冊(cè)了很通過(guò)網(wǎng)關(guān)將注冊(cè)在Nacos中的傳統(tǒng)服務(wù)0代碼改造的轉(zhuǎn)換為MCPServer。③注冊(cè)發(fā)現(xiàn)服務(wù)/配置發(fā)起請(qǐng)求②①⑤全生命周期的MCPRegistry管理從后端服務(wù)能力發(fā)布,到生成網(wǎng)關(guān)接入點(diǎn),再到發(fā)布為RemoteMCPServer供AIAgent發(fā)現(xiàn)和接入,實(shí)現(xiàn)了全生命周期新增傳統(tǒng)業(yè)務(wù)的描述信息新增[ServerName]-mcp-tools.json命名規(guī)范的配置文件負(fù)責(zé)協(xié)議轉(zhuǎn)換,將MCP轉(zhuǎn)換為RESTAIAgent后端服務(wù)地圖服務(wù)…企業(yè)現(xiàn)存服務(wù)無(wú)需做任何代碼改動(dòng)opensourceHiMarketAIlopenplatform幫助企業(yè)構(gòu)建AI開(kāi)發(fā)者門戶開(kāi)發(fā)者開(kāi)發(fā)者門戶開(kāi)放平臺(tái)后臺(tái)管理者AI網(wǎng)關(guān)opensourceHiMarketAlopenplatformoverallArchitectureAIAI開(kāi)放平臺(tái)門戶開(kāi)放平臺(tái)門戶Developer注冊(cè)SSO集成Consumer注冊(cè)憑證管理Product開(kāi)放展示/訂閱/調(diào)試Developer注冊(cè)SSO集成Consumer注冊(cè)憑證管理Product開(kāi)放展示/訂閱/調(diào)試觀測(cè)分析Developer維度調(diào)用AI開(kāi)放平臺(tái)后臺(tái)域名/樣式/審批策略API/Document/Policy域名/樣式/審批策略API/Document/PolicyDeveloper/Consumer管理身份認(rèn)證/RBAC/訂閱管理觀測(cè)分析多維度調(diào)用觀測(cè)觀測(cè)分析多維度調(diào)用觀測(cè)AI網(wǎng)關(guān)Model/MCP/Agent開(kāi)源Higress網(wǎng)關(guān)AI網(wǎng)關(guān)Model/MCP/Agent開(kāi)源Higress網(wǎng)關(guān)MCPServerAPI網(wǎng)關(guān)REST/HTTPAPINacosMCP/AgentAI網(wǎng)關(guān)/Nacos基礎(chǔ)設(shè)施:集成與統(tǒng)一管理通過(guò)HigressxHiMarket快速構(gòu)建企業(yè)級(jí)AI市場(chǎng)1標(biāo)準(zhǔn)化服務(wù)元信息通過(guò)自動(dòng)化的元數(shù)據(jù)模板強(qiáng)制執(zhí)行統(tǒng)一的文檔要求2跨團(tuán)隊(duì)可見(jiàn)性器,減少AI項(xiàng)目中的重復(fù)開(kāi)發(fā)工作3自動(dòng)化合規(guī)跟蹤確保個(gè)人信息傳輸合規(guī),尤其出海企業(yè)需要遵循1實(shí)現(xiàn)API和AI的無(wú)縫連接Firecrawl通過(guò)引入MCP協(xié)議,使其網(wǎng)頁(yè)爬取能力能夠被2分層訂閱或按量付費(fèi)3基于Agent實(shí)現(xiàn)API增值多種部署方式的LLM傳統(tǒng)多種部署方式的LLM傳統(tǒng)Java服務(wù)服務(wù)商提供基于基于FC新開(kāi)發(fā)現(xiàn)存業(yè)務(wù)A現(xiàn)存業(yè)務(wù)BHiMarketHiMarketHigressAPI網(wǎng)關(guān)AI網(wǎng)關(guān)私有網(wǎng)關(guān)多種網(wǎng)關(guān)接入方式HiMarket支持自建Higress網(wǎng)關(guān)、阿里云API/AI網(wǎng)關(guān)、阿里云專有云AI網(wǎng)關(guān)多種接入方式,用戶可根據(jù)自身業(yè)務(wù)需求、現(xiàn)有架構(gòu)靈活選擇多種服務(wù)接入點(diǎn)還可以對(duì)門戶的安全策略、可觀測(cè)、開(kāi)發(fā)者等資源進(jìn)行便捷的管理,支持OIDC、OAuth2等安全策略關(guān)聯(lián)API并發(fā)布創(chuàng)建完門戶后,通過(guò)API關(guān)聯(lián)的方式就可以將網(wǎng)關(guān)中的API、切準(zhǔn)備就緒,就可以直接發(fā)布訪問(wèn)門戶綁定的域名,就可以開(kāi)始使通過(guò)將APIs發(fā)布到建API貨幣化和開(kāi)放通過(guò)將MCPServer服務(wù)發(fā)布到門戶可通過(guò)HigressxHiMarket構(gòu)建企業(yè)級(jí)MCP市場(chǎng)模型市場(chǎng)1.網(wǎng)關(guān)模型API接入及產(chǎn)模型市場(chǎng)1.網(wǎng)關(guān)模型API接入及產(chǎn)戶Agent對(duì)外開(kāi)放建計(jì)量計(jì)費(fèi)計(jì)量計(jì)費(fèi)量計(jì)費(fèi)2.計(jì)費(fèi)報(bào)表級(jí)四個(gè)層級(jí)的觀測(cè)大盤/alibaba/higress大模型驅(qū)動(dòng)的可觀測(cè)與AIOps新范式LLM-poweredcloudMonitor2.0&NewparadigmsforAIOPS溫希道阿里云智能集團(tuán)高級(jí)技術(shù)專家大模型時(shí)代:帶來(lái)全新的應(yīng)用形態(tài)和運(yùn)維模式TheLLMEra:NewparadigmsforApplications&operations大量AI應(yīng)用場(chǎng)景涌現(xiàn),疊加可觀測(cè)與AI的結(jié)合,新一輪可觀測(cè)變革正在發(fā)生應(yīng)用復(fù)雜度AI應(yīng)用云原生應(yīng)用分布式應(yīng)用?數(shù)據(jù)庫(kù)AI應(yīng)用云原生應(yīng)用分布式應(yīng)用?數(shù)據(jù)庫(kù)?大模型?訓(xùn)練+推理?微服務(wù)?云服務(wù)?Serverless★★上一輪變革單體應(yīng)用★新一輪變革??基礎(chǔ)架構(gòu)?數(shù)據(jù)庫(kù)AI應(yīng)用可觀測(cè)AI原生應(yīng)用的開(kāi)發(fā)運(yùn)維過(guò)程,與傳統(tǒng)存在顯著差異,并將大規(guī)模爆發(fā),成為主流智能運(yùn)維AIOps大模型與可觀測(cè)深度結(jié)合,將極大提大模型與可觀測(cè)深度結(jié)合,將極大提升運(yùn)維效率和系統(tǒng)智能化水平AIOps即將突破的臨界點(diǎn)AIopsattheTippingpoint智能化生產(chǎn)力AI應(yīng)用云原生應(yīng)用分布式應(yīng)用單體應(yīng)用快速增長(zhǎng)的AI算力有限的人力數(shù)據(jù)算力靈活、彈性、實(shí)時(shí)分析能力模型快速迭代,理解通用運(yùn)行規(guī)律大模型時(shí)代的AIOps面臨的兩大難題如何駕馭海量、異構(gòu)、實(shí)時(shí)的可觀測(cè)數(shù)據(jù)?TWOMajorchallengesforAIopsintheLL如何駕馭海量、異構(gòu)、實(shí)時(shí)的可觀測(cè)數(shù)據(jù)?如何彌合通用大模型與運(yùn)維領(lǐng)域知識(shí)的鴻溝?異構(gòu)系統(tǒng)的孤島困境數(shù)據(jù)割裂分散,大模型查不到、不好查,如同盲人摸象數(shù)據(jù)洪流的承載瓶頸異構(gòu)系統(tǒng)的孤島困境數(shù)據(jù)割裂分散,大模型查不到、不好查,如同盲人摸象數(shù)據(jù)洪流的承載瓶頸數(shù)據(jù)爆炸增長(zhǎng),平臺(tái)存不下、存不起,限制大模型有效發(fā)揮海量數(shù)據(jù)的算力黑洞讓大模型直接處理海量低價(jià)值密度的數(shù)據(jù),無(wú)異于殺雞用牛刀如何駕馭海量、異構(gòu)、實(shí)時(shí)的可觀測(cè)數(shù)據(jù)?可觀測(cè)數(shù)據(jù)平臺(tái):統(tǒng)一接入、加工、存儲(chǔ)observabilityDataplatform:unifiedIngestion,processingsandstorage數(shù)據(jù)接入可觀測(cè)數(shù)據(jù)數(shù)據(jù)接入數(shù)據(jù)加工數(shù)據(jù)存儲(chǔ)全?!?shí)時(shí)·無(wú)侵入數(shù)據(jù)加工數(shù)據(jù)存儲(chǔ)Web/移動(dòng)端AIAI應(yīng)用數(shù)據(jù)規(guī)整數(shù)據(jù)流轉(zhuǎn)全地域覆蓋,跨域跨庫(kù)視圖冷熱多級(jí)存儲(chǔ)全地域覆蓋,跨域跨庫(kù)視圖冷熱多級(jí)存儲(chǔ)服務(wù)端應(yīng)用數(shù)據(jù)富化數(shù)據(jù)過(guò)濾鏈路:數(shù)萬(wàn)億調(diào)用數(shù)據(jù)富化數(shù)據(jù)過(guò)濾數(shù)據(jù)脫敏定時(shí)調(diào)度數(shù)據(jù)脫敏定時(shí)調(diào)度容器:數(shù)百萬(wàn)個(gè)/天任務(wù)狀態(tài)失敗告警任務(wù)狀態(tài)基礎(chǔ)設(shè)施終端:數(shù)億個(gè)/天通用算子×可觀測(cè)數(shù)據(jù)算子:降低海量數(shù)據(jù)的分析難度GeneraloperatorsobservabilityDataoperators:simplifyingLargescaleDataAnalysis針對(duì)不同的可觀測(cè)數(shù)據(jù),提供多種對(duì)應(yīng)的高效算子,把算力消耗下推到底層海量數(shù)據(jù)查詢分析計(jì)算下推通用算子計(jì)算下推計(jì)算下推通用算子可觀測(cè)數(shù)據(jù)算子指標(biāo)數(shù)據(jù)指標(biāo)數(shù)據(jù)異常檢測(cè)時(shí)序預(yù)測(cè)時(shí)序聚類維度下探文本數(shù)據(jù)文本數(shù)據(jù)模版提取模版匹配模版聚類模版比對(duì)鏈路數(shù)據(jù)鏈路數(shù)據(jù)異常分析維度下鉆拓?fù)錁?gòu)造拓?fù)浞治鲂阅芷饰鲂阅芷饰銎款i分析差異分析剖析解讀支持?jǐn)?shù)億次用戶分析任務(wù),綜合降低Token消耗90%+運(yùn)維領(lǐng)域的語(yǔ)義鴻溝聽(tīng)不懂運(yùn)維"黑話",運(yùn)維領(lǐng)域的語(yǔ)義鴻溝聽(tīng)不懂運(yùn)維"黑話",大模型無(wú)法精準(zhǔn)理解,結(jié)果差強(qiáng)人意系統(tǒng)拓?fù)涞恼J(rèn)知迷宮系統(tǒng)間的依賴關(guān)系錯(cuò)綜復(fù)雜,大模型容易只見(jiàn)樹(shù)木不見(jiàn)森林根因分析的邏輯斷鏈數(shù)據(jù)關(guān)系缺失,大模型難以區(qū)分邏輯關(guān)聯(lián),可能推理幻覺(jué)如何彌合通用大模型與運(yùn)維領(lǐng)域知識(shí)的鴻溝?IntroducingtheunifiedModel(UModel)構(gòu)建更易于大模型理解的“數(shù)字孿生”世界可觀測(cè)數(shù)據(jù)建??捎^測(cè)數(shù)據(jù)建模 、 觀測(cè)實(shí)體觀測(cè)數(shù)據(jù)實(shí)體關(guān)聯(lián)觀測(cè)實(shí)體觀測(cè)數(shù)據(jù)實(shí)體關(guān)聯(lián)指標(biāo)集DeploymentNodeCluster應(yīng)用數(shù)據(jù)庫(kù)連接Node指標(biāo)集指標(biāo)集調(diào)用事件集指標(biāo)集DeploymentNodeCluster應(yīng)用數(shù)據(jù)庫(kù)連接Node指標(biāo)集指標(biāo)集調(diào)用事件集鏈路集 可觀測(cè) 基于統(tǒng)一模型(UModel)重構(gòu)可觀測(cè)數(shù)據(jù)RebuildingobservabilityDatawiththeunifiedModel(UModel)應(yīng)用監(jiān)控云產(chǎn)品監(jiān)控容器應(yīng)用監(jiān)控云產(chǎn)品監(jiān)控容器監(jiān)控自動(dòng)構(gòu)建拓?fù)渥詣?dòng)構(gòu)建拓?fù)浣尤霑r(shí)自動(dòng)提取實(shí)體與關(guān)系標(biāo)準(zhǔn)開(kāi)放可擴(kuò)展數(shù)據(jù)知識(shí)行動(dòng)黃金指標(biāo)業(yè)務(wù)標(biāo)簽健康度系統(tǒng)資產(chǎn)重啟配置容量水位運(yùn)維手冊(cè)擴(kuò)容黃金指標(biāo)業(yè)務(wù)標(biāo)簽健康度系統(tǒng)資產(chǎn)重啟配置容量水位運(yùn)維手冊(cè)擴(kuò)容預(yù)案事件集剖析集字段屬性Demo:UModelExplorer&GlobalEntityTopologyDemo:TroubleshootingwiththeEntityTopology智能運(yùn)維助手升級(jí):支持自然語(yǔ)言交互upgradingtheAIOPSAgent:NowwithNaturalLanguageInteraction智能體驅(qū)動(dòng),泛化能力強(qiáng)智能體驅(qū)動(dòng),泛化能力強(qiáng)全場(chǎng)景嵌入,上下文感知全場(chǎng)景嵌入,上下文感知分析定位更精準(zhǔn)依賴內(nèi)置強(qiáng)大算法能力依賴內(nèi)置強(qiáng)大算法能力支持億級(jí)可觀測(cè)數(shù)據(jù)查詢分析基于智能運(yùn)維助手重構(gòu)AIOps核心場(chǎng)景RebuildingcoreAIopsscenarioswiththeA1OPSAgent指標(biāo)分析趨勢(shì)預(yù)測(cè)維度下鉆指標(biāo)分析趨勢(shì)預(yù)測(cè)維度下鉆NL2PromQL智能告警智能告警規(guī)則告警規(guī)則治理告警風(fēng)暴收斂應(yīng)用分析調(diào)用鏈解讀性能剖析解讀JVM性能解讀可視化增強(qiáng)圖表總結(jié)圖表生成動(dòng)態(tài)實(shí)體識(shí)別智能巡檢集群健康巡檢資源水位巡檢安全風(fēng)險(xiǎn)巡檢根因分析影響面分析故障總結(jié)與建議可觀測(cè)算法可觀測(cè)可觀測(cè)算法可觀測(cè)存儲(chǔ)日志指標(biāo)鏈路事件剖析實(shí)體拓?fù)渲悄苓\(yùn)維助手:能力分層TheA1OPSAgent:ALayeredcapabilitystack能力說(shuō)明能力說(shuō)明場(chǎng)景標(biāo)簽健康巡檢具備規(guī)劃和推理能力,能排查復(fù)雜問(wèn)題,給出決策建議容量評(píng)估根因定位根因定位變更分析變更分析數(shù)據(jù)解讀趨勢(shì)預(yù)測(cè)模式分類異常檢測(cè)噪聲抑制支持對(duì)多種可觀測(cè)數(shù)據(jù)的解讀和分析,從海量數(shù)據(jù)中提煉關(guān)鍵信息數(shù)據(jù)解讀趨勢(shì)預(yù)測(cè)模式分類異常檢測(cè)噪聲抑制支持對(duì)多種可觀測(cè)數(shù)據(jù)的解讀和分析,從海量數(shù)據(jù)中提煉關(guān)鍵信息實(shí)體篩查資源盤點(diǎn)實(shí)體篩查資源盤點(diǎn)依賴梳理關(guān)聯(lián)分析基于拓?fù)涓兄獙?shí)體關(guān)系,支持根據(jù)實(shí)體檢索關(guān)聯(lián)的可觀測(cè)數(shù)據(jù)集依賴梳理關(guān)聯(lián)分析智能取數(shù)數(shù)據(jù)審計(jì)溯源取證支持使用自然語(yǔ)言對(duì)日志/時(shí)序庫(kù)的SQL/PromQL生成及原始數(shù)據(jù)查詢智能取數(shù)數(shù)據(jù)審計(jì)溯源取證智能運(yùn)維助手:常見(jiàn)提問(wèn)示例節(jié)點(diǎn)上有幾個(gè)pod在運(yùn)行,平均CPU是多少?這個(gè)k8s集群上部署的節(jié)點(diǎn)上有幾個(gè)pod在運(yùn)行,平均CPU是多少?這個(gè)k8s集群上部署的APM應(yīng)用的錯(cuò)誤率排名?分析應(yīng)用的CPU/內(nèi)存的性能瓶頸在哪里?輔助決策:健康巡檢/根因定位對(duì)k8s集群的進(jìn)行巡檢,關(guān)注組件與資源水位這個(gè)應(yīng)用這個(gè)小時(shí)有請(qǐng)求超時(shí)情況,幫我定位原因?qū)Ρ葢?yīng)用發(fā)布前后,服務(wù)黃金指標(biāo)以及性能基線查詢應(yīng)用上周調(diào)用量并做后續(xù)三天趨勢(shì)預(yù)測(cè)?從內(nèi)存占用維度,檢查哪些pod存在異常?我接入了多少臺(tái)ECS實(shí)例,分別在哪些可用區(qū)?我有幾個(gè)Java應(yīng)用?列出他們的JDK版本?我有哪些實(shí)例系列是高可用類型的RDS?應(yīng)用Xxx依賴了哪些數(shù)據(jù)庫(kù)實(shí)例?Demo:TheAIOPSAgentinActionunlockingAIopscapabilities:The3LayerobservabilityMCPToolkit自然語(yǔ)言詢問(wèn)可觀測(cè)問(wèn)題自然語(yǔ)言SQL查詢自然語(yǔ)言SQL查詢自然語(yǔ)言PromQL查詢實(shí)體檢索實(shí)體檢索/拓?fù)洳樵償?shù)據(jù)集檢索數(shù)據(jù)集檢索日志/指標(biāo)/鏈路/剖析/事件查詢TheobservabilityMCPToolkit:keyusecases能力說(shuō)明具備規(guī)劃和推理能力,能排查復(fù)雜問(wèn)題,給出決策建議支持對(duì)多種可觀測(cè)數(shù)據(jù)的解讀和分析,從海量數(shù)據(jù)中提煉關(guān)鍵信息基于拓?fù)涓兄獙?shí)體關(guān)系,支持根據(jù)實(shí)體檢索關(guān)聯(lián)的可觀測(cè)數(shù)據(jù)集支持使用自然語(yǔ)言對(duì)日志/時(shí)序庫(kù)的SQL/PromQL生成及原始數(shù)據(jù)查詢MCP工具典型場(chǎng)景基于深度洞察的算子,可大幅降低解析數(shù)據(jù)的上下DemoIntro:TheobservabilityMcpinDevopsscenarios代碼倉(cāng)庫(kù)代碼倉(cāng)庫(kù)應(yīng)用人員應(yīng)用應(yīng)用集群鏡像代碼集群鏡像知識(shí)庫(kù)開(kāi)發(fā)/運(yùn)維/排查容器服務(wù)Deployment容器服務(wù)Deployment容器鏡像服務(wù)鏡像倉(cāng)庫(kù)鏡像代碼倉(cāng)庫(kù)發(fā)布流水線研發(fā)域運(yùn)維域研發(fā)域Demo:TheobservabilityMcpinDevopsscenarios代碼修復(fù)代碼修復(fù)Demo:TheobservabilityMcpinDevopsscenarios代碼修復(fù)代碼修復(fù)數(shù)據(jù)庫(kù)可觀測(cè)智能運(yùn)維助手應(yīng)用監(jiān)控用戶體驗(yàn)監(jiān)控可觀測(cè)鏈路OpenTelemetry版AI應(yīng)用可觀測(cè)API接口微服務(wù)應(yīng)用運(yùn)行時(shí)鏈路數(shù)據(jù)接入Web站點(diǎn)數(shù)據(jù)庫(kù)可觀測(cè)智能運(yùn)維助手應(yīng)用監(jiān)控用戶體驗(yàn)監(jiān)控可觀測(cè)鏈路OpenTelemetry版AI應(yīng)用可觀測(cè)API接口微服務(wù)應(yīng)用運(yùn)行時(shí)鏈路數(shù)據(jù)接入Web站點(diǎn)安卓/鴻蒙APP小程序模型服務(wù)與AI網(wǎng)關(guān)質(zhì)量安全評(píng)估全棧智算資源應(yīng)用可觀測(cè)性能測(cè)試PTS云產(chǎn)品監(jiān)控云撥測(cè)可觀測(cè)監(jiān)控Prometheus版性能測(cè)試PTS云產(chǎn)品監(jiān)控云撥測(cè)可觀測(cè)監(jiān)控Prometheus版可觀測(cè)可視化Grafana版中間件性能測(cè)試站點(diǎn)監(jiān)控瀏覽器測(cè)速操作審計(jì)與風(fēng)險(xiǎn)檢測(cè)計(jì)算/網(wǎng)絡(luò)/存儲(chǔ)/中間件/安全/數(shù)據(jù)庫(kù)/大數(shù)據(jù)/人工智能/……生態(tài)商業(yè)托管開(kāi)源Grafana商業(yè)托管統(tǒng)一探針接入管理同一采集類型最多接一次分析、消費(fèi)、投遞支持對(duì)可觀測(cè)數(shù)據(jù)進(jìn)行算法分統(tǒng)一探針接入管理同一采集類型最多接一次分析、消費(fèi)、投遞支持對(duì)可觀測(cè)數(shù)據(jù)進(jìn)行算法分析,洞察數(shù)據(jù)的關(guān)鍵信息自動(dòng)構(gòu)建的可觀測(cè)實(shí)體、實(shí)體關(guān)系與拓?fù)浣y(tǒng)一告警配置,運(yùn)維變更事件集成,通知生成與響應(yīng)處理統(tǒng)一可觀測(cè)大盤,支持導(dǎo)出到數(shù)據(jù)存儲(chǔ)日志指標(biāo)鏈路事件日志指標(biāo)鏈路事件實(shí)體拓?fù)渲芏Y阿里云高級(jí)技術(shù)專家2025/10/30AgentAI架構(gòu)模式02異步化的Multi-Agent01AgenticAI架構(gòu)模式代表技術(shù):GPT4長(zhǎng)上下文、多officeCopilot典型應(yīng)用:簡(jiǎn)單客服、文案生成DeepSeek,自主規(guī)劃、多模態(tài)融合、具身智能、MCP、A2A典型應(yīng)用:人形機(jī)器人、數(shù)字員工2025AgenticAIAgenticAI應(yīng)用vs傳統(tǒng)互聯(lián)網(wǎng)應(yīng)用傳統(tǒng)互聯(lián)網(wǎng)應(yīng)用AgenticAI應(yīng)用集成方式(LLM驅(qū)動(dòng)的決策循環(huán))狀態(tài)短暫或無(wú)狀態(tài)功能靠開(kāi)發(fā)新模塊?業(yè)務(wù)復(fù)雜性?系統(tǒng)的性能瓶頸?可擴(kuò)展性極差?容錯(cuò)能力弱?部署風(fēng)險(xiǎn)高?組織架構(gòu)不匹配?單體局限性?AI工程發(fā)展AgenticAI應(yīng)用vs傳統(tǒng)互聯(lián)網(wǎng)應(yīng)用SupervisorAgent:?主管智能體?

溫馨提示

  • 1. 本站所有資源如無(wú)特殊說(shuō)明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁(yè)內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒(méi)有圖紙預(yù)覽就沒(méi)有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫(kù)網(wǎng)僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。

最新文檔

評(píng)論

0/150

提交評(píng)論