構建AI原生應用的關鍵要素AI領域的四大核心賽道通用智能體通用智能體AI客服AI硬件…應用開發(fā)框架存儲安全……紅色字體：把和應用運行相關的要素抽象出來，形成一個可表達、可傳播、可共識的概念，就是AI原生應用架開發(fā)工具鏈的4個發(fā)展階段*確定性基礎開發(fā)框架協作&工具強化學習模型更加中心化通過模塊化抽象來降低開發(fā)復雜度腦力->行動力數據驅動優(yōu)化上下文工程能力內化到跨部門協作減少人為干預模型側SpringAIAlibaba…FunctionCalling低代碼(Dify、n8n…)Jina.aiClaudeskills2022年-2023年2023年-2024年2024年-2025年2025年10月~*以階段來劃分，是為了更全面的理解開發(fā)工具鏈的發(fā)展歷程，但每個階段的標志性工具并不是迭代和替代關系，而是協同發(fā)展。開發(fā)工具鏈的4個發(fā)展階段*確定性基礎開發(fā)框架協作&工具強化學習模型更加中心化通過模塊化抽象來降低開發(fā)復雜度腦力->行動力數據驅動優(yōu)化上下文工程能力內化到跨部門協作減少人為干預模型側SpringAIAlibaba…FunctionCalling低代碼(Dify、n8n…)Jina.aiClaudeskills2022年-2023年2023年-2024年2024年-2025年2025年10月~*以階段來劃分，是為了更全面的理解開發(fā)工具鏈的發(fā)展歷程，但每個階段的標志性工具并不是迭代和替代關系，而是協同發(fā)展。AI領域的四大核心賽道通用智能體通用智能體AI客服AI硬件…應用開發(fā)框架存儲安全……紅色字體：把和應用運行相關的要素抽象出來，形成一個可表達、可傳播、可共識的概念，就是AI原生應用架AI云原生應用架構新范式人的思維能力被機器內化智能化范式機器思考+執(zhí)行，人監(jiān)督智能化范式機器思考+執(zhí)行，人監(jiān)督解決問題的鏈路步驟解決問題的鏈路步驟人想清楚，機器執(zhí)行11意圖與需求解析明確任務目標、理解背景與約束人完全主導人主導，系統輔助22解決方案規(guī)劃構思達成目標的路徑、邏輯或創(chuàng)意人完全主導智能系統主導規(guī)劃（模型推理），人輔助微調33執(zhí)行載體構建將規(guī)劃轉化為可運行的形式數字系統執(zhí)行智能系統自主構建+執(zhí)行44運行與優(yōu)化迭代系統運轉并根據結果迭代人主導優(yōu)化智能系統自主運行+迭代數字化讓機器會執(zhí)行智能化讓機器會思考AI云原生應用架構定義基于模型，Agent驅動，以數據為中心，整合工具鏈AI原生應用架構AI原生應用架構模式Tools泛化（LLM編排）具象（code編排）單單應用多應用單任務單Agent單任務高代碼/零代碼Workflow低代碼/高代碼Workflow低代碼/高代碼高代碼/零代碼AI云原生應用架構定義云原生+AI原生雙輪驅動手機APP手機APP生態(tài)GenUI手機APP手機APP生態(tài)GenUI大數據（Blink+ES大數據（Blink+ES）微服務3據AI原生應用架構（智能化）微服務1微服務1微服務2微服務2AgentAgentMySQL/Redis/OSS向量數據庫（RAG）CPU（FC）CPU（K8s）大模型（通義大模型（通義…）AI原生應用架構定義-數據飛輪大小飛輪，打磨垂類場景模型的輸出能力前沿的AI工程實踐事件驅動重塑AI應用數據全鏈路陳濤阿里云智能集團產品專家01AI時代的數據準備與處理03數據處理ETL如何使用AIAI時代的數據準備與處理什么是AI？whatISAI?人工智能（AI）誕生于20世紀50年代，自90年代以來隨著數據量的爆發(fā)式增長以及算力的不斷提升，AI被廣泛應用于各行業(yè)，為社會帶來巨大機遇。AI提升了企業(yè)的決策效率和精準度，驅動創(chuàng)新，優(yōu)化運營，并助力組織變革和構建競爭優(yōu)勢。麥肯錫調研顯示，2022年全球有50%的公司部署了AI，投資超過總預算的4%。生成式AI（GenAI）的崛起進一步推動了企業(yè)轉型，其在流程優(yōu)化、個性化服務等方面的應用超越了傳統AI。人工智能的發(fā)展歷程，即感知人工智能（PerceptionAI）->生成式人工智能（GenerativeAI）->智能體人工智能（AgenticAI）->具身人工智能(PhysicalAI），代表了人工智能從基本數據解讀到復雜的現實世界交互的演進。AgenticAIAgenticAIAI時代的數據挑戰(zhàn)與機遇-GenAI演進DatachallengesandopportunitiesintheAIEraGenAIEvolution最初的起點Generation從現在的視角看，可能過于“簡陋”，不過當時大語言模型剛出來的時候，一些基于AILLM能力之上包裝的一些現象級的應用產品，都是使用這么直白的架構，比如文本總結、AI算命、AI情感等，在這個架構下能起到比較大作用的是Prompt的調優(yōu)。GenerationAI時代的數據挑戰(zhàn)與機遇-GenAI演進DatachallengesandopportunitiesintheAIEraGenAIEvolutionGenerationGenerationtables,chathistory,vectorDB)(e.g.,vectorsearch,websearch)增強上下文上下文增強主要是解決模型在處理特定問題時的信息補充，在上下文增強上，比較常用的技術是RAG，RAG提供了面向模型輸入Prompt做動態(tài)信息增強的能力。主要用途包括：1.問題域特有信息：比如分析用戶在某個平臺購買喜好時，需要給到一些用戶在該平臺購買的數據2.時效信息：比如股票信息，實事新聞等AI時代的數據挑戰(zhàn)與機遇-GenAI演進DatachallengesandopportunitiesintheAIEraGenAIEvolutionAgent是在特定環(huán)境下的plan+Cache(ModelcatalogCache(Modelcatalog,accesstokenmanagement,(e.g.,vectorsearch,websearch)Plan說明Agent有思考和規(guī)劃能力，(e.g.,vectorsearch,websearch)CacheCachetables,chathistory,GenerationvectorDB)GenerationScoring?Safety?StructuredoutputsAI時代的數據挑戰(zhàn)與機遇–數據種類由統一的結構邏輯來表示和存儲的數據具有結構化形式，但并不符合數據模型結構DatachallengesandopportunitiesintheAIEraTypesofData由統一的結構邏輯來表示和存儲的數據具有結構化形式，但并不符合數據模型結構無預定義數據模型，不可直接用數據庫邏輯來表現的數據AI時代的數據挑戰(zhàn)與機遇–主流數據采集網絡數據采集系統日志采集更日志、系統運行日志端側數據采集網絡數據采集系統日志采集更日志、系統運行日志端側數據采集物理量數據庫采集AuditLogsSOC2ComplianceHIPAAComplianceCustomCodeBedrockCustomCodeOpenAICustomCodeOpenAIpython-docxCustomCodecoherecohereCustomCodeCustomCodeChunkingpython-pptxVectorVectorStorage穩(wěn)定性差CustomCustomCustomCodeCustomCodeCustomCodeCustomCodeConnectionsCustomCodeConnectionsEventBridgeStorageVectorStorageStorageEvent&BridgewhatISanEvent?簡單來說，事件就是狀態(tài)的顯著變化，針對當用戶采取特定行動時觸發(fā)或指一切能夠輸入計算機中，且能被處理的符號。以4S店銷售汽車為例：?當客戶購買汽車并且其狀態(tài)從ForSale變?yōu)镾old是一個事件。?成功交易后，從帳戶中扣除金額是一個事件。?單擊預訂試駕后，從將預約信息添加到指定用戶就是一個事件。?用戶資料和預約單本身也可以成為一個事件。Event&BridgewhatISEventBridge?轉換（Transform）事件模式結構化/半結構化數據事件模式結構化/半結構化數據轉換代碼指定值匹配消息隊列前綴匹配數據庫包含匹配調用百煉模型服務，使用API轉換代碼指定值匹配消息隊列前綴匹配數據庫包含匹配調用百煉模型服務，使用API多模式匹配結構化/半結構化數據對象存儲調用外部API完成數據轉換消息隊列數據庫API/云產品通知&其他…Event&BridgewhatISEventBridge?事件總線模型經典EDA（事件驅動）場景的N：M模型，提供多事件路由，事件匹配，事件轉換等核心能力，幫助您快速搭建事件驅動架構。事件源事件規(guī)則事件源對象存儲事件總線事件總線目標服務事件總線容器服務目標服務事件總線釘釘Event&BridgewhatISEventBridge?事件流模型標準Streaming（1:1）流式處理場景，無總線概念。適用于端到端的數據轉儲，數據同步及數據處理等，幫助您輕松構建云上數據管道服務。事件源事件源匹配/轉換事件流匹配/轉換事件流EventBridgeMultisourceRAGcapabilityoverviewStructured?JSON(JSONLoader)?Markdown(UnstructuredMarkdownLoader)?PDF(PyPDFLoader、MathpixPDFLoader、UnstruOtherChunking：ModelScopeJinaMore...MultisourceRAGUnstructuredDataLoader非結構化數據結構化數據半結構化數據非結構化數據支持讀取多種非結構化數據結構讀取，如TEXT非結構化數據結構化數據半結構化數據非結構化數據支持讀取多種非結構化數據結構讀取，如TEXT，JSON、XML、YAML、CSV等。兼容主流Loader數據處理方式，包括單文檔加載，分塊加載等。結構化數據支持讀取多種結構化數據源拉取，如Kafka，RocketMQ、SLS、MQTT、數據庫等。為客戶提供豐富的數據源支持。MultisourceRAGVectorDatabasestorage多種向量數據支持多種向量數據支持支持專用向量數據庫和傳統數據庫向量插件等，涵蓋市面主流向量數據庫能力，支持一鍵白屏化入庫。userinputSystemuserinput“杭州市西湖區(qū)燈彩街1008號"Province“杭州市西湖區(qū)燈彩街1008號"Province:“浙江”City:“杭州",District:“西湖區(qū)",Street:"燈彩街1008號",ZipCode:”310000"此處省略1000+行…SystemReceivesSystemReceivesuserinputProvince:“浙江”CityProvince:“浙江”City:“杭州",District:“西湖區(qū)",Street:"燈彩街1008號",ZipCode:”310000"SYSTEM：你是一名電商平臺的數據工程師，需要處理來自不同渠道的用戶地址信息。希望能在數據入倉前，自動將它們標準化為統一的省-市-區(qū)-街道格式，并補全郵政編碼?！昂贾菔形骱^(qū)三墩鎮(zhèn)燈彩街1008號"實時推理/異步推理能力概述overviewofRealTimeReasoning/AsynchronousReasoningcapabilities……AlertLogSourceFilterTansformSinkSourceAlertLogLLM(Bailian),Qwen,DSLLM(Bailian),Qwen,DSStructuredOutputsStructuredOutputs……實時推理/異步推理-結構化輸出Real-TimeReasoning/AsynchronousReasoningstructuredoutput結構化輸出大型語言模型(LLM)結構化輸出大型語言模型(LLM)的結構化輸出是指讓模型生成特定格式的數據，而不是自然語言文本。通常，LLMs默認的輸出是非結構化的，例如散文、段落或對話。然而，在很多數據處理場景中，我們需要模型能按照預定義的格式（如JSON、XML、YAML、CSV甚至是特定的代碼結構）來輸出信息。EventBridge支持產品化結構輸出，優(yōu)先使用模型JsonSchema能力，當模型原生不支持JsonSchema入參時，通過產品化提示詞注入解決LLM鏈路結構化輸出的問題。這款產品真是太棒了，我非常喜歡它的設計和性能。{"summary":"產品設計和性能出色，客戶非常滿意。"}實時推理/異步推理數據應用層使用，通過調用模型推理能力，增強數據Transform能力，完成傳統數據清洗無法實現的場景訓練數據預處理服務于模型訓練場景，為模型訓練提供預處理能力，滿足數據集整理訴求增強檢索數據入庫RAG通過將不同的數據入庫向量數據庫，并召回符合的上下文信息喂給模型場景：數據預處理(DataPreprocscenario:Datapreprocessing事件源場景描述事件源Transform在數據集用于模型訓練前，使用一定方法對數據進行處理，以便把數據變換成適用于機器學習模型訓練的格式或形式。Transform處理類型：數據錯誤，數據重復，數據缺失，數據集不均衡。實現效果工作流CloudFlow場景：檢索增強生成RAG(Retrieval-augmentedGeneration)數據入庫scenario:DatastorageofRetrievalAugmentedGeneration(RAG)事件源（OSS,Kafka..）ChunkingChunking場景描述需要處理來自不同渠道的結構化和非結構化數據，可通過配置事件源和目標服務來完成對RAG鏈路的多源數據接入。場景：數據清洗與標準化(DataCleansing&Standardization)scenario:Datacleansing&standardization事件源事件源Transform(百煉)AgentAgent 結構化輸出場景描述需要處理來自不同渠道的用戶地址信息，這些地址格式不一、存在錯別字。希望能在數據入倉前,自動將它們標準化為統一的省-市-區(qū)-街道格式，并補全郵政編碼。實現效果輸入：["杭州市西湖區(qū)燈彩街1008號"]輸出：Province:“浙江”,City:“杭州",District:“西湖區(qū)",Street:"燈彩街1008號",ZipCode:”310000場景：數據富集與打標(DataEnrichment&Tagging)scenario:DataEnrichment&Tagging事件源事件源Transform(百煉)AgentAgent 結構化輸出場景描述需要分析用戶評論的情感傾向，以評估市場活動的效果。希望能在ETL流程中，自動為每一條用戶評論打上“正面”、“負面”或“中性”的情感標簽。實現效果輸入：["這款新手機的拍照功能太驚艷了！"]輸出：Sentiment:"正面",Confidence:0.98scenario:compliance&privacyprotection場景描述事件源確保所有進入分析系統的數據都符合GDPR/CCPA規(guī)范，不能包含用戶的個人身份信息（PII）Transform(百煉)。希望在ETL過程中自動識別并脫敏處理文本中的姓名、電話和身Transform(百煉)實現效果Agent輸入：["客戶張三反饋了一個問題..."]Agent輸出：["客戶***（138****5678）反饋了一個問題..."]結構化輸出企業(yè)落地AI應用架構的最短路徑孤弋自主決策的合伙人ReActAgent自主決策的合伙人ReActAgent任務型顧問智慧層人機協同、輔助決策Agent智慧層人機協同、輔助決策靜態(tài)知識靜態(tài)知識知識(RAG、圖譜)知識層動態(tài)信息工具(MCP)動態(tài)信息信息層數字化轉型是“業(yè)務數據化”，解決了“看得見”的問題；數據層數智化轉型是“數據業(yè)務化”，解決了“看得準、看得遠”的問題。數據層AIAgent/APP支付管理Marketplace訂單管理支付管理Marketplace訂單管理商品管理商品詳情API支付詳情API客戶管理商品詳情API支付詳情API客戶管理搜索商品API查詢訂單API客戶信息搜索商品API查詢訂單API客戶信息API開發(fā)者我們是誰：HiMarket是一個AI開開發(fā)者開發(fā)者注冊賬號密碼/OIDC開發(fā)者注冊賬號密碼/OIDC展示/訂閱/調試測試用例生成觀測分析開發(fā)者維度可觀測AI開放平臺門戶開放平臺管理員構建開放平臺管理員域名/審批/樣式AI驅動/千人千面開發(fā)者管理開發(fā)者管理關聯AI網關實例/文檔管理/策略管理觀測分析AI開放平臺后臺網關管理員支撐網關管理員路由/服務路由/服務/限流/認證AIAPI/MCPServer/限流/認證網關/Nacos鏈接企業(yè)內部最短路徑標準API開放平臺易于企業(yè)定制化快速落地AI應用和驗證鏈接企業(yè)內部最短路徑標準API開放平臺易于企業(yè)定制化快速落地AI應用和驗證企業(yè)級AI接入管理能力AI入口統一AI創(chuàng)新市場AIagentHiMarketAI開放平臺統一AI接入/統一安全監(jiān)管/統一計量計費Model市場/Agent市場API開放平臺HiMarket快速驗證AI場景，便捷結合企業(yè)線上業(yè)務，構建標準化創(chuàng)新平臺歡迎一起來共建~~本，與社區(qū)共同打磨，優(yōu)化體驗Q3：Agent市場Q4：智能API管理加入社區(qū)?我們已經準備了一系列goodfirstissue，期待你的第一個PR?堅持代碼結構友好，便于二次開發(fā)與擴展，歡迎fork定制并回饋貢獻，共同完善生態(tài)?歡迎企業(yè)客戶使用，交流需求與場景，助力構建私有化MCP市場宋明強（鳴溯）阿里云智能集團云原生解決方案架構師01從“互聯網+”到“人工智能+”AI時代將帶來全新的應用形態(tài)和全新的運維模式02云監(jiān)控2.0:全棧智能可觀測平臺03阿里云AI應用可觀測能力建設面向AI應用穩(wěn)定性，全棧智算可觀測助力業(yè)務創(chuàng)新04AI應用可觀測演示交通銀行-姣姣、小姣招商銀行-小招上海銀行-海小智、海小慧浦發(fā)銀行-小浦><小鵬絕影智能汽車平臺senseAuto交通銀行-姣姣、小姣招商銀行-小招上海銀行-海小智、海小慧浦發(fā)銀行-小浦><小鵬絕影智能汽車平臺senseAuto硬件硬件娛樂AI手機AIPCAI眼鏡AI耳機AI玩具AI訊飛曉醫(yī)成交輸入法蜜小語么小畫桌會議助理會議助理正麥耳會記-騰訊會議辦公小浣熊代碼小浣熊ceEeMarscode代碼小浣熊麥芽島WOWWOW有靈智能體AI游戲創(chuàng)作平臺月匣sasaBGM貓erdeepseekP醫(yī)AlHial回xg?臺阿里云百煉平臺HiEcho星火科研助手HiEcho星火科研助手豆包愛學海豚AI學科研論文等小說等休閑文體爸百度APP作家平臺公文、標書等正式文體科研論文等小說等休閑文體爸百度APP作家平臺公文、標書等正式文體以墨狐AI稿易以墨狐AI稿易購光速寫作Esn鳥易撰Esn鳥易撰'秘塔AI搜索'秘塔AI搜索百度文庫AI助手你通義智文wui步通義萬相百度智能云曦靈風平IP智造平臺XEVA臉貓星繪醒藍AI臉貓星繪醒藍AI家居設計海報設計商拍設計家居設計海報設計D.DESIGN堆友I1模袋云Al數據來源：InfoQ研究中心根據新聞、官方公告和文章等公開渠道整理和分析總結應用復雜度?Serverless應用復雜度?Serverless★新一輪變革★★從“互聯網+”到“人工智能+”，加快推動智能化應用建設及基礎支撐能力保障有明確提及提升安全能力水平，建立健全人工智能技術監(jiān)測、加強前瞻評估和監(jiān)測處置，推動人工智能應用合規(guī)、透明、可信賴?阿里云可觀測團隊深度參與信通院云服務運行安全和可觀測性領域、穩(wěn)定性保障實驗室等相關工作，今年也在推進大模型、智能體運維（AgentOps）等一些標準探討及落地?牽頭并參與國家重點研發(fā)計劃《云原生軟件生態(tài)系統智能化開發(fā)、測試與運維》項目AIOps落地挑戰(zhàn)：如何突破數據、算力與認知困境系統間的依賴關系錯綜復雜,大模型容易只見樹木不見森林數據關系缺失,大模型難以區(qū)分邏輯關聯,可能推理幻覺數據割裂分散,大模型查不到、不好查,如同盲人摸象讓大模型直接處理海量低價值密度的數據,無異于殺雞用牛刀用戶體驗監(jiān)控計算/網絡/存儲/中間件/安全/數據庫/大數據/人工智能/……可觀測監(jiān)控Prometheus版可觀測可視化Grafana版開源Grafana商業(yè)托管Grafana與Kibana可觀測數據平臺：統一接入、加工、存儲與分析數據規(guī)整數據流轉智能化依賴高質量數據并解決產品割裂帶來的孤島問題，在一個平臺進行關聯和分析，實現主動感知、探索的躍遷數據規(guī)整數據流轉數據統一一站式功能智能分析數據統一一站式功能智能分析開箱即用的應用云產品可觀測ARMS全?？捎^測ITOps(開發(fā)運維)云產品可觀測ARMS全?？捎^測CloudLensSecOps(安全運維)SIEM對接FinOpsSecOps(安全運維)SIEM對接成本分析可觀測領域全域模型NEW智能化的Ops平臺工具可觀測領域全域模型NEW多種數據檢測和處理算法CopilotCopilot輔助數據探索處理引擎升級索引查詢分析模式索引查詢分析模式掃描查詢分析模式掃描查詢分析模式物化視圖物化視圖NEWSPLSPL多源聯數據合分析NEW熱存/低頻/歸檔標準型/查詢型數據統一建模（UModel）熱存/低頻/歸檔標準型/查詢型數據統一建模（UModel）NEW時序引擎2.0時序引擎2.0NEW數據采集與管道數據寫入處理器采集升級（數據寫入處理器采集升級（LoongCollector）NEW新版數據加工規(guī)則消費底層存儲升級（默認升級3底層存儲升級（默認升級3AZ）感知層：構建更易于大模型理解的“數字孿生”世界可觀測數據建模實體關聯觀測實體觀測數據實體關聯觀測實體觀測數據指標集 指標集 指標集數據庫連接事件集數據庫連接事件集 指標集-應用調用 鏈路集→.可觀測UModel基于全棧數據圖譜實現復雜問題定位與影響面分析自研AgenticAI設計：多智能體診斷閉環(huán)2）獲取上下文和環(huán)境：order2）獲取上下文和環(huán)境：order-service/近5分鐘/prodDB連接池配置過小導致排隊；建議恢復參數或關閉新特性。寫入Session,LeadAgent發(fā)起診斷任務Analysis/Analysis/Evaluate關聯證據給出結論與置信度Summarize輸出結論與證據智能運維助手智能巡檢集群健康巡檢資源水位巡檢安全風險巡檢智能告警智能告警規(guī)則告警規(guī)則治理告警風暴收斂智能巡檢集群健康巡檢資源水位巡檢安全風險巡檢智能告警智能告警規(guī)則告警規(guī)則治理告警風暴收斂應用分析調用鏈解讀性能剖析解讀JVM性能解讀指標分析趨勢預測維度下鉆NL2PromQL可視化增強圖表總結圖表生成動態(tài)實體識別根因分析影響面分析故障總結與建議可觀測可觀測算法異常檢測根因分析智能預測通用算子可觀測可觀測存儲指標鏈路事件剖析實體拓撲智能運維助手：常見提問示例呂呂演示Demo：智能運維助手-容器洞察能力說明輔助輔助具備規(guī)劃和推理能力，能排查復雜問題，給出決策建議支持對多種可觀測數據的解讀和分析，從海量數據中提煉關鍵信息基于拓撲感知實體關系，支持根據實體檢索關聯的可觀測數據集支持使用自然語言對日志/時序庫的SQL/PromQL生成及原始數據查詢MCP工具典型場景AI全棧統一監(jiān)控模型調用端到端鏈路追蹤模型日志存儲與評估分析?模型調用日志存儲?統一日志分析平臺?基于Prometheus實現前后Web/Andriod/iosAI全棧統一監(jiān)控模型調用端到端鏈路追蹤模型日志存儲與評估分析?模型調用日志存儲?統一日志分析平臺?基于Prometheus實現前后Web/Andriod/ios等RUMSDK托管模型服務LLM應用LLM應用LLM應用LLM應用開發(fā)平臺/編排集成框架Dify/Coze/阿里云百煉/Langchain/LlamalndexPythonAgent鏈路上下文鏈路上下文鏈路上下文鏈路上下文OtelSDKOtelSDK通義千問DeepSeekOpenAIPythonAgent通義千問DeepSeekLlama3推理加速框架（SGLang/VLLM等）PythonAgent向量數據庫緩存對象存儲ToolsGPU集群…01用起來01用起來模型推理問題推理性能慢，服務器頻繁超時，慢在哪里？模型輸出的內容是否準確，是否合規(guī)？0202用得省成本問題Token消耗在哪些應用，哪些用戶，哪些部0303用得好數據質量問題如何進一步提升數據的質量和準確性面向AI應用穩(wěn)定性，全棧智算可觀測助力業(yè)務創(chuàng)新面向AI應用，可