版權說明:本文檔由用戶提供并上傳,收益歸屬內容提供方,若內容存在侵權,請進行舉報或認領
文檔簡介
構建AI原生應用的關鍵要素解讀下載量破萬的《AI原生應用架構白皮書》王晨(望宸)阿里云智能高級技術運營專家《AI原生應用架構白皮書》開放下載20萬40+位AI領域的四大核心賽道通用智能體通用智能體AI客服AI硬件…應用開發(fā)框架存儲安全……紅色字體:把和應用運行相關的要素抽象出來,形成一個可表達、可傳播、可共識的概念,就是AI原生應用架開發(fā)工具鏈的4個發(fā)展階段*確定性基礎開發(fā)框架協(xié)作&工具強化學習模型更加中心化通過模塊化抽象來降低開發(fā)復雜度腦力->行動力數(shù)據(jù)驅動優(yōu)化上下文工程能力內化到跨部門協(xié)作減少人為干預模型側SpringAIAlibaba…FunctionCalling低代碼(Dify、n8n…)Jina.aiClaudeskills2022年-2023年2023年-2024年2024年-2025年2025年10月~*以階段來劃分,是為了更全面的理解開發(fā)工具鏈的發(fā)展歷程,但每個階段的標志性工具并不是迭代和替代關系,而是協(xié)同發(fā)展。開發(fā)工具鏈的4個發(fā)展階段*確定性基礎開發(fā)框架協(xié)作&工具強化學習模型更加中心化通過模塊化抽象來降低開發(fā)復雜度腦力->行動力數(shù)據(jù)驅動優(yōu)化上下文工程能力內化到跨部門協(xié)作減少人為干預模型側SpringAIAlibaba…FunctionCalling低代碼(Dify、n8n…)Jina.aiClaudeskills2022年-2023年2023年-2024年2024年-2025年2025年10月~*以階段來劃分,是為了更全面的理解開發(fā)工具鏈的發(fā)展歷程,但每個階段的標志性工具并不是迭代和替代關系,而是協(xié)同發(fā)展。AI領域的四大核心賽道通用智能體通用智能體AI客服AI硬件…應用開發(fā)框架存儲安全……紅色字體:把和應用運行相關的要素抽象出來,形成一個可表達、可傳播、可共識的概念,就是AI原生應用架AI云原生應用架構新范式人的思維能力被機器內化智能化范式機器思考+執(zhí)行,人監(jiān)督智能化范式機器思考+執(zhí)行,人監(jiān)督解決問題的鏈路步驟解決問題的鏈路步驟人想清楚,機器執(zhí)行11意圖與需求解析明確任務目標、理解背景與約束人完全主導人主導,系統(tǒng)輔助22解決方案規(guī)劃構思達成目標的路徑、邏輯或創(chuàng)意人完全主導智能系統(tǒng)主導規(guī)劃(模型推理),人輔助微調33執(zhí)行載體構建將規(guī)劃轉化為可運行的形式數(shù)字系統(tǒng)執(zhí)行智能系統(tǒng)自主構建+執(zhí)行44運行與優(yōu)化迭代系統(tǒng)運轉并根據(jù)結果迭代人主導優(yōu)化智能系統(tǒng)自主運行+迭代數(shù)字化讓機器會執(zhí)行智能化讓機器會思考AI云原生應用架構定義基于模型,Agent驅動,以數(shù)據(jù)為中心,整合工具鏈AI原生應用架構AI原生應用架構模式Tools泛化(LLM編排)具象(code編排)單單應用多應用單任務單Agent單任務高代碼/零代碼Workflow低代碼/高代碼Workflow低代碼/高代碼高代碼/零代碼AI云原生應用架構定義云原生+AI原生雙輪驅動手機APP手機APP生態(tài)GenUI手機APP手機APP生態(tài)GenUI大數(shù)據(jù)(Blink+ES大數(shù)據(jù)(Blink+ES)微服務3據(jù)AI原生應用架構(智能化)微服務1微服務1微服務2微服務2AgentAgentMySQL/Redis/OSS向量數(shù)據(jù)庫(RAG)CPU(FC)CPU(K8s)大模型(通義大模型(通義…)AI原生應用架構定義-數(shù)據(jù)飛輪大小飛輪,打磨垂類場景模型的輸出能力前沿的AI工程實踐事件驅動重塑AI應用數(shù)據(jù)全鏈路陳濤阿里云智能集團產(chǎn)品專家01AI時代的數(shù)據(jù)準備與處理03數(shù)據(jù)處理ETL如何使用AIAI時代的數(shù)據(jù)準備與處理什么是AI?whatISAI?人工智能(AI)誕生于20世紀50年代,自90年代以來隨著數(shù)據(jù)量的爆發(fā)式增長以及算力的不斷提升,AI被廣泛應用于各行業(yè),為社會帶來巨大機遇。AI提升了企業(yè)的決策效率和精準度,驅動創(chuàng)新,優(yōu)化運營,并助力組織變革和構建競爭優(yōu)勢。麥肯錫調研顯示,2022年全球有50%的公司部署了AI,投資超過總預算的4%。生成式AI(GenAI)的崛起進一步推動了企業(yè)轉型,其在流程優(yōu)化、個性化服務等方面的應用超越了傳統(tǒng)AI。人工智能的發(fā)展歷程,即感知人工智能(PerceptionAI)->生成式人工智能(GenerativeAI)->智能體人工智能(AgenticAI)->具身人工智能(PhysicalAI),代表了人工智能從基本數(shù)據(jù)解讀到復雜的現(xiàn)實世界交互的演進。AgenticAIAgenticAIAI時代的數(shù)據(jù)挑戰(zhàn)與機遇-GenAI演進DatachallengesandopportunitiesintheAIEraGenAIEvolution最初的起點Generation從現(xiàn)在的視角看,可能過于“簡陋”,不過當時大語言模型剛出來的時候,一些基于AILLM能力之上包裝的一些現(xiàn)象級的應用產(chǎn)品,都是使用這么直白的架構,比如文本總結、AI算命、AI情感等,在這個架構下能起到比較大作用的是Prompt的調優(yōu)。GenerationAI時代的數(shù)據(jù)挑戰(zhàn)與機遇-GenAI演進DatachallengesandopportunitiesintheAIEraGenAIEvolutionGenerationGenerationtables,chathistory,vectorDB)(e.g.,vectorsearch,websearch)增強上下文上下文增強主要是解決模型在處理特定問題時的信息補充,在上下文增強上,比較常用的技術是RAG,RAG提供了面向模型輸入Prompt做動態(tài)信息增強的能力。主要用途包括:1.問題域特有信息:比如分析用戶在某個平臺購買喜好時,需要給到一些用戶在該平臺購買的數(shù)據(jù)2.時效信息:比如股票信息,實事新聞等AI時代的數(shù)據(jù)挑戰(zhàn)與機遇-GenAI演進DatachallengesandopportunitiesintheAIEraGenAIEvolutionAgent是在特定環(huán)境下的plan+Cache(ModelcatalogCache(Modelcatalog,accesstokenmanagement,(e.g.,vectorsearch,websearch)Plan說明Agent有思考和規(guī)劃能力,(e.g.,vectorsearch,websearch)CacheCachetables,chathistory,GenerationvectorDB)GenerationScoring?Safety?StructuredoutputsAI時代的數(shù)據(jù)挑戰(zhàn)與機遇–數(shù)據(jù)種類由統(tǒng)一的結構邏輯來表示和存儲的數(shù)據(jù)具有結構化形式,但并不符合數(shù)據(jù)模型結構DatachallengesandopportunitiesintheAIEraTypesofData由統(tǒng)一的結構邏輯來表示和存儲的數(shù)據(jù)具有結構化形式,但并不符合數(shù)據(jù)模型結構無預定義數(shù)據(jù)模型,不可直接用數(shù)據(jù)庫邏輯來表現(xiàn)的數(shù)據(jù)AI時代的數(shù)據(jù)挑戰(zhàn)與機遇–主流數(shù)據(jù)采集網(wǎng)絡數(shù)據(jù)采集系統(tǒng)日志采集更日志、系統(tǒng)運行日志端側數(shù)據(jù)采集物理量Datachallengesandopportunitiesin網(wǎng)絡數(shù)據(jù)采集系統(tǒng)日志采集更日志、系統(tǒng)運行日志端側數(shù)據(jù)采集物理量數(shù)據(jù)庫采集AuditLogsSOC2ComplianceHIPAAComplianceCustomCodeBedrockCustomCodeOpenAICustomCodeOpenAIpython-docxCustomCodecoherecohereCustomCodeCustomCodeChunkingpython-pptxVectorVectorStorage穩(wěn)定性差CustomCustomCustomCodeCustomCodeCustomCodeCustomCodeConnectionsCustomCodeConnectionsEventBridgeStorageVectorStorageStorageEvent&BridgewhatISanEvent?簡單來說,事件就是狀態(tài)的顯著變化,針對當用戶采取特定行動時觸發(fā)或指一切能夠輸入計算機中,且能被處理的符號。以4S店銷售汽車為例:?當客戶購買汽車并且其狀態(tài)從ForSale變?yōu)镾old是一個事件。?成功交易后,從帳戶中扣除金額是一個事件。?單擊預訂試駕后,從將預約信息添加到指定用戶就是一個事件。?用戶資料和預約單本身也可以成為一個事件。Event&BridgewhatISEventBridge?轉換(Transform)事件模式結構化/半結構化數(shù)據(jù)事件模式結構化/半結構化數(shù)據(jù)轉換代碼指定值匹配消息隊列前綴匹配數(shù)據(jù)庫包含匹配調用百煉模型服務,使用API轉換代碼指定值匹配消息隊列前綴匹配數(shù)據(jù)庫包含匹配調用百煉模型服務,使用API多模式匹配結構化/半結構化數(shù)據(jù)對象存儲調用外部API完成數(shù)據(jù)轉換消息隊列數(shù)據(jù)庫API/云產(chǎn)品通知&其他…Event&BridgewhatISEventBridge?事件總線模型經(jīng)典EDA(事件驅動)場景的N:M模型,提供多事件路由,事件匹配,事件轉換等核心能力,幫助您快速搭建事件驅動架構。事件源事件規(guī)則事件源對象存儲事件總線事件總線目標服務事件總線容器服務目標服務事件總線釘釘Event&BridgewhatISEventBridge?事件流模型標準Streaming(1:1)流式處理場景,無總線概念。適用于端到端的數(shù)據(jù)轉儲,數(shù)據(jù)同步及數(shù)據(jù)處理等,幫助您輕松構建云上數(shù)據(jù)管道服務。事件源事件源匹配/轉換事件流匹配/轉換事件流EventBridgeMultisourceRAGcapabilityoverviewStructured?JSON(JSONLoader)?Markdown(UnstructuredMarkdownLoader)?PDF(PyPDFLoader、MathpixPDFLoader、UnstruOtherChunking:ModelScopeJinaMore...MultisourceRAGUnstructuredDataLoader非結構化數(shù)據(jù)結構化數(shù)據(jù)半結構化數(shù)據(jù)非結構化數(shù)據(jù)支持讀取多種非結構化數(shù)據(jù)結構讀取,如TEXT非結構化數(shù)據(jù)結構化數(shù)據(jù)半結構化數(shù)據(jù)非結構化數(shù)據(jù)支持讀取多種非結構化數(shù)據(jù)結構讀取,如TEXT,JSON、XML、YAML、CSV等。兼容主流Loader數(shù)據(jù)處理方式,包括單文檔加載,分塊加載等。結構化數(shù)據(jù)支持讀取多種結構化數(shù)據(jù)源拉取,如Kafka,RocketMQ、SLS、MQTT、數(shù)據(jù)庫等。為客戶提供豐富的數(shù)據(jù)源支持。MultisourceRAGVectorDatabasestorage多種向量數(shù)據(jù)支持多種向量數(shù)據(jù)支持支持專用向量數(shù)據(jù)庫和傳統(tǒng)數(shù)據(jù)庫向量插件等,涵蓋市面主流向量數(shù)據(jù)庫能力,支持一鍵白屏化入庫。userinputSystemuserinput“杭州市西湖區(qū)燈彩街1008號"Province“杭州市西湖區(qū)燈彩街1008號"Province:“浙江”City:“杭州",District:“西湖區(qū)",Street:"燈彩街1008號",ZipCode:”310000"此處省略1000+行…SystemReceivesSystemReceivesuserinputProvince:“浙江”CityProvince:“浙江”City:“杭州",District:“西湖區(qū)",Street:"燈彩街1008號",ZipCode:”310000"SYSTEM:你是一名電商平臺的數(shù)據(jù)工程師,需要處理來自不同渠道的用戶地址信息。希望能在數(shù)據(jù)入倉前,自動將它們標準化為統(tǒng)一的省-市-區(qū)-街道格式,并補全郵政編碼。“杭州市西湖區(qū)三墩鎮(zhèn)燈彩街1008號"實時推理/異步推理能力概述overviewofRealTimeReasoning/AsynchronousReasoningcapabilities……AlertLogSourceFilterTansformSinkSourceAlertLogLLM(Bailian),Qwen,DSLLM(Bailian),Qwen,DSStructuredOutputsStructuredOutputs……實時推理/異步推理-結構化輸出Real-TimeReasoning/AsynchronousReasoningstructuredoutput結構化輸出大型語言模型(LLM)結構化輸出大型語言模型(LLM)的結構化輸出是指讓模型生成特定格式的數(shù)據(jù),而不是自然語言文本。通常,LLMs默認的輸出是非結構化的,例如散文、段落或對話。然而,在很多數(shù)據(jù)處理場景中,我們需要模型能按照預定義的格式(如JSON、XML、YAML、CSV甚至是特定的代碼結構)來輸出信息。EventBridge支持產(chǎn)品化結構輸出,優(yōu)先使用模型JsonSchema能力,當模型原生不支持JsonSchema入?yún)r,通過產(chǎn)品化提示詞注入解決LLM鏈路結構化輸出的問題。這款產(chǎn)品真是太棒了,我非常喜歡它的設計和性能。{"summary":"產(chǎn)品設計和性能出色,客戶非常滿意。"}實時推理/異步推理數(shù)據(jù)應用層使用,通過調用模型推理能力,增強數(shù)據(jù)Transform能力,完成傳統(tǒng)數(shù)據(jù)清洗無法實現(xiàn)的場景訓練數(shù)據(jù)預處理服務于模型訓練場景,為模型訓練提供預處理能力,滿足數(shù)據(jù)集整理訴求增強檢索數(shù)據(jù)入庫RAG通過將不同的數(shù)據(jù)入庫向量數(shù)據(jù)庫,并召回符合的上下文信息喂給模型場景:數(shù)據(jù)預處理(DataPreprocscenario:Datapreprocessing事件源場景描述事件源Transform在數(shù)據(jù)集用于模型訓練前,使用一定方法對數(shù)據(jù)進行處理,以便把數(shù)據(jù)變換成適用于機器學習模型訓練的格式或形式。Transform處理類型:數(shù)據(jù)錯誤,數(shù)據(jù)重復,數(shù)據(jù)缺失,數(shù)據(jù)集不均衡。實現(xiàn)效果工作流CloudFlow場景:檢索增強生成RAG(Retrieval-augmentedGeneration)數(shù)據(jù)入庫scenario:DatastorageofRetrievalAugmentedGeneration(RAG)事件源(OSS,Kafka..)ChunkingChunking場景描述需要處理來自不同渠道的結構化和非結構化數(shù)據(jù),可通過配置事件源和目標服務來完成對RAG鏈路的多源數(shù)據(jù)接入。場景:數(shù)據(jù)清洗與標準化(DataCleansing&Standardization)scenario:Datacleansing&standardization事件源事件源Transform(百煉)AgentAgent 結構化輸出場景描述需要處理來自不同渠道的用戶地址信息,這些地址格式不一、存在錯別字。希望能在數(shù)據(jù)入倉前,自動將它們標準化為統(tǒng)一的省-市-區(qū)-街道格式,并補全郵政編碼。實現(xiàn)效果輸入:["杭州市西湖區(qū)燈彩街1008號"]輸出:Province:“浙江”,City:“杭州",District:“西湖區(qū)",Street:"燈彩街1008號",ZipCode:”310000場景:數(shù)據(jù)富集與打標(DataEnrichment&Tagging)scenario:DataEnrichment&Tagging事件源事件源Transform(百煉)AgentAgent 結構化輸出場景描述需要分析用戶評論的情感傾向,以評估市場活動的效果。希望能在ETL流程中,自動為每一條用戶評論打上“正面”、“負面”或“中性”的情感標簽。實現(xiàn)效果輸入:["這款新手機的拍照功能太驚艷了!"]輸出:Sentiment:"正面",Confidence:0.98scenario:compliance&privacyprotection場景描述事件源確保所有進入分析系統(tǒng)的數(shù)據(jù)都符合GDPR/CCPA規(guī)范,不能包含用戶的個人身份信息(PII)Transform(百煉)。希望在ETL過程中自動識別并脫敏處理文本中的姓名、電話和身Transform(百煉)實現(xiàn)效果Agent輸入:["客戶張三反饋了一個問題..."]Agent輸出:["客戶***(138****5678)反饋了一個問題..."]結構化輸出企業(yè)落地AI應用架構的最短路徑孤弋自主決策的合伙人ReActAgent自主決策的合伙人ReActAgent任務型顧問智慧層人機協(xié)同、輔助決策Agent智慧層人機協(xié)同、輔助決策靜態(tài)知識靜態(tài)知識知識(RAG、圖譜)知識層動態(tài)信息工具(MCP)動態(tài)信息信息層數(shù)字化轉型是“業(yè)務數(shù)據(jù)化”,解決了“看得見”的問題;數(shù)據(jù)層數(shù)智化轉型是“數(shù)據(jù)業(yè)務化”,解決了“看得準、看得遠”的問題。數(shù)據(jù)層AIAgent/APP支付管理Marketplace訂單管理支付管理Marketplace訂單管理商品管理商品詳情API支付詳情API客戶管理商品詳情API支付詳情API客戶管理搜索商品API查詢訂單API客戶信息搜索商品API查詢訂單API客戶信息API開發(fā)者我們是誰:HiMarket是一個AI開開發(fā)者開發(fā)者注冊賬號密碼/OIDC開發(fā)者注冊賬號密碼/OIDC展示/訂閱/調試測試用例生成觀測分析開發(fā)者維度可觀測AI開放平臺門戶開放平臺管理員構建開放平臺管理員域名/審批/樣式AI驅動/千人千面開發(fā)者管理開發(fā)者管理關聯(lián)AI網(wǎng)關實例/文檔管理/策略管理觀測分析AI開放平臺后臺網(wǎng)關管理員支撐網(wǎng)關管理員路由/服務路由/服務/限流/認證AIAPI/MCPServer/限流/認證網(wǎng)關/Nacos鏈接企業(yè)內部最短路徑標準API開放平臺易于企業(yè)定制化快速落地AI應用和驗證鏈接企業(yè)內部最短路徑標準API開放平臺易于企業(yè)定制化快速落地AI應用和驗證企業(yè)級AI接入管理能力AI入口統(tǒng)一AI創(chuàng)新市場AIagentHiMarketAI開放平臺統(tǒng)一AI接入/統(tǒng)一安全監(jiān)管/統(tǒng)一計量計費Model市場/Agent市場API開放平臺HiMarket快速驗證AI場景,便捷結合企業(yè)線上業(yè)務,構建標準化創(chuàng)新平臺歡迎一起來共建~~本,與社區(qū)共同打磨,優(yōu)化體驗Q3:Agent市場Q4:智能API管理加入社區(qū)?我們已經(jīng)準備了一系列goodfirstissue,期待你的第一個PR?堅持代碼結構友好,便于二次開發(fā)與擴展,歡迎fork定制并回饋貢獻,共同完善生態(tài)?歡迎企業(yè)客戶使用,交流需求與場景,助力構建私有化MCP市場宋明強(鳴溯)阿里云智能集團云原生解決方案架構師01從“互聯(lián)網(wǎng)+”到“人工智能+”AI時代將帶來全新的應用形態(tài)和全新的運維模式02云監(jiān)控2.0:全棧智能可觀測平臺03阿里云AI應用可觀測能力建設面向AI應用穩(wěn)定性,全棧智算可觀測助力業(yè)務創(chuàng)新04AI應用可觀測演示交通銀行-姣姣、小姣招商銀行-小招上海銀行-海小智、海小慧浦發(fā)銀行-小浦><小鵬絕影智能汽車平臺senseAuto交通銀行-姣姣、小姣招商銀行-小招上海銀行-海小智、海小慧浦發(fā)銀行-小浦><小鵬絕影智能汽車平臺senseAuto硬件硬件娛樂AI手機AIPCAI眼鏡AI耳機AI玩具AI訊飛曉醫(yī)成交輸入法蜜小語么小畫桌會議助理會議助理正麥耳會記-騰訊會議辦公小浣熊代碼小浣熊ceEeMarscode代碼小浣熊麥芽島WOWWOW有靈智能體AI游戲創(chuàng)作平臺月匣sasaBGM貓erdeepseekP醫(yī)AlHial回xg?臺阿里云百煉平臺HiEcho星火科研助手HiEcho星火科研助手豆包愛學海豚AI學科研論文等小說等休閑文體爸百度APP作家平臺公文、標書等正式文體科研論文等小說等休閑文體爸百度APP作家平臺公文、標書等正式文體以墨狐AI稿易以墨狐AI稿易購光速寫作Esn鳥易撰Esn鳥易撰'秘塔AI搜索'秘塔AI搜索百度文庫AI助手你通義智文wui步通義萬相百度智能云曦靈風平IP智造平臺XEVA臉貓星繪醒藍AI臉貓星繪醒藍AI家居設計海報設計商拍設計家居設計海報設計D.DESIGN堆友I1模袋云Al數(shù)據(jù)來源:InfoQ研究中心根據(jù)新聞、官方公告和文章等公開渠道整理和分析總結應用復雜度?Serverless應用復雜度?Serverless★新一輪變革★★從“互聯(lián)網(wǎng)+”到“人工智能+”,加快推動智能化應用建設及基礎支撐能力保障有明確提及提升安全能力水平,建立健全人工智能技術監(jiān)測、加強前瞻評估和監(jiān)測處置,推動人工智能應用合規(guī)、透明、可信賴?阿里云可觀測團隊深度參與信通院云服務運行安全和可觀測性領域、穩(wěn)定性保障實驗室等相關工作,今年也在推進大模型、智能體運維(AgentOps)等一些標準探討及落地?牽頭并參與國家重點研發(fā)計劃《云原生軟件生態(tài)系統(tǒng)智能化開發(fā)、測試與運維》項目AIOps落地挑戰(zhàn):如何突破數(shù)據(jù)、算力與認知困境系統(tǒng)間的依賴關系錯綜復雜,大模型容易只見樹木不見森林數(shù)據(jù)關系缺失,大模型難以區(qū)分邏輯關聯(lián),可能推理幻覺數(shù)據(jù)割裂分散,大模型查不到、不好查,如同盲人摸象讓大模型直接處理海量低價值密度的數(shù)據(jù),無異于殺雞用牛刀用戶體驗監(jiān)控計算/網(wǎng)絡/存儲/中間件/安全/數(shù)據(jù)庫/大數(shù)據(jù)/人工智能/……可觀測監(jiān)控Prometheus版可觀測可視化Grafana版開源Grafana商業(yè)托管Grafana與Kibana可觀測數(shù)據(jù)平臺:統(tǒng)一接入、加工、存儲與分析數(shù)據(jù)規(guī)整數(shù)據(jù)流轉智能化依賴高質量數(shù)據(jù)并解決產(chǎn)品割裂帶來的孤島問題,在一個平臺進行關聯(lián)和分析,實現(xiàn)主動感知、探索的躍遷數(shù)據(jù)規(guī)整數(shù)據(jù)流轉數(shù)據(jù)統(tǒng)一一站式功能智能分析數(shù)據(jù)統(tǒng)一一站式功能智能分析開箱即用的應用云產(chǎn)品可觀測ARMS全??捎^測ITOps(開發(fā)運維)云產(chǎn)品可觀測ARMS全棧可觀測CloudLensSecOps(安全運維)SIEM對接FinOpsSecOps(安全運維)SIEM對接成本分析可觀測領域全域模型NEW智能化的Ops平臺工具可觀測領域全域模型NEW多種數(shù)據(jù)檢測和處理算法CopilotCopilot輔助數(shù)據(jù)探索處理引擎升級索引查詢分析模式索引查詢分析模式掃描查詢分析模式掃描查詢分析模式物化視圖物化視圖NEWSPLSPL多源聯(lián)數(shù)據(jù)合分析NEW熱存/低頻/歸檔標準型/查詢型數(shù)據(jù)統(tǒng)一建模(UModel)熱存/低頻/歸檔標準型/查詢型數(shù)據(jù)統(tǒng)一建模(UModel)NEW時序引擎2.0時序引擎2.0NEW數(shù)據(jù)采集與管道數(shù)據(jù)寫入處理器采集升級(數(shù)據(jù)寫入處理器采集升級(LoongCollector)NEW新版數(shù)據(jù)加工規(guī)則消費底層存儲升級(默認升級3底層存儲升級(默認升級3AZ)感知層:構建更易于大模型理解的“數(shù)字孿生”世界可觀測數(shù)據(jù)建模實體關聯(lián)觀測實體觀測數(shù)據(jù)實體關聯(lián)觀測實體觀測數(shù)據(jù)指標集 指標集 指標集數(shù)據(jù)庫連接事件集數(shù)據(jù)庫連接事件集 指標集-應用調用 鏈路集→.可觀測UModel基于全棧數(shù)據(jù)圖譜實現(xiàn)復雜問題定位與影響面分析自研AgenticAI設計:多智能體診斷閉環(huán)2)獲取上下文和環(huán)境:order2)獲取上下文和環(huán)境:order-service/近5分鐘/prodDB連接池配置過小導致排隊;建議恢復參數(shù)或關閉新特性。寫入Session,LeadAgent發(fā)起診斷任務AnalysisAnalysis/Evaluate關聯(lián)證據(jù)給出結論與置信度Summarize輸出結論與證據(jù)智能運維助手智能巡檢集群健康巡檢資源水位巡檢安全風險巡檢智能告警智能告警規(guī)則告警規(guī)則治理告警風暴收斂智能巡檢集群健康巡檢資源水位巡檢安全風險巡檢智能告警智能告警規(guī)則告警規(guī)則治理告警風暴收斂應用分析調用鏈解讀性能剖析解讀JVM性能解讀指標分析趨勢預測維度下鉆NL2PromQL可視化增強圖表總結圖表生成動態(tài)實體識別根因分析影響面分析故障總結與建議可觀測可觀測算法異常檢測根因分析智能預測通用算子可觀測可觀測存儲指標鏈路事件剖析實體拓撲智能運維助手:常見提問示例呂呂演示Demo:智能運維助手-容器洞察能力說明輔助輔助具備規(guī)劃和推理能力,能排查復雜問題,給出決策建議支持對多種可觀測數(shù)據(jù)的解讀和分析,從海量數(shù)據(jù)中提煉關鍵信息基于拓撲感知實體關系,支持根據(jù)實體檢索關聯(lián)的可觀測數(shù)據(jù)集支持使用自然語言對日志/時序庫的SQL/PromQL生成及原始數(shù)據(jù)查詢MCP工具典型場景AI全棧統(tǒng)一監(jiān)控模型調用端到端鏈路追蹤模型日志存儲與評估分析?模型調用日志存儲?統(tǒng)一日志分析平臺?基于Prometheus實現(xiàn)前后Web/AndriodAI全棧統(tǒng)一監(jiān)控模型調用端到端鏈路追蹤模型日志存儲與評估分析?模型調用日志存儲?統(tǒng)一日志分析平臺?基于Prometheus實現(xiàn)前后Web/Andriod/ios等RUMSDK托管模型服務LLM應用LLM應用LLM應用LLM應用開發(fā)平臺/編排集成框架Dify/Coze/阿里云百煉/Langchain/LlamalndexPythonAgent鏈路上下文鏈路上下文鏈路上下文鏈路上下文OtelSDKOtelSDK通義千問DeepSeekOpenAIPythonAgent通義千問DeepSeekLlama3推理加速框架(SGLang/VLLM等)PythonAgent向量數(shù)據(jù)庫緩存對象存儲ToolsGPU集群…01用起來01用起來模型推理問題推理性能慢,服務器頻繁超時,慢在哪里?模型輸出的內容是否準確,是否合規(guī)?0202用得省成本問題Token消耗在哪些應用,哪些用戶,哪些部0303用得好數(shù)據(jù)質量問題如何進一步提升數(shù)據(jù)的質量和準確性面向AI應用穩(wěn)定性,全棧智算可觀測助力業(yè)務創(chuàng)
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
- 4. 未經(jīng)權益所有人同意不得將文件中的內容挪作商業(yè)或盈利用途。
- 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內容本身不做任何修改或編輯,并不能對任何下載內容負責。
- 6. 下載文件中如有侵權或不適當內容,請與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
最新文檔
- 2025年長江產(chǎn)業(yè)集團創(chuàng)新投資事業(yè)部一線基金管理團隊社會招聘備考題庫(二)及參考答案詳解1套
- 2025年深圳市南山區(qū)前海時代第二幼兒園招聘備考題庫及完整答案詳解一套
- 2025年上海大學誠聘上海電影學院院長備考題庫及一套答案詳解
- 藍色扁平插畫風科技互聯(lián)網(wǎng)年會盛典模板
- 2025年長江產(chǎn)業(yè)集團創(chuàng)新投資事業(yè)部一線基金管理團隊社會招聘備考題庫(二)及答案詳解參考
- 佛山市南海區(qū)人民醫(yī)院2026年度合同制專業(yè)技術人員(第一批)招聘備考題庫及參考答案詳解1套
- 首都醫(yī)科大學附屬北京胸科醫(yī)院2026年派遣崗位招聘31人備考題庫參考答案詳解
- 2025年中國科協(xié)所屬單位公開招聘應屆高校畢業(yè)生33名備考題庫及1套完整答案詳解
- 豐林縣2025年度公開招聘(編外)醫(yī)生的備考題庫及一套參考答案詳解
- 南京鼓樓醫(yī)院2026年公開招聘衛(wèi)技人員備考題庫含答案詳解
- 規(guī)范使用執(zhí)法記錄儀課件
- 餐廚垃圾高溫好氧堆肥技術方案
- 可轉債券投資協(xié)議書范本
- 非高危行業(yè)主要負責人和安全管理人員試題庫試題及答案
- 六氟磷酸鋰項目可行性建議書-
- 學堂在線 雨課堂 學堂云 海上求生與救生 期末考試答案
- 骨科冰敷健康宣教
- 集團生產(chǎn)會議管理辦法
- 山東省高二物理會考20252025年真題
- 高級英語2 (第四版)張漢熙 練習答案
- 期貨開戶測試題及答案
評論
0/150
提交評論