AI原生應(yīng)用開發(fā)最佳實(shí)踐從企業(yè)級(jí)生產(chǎn)痛點(diǎn)到解決方案探索2026/01/13AICoding：需求、產(chǎn)品設(shè)計(jì)、開發(fā)、測(cè)試全流程演進(jìn)AIOps：運(yùn)維關(guān)注度高，期望能輔助資源管理、快速定位系統(tǒng)問(wèn)題（Infraor業(yè)務(wù)）并給住自愈方案，甚至自動(dòng)化自愈內(nèi)部工具：BI助手、內(nèi)外小密、會(huì)議助手…汽車出行：智駕訓(xùn)練、座艙推理（ASR、TTS、知識(shí)庫(kù)）、市場(chǎng)營(yíng)銷（AIGC）、汽車設(shè)計(jì)（AIGC）具身智能：大腦、小腦訓(xùn)練，部分云端推理（LLM、TTS等AI玩具（類具身智能ASR+LLM+TTS+MCP）互娛游戲：搜索推薦、情感陪聊、AIGC-生圖/視頻/音樂(lè)、視頻剪輯、智能客服（Chat、語(yǔ)音）、AI網(wǎng)劇教育：虛擬老師、作業(yè)批改、答題輔助、AI編程互聯(lián)網(wǎng)-工具：基模公司-通用Agent、機(jī)器人外呼零售：智能選品、市場(chǎng)營(yíng)銷、AIGC-商品圖合成/模特?fù)Q裝/輔助設(shè)計(jì)、智能客服泛企業(yè)：豐富的垂類Agent，如智能眼鏡、智能音響、合同審核、商標(biāo)查詢、建筑報(bào)告…醫(yī)療健康、生物醫(yī)藥、法律咨詢、物流…CONTENTAI原生、Agent驅(qū)動(dòng)了解現(xiàn)狀，直面行業(yè)挑戰(zhàn)，誕生AI原生應(yīng)用架構(gòu)和《AI原生應(yīng)用白皮書》為AI而進(jìn)化的基礎(chǔ)設(shè)施AI網(wǎng)關(guān)、AI原生應(yīng)用開發(fā)框架、上下文工程、AI工具、AI應(yīng)用運(yùn)行時(shí)、AI可觀測(cè)、AI評(píng)估、AI安全案例場(chǎng)景與最佳實(shí)踐大規(guī)模生成使用的AI案例幾分鐘就能生成高質(zhì)量?jī)?nèi)容？幾分鐘就能生成高質(zhì)量?jī)?nèi)容？ 在AI領(lǐng)域已經(jīng)積累什么經(jīng)驗(yàn)？ 得最麻煩的是什么？AI原生應(yīng)用白皮書背景行業(yè)報(bào)告?據(jù)MarketsandMarkets預(yù)測(cè)，全球AIAgent市場(chǎng)規(guī)模將從2024年的51億美元增至2030年的471億美元，年復(fù)合增長(zhǎng)率達(dá)44.8%；Gartner預(yù)計(jì)，到2028年，至少15%的日常工作決策將通過(guò)AIAgent自主完成。?《國(guó)務(wù)院關(guān)于深入實(shí)施“人工智能+”行動(dòng)的意見》到2030年，智能體等應(yīng)用普及率超90%。改變世界機(jī)器人（改變世界機(jī)器人（PhysicalAI)具身智能/自進(jìn)化/腦機(jī)接口接管數(shù)字世界APP(AgenticAl)私域數(shù)據(jù)/Tools/場(chǎng)景模型性能突破大數(shù)據(jù)/大模型/多模態(tài)/空間智能行業(yè)趨勢(shì)AIAgent趨勢(shì)AI云原生應(yīng)用架構(gòu)定義AI原生應(yīng)用架構(gòu)ToolsAgentAIAI原生應(yīng)用架構(gòu)模式單Agent高代碼/零代碼單任務(wù)多Agent高代碼/零代碼Workflow低代碼/高代碼AIAgent的核心組件軀體，既運(yùn)行環(huán)境（AgentRuntime）作用：結(jié)合AgentFramework，使AIAgent主程運(yùn)行起來(lái)原則：運(yùn)行環(huán)境需要隔離、彈性作用：識(shí)別自然語(yǔ)言，然后進(jìn)行推理并做出決策。原則：選擇最合適的大語(yǔ)言模型。（不同的大語(yǔ)言模型有自己擅長(zhǎng)的領(lǐng)域和業(yè)務(wù)場(chǎng)景）記憶：讓Agent記得目標(biāo)、偏好，以及過(guò)往的知識(shí)庫(kù)：存的是「知識(shí)片段」，能回答具體問(wèn)題，但不是一個(gè)完整的操作流程指令，既系統(tǒng)提示詞（SystemPrompt或上下文工程（ContextEngineering）系統(tǒng)提示詞：定義Agent的目標(biāo)和行為，為獲得最佳推理結(jié)果而編寫和組織LLM指令的方法上下文：在LLM推理過(guò)程中，動(dòng)態(tài)規(guī)劃和維護(hù)最優(yōu)的輸入token集合各類工具及能力（MCPServer、Skills、沙箱Sandbox、觀測(cè)、評(píng)估評(píng)測(cè)）Skill是「操作手冊(cè)」，告訴當(dāng)前Agent遇到問(wèn)題該按什么步驟來(lái)。Agent還是自己干活，只是有了指導(dǎo)。就像給新人一份SOP，他還是自己操作，但知道該怎么做了沙箱SandBox：提供安全隔離、自動(dòng)彈性伸縮的、獨(dú)立的擴(kuò)展環(huán)境，如Code、效果評(píng)估和持續(xù)優(yōu)化困難高性能安全模型和工具企業(yè)數(shù)據(jù)安全和合規(guī)挑戰(zhàn)開發(fā)模式多樣效果評(píng)估和持續(xù)優(yōu)化困難高性能安全模型和工具企業(yè)數(shù)據(jù)安全和合規(guī)挑戰(zhàn)執(zhí)行環(huán)境難構(gòu)建服務(wù)穩(wěn)定性差難以持續(xù)演進(jìn)執(zhí)行環(huán)境難構(gòu)建服務(wù)穩(wěn)定性差模式，同時(shí)期望能夠持續(xù)演運(yùn)行時(shí)穩(wěn)定穩(wěn)定實(shí)現(xiàn)快維護(hù)成本高模塊化負(fù)載均衡服務(wù)管理高密度部署按量使用極致彈性??流量網(wǎng)關(guān)流量網(wǎng)關(guān)ESB微服務(wù)網(wǎng)關(guān)云原生網(wǎng)關(guān)AI網(wǎng)關(guān)應(yīng)用發(fā)展與基礎(chǔ)設(shè)施升級(jí)的雙向驅(qū)動(dòng)存量應(yīng)用引入智能體應(yīng)用讓業(yè)務(wù)系統(tǒng)更智能AI應(yīng)用架構(gòu)落地難點(diǎn)Web單體應(yīng)用CodeAgent存量應(yīng)用引入智能體應(yīng)用讓業(yè)務(wù)系統(tǒng)更智能AI應(yīng)用架構(gòu)落地難點(diǎn)Web單體應(yīng)用CodeAgent發(fā)、部署與市場(chǎng)驗(yàn)證微服務(wù)應(yīng)用ChatAgent異步任務(wù)事件驅(qū)動(dòng)應(yīng)用多智能體編排異步任務(wù)事件驅(qū)動(dòng)應(yīng)用多智能體編排AI基礎(chǔ)設(shè)施APIGatewayALBAPIGatewayALB云原生流量流量應(yīng)用運(yùn)行時(shí)容器與存量應(yīng)用打通復(fù)用已有業(yè)務(wù)能力容器Agent云原生可觀測(cè)Actions云原生可觀測(cè)ActionsToolsToolsAI時(shí)代開發(fā)者關(guān)注業(yè)務(wù)創(chuàng)新而非基礎(chǔ)設(shè)施靜態(tài)資源分配靜態(tài)資源分配無(wú)彈性或分鐘級(jí)彈性狀態(tài)管理復(fù)雜狀態(tài)管理復(fù)雜從傳統(tǒng)架構(gòu)到AI原生架構(gòu)從從傳統(tǒng)架構(gòu)到AI原生架構(gòu)從Serverless架構(gòu)到AI原生架構(gòu)API驅(qū)動(dòng)事件驅(qū)動(dòng)事件驅(qū)動(dòng)依賴網(wǎng)關(guān)/MQ實(shí)現(xiàn)同步和異步調(diào)運(yùn)維負(fù)擔(dān)沉重運(yùn)維負(fù)擔(dān)沉重免運(yùn)維VM/容器運(yùn)行時(shí)AI時(shí)代需求Serverless運(yùn)行時(shí)AI全棧統(tǒng)一監(jiān)控AI應(yīng)用統(tǒng)一入口基于Prometheus構(gòu)建AI全棧監(jiān)控大盤，包括模型性能分析、Token成本分析、GPU資源異動(dòng)分析等云工作流AIStudio通義千問(wèn)DeepSeek模型調(diào)用OpenAIGeminiPAI/百煉/FCGPU節(jié)點(diǎn)A節(jié)點(diǎn)CSAE/ACK/托管Dify端到端鏈路追蹤（代理Agent）基于OpenTelemetryTrace實(shí)現(xiàn)用戶終端、網(wǎng)關(guān)、模型應(yīng)用、模型服務(wù)、外部依賴工具等全鏈路追蹤。 AI全棧統(tǒng)一監(jiān)控AI應(yīng)用統(tǒng)一入口基于Prometheus構(gòu)建AI全棧監(jiān)控大盤，包括模型性能分析、Token成本分析、GPU資源異動(dòng)分析等云工作流AIStudio通義千問(wèn)DeepSeek模型調(diào)用OpenAIGeminiPAI/百煉/FCGPU節(jié)點(diǎn)A節(jié)點(diǎn)CSAE/ACK/托管Dify端到端鏈路追蹤（代理Agent）基于OpenTelemetryTrace實(shí)現(xiàn)用戶終端、網(wǎng)關(guān)、模型應(yīng)用、模型服務(wù)、外部依賴工具等全鏈路追蹤。 一鍵轉(zhuǎn)化存量業(yè)務(wù)MCP化存量業(yè)務(wù)Agent異步……日志存儲(chǔ)與評(píng)估分析函數(shù)計(jì)算FC（CPU+GPU）Agent構(gòu)建統(tǒng)一日志分析平臺(tái)，對(duì)模型調(diào)用日志進(jìn)行二次評(píng)估分析，實(shí)現(xiàn)質(zhì)量、安全、意圖提取等語(yǔ)義檢測(cè)。工具調(diào)用運(yùn)行時(shí)構(gòu)建部署AIAgentFunction節(jié)點(diǎn)BWorkflow構(gòu)建部署AIAgentFunction節(jié)點(diǎn)BWorkflowAgent運(yùn)行時(shí)Agent運(yùn)行時(shí)為AI而進(jìn)化的基礎(chǔ)設(shè)施從AI原生應(yīng)用架構(gòu)到Agent構(gòu)建平臺(tái)AgentRunAgentFrameworkAI應(yīng)用運(yùn)行時(shí)AI工具上下文工程AI觀測(cè)AI評(píng)估AI安全（應(yīng)用、模型、數(shù)據(jù)、身份、基礎(chǔ)設(shè)施安全）企業(yè)大模型市場(chǎng)企業(yè)MCP工具市場(chǎng)企業(yè)大模型市場(chǎng)企業(yè)MCP工具市場(chǎng)企業(yè)Agent市場(chǎng)后端服務(wù)鑒權(quán)LLMs后端服務(wù)鑒權(quán)數(shù)據(jù)脫敏消費(fèi)者鑒權(quán)數(shù)據(jù)脫敏消費(fèi)者鑒權(quán)AIAI安全防護(hù)API-KEY管理WAF集成API-KEY管理WAF集成ComfyUITTS通義千問(wèn)deepseek……OpenAI……Tools動(dòng)態(tài)組裝Tools智能路由MCPTools動(dòng)態(tài)組裝Tools智能路由MCPServer動(dòng)態(tài)發(fā)現(xiàn)AgentDiscoveryA2A百煉/Dify協(xié)議轉(zhuǎn)換多模型流量分發(fā)智能路由智能負(fù)載均衡模型fallbackLangChain等開源框架第三方MCPServer市場(chǎng)通用功能通用功能AI安全護(hù)欄會(huì)話保持消費(fèi)者認(rèn)證/鑒權(quán)自定義策略與插件……AIAI觀測(cè)協(xié)議增強(qiáng)適配協(xié)議增強(qiáng)適配HTTP/WebSocketComfyUI/TTSWebRTC（Q4）————流量防護(hù)弱管控與數(shù)據(jù)鏈路耦合無(wú)任何防護(hù)措施，很容易被穿透AI應(yīng)用設(shè)計(jì)與智能體的執(zhí)行耦合，高并發(fā)無(wú)法保證穩(wěn)定性，QPS不到5033數(shù)據(jù)源存儲(chǔ)格式單一推理服務(wù)需要大量計(jì)算資源，資源分配不均會(huì)導(dǎo)致性能瓶頸。55缺乏多租隔離能力44版本升級(jí)困難Dify社區(qū)更新頻繁，每次版本升級(jí)都簡(jiǎn)單易用終端用戶——瀏覽器/APP/小程序簡(jiǎn)單易用高可用高可用持指定三持指定三AZ成本經(jīng)濟(jì)成本經(jīng)濟(jì)持續(xù)迭代Serverless應(yīng)用平臺(tái)(SAE)持續(xù)迭代數(shù)據(jù)庫(kù)調(diào)用業(yè)務(wù)接口調(diào)用Serverless應(yīng)用平臺(tái)數(shù)據(jù)庫(kù)調(diào)用業(yè)務(wù)接口調(diào)用Serverless應(yīng)用平臺(tái)AgentScope——阿里云官方開源Agent開發(fā)框架AgentScope官方文檔：https://doc.agentscope.io/zh_CN/index.htmlAgentScope是阿里云官方的Agent框架AgentScope-PythonAgentScope-JavaSpringAIAlibaba合入AgentScope?后續(xù)Java語(yǔ)言的Agent開發(fā)框架以AgentScope為主?AgentScope-Java版本已追評(píng)Python版本的能力。國(guó)內(nèi)依然有50-60%的Java開發(fā)者或Java系企業(yè)AgentScope-Java性能優(yōu)化，啟動(dòng)速度提升60%AgentRun是以高代碼為核心，開放生態(tài)、靈活組裝的一站式A無(wú)需管理服務(wù)器、容器、GPU卡Agent無(wú)代碼一鍵轉(zhuǎn)高代碼，支持持續(xù)演進(jìn)AgentRun企業(yè)級(jí)Agent最佳運(yùn)行底座細(xì)粒度成本歸因，每分錢都知道花在哪用戶掌握技術(shù)選擇主動(dòng)權(quán)，避免供應(yīng)商鎖定模型Serverless模型運(yùn)行時(shí)2萬(wàn)+熱門模型一鍵托管到云上環(huán)境模型Serverless模型運(yùn)行時(shí)2萬(wàn)+熱門模型一鍵托管到云上環(huán)境內(nèi)置vLLM/SGLang/Ollama/LMDeploy推理框架最快30s將開源模型轉(zhuǎn)化為生產(chǎn)級(jí)OpenAI兼容API工具Serverless工具運(yùn)行時(shí)業(yè)界首個(gè)全生命周期MCP服務(wù)市場(chǎng)零改造將開源STDIOMCP升級(jí)為SSE/StreamableHTTP智能體智能體助力Qwen助力Qwen3-Coder成為領(lǐng)先的的代碼模型會(huì)話親和/隔離架構(gòu)，滿足Agent/Sandbox上下文保持需求零運(yùn)維、毫秒級(jí)彈性、按量付費(fèi)的企業(yè)級(jí)安全沙箱，兼容E2BServerless智能體運(yùn)行時(shí)Serverless智能體運(yùn)行時(shí)Serverless運(yùn)行時(shí)已經(jīng)成為阿里云AI原生應(yīng)用的核心載體函數(shù)計(jì)算AgentRun——Serverless智能體AgentAgentAgentScopeLlamaIndexLangChainSandboxCodeSandboxCodeSandboxComputerSandboxBrowserSandboxAIOSandboxServerlessServerless運(yùn)行時(shí)高密部署，主動(dòng)調(diào)度第四代神龍架構(gòu)安全隔離，高密部署，主動(dòng)調(diào)度第四代神龍架構(gòu)安全隔離，自動(dòng)容災(zāi)沙箱容器2.0產(chǎn)品集成，事件驅(qū)動(dòng)云產(chǎn)品Serverless化快速交付，極致彈性快速交付，極致彈性ServerlessServerless平臺(tái)底座GPUGPU算力（Tesla,Ada,Hopper,Agent&SandboxRuntime擎冷啟動(dòng)加速Serverless彈性效率平均TCOServerless降本提效傳統(tǒng)共享存儲(chǔ)問(wèn)題（虛機(jī)/容器)傳統(tǒng)共享存儲(chǔ)問(wèn)題（虛機(jī)/容器)生成的代碼具有不可預(yù)知性，訪問(wèn)共享存儲(chǔ)會(huì)有安全問(wèn)題。引入會(huì)話粒度度存儲(chǔ)粘性，將會(huì)話和一個(gè)持久化的、歸屬特定租戶的存儲(chǔ)子目錄進(jìn)行強(qiáng)綁定，在Sandbox運(yùn)行的時(shí)候動(dòng)態(tài)把目錄掛載到實(shí)例。平臺(tái)基于POSIX標(biāo)準(zhǔn)多租存儲(chǔ)安全實(shí)踐框架，落地層次化縱深防御體系Sandboxx-custom-affinity-header:實(shí)例-1會(huì)話-1x-custom-affinity-header:S會(huì)話-2OSSOSSx-custom-affinity-header:S會(huì)話-3AgentRun瀏覽器沙箱——輿情分析AgentRunCode沙箱——AICoding通用型Agent——智譜Z.AIAgent函數(shù)計(jì)算模型服務(wù)——AI模型轉(zhuǎn)化為Serve開源模型一鍵部署，AI模型一鍵Serverless化，云端模型開發(fā)部署零門檻語(yǔ)音計(jì)算機(jī)視覺(jué)計(jì)算科學(xué)多模態(tài)語(yǔ)音計(jì)算機(jī)視覺(jué)計(jì)算科學(xué)多模態(tài)模型服務(wù)享受PaaS自由度的同時(shí)獲得SaaS便捷性模型服務(wù)享受PaaS自由度的同時(shí)獲得SaaS便捷性，按調(diào)用量付費(fèi)，模型部署成本降低90%免運(yùn)維/低運(yùn)維百萬(wàn)級(jí)實(shí)例規(guī)模*與ComfyUI百萬(wàn)級(jí)實(shí)例規(guī)模*與ComfyUI/SD100+熱門模型在線體驗(yàn)200+模型一鍵部署與Agent服務(wù)一鍵集成DevpodDevpod模型在線開發(fā)/構(gòu)建按量付費(fèi)CPU+GPU集群函數(shù)計(jì)算-函數(shù)計(jì)算-ServerlessGPU*毫秒級(jí)彈性和百萬(wàn)規(guī)模集群緊針對(duì)部分模型的測(cè)試結(jié)果，并不代表全部模型都可以具備隨著AI浪潮的發(fā)展，吉利汽車在今年推出新一代AI智能化服務(wù)，成為核心競(jìng)爭(zhēng)基于阿里云函數(shù)計(jì)算的ServerlessGPU算力集群為AI座艙的交互和娛樂(lè)功能提供大模型推理服務(wù)，共同打造大規(guī)模、高可用、高性能的推理引擎。場(chǎng)景涵蓋意圖解析、文生圖、情感TTS等。尤其在語(yǔ)音交互方面，吉利自研超擬人TTS，采用大量微調(diào)和訓(xùn)練，打造吉利汽車專屬的逼真、富有情感、自然生動(dòng)又穩(wěn)定一致的語(yǔ)音交互體驗(yàn)。高性價(jià)比的GPU彈性算力；支持一鍵將Co義烏小商品城“世界義烏”APP——AI玩具&電商換背景AI工具——MCP/Skills靈活集成、平滑演進(jìn)；用戶掌握技術(shù)選擇主動(dòng)權(quán)，避免供應(yīng)商鎖定統(tǒng)一工具接口?支持MCP和FunctionCall雙協(xié)議?API統(tǒng)管工具調(diào)用，開發(fā)復(fù)雜度降低80%，集成時(shí)間從天縮短到分鐘智能工具生成與發(fā)現(xiàn)?AI驅(qū)動(dòng)的工具推薦引擎，根據(jù)Agent任務(wù)自動(dòng)匹配?開放式工具市場(chǎng)，支持自定義工具發(fā)布和分享，構(gòu)建Age知識(shí)庫(kù)存儲(chǔ)參數(shù)形式記憶對(duì)話記錄存儲(chǔ)知識(shí)庫(kù)存儲(chǔ)參數(shù)形式記憶對(duì)話記錄存儲(chǔ)Python3.6~3.11Node.js17~22Java8~21KnowledgeSessionMemory記憶存儲(chǔ)記憶提取SummaryAgentRunPython3.6~3.11Node.js17~22Java8~21KnowledgeSessionMemory記憶存儲(chǔ)記憶提取SummaryAgentRunMemorTextTextJsonVectorGraph全文索引向量索引Json索引標(biāo)量索引存儲(chǔ)AgentRunAgentRun一鍵部署一鍵綁定一鍵部署一個(gè)典型的AI原生應(yīng)用架構(gòu)及可觀測(cè)訴求用戶業(yè)務(wù)層客戶端Web小程序模型服務(wù)層托管模型服務(wù)用戶業(yè)務(wù)層客戶端Web小程序模型服務(wù)層托管模型服務(wù)通義千問(wèn)DeepSeekOpenAI…….自建模型服務(wù)AI網(wǎng)關(guān)AI網(wǎng)關(guān)LLM應(yīng)用LLM應(yīng)用LLM鏈路上下文鏈路上下文鏈路上下文鏈路上下文鏈路上下文鏈路上下文鏈路上下文鏈路上下文LLM應(yīng)用開發(fā)平臺(tái)/編排集成框架(Dify/Langchain/Llamalndex)API管理AIAPI管理AIProxyToken限流流量防護(hù)KubernetesSAE實(shí)例AndroidWAF防護(hù)WAF防護(hù)服務(wù)發(fā)現(xiàn)通義千問(wèn)DeepSeekLlama3…….Cache/RAGCache/RAG推理加速框架（SGLang/VLLM等）向量數(shù)據(jù)庫(kù)緩存對(duì)象存儲(chǔ)Tools…….Tools…….AI全棧統(tǒng)一監(jiān)控模型調(diào)用端到端鏈路追蹤應(yīng)用、模型服務(wù)、外部依賴工具等全鏈路追模型日志存儲(chǔ)與評(píng)估分析基于Trace或日志中記錄的大模型應(yīng)用輸入輸出內(nèi)容，通過(guò)LLM/Code/人工等方式對(duì)智能體進(jìn)行在線和離線評(píng)估，持續(xù)提升Agent效果和Agent鏈路模型日志Agent鏈路模型日志評(píng)估器評(píng)估器Trace數(shù)據(jù)和模型調(diào)用日志對(duì)Agent離線評(píng)估AgentAgent可觀測(cè)數(shù)據(jù)集Agent數(shù)據(jù)飛輪——持續(xù)提升Agent使用效果?低代碼白屏化腳手架?高代碼無(wú)框架綁定開發(fā)?版本的無(wú)損平滑升級(jí)?支持ServerlessGPU算力?支持微調(diào)后的模型進(jìn)行私域一鍵部署?無(wú)侵入式的全鏈路采點(diǎn)?一鍵開啟，默認(rèn)集成?除基礎(chǔ)監(jiān)控外，提供全鏈路的tracing?基于反饋的高質(zhì)量數(shù)據(jù)集，對(duì)模型進(jìn)行微調(diào)?支持主流的強(qiáng)化學(xué)習(xí)框架運(yùn)行?預(yù)集成微調(diào)生態(tài)的插件?全鏈路的數(shù)據(jù)標(biāo)注?反饋數(shù)據(jù)收集?基于數(shù)據(jù)測(cè)試集的回放基于AI原生應(yīng)用架構(gòu)打造——AI驅(qū)動(dòng)的全新應(yīng)用平臺(tái)AI驅(qū)動(dòng)的下一代應(yīng)用平臺(tái)WebAppWebAppAgentAPI（南北向流量管理/策略管控）AgentAPI（南北向流量管理/策略管控）Agent基于原子能力構(gòu)建方案基于AgentRun基于原子能力構(gòu)建方案基于AgentRun構(gòu)建方案模型市場(chǎng)工具市場(chǎng)/API/數(shù)據(jù)源模型市場(chǎng)AI原生應(yīng)用架構(gòu)落地實(shí)踐——從原子能力演進(jìn)到Agent構(gòu)建平臺(tái)構(gòu)建構(gòu)建AI原生應(yīng)用架構(gòu)構(gòu)建構(gòu)建原子能力構(gòu)建一站式構(gòu)建AI原生應(yīng)用架構(gòu)展望——AGI通向ASI讓AI擴(kuò)展自己和組織邊界?Agent臺(tái)構(gòu)建難，性能差毫秒級(jí)冷啟動(dòng)，百萬(wàn)級(jí)并發(fā)提供Agent，模型，沙箱運(yùn)行時(shí)（Sandbox支持自定義鏡像）基于函數(shù)計(jì)算構(gòu)建開源自建維護(hù)成本高，性能差（單核<5QPS）支持Mobile/Computer/BrowserUse等沙箱GUI綁定，秒級(jí)啟動(dòng)延遲1000活躍會(huì)話，會(huì)話隔離2vCPU/8GB資源限制門檻高，成本高穩(wěn)定性差多模型接入（支持私有化）Serverless模型托管服務(wù)模型治理（負(fù)載均衡、安全、多級(jí)Fallback）通義千問(wèn)系列模型平臺(tái)鎖定多模型接入缺乏模型治理與模型安全能力不提供模型服務(wù)模型Fallback機(jī)制25TPS限制，僅限AWS生態(tài)模型參差不齊，性能差工具市場(chǎng)（海量工具，一鍵部署）一鍵轉(zhuǎn)MCP（Agent、Sandbox、API等）MCP擴(kuò)展（Hook、語(yǔ)義分析、智能路由）開發(fā)框架集成（ADK，AgentScope，Langchain，CrewAI等主流Top框架）提供工具市場(chǎng)不支持異步調(diào)用，無(wú)Hook機(jī)制Langchain，CrewAI等高代碼框架難以直接調(diào)用插件系統(tǒng)，支持?jǐn)U展Agent可作為MCP被集成每個(gè)工具需單獨(dú)適配，無(wú)統(tǒng)一標(biāo)準(zhǔn)支持MCP協(xié)議工具生態(tài)有限，無(wú)框架集成MCP不支Hook、智能路由等功能AWS工具庫(kù)工具需符合AWS標(biāo)準(zhǔn)，靈活性差黑盒執(zhí)行，難以評(píng)估在線調(diào)試，全鏈路可觀測(cè)Token級(jí)成本歸因在線調(diào)試，全鏈路可觀測(cè)Token級(jí)成本歸因無(wú)端到端可觀測(cè)能力與成本分析只提供工具基礎(chǔ)運(yùn)行監(jiān)控?zé)o端到端可觀測(cè)能力與成本分析CloudWatch全套能力私域，安全合規(guī)請(qǐng)求、實(shí)例、會(huì)話等多層級(jí)強(qiáng)隔離支持模型、知識(shí)庫(kù)，Memory私有化部署數(shù)據(jù)不出域，支持VPC/IDC網(wǎng)絡(luò)打通基礎(chǔ)安全措施，合規(guī)認(rèn)證數(shù)據(jù)必須上云，不支持IDC打通支持私有化部署需自建安全隔離能力，缺乏企業(yè)級(jí)特性只提供沙箱隔離企業(yè)級(jí)安全與審計(jì)鎖定AWS生態(tài)，國(guó)內(nèi)合規(guī)挑戰(zhàn)?AgentRun理構(gòu)建難，性能差毫秒級(jí)冷啟動(dòng)，百萬(wàn)級(jí)并發(fā)提供Agent，模型，沙箱運(yùn)行時(shí)（Sandbox支持自定義鏡像）基礎(chǔ)版性能限制嚴(yán)重響應(yīng)時(shí)間：1.1秒1)支持高并發(fā)處理，適合規(guī)?；渴?Serverless架構(gòu)，按需秒級(jí)擴(kuò)縮容5基于IntelTDX機(jī)密計(jì)算環(huán)境‘門檻高，成本高穩(wěn)定性差多模型接入（支持私有化）Serverless模型托管服務(wù)模型治理（負(fù)載均衡、安全、多級(jí)Fallback）海外版本多模型支持：豆包、Deepseek等7通過(guò)統(tǒng)一接口適配主流模型8國(guó)內(nèi)版僅提供豆包系列模型模型生態(tài)高度綁定：主要對(duì)接豆包大模（生態(tài)鎖定）缺乏多云模型支持企業(yè)級(jí)模型管理與火山方舟深度集成（生態(tài)鎖定）參差不齊，性能差工具市場(chǎng)（海量工具，一鍵部署）一鍵轉(zhuǎn)MCP（Agent、Sandbox、API等）MCP擴(kuò)展（Hook、語(yǔ)義分析、智能路由）開發(fā)框架集成（ADK，AgentScope，Langchain，CrewAI等主流Top框架）開源版工具生態(tài)嚴(yán)重不足：開源版僅十幾個(gè)個(gè)插內(nèi)置MCP客戶端能力13基于MCP協(xié)議標(biāo)準(zhǔn)化集成14支持CRM/ERP系統(tǒng)API連接缺少開放的工具/插件市場(chǎng)（僅內(nèi)置60+插件，其余需要用戶自行添加）長(zhǎng)短記憶管理15多框架兼容擴(kuò)展（侵入性）黑盒執(zhí)行，難以評(píng)估在線調(diào)試，全鏈路可觀測(cè)Token級(jí)成本歸因工作流可視化調(diào)試，類Figma拖拽界面1‘模型性能和并發(fā)指標(biāo)監(jiān)控17智能體多維度評(píng)測(cè)18缺乏Token級(jí)細(xì)粒度分析在線調(diào)試AgentDevOps全流程管理19全鏈路應(yīng)用觀測(cè)15私域，安全合規(guī)請(qǐng)求、實(shí)例、會(huì)話等多層級(jí)強(qiáng)隔離支持模型、知識(shí)庫(kù)，Memory私有化部署數(shù)據(jù)不出域，支持VPC/IDC網(wǎng)絡(luò)打通部署模式嚴(yán)重分離：開源版：可私有化但缺企業(yè)特性22支持私有化集成23IntelTDX機(jī)密計(jì)算‘代碼全鏈路加密24不支持?jǐn)?shù)據(jù)不出域能力生態(tài)鎖定（尤其模型、框架生態(tài)）開發(fā)模式轉(zhuǎn)換能力不足（無(wú)代碼-低代碼向高代碼轉(zhuǎn)換）Infra性能（啟動(dòng)、并發(fā)等）與Sandbox安全（多級(jí)隔離生態(tài)鎖定（尤其模型、框架生態(tài)）開發(fā)模式轉(zhuǎn)換能力不足（無(wú)代碼-低代碼向高代碼轉(zhuǎn)換）Infra性能（啟動(dòng)、并發(fā)等）與Sandbox安全（多級(jí)隔離數(shù)據(jù)不出域AgentRunSandboxACS沙箱能力AgentBay沙箱類型AllinOne、RL、Sim、Code、BrowseBrowser、Computer、Mob鏡像能力文件掛載彈性效率規(guī)模瓶頸集成能力與AgentScope、ADK、Lan計(jì)費(fèi)模式）：企業(yè)級(jí)一站式AIAgent基礎(chǔ)設(shè)施平臺(tái)江昱阿里云產(chǎn)品經(jīng)理2026/1個(gè)人簡(jiǎn)介阿里云產(chǎn)品經(jīng)理AgentRun產(chǎn)品負(fù)責(zé)人，阿里云Serverless產(chǎn)品專家，云計(jì)算領(lǐng)域博士（主要研究方向?yàn)镾erverless架構(gòu)）暢銷書《Serverless架構(gòu)》《Serverless工程實(shí)踐》《Serverless架構(gòu)下的AI應(yīng)用開發(fā)》《Serverless架構(gòu)下的前端應(yīng)用開發(fā)》作者；參編《基于服務(wù)器無(wú)繁殖架構(gòu)的工具鏈技術(shù)能力要求》等標(biāo)準(zhǔn)CNCFSandbox項(xiàng)目ServerlessDevs發(fā)起人；阿里云FunctionAI產(chǎn)品負(fù)責(zé)人CONTENT01破局之前CONTENTAgent開發(fā)痛點(diǎn)分析02函數(shù)計(jì)算AgentRun基礎(chǔ)介紹什么是函數(shù)計(jì)算AgentRun03函數(shù)計(jì)算AgentRun特性探索AgentRun的特性是什么？有哪些優(yōu)勢(shì)？04案例場(chǎng)景與最佳實(shí)踐FunctionQ案例/A2A協(xié)議/Devpod/Model2API01破局之前，先看清這些"坑"Agent開發(fā)痛點(diǎn)分析什么是Agent？Agent是基于大語(yǔ)言模型構(gòu)建的智能體，通過(guò)Prompt理解任務(wù)、自主推理規(guī)劃調(diào)用工具（MCP服務(wù)）、利用記憶，完成從簡(jiǎn)單到復(fù)雜的各類任務(wù)。AIAgent平臺(tái)AIAIAgent平臺(tái)AIAgent之間自行交互UniversalUniversalAgents多模態(tài)模型多模態(tài)模型快速構(gòu)建，統(tǒng)一管理AgentPlatform-LevelAgents功能簡(jiǎn)單功能簡(jiǎn)單，靈活性低Prompt直給SmartermodelsusingmoretoolstoaccomplishhighervaluetasksSingle-PurposeAgentsAI觀測(cè)AI觀測(cè)業(yè)務(wù)高峰期API業(yè)務(wù)高峰期API突然限流封號(hào)流量上來(lái)就觸發(fā)限流，嚴(yán)重時(shí)賬號(hào)直接被封，用戶請(qǐng)求積壓，業(yè)務(wù)被迫中斷自建降本卻搶不到GPU資源想省API費(fèi)用自己部署模型，結(jié)果高峰期算力被占滿用戶排隊(duì)，臨時(shí)擴(kuò)容采購(gòu)周期長(zhǎng)預(yù)算也嚇人批量生成內(nèi)容效果全靠抽卡同樣prompt生成十次九不同，商品圖、營(yíng)銷視頻質(zhì)量飄忽不定，必須人工篩選才能用Agent出錯(cuò)不知道哪里要改客服助手回答質(zhì)量不理想，缺少評(píng)估工具和測(cè)試集，不知道是prompt問(wèn)題還是工具調(diào)用有bug企業(yè)知識(shí)問(wèn)答怕數(shù)據(jù)泄露調(diào)用外部API擔(dān)心敏感數(shù)據(jù)出域泄露，想基于自己知識(shí)庫(kù)搭建專屬問(wèn)答，但不知道怎么落地實(shí)施智能助手經(jīng)常答錯(cuò)或瞎編客戶問(wèn)答、文檔助手頻繁出現(xiàn)幻覺(jué)瞎編答案，用戶投訴率居高不下，試了各種方法還是沒(méi)法根治開發(fā)Agent時(shí)的挑戰(zhàn)/痛點(diǎn)高性能安全模型和工具效果評(píng)估和持續(xù)優(yōu)化困難企業(yè)數(shù)據(jù)安全和合規(guī)挑戰(zhàn)開發(fā)模式多樣高性能安全模型和工具效果評(píng)估和持續(xù)優(yōu)化困難企業(yè)數(shù)據(jù)安全和合規(guī)挑戰(zhàn)執(zhí)行環(huán)境難構(gòu)建服務(wù)穩(wěn)定性差難以持續(xù)演進(jìn)執(zhí)行環(huán)境難構(gòu)建服務(wù)穩(wěn)定性差運(yùn)行時(shí)穩(wěn)定穩(wěn)定02函數(shù)計(jì)算AgentRun基礎(chǔ)介紹什么是函數(shù)計(jì)算AgentRun?AgentRun什么是函數(shù)計(jì)算AgentRun是以高代碼為核心、生態(tài)開放、靈活組裝的一站式AgenticAI基礎(chǔ)設(shè)施平臺(tái)，為企業(yè)級(jí)Agent提供開發(fā)、調(diào)試、部署、運(yùn)維的全生命周期管理。多種開發(fā)模式多種開發(fā)模式生態(tài)開放生態(tài)開放運(yùn)行時(shí)與沙箱運(yùn)行時(shí)與沙箱調(diào)用統(tǒng)一治理調(diào)用統(tǒng)一治理AIAI組件統(tǒng)一管理察靈活組裝靈活組裝數(shù)據(jù)安全數(shù)據(jù)安全運(yùn)行時(shí)穩(wěn)定運(yùn)行時(shí)穩(wěn)定便捷開發(fā)與企業(yè)級(jí)能力天然加持03函數(shù)計(jì)算AgentRun特性探索AgentRun的特性是什么？有哪些優(yōu)勢(shì)？函數(shù)計(jì)算AgentRun的四大優(yōu)勢(shì)AgentRun企業(yè)級(jí)Agent最佳運(yùn)行底座細(xì)粒度成本歸因，每分錢都知道花在哪優(yōu)勢(shì)1:Serverless基礎(chǔ)設(shè)施零運(yùn)維、極致彈性、按量付費(fèi)；徹底解放運(yùn)維負(fù)擔(dān)，成本和性能最優(yōu)平衡靜態(tài)資源分配動(dòng)態(tài)彈性狀態(tài)持久化靜態(tài)資源分配動(dòng)態(tài)彈性狀態(tài)持久化 事件驅(qū)動(dòng)狀態(tài)管理復(fù)雜API驅(qū)動(dòng)依賴網(wǎng)關(guān)/MQ實(shí)現(xiàn)同步和異步免運(yùn)維運(yùn)維負(fù)擔(dān)沉重從傳統(tǒng)架構(gòu)到AI原生架構(gòu)智能體Agent從Serverless架構(gòu)到AI原生架構(gòu)VM/容器運(yùn)行時(shí)AI時(shí)代需求Serverless運(yùn)行時(shí)優(yōu)勢(shì)2：企業(yè)級(jí)Runtime與安全隔離高性能、高安全、開箱即用，提供生產(chǎn)級(jí)的執(zhí)行環(huán)境和多租戶安全保障異構(gòu)算力ServerlessAI運(yùn)行時(shí)生態(tài)集成模型服務(wù)智能體Agent模型服務(wù)智能體AgentComfyUI,SD,etc.低代碼編排、高代碼編碼MCPComfyUI,SD,etc.低代碼編排、高代碼編碼MCP&SandboxPHP/Go/.NET/…PHP/Go/.NET/…Java8~21任務(wù)函數(shù)事件函數(shù)Web函數(shù)任務(wù)函數(shù)事件函數(shù)Web函數(shù)高密部署，主動(dòng)調(diào)度第四代神龍架構(gòu)安全隔離，自動(dòng)容災(zāi)沙箱容器高密部署，主動(dòng)調(diào)度第四代神龍架構(gòu)安全隔離，自動(dòng)容災(zāi)沙箱容器2.0快速交付，極致彈性資源池化2.0產(chǎn)品集成，事件驅(qū)動(dòng)云產(chǎn)品Serverless化CPU算力（x86)GPU算力（Tesla,Ada,CPU算力（x86)GPU算力（Tesla,Ada,Hopper,XPU算力Python/Node/Java/PHP/Go/.NET等50+內(nèi)置運(yùn)行時(shí)環(huán)境，支持自定義運(yùn)行時(shí)和自定義鏡像，便于靈活定制0不使用不計(jì)費(fèi)按請(qǐng)求調(diào)度，毫/秒計(jì)費(fèi)，低峰自動(dòng)縮0規(guī)格粒度最小規(guī)格：FC0.05C128MB，Agent與Sandbox運(yùn)行時(shí)高性能、高安全、開箱即用，提供生產(chǎn)級(jí)的執(zhí)行環(huán)境和多租戶安全保障AgentAgentAgentScopeSandboxSandboxComputerSandboxBrowserSandboxAIOSandboxServerlessServerless運(yùn)行時(shí)高密部署，主動(dòng)調(diào)度高密部署，主動(dòng)調(diào)度第四代神龍架構(gòu)快速交付，極致彈性沙箱容器2.0產(chǎn)品集成產(chǎn)品集成，事件驅(qū)動(dòng)云產(chǎn)品Serverless化ServerlessServerless平臺(tái)底座CPU算力（x86)XPU算力函數(shù)&會(huì)話規(guī)模Agent&SandboxRuntime輕量化的函數(shù)管理&Session親和與安全隔離內(nèi)置冷啟動(dòng)加速Serverless彈性效率平均TCOServerless降本提效模型運(yùn)行時(shí)高性能、高安全、開箱即用，提供生產(chǎn)級(jí)的執(zhí)行環(huán)境和多租戶安全保障?實(shí)時(shí)更新模型服務(wù)提供商連接插件，加載最新功能??實(shí)時(shí)更新模型服務(wù)提供商連接插件，加載最新功能?統(tǒng)一管理Token，以最低成本應(yīng)對(duì)業(yè)務(wù)需求?內(nèi)置vLLM/SGLang/Ollama/LMDeploy推理框架?最快30s將開源模型轉(zhuǎn)化為生產(chǎn)級(jí)OpenAI兼容API模型請(qǐng)求治理單模單模|多模型負(fù)載代理Fallback機(jī)制并發(fā)控制響應(yīng)緩存超時(shí)控制API直連API直連可選擇主流模型廠商可選擇開源主流模型直接部署可選擇主流模型廠商模型服務(wù)提供商插件管理優(yōu)勢(shì)3:開源開放、無(wú)框架鎖定–支持主流Agent開發(fā)框架靈活集成、平滑演進(jìn)；用戶掌握技術(shù)選擇主動(dòng)權(quán)，避免供應(yīng)商鎖定AgentScopeAgentRun快速構(gòu)建高可用AgentRun快速構(gòu)建高可用，低時(shí)延，零運(yùn)維的AIA開發(fā)者工具（開源+擁抱開源）一鍵托管，綁定VPC/IDC資源，企業(yè)數(shù)據(jù)AgentRun服務(wù)（擁抱開源）/serverless-devs上下文工程插拔式支持企業(yè)知識(shí)庫(kù)，記憶系統(tǒng)知識(shí)庫(kù)存儲(chǔ)參數(shù)形式記憶對(duì)話記錄存儲(chǔ)知識(shí)庫(kù)存儲(chǔ)參數(shù)形式記憶對(duì)話記錄存儲(chǔ)PHP/Go/.NET/…Node.js17~22JKnowledgeSessionMemory記憶存儲(chǔ)記憶提取SummaryPHP/Go/.NET/…Node.js17~22JKnowledgeSessionMemory記憶存儲(chǔ)記憶提取SummaryAgentRunMemorMemory全文索引引標(biāo)量索引TextJson全文索引引標(biāo)量索引TextJsonVectorGraphJson索引AgentRunAgentRun一鍵部署一鍵綁定一鍵部署靈活集成、平滑演進(jìn)；用戶掌握技術(shù)選擇主動(dòng)權(quán)，避免供應(yīng)商鎖定統(tǒng)一工具接口?支持MCP和FunctionCall雙協(xié)議?API統(tǒng)管工具調(diào)用，開發(fā)復(fù)雜度降低80%，集成時(shí)間從天縮短到分鐘智能工具生成與發(fā)現(xiàn)?AI驅(qū)動(dòng)的工具推薦引擎，根據(jù)Agent任務(wù)自動(dòng)匹配?開放式工具市場(chǎng)，支持自定義工具發(fā)布和分享，構(gòu)建Age優(yōu)勢(shì)4：可觀測(cè)與評(píng)估-全鏈路可觀測(cè)看得清、管得住、優(yōu)化快；Agent不再是黑盒，每個(gè)環(huán)節(jié)都清晰可控AI應(yīng)用統(tǒng)一入口AI全棧統(tǒng)一監(jiān)控構(gòu)建部署AIAI應(yīng)用統(tǒng)一入口AI全棧統(tǒng)一監(jiān)控構(gòu)建部署AIAgent流程式流程式基于Prometheus構(gòu)建AI全棧監(jiān)控大通義千問(wèn)盤，包括模型性能分析、Token成本分云原生API網(wǎng)關(guān)通義千問(wèn)盤，包括模型性能分析、Token成本分云原生API網(wǎng)關(guān)WorkflowFunction云工作流AIStudio云工作流AIStudioAIAI網(wǎng)關(guān)SAE/ACK/托管基于SAE/ACK/托管終端、Agent異步Agent異步SDK……SDK……一鍵轉(zhuǎn)化Agent運(yùn)行時(shí)Agent運(yùn)行時(shí)AI網(wǎng)關(guān)存量業(yè)務(wù)志進(jìn)行二次評(píng)估分析AI網(wǎng)關(guān)存量業(yè)務(wù)GPU）AIAI應(yīng)用觀測(cè)：OpenTelemetry可觀測(cè)標(biāo)準(zhǔn)協(xié)議應(yīng)用評(píng)估基于Trace或日志中記錄的大模型應(yīng)用輸入輸出內(nèi)容借助LLM能力對(duì)智能體進(jìn)行在線和離線評(píng)估解決幻覺(jué)，安全，回歸等問(wèn)題，持續(xù)提高Agent效果和質(zhì)量在線評(píng)估Agent鏈路Agent鏈路評(píng)估器在線在線模型日志模型日志離線評(píng)估評(píng)分AgentAgent可觀測(cè)數(shù)據(jù)集可觀測(cè)數(shù)據(jù)集案例場(chǎng)景與最佳實(shí)踐業(yè)務(wù)人員無(wú)需編程，通過(guò)可視化界面選擇模型、描述需求、配置工具，即可快速創(chuàng)建Agent并上線驗(yàn)證想法，大幅縮短從想法到落地的周期。一鍵轉(zhuǎn)換高代碼演進(jìn)當(dāng)業(yè)務(wù)需求變復(fù)雜時(shí)，可一鍵將無(wú)代碼Agent轉(zhuǎn)換為結(jié)構(gòu)清晰的高質(zhì)量Python代碼，保留所有配置，實(shí)現(xiàn)從原型到生產(chǎn)的零成本平滑演進(jìn)，無(wú)需推倒重來(lái)。深度定制與企業(yè)級(jí)能力轉(zhuǎn)換為高代碼后，可實(shí)現(xiàn)個(gè)性化策略、智能成本優(yōu)化、復(fù)雜業(yè)務(wù)流程等深度定制，并深度集成平臺(tái)提供的模型代理、熔斷機(jī)制、異步調(diào)用等企業(yè)級(jí)基礎(chǔ)設(shè)施能力。功能案例：上下文工程能力擴(kuò)充擁抱開源，數(shù)據(jù)不出域在支持以O(shè)TS/ADB-PG為基礎(chǔ)構(gòu)建的高性能、高可用知識(shí)庫(kù)基礎(chǔ)上，積極業(yè)務(wù)需求，并可以通過(guò)幾行代碼與常見Agent框架集成。生態(tài)能力加持，讓集成更簡(jiǎn)單知識(shí)庫(kù)與記憶能力天然支持MCP能力，可以快速與多平臺(tái)Agent進(jìn)行集成；知識(shí)庫(kù)支持跨平臺(tái)知識(shí)檢索，讓零散的知識(shí)可以快速被使用起來(lái)。使用模式多樣，業(yè)務(wù)效果更可靠記憶服務(wù)不僅僅是短期記憶和長(zhǎng)期記憶，更包括全量會(huì)話記憶與會(huì)話緩存，支持上下文模式和工具模式，不同業(yè)務(wù)場(chǎng)景可以采用不同的使用模式；函數(shù)計(jì)算：ServerlessAI最佳運(yùn)行時(shí)半數(shù)以上基模廠商選擇函數(shù)計(jì)算作為企業(yè)級(jí)智能體和沙箱運(yùn)行時(shí)，峰值規(guī)模已達(dá)數(shù)十萬(wàn)核?AgenticCoding：面向開發(fā)者的AI全棧開發(fā)平臺(tái)?通過(guò)對(duì)話生成代碼，支持在云端沙箱調(diào)試和驗(yàn)證，且支持將項(xiàng)目發(fā)布并分享題用戶云原生API網(wǎng)關(guān)K8s推理服務(wù)函數(shù)計(jì)算FC 打包函數(shù)項(xiàng)目分享函數(shù)數(shù)存儲(chǔ)OSSNASOpenWebUIGLM45案例：案例：QwenCoder?AgenticCoding：面向開發(fā)者的AI代碼助手?將代碼編輯器、開發(fā)環(huán)境和強(qiáng)大的大模型能力深度整合的一站式工作臺(tái)?通過(guò)對(duì)話理解和生成代碼或注釋，并在云端沙箱環(huán)境自動(dòng)調(diào)試、驗(yàn)證和部署運(yùn)維診斷賬單問(wèn)題解惑規(guī)劃與代碼專家通用專家機(jī)器人垂類領(lǐng)域?qū)＜乙?guī)劃與代碼專家通用專家機(jī)器人知識(shí)庫(kù)垂類工具集多智能體引擎知識(shí)庫(kù)垂類工具集多智能體引擎私有化部署Deepseek私有化部署Deepseek*即將開源全部技術(shù)棧，可快速構(gòu)建私有化的FunctionQA2A協(xié)議演示：稀稀咖啡廳A2A協(xié)議演示：稀稀咖啡廳瀏覽器沙箱：輿情管理助手AICoding案例阿里云云原生技術(shù)專家2026/01/27CONTENT0101AIGC在設(shè)計(jì)領(lǐng)域的滲透曲線02FunArt：從創(chuàng)意到上線的一站式解決方案Serverless助力成本低、高效率、高性能的可控圖片視頻生成03設(shè)計(jì)、營(yíng)銷新范式下的案例AIGC技術(shù)呈現(xiàn)出前所未有的創(chuàng)新和想象力，提高企業(yè)內(nèi)容生產(chǎn)的效率和質(zhì)量01AIGC在設(shè)計(jì)領(lǐng)域的滲透曲線AIGC如何逐漸重塑設(shè)計(jì)領(lǐng)域下的效率與創(chuàng)造力？AIGC在設(shè)計(jì)行業(yè)的滲透曲線多類技術(shù)大融合?多類技術(shù)大融合?生成式技術(shù)萌芽?OpenAI和Google分別輸出自研方案，Midjourney上線技術(shù)快速發(fā)展?StableDiffusion開源?WebUI上線，普世化插件層出?Lora、Dreambooth，支持靈活?ComfyUI上線，插件靈活組裝行業(yè)可控、行業(yè)充分應(yīng)用?Controlnet面世，補(bǔ)齊可控生成的版圖?ComfyUI一年更新節(jié)點(diǎn)3000+?抽卡機(jī)制，行業(yè)自主可控的訓(xùn)練?工作流程搭建、相關(guān)技術(shù)逐漸?保ID技術(shù)快速迭代，多視角、多動(dòng)作序列幀一致性問(wèn)題解決?3D重建與渲染技術(shù)逐步突破?環(huán)境融合等技術(shù)漸趨成熟?3D生成技術(shù)效果向?qū)嶋H應(yīng)用靠攏?可控視頻生成技術(shù)萌芽到開源生態(tài)的繁榮技術(shù)萌芽到開源生態(tài)的繁榮AIGC席卷了設(shè)計(jì)領(lǐng)域DESIGNABILITYAIGCSCENARIO-BASEDINDUSTRYAPPLICATIONAIGC設(shè)計(jì)技術(shù)能力AIGC場(chǎng)景化行業(yè)應(yīng)用算法能力編排算法能力編排AIGCAIGC輔助商品設(shè)計(jì)AIGCAIGC輔助平面設(shè)計(jì)AIGCAIGC輔助空間設(shè)計(jì)AIGCAIGC輔助電商設(shè)計(jì)AIGC產(chǎn)品外觀設(shè)計(jì)AIGC插畫繪制AIGC空間外觀設(shè)計(jì)AIGC虛擬模特AIGC包裝設(shè)計(jì)AIGC服裝設(shè)計(jì)AIGC海報(bào)生成AIGC建筑效果繪制AIGC環(huán)境藝術(shù)AIGC場(chǎng)景替換AIGC試衣某頭部客戶影視行業(yè)的AIGC最佳實(shí)踐02FunArt：讓AIGC創(chuàng)意一鍵直達(dá)生產(chǎn)環(huán)境Serverless助力成本低、高效率、高性能的可控圖片視頻生成阿里云提供全流程的可控生成場(chǎng)景策劃與測(cè)試場(chǎng)景落地底層算力FunArtFunArt是阿里云函數(shù)計(jì)算團(tuán)隊(duì)打造的企業(yè)級(jí)AIGC平臺(tái)，專為解決企業(yè)AI生圖需求而生。平臺(tái)支持一鍵托管ComfyUI、StableDiffusionWebUI等主流生圖工具，調(diào)試完成后即可發(fā)布為高性能API，提供從模型管理到工作流編排的全鏈路企業(yè)級(jí)服務(wù)。業(yè)務(wù)場(chǎng)景電商場(chǎng)景廣告場(chǎng)景業(yè)務(wù)場(chǎng)景電商場(chǎng)景廣告場(chǎng)景教育場(chǎng)景游戲場(chǎng)景輔助設(shè)計(jì)場(chǎng)景…產(chǎn)品功能文件管理實(shí)例登錄模型廣場(chǎng)Lora訓(xùn)練異步調(diào)用彈性APIFunctionAI圖像生成平臺(tái)能力應(yīng)用開發(fā)應(yīng)用調(diào)試應(yīng)用部署應(yīng)用監(jiān)控應(yīng)用運(yùn)維文件存儲(chǔ)文件存儲(chǔ)云基礎(chǔ)設(shè)施對(duì)象存儲(chǔ)OSSFunArt，簡(jiǎn)化從靈感到API調(diào)用的每一步開箱即用一鍵拉起圖像生成項(xiàng)目，分鐘級(jí)完成端到端環(huán)境搭建靈活開放支持上傳自定義模型、插件、適配個(gè)性化需求一鍵發(fā)布項(xiàng)目開發(fā)階段調(diào)試通過(guò)的流程可直接發(fā)布為APIServerless算例與定價(jià)按實(shí)際使用算力計(jì)費(fèi)模型加載加速FunctionAI底層算例在網(wǎng)絡(luò)層、容器層、模型層做了優(yōu)化，模型加載速度提升約30%應(yīng)用推理加速使用Int4、DeepGPU等加速方案對(duì)文生圖生圖/文生視頻提供開箱即用的云端ComfyUI，StaLoRA模型訓(xùn)練企業(yè)級(jí)ServerlessAPI調(diào)用FunArt聯(lián)合ModelScope推出一站式LoRA模型訓(xùn)練平臺(tái)。支持租戶隔離及私有化部署，完成從數(shù)據(jù)集打標(biāo)-模型訓(xùn)練的全流程。通過(guò)微調(diào)LoRA模型訓(xùn)練，得到一個(gè)03設(shè)計(jì)、營(yíng)銷新范式下的案例AIGC技術(shù)呈現(xiàn)出前所未有的創(chuàng)新和想象力，提高企業(yè)內(nèi)容生產(chǎn)的效率和質(zhì)量杭州亞運(yùn)會(huì)：長(zhǎng)卷設(shè)計(jì)AIGC風(fēng)格化海報(bào)：產(chǎn)品藝術(shù)海報(bào)AIGC風(fēng)格化海報(bào)：產(chǎn)品藝術(shù)海報(bào)AIGC風(fēng)格化海報(bào)：視覺(jué)海報(bào)超級(jí)符號(hào)｜大疆的視覺(jué)海報(bào)保持符號(hào)的穩(wěn)定可見呈現(xiàn)強(qiáng)化品牌符號(hào)AIGC風(fēng)格化海報(bào)：海報(bào)重繪AIGC風(fēng)格化海報(bào)：電商頭圖排版AIGC試衣：平鋪圖試穿深的意義。框合影。大提升了社交價(jià)值。人臉遷移AI網(wǎng)關(guān)搭建與落地實(shí)踐梓洋AI原生產(chǎn)品解決方案架構(gòu)師2026/01/27CONTENT02AI網(wǎng)關(guān)產(chǎn)品核心能力與落地實(shí)踐03AI網(wǎng)關(guān)應(yīng)用場(chǎng)景及案例一、AI應(yīng)用落地的核心挑戰(zhàn)AI應(yīng)用落地過(guò)程中遇到的核心挑戰(zhàn)安全與合規(guī)風(fēng)險(xiǎn)lAPI-KEY泄漏風(fēng)險(xiǎn)l敏感數(shù)據(jù)泄露l生成內(nèi)容不可控集成復(fù)雜度l統(tǒng)一多模型代理l權(quán)限管理復(fù)雜高可用保障l模型服務(wù)中斷l(xiāng)RT和成功率波動(dòng)影響用戶體驗(yàn)成本失控二、AI網(wǎng)關(guān)產(chǎn)品核心能力與落地實(shí)踐AI網(wǎng)關(guān)產(chǎn)品核心能力AI安全防護(hù)模型代理LLMAPI（百煉、OpenAI、豆包等）http轉(zhuǎn)mcp存量HTTP服務(wù)API工具代理AI安全防護(hù)模型代理LLMAPI（百煉、OpenAI、豆包等）http轉(zhuǎn)mcp存量HTTP服務(wù)API工具代理AI網(wǎng)關(guān)proxyAgent代理AI觀測(cè)AI限流AI緩存MCPproxyAgent代理AI觀測(cè)AI限流AI緩存MCPServeronFCAgentAPIAgentAPIAI安全護(hù)欄百煉應(yīng)用等AI安全護(hù)欄百煉應(yīng)用等Redis/VectorDBAI網(wǎng)關(guān)落地實(shí)踐--解決用戶管理失控問(wèn)題核心問(wèn)題1：我以什么樣的方式將LLM服務(wù)暴露給大家呢？如何進(jìn)行權(quán)限管控？解法：OpenAIAPI的協(xié)議基本已經(jīng)是標(biāo)準(zhǔn)協(xié)議，目前市場(chǎng)面上大部分LLM都支持OpenAIAPI協(xié)議。所以提供遵循OpenAIAPI協(xié)議的HTTP接口就可以讓企業(yè)員工通過(guò)各種方式使用LLM服務(wù)和能力。通過(guò)創(chuàng)建消費(fèi)者，對(duì)模型側(cè)的API-Key進(jìn)行保護(hù)，防止泄露導(dǎo)致的盜刷。核心問(wèn)題2：企業(yè)內(nèi)部部署DeepSeekR1滿血版，公司好幾千人，但GPU資源有限，如何限制用戶？解法：AI接口一旦暴露出去，基本上不可能只讓一小部分人知道，所以需要對(duì)訪問(wèn)LLM服務(wù)的用戶做以限制，只讓能訪問(wèn)的人訪問(wèn)，不能訪問(wèn)的人即便知道了接口也無(wú)法訪321創(chuàng)建消費(fèi)者可以對(duì)應(yīng)一個(gè)團(tuán)隊(duì)、一個(gè)組織等。321創(chuàng)建消費(fèi)者可以對(duì)應(yīng)一個(gè)團(tuán)隊(duì)、一個(gè)組織等。消費(fèi)者授權(quán)給消費(fèi)者分配可以訪問(wèn)哪些LLM服務(wù)接口。給消費(fèi)者分配可以訪問(wèn)哪些LLM服務(wù)接口。新增或重置。建議建議建議可以將一個(gè)消費(fèi)者對(duì)應(yīng)到一個(gè)團(tuán)隊(duì)不同的LLM服務(wù)接口權(quán)限。請(qǐng)消費(fèi)者的流程接入企業(yè)的審批流分發(fā)AI網(wǎng)關(guān)落地實(shí)踐--解決安全合規(guī)的問(wèn)題核心問(wèn)題：模型托管平臺(tái)自帶好幾層內(nèi)容安全審核機(jī)制，但是我們?cè)贗DC部署或者在FC部署的，如何能方便的接入內(nèi)容安全審核服務(wù)？解法：AI網(wǎng)關(guān)中的AIAPI集成了阿里云的內(nèi)容安全防護(hù)和AI安全護(hù)欄服務(wù)，可以一鍵開啟。安全防護(hù)的規(guī)則還是要在內(nèi)容安全服務(wù)側(cè)配置。支持請(qǐng)求內(nèi)容檢測(cè)。支持響應(yīng)內(nèi)容檢測(cè)。支持防護(hù)等級(jí)配置。支持消費(fèi)者級(jí)別攔截。AI網(wǎng)關(guān)落地實(shí)踐—聯(lián)網(wǎng)搜索降低模型幻覺(jué)問(wèn)題核心問(wèn)題：公司部署了DeepSeekR1671B的模型，但推理的結(jié)果和DS官網(wǎng)推理的結(jié)果有差距，似乎不滿血？解法：推理的結(jié)果和DS官網(wǎng)推理的結(jié)果有差距大概率是因?yàn)镈S官網(wǎng)開啟了聯(lián)網(wǎng)搜索。DeepSeekR1671B的模型推理能力是很強(qiáng)，但訓(xùn)練的數(shù)據(jù)也是有限的，所以要解決幻覺(jué)還需是要在推理前先搜索和處理出比較確切的信息后，再由DSR1推理，所以聯(lián)網(wǎng)搜索是非常關(guān)鍵的。目前模型托管平臺(tái)提供的DSR1API和自己部署的DSR1都需要自己實(shí)現(xiàn)聯(lián)網(wǎng)搜索。1支持夸克聯(lián)網(wǎng)搜索AI網(wǎng)關(guān)在AIAPI維度集成了夸克和必應(yīng)的聯(lián)網(wǎng)搜索能力2搜索結(jié)果自動(dòng)融合搜索策略有多種配置項(xiàng)。搜索結(jié)果自動(dòng)融合進(jìn)輸入的問(wèn)題意圖識(shí)別3問(wèn)題意圖識(shí)別3默認(rèn)使用小模型對(duì)用戶的問(wèn)題做意AI網(wǎng)關(guān)落地實(shí)踐--解決同一域名/API訪問(wèn)不同模型的問(wèn)題核心問(wèn)題1：公司GPU資源有限，部署了滿血版DeepSeekR1，還有其他一些小模型以及使用百煉的模型服務(wù)，現(xiàn)在域名都不統(tǒng)一，分發(fā)、管理、集成的成本都很高，如何使用同一個(gè)域名來(lái)訪問(wèn)不同的模型？解法：滿血DSR1和其他模型或者閉源LLMAPI服務(wù)共存，保持同一個(gè)API接口，不同業(yè)務(wù)通過(guò)請(qǐng)求中的模型名稱，切換不同的模型。滿血DSR1和其他模型或者閉源LLMAPI服務(wù)共存，保持同一個(gè)API接口，不同業(yè)務(wù)通過(guò)請(qǐng)求中（Header，Cookie等）攜帶3同一個(gè)API請(qǐng)求3不同模型2維護(hù)多個(gè)模型服務(wù)型服務(wù)被維護(hù)在AI網(wǎng)關(guān)。建議在一個(gè)AIAPI中可以添加多個(gè)模型服務(wù)。建議模型名稱通過(guò)Glob語(yǔ)法進(jìn)行匹配。優(yōu)先推薦使用模型名稱匹配切換的AI網(wǎng)關(guān)落地實(shí)踐--解決百煉DSR1QPM/Token限制的問(wèn)題核心問(wèn)題：我們使用百煉平臺(tái)上提供的DSR1671B模型的API，但是有15000QPM和1200000TPM的配額限制，不能滿足業(yè)務(wù)需求，但是每次升配很麻煩。解法：不只是百煉，目前所有的模型托管平臺(tái)都有QPM和TPM的限制，并且有些平臺(tái)是很難升配這個(gè)限制的，所以大多數(shù)用戶都會(huì)選擇申請(qǐng)多個(gè)帳號(hào)（APIKey變相的撐大這個(gè)配額限制，但缺點(diǎn)是在業(yè)務(wù)里管理多個(gè)APIKey是一件很麻煩的事。對(duì)輸入/輸出內(nèi)容做緩存，減少對(duì)模型服務(wù)的請(qǐng)求次數(shù)以及Token消耗，從而提升業(yè)務(wù)側(cè)的請(qǐng)求性能。32APIKey可實(shí)時(shí)維護(hù)32APIKey可實(shí)時(shí)維護(hù)AIAIAPI維度支持將輸入和輸出緩存到支持精確匹配支持向量化檢索匹配模型服務(wù)支持多建議建議在非常垂直類的應(yīng)用場(chǎng)景下適合開啟結(jié)果緩存，但建議開向量化檢索匹配在非常垂直類建議建議在非常垂直類的應(yīng)用場(chǎng)景下適合開啟結(jié)果緩存，但建議開向量化檢索匹配在非常垂直類，問(wèn)題和答案非常固定的應(yīng)用場(chǎng)景下可以開精確匹配在泛業(yè)務(wù)場(chǎng)景下開啟結(jié)果緩存可能會(huì)降低推理精度或準(zhǔn)確性，需要結(jié)合業(yè)務(wù)判斷和考量通過(guò)AI網(wǎng)關(guān)OpenAPI將添加APIKey的行為集成到客戶自己的自動(dòng)化平AI網(wǎng)關(guān)落地實(shí)踐--解決模型服務(wù)高可用的問(wèn)題核心問(wèn)題：公司的主力模型是FC上部署的DSR1671B，但GPU資源并不是基于流量峰值儲(chǔ)備的，所以當(dāng)高峰期時(shí)，DS服務(wù)會(huì)請(qǐng)求失敗，有什么辦法可以保證業(yè)務(wù)健壯性？解法：有兩種做法，并且可以搭配使用：可以構(gòu)建多個(gè)個(gè)兜底模型服務(wù)，如果要保證模型一致，可以主力使用FC上部署的，兜底使用百煉平臺(tái)提供的。實(shí)現(xiàn)當(dāng)FC上部署的DS服務(wù)請(qǐng)求失敗時(shí)，F(xiàn)allback到百煉平臺(tái)托管的DSR1服務(wù)。從而保證業(yè)務(wù)的連續(xù)性和健壯性。通過(guò)基于Tokens的限流策略，解決Burst流量，保護(hù)后端開啟ModelAPI維護(hù)多個(gè)模型服務(wù)開啟ModelAPI維護(hù)多個(gè)模型服務(wù)模型服務(wù)被維護(hù)在AI網(wǎng)關(guān)。QPS、并發(fā)等維度限流支持多種限流判斷條件：AIAPI一鍵開啟Fallback策略。當(dāng)主LLM服務(wù)出現(xiàn)異常后Fallback到指定的其他LLM服務(wù)。支持配置多個(gè)Fallback模型服務(wù)。AI網(wǎng)關(guān)落地實(shí)踐—LLM可觀測(cè)最佳實(shí)踐&貨幣化核心問(wèn)題：如何統(tǒng)計(jì)不同模型的調(diào)用情況，如何了解不同消費(fèi)者對(duì)于模型的調(diào)用量？如何確認(rèn)Fallback的情況？解法：AI網(wǎng)關(guān)集成可觀測(cè)能力，能夠統(tǒng)計(jì)整體調(diào)用上的Token消耗、模型消耗、各消費(fèi)者使用情況、QPS、首包RT等信息，提供全面的可觀測(cè)指標(biāo)。AI網(wǎng)關(guān)落地實(shí)踐–0代碼轉(zhuǎn)換MCPServer解法：通過(guò)AI網(wǎng)關(guān)，可以實(shí)現(xiàn)0代碼將原有的OpenAPI服務(wù)轉(zhuǎn)化成MCPServer，無(wú)需重新開發(fā)解決客戶痛點(diǎn)開發(fā)一個(gè)AI應(yīng)用或者做現(xiàn)存業(yè)務(wù)的AI增強(qiáng)，AIAgent是需要和大量現(xiàn)存業(yè)務(wù)做交互的，MCP雖然統(tǒng)一的協(xié)議，但將現(xiàn)存業(yè)務(wù)重構(gòu)為MCPServer的成本是非常高的，并且目前支持的開發(fā)語(yǔ)言有會(huì)讓很多企業(yè)想擁抱MCP，但又無(wú)從下手。解法：通過(guò)AI網(wǎng)關(guān)，可以實(shí)現(xiàn)0代碼將原有的OpenAPI服務(wù)轉(zhuǎn)化成MCPServer，無(wú)需重新開發(fā)解決客戶痛點(diǎn)開發(fā)一個(gè)AI應(yīng)用或者做現(xiàn)存業(yè)務(wù)的AI增強(qiáng)，AIAgent是需要和大量現(xiàn)存業(yè)務(wù)做交互的，MCP雖然統(tǒng)一的協(xié)議，但將現(xiàn)存業(yè)務(wù)重構(gòu)為MCPServer的成本是非常高的，并且目前支持的開發(fā)語(yǔ)言有會(huì)讓很多企業(yè)想擁抱MCP，但又無(wú)從下手。Serverless應(yīng)用引擎SAE各種服務(wù)來(lái)源A領(lǐng)域MCP服務(wù)AIAgent通義靈碼B領(lǐng)域MCP服務(wù)組裝服務(wù)來(lái)源快速實(shí)現(xiàn)協(xié)議轉(zhuǎn)換C領(lǐng)域MCP服務(wù)AI網(wǎng)關(guān)通過(guò)白屏化操作，將各類服務(wù)快速接入AI網(wǎng)關(guān)。AI網(wǎng)關(guān)可以將多個(gè)后端現(xiàn)存服務(wù)組裝為一個(gè)MCP服務(wù)。AI網(wǎng)關(guān)提供多種方式配置MCPTool描述信息。AI網(wǎng)關(guān)提供消費(fèi)者認(rèn)證體系，可以對(duì)消費(fèi)者授權(quán)可使用的MCP服務(wù)。D領(lǐng)域MCP服務(wù)CustomAgent負(fù)責(zé)協(xié)議轉(zhuǎn)換，將HTTP轉(zhuǎn)換為MCP多種方式配置MCPTool信息消費(fèi)者授權(quán)MCP服務(wù)針對(duì)MCP服務(wù)配置各類策略/插件…虛擬MCP語(yǔ)義檢索后端服務(wù)……0代碼改動(dòng)AI網(wǎng)關(guān)落地實(shí)踐–MCPserver的統(tǒng)一代理和鑒權(quán)核心問(wèn)題：建設(shè)企業(yè)內(nèi)部的MCPMarketplace，能夠?qū)⑵髽I(yè)自有的工具以MCPserver的形式提供給大模型調(diào)用，同時(shí)能夠?qū)⑵髽I(yè)管理的外部API（如地圖API等）以MCPserver的方式提供給內(nèi)部AIAgent使用，且能支持對(duì)外部工具鑒權(quán)的統(tǒng)一收口和二次簽發(fā)。解法：通過(guò)AI網(wǎng)關(guān)（withMCP為AIAgent調(diào)用工具，提供統(tǒng)一的接入點(diǎn)和管理界面，支持對(duì)接各類內(nèi)外部API和運(yùn)行時(shí)，能夠在網(wǎng)關(guān)上統(tǒng)一對(duì)MCP調(diào)用進(jìn)行觀測(cè)和治理，從而降低AIAgent使用工具的門檻，提升企業(yè)AI應(yīng)用的安全性和穩(wěn)定性。包含3種接入形式：ladapt用戶API或服務(wù)為MCPserversAI網(wǎng)關(guān)落地實(shí)踐–AIagent代理、鑒權(quán)、觀測(cè)核心問(wèn)題：公司當(dāng)前已經(jīng)在使用百煉應(yīng)用、dify等平臺(tái)構(gòu)建AIAgent，不支持二次API-KEY簽發(fā)和更細(xì)力度的限流等策略，也不支持openAI的兼容協(xié)議。希望能夠統(tǒng)一代理和管理A