[阿里云AI原生應用架構白皮書AINATIVEAPPLICATIONARCHITECTUREWHITEPAPER2025AI原生應用架構白皮書我們正處在一個激動人心的時代。AI正在引發(fā)一場技能的大規(guī)模通脹，來越稀缺的通貨"技術品味”卻成為了越我們正身處AI技術革命的浪潮中，大模型的能力持續(xù)提升，不但能夠解決越來越難的數(shù)學問題，而且能夠寫出越來越復雜的代碼。如何將大模型應用到更多的領域，創(chuàng)造更多的AI應用來改變我們的生活，給老百姓帶來更多的福扯，是我們正在面對的另一個機遇和挑戰(zhàn)。將AI應用在阿里云，我們自身的數(shù)字化實踐覆蓋了翻譯、智能外呼、合同風險審核等眾多領域。在交付實-的過程中，我們需要更多同路人一起探索，一起分享。在這個時間點，我們迎來了《AI原生應用架構白皮書》發(fā)布，這本書為AI應用探索做了階段性總結。路漫漫，其修遠兮，讓我們一起加油，一起去用AI創(chuàng)造更美好的未來。踐中，我們提煉出了企業(yè)Al數(shù)字化實現(xiàn)“ResultasaService（RaaS)的方法論（RIDE）Reorganize（重組組織與生產關系)、ldentify(識別業(yè)務痛點與Al機會)、Define（定義指標與運營體系)、和Execute(推進數(shù)據(jù)建設與工程落地)。一愛橙科技智能引擎算法平臺負責人，王家忙RIDE的每一步都至關重要，我們看到太多企業(yè)在識別了機會后，卻在工程落地時步履維艱。我認為，當前企業(yè)AI轉型的主要矛盾，已經(jīng)演變?yōu)槠髽I(yè)CEO或業(yè)務部門追求社交媒體上炸裂效大模型正催生一個全新的行業(yè)應用的開發(fā)范式，如何從AIPlus到NativeAl，不止是一個產品果”，與“IT部門AI交付能力發(fā)展不均衡、不充分”之間的矛盾。AI應用如何從原型走向生產？如何應對幻覺、延遲、安全與成本等一系列系統(tǒng)性挑戰(zhàn)？和業(yè)務問題，從數(shù)據(jù)處理、模型集成與選代到工程運維，是每個開發(fā)者需要面向下一代的生成式應用深刻思考并擁抱變化的命題。《AI原生應用架構白皮書》給原生應用的技術架構設計、運維和選代提供了一個系統(tǒng)、通用、可操作可實踐的框架層面的指導，希望有更多的開發(fā)者能看到我欣喜地看到，《AI原生應用架構白皮書》提供了翔實且體系化的工程藍圖。它以“云智一體為基石，系統(tǒng)性地回應了企業(yè)在大模型落地過程中最關切的幾大問題：輸出效果、性能、穩(wěn)定性、安全與成本。尤其值得稱道的是，它直面了AI應用“品味”的度量難題。本輪AI浪潮的關其中優(yōu)秀的方法論和案例。-阿里健康CTO，王祥志鍵區(qū)別在于評測沒有標準答案，而這本白皮書對AI評估體系（第九章）的深入剖析，為我們如何量化“好壞”、定義反饋閉環(huán)、驅動數(shù)據(jù)飛輪提供了寶貴的指引。云智一體時代已至，AI原生應用正在重塑軟件開發(fā)的底層邏輯。從傳統(tǒng)的"構成式"架構向“生成式”架構轉變，從基于確定性邏輯的編程轉向自然語言交互，這場技術革命對每一位工程師都然而，一本優(yōu)秀的技術白皮書，其價值遠不止于工程。我常說“書同文，車同軌”，成功的AI轉型必須重建組織內部的AI語境與認知基礎，正如我要求全員通過阿里云的AI大模型意味著機遇與挑戰(zhàn)并存。ACA/ACP認證。這本白皮書以其系統(tǒng)性與全面性，為開發(fā)者、架構師、乃至業(yè)務決策者提供了一套共同的語言框架，有助于打破認知壁壘，實現(xiàn)高效協(xié)同。我誠摯地將其推薦給每一位走在云做為AlCoding領域的從業(yè)者，我深刻感受到Al正在改變代碼的創(chuàng)作方式-一從被動的工具調用轉向主動的智能協(xié)作。這本《AI原生應用架構白皮書》恰逢其時，系統(tǒng)梳理了從架構設計到運維優(yōu)化的完整DevOps生命周期，為工程師們提供了寶貴的實踐指南。智一體道路上的開拓者。-阿里云CIO，蔣林泉特別值得稱道的是，本書不僅涵蓋了AI網(wǎng)關、運行時、可觀測等技術組件，更重要的是提供了”AI重塑萬物的時代已悄然而至，AI原生應用正深刻變革軟件開發(fā)與運維范式，其全生命周期的架構設計、技術選型、工程實踐及運維優(yōu)化均面臨獨特挑戰(zhàn)。

《AI原生應用架構白皮書》應運云智一體視角下的架構思維框架。在AI應用開發(fā)面臨黑盒特性、幻覺問題等挑戰(zhàn)時，這樣的系統(tǒng)性指導顯得尤為珍貴。期望這本白皮書能夠成為每一位AI時代工程師的案頭必備，助力大家而生，該書系統(tǒng)闡述了從設計到運維各環(huán)節(jié)的關鍵要素，兼具理論深度與實踐洞見。它內容精煉、脈絡清晰，是開發(fā)者、架構師、運維工程師及技術決策者理解并構建下一代AI應用的寶貴指南。在這場技術變革中抓住先機，構建真正具有競爭力的AI原生應用。--Qoder資深技術專家，謝吉寶夸克工程技術負責人，萬明成0304AI原生應用架構白皮書《AI原生應用架構白皮書》緊扣這AI技術浪潮奔涌向前，大模型正從技術突破邁向產業(yè)深耕。作為AI開源社區(qū)"通往AGI之路"發(fā)起人，我榮幸推薦這本《AI原生應用架構白皮書》。一時代命題，系統(tǒng)拆解AI原生應用從開發(fā)到運維的全生命周期：從模型、數(shù)據(jù)與場景的核心要當ChatGPT開啟AGI時代，AI原生應用架構范式仍待明確。這本書以"云智一體"為底座，圍繞全生命周期，從架構設計到工程實踐，涵蓋智能體開發(fā)、上下文工程等前沿議題，輔以攜程等實踐案例，為開發(fā)者提供從0到1的"施工圖。愿它成為AI浪潮中的"航海圖”，助力創(chuàng)新應用落地。素，到DevOpS全流程的落地實踐；從智能體開發(fā)范式、上下文工程優(yōu)化，到網(wǎng)關集成、安全防護與效能評估，為讀者呈現(xiàn)了一套清晰的方法論與工具箱。無論是探索AI落地的企業(yè)，還是深耕技術的開發(fā)者，均可從中獲取關鍵洞察，助力AI真正成為驅動產業(yè)升級的核心引擎。誠薦一讀！A一通往AGI之路發(fā)起人，-MCP.SO，《這就是MCP》作者，艾逗筆AI當下其實可以說還是在非常早期，處于百廢待興的狀態(tài)，各種基礎設施和基本定義都還不健全，這個時候有一本講解AI應用開發(fā)范式的書籍是非常有價值的。大家可以看到本書覆蓋的范圍非常廣，基本涵蓋了各個流程的基礎知識，所以你如果是一個對AI行業(yè)和開發(fā)感興趣的人，本書會非常適合你。大模型正引領一場深刻的技術革命，AI應用替代傳統(tǒng)軟件已成大勢所趨，一個全新的軟件“大航海時代”已然開啟。大模型以其近乎人類的對話式交互，將吸引遠超以往的開發(fā)者和創(chuàng)造者投身其中。在這波瀾壯闊的浪潮中，這本白皮書系統(tǒng)性地拆解了AI原生應用的技術與架構，它將如同一座燈塔，為所有已經(jīng)或即將啟航的航海家們指明方向，照亮前行的道路。-42章經(jīng)創(chuàng)始人，曲凱-MuleRunCTO，束駿亮《AI原生應用架構白皮書》以清晰的架構視角和工程實踐，為每一位AI開發(fā)者提供了系統(tǒng)化的成長路徑。該白皮書從開發(fā)、調試到部署運維，全程貼合實際學習與構建需求，幫助開發(fā)者降低通用人工智能時代，應用架構的范式正在被重塑?！霸浦且惑w”不僅是技術理念，更是產業(yè)未來認知門檻、提升實踐效率。我們始終相信，以學習者為中心的技術普惠，是推動AI真正落地的的基石。此白皮書首次系統(tǒng)性地定義了AI原生應用架構，其深度與廣度令人嘆服。它為所有架構師和技術決策者，提供了全新的航海圖。關鍵。--Datawhale--CherryStudioCEO，王新銘魔搭ModelScope作為開源社區(qū)，見證了開源模型從'可用到"好用'的躍遷。我們深知，Al原生大模型降低了AI原生應用的開發(fā)門檻，卻也帶來了架構、成本與運維方面的全新挑戰(zhàn)。生應用架構白皮書》系統(tǒng)拆解了AI應用全生命周期的核心要素，從上下文工程、Agent開發(fā)，《AI原應用的突破，不僅依賴單點模型能力，更需架構層面的協(xié)同進化。本白皮書從真實落地場景出發(fā)，整合模型服務、工具鏈協(xié)同、AIDevOps等核心要素，為開源生態(tài)中的每一位創(chuàng)造者提供了可復用、可演進的AI原生架構體系。我們堅信：未來的AI，生于開源，長于協(xié)同，成于架工具集成、安全治理到成本優(yōu)化，直擊開發(fā)痛點與運維難點，為開發(fā)者高效構建可靠、落地的AI原生應用提供了清晰的“導航圖”。硅基流動通過構建高效、易用的MaaS平臺讓AI應用落構。這本白皮書，正是這場進化的重要路標。地更簡單，與白皮書理念高度契合。我們期待業(yè)內攜手探索，讓智能真正流動起來。--魔搭社區(qū)（ModelScope）一硅基流動聯(lián)合創(chuàng)始人，楊攀0506前言AI原生應用架構白皮書云智一體其中，以AgenticAIl為核心的技術路徑逐漸成為主流，其通過自主規(guī)劃、任務拆解與動態(tài)交互能力，推動AI從工具化應用向自主化服務演進，加速實現(xiàn)對數(shù)字世界的智能重塑與高效接管。碳硅共生隨著大模型與感知、控制技術的深度融合，具身智能正從實驗室走向產業(yè)實踐。從工廠的智能協(xié)作機器人到家庭服務終端，其發(fā)展依托于數(shù)字空間的智能能力向物理世界的延伸。PhysicalAl前言作為這一進程的前沿方向，正推動AI從數(shù)據(jù)驅動的數(shù)字決策，逐步拓展至對實體環(huán)境的感知規(guī)劃與執(zhí)行，進而實現(xiàn)對物理世界的智能化賦能與協(xié)同?？梢?，大模型已完成從技術突破到產業(yè)應用的關鍵跨越，AI正深度融入并重塑數(shù)字世界，并持續(xù)向物理世界延伸，最終推動人類生產生活方式的根本性變革通用人工智能（AGI）已是確定的事情，我們正通往超級人工智能（ASI）在這一進程中，云計算以“云智一體”的形態(tài)，成為連接數(shù)字與物理世界的核心底座。極致彈性的算力資源、秒級伸縮的推理服務、跨“云-邊-端”的統(tǒng)一調度框架，以及面向AIDevOps的過去三年，人工智能技術正以前所未有的速度滲透干行百業(yè)。國務院日前也印發(fā)了《關于深入實施“人工智能+”行動的意全生命周期工具鏈，使得應用的訓練、推理和運維像水電一樣隨取隨用；云原生安全、成本治理與多租戶隔離，為企業(yè)級AI應用提供了可信賴的運行環(huán)境；開放的模型即服務（MaaS）生態(tài)，讓任何組織都能以最低門檻接入前沿智能。云不再只是簡單的資源池化，而是與智能算法融見》，從頂層設計的高度為人工智能技術落地提供了關鍵指引。這既展現(xiàn)出重塑生產力的巨大潛力，也孕育著重構生產關系的無限可能，為全球數(shù)字經(jīng)濟的智能化升級注入全新動能。為一體，成為AI能力不可替代的技術平臺，讓智能在數(shù)字世界和物理世界之間自由流動，實現(xiàn)真正的“碳硅共生”為持續(xù)突破AI性能邊界，大模型廠商通過技術路徑選代不斷拓展三個核心維度：在模型參數(shù)層面，從于億參數(shù)，逐步演進至萬億級參數(shù)規(guī)模，實現(xiàn)對復雜知識的深度擬合；在訓練數(shù)據(jù)層面，從數(shù)百GB文本，拓展至數(shù)百TB甚至EB級的多模態(tài)數(shù)據(jù)集，且數(shù)據(jù)質量與領域適配性持續(xù)提升；在算力支撐層面，核心訓練算力需求呈現(xiàn)指數(shù)級增長，其規(guī)模每2年增長約10倍（即“黃氏定律），為模型性能突破提供了有力保障。隨若模型的推理能力和多模態(tài)能力顯著提升，這些技術進步不僅為通用人工智能的實現(xiàn)減少了障礙，也為產業(yè)智能化升級提供了核心驅動力。隨著大模型廠商將訓練與使用成本壓縮至原有水平的幾十分之，AI應用開始跨越效果與成本的平衡臨界點。與此同時，AI原生應用開發(fā)范式逐步形成維形，從模型調用到場景適配的開發(fā)邏輯日漸清晰，為AI應用的深度探索奠定了堅實基礎。自此，AI正式進入規(guī)?；瘧玫谋l(fā)階段。數(shù)據(jù)顯示，過去16個月內全球對AIAgent（智能體）的關注熱度增長達1088%，Al辦公助手、數(shù)字員工、

智能客服等應用如雨后春筍般涌現(xiàn)。這0708AI原生應用架構白皮書前言為什么寫這本白皮書這本白皮書主要講什么AI應用已初步跨越規(guī)?；涞氐拈T檻，但AI原生應用的架構范式仍待明確。不同于傳統(tǒng)軟件開發(fā)通過編程與算法構建的確定性邏輯，AI時代的應用構建以面對自然語言編程、上下文工程為核心特征，將復雜業(yè)務邏輯與決策過程下沉至模型推理環(huán)節(jié)，從而實現(xiàn)業(yè)務的智能化自適應。本白皮書的出發(fā)點是幫助讀者系統(tǒng)，全面地了解AI原生應用的開發(fā)，測試、上線和運維的完整應用生命周期，并輔以實操展示關鍵功能的實現(xiàn)。本書分為11章，每一章節(jié)的核心內容如下。第1章：AI原生應用及其架構構建有競爭力的AI應用，需聚焦三個核心要素：模型、數(shù)據(jù)與場景。對多數(shù)企業(yè)而言，AI應用從大模型技術發(fā)展的回顧開始，正因為其技術上的突破，帶來了應用上的繁榮，并對應用架構的演進歷程進行了梳理，對AI原生應用需要具備的核心能力給出了解釋，以及定義了AI原生應用架構成熟度，作為企業(yè)綜合衡量AI原生應用在技術實現(xiàn)、業(yè)務融合與安全可信等方面所達到的的本質是通過深度挖掘私域數(shù)據(jù)，解決核心場景的效率瓶頸，進而實現(xiàn)快速創(chuàng)新與增長突破。私域數(shù)據(jù)的價值挖掘至關重要，而高質量數(shù)據(jù)的構建需依托系統(tǒng)化能力。AI應用架構的核心，正在于為客戶打造完整的數(shù)據(jù)飛輪，實現(xiàn)私域數(shù)據(jù)的持續(xù)沉淀、行業(yè)數(shù)據(jù)的動態(tài)演進、評估數(shù)據(jù)的量化閉環(huán)與反饋數(shù)據(jù)的選代循環(huán)，最終提供穩(wěn)定可靠的AI服務。水平的一個參考標準。第2章：AI原生應用的關鍵要素然而，AI應用開發(fā)過程中仍面臨諸多挑戰(zhàn)，例如開發(fā)階段強依賴模型黑盒特性，導致結果可控性不足、幻覺問題頻發(fā)，從原型驗證（PoC）到生產部署往往需要數(shù)月調優(yōu)，核心痛點集中在調本章介紹了構建一個AL原生應用所需要的11個關鍵要素，包括模型、設計模式和開發(fā)框架提示詞、知識庫、記憶、工具、評估、可觀測、運行時、集成和安全，并在每一節(jié)描述了各個組件所扮演的角色和功能，給讀者提供一個全貌的了解。第3章到第10章會一一展開。試效率與業(yè)務適配；上線后則面臨推理延遲、穩(wěn)定性波動、不可靠及成本過高等問題，折射出企業(yè)級AI應用在穩(wěn)定性、問題排查困難、安全風險凸顯、輸出性能、安全與成本控制上的系統(tǒng)性挑戰(zhàn)。這些問題的解決，驅需云智一體的全棧能力支撐，包括模型訓練、應用構建和邏輯編排、實時推理加速，以及基于AIOps的智能運維體系等。針對此，本白皮書將圍繞AI原生應用第3章：AI應用開發(fā)框架本章從開發(fā)一個簡單的Agent開始。介紹了標準的智能體開發(fā)流程，以及業(yè)內主流的智能體開發(fā)范式，并圍繞工作流模式、對話模式進行展開。隨后，介紹了業(yè)內討論較多的多智能體、A2A協(xié)議，以及一些實踐，我們認為多智能體是智能體發(fā)展的必然形態(tài)，這是由企業(yè)組織結構、業(yè)務的DevOps全生命周期，從架構設計、技術選型、工程實踐到運維優(yōu)化，對概念和重難點進行系統(tǒng)的拆解，并嘗試提供一些解題思路。需求、成本考量等多方面因素共同決定的。第4章：上下文工程上下文工程是提升輸出效果的重要手段。本章介紹了提示詞、RAG、Memory的定義、功能和業(yè)內主流技術方案，以及未來的演進方向，同時，提供了我們的一線實踐，例如提示詞調優(yōu)，RAG檢索構建和檢索流程優(yōu)化、多級記憶系統(tǒng)構建等。第5章：AI工具工具是大模型向物理世界進行延伸的載體。本章介紹了FunctionCalling和MCP這兩個主流的技術實現(xiàn)方式，并重點圍繞MCP介紹了從零構建和基于存量資源改造（即HTTP轉MCP）兩種實踐路徑。0910前言AI原生應用架構白皮書致謝第6章：AI網(wǎng)關AI網(wǎng)關是大模型最重要的集成能力之一。本章完整地介紹了網(wǎng)關的演進歷程，并解釋了為什么AI原生應用架構中，網(wǎng)關的地位如此重要。隨后，介紹了基于AI網(wǎng)關來構建一個AI應用的實踐，以及探討了API和Agent貨幣化所需要的基礎設施建設。我們曾經(jīng)參與編寫過《云原生應用架構白皮書2022》，《云原生應用架構白皮書2023》《Nacos架構與原理》，《微服務治理技術白皮書》等電子書，也參與編寫過《面向LLM應用的可觀測性能力要求》，《人工智能云AI網(wǎng)關能力要求》等標準，具有一定的編寫經(jīng)驗，但是第7章：AI應用運行時Agent運行時具有豐富的資源供給形態(tài)，不同的供給形態(tài)各有優(yōu)勢，如何選型取決于具體的業(yè)務場景。本章詳細介紹了Serverless運行時的演進歷程，圍繞智能體、工具、沙箱三類運行時方案，以及運行時降本的實踐。在發(fā)起這本《AI原生應用架構白皮書》之初，便深刻感受到AI時代，產品創(chuàng)新的速度之快、架構的復雜度之高、學科的交叉度之廣，都遠超以往，技術成熟度也仍處于行業(yè)發(fā)展初期。單個團隊已經(jīng)很難系統(tǒng)、全面的去解構AI原生應用架構。因此，我們邀請了阿里云內的上下游兄弟團第8章：AI觀測隊、阿里巴巴愛橙科技等聯(lián)合編寫該白皮書，在此表示誠摯的謝意。編寫過程中，我們借助AI提升了內容的結構化程度和完整度，并逐字進行了人工校對。大模型驅動的AI應用，更加復雜。AI應用可觀測是一系列能夠讓工程師全面洞察基于大型語言模型構建的應用的實踐與工具。本章全面介紹了AI應用可觀測的挑戰(zhàn)和應對方式，并圍繞Agent可觀測、AI網(wǎng)關可觀測、推理引擎可觀測，以及架構端到端全鏈路追蹤的技術實現(xiàn)方式我們期望以拋磚引玉的姿態(tài)，為AI原生應用的標準化、體系化發(fā)展提供參考框架，并計劃不定期對白皮書進行更新，持續(xù)呈現(xiàn)AI原生應用架構的前沿思考。我們非常歡迎業(yè)內各方一道，無和實踐。論您是學者、開發(fā)者、或是企業(yè)等，參與進來共同更新白皮書，共同定義行業(yè)共識、破解技術瓶頸，加速推動AI從概念走向產業(yè)、從潛力轉化為價值，讓AI真正成為驅動全球產業(yè)升級與社會第9章：AI評估相比由代碼決定軟件運行邏輯的經(jīng)典應用，大模型應用具有黑盒和不確定性的特征。因此AI評進步的核心力量。估成為構建AI原生應用中的必備要素之一。本章介紹了評估體系中的基礎二分法，探討從靜態(tài)到動態(tài)評估的演進，并給出了自動化評估的一些實踐。若白皮書能對各個人學習和企業(yè)落地AI原生應用架構起到一點點的促進作用，將是我們莫大的第10章：AI安全榮幸。AI與生俱來的非預期行為以及輸出的不可預測性風險，加劇了內部治理和合規(guī)的挑戰(zhàn)。安全成謹以此書，獻給參與AI建設的所有同行者們。為個人和企業(yè)采用AI的重要顧慮。本章介紹了常見的安全風險，并從應用、模型、數(shù)據(jù)、身份、系統(tǒng)和網(wǎng)絡視角全方位的闡述了防護思路、防護框架和解決方案。第11章：通向ASI之路ASI的到來不是一就而就的，而是技術、場景、治理、社會持續(xù)協(xié)同進化的結果。本章節(jié)從技術架構、應用場景、治理體系、社會形態(tài)4個視角總結了AI的發(fā)展歷程，并對未來的發(fā)展趨勢進行展望。AI原生應用架構白皮書數(shù)據(jù)洞見落地場景DATA提升員工體驗重塑客戶互動重塑業(yè)務流程推動創(chuàng)新突破INSIGHTS數(shù)據(jù)洞見62%46%56%37%如會議紀要自動生成、郵件處理和回復、文檔如智能客服聊天機器人、智能玩具、智能終端、個性化產品推薦、如發(fā)票自動處理、合同分析和審查、數(shù)據(jù)分析和報告、供應鏈優(yōu)化、預測性維護等。如藥物研發(fā)加速、新材料發(fā)現(xiàn)、教育個性化、今年，我們在杭州、上海、北京、深圳、廣州舉辦了6場AI原生為主題的線下開發(fā)者沙龍，報名總人數(shù)達1382人，我們借此機會調研了國內AI原生應用的落地進程，不同城市的調研結果略有差異，但是整體均差不大，因此我們匯總在一起，提起草和編輯、代碼開發(fā)內容創(chuàng)作、科學實驗分多語言翻譯服務、客戶情感分析等。析等。輔助等。供一個全局的概覽，供大家參考。（除了第一題是單選，其他均是不定項選擇題）實施進程架構或通信協(xié)議44%%647%■已經(jīng)在實施AI應用采用單體的單Agent架構，即一個進程同時接收用戶推理請求，調用LLM后，62%■有計劃實施AI應用，并處于調研階段口仍處于觀望階段直接給用戶返回推理結果。采用分布式的單Agent架構，即有獨立負責接收用戶推理請求的進程，有獨立負責調用LLM的進程，兩者通過跨進程通信完成完整業(yè)務場景37%開發(fā)框架或平臺開源低代碼平臺云廠商商業(yè)產品40%采用單體多Agent架構，即多Agent的通信36%32%36%在同一個進程內完成。開源Python開發(fā)框架采用分布式多Agent架構，即多Agent的通信，跨越不同進，20%開源Java開發(fā)框架27%采用谷歌的A2A（Agent-to-Agent）協(xié)議實現(xiàn)多Agent架構，10%1314數(shù)據(jù)洞見主要挑戰(zhàn)Tool（包含MCP）的采用情況DATA未采用已采用未開發(fā)AI應用，但是將API轉成了MCP長會話狀態(tài)管理算力資源調度異步通信需求數(shù)據(jù)處理鏈路INSIGHTS52%

43%49%68%5難以保障長耗時、多輪次對話的連續(xù)性，面臨會話上下文丟失、推理在高并發(fā)場景下，前端請求流量突發(fā)性強，后端算力資源有限，需實多個AlAgent或工作RAG多源數(shù)據(jù)接入、向量數(shù)據(jù)庫入庫，以及實流節(jié)點間需高效協(xié)作，但同步調用易引發(fā)級聯(lián)時推理與異步推理等場景，需要構建高效的數(shù)據(jù)處理鏈路。任務中斷導致資源浪費等挑戰(zhàn)?，F(xiàn)精細化的負載均衡和優(yōu)先級控制。阻塞，需引入穩(wěn)定可靠的異步通知機制。28%63%25%可觀測痛點AI網(wǎng)關訴求模型路由，以及模型和模型之間可以自動切換。LLM應用調用卡頓，不清楚問題在即里66%44%用戶訪問鑒權。Token級別限流57%LLM成本token消耗，不清楚LLM應用行為應該如何評估。58%48%擔心LLM應用安全。42%39%內容安全管控。58%LLM到模型端到端可觀測鏈路無法打通語義緩存。40%其他20%其他11%1516AI原生應用及其架構大模型技術發(fā)展回顧和產業(yè)價值AI時代應用架構的演進1.11.282502701CONTENTSAI原生應用及其架構的定義AI原生應用架構成熱度1.31.4029032目錄AI原生應用的關鍵要素模型框架提示詞RAG022.12.2039412.32.4046048記憶工具網(wǎng)關運行時可觀測評估安全512.52.62.70540570600622.82.92.100630662.11AI應用開發(fā)框架智能體的定義與主流開發(fā)范式03043.13.2071076080開發(fā)一個簡單的智能體工作流與多智能體3.33.4從單進程到分布式部署消息驅動的智能體開發(fā)模式0891013.53.6基于統(tǒng)一元數(shù)據(jù)的AI協(xié)同開發(fā)模式提示詞工程105AI上下文工程4.14.2109112上下文工程RAG技術原理與挑戰(zhàn)RAG系統(tǒng)優(yōu)化實踐：索引構建4.34.41141171718AI上下文工程AI工具RAG系統(tǒng)優(yōu)化實踐：檢索流程RAG的未來方向0405064.51201241274.6CONTENTS上下文管理與記憶系統(tǒng)4.7目錄AI工具簡介5.15.25.3133137149AI工具標準化MCP實踐AI網(wǎng)關網(wǎng)關的演進歷程6.16.2159165AI網(wǎng)關的定義、特點與應用場景AI網(wǎng)關的核心能力和最佳實踐使用AI網(wǎng)關快速構建AI應用6.36.46.5169178197API和Agent的貨幣化AI應用運行時AI應用運行時的演進趨勢模型運行時07082052097.17.2智能體運行時7.37.47.5212工具與云沙箱216AI應用運行時的降本路線221AI可觀測AI可觀測的挑戰(zhàn)與應對方案8.18.2227端到端全鏈路追蹤229全?？捎^測：應用可觀測全?？捎^測：AI網(wǎng)關可觀測8.38.4235245全?？捎^測：推理引擎可觀測8.52512019AI評估AI安全基于評估降低AI應用的不確定性09109.19.29.39.4259261AI評估體系CONTENTS基于LLM的自動化評估自動化評估落地實踐265270目錄AI安全風險的保護應用安全和分類10.110.2281283285288保護模型安全保護數(shù)據(jù)安全保護身份安全10.310.410.510.6295299保護系統(tǒng)和網(wǎng)絡安全通向ASI之路通向ASI之路1111.13052122AI原生應用架構-章節(jié)一23AlNativeApplicationArchitectureWhitepaperAI原生應用及其架構AlNativeApplicationandArchitecture04020301大模型技術發(fā)展回顧和產業(yè)價值AI時代應用架構的演進AlNativeApplicationComponentsAlDevelopmentFrameworksContextEngineeringAI原生應用及其架構的定義AI原生應用架構成熟度P25-P36P39-P68P71-P106P109-P130AI原生應用架構白皮書第一章：AI原生應用及其架構體系。其通過重構研發(fā)、生產、服務、決策等核心環(huán)節(jié)，催生出五大關鍵價值，成為驅動干行百業(yè)智能化轉型的核心引擎：1.1大模型技術發(fā)展回顧和產業(yè)價值ALIBABACLOUD一是效率新工具。生成式AI可自動化生成高質量內容與數(shù)據(jù)，大幅降低企業(yè)在文檔處理、產品設計、生產運營等環(huán)節(jié)的成本及人力依賴，減少重復性工作消耗，為企業(yè)運營效率提升提供支摔。AI原生應用的發(fā)展，得益于底層大模型技術的突破。而大模型技術也悄然改變著應用架構的演進方向。因此，在介紹AI原生應用及其架構之前，我們先來簡單回顧大模型的發(fā)展歷程和帶來的產業(yè)價值。二是服務新體驗。依托大模型的推理與交互能力，可從服務的精準度、個性化適配、定制化水平及交互人性化等維1.1.1大模型發(fā)展回顧與展望度，打破傳統(tǒng)標準化服務局限，重塑用戶體驗鏈路，讓用戶獲得更優(yōu)質的服務感受。三是產品新形態(tài)。2022年11月，ChatGPT的橫空出世成為人工智能浪潮的標志性事件，不僅讓全球用戶首次直觀感受到生成式AI的潛力，更讓業(yè)界著到了通用人工智能（AGI）的曙光。這一突破的核心驅動力來自深度學習技術的成熟，即神經(jīng)網(wǎng)絡通過對海量數(shù)據(jù)的持續(xù)學習，能夠自主提煉知識規(guī)律并生成類人化內容。在此背景下，模型即服務（MaaS）模式快速興起，企業(yè)無需自建復雜模型，只需通過API接口即可使捷獲取大模型能力。這一階段，AI從實驗室走向商業(yè)場景，逐漸成為各行大模型以生成式能力革新內容創(chuàng)作，降低繪畫、寫作等領域創(chuàng)作門檻；讓硬件設備對圖像、語音等有更精準的感知和理解，推動產品交互模式發(fā)生質的飛躍，催生新形態(tài)產品。四是決策新助手。AI融合數(shù)據(jù)驅動、實時優(yōu)化等能力，重構企業(yè)從戰(zhàn)路到運營的決策鏈條，將傳統(tǒng)經(jīng)驗驅動升級為“數(shù)據(jù)+算法+領域知識”的復合智能，提升決策的科學性與效率。業(yè)數(shù)字化轉型的核心驅動力。2024年，大模型技術再次迎來質的飛躍：OpenAI推出了o01模型，其強推理能力標志著大模型五是科研新模式。在邏輯思維、復雜任務規(guī)劃等領域的突破；而40模型的發(fā)布，則實現(xiàn)了文本、語音、視覺的全模態(tài)融合，為跨模態(tài)交互和場景化應用奠定了技術基礎。AI憑借智能計算平臺、數(shù)據(jù)處理及大模型算法能力，加速科學發(fā)現(xiàn)、優(yōu)化實驗設計、解決復雜科研問題，為科研人員提供全新工具與方法，為科研注入活力、提升效能。2025年成為AI應用落地的關鍵轉折點：隨著多家大模型廠商宣布支持模型上下文協(xié)議（MCP）以及Google推出A2A架構，具備自主決策能力的Agent迎來大規(guī)模落地，這標志著AI從單點工具向系統(tǒng)級生產力工具的轉變。正如阿里巴巴集團CEO、阿里云智能集團董事長兼CEO吳泳銘在2024年云棲大會上所言："AI的最大想象力是接管數(shù)學世界，改變物理世界"。綜上可見，大模型的產業(yè)價值不僅體現(xiàn)在技術層面的顛覆，更在于其對生產關系、組織形態(tài)和社會結構的深層重構。未來，隨著模型能力的持續(xù)進化，AI原生應用將進一步打破行業(yè)邊界，推動社會文明邁入“碳硅共生”的新紀元。展望未來，隨著腦機接口、自演化人工智能、量子計算等技術的突破和應用，AI和人類將成為共同進化的伙伴，走向深度共生，并重構整個社會文明的范式。這種轉變不僅影響技術層面，更將深刻改變人類社會結構、經(jīng)濟形態(tài)和生活方式。1.1.2大模型的五大產業(yè)價值大模型的技術突破不僅重塑了AI的能力邊界，更通過深度滲透各行業(yè)，催生了全新的產業(yè)價值2526AI原生應用架構白皮書第一章：AI原生應用及其架構1.2.2云原生應用架構向AI原生應用架構的躍遷1.2AI時代應用架構的演進1.2.11T應用架構的演進脈絡過去十年，云原生（CloudNative）重塑了應用架構的基石，它強調以容器、微服務為代表的基礎設施能力，確保應用能夠在云環(huán)境下具備敏捷性、可擴展性和可觀測性。今天，AI成為新的需求放大器，給應用提出了智能優(yōu)先的命題，促使全行業(yè)邁向AI原生。如果說，云原生解決的是如何高效地運行，那么AI原生是在此基礎上解決如何智能地運行。ALIBABACLOUD從計算機誕生至今，IT應用架構的演進始終遵循“業(yè)務痛點→技術突破一→架構升級”的邏輯，每一步都源于業(yè)務對穩(wěn)定性、可維護性和協(xié)作效率的提升追求：在大語言模型（LLM）出現(xiàn)之前，AI以功能模塊形態(tài)嵌入系統(tǒng)，包括圖像識別、推薦算法、風控模型等，它們依賴監(jiān)替學習和既定規(guī)則，邊界清晰，職責單一，不會去改變系統(tǒng)的核心架構。LLM的誕生打破了這一邊界。LLM具備通用理解、推理和生成能力，并能通過函數(shù)調用、外部工具聯(lián)動和知識庫，形成可擴展的Agent體系。由此，AI由嵌入功能躍升成為應用的底座。實現(xiàn)快維護成本高模塊化負載均衡服務管理高密度部著原子、自治按量使用極致彈性基于模型因此，一種全新的應用范式，Al原生應用（AlNativeApplication）應運而生，其運行邏輯不RPC技術Agent驅動再完全由工程師編寫的代碼所決定，而是由大模型進行自主判斷、行動和生成，并具備以下3個特征：X、以LLM為核心，用自然語言統(tǒng)一交互協(xié)議；ECSLLMsKubernetes以多模態(tài)感知擴展輸入邊界，以Agent框架編排工具鏈；以數(shù)據(jù)飛輪驅動模型持續(xù)進化，實現(xiàn)系統(tǒng)的自我優(yōu)化。當我們說AI原生應用的時候，并非拋棄云原生應用。相反，它建立在云原生的基礎之上，依然會廣泛使用容器化、容器編排和微服務等技術，來確保AI原生應用能夠實現(xiàn)彈性、可靠、高效地部署和運維。廣義上講，無論是云原生應用，還是AI原生應用，都越來越依賴云這一基礎設施，基于云來構建應用，兩者都是云原生的應用。+單體架構：早期業(yè)務場景簡單，單體架構以一站式開發(fā)快速落地，但隨著功能疊加，代碼耦合導致“修改一處，影響全局”，維護成本陡增，成為業(yè)務創(chuàng)新的加鎖。垂直架構：當業(yè)務線分化，垂直架構通過模塊化拆分實現(xiàn)負載均衡，緩解了單一應用的膨脹問題，但模塊間協(xié)作仍依賴硬編碼，跨域交互效率低下。*面向服務架構（SOA）：企業(yè)級系統(tǒng)互聯(lián)需求爆發(fā)，SOA以服務化技術實現(xiàn)功能解耦與復用，應用架構是指導如何系統(tǒng)性地構建應用。在云原生應用架構中，我們討論的是容器如何管理、服務如何拆分、流量如何治理。而在AI原生應用架構下，其目標是在滿足可擴展、可觀測、安全合規(guī)的同時，最大化釋放大模型的智能潛力。但集中式服務治理的復雜度，仍制約著響應速度。微服務架構：互聯(lián)網(wǎng)流量井噴，微服務將業(yè)務拆解為原子級自治單元，支持獨立部署與彈性擴展，但細粒度服務帶來的運維壓力，技術進一步突破。*云原生架構：Kubernetes等技術通過容器化、集群化管理，解決了微服務的運維難題，實現(xiàn)按量使用、秒級彈性的極致資源調度。至此，云不再只是資源池，而是默認的運行環(huán)境，可以看到，每一次架構的升級，都是在滿足業(yè)務規(guī)模更大、需求變化更快、資源成本更低情況下的訴求，先用拆分降低復雜度問題，或用平臺化屏蔽復雜度問題。2728AI原生應用架構白皮書第一章：AI原生應用及其架構依托大語言模型在語義理解與推理方面的能力，AI原生應用能夠在面對模糊和復雜的開放式任務時，自主生成和調整業(yè)務執(zhí)行邏輯，并根據(jù)需要完成工具調用與流程編排。這一特征使其不再局限于處理預定義的有限問題，而能夠擴展至應對更復雜和動態(tài)的現(xiàn)實世界場景。1.3AI原生應用及其架構的定義ALIBABACLOUD此外，大語言模型不僅具備對既有信息的理解與處理能力，還具備生成新內容的能力?；谶@一特性，AI原生應用的價值已超越傳統(tǒng)意義上的效率提升與服務優(yōu)化，進一步演化為人機協(xié)作中的內容生成引擎和創(chuàng)新催化器，為產品研發(fā)和科學研究的創(chuàng)新模式提供了新的可能性。上一節(jié)我們講到應用架構是指導如何系統(tǒng)性地構建應用。在AI原生應用架構下，其目標是在滿足可擴展、可觀測、安全合規(guī)的同時，最大化釋放大模型的智能潛力。以下是典型的AI原生應用架構，涵蓋了模型、應用開發(fā)框架、提示詞、RAG、記憶、工具、網(wǎng)關、運行時、可觀測、評估和安全等關鍵要素。我們將在第2章中展開。1.3.2Agent編排和執(zhí)行AI原生應用架構基于模型，Agent驅動，以數(shù)據(jù)為中心，整合工具鏈傳統(tǒng)應用更多是工具，Agent卻是一個助手或者伙伴。這個助手能夠有聰明的大腦（模型）豐富的經(jīng)驗和記憶（數(shù)據(jù)），靈巧的雙手（工具），并且基于設定的角色協(xié)同完成的任務。當單Agent無法完成復雜任務的時候，可以協(xié)同多Agent編排完成復雜任務；當自身能力受限的時候擴展工具，乃至自己編寫工具完成任務。從而確保能夠自主感知，決策，行動。事件驅動MCPRegister&:Prompt模,版ApacheRocketMoNacos端&生態(tài)AlAgentAIGatewayLLM手機APIGatewayHigressSprigAlAlibh/Aentscpe通義Hlgreis手表AlPrny1.3.3數(shù)據(jù)優(yōu)化決策PCPAD由于模型輸出具有概率性和不確定性，AI原生應用的邏輯表現(xiàn)也可能存在偏差，甚至在某些情況下完全不符合用戶或業(yè)務方的預期。為了解決這一問題，AI原生應用必須具備基于數(shù)據(jù)驅動的持續(xù)進化能力。[OpenTelemetryOpenTelemetryOpenTelemetryAI觀測&評估工具巢LLMObservabilityMCPServer在多輪交互中，AI原生應用需要能夠持續(xù)保留并利用歷史信息，以便理解用戶的偏好、行為習慣與目標。這使得應用不僅能夠準確響應用戶需求，還能在長期使用過程中識別并把握用戶的整在此架構之上，構建的Al原生應用，是以大模型為認知基礎，以Agent為編排和執(zhí)行單元，體行為模式，從而形成更為精準的個性化響應。以數(shù)據(jù)作為決策和個性化基礎，通過工具感知和執(zhí)行的智能應用。AI原生應用的出現(xiàn)，標志著智能軟件形態(tài)的根本性轉變，其核心能力可以歸納為以下四個方面。同時，應用還需要通過數(shù)據(jù)采集構建高質量的評測數(shù)據(jù)集，并結合行業(yè)數(shù)據(jù)、用戶反饋數(shù)據(jù)和客戶業(yè)務數(shù)據(jù)進行持續(xù)評估與優(yōu)化。通過這一機制，AI原生應用不僅能夠更準確地理解用戶需求，還能更好地契合具體業(yè)務場景，實現(xiàn)越用越智能的持續(xù)進化。1.3.1大模型推理決策1.3.4工具調用與環(huán)境連接在傳統(tǒng)應用中，業(yè)務執(zhí)行邏輯通常由開發(fā)者使用編程語言（如Java、C++等）進行編碼，其執(zhí)行路徑在設計階段即被固定，缺乏靈活性和自適應能力。相比之下，AI原生應用以大語言模型（LLM）為核心驅動，開發(fā)者可以通過Prompt（提示詞）等自然語言方式完成業(yè)務邏輯的構建與配置，從而顯著降低開發(fā)復雜度。盡管大語言模型在語義理解與生成方面展現(xiàn)出強大的能力，其運行機制的本質仍是基于“輸入Token→輸出Token”的序列生成過程。受限于這一機制，模型既無法直接感知外部環(huán)境，也3029AI原生應用架構白皮書第一章：AI原生應用及其架構無法獲取實時更新的知識，更缺乏對物理世界的直接操控能力。1.4Al原生應用架構成熟度為彌補上述局限，AI原生應用通常通過工具調用的方式擴展模型的環(huán)境連接能力。支持語音、圖像乃至動作等多模態(tài)輸入，支持個性化語音、界面交互；支持聯(lián)網(wǎng)檢索獲取最新信息，并且ALIBABACLOUD通過API對接外部系統(tǒng)，或直接驅動企業(yè)內部系統(tǒng)的業(yè)務流程。1.4.1AI原生應用架構成熟度的定義在工具調用的支持下，AI原生應用能夠構建起“感知一推理一行動的閉環(huán)架構：一方面實現(xiàn)對外部環(huán)境的感知與分析，另一方面通過工具完成對現(xiàn)實世界的作用與反饋，從而推動“模型+工具”的協(xié)同運行模式。AI原生應用架構成熟度是指用于綜合衡量AI原生應用在技術實現(xiàn)、業(yè)務融合與安全可信等方面所達到的水平，客觀反映其從簡單功能集成到復雜智能決策的演進階段與發(fā)展層次。成熟度評估不僅關注技術能力的實現(xiàn)程度，更著重于應用在真實場景中創(chuàng)造的業(yè)務價值及其可持續(xù)進化能力。在技術實現(xiàn)方面，AI原生應用與傳統(tǒng)嵌入AI功能的應用存在根本性差異。其核心特征體現(xiàn)為AI作為中心決策系統(tǒng)，深度融入業(yè)務架構的底層邏輯與運行流程。具體而言，首先體現(xiàn)在自然語言交互能力上，系統(tǒng)能夠以類人的理解與表達方式與用戶進行無障礙溝通，顯著降低使用門檻；其次，具備多模態(tài)理解與生成能力，可同時處理文本、圖像、語音、視頻等異構數(shù)據(jù)，并生成符合情境的多模態(tài)輸出，增強應用的泛化能力與表現(xiàn)力。在業(yè)務融合方面，高階的AI原生應用需具備動態(tài)推理與自主決策能力。這不僅限于基于規(guī)則或模式匹配的響應，而是能夠應對復雜、模糊甚至沖突的業(yè)務目標，在動態(tài)環(huán)境中進行多步推理、權衡優(yōu)化并生成可信決策方案。同時，系統(tǒng)可通過在線學習、反饋閉環(huán)和知識沉淀等方式，不斷適應新場景、優(yōu)化性能并擴展能力邊界，實現(xiàn)從專用智能到通用智能的漸進式跨越。安全可信方面，AI原生應用在具備的所有能力必須構建于安全可信的保障機制之上。這包括但不限于數(shù)據(jù)的隱私保護、模型的透明性與可解釋性、決策的公平性與魯棒性，以及生成內容的合規(guī)可控。安全可信是AI原生應用實現(xiàn)規(guī)模化產業(yè)應用的基右，需貫穿于設計、并發(fā)、部署與運營的全生命周期。綜上，AI原生應用架構成熟度是在于推動AI從輔助工具轉變?yōu)楹诵臎Q策主體，通過安全可信、可持續(xù)進化的端到端架構，為規(guī)模化的產業(yè)智能升級提供一套可靠的實現(xiàn)路徑與體系化支摔，以及用于衡量此類應用在技術實現(xiàn)、業(yè)務融合與安全可信等方面綜合發(fā)展水平的評價標準。它不僅反映了應用從功能集成到智能決策的演進層次，更體現(xiàn)了其以AI為核心驅動、深度融合場景與數(shù)據(jù)、實現(xiàn)自主進化與持續(xù)創(chuàng)造價值的能力本質。3132AI原生應用架構白皮書第一章：AI原生應用及其架構1.4.2AI原生應用架構成熟度的演進對話上下文進行意圖理解與多輪交互。技術架構上，開始引入流水線化的數(shù)據(jù)預處理與模型微調機制，支持一定程度的在線學習與送代優(yōu)化。業(yè)務價值表現(xiàn)為在特定場景下實現(xiàn)自動化決策，有效降低人力成本。數(shù)據(jù)安全與隱私保護機制被納入設計考量，但治理體系尚未完全成熟。AI原生應用架構的成熟度評估是其從概念驗證走向規(guī)?；?、產業(yè)化應用的關鍵衡量標尺。本框架將AI原生應用架構的成熟度劃分為四個連續(xù)演進、特征鮮明的等級：概念驗證級（M1）、早ALIBABACLOUD3、成熟應用級（M3）：核心業(yè)務深度集成AI已成為驅動核心業(yè)務流程的關鍵組成部分。應用具備多模態(tài)感知、復雜推理和跨場景協(xié)調能期試用級（M2）、成熱應用級（M3）和完全成熟級（M4）。該分級體系旨在系統(tǒng)性地評估應用在技術實現(xiàn)、業(yè)務融合、價值創(chuàng)造及安全治理等方面的綜合能力水平，為開發(fā)者和企業(yè)提供清晰的演進路徑與優(yōu)化方向。力，能夠在動態(tài)環(huán)境中進行實時決策與資源調度，顯著提升業(yè)務運營的智能化水平。例如，智能供應鏈系統(tǒng)可基于實時市場需求、庫存與物流數(shù)據(jù)，自主進行預測與補貨決策。技術層面，建立了企業(yè)級的一體化AI平臺，支持模型的持續(xù)集成。部署與監(jiān)控，實現(xiàn)高效能的數(shù)據(jù)利用與模型送代。業(yè)務價值從降本增效延伸至模式創(chuàng)新與收入增長。建立了體系化的安全、合規(guī)與倫理治理級別1級英文中文定義框架，保障應用的可靠性與可信度。在特定業(yè)務場景中，通過基礎大模型實現(xiàn)效率提升的初步操索，驗證級試用級4、完全成熟級(M4）：企業(yè)級自適應送代PoCLevelAI原生應用達到高度自主化與自適應的形態(tài)，成為業(yè)務創(chuàng)新的核心引擎。應具備前瞻性預測、戰(zhàn)路級決策與自我優(yōu)化能力，能夠應對未預見的變化，并主動驅動業(yè)務變革與增長。技術層面，構建了企業(yè)內外的知識融合與協(xié)同網(wǎng)絡，模型具備持續(xù)自學習與跨領域遷移能力。應用的價值體現(xiàn)在創(chuàng)造全新的商業(yè)模式、產品與服務，并構建起可持續(xù)的競爭優(yōu)勢。安全、可信與倫理要求已內AI應用開始處理更復雜的任務，形成感知一決策-反饋的初步閉環(huán)能力。2級PilotDeploymentLevelAI應用已深度融入現(xiàn)有業(yè)務系統(tǒng)并能夠驅動核心業(yè)務流程，具備多模態(tài)感知和復雜推理能力。生于系統(tǒng)設計的每一個環(huán)節(jié)，能夠實現(xiàn)前瞻性的風險防控與全局治理。3級Operational應用級成熟級IntegrationLevelAI原生應用架構的成熟度演進是一個從模塊化到集成化，最終邁向驅動化的過程。每一等級的提升，都代表著技術能力、業(yè)務融合度、價值創(chuàng)造力和治理水平的系統(tǒng)性飛躍，為各類組織評估自身應用水平、規(guī)劃未來發(fā)展路徑提供了科學的參考依據(jù)。高度自主化與自適應的AI原生應用，成為業(yè)務創(chuàng)新的核心引擎。4級EnterpriseMaturityLevelAI原生應用架構成熟度分級描述1.4.3AI原生應用架構成熟度的評估1、概念驗證級(M1)：單點功能輔助AI原生應用架構成熟度評估是指衡量其作為以人工智能為核心驅動力的新型應用形態(tài)，在技術在此階段，應用的核心目標是驗證AI技術在特定業(yè)務場景下的技術可行性。AI功能通常以孤立的組件或模塊形式存在，承擔諸如圖像識別、文本生成或簡單問答等單項任務。其決策邏輯相對簡單，多為預定義規(guī)則與基礎模型能力的結合，尚未形成與核心業(yè)務流程的深度閉環(huán)。數(shù)實現(xiàn)、業(yè)務融合與安全可信等方面所達到的綜合水平。這一評估體系不僅關注技術能力的完備性，更強調應用在復雜場景中實現(xiàn)自主決策、持續(xù)進化及創(chuàng)造業(yè)務價值的實際效能。據(jù)利用以離線、批處理為主，模型更新周期長，應用價值主要體現(xiàn)在效率提升的初步探索上，尚未觸及業(yè)務核心。安全與治理機制處于初步構建階段。成熟度間接反映了AI原生應用從初期的功能驗證到高度自治的智能體形態(tài)的演進階段，是指導其健康發(fā)展與選代優(yōu)化的重要依據(jù)。該成熟度評估體系以五大能力特征作為核心評估維度，通過系統(tǒng)化測評應用在自然語言交互、多模態(tài)理解與生成、動態(tài)推理與自主決策、持續(xù)學習與2、早期試用級（M2）：場景化初步閉環(huán)應用進入有限范圍的試點試用。AI開始深入特定業(yè)務環(huán)節(jié)，能夠處理更復雜的場景化任務，并初步形成“感知-決策-反饋”的閉環(huán)能力。例如，在客服場景中，AI不僅能回答問題，還能根據(jù)迭代以及安全可信保障等方面的能力水平，實現(xiàn)對AI原生應用架構發(fā)展階段的精準診斷與量化評估。3334AI原生應用架構白皮書第一章：AI原生應用及其架構5、安全可信AI原生應用架構成熟度能力模型多模態(tài)理解與生成能力功能定義：衡量應用在數(shù)據(jù)隱私、模型安全、算法公平及系統(tǒng)魯棒性等方面提供的全面保障能力。其功能是確保應用在合規(guī)前提下安全、穩(wěn)定、可靠地運行，并贏得用戶信任。自然語言交互能力動態(tài)推理與自主決策能力安全可信評估要點：系統(tǒng)評估其數(shù)據(jù)加密與隱私保護技術強度、模型對抗樣本的魯棒性、決策公平性與可解釋性、內容生成的安全性過濾機制以及合規(guī)性認證情況。該能力是應用實現(xiàn)規(guī)?；渴鸷蜕虡I(yè)化推廣的前提條件。持續(xù)學習與送代能力AI原生應用架構能力模型（持續(xù)選代中）本功能性評估體系通過上述五個維度的標準化度量，旨在為AI原生應用的規(guī)劃、開發(fā)、部署與優(yōu)化提供一套完整的診斷工具和行動指南，最終推動其從概念驗證走向規(guī)?；?、高價值的產業(yè)應用。通過系統(tǒng)化的成熟度評估與建設，能夠有效推動AI技術從單點工具向系統(tǒng)級智能基礎設施演進，為各行各業(yè)的數(shù)字化轉型提供核心驅動力，最終形成安全可控、持續(xù)進化、價值可衡1、自然語言交互能力*功能定義：衡量應用以自然語言為媒介，實現(xiàn)高擬人化、無障礙人機溝通與任務執(zhí)行的能力。其核心在于深度理解用戶指令的語義、上下文及意圖，并生成符合人類交流習慣的回應。評估要點：重點評估其意圖識別準確率、多輪對話維持能力、上下文理解深度以及應答生成量的智能應用生態(tài)。的自然度與準確性。該能力是應用實現(xiàn)低門檻交互和普及化的關鍵指標。2、多模態(tài)理解與生成能力+功能定義：衡量應用對文本、圖像、語音、視頻等多源異構信息的綜合感知、融合理解與跨模態(tài)生成的能力。其功能在于突破單一數(shù)據(jù)模態(tài)的局限，實現(xiàn)對現(xiàn)實世界復雜信息的綜合處理與表達。評估要點：主要評估其跨模態(tài)檢索與關聯(lián)精度、多模態(tài)信息融合效果、以及跨模態(tài)生成的質量與一致性。該能力是應用服務于復雜場景的基礎。3、動態(tài)推理與自主決策能力+功能定義：衡量應用在復雜、動態(tài)且不確定的環(huán)境中，進行多步邏輯推理、態(tài)勢研判并生成最優(yōu)決策方案的能力。其功能超越了基于固定規(guī)則的自動化，實現(xiàn)了對未知情境的主動應對與策略規(guī)劃。評估要點：重點評估其應對突發(fā)事件的響應與策略調整能力、多目標約束下的決策優(yōu)化水平、反事實推理能力以及決策結果的準確性與可解釋性。該能力決定了應用在關鍵業(yè)務場景中的核心價值。4、持續(xù)學習與選代能力*功能定義：衡量應用在全生命周期內，通過反饋數(shù)據(jù)、新知識注入和環(huán)境交互，實現(xiàn)性能自我優(yōu)化、知識庫持續(xù)擴展以及功能選代升級的能力。其功能確保了應用能長期適應需求變化，避免性能衰減。+評估要點：主要評估其模型增量學習與微調效率、基于反饋閉環(huán)的優(yōu)化效果、知識發(fā)現(xiàn)與沉淀能力以及版本平滑演進與回溯機制的完備性。該能力是應用保持長期活力和降低維護成本的核心。3536AI原生應用架構-章節(jié)二37AlNativeApplicationArchitectureWhitepaperAI原生應用的關鍵要素AlNativeApplicationComponents04020301模型框架運行時可觀測評估AlNativeApplicationandArchitectureAlDevelopmentFrameworksContextEngineering提示詞安全RAG記憶工具網(wǎng)關P39-P68P71-P106P109-P130P25-P36AI原生應用架構白皮書第二章：AI原生應用的關鍵要素2.1.2模型能力和微調2.1模型雖然模型的能力非常強大，但是他們的能力主要源于龐大的預訓練數(shù)據(jù)，這也意味若無論模型多強大，它的知識都是固化的。它不認識你公司的最新產品，也不了解你應用的具體API，更不知道你數(shù)據(jù)庫里的實時信息。它的所有能力，都建立在對預訓練數(shù)據(jù)中存在的模式和邏輯的理解之上。模型本身并不知道你的業(yè)務場景里獨有的規(guī)則和工具，你需要將這些信息結構化地描述清楚并且提供給它，它會在每次的交互中動態(tài)地理解你提供的內容，并結合自身的通用知識來完成內容的生成。模型是AI原生應用的重要組成部分，但兩者并不等價。ALIBABACLOUD本章我們將介紹AI原生應用的11個關鍵要素。首先從模型開始。在AI原生應用中，大模型扮演著大腦的角色，負責核心的理解、推理與生成任務。這與傳統(tǒng)應用截然不同。傳統(tǒng)應用依賴固定的規(guī)則，難以應對復雜多變的場景；而大模型的引入，則賦予了應用靈活的思考與決策能力，使其真正具備智能。為了追求極致性能，許多團隊會考慮訓練或微調自己的專屬模型。他們會基于自身的業(yè)務場景，以及標注的私有數(shù)據(jù)來進行訓練和微調。由于專屬模型在訓練過程中見過大量與你業(yè)務相關的標注數(shù)據(jù)，在業(yè)務理解和工具調用時的表現(xiàn)會顯著優(yōu)于通用的大模型。2.1.1模型分類雖然專屬模型的表現(xiàn)非常好，但是它并不適用于所有企業(yè)，訓練和微調的成本是巨大的，它不僅包括高昂的計算資源費用，還需要海量的高質量標注數(shù)據(jù)、專業(yè)的算法團隊以及漫長的開發(fā)周期。這對于絕大多數(shù)企業(yè)而言，投入與產出不成正比，很難持續(xù)。大語言模型（簡稱大模型）是一類具有大量參數(shù)（通常在十億以上），在極為廣泛的數(shù)據(jù)上進行訓練，并適用于多種任務和應用的預訓練深度學習模型。大模型的類型和提供廠商都非常多，根據(jù)用途和能力的不同，大致可以分為通用大模型和垂直領域模型。2.1.3如何選擇模型通用大模型是我們最熟悉的類型，如GPT、Claude、Qwen、DeepSeek、Gemini等系列。它們擁有非常大的參數(shù)規(guī)模，具有廣博的知識和強大的通用推理能力，它們可以是純文本的，也可考慮到模型的種類繁多，且各有能力邊界，還有多種定制化的可能，模型的選擇也是AI原生應用開發(fā)過程中的一個難點。這里不存在一勞永逸的銀彈或通用的最佳模式，企業(yè)必須基于自己的以是多模態(tài)的，能夠同時理解圖像、聲音和文字。一般來說，模型越大，處理復雜、開放性任務的能力就越強，但是相應的成本和延遲都相對較高。實際業(yè)務場景，權衡任務復雜度、性能要求、開發(fā)成本和響應延遲等多個因索來綜合選擇和組合最合適的模型。垂直或領域模型不具備通用知識，其核心理念是放棄追求通用性，只專注于在垂直行業(yè)或特定領域和任務上實現(xiàn)極致的效率和性能。比如在情感分析、語言翻譯、意圖分類等特定領域都有對應的垂直領域模型。一些簡單的意圖分類和信息提取任務，由一個輕量、快速的專用模型處理，往一個務實的策略是從頂配開始，逐步優(yōu)化：先用能力最強的模型搭建原型以驗證業(yè)務邏輯，再逐步將流程中的非核心、簡單任務替換為更經(jīng)濟、更快速的小模型，最終找到成本與性能的最佳平往更具效率和成本優(yōu)勢。衡點。一個優(yōu)秀的AI原生應用，其模型架構往往不是單一的，而是一個經(jīng)過精心設計的、由不同規(guī)模和專業(yè)度的模型協(xié)同工作的有機系統(tǒng)。雖然大模型的綜合能力很強，在處理開放性、高復雜度的任務時效果更好，但是認為所有任務都需要使用最頂尖的模型是一個誤區(qū)，許多場景下小模型同樣能出色地完成任務，甚至做得更好。在實際落地生產的復雜應用中，通常是大模型與垂直領域模型協(xié)同工作，分別處理復雜、開放的任務和簡單、高頻的任務，從而優(yōu)化整個系統(tǒng)的效果、成本與響應速度。3940AI原生應用架構白皮書2.2框架第二章：AI原生應用的關鍵要素*場景例子：問小王比小李大1歲，小張的年齡是小李的兩倍。如果三個人的年齡加起來是41歲，問小王多大？思維鏈方式：假設小李的年齡是×，那么小王=×+3，小張=2x，總和=(x+1)+×+(2x)=4x+1，4×+1=41，4×=38，×=10，所以小王=10+3=13。結果小王13ALIBABACLOUD歲。這種方式在邏輯推理、數(shù)值計算、逐步分析類問題里，會顯得更穩(wěn)健。相比基于Spring或Dubbo開發(fā)一個微服務應用，開發(fā)一個AlAgent應用，你將面臨眾多的開發(fā)框架選擇。框架的豐富性，不僅僅是因為編程語言和上手難易程度的區(qū)別那么簡單，深層次原因是：代碼的確定性VSLLM的不確定性：2、Self-Ask（自問自答）*提出背景：MicrosoftResearch在2022年的研究工作《Self-AskwithSearch》。、核心思想：讓模型在回答時學會“反問自己”，把大問題拆成多個小問題，然后逐個回答。場景例子：問2016年奧斯卡最佳男主角的年齡是多少？Self-Ask會先問：2016年奧斯卡最*微服務應用，Spring和Dubbo本質上解決的是確定業(yè)務邏輯下的組件編排，包括服務發(fā)現(xiàn)RPC調用、分布式事務、服務配置等。佳男主是誰？（答：李奧納多·狄卡比奧），再問他當時多大？（答：41歲），最后組合答案。這種方式特別適合事實鏈路長的問題。*這些問題的解法相對確定，整個行業(yè)逐漸收斂到一些最佳實踐上，框架自然容易標準化。3、ReAct（推理+行動）AlAgent則不同：提出背景：Princeton與GoogleResearch在2022年論文《ReAct:SynergizingReasoningandActinginLanguageModels》。*LLM驅動的Agent，輸出存在高度不確定性，沒有一個能放之四海皆準的設計模式，Chain核心思想：在推理（Reasoning）和外部行動（Acting，比如調用搜索引擎或APl）之間交替進行。ReAct比CoT、Self-Ask更全能，原因在于它不僅是推理模式，還內建了與外部世界ofThought、ReAct、Plan-and-Execute、Multi-Agent等模式的落地方式差異很大。*更別說原本就依賴設計模式來定義的開發(fā)框架的標準化了，有的開放框架偏重鏈式推理（例交互的閉環(huán)。如LangChain），有的偏重知識檢索（例如Llamalndex），有的則強調人機的混合編排（例如Dify）。場景例子：問杭州昨天的天氣？ReAct會先想：“我不知道昨天的天氣，需要查詢”，然后執(zhí)行“調用天氣APl"，再推理并回答。這讓Agent既有思維，又能動手。大家對“不同業(yè)務場景下，Agent要如何解決核心問題，是無法在框架層達成一致的。4、Plan-and-Execute（計劃與執(zhí)行）因此，Agent的應用開發(fā)框架天然就很難收斂。不同的框架都有自己的設計模式哲學，只要定位清晰，都能獲得一部分開發(fā)者群體的青，一家獨大的情況很難出現(xiàn)。提出背景：出現(xiàn)在2023年前后的Agent應用開發(fā)框架實踐（如LangChain社區(qū)）。核心思想：把任務拆成兩個階段，先生成計劃（Planning），再逐步執(zhí)行（Execution）。*場景例子：假設你讓Agent寫一篇“新能源車的市場調研報告”，它不會直接生成報告，而是先擬定計劃：收集銷量數(shù)據(jù)，分析政策趨勢，總結消費者反饋，撰寫結論。然后逐條執(zhí)行。適合多步驟、需長時間任務的場景。本節(jié)將帶大家了解下業(yè)內主流的Agent設計模式，這對我們應用開發(fā)框架的選型，以及如何充分利用，至關重要。2.2.1Agent設計模式5、TreeofThoughts(ToT，樹狀思維）提出背景：Princeton和DeepMind在2023年的論文《TreeofThoughts:DeliberateProblemSolvingwithLargeLanguageModels》。1、ChainofThought（思維鏈）核心思想：不是單線思維，而是生成多條思路分支，像樹一樣展開，再通過評估機制選出最提出背景：GoogleResearch在2022年發(fā)表的論文《Chain-of-ThoughtPromptingElicits佳分支。+場景例子：解一道數(shù)獨時，Agent會嘗試多個候選解法（分支A、B、C），逐步排除錯誤分ReasoninginLargeLanguageModels》。*核心思想：讓模型在回答前，把推理過程一步步寫出來。不是一口氣報出答案，而是把整個支，最終選出唯一解。適合復雜規(guī)劃和解謎任務。推理過程展示出來。4142AI原生應用架構白皮書第二章：AI原生應用的關鍵要素6、Reflexion/IterativeRefinement（反思與送代優(yōu)化）1、從低代碼到高代碼ALIBABA★提出背景：2023年論文《Reflexion:LanguageAgentswithVerbalReinforcement在Al原生應用的早期探索中，低代碼工具發(fā)揮了重要作用。Dify、Flowise、Coze、阿里云百煉、CloudFlow、n8n等產品，通過可視化編排和模板化配置，使非專業(yè)開發(fā)者也能快速拼裝出應用維形。這類工具極大降低了試錯成本，為企業(yè)內部的概念驗證（PoC）和小規(guī)模試點提供了便利。Learning》。CLOUD核心思想：Agent具備自我糾錯的能力，犯錯后會總結失敗原因，再帶著反思嘗試下一次。場景例子：讓Agent寫一段Python代碼，如果第一次運行報錯，它會讀報錯信息，反思“函數(shù)參數(shù)寫錯了”，然后自動修正并重試。適合代碼生成、流程執(zhí)行類場景。其實低代碼平臺在運行時也離不開底層引擎的支撐，大多數(shù)低代碼平臺的底層引擎和管控部署在7、Role-playingAgents（角色扮演式智能體或者說是多智能體協(xié)作）提出背景：源自AutoGPT、ChatDeV、CAMEL等社區(qū)項目。一起，這限制了Agent的性能和可擴展性。但更重要的原因在于低代碼平臺是對于高代碼的一層封裝，其抽象層次很難滿足所有場景，無法在性能、可擴展性和復業(yè)務邏輯方面滿足大規(guī)模核心思想：把任務拆分給不同角色的Agent，每個Agent都有專屬職責，通過對話協(xié)作完成任務。生產的要求。這也是為什么在進入大規(guī)模生產應用階段后，很多低代碼方案都需要遷移到高代碼框架中實現(xiàn)。★場景例子：一個軟件開發(fā)任務里，有產品經(jīng)理Agent寫需求文檔，程序員Agent寫代碼，測試Agent寫測試用例。它們像團隊一樣協(xié)作。適合復雜系統(tǒng)開發(fā)或跨職能協(xié)同。高代碼則代表了當下Al原生應用生產落地的主流形態(tài)。ADK、LangGraph。AutoGen。這些認知框架，其實構成了Agent世界里的思維模式庫：AgentScope、SpringAlAlibaba等框架，為開發(fā)者提供了面向Agent的編程接口。相比低代碼，高代碼具備更高的性能可控性、更強的靈活性以及更好的可預測性，能夠支撐復雜場景下的業(yè)務邏輯實現(xiàn)與系統(tǒng)集成。來自阿里云客戶實踐進一步驗證了這一點：目前在大規(guī)模業(yè)務場景落CoT：一步步寫過程+地的Agent，大部分都是基于高代碼方案。Self-Ask：拆分成小問題ReAct：既思考也動手++++2、高代碼的演進Plan-Execute：先計劃再執(zhí)行ToT：樹狀多分支探索在AI原生應用的三種構建模式中，高代碼模式最貼近工程師對系統(tǒng)的可控需求。此類開發(fā)方式不限于使用現(xiàn)成Agent框架，更注重靈活的編排、精準的上下文控制、可靠的執(zhí)行機制，以及Reflexion：自我反思選代Role-playing：多人協(xié)作分工對復雜任務的支撐能力。它們并不是互斥的，可以混搭使用，理解這些模式，能讓我們在應用開發(fā)框架選型和使用時，想的更為透徹，一些設計模式，例如ReAct，已經(jīng)被LangChain，Llamalndex、Dify、SpringAlAlibaba等Agent開發(fā)框架內置成基礎框架，幫助開發(fā)者提升模型的調用效果。ChatClient階段：最初的實現(xiàn)僅是一次單一的LLM調用，簡單但缺乏復雜任務執(zhí)行能力；Workflow階段：通過將傳統(tǒng)工作流轉化為LLM節(jié)點編排，實現(xiàn)了自主性與確定性的初步平衡，但由于編排復雜，維護成本較高；2.2.2Agent開發(fā)框架*Agentic階段：逐漸成為主流形態(tài)。它通過提供面向Agent的APl，并內置多種通用的協(xié)作模式（Pattern），使開發(fā)者能夠在Agentic自主性和Predictability（可預測性）之間取得平衡，從而兼顧開發(fā)效率與執(zhí)行準確性。說完Agent設計模式，我們再來看Agent開發(fā)框架。整體來看，開發(fā)框架可以歸納為三種主要形態(tài)：低代碼、高代碼與零代碼。低代碼相對已經(jīng)比較成熟，高代碼是當前生產的主流形態(tài)，而零代碼則代表了未來的演進方向。與此同時，多Agent的分布式架構正在成為跨越三種模式的長期趨勢。這一演進過程，折射出AI原生應用在落地時面臨的核心挑戰(zhàn)：既要讓系統(tǒng)具備足夠的智能性和自4344AI原生應用架構白皮書第二章：AI原生應用的關鍵要素主性，又必須確保其行為在工程意義上可控、可驗證。3、零代碼的愿景2.3提示詞ALIBABACLOUD相比之下，零代碼代表更遠期的方向。MetaGPT等探索性產品，嘗試讓用戶完全通過自然語言即可驅動應用開發(fā)，依賴模型本身的推理與規(guī)劃能力完成任務分解、邏輯編排和工具調用。零代碼的潛力在于真正實現(xiàn)AI應用的全民化與智能自治，但現(xiàn)實中受制于模型能力，其生產可用性仍不足：復雜業(yè)務場景對推理深度、上下文管理和可控性的要求，遠超當前模型的穩(wěn)定水平。在AI原生應用中，我們的編程方式發(fā)生了根本性的變化。不再編寫復雜的代碼，而是使用一種更接近人類語言的方式與Al溝通，這就是Prompt（提示詞）。Prompt的質量很大程度上影響了AI應用的輸出效果。因此，零代碼模式目前更多處于探索與驗證階段，難以承擔大規(guī)模生產任務。但它所代表的愿景，展示了未來AI應用可能的終極形態(tài)。2.3.1Prompt是什么Prompt是用戶向AI模型提供的輸入指令，用于引導模型生成期望的輸出。它可以是一個具體白皮書的第3章中將以SpringAlAlibaba為例，探討如何使用Al應用開發(fā)框架開發(fā)一個筒的問題、一段描述、一組關鍵詞，或是相關的上下文信息，其核心作用是告知模型用戶期望獲單的智能體，以及單智能體和多智能體的區(qū)別和聯(lián)系，智能體的部署方式，消息驅動的智能體得什么樣的內容。Prompt的載體也不僅限于自然語言文本，還可以包含代碼片段、數(shù)據(jù)格式說明，甚至是圖像與文字相結合的多模態(tài)輸入。開發(fā)。2.3.2Prompt質量=Al輸出質量大模型輸出質量并非完全取決于模型本身，還依賴于輸入的Prompt是否清晰、完整、具體。在Al領域，有一句經(jīng)典的話"GarbageIn，GarbageOut”（垃圾進，垃圾出）。這句話在提示詞工程中也同樣適用，Prompt的質量直接決定了AI生成內容的質量、相關性和準確性。大型語言模型輸出內容的質量很大程度上取決于Prompt的明確性與具體性。當用戶提供一個模糊、開放式的指令時，例如“寫點關于人工智能的東西”，模型由于缺乏明確的上下文和約束條件，其生成的內容往往會泛泛而談。這類回答通常只是一篇缺乏深度和特定信息價值的通用性概述，難以滿足專業(yè)或具體化的應用需求。相反，當用戶構建一個結構化、包含多維度要素的精確指令時，結果則截然不同。例如，一個明確要求模型“以科技專欄作家的身份，撰寫一篇800字左右的文章，探討人工智能在醫(yī)療影像診斷中的最新應用、優(yōu)勢與挑戰(zhàn)，并列舉實例”的Prompt，為模型提供了清晰的目標、角色設定、內容框架和格式要求。因此，模型能夠生成一篇邏輯嚴謹、信息詳實、專業(yè)度高的文章，其輸出結果的精準度和實用價值也得到極大提升，更加符合人們的預期。4546AI原生應用架構白皮書2.3.3如何優(yōu)化Prompt第二章：AI原生應用的關鍵要素2.4RAG優(yōu)化Prompt是與大語言模型高效溝通的關鍵，一個好的Prompt能讓模型更精準、更深入地理解你的意圖，從而生成質量更高的內容。ALIBABACLOUD在之前的內容中我們提到過，大模型的知識都是固化的，它不認識你公司的最新產品，而RAG就是為模型提供知識庫一種有效方法。早期的研究還表明，你對模型說“這個問題你回答對了，我會獎勵給你100元”，“這個問題你回答錯誤了，你會被懲罰”，這種賄略或者威脅也能優(yōu)化模型的生成效果。不過隨若模型的進化，這些小技巧都已經(jīng)變得無效了。但有一個原則是不會變的，開發(fā)者需要清晰、有效地與模型交流，并明確指導它如何處理各種情況，這就像是你給一位聰明的助理分配任務，指令越清晰、背景信息越充分，他完成工作的質量就越高?；赗AG（RetrievalAugmentedGeneration，檢索增強生成）構建知識庫，是大模型興起之后最快被采納接受的架構范式之一。當前，RAG系統(tǒng)已經(jīng)被廣泛地應用在客服問答、個性化推薦、智能對話助手等場景當中。RAG技術能夠彌補大模型因知識截止而無法獲取最新信息的問題，并有效降低其產生幻覺的風險，而且RAG技術相比于大模型后訓練或微調方式，以更加成本低的方式與企業(yè)的專有數(shù)據(jù)作對接，以實現(xiàn)大模型快速技術驗證和商業(yè)化嘗試。如何優(yōu)化Prompt是Al原生應用開發(fā)中的難點，在第4章中我們將圍繞上下文工程對Prompt展開詳細介紹。2.4.1RAG知識庫的應用架構基于RAG構建知識庫的應用架構如下?？梢院唵蝿澐譃殡x線索引構建和在線檢索和生成過程。離線向量過程通過把用戶上傳的文檔進行文檔智能解析、切片，再進行向量化存儲到向量數(shù)據(jù)庫。在線過程則把用戶的請求問題向量化之后與向量庫中的切片向量進行相似度比