分享主題大模型時代的智能運維（AIOps)裴丹某著名企業(yè)與以往的AIOps小模型是

什么關(guān)系？近、中、長期有哪些

應(yīng)用？問題大模型時代，運維界普遍關(guān)注的問題如何選擇通識大模

型底座？面臨哪些技術(shù)挑戰(zhàn)？它不停的說：找到她了??！莉婭公主第五層，AA-23囚室她馬上要被處決了·····怎么了？它找到誰了？她在哪里！Oh

my

god

!

快去救人！星戰(zhàn)男主人公@#￥%+op*&…

%￥#au&**&*&*&%￥#au&**&&%$#@...au&**&&5%9$av#@...在大模型時代，AIOps可以“說人話”了現(xiàn)有AIOps工具C-3PO機器人

R2-D2機器人大語言模型決策者除了需要“說人話”，AIOps還需要把語言模型與已有的小模型工具有機整合預(yù)防恢復(fù)改進應(yīng)

用性能監(jiān)控AIOps小模型數(shù)量眾多告警配置社交媒體流量鏡像撥測指標(biāo)日志文本（工單,變更,操作）多樣化的場景數(shù)據(jù)關(guān)系復(fù)雜多模態(tài)數(shù)據(jù)軟件模塊\調(diào)用關(guān)系實時數(shù)據(jù)定位發(fā)現(xiàn)比爾

·蓋茨：

AI智能體即將徹底改變我們使用計算機的方式專家教練參謀助理顧問運維智能體歷史?單、告警、

操作記錄、?檔等通用領(lǐng)域

知識性能優(yōu)化混合型任務(wù)自動化腳本故障分析和診斷監(jiān)控告警網(wǎng)絡(luò)配置第三梯隊

7通識大模型在運維領(lǐng)域表現(xiàn)整體不如人意，而且參差不齊歡迎為評測榜單貢獻題目和模型：軟件部署

松耦合的通識大語言模型底座

運維大語言模型基于公域運維語料、知識庫，進行預(yù)訓(xùn)練、微調(diào)、提示工程私有部署運維大語言模型基于私域運維數(shù)據(jù)：提示工程、外掛知識庫檢索運維領(lǐng)域的應(yīng)用需要一個“能聽懂運維語言”的大語言模型大語言模型的模型棧L3L2L1

支持低開銷私有部署 運維語料不足，私有語料質(zhì)量數(shù)量更不足 如何融入大量存量結(jié)構(gòu)化知識 大語言模型無法直接處理結(jié)構(gòu)化、多模態(tài)、實時數(shù)據(jù) 如何結(jié)合大量存量AIOps、自動化運維工具

對錯誤容忍度低，

盡量避免幻覺

判斷對錯、標(biāo)注門檻高

結(jié)果必須可解釋性強既要避免過于樂觀：大模型在運維領(lǐng)域普遍落地還存在不少技術(shù)挑戰(zhàn)系

術(shù)挑

優(yōu)挑戰(zhàn)解決思路避免幻覺檢索增強增大顯式知識占比：思維鏈、思維樹、思維圖、知識圖譜“有據(jù)可依”的生成策略提供可解釋性可解釋性強嚴(yán)肅語料不足訓(xùn)練策略

：課程學(xué)習(xí)，由私有部署開銷低模型分層在公域做預(yù)訓(xùn)練、微調(diào)、提示工程私有部署時避免預(yù)訓(xùn)練、微調(diào)通過檢索方式融合本地知識庫文檔、提示作為便捷的知識工程手段通過降低模型精度降低私有部署推理開銷私域數(shù)據(jù)數(shù)量、質(zhì)量不足底座模型選擇與開源大語言模型底座盡量解耦大語言模型無法直接處理結(jié)構(gòu)化、多模態(tài)、實時數(shù)據(jù)多模態(tài)基礎(chǔ)模型群；AIOps結(jié)構(gòu)化大模型：左腦AIOps算法，右腦運維知識圖譜如何結(jié)合大量存量AIOps、自動化運維工具基于智能體方式，采用基礎(chǔ)模型編程框架，融合小模型運維工具（插件（Plug-in）

，工具（Tool)）也要避免悲觀：前述所有技術(shù)挑戰(zhàn)都有技術(shù)思路可以解決

眼：監(jiān)控

手：自動化運維

腦：

AIOps?

左腦：算法?

右腦：運維知識圖譜

心：專家人工審核、決策

耳：基于運維大語言模型的輸入增強

嘴：基于運維大語言模型的輸出增強不求全面開花，而是小步快跑、以用促建：近期、中期、長期應(yīng)用的定位運維大語言模型帶來的直接增量價值近中期應(yīng)用的定位中長期應(yīng)用的定位顧問教練參謀助理+專家問：X應(yīng)用交時間比平時增加1倍，可能原因是什么？答：可能的原因包括：1.依賴Y應(yīng)用處理時間過長2.中間件Weblogic問題，請檢查

…3.網(wǎng)絡(luò)丟包問題，請檢查相關(guān)服務(wù)間見的網(wǎng)絡(luò)鏈路丟包率是否有異常4.第三方應(yīng)用問題，請檢查

…問：Oracle活躍會話數(shù)的確飆高了

，請問可能的原因是什么？答：Oracle實例B的活躍會話數(shù)的確飆高可能的原因包括：1.

log-file-syn告警2.實例B的主機異常3.有CPU占用過高的SQL問：中間件WebLogic的確異常

，請問下面怎么辦？答：中間件Weblogic異常的原因包括：1.WebLogic堆空間滿，請檢查…2.Oracle數(shù)據(jù)庫“平均活躍會話數(shù)”指標(biāo)飆高問：查到實例B上有個SQLC占用CPU90%

，該如何處理？答：建議殺掉該SQLC，具體指令是…。建議聯(lián)系Oracle數(shù)據(jù)庫管理員執(zhí)行該操作。運維大語言模型近期應(yīng)用舉例(1)：數(shù)字化運維助手對結(jié)構(gòu)化知識檢索私有部署運維大語言模型基于私域運維數(shù)據(jù)：提示工程、外掛知識庫檢索運維大語言模型基于公域運維語料、知識庫,進行預(yù)訓(xùn)練、微調(diào)、提示工程松耦合的通識大語言模型底座檢索插件私有文檔生成技術(shù)：

檢索增強生成策略：通過“有據(jù)可依”提供可解釋性讓模型能夠正確的給自己生成的內(nèi)容打上引用（reference）

，清晰地展示出每一段是

來自于哪個文本運維大語言模型近期應(yīng)用舉例(2)

：私有文檔問答SPL2Lang（解讀日志查詢語句）運維大語言模型近期應(yīng)用舉例

(3)：腳本解讀

(Query2Lang)Config2Lang（解讀配置）GSQL2Lang（解讀圖SQL)Scripts2Lang（解讀腳本）SQL2Lang（解讀SQL)對存量腳本進行文字解讀運維大語言模型近期應(yīng)用舉例

(4)：數(shù)據(jù)注釋（Data2Annotation）日志關(guān)鍵字告警常見原因Config2Lang

（解讀配置）告警類型指標(biāo)含義設(shè)備類型對運維數(shù)據(jù)中的本體、實體、屬性、字段、標(biāo)簽進行注釋告警常見處置建議近中期應(yīng)用：Lang2Query,為單個存量工具提供自然語言交互增強，Lang2GSQL（自動生成圖SQL)Lang2Scripts

（自動生成腳本）Config2Lang

（解讀配置）Lang2SPL（自動生成日志

查詢語句）Lang2SQL

（自動生成SQL)Lang2API（自動生成API

調(diào)用)提供意圖識別、總結(jié)等能力基礎(chǔ):數(shù)據(jù)標(biāo)準(zhǔn)化、工具接口標(biāo)準(zhǔn)化Lang2Config

（自動生成配置）基于大語言模型，以實時日志、調(diào)用鏈、指標(biāo)等數(shù)據(jù)為輸入，結(jié)合故障檢測、定位、根因分析、影響分析等AIOps工具的輸出，自動生成實時故障工單。中長期應(yīng)用：基于AIOps智能體，編排多個工具完成復(fù)雜運維任務(wù)舉例：基于大語言模型的實時故障工單自動生成避免過于樂觀：運維大模型仍面臨不少挑戰(zhàn)杜絕幻覺、可解釋性強、私有部署開銷低、私有語料質(zhì)量數(shù)據(jù)均不足、融合存量知識、工具、多模態(tài)數(shù)據(jù)、通識大語言模型底座不避免過于悲觀：

挑戰(zhàn)都可解模型分層：通識大語言模型、運維大語言模型、私有部署運維大語言模型運維大語言模型是核心基礎(chǔ)?檢索增強、有據(jù)可依?課程學(xué)習(xí)、由?知識工程：從文檔到知識圖譜，增加顯示

知識?檢索本地知識庫、降低模型精度?與通識大語言模型底座盡量解耦謹(jǐn)慎樂觀大勢所趨、前景可期、機遇與挑戰(zhàn)并存、協(xié)同創(chuàng)新、以用促建應(yīng)用及路徑建議：小步快跑、以用促建應(yīng)用的定位：從助手、教練、顧問、參謀到專家

近中期數(shù)字化運維助手，私有運維文檔問答，運維腳本解讀，運維數(shù)據(jù)注釋大模型在AIOps領(lǐng)域的應(yīng)用落地路徑通過檢索融合本地知識庫區(qū)分、整合非結(jié)構(gòu)化大模型與結(jié)構(gòu)

化大模型結(jié)構(gòu)化大模型：左腦AIOps算法、右腦運維圖譜基于智能體

，編排

多個工具完成更復(fù)

雜運維任務(wù)為單個運維工具提供

自然語言交互增強

中長期智能體&基礎(chǔ)模型編程框架多模態(tài)基礎(chǔ)模型群運維大語言模型關(guān)鍵組件近期找方案&找標(biāo)準(zhǔn)找方案微信（掃第一個碼）每日分享各個領(lǐng)域高質(zhì)量專業(yè)的解決方案，內(nèi)容包括某省市、鄉(xiāng)村振興、智慧城管、智慧園區(qū)、智慧公安、智慧水務(wù)（水利）、智慧林草、社會綜合治理、智慧旅游、智慧工地、智慧環(huán)衛(wèi)、智慧醫(yī)院、智慧環(huán)保、智慧安監(jiān)等領(lǐng)域，結(jié)合數(shù)字孿生、人工智能、物聯(lián)網(wǎng)、大數(shù)據(jù)、云計算等技術(shù)，分享行業(yè)售前方案、設(shè)計方案、技術(shù)方案和項目信息等。找標(biāo)準(zhǔn)微信（掃第二個碼）每日分享各個智慧領(lǐng)域國家和地方標(biāo)準(zhǔn)規(guī)范，國家和地方政策指導(dǎo)文件，讓各個智慧方案有據(jù)可依，內(nèi)容包括找方案中的各個行業(yè)的政策和規(guī)范，內(nèi)容在不斷的收集和完善中。找方案知識星球（掃第三個