云安全中心-大模型安全態(tài)勢(shì)管

理大模型蓬勃發(fā)展帶來(lái)新的安全風(fēng)險(xiǎn)大模型安全管理痛點(diǎn)01

國(guó)家網(wǎng)絡(luò)安全通報(bào)中心多次通報(bào)大模型組件安全漏洞大模型使用泛濫

大模型熱度持續(xù)上升

大模型能力在不斷提升

大模型應(yīng)用場(chǎng)景愈加廣泛

大模型部署使用門(mén)檻不斷降低

云廠(chǎng)商幫助降低部署門(mén)檻

大模型API服務(wù)發(fā)展迅速

開(kāi)源體系蓬勃發(fā)展

安全團(tuán)隊(duì)可能未及時(shí)針對(duì)大模型應(yīng)用體系制

定管理方案引入新的風(fēng)險(xiǎn)

大模型組件存在各式漏洞

組件配置不當(dāng)觸發(fā)未授權(quán)訪(fǎng)問(wèn)等風(fēng)險(xiǎn)

風(fēng)險(xiǎn)被利用，可能導(dǎo)致主機(jī)失陷、模型被投

毒、模型丟失、數(shù)據(jù)泄露

訓(xùn)練與推理使用敏感數(shù)據(jù)，可能引發(fā)數(shù)據(jù)泄

露，面臨法律風(fēng)險(xiǎn)。安全管理痛點(diǎn)

如何持續(xù)發(fā)現(xiàn)大模型相關(guān)資產(chǎn)？

如何快速了解大模型資產(chǎn)的網(wǎng)絡(luò)開(kāi)放狀態(tài)？

如何及時(shí)檢測(cè)大模型資產(chǎn)的安全風(fēng)險(xiǎn)？

如何實(shí)時(shí)監(jiān)控大模型資產(chǎn)面臨的攻擊態(tài)勢(shì)？

大模型安全管理痛點(diǎn)騰訊云云安全中心解決方案大模型安全態(tài)勢(shì)管理02

大模型安全態(tài)勢(shì)管理——圍繞“大模型”提供資產(chǎn)識(shí)別、風(fēng)險(xiǎn)檢測(cè)、攻擊監(jiān)控等能力組件資產(chǎn)識(shí)別

通過(guò)網(wǎng)絡(luò)探測(cè)&主機(jī)安全對(duì)大模型組件進(jìn)行識(shí)別。

頁(yè)面展示組件及關(guān)聯(lián)資產(chǎn)，展示風(fēng)險(xiǎn)和網(wǎng)絡(luò)攻擊數(shù)量。

提供資產(chǎn)對(duì)公網(wǎng)暴露的路徑及原生風(fēng)險(xiǎn)。安全Agent

CVM大模型組件風(fēng)險(xiǎn)檢測(cè)

通過(guò)網(wǎng)絡(luò)掃描&主機(jī)安全識(shí)別組件風(fēng)險(xiǎn)。

展示組件漏洞與配置不當(dāng)風(fēng)險(xiǎn)。大模型網(wǎng)絡(luò)攻擊示警

大模型組件漏洞的攻擊利用行為示警。公網(wǎng)掃描器大模型組件資產(chǎn)識(shí)別風(fēng)險(xiǎn)檢測(cè)

風(fēng)險(xiǎn)檢測(cè)

--

資產(chǎn)識(shí)別

攻擊監(jiān)控

大模型組件識(shí)別——解決“看見(jiàn)”的問(wèn)題大模型組件及資產(chǎn)(80+)l

資產(chǎn)詳情可查看大模型資產(chǎn)面向公網(wǎng)暴露的路徑。l

網(wǎng)絡(luò)產(chǎn)品關(guān)聯(lián)l

資產(chǎn)列表、主機(jī)進(jìn)程通曬l

資產(chǎn)原生風(fēng)險(xiǎn)展示：主機(jī)漏洞、高?；€(xiàn)風(fēng)險(xiǎn)l

可關(guān)聯(lián)查看資產(chǎn)遭受的網(wǎng)絡(luò)攻擊、大模型相關(guān)風(fēng)險(xiǎn)。l

網(wǎng)絡(luò)掃描器從公網(wǎng)探測(cè)組件指紋。l

主機(jī)安全agent從內(nèi)部檢查組件特征。l

關(guān)聯(lián)資產(chǎn)信息、

網(wǎng)絡(luò)攻擊數(shù)量、風(fēng)險(xiǎn)數(shù)量進(jìn)行展示。資產(chǎn)暴露路徑

大模型組件風(fēng)險(xiǎn)檢測(cè)——依托網(wǎng)絡(luò)掃描及主機(jī)安全風(fēng)險(xiǎn)檢測(cè)能力，

提取大模型風(fēng)險(xiǎn)漏洞檢測(cè)

（200+）漏洞檢測(cè)

（200+）基線(xiàn)檢查（6）主機(jī)端檢

測(cè)

網(wǎng)絡(luò)掃描

風(fēng)險(xiǎn)檢測(cè)

大模型組件漏洞攻擊利用示警支持識(shí)別組件清單OllamaComfyUI畢昇大模型DocsGPTH2OHelpLookJupyterLabAItianhuChatWiki混元FlowiseAgentGPTRayLLM

ChaingradioTensorBoardChatGPTpineconequivrBotkitBentoMLSillyTavernfeastJan-AIdeepseekQdrantFastGPTagentaLM

StudioStable

-Diffusionfastchat-webuigpt4freeQwenMilvusMaxKBPandoraNextXinferenceHugging

FaceDifyFlowiseAILobeChat星環(huán)科技ragflowMindsDBvLLMAutoGPTChuanhugptGeminiLlama

-FactoryVectorDBqanythingKotaemonTensorRT-

LLMchain

litChatLangChainSun-PanelLanceDBchatboxllmstudio商湯-SenseNebulaLightLLMLangFlowAnythingLLM商湯-SenseNebulaStreamlitnextchatLLaMA

BoardSuperAGIOpenLLMSpeechGPTMLflow輕舟平臺(tái)大模型百度AI訓(xùn)練平臺(tái)PerplexityKubeflowCentralDashboardAWSQuickSightDB-GPTInvokeAIOpenWebUI……組件支持漏洞數(shù)mlflow46gradio39langchain32clickhouse21Chuanhugpt20pyload-ng17Dify11Ollama9open-webui8anythingLLM8triton8jupyter-server7jupyterlab5kubepi5vllm5ray5kubeflow4h2o3jupyter-server-proxy2j