云安全中心-大模型安全態(tài)勢(shì)管理0大模型蓬勃發(fā)展帶來新的安全風(fēng)險(xiǎn)1大模型安全管理痛點(diǎn)國(guó)家網(wǎng)絡(luò)安全通報(bào)中心多次通報(bào)大模型組件安全漏洞大模型安全管理痛點(diǎn)大模型使用泛濫引入新的風(fēng)險(xiǎn)安全管理痛點(diǎn)?

大模型熱度持續(xù)上升?

大模型組件存在各式漏洞?

如何持續(xù)發(fā)現(xiàn)大模型相關(guān)資產(chǎn)？?

大模型能力在不斷提升?

大模型應(yīng)用場(chǎng)景愈加廣泛?

大模型部署使用門檻不斷降低?

云廠商幫助降低部署門檻?

大模型API服務(wù)發(fā)展迅速?

開源體系蓬勃發(fā)展?

組件配置不當(dāng)觸發(fā)未授權(quán)訪問等風(fēng)險(xiǎn)?

風(fēng)險(xiǎn)被利用，可能導(dǎo)致主機(jī)失陷、模型被投毒、模型丟失、數(shù)據(jù)?

如何快速了解大模型資產(chǎn)的網(wǎng)絡(luò)開放狀態(tài)？?

如何及時(shí)檢測(cè)大模型資產(chǎn)的安全風(fēng)險(xiǎn)？?

如何實(shí)時(shí)監(jiān)控大模型資產(chǎn)面臨的攻擊態(tài)勢(shì)？?

訓(xùn)練與推理使用敏感數(shù)據(jù)，可能引發(fā)數(shù)據(jù)泄露，面臨法律風(fēng)險(xiǎn)。?

安全團(tuán)隊(duì)可能未及時(shí)針對(duì)大模型應(yīng)用體系制定管理方案0

2騰

訊

云

云

安

全

中

心

解

決

方案大

模

型

安

全

態(tài)

勢(shì)

管

理大模型安全態(tài)勢(shì)管理——圍繞“大模型”提供資產(chǎn)識(shí)別、風(fēng)險(xiǎn)檢測(cè)、攻擊監(jiān)控等能力獨(dú)立頁(yè)面資

產(chǎn)

識(shí)

別資

產(chǎn)

識(shí)

別公

網(wǎng)

掃

描

器風(fēng)

險(xiǎn)

檢

測(cè)攻

擊

監(jiān)

控風(fēng)

險(xiǎn)

檢

測(cè)CVM組件資產(chǎn)識(shí)別大模型組件風(fēng)險(xiǎn)檢測(cè)大模型網(wǎng)絡(luò)攻擊示警?

通過網(wǎng)絡(luò)掃描&主機(jī)安全識(shí)別組件風(fēng)險(xiǎn)。?

展示組件漏洞與配置不當(dāng)風(fēng)險(xiǎn)。?

通過網(wǎng)絡(luò)探測(cè)&主機(jī)安全對(duì)大模型組件進(jìn)行識(shí)別。?

頁(yè)面展示組件及關(guān)聯(lián)資產(chǎn)，展示風(fēng)險(xiǎn)和網(wǎng)絡(luò)攻擊數(shù)量。?

提供資產(chǎn)對(duì)公網(wǎng)暴露的路徑及原生風(fēng)險(xiǎn)。?

大模型組件漏洞的攻擊利用行為示警。大模型組件識(shí)別——解決“看見”的問題大模型組件及資產(chǎn)(80+)資產(chǎn)暴露路徑l

網(wǎng)絡(luò)掃描器從公網(wǎng)探測(cè)組件指紋。l

資產(chǎn)詳情可查看大模型資產(chǎn)面向公網(wǎng)暴露的路徑。l

網(wǎng)絡(luò)產(chǎn)品關(guān)聯(lián)l

主機(jī)安全agent從檢查組件特征。l

關(guān)聯(lián)資產(chǎn)信息、網(wǎng)絡(luò)攻擊數(shù)量、風(fēng)險(xiǎn)數(shù)量進(jìn)行展示。l

資產(chǎn)列表、主機(jī)進(jìn)程通曬l

資產(chǎn)原生風(fēng)險(xiǎn)展示：主機(jī)漏洞、高?；€風(fēng)險(xiǎn)l

可關(guān)聯(lián)查看資產(chǎn)遭受的網(wǎng)絡(luò)攻擊、大模型相關(guān)風(fēng)險(xiǎn)。大模型組件風(fēng)險(xiǎn)檢測(cè)——依托網(wǎng)絡(luò)掃描及主機(jī)安全風(fēng)險(xiǎn)檢測(cè)能力，提取大模型風(fēng)險(xiǎn)風(fēng)

險(xiǎn)

檢

測(cè)主

機(jī)

端

檢網(wǎng)

絡(luò)

掃

描測(cè)漏

洞

檢

測(cè)（

20

0

+

）基

線

檢

查（

6）漏

洞

檢

測(cè)（

20

0

+

）大模型組件漏洞攻擊利用示警支持識(shí)別的組件與漏洞清單組件mlflow支持漏洞數(shù)463932212017119gradiolangchainclickhouseChuanhugptpyload-ngDify支持識(shí)別組件清單OllamaChatWikiChatGPTfyUI混元DocsGPTAgentGPTBotkitH2ORayHelpLookJupyterLabgradioAItianhuTensorBoardJan-AI畢昇大模型FlowisequivrLLMChainpineconeBentoMLSillyTavernfeastOllamaStable-open-webuianythingLLMtriton8deepseekQwenQdrantFastGPTagentaLMStudiofastchat-webuiDifygpt4freeDiffusion8Milvus星環(huán)科技MaxKBragflowPandoraNextMindsDBXinference

HuggingFaceFlowiseAIGemini8LobeChatvLLMAutoGPTChuanhugptjupyter-serverjupyterlabkubepi7Llama-TensorRT-ChatVectorDBqanythingKotaemonchainlitSun-PanelFactoryLLMLangChain5商湯-5LanceDBchatboxllmstudioLightLLMLangFlowAnythingLLM

商湯-SenseNebulaSenseNebulaSuperAGIvllmray5Streamlitnextchat

LLaMABoardKubeflowOpenLLMSpeechGPTMLflow輕舟平臺(tái)大模型5AWS百度AI訓(xùn)練平臺(tái)

PerplexityCentralDB-GPTInvokeAIOpenWebUIkubeflowh2ojupyter-server-proxyjupyter-noteb