狀”、“有缺陷”和“當(dāng)前功能”的狀態(tài)提供本文檔。阿里云在現(xiàn)完整性、適用性、可靠性等不作任何明示或暗示的保證。任何單位、公編寫單位編寫單位巳D里巴巴指導(dǎo)委員會(huì)編寫組主要成員編寫組組長聯(lián)系我們特別鳴謝署與應(yīng)用環(huán)境2模型應(yīng)用安全風(fēng)險(xiǎn)具有系統(tǒng)性與復(fù)雜17性，全生命周期的安全保障是模型應(yīng)用落地的關(guān)鍵3公共云和MaaS是兼顧性能、效率、20安全的最佳解決方案1安全解決方案：安全可信的MaaS242MaaS安全核心理念：客戶數(shù)據(jù)主權(quán)、25負(fù)責(zé)任的AI與云原生安全保障1AI基礎(chǔ)設(shè)施及其關(guān)鍵挑戰(zhàn)：兼顧安全、30能力、效率2阿里云的企業(yè)級(jí)AI基礎(chǔ)設(shè)施建設(shè)：34在高效的基礎(chǔ)上更安全1風(fēng)險(xiǎn)現(xiàn)狀及能力構(gòu)建462全尺寸、全模態(tài)的模型供給483通義大模型全生命周期安全實(shí)踐492阿里云百煉全鏈路安全能力框架723阿里云百煉關(guān)鍵場(chǎng)景安全實(shí)踐824構(gòu)建可驗(yàn)證的信任：阿里云百煉的90安全承諾與未來愿景1可信環(huán)境-機(jī)密計(jì)算973可信架構(gòu)-阿里云百煉落地1021組織保障機(jī)制1082阿里云百煉安全能力清單1093權(quán)威認(rèn)證110模型應(yīng)用安全風(fēng)險(xiǎn)具有系統(tǒng)性與復(fù)雜性，全模型應(yīng)用安全風(fēng)險(xiǎn)具有系統(tǒng)性與復(fù)雜性，全2.1AI基礎(chǔ)設(shè)施風(fēng)險(xiǎn)：供應(yīng)鏈漏洞、DDoS攻擊與模型資產(chǎn)威脅●模型竊取與篡改風(fēng)險(xiǎn)：模型是企業(yè)核心技術(shù)和重要資產(chǎn)，凝聚大量研發(fā)成果與商2.2大模型風(fēng)險(xiǎn)：算法合規(guī)、2.2大模型風(fēng)險(xiǎn)：算法合規(guī)、內(nèi)容安全、對(duì)抗攻擊2.3應(yīng)用服務(wù)安全風(fēng)險(xiǎn)：算力消耗、供應(yīng)鏈與隱私泄露2.3應(yīng)用服務(wù)安全風(fēng)險(xiǎn)：算力消耗、供應(yīng)鏈與隱私泄露公共云成為大模型發(fā)展和應(yīng)用的優(yōu)選路徑。大模型的發(fā)展與應(yīng)依托云服務(wù)廣泛覆蓋全球各節(jié)點(diǎn)的AI全棧2 2.1客戶數(shù)據(jù)主權(quán)：平臺(tái)可靠、數(shù)據(jù)自主可控、鏈路可信、操作可審計(jì)阿里云百煉以云原生為基礎(chǔ)支撐，以大模型為核心驅(qū)動(dòng)力，全面構(gòu)建面向未來的模型訓(xùn)練、模型部署、推理服務(wù)到應(yīng)用集成的全鏈路閉環(huán) 2.1客戶數(shù)據(jù)主權(quán)：平臺(tái)可靠、數(shù)據(jù)自主可控、鏈路可信、操作可審計(jì)●客戶數(shù)據(jù)主權(quán)：阿里云在數(shù)據(jù)安全保障上做出以下承諾客戶完全擁有自身數(shù)據(jù) 2.2負(fù)責(zé)任的2.2負(fù)責(zé)任的AI：安全、合規(guī)、向善、透明●安全可靠：全面落實(shí)國標(biāo)要求，執(zhí)行體系化安全評(píng)測(cè)；依托紅藍(lán)對(duì)抗持續(xù)提升模2.3云原生安全保障：打造可靠AI基礎(chǔ)設(shè)施效率效率1.2高可用性挑戰(zhàn)：系統(tǒng)穩(wěn)定性壓力增加1.2高可用性挑戰(zhàn)：系統(tǒng)穩(wěn)定性壓力增加 1.1安全挑戰(zhàn)：系統(tǒng)軟件漏洞、資源濫用、供應(yīng)鏈攻擊與隱私合規(guī)風(fēng)險(xiǎn)/1.4算力經(jīng)濟(jì)性失衡：資源碎片化與供需錯(cuò)位下的成本與效率挑戰(zhàn)1.4算力經(jīng)濟(jì)性失衡：資源碎片化與供需錯(cuò)位下的成本與效率挑戰(zhàn)1.3高性能瓶頸：算力利用率與異構(gòu)協(xié)同問題凸顯1.3高性能瓶頸：算力利用率與異構(gòu)協(xié)同問題凸顯●資源碎片化與低效利用是算力經(jīng)濟(jì)性失衡的核心矛盾。我國數(shù)據(jù)中心服務(wù)器的平●高門檻、重復(fù)投入與供需錯(cuò)位是中小企業(yè)算力的成本困境。單個(gè)大模型訓(xùn)練成本2.1云平臺(tái)級(jí)別的全棧安全保障2.1云平臺(tái)級(jí)別的全棧安全保障【ForresterWave】：ForresterWave是ForresterResearch（全球知名技術(shù)與市場(chǎng)研究機(jī)構(gòu)）提出的供應(yīng)商評(píng)估框架，通過三大維度（CurrentOffering當(dāng)前產(chǎn)品、Strategy戰(zhàn)略、MarketResponse市場(chǎng)響應(yīng)）對(duì)特定領(lǐng)域的技術(shù)解決方案/供應(yīng)商進(jìn)行量化評(píng)分與排名。其報(bào)告常被用于指導(dǎo)企業(yè)技術(shù)選型，具有行業(yè)標(biāo)桿意義?！窨焖俟收匣謴?fù)?；谕?fù)湓獢?shù)據(jù)、數(shù)據(jù)備份與固件優(yōu)化，實(shí)現(xiàn)故障快速修復(fù)。結(jié)●產(chǎn)品全生命周期安全。AI系統(tǒng)的復(fù)雜性決定了其安全保障不能依賴單一環(huán)節(jié)的防定期邀請(qǐng)高水平的外部安全團(tuán)隊(duì)和獨(dú)立研究人員，從外部視角對(duì)AI基礎(chǔ)設(shè)施進(jìn)行滲透測(cè)試與漏洞挖掘，有效補(bǔ)充了內(nèi)部測(cè)試的盲區(qū)，進(jìn)一步筑2.2面向AI場(chǎng)景的安全防護(hù)2.2面向AI場(chǎng)景的安全防護(hù)推理任務(wù)運(yùn)行于基于GPU的計(jì)算環(huán)境之上，如何●供應(yīng)鏈安全防護(hù)：阿里云的容器鏡像服務(wù)提供自動(dòng)化漏洞安全掃描與數(shù)字簽名能●模型文件訪問控制與操作審計(jì)：阿里云內(nèi)部通過RAM細(xì)粒度權(quán)限策略、獨(dú)立權(quán)限管理模塊，實(shí)現(xiàn)模型文件的最小必要權(quán)限管理。結(jié)合阿里云的操作審計(jì)服務(wù)●傳輸加密：阿里云具備全面的傳輸加密機(jī)制，確?！翊鎯?chǔ)加密：阿里云為各類云上產(chǎn)品提供落盤數(shù)據(jù)加密能力，確保靜態(tài)數(shù)據(jù)（如2.3從高性能到低成本的全面優(yōu)化●突破AI算力瓶頸的全棧優(yōu)化。阿里云自研磐久AI服務(wù)器支持單機(jī)16卡、共●平臺(tái)層優(yōu)化實(shí)現(xiàn)算力資源的極致利用。阿里云大模型平臺(tái)能夠?qū)崿F(xiàn)萬卡●技術(shù)創(chuàng)新顯著降低單位算力成本。阿里云通過Nvlink互聯(lián)優(yōu)化降低通信開銷，覆蓋高可用、高性能、低成本與全棧安全的完整體系。面對(duì)AI規(guī)模化發(fā)展帶來的高可用性壓力、安全風(fēng)險(xiǎn)、算力瓶頸與成本挑戰(zhàn)，阿里云依托全球領(lǐng)先的云計(jì)算技術(shù)，提供包括高性能GPU集群、智能調(diào)度平臺(tái)、彈性計(jì)算資源與全方位安全保障在內(nèi)的關(guān)鍵技術(shù)能力。并且做到了安全體系深度融合縱深防御與零信任架構(gòu)，通過DevSecOps實(shí)現(xiàn)研發(fā)全流程自動(dòng)化安全檢測(cè)，通過常態(tài)化紅藍(lán)對(duì)抗作為人工智能領(lǐng)域的前沿探索者與實(shí)踐引領(lǐng)者，通義大模認(rèn)知能力和治理體系等方面的全方位優(yōu)勢(shì)。在技術(shù)架構(gòu)維度，通義打造了“全尺寸”構(gòu)建能力與安全兼?zhèn)涞拇竽Ｐ?，成為了發(fā)展新質(zhì)生產(chǎn)力的關(guān)鍵所在?！白吭降哪Ｐ汀?.1全尺寸覆蓋的彈性架構(gòu)2.1全尺寸覆蓋的彈性架構(gòu)輕量化部署到超大規(guī)模云端推理的多樣化需求。0.6B-14B小尺寸輕量化部署到超大規(guī)模云端推理的多樣化需求。0.6B-14B小尺寸3.1研發(fā)安全：數(shù)據(jù)與算法根基防護(hù)3.1研發(fā)安全：數(shù)據(jù)與算法根基防護(hù)，強(qiáng)化內(nèi)生安全能力2.2全模態(tài)融合的認(rèn)知能力2.2全模態(tài)融合的認(rèn)知能力 嵌到模型研發(fā)設(shè)計(jì)。一是在機(jī)制機(jī)理審核方面，覆蓋立項(xiàng)、設(shè)計(jì)開發(fā)、測(cè)試上線、運(yùn)行監(jiān)控及運(yùn)維變更五大階段，審查算法目標(biāo)合規(guī)性、數(shù)據(jù)質(zhì)量、邏輯合理性及變更可追溯性。二是遵循科技倫理準(zhǔn)則，建立和完善科技倫理審查機(jī)制。通過建立跨部門科技倫理審查委員會(huì)，構(gòu)建評(píng)估框架，審查價(jià)值觀對(duì)齊、關(guān)鍵維度，將“以人為本、普惠正直、安全可靠、隱私保護(hù)、可信可控、開放共治”●制作完善的“安全回復(fù)” ●構(gòu)建全面的“風(fēng)險(xiǎn)指令●構(gòu)建全面的“風(fēng)險(xiǎn)指令”挑戰(zhàn)的方式是構(gòu)建帶思考過程的安全語料庫：思考過程本身避免不安全的假設(shè)和推●小語種安全性：隨著大模型的小語種能力不斷提升，安全語料生產(chǎn)從中英文拓展至多語言。具體做法包括：一是制作所有語言通用價(jià)值觀的安全語料；二是結(jié)合目標(biāo)八____ ●上線評(píng)測(cè)：大模型上線前從多維度進(jìn)行安全評(píng)測(cè)，比如國家技術(shù)標(biāo)準(zhǔn)定義的各種●持續(xù)迭代：及時(shí)跟進(jìn)大模型技術(shù)演進(jìn)趨勢(shì)、法規(guī)和技術(shù)標(biāo)準(zhǔn)、新型安全威脅，不3.2部署安全：過程控制3.2部署安全：過程控制，構(gòu)建防御屏障高穩(wěn)定的阿里云百煉。如本文第三章AI基礎(chǔ)設(shè)施的介紹，阿里云通過網(wǎng)絡(luò)隔離、訪3.3運(yùn)行安全：上線監(jiān)測(cè)3.3運(yùn)行安全：上線監(jiān)測(cè)，實(shí)現(xiàn)動(dòng)態(tài)防護(hù) 構(gòu)建了集學(xué)習(xí)、競(jìng)技、交流與成長于一體的平臺(tái)。賽事通過三大賽道實(shí)現(xiàn)全方位能），），進(jìn)的AI能力轉(zhuǎn)變?yōu)榭梢?guī)?；?biāo)準(zhǔn)化的服務(wù)。這種服務(wù)形態(tài)的轉(zhuǎn)變引入了非確定性1.21.2MaaS時(shí)代下的新型安全風(fēng)險(xiǎn)研判將AI治理融入企業(yè)管理全流程。阿里云百煉2.1安全設(shè)計(jì)理念：縱深防御與原生集成2.1安全設(shè)計(jì)理念：縱深防御與原生集成●縱深防御：安全體系的設(shè)計(jì)理念認(rèn)為，不存在任何單一的、絕對(duì)無法被攻破的安●原生集成：阿里云百煉平臺(tái)的安全能力均無縫集成了阿里云久經(jīng)考驗(yàn)的旗艦級(jí)安2.2核心：貫穿生命周期的數(shù)據(jù)安全與隱私保護(hù)2.2核心：貫穿生命周期的數(shù)據(jù)安全與隱私保護(hù) ）：●操作審計(jì)（ActionTrail）用于記錄百煉“管控面”操作，任何對(duì)阿里云百煉平臺(tái)中模型、應(yīng)用、數(shù)據(jù)集、密鑰等資源的創(chuàng)建、修改、刪除操作，以及所有對(duì)權(quán)限策略的變更，即“誰在什么時(shí)間、從哪里、對(duì)什么資源、做了什么事”，都會(huì)被●應(yīng)用實(shí)時(shí)監(jiān)控服務(wù)（ApplicationReal-TimeMonitori2.3擴(kuò)展：支持客戶彈性、靈活地應(yīng)對(duì)外部攻擊2.3擴(kuò)展：支持客戶彈性、靈活地應(yīng)對(duì)外部攻擊7879 ●安全模型格式：平臺(tái)積極推動(dòng)并優(yōu)先支持更安全的模型序列化格式，如 3.1場(chǎng)景一：發(fā)布并調(diào)用一個(gè)線上模型推理服務(wù) 3.1場(chǎng)景一：發(fā)布并調(diào)用一個(gè)線上模型推理服務(wù)■其他應(yīng)用：對(duì)于部署在其他環(huán)境的應(yīng)用，阿里云百煉建議將需要用到的憑證通過■提示詞注入防御：有效識(shí)別并阻斷用戶輸入中的“提示詞注入”(Prompt3.2場(chǎng)景二：使用私有數(shù)據(jù)微調(diào)一個(gè)專屬模型3.2場(chǎng)景二：使用私有數(shù)據(jù)微調(diào)一個(gè)專屬模型1）統(tǒng)一的資產(chǎn)管理與審計(jì)：新模型自動(dòng)被納入平臺(tái)的權(quán)限管控體系中，只有被授權(quán)的用戶才能訪問。從上傳數(shù)據(jù)到生成模型的每一個(gè)關(guān)鍵管控操作，都已被3.3場(chǎng)景三：構(gòu)建并運(yùn)行一個(gè)3.3場(chǎng)景三：構(gòu)建并運(yùn)行一個(gè)AIAgent/MCP應(yīng)用然后發(fā)郵件告訴我?！?444.1當(dāng)下的承諾：安全可信的五大基石4.1當(dāng)下的承諾：安全可信的五大基石●密態(tài)的用戶數(shù)據(jù)主權(quán)保護(hù)：阿里云百煉貫徹“可用不可見”的原則。數(shù)據(jù)在傳輸4.2未來的愿景：4.2未來的愿景：引領(lǐng)MaaS進(jìn)入全鏈路機(jī)密計(jì)算時(shí)代阿里云深知，對(duì)數(shù)據(jù)安全的追求永無止境。當(dāng)前的安全體系已能妥善保護(hù)“傳輸中”和“存儲(chǔ)中