21遼寧省市場監(jiān)督管理局發(fā)布I III 1 1 1 1 2 2 2 2 2 2 2 3 3 3 3 3 4 4 4 4 4 4 5 5 6本文件按照GB/T1.1—2020《標(biāo)準(zhǔn)化工作導(dǎo)則第1部分：標(biāo)準(zhǔn)化文件的結(jié)構(gòu)和起草規(guī)則》的規(guī)定請注意本文件的某些內(nèi)容可能涉及專利。本文件的發(fā)布機(jī)構(gòu)不承擔(dān)識(shí)別專利的責(zé)任。歸口管理部門通訊地址：遼寧省沈陽市皇姑區(qū)北陵大街45-2號(hào)，聯(lián)系電話：1生成式人工智能安全要求本文件適用于開展生成式人工智能服務(wù)安全管理及評(píng)估GB50174-2017數(shù)據(jù)中心4基本要求b)完整性。優(yōu)先在安全可控的網(wǎng)絡(luò)環(huán)境（如局域網(wǎng)）中進(jìn)行數(shù)據(jù)調(diào)取，并采用完整性校驗(yàn)的技c)隱私性。嚴(yán)格保護(hù)個(gè)人信息和用戶隱私，符合GB/T35273-2020中5.5的規(guī)定；2d)合規(guī)性。數(shù)據(jù)處理和模型應(yīng)用應(yīng)遵循法律法規(guī)及相關(guān)標(biāo)準(zhǔn)，通過模型對齊等手段確保輸出內(nèi)e)分類分級(jí)。參照GB/T43697-2024對所涉及數(shù)據(jù)進(jìn)行分級(jí)分類，并設(shè)置相應(yīng)安全防護(hù)等級(jí)；f)倫理安全。生成式人工智能數(shù)據(jù)全生命周期保障倫理安全，促進(jìn)公平、公正、和諧，避免偏5.1基礎(chǔ)設(shè)施安全a)物理環(huán)境符合GB50174-2017中第4章的規(guī)定，具備電力保障、防火、防雷、防靜電、物理隔b)云計(jì)算資源使用符合GB/T31168-2023中第5章的規(guī)定；c)對部署在虛擬化平臺(tái)的模型服務(wù)，采用強(qiáng)隔離策略，避免跨租戶訪問、信息泄露。5.2訓(xùn)練與運(yùn)行環(huán)境安全b)網(wǎng)絡(luò)邊界防護(hù)：訓(xùn)練平臺(tái)、推理平臺(tái)的網(wǎng)絡(luò)邊界部署入侵防御系統(tǒng)、防火墻、隔離網(wǎng)關(guān)等設(shè)c)訓(xùn)練軟件合法合規(guī)：禁止使用未經(jīng)許可的開源模型、非法下載的商業(yè)模型，優(yōu)先使用可驗(yàn)證d)安全隔離策略：在訓(xùn)練過程中采用資源隔離機(jī)或虛假內(nèi)容。訓(xùn)練數(shù)據(jù)安全在滿足GB/Ta)數(shù)據(jù)來源合法合規(guī)，并獲得必要的授權(quán)許可，符合GB/T35274-2023中6.1的規(guī)定；b)涉及自然人信息的數(shù)據(jù)，進(jìn)行脫敏處理或取得用戶明示同意，符合GB/T35273-2020中第5章c)建立訓(xùn)練數(shù)據(jù)輸入日志機(jī)制，記錄數(shù)據(jù)來源、處理過程、入庫記錄及調(diào)用操作，確保數(shù)據(jù)可模型安全基本要求應(yīng)符合GB/T45654—2025中第5章3b)訓(xùn)練過程對齊：使用包含合規(guī)性、倫理正向性標(biāo)注的數(shù)據(jù)開展對齊訓(xùn)練，針對政治敏感、倫c)對齊驗(yàn)證與迭代：將對齊效果納入模型安全評(píng)估體系，采用對齊準(zhǔn)確率和違規(guī)輸出率等量化d)人機(jī)協(xié)同對齊機(jī)制：建立模型自動(dòng)過濾+人工審核復(fù)核的雙層對齊機(jī)制，對高風(fēng)險(xiǎn)場景，e)對齊日志管理：記錄模型對齊訓(xùn)練的數(shù)據(jù)來源、目標(biāo)參數(shù)、驗(yàn)證結(jié)果及修正過程，日志滿足生成式人工智能的安全措施要求涵蓋了用戶信息保護(hù)，具體要求至少a)收集與使用。僅在提供生成式人工智能服務(wù)所必需的范圍內(nèi)收集用戶信息，并明確告知用戶b)信息安全。采取加密技術(shù)和其他必要的安全措施，確保用戶信息在存儲(chǔ)和傳輸過程中的安全性，定期和不定期對存儲(chǔ)的用戶信息進(jìn)行安全檢查和備份，以防止數(shù)據(jù)丟失或損c)用戶權(quán)利。允許用戶隨時(shí)查詢、更正、刪除自己的信息。在收到用戶關(guān)于用戶信息處理的請生成式人工智能的安全措施要求涵蓋了服務(wù)透明度與可控性，具體要求至少應(yīng)a)明確并公開服務(wù)的適用人群、場合、用途等信息，以便用戶了解并合理使用服務(wù)；b)在交互界面或說明文檔中公開服務(wù)的局限性、所使用的模型、算法等方面的概要信息；c)提供用戶控制選項(xiàng)，允許用戶根據(jù)需要調(diào)整服務(wù)的使用方式，如設(shè)置隱私權(quán)限、選擇服務(wù)內(nèi)d)允許用戶隨時(shí)停止使用服務(wù)，并保障用戶在停止服生成式人工智能的安全措施要求涵蓋了投訴舉報(bào)與應(yīng)急響應(yīng)，具體要求至少應(yīng)a)建立用戶投訴接收處理機(jī)制，設(shè)置便捷的投訴、舉報(bào)入口，公布處理流程和反饋時(shí)限，及時(shí)受理、處理公眾投訴舉報(bào)并反饋處理結(jié)果，確保用戶b)制定應(yīng)急預(yù)案，對可能發(fā)生的安全事件進(jìn)行預(yù)防和應(yīng)對，在發(fā)生安全事件時(shí)，及時(shí)采取措施c)定期和不定期對服務(wù)進(jìn)行安全評(píng)估和合規(guī)性檢查，接受政府和相關(guān)主管部門的監(jiān)管和指導(dǎo)，49.1組織機(jī)構(gòu)安全應(yīng)建立與生成式人工智能安全服務(wù)相匹配的組織架構(gòu)，并滿足以下a)明確領(lǐng)導(dǎo)責(zé)任。成立由主要負(fù)責(zé)人牽頭的生成式人工智能安全工作領(lǐng)導(dǎo)小組，明確其在安全b)設(shè)立專職部門。設(shè)立專門的生成式人工智能安全管理部門，或明確現(xiàn)有相關(guān)部門的安全管理c)建立協(xié)同機(jī)制。建立安全協(xié)同與信d)授權(quán)與決策。明確關(guān)鍵安全事務(wù)（如重大數(shù)據(jù)泄露處置、模型重大風(fēng)險(xiǎn)下線、重要安全資源應(yīng)設(shè)置關(guān)鍵安全崗位，并明確其職責(zé)與權(quán)限，以滿足以下a)崗位設(shè)置。至少設(shè)置系統(tǒng)管理員、安全管理員、安全審計(jì)員等關(guān)鍵崗位；b)職責(zé)分離。遵循最小權(quán)限和職責(zé)分離9.3制度安全應(yīng)制定覆蓋生成式人工智能服務(wù)全生命周期的安全管理制度體系，并滿足以下要求：a)制度體系。建立包括但不限于算力安全、數(shù)據(jù)安全、模型安全、服務(wù)安全、安全評(píng)估及人員b)評(píng)審與更新。定期或在重大變更發(fā)生、重大安全事件發(fā)生后，定期和不定期對安全管理制度c)發(fā)布與執(zhí)行。正式發(fā)布安全管理制度，確保相9.4人員安全應(yīng)對所有相關(guān)人員，特別是關(guān)鍵崗位人員，進(jìn)行嚴(yán)格管理和安全教育，并滿足以下要求：a)背景審查。在錄用關(guān)鍵崗位人員前，對其進(jìn)行必要的背景審查，了解其專業(yè)能力、信用狀況b)安全協(xié)議。與所有接觸敏感數(shù)據(jù)、核心算法和模型權(quán)限的人員簽訂保密協(xié)議，明確其安全責(zé)c)安全教育與培訓(xùn)。制定年度安全培訓(xùn)計(jì)劃，定期對全體員工進(jìn)行生成式人工智能安全的培訓(xùn)d)意識(shí)提升。通過宣傳、演練等方式，持續(xù)提升