1網(wǎng)絡(luò)安全技術(shù)生成式人工智能預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)據(jù)安全規(guī)范本文件規(guī)定了生成式人工智能預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)據(jù)及其處理活動的安全要求，描述了對應(yīng)的評本文件適用于指導(dǎo)生成式人工智能服務(wù)提供者開展預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)據(jù)處理活動以及開展與訓(xùn)GB/TAAAAA網(wǎng)絡(luò)安全技術(shù)生成式人工智能數(shù)據(jù)安全標注3.1生成式人工智能generativeartificialintell具有文本、圖片、音頻、視頻等內(nèi)容生成能力的3.2生成式人工智能服務(wù)generativeartificialintelligence3.33.43.53.623.73.84概述生成式人工智能預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)據(jù)的安全性涉及數(shù)據(jù)自身的安全性以及生成式人工智能服務(wù)生成式人工智能預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)據(jù)安全框架包括數(shù)據(jù)通用安全以及數(shù)據(jù)處理活動安全。數(shù)據(jù)括數(shù)據(jù)收集、數(shù)據(jù)預(yù)處理、數(shù)據(jù)使用等活動數(shù)據(jù)收集數(shù)據(jù)預(yù)處理數(shù)據(jù)收集數(shù)據(jù)預(yù)處理數(shù)據(jù)使用安全監(jiān)測分類分級應(yīng)急響應(yīng)安全監(jiān)測分類分級應(yīng)急響應(yīng)安全防護審計追溯b)應(yīng)采取技術(shù)措施對預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)據(jù)進行安全監(jiān)測，發(fā)現(xiàn)數(shù)據(jù)安全缺陷、漏洞3d)應(yīng)建立針對預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)據(jù)安全事件的應(yīng)急響應(yīng)機制，及時e)應(yīng)對預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)據(jù)的數(shù)據(jù)收集、數(shù)據(jù)預(yù)處理、數(shù)據(jù)使用等的數(shù)據(jù)處理活動進行記錄，c)通過互聯(lián)網(wǎng)網(wǎng)站收集數(shù)據(jù)時，應(yīng)記錄所收集數(shù)據(jù)或數(shù)據(jù)所在網(wǎng)頁的d)通過交易或合作等方式從其他組織或個人收集數(shù)據(jù)時，應(yīng)對交易方6.2數(shù)據(jù)預(yù)處理b)應(yīng)采取關(guān)鍵詞、分類模型、人工抽檢查等方式對數(shù)據(jù)含有安全風(fēng)險內(nèi)容情況進行識注：安全風(fēng)險內(nèi)容見附錄A中定義的29類；關(guān)鍵詞、分6.3數(shù)據(jù)使用b)使用包含敏感個人信息的數(shù)據(jù)前，應(yīng)取得對應(yīng)個人單獨同意或符合法律、行政法規(guī)d)應(yīng)采取措施降低生成式人工智能被誘導(dǎo)生成安全風(fēng)險內(nèi)容的可能性47.2數(shù)據(jù)預(yù)處理b)生成式人工智能生成內(nèi)容構(gòu)成的數(shù)據(jù)樣本，應(yīng)添加所使用生成式人工智能模型或服務(wù)的版本、c)優(yōu)化訓(xùn)練數(shù)據(jù)的數(shù)據(jù)標注活動應(yīng)符合GB/TAAd)來源于生成式人工智能的生成數(shù)據(jù)，應(yīng)重點識別數(shù)據(jù)內(nèi)容是否存在7.3數(shù)據(jù)使用b)使用生成式人工智能生成內(nèi)容等數(shù)據(jù)時，應(yīng)過濾掉存在安全風(fēng)險內(nèi)容的數(shù)據(jù)。1)檢查服務(wù)提供者對預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)據(jù)的操作過3)檢查服務(wù)提供者預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)據(jù)的安全防護技術(shù)措施；5)檢查服務(wù)提供者是否具有記錄預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)據(jù)的數(shù)據(jù)收集及準備階段處理活動的1)服務(wù)提供者對預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)據(jù)進行了分2)服務(wù)提供者已采取技術(shù)措施對預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)據(jù)進行安全監(jiān)測，發(fā)現(xiàn)數(shù)據(jù)安全缺陷、5機制，并在發(fā)生安全事件時，及時有效進行了8.2預(yù)訓(xùn)練數(shù)據(jù)處理活動評價方法1)檢查服務(wù)提供者是否具有數(shù)據(jù)來源記錄；核驗數(shù)據(jù)來源記錄格式的正確性；抽樣服務(wù)提2)檢查服務(wù)提供者數(shù)據(jù)來源記錄中同類型數(shù)據(jù)所使用數(shù)據(jù)來源的數(shù)量；3)檢查服務(wù)提供者是否從互聯(lián)網(wǎng)網(wǎng)站收集數(shù)據(jù)；抽樣服務(wù)提供者收集的互聯(lián)網(wǎng)網(wǎng)站數(shù)據(jù)，4)檢查服務(wù)提供者是否通過交易或合作等方式從其他組織或個人收集數(shù)據(jù)；抽樣檢查服務(wù)2)服務(wù)提供者同種類型數(shù)據(jù)的具有多個來源數(shù)量；3)服務(wù)提供者未從互聯(lián)網(wǎng)網(wǎng)站收集4)服務(wù)提供者未通過交易或合作等方式從其他組織或個人收集數(shù)據(jù)，或具有對交易方或合c)結(jié)果判定：實際評價結(jié)果與預(yù)期結(jié)果一致則判預(yù)訓(xùn)練數(shù)據(jù)預(yù)處理安全要求的評價方法、預(yù)期結(jié)果和結(jié)果2)隨機抽樣服務(wù)提供者預(yù)處理1)抽樣樣本全部具有元數(shù)據(jù)內(nèi)容；樣本涉及其他組織或個人數(shù)據(jù)集來源的，具有數(shù)據(jù)集名2)抽樣樣本全部具有安全風(fēng)險內(nèi)容情況記錄；3)抽樣樣本涉及知識產(chǎn)權(quán)侵權(quán)風(fēng)險6c)結(jié)果判定：實際評價結(jié)果與預(yù)期結(jié)果一致則判1)檢查服務(wù)提供者是否使用包含個人2)服務(wù)提供者未使用個人敏感信息數(shù)據(jù)，或具有個人單獨同意記錄，或使用個人敏感信息3)抽樣樣本不涉及知識產(chǎn)權(quán)侵權(quán)風(fēng)險，或抽樣樣本無知識產(chǎn)權(quán)風(fēng)險并與知識產(chǎn)權(quán)侵權(quán)風(fēng)險4)人工抽檢的抽樣數(shù)據(jù)樣本中不含安8.3優(yōu)化訓(xùn)練數(shù)據(jù)處理活動評價方法優(yōu)化訓(xùn)練數(shù)據(jù)收集安全要求的評價方法、預(yù)期結(jié)果和結(jié)果判定如1)按照8.2.1a)規(guī)定的評價方法評2)檢查服務(wù)提供者是否收集生成式人工智能的生成內(nèi)容；檢查服務(wù)提供者收集的生成式人工智能生成內(nèi)容是否具有所使用生成式人工智能模型或服務(wù)的版本、獲取時間等信息記2)服務(wù)提供者沒有收集生成式人工智能的生成內(nèi)容，或具有所使用生成式人工智能模型或c)結(jié)果判定：實際評價結(jié)果與預(yù)期結(jié)果一致則判1)按照8.2.2a)規(guī)定的評價方法評價服73)檢查優(yōu)化訓(xùn)練的標注數(shù)據(jù)是否符合GB/TAAAAA的安全2)抽樣樣本涉及生成式人工智能生成內(nèi)容的，樣本的元數(shù)據(jù)內(nèi)容包括生成式人工智能模型3)優(yōu)化訓(xùn)練標注數(shù)據(jù)符合GB/TAAAAA的安4)抽樣樣本為生成式人工智能生成內(nèi)容的，具有生成式人工智能生成數(shù)據(jù)的安全風(fēng)險內(nèi)容c)結(jié)果判定：實際評價結(jié)果與預(yù)期結(jié)果一致則判優(yōu)化訓(xùn)練數(shù)據(jù)使用安全要求的評價方法、預(yù)期結(jié)果和結(jié)果判定如1)按照8.2.3a)規(guī)定的評價方法評價2)采用人工抽檢方式從全部數(shù)據(jù)中隨機抽取不少于4000個樣本，核查服務(wù)提供者使用數(shù)據(jù)2)抽樣樣本不涉生成式人工智能生成內(nèi)容，或抽樣樣本安全風(fēng)險內(nèi)容并與知識生成式人工c)結(jié)果判定：實際評價結(jié)果與預(yù)期結(jié)果一致則判8A.1包含違反社會主義核心價值觀的內(nèi)容b）危害國家安全和利益、損害國家形象；h）其他法律、行政法規(guī)禁止的內(nèi)容。A.2包含歧視性內(nèi)容A.4侵犯他人合法權(quán)益b）侵害他人肖像權(quán)；