12規(guī)范性引用文件GB/T35273信息安全技術(shù)個(gè)人信息安全GB/T41867-2022信息技術(shù)異構(gòu)計(jì)算heterogeneousc2結(jié)構(gòu)化數(shù)據(jù)structureddata模型model試圖損害、破壞深度學(xué)習(xí)的訓(xùn)練過(guò)程或未經(jīng)授權(quán)訪問(wèn)、篡改訓(xùn)練模型的個(gè)3數(shù)據(jù)后門投毒攻擊databackd對(duì)抗樣本攻擊adversarialexampleatt一種攻擊方式，攻擊者在原始樣本中添加肉眼不可見(jiàn)或在經(jīng)處理不影響整體的肉眼可見(jiàn)的細(xì)微擾動(dòng)，致使訓(xùn)練好的模型以高置信度給出與原樣本不同4數(shù)據(jù)質(zhì)量概述多源異構(gòu)智能計(jì)算場(chǎng)景下，訓(xùn)練過(guò)程的數(shù)據(jù)主要分為輸入數(shù)據(jù)和輸出數(shù)據(jù)。數(shù)據(jù)質(zhì)表1面向異構(gòu)計(jì)算的數(shù)據(jù)質(zhì)量要求5輸入數(shù)據(jù)質(zhì)量要求5.1準(zhǔn)確性要求a)對(duì)于描述客觀真實(shí)世界或信息的場(chǎng)景，數(shù)據(jù)應(yīng)是來(lái)自真實(shí)世界的異構(gòu)數(shù)據(jù)或基于真實(shí)世界的異4d)若每項(xiàng)數(shù)據(jù)存在對(duì)應(yīng)的標(biāo)簽，標(biāo)簽的準(zhǔn)確度5.2完整性要求5.3一致性要求b)輸入數(shù)據(jù)應(yīng)當(dāng)能夠被預(yù)期設(shè)備所訪問(wèn)。5.5隱私性要求b)對(duì)于非結(jié)構(gòu)化數(shù)據(jù)，對(duì)于具體訓(xùn)練任務(wù)和法律法規(guī)明確要求進(jìn)行保護(hù)的內(nèi)容，輸入數(shù)據(jù)不應(yīng)直a)輸入數(shù)據(jù)的使用過(guò)程應(yīng)確保合規(guī)，即對(duì)于異構(gòu)數(shù)據(jù)的采集、使用和傳輸應(yīng)符合相關(guān)法律法規(guī)的d)對(duì)于獨(dú)立同分布的輸入數(shù)據(jù)，數(shù)據(jù)之間不應(yīng)出現(xiàn)5i)應(yīng)對(duì)輸入數(shù)據(jù)進(jìn)行質(zhì)量檢測(cè)和過(guò)濾，防止數(shù)據(jù)投毒攻擊，包括臟標(biāo)簽b)如異構(gòu)數(shù)據(jù)中包含數(shù)據(jù)標(biāo)簽，數(shù)據(jù)標(biāo)簽的來(lái)源應(yīng)當(dāng)明確，以支持根據(jù)數(shù)據(jù)標(biāo)簽追溯到對(duì)應(yīng)的標(biāo)應(yīng)采取加密存儲(chǔ)、訪問(wèn)控制等措施，保護(hù)輸出數(shù)據(jù)的模型的結(jié)構(gòu)和參數(shù)不被攻擊者b)輸出數(shù)據(jù)應(yīng)當(dāng)能夠被預(yù)期設(shè)備所訪問(wèn)。b)輸出數(shù)據(jù)不應(yīng)在訓(xùn)練