CCSL80TechnicalrequirementsandtesI 2規(guī)范性引用文件 3術(shù)語和定義 4縮略語 5概述 5.1系統(tǒng)架構(gòu) 5.2安全風(fēng)險 6技術(shù)要求 7測試方法 7.1測試工具 7.2測試數(shù)據(jù) 7.3測試流程 附錄A（規(guī)范性）不同遠(yuǎn)程人臉識別系統(tǒng)對應(yīng)檢測項(xiàng) 本文件按照GB/T1.1—2020《標(biāo)準(zhǔn)化工作導(dǎo)則第1部分：標(biāo)準(zhǔn)化文件的結(jié)構(gòu)和起草規(guī)則》的規(guī)定起草。本文件由中國電子信息行業(yè)聯(lián)合會提出并歸口。請注意本標(biāo)準(zhǔn)的某些內(nèi)容可能涉及專利，本標(biāo)準(zhǔn)的發(fā)布機(jī)構(gòu)不承擔(dān)識別專利的責(zé)任。本文件起草單位：國家工業(yè)信息安全發(fā)展研究中心、國家語音及圖像識別產(chǎn)品質(zhì)量檢驗(yàn)檢測中心、梆梆安全科技有限公司、京東科技信息技術(shù)有限公司、杭州?？低晹?shù)字技術(shù)股份有限公司、小視科技（江蘇）股份有限公司、北京瑞萊智慧科技有限公司、北京智游網(wǎng)安科技有限公司、上海依圖網(wǎng)絡(luò)科技有限公司、上海商湯智能科技有限公司、螞蟻科技集團(tuán)股份有限公司、北京百度網(wǎng)訊科技有限公司、羅克佳華科技集團(tuán)股份有限公司、大同市數(shù)字政府服務(wù)中心、北京信源電子信息技術(shù)有限公司大同分公司、北京信源電子信息技術(shù)有限公司吉安分公司。本文件主要起草人：朱倩倩、劉永東、李美桃、蓋闊、尹良、劉宇光、彭屾屾、王晶晶、王升國、楊帆、郝強(qiáng)、種國雙、高云龍、倪邦杰、喬思淵、韋云霞、蕭子豪、韓云、傅林、趙春昊、劉國帥、崔志超、林冠辰、郭建領(lǐng)、李世勇、薛學(xué)琴、周永修、韓杰、馬國斌。隨著數(shù)字化轉(zhuǎn)型的推進(jìn)，人臉識別技術(shù)在社會發(fā)展和日常生活中被廣泛應(yīng)用，尤其在金融、政務(wù)、醫(yī)療、安檢、支付、文娛等諸多領(lǐng)域和場景發(fā)揮重要作用，但隨之帶來的安全隱患也備受爭議。攻擊者能夠使用多種不同的攻擊技術(shù)，利用在黑灰產(chǎn)界獲取的一批真實(shí)身份證及照片信息，繞過現(xiàn)有App的人臉活體檢測等前端校驗(yàn)機(jī)制，盜用他人信息完成非本人在場的業(yè)務(wù)交易，最終實(shí)現(xiàn)虛假開卡、虛假開戶、虛假簽到、賬號及信息竊取等業(yè)務(wù)違規(guī)目的。當(dāng)前，注入攻擊已成為遠(yuǎn)程人臉識別系統(tǒng)的重大安全隱患，安全事件頻繁發(fā)生，危害國家安全、社會安全和個人安全。本文件提出了遠(yuǎn)程人臉識別系統(tǒng)在滿足GB/T38671基礎(chǔ)上，防注入攻擊的技術(shù)要求和測試方法，適用于檢驗(yàn)檢測機(jī)構(gòu)、技術(shù)開發(fā)方和技術(shù)應(yīng)用方等開展人臉識別系統(tǒng)防注入攻擊的測試，提升系統(tǒng)防注入攻擊技術(shù)安全水平，保障人臉識別應(yīng)用安全。1遠(yuǎn)程人臉識別系統(tǒng)防注入攻擊技術(shù)要求和測試方法本文件規(guī)定了遠(yuǎn)程人臉識別系統(tǒng)防注入攻擊的技術(shù)要求和測試方法。本文件適用于檢驗(yàn)檢測機(jī)構(gòu)、技術(shù)開發(fā)方和技術(shù)應(yīng)用方等開展遠(yuǎn)程人臉識別系統(tǒng)防注入攻擊的測試。2規(guī)范性引用文件下列文件中的內(nèi)容通過文中的規(guī)范性引用而構(gòu)成本文件必不可少的條款。其中，注日期的引用文件，僅該日期對應(yīng)的版本適用于本文件；不注日期的引用文件，其最新版本（包括所有的修改單）適用于本文件。GB/T25069—2022信息安全技術(shù)術(shù)語GB/T35278—2017信息安全技術(shù)移動終端安全保護(hù)技術(shù)要求GB/T38671—2020信息安全技術(shù)遠(yuǎn)程人臉識別系統(tǒng)技術(shù)要求GB/T41772—2022信息技術(shù)生物特征識別人臉識別系統(tǒng)技術(shù)要求GB/T41987—2022公共安全人臉識別應(yīng)用防假體呈現(xiàn)攻擊測試方法3術(shù)語和定義GB/T25069—2022界定的以及下列術(shù)語和定義適用于本文件。3.1遠(yuǎn)程人臉識別系統(tǒng)remotefacerecognitionsystem由客戶端、服務(wù)器端、安全傳輸通道組成，客戶端實(shí)現(xiàn)人臉的采集，經(jīng)安全傳輸通道傳輸，在服務(wù)器端遠(yuǎn)程進(jìn)行人臉比對，實(shí)現(xiàn)自然人或自然人身份確定的系統(tǒng)。[來源：GB/T38671—2020，4.1有修改]3.2注入攻擊injectionattack通過注入數(shù)據(jù)到遠(yuǎn)程人臉識別系統(tǒng)以期獲得執(zhí)行，或是通過非預(yù)期的方式來執(zhí)行惡意數(shù)據(jù)。3.3操作系統(tǒng)operationsystem控制和管理整個計(jì)算機(jī)系統(tǒng)的硬件和軟件資源，并合理地組織調(diào)度計(jì)算機(jī)的工作和資源的分配，以提供給用戶和其他軟件方便的接口和環(huán)境的程序集合。3.4應(yīng)用程序application操作系統(tǒng)上安裝的，向用戶提供服務(wù)功能的軟件，包括移動端和本地終端的各類SDK、APP、webAPP（H5）。[來源：GB/T35278—2017，3.1.4有修改]3.5云手機(jī)cloudphone將云計(jì)算技術(shù)運(yùn)用于網(wǎng)絡(luò)終端服務(wù)，通過云服務(wù)器實(shí)現(xiàn)云服務(wù)的手機(jī)。3.62接入通信網(wǎng)絡(luò)、具有操作系統(tǒng)、可由用戶自行安App:應(yīng)用程序(Application)依據(jù)數(shù)據(jù)傳輸過程對遠(yuǎn)程人臉識別系統(tǒng)劃分為采集設(shè)備、硬件層、系統(tǒng)軟件層、應(yīng)用軟件層和網(wǎng)絡(luò)傳輸層，注入攻擊主要是在以上五層進(jìn)行數(shù)據(jù)篡改或替換。遠(yuǎn)程人臉識別系統(tǒng)安全風(fēng)險架構(gòu)見圖1?？紤]與遠(yuǎn)程人臉識別系統(tǒng)的相關(guān)性，采集設(shè)備包括但不限于RGB攝像頭、近紅外攝像頭、3D結(jié)構(gòu)光攝像頭、TOF攝像頭；硬件層包括但不限于ROM存儲器；系統(tǒng)軟件層包括但不限于操作系統(tǒng)、攝像頭和通信驅(qū)動程序；應(yīng)用軟件層包括但不限于移動端和本地終端的各類SDK、App、WebApp(H5),并提層層層網(wǎng)絡(luò)傳輸層可信環(huán)境遠(yuǎn)程人臉識別系統(tǒng)注入攻擊安全風(fēng)險主要來自采集設(shè)備注入、攝像頭驅(qū)動篡改、應(yīng)用函數(shù)劫持篡采集設(shè)備注入指通過拆解攝像頭模組或接入外部電路的方式，模擬并替換原有攝像頭信號進(jìn)行注攝像頭驅(qū)動篡改指篡改底層攝像頭驅(qū)動，重新定制一個攻擊ROM,從代碼層改變執(zhí)行邏輯，采用3應(yīng)用函數(shù)劫持篡改指對人臉識別應(yīng)用內(nèi)部的關(guān)鍵函數(shù)調(diào)用關(guān)系進(jìn)行Hook（包含移動端進(jìn)程攻擊在活體檢測后、數(shù)據(jù)包發(fā)送前進(jìn)行數(shù)據(jù)替換，更換為指定數(shù)據(jù)。傳輸抓包數(shù)據(jù)篡改指在數(shù)據(jù)傳輸過程中抓包，將數(shù)據(jù)替換成為指定數(shù)據(jù)。表1安全風(fēng)險與系統(tǒng)架構(gòu)及檢測項(xiàng)的對應(yīng)關(guān)系無定制ROM攻擊檢測6技術(shù)要求遠(yuǎn)程人臉識別系統(tǒng)在正常通過率不小于95%時，每個檢測項(xiàng)的注入攻擊拒絕率均應(yīng)不小于99%。不同遠(yuǎn)程人臉識別系統(tǒng)對應(yīng)檢測項(xiàng)應(yīng)符合附錄A的要求。7測試方法7.1測試工具測試工具主要有硬件設(shè)備和軟件工具。硬件設(shè)備包括電腦、終端設(shè)備等，軟件工具包括抓包工具、Hook框架、調(diào)試工具、二次開發(fā)工具、模擬器等。7.2測試數(shù)據(jù)測試數(shù)據(jù)男女比例1:1，注入攻擊測試數(shù)據(jù)主要有人臉圖像和人臉視頻，具體要求見表2?？紤]真實(shí)攻擊場景測試數(shù)據(jù)類型，本文件測試數(shù)據(jù)不包含偽造照片。表2測試數(shù)據(jù)要求1不少于2個采集在適配不同活體驗(yàn)證方式要求（如動作、背景色等）的情況下，應(yīng)滿足GB/T41772—20222不少于2個采集在適配不同活體驗(yàn)證方式要求（如動作、背景色等）的情況下，可參考GB/T41987A.5人臉3不少于2個采集在適配不同活體驗(yàn)證方式要求（如動作、背景色等）的情況下，包括但不限于人臉生成、人臉替換、人臉屬性編輯、人臉內(nèi)容重現(xiàn)、人臉47.3測試流程7.3.1正常通過檢測測試步驟：1)準(zhǔn)備終端設(shè)備；2)待檢測系統(tǒng)進(jìn)入測試流程，如未檢測出異常，且識別結(jié)果一致，則判定為成功，否則判定為失??；3)重復(fù)1）～2），每個數(shù)據(jù)測試次數(shù)不少于3次，并記錄測試結(jié)果；4）通過測試成功的次數(shù)與總的測試次數(shù)之比計(jì)算正常通過率。7.3.2注入攻擊檢測7.3.2.1定制ROM攻擊檢測測試步驟：1）準(zhǔn)備好已刷定制ROM的終端設(shè)備；2）測試數(shù)據(jù)存放在終端設(shè)備的指定目錄下；3）完成待測系統(tǒng)的初始化并進(jìn)入測試流程；4）如檢測不到異常，并返回人臉識別結(jié)果一致，即為防定制ROM攻擊失敗，否則判定為防定制ROM攻擊成功；5）重復(fù)1）～4），每個數(shù)據(jù)有效攻擊次數(shù)不少于3次，并記錄測試結(jié)果；6）通過防定制ROM攻擊成功的次數(shù)與總的測試次數(shù)之比計(jì)算注入攻擊拒絕率。注：有效攻擊次數(shù)是指在交互式活檢下，動作、聲7.3.2.2云手機(jī)攻擊檢測測試步驟：1）在云手機(jī)環(huán)境下運(yùn)行待測系統(tǒng)；2）如待測系統(tǒng)不能完成初始化并進(jìn)入測試流程，即為防云手機(jī)攻擊成功，下一步進(jìn)入4）；3）如待測系統(tǒng)完成初始化并進(jìn)入測試流程，播放測試數(shù)據(jù)，如檢測不到異常，并返回人臉識別結(jié)果一致，即為防云手機(jī)攻擊失敗，否則判定為防云手機(jī)攻擊成功；4）重復(fù)1）～3），每個數(shù)據(jù)有效攻擊次數(shù)不少于3次，并記錄測試結(jié)果；5）通過防云手機(jī)攻擊成功的次數(shù)與總的測試次數(shù)之比計(jì)算注入攻擊拒絕率。7.3.2.3模擬器攻擊檢測測試步驟：1）分別在模擬器環(huán)境下運(yùn)行待測系統(tǒng)；2）如待測系統(tǒng)不能完成初始化并進(jìn)入測試流程，即為防模擬器攻擊成功，下一步進(jìn)入4）；3）如待測系統(tǒng)完成初始化并進(jìn)入測試流程，播放測試數(shù)據(jù)，如檢測不到異常，并返回人臉識別結(jié)果一致，即為防模擬器攻擊失敗，否則判定為防模擬器攻擊成功；4）重復(fù)1）～3），每個數(shù)據(jù)有效攻擊次數(shù)不少于3次，并記錄測試結(jié)果；5）通過防模擬器攻擊成功的次數(shù)與總的測試次數(shù)之比計(jì)算注入攻擊拒絕率。7.3.2.4進(jìn)程攻擊檢測測試步驟：1）基于已獲取操作系統(tǒng)最高權(quán)限的終端設(shè)備安裝Hook框架；2）在電腦上安裝Hook框架,將終端設(shè)備連接至電腦；3）對待測試系統(tǒng)嘗試注入攻擊,如待測系統(tǒng)未檢測出異常,并返回人臉識別結(jié)果一致,則為防進(jìn)程攻擊失敗,否則判定為防進(jìn)程攻擊成功；4）重復(fù)1）～3），每個數(shù)據(jù)有效攻擊次數(shù)不少于3次，并記錄測試結(jié)果；5）通過防進(jìn)程攻擊成功的次數(shù)與總的測試次數(shù)之比計(jì)算注入攻擊拒絕率。7.3.2.5Hook框架攻擊檢測5測試步驟：1）分析人臉識別系統(tǒng)代碼；2）執(zhí)行Hook攻擊人臉識別業(yè)務(wù)；3）如待測系統(tǒng)不能完成初始化并進(jìn)入測試流程，即為防Hook框架攻擊成功，下一步進(jìn)入5）；4）如待測系統(tǒng)完成初始化并進(jìn)入測試流程，播放測試數(shù)據(jù)，如檢測不到異常，并返回人臉識別結(jié)果一致，即為防Hook框架攻擊失敗，否則判定為防Hook框架攻擊成功；5）重復(fù)1）～4），每個數(shù)據(jù)有效攻擊次數(shù)不少于3次，并記錄測試結(jié)果；6）通過防Hook框架攻擊成功的次數(shù)與總的測試次數(shù)之比計(jì)算注入攻擊拒絕率。7.3.2.6數(shù)據(jù)篡改攻擊檢測測試步驟：1）分析人臉識別業(yè)務(wù)數(shù)據(jù)流；2）執(zhí)行篡改人臉識別業(yè)務(wù)相關(guān)數(shù)據(jù)；3）播放測試數(shù)據(jù)，如檢測不到異常，并返回人