電信終端產(chǎn)業(yè)協(xié)會(huì)發(fā)布版權(quán)聲明傳播、發(fā)行、合訂和宣貫等，也不得未經(jīng)允許采用其具體內(nèi)容編制本團(tuán)I 1 1 1 1 2 2 2 2 2 3 3 3 3 4 4 4 4 4 5 5 6 7本文件按照GB/T1.1—2020《標(biāo)準(zhǔn)化工作導(dǎo)則第1部分：標(biāo)準(zhǔn)化文件的結(jié)構(gòu)和起草規(guī)則》的規(guī)定請(qǐng)注意本文件的某些內(nèi)容可能涉及專利。本文件的發(fā)布機(jī)構(gòu)不承擔(dān)識(shí)別專利的責(zé)任。本文件起草單位：維沃移動(dòng)通信有限公司、中國(guó)信息通信研究院、小米通訊技術(shù)有限公司、OPPO創(chuàng)科網(wǎng)絡(luò)技術(shù)有限公司、上海得物信息集團(tuán)有限公司、北京零一萬(wàn)物科技有限公司。辰淑、趙曉娜、林冠辰、李欣、高博雅、谷晨、王江勝、王駿超、任資政、康宇、楊歡、王海1移動(dòng)智能終端端側(cè)大模型安全實(shí)施指南本文件規(guī)定了提出了移動(dòng)智能終端端側(cè)大模型的框架、風(fēng)險(xiǎn)、安全相關(guān)的實(shí)施指移動(dòng)智能終端smartmobile4縮略語(yǔ)AI：人工智能（ArtificialIntelligence）API：應(yīng)用程序編程接口（ApplicationProgrammingInterface）APP：移動(dòng)應(yīng)用程序（ApplicatioCPU：中央處理器（CentralProcessingCVE：通用漏洞披露（CommonVulnerabilities&ExpDoS：拒絕服務(wù)（DenialofServiGPU：圖形處理器（GraphicsProcessingU2SSRF：服務(wù)端請(qǐng)求偽造（Server-SideRequestURL：統(tǒng)一資源定位系統(tǒng)（UniformResourceLocaXSS：跨站腳本攻擊（CrossSiteScrip型會(huì)與終端上搭載的APP進(jìn)行相應(yīng)交互。同時(shí)可能存在端側(cè)大模型接入云側(cè)，利用云側(cè)能力協(xié)助完成更業(yè)務(wù)安全APP應(yīng)用層模型層端側(cè)大模型云側(cè)大模型模型安全業(yè)務(wù)安全APP應(yīng)用層模型層端側(cè)大模型云側(cè)大模型模型安全安全保障基礎(chǔ)層CPU、GPU、內(nèi)存等硬件基礎(chǔ)層二模塊____可選二對(duì)應(yīng)安全《-u數(shù)據(jù)雙向流動(dòng)5.2端側(cè)大模型模式分類根據(jù)是否支持云側(cè)接入分為離線模式與在線模式兩種無(wú)需聯(lián)網(wǎng)，僅在本地運(yùn)行和處理數(shù)據(jù)，依靠本地算力端側(cè)接入云側(cè)，利用云側(cè)能力協(xié)助，可支持更復(fù)5.3應(yīng)用場(chǎng)景端側(cè)大模型面臨的安全威脅見附錄A，主要分為兩大類，分別是端側(cè)大3全、模型安全、業(yè)務(wù)安全以及貫徹其中的安全保障，整體架訓(xùn)練數(shù)據(jù)采集訓(xùn)練數(shù)據(jù)清洗與標(biāo)注安全訓(xùn)練業(yè)務(wù)安全內(nèi)容安全個(gè)人信息保護(hù)通信安全運(yùn)行維護(hù)模型安全安全運(yùn)行數(shù)據(jù)保護(hù)攻擊防護(hù)安全保障用性，以及對(duì)啟動(dòng)、運(yùn)行環(huán)境進(jìn)行安全檢測(cè)，例如終端是否被root、模型進(jìn)程是否被進(jìn)行注b)通過安全通道對(duì)端側(cè)大模型進(jìn)行傳輸，保證傳輸?shù)臋C(jī)密性和完整性。4a)對(duì)端側(cè)大模型關(guān)鍵結(jié)構(gòu)和參數(shù)進(jìn)行混d)系統(tǒng)不向用戶提供內(nèi)存DUMP工具，以防e)文字、圖片、音頻、視頻等生成內(nèi)容f)采用端云結(jié)合方式進(jìn)行推理分析時(shí)，端側(cè)僅上傳最小必要的5a）云側(cè)與端側(cè)大模型通信過程中，對(duì)用戶輸入的URL進(jìn)行校驗(yàn)，以防攻擊者通過SSRF攻擊訪問到c)建立有效的用戶投訴反饋渠道，收到用戶反饋后，及6攻擊者通過XSS，仿冒用戶身份進(jìn)行操作，如竊攻擊者通過話術(shù)攻擊，篡改預(yù)置話術(shù)，導(dǎo)致大模型“越攻擊者通過構(gòu)造偽造請(qǐng)求使用戶在不知情的情況下執(zhí)行操作，事后用戶會(huì)因?yàn)闊o(wú)攻擊者通過獲取用戶的瀏覽器緩存、本地存儲(chǔ)或其他敏攻擊者利用跨站腳本來(lái)大量觸發(fā)某種消耗資源的操作，造成服務(wù)器性能下降甚至攻擊者通過修改客戶端版本進(jìn)行無(wú)校驗(yàn)舊版本，攻擊者