Guidelinesforclassificationandgrading電信終端產(chǎn)業(yè)協(xié)會(huì)發(fā)布版權(quán)聲明本文件的版權(quán)屬于電信終端產(chǎn)業(yè)協(xié)會(huì)，任何單位和個(gè)人未經(jīng)許可，傳播、發(fā)行、合訂和宣貫等，也不得未經(jīng)允許采用其具體內(nèi)容編制本團(tuán)I 1 1 1 1 1 2 2 2 3 3 5本文件按照GB/T1.1—2020《標(biāo)準(zhǔn)化工作導(dǎo)則第1部分：標(biāo)準(zhǔn)化文件的結(jié)構(gòu)和起草規(guī)則》的規(guī)定請(qǐng)注意本文件的某些內(nèi)容可能涉及專(zhuān)利。本文件的發(fā)布機(jī)構(gòu)不承擔(dān)識(shí)別專(zhuān)利的責(zé)任。2023年國(guó)內(nèi)七部門(mén)發(fā)布《生成式人工智能服務(wù)管理暫行辦法》，其的理解與建議也稍存差異，這些都對(duì)未來(lái)分類(lèi)分級(jí)治理和監(jiān)管帶來(lái)挑1生成式人工智能產(chǎn)品和服務(wù)風(fēng)險(xiǎn)分類(lèi)分級(jí)指南生成式人工智能產(chǎn)品和服務(wù)generativ利用生成式人工智能技術(shù)，向公眾提供生成文本、圖4分類(lèi)分級(jí)原則分類(lèi)分級(jí)的依據(jù)，并結(jié)合實(shí)際需要對(duì)產(chǎn)品和服務(wù)進(jìn)行b)邊界清晰原則：產(chǎn)品和服務(wù)分級(jí)的各級(jí)別應(yīng)邊界清晰，對(duì)不同級(jí)別的產(chǎn)品和服務(wù)采取相應(yīng)的c)點(diǎn)面結(jié)合原則：分級(jí)既要考慮單一影響對(duì)象的影響程度，也要充分考慮多個(gè)影響對(duì)象匯聚融2a)輸出危害意識(shí)形態(tài)、國(guó)家安全、社會(huì)穩(wěn)定的違法違規(guī)信息：AIGC應(yīng)用及服務(wù)被用于生成虛假b)輸出威脅現(xiàn)實(shí)世界和網(wǎng)絡(luò)世界安全的信息：恐怖組織、犯罪分子等通過(guò)d)輸出內(nèi)容被濫用：受經(jīng)濟(jì)、社會(huì)等利益驅(qū)使，別有用e)信息泄露風(fēng)險(xiǎn)：使用服務(wù)時(shí)，輸入個(gè)人敏感信息或組存及記錄，如果缺乏有效安全保護(hù)或合法利用，可能導(dǎo)致個(gè)人隱私、組織商業(yè)秘密的泄露；a)確定分級(jí)對(duì)象：確定待分級(jí)的生成式人工智能產(chǎn)品b)風(fēng)險(xiǎn)要素識(shí)別：結(jié)合本產(chǎn)品和服務(wù)特點(diǎn)，按照6.2識(shí)別涉及的分級(jí)風(fēng)險(xiǎn)要素情況。和服務(wù)魯棒性、用戶規(guī)模、使用群體、業(yè)務(wù)輿論屬性、數(shù)據(jù)c)產(chǎn)品和服務(wù)魯棒性：模型抵御對(duì)抗攻擊、提示詞攻擊3組織權(quán)益：影響組織自身或其他組織的生產(chǎn)運(yùn)營(yíng)、聲譽(yù)形象、公信力、知識(shí)產(chǎn)權(quán)等組權(quán)益作為判斷影響程度的基準(zhǔn)。開(kāi)展數(shù)據(jù)影響分析時(shí)，應(yīng)按照以下規(guī)則確定影響程度:1)如果對(duì)社會(huì)治安和公共安全等產(chǎn)生嚴(yán)2)如果對(duì)社會(huì)治安和公共安全等產(chǎn)生較大影響的，將影響程度確定為3)如果對(duì)社會(huì)治安和公共安全等產(chǎn)生一般影響的，將影響程度確4注：如待分級(jí)的產(chǎn)品和服務(wù)涉及多個(gè)影響對(duì)象或影響程度，應(yīng)a)滿足以下任一條件的產(chǎn)品和服務(wù)，識(shí)2)產(chǎn)品和服務(wù)一旦產(chǎn)生安全問(wèn)題，直接對(duì)社會(huì)秩序造成2)產(chǎn)品