人工智能產(chǎn)品倫理風(fēng)險(xiǎn)管理指南2規(guī)范性引用文件2<人工智能>對(duì)待特定對(duì)象、人員或群體時(shí)相較于其他實(shí)體）不出現(xiàn)系<人工智能>系統(tǒng)與利益相關(guān)方交流關(guān)于該系4人工智能產(chǎn)品倫理風(fēng)險(xiǎn)分析4.1數(shù)據(jù)層面風(fēng)險(xiǎn)分析息保護(hù)的問(wèn)題；缺乏對(duì)數(shù)據(jù)層面的可追溯技術(shù)也會(huì)增加人4.2算法層面風(fēng)險(xiǎn)分析44.3應(yīng)用管理層面風(fēng)險(xiǎn)分析機(jī)器在自我學(xué)習(xí)過(guò)程中輸入了到數(shù)據(jù)的多維不同特征，而造成算法將偏見(jiàn)引入決策過(guò)程的算法歧視風(fēng)責(zé)5人工智能產(chǎn)品倫理風(fēng)險(xiǎn)管理體系5.1概述如圖1所示，通過(guò)對(duì)人工智能產(chǎn)品倫理風(fēng)險(xiǎn)進(jìn)行分析和匯總，本文件給出了人工智能產(chǎn)品的倫理風(fēng)a)相稱性和不損害：在人工智能產(chǎn)品生存周期中，人工智能產(chǎn)品的相應(yīng)預(yù)測(cè)結(jié)果或行為應(yīng)不超出實(shí)現(xiàn)合法目的或目標(biāo)所需的范圍，不得對(duì)人類、人權(quán)和基本自由、個(gè)別社區(qū)和整個(gè)社會(huì)造成損b)可持續(xù)發(fā)展：在設(shè)計(jì)理念與實(shí)際應(yīng)用中，人工智能產(chǎn)品宜充分考慮了其對(duì)環(huán)境和社會(huì)可持續(xù)發(fā)5.3公平性包括但不限于推出相應(yīng)的頁(yè)面與符合群體特征的應(yīng)c)數(shù)據(jù)偏見(jiàn)控制：人工智能產(chǎn)品在設(shè)計(jì)階段應(yīng)考慮數(shù)據(jù)偏見(jiàn)問(wèn)題，使所采用的數(shù)據(jù)集避免因數(shù)據(jù)處理者對(duì)文化、政策或歷史因素的人類認(rèn)知偏見(jiàn)而導(dǎo)致的非必要性數(shù)據(jù)偏見(jiàn)，或具備相關(guān)機(jī)制消除或減輕偏見(jiàn)；人工智能產(chǎn)品在統(tǒng)計(jì)意義上完備地代表了所面向的群體d)算法偏見(jiàn)控制：人工智能產(chǎn)品應(yīng)具備算法偏見(jiàn)的控制機(jī)制，使得所應(yīng)用的算法能面向全部群體61)應(yīng)急機(jī)制：人工智能產(chǎn)品應(yīng)具備足夠的2)應(yīng)停機(jī)制：人工智能產(chǎn)品宜具備相應(yīng)機(jī)制能夠確保用戶在人工智能產(chǎn)品失控時(shí)及時(shí)、有效b)韌性：除在極端特殊環(huán)境或條件下部署、運(yùn)行才能復(fù)現(xiàn)結(jié)果或者可復(fù)現(xiàn)性較低時(shí)，人工智能產(chǎn)品應(yīng)具備適當(dāng)?shù)捻g性設(shè)計(jì)和機(jī)制，能夠在給定的條件或環(huán)境下快速恢復(fù)產(chǎn)品的運(yùn)行功能，輸出穩(wěn)定、相似的運(yùn)行結(jié)果，并對(duì)可能的負(fù)面影響進(jìn)行評(píng)估并具備c)功能安全：在人工智能產(chǎn)品生存周期中，人工智能產(chǎn)品應(yīng)在數(shù)據(jù)、算法、軟件代碼、基礎(chǔ)硬件等層面符合相關(guān)信息安全國(guó)家標(biāo)準(zhǔn)的要求，以實(shí)現(xiàn)人工智能產(chǎn)品的可用性、完整性和a)保障個(gè)人信息：人工智能產(chǎn)品應(yīng)在收集、使用用戶個(gè)人信息的過(guò)程中始終具有合法性、正當(dāng)性泄露或其他非法行為利用；人工智能產(chǎn)品應(yīng)提供有效渠道讓用戶來(lái)行使對(duì)其個(gè)人信息的合法權(quán)利，設(shè)計(jì)開(kāi)放相關(guān)機(jī)制讓用戶管理授權(quán)的個(gè)人信息與撤銷(xiāo)對(duì)服b)保障個(gè)人權(quán)益：人工智能產(chǎn)品應(yīng)在收集、使用、處理個(gè)人信息時(shí)符合個(gè)人信息保護(hù)相關(guān)法律法規(guī)，保障用戶的知情權(quán)、并充分征得用戶的明示同意；人工智能產(chǎn)品應(yīng)在收集、使用用戶個(gè)人5.6監(jiān)督和決策a)保障自主決策權(quán)：人工智能產(chǎn)品應(yīng)具有充分措施和機(jī)制避免使用戶對(duì)其產(chǎn)生過(guò)度依賴、上癮或b)防止人為濫用：人工智能產(chǎn)品在設(shè)計(jì)階段應(yīng)考慮防止人為濫用的設(shè)計(jì)，尊重用戶不使用人工智5.7透明可解釋b)風(fēng)險(xiǎn)監(jiān)測(cè)：人工智能產(chǎn)品應(yīng)建立風(fēng)險(xiǎn)監(jiān)測(cè)機(jī)制，如提供其所做決策的依據(jù)標(biāo)準(zhǔn)，平均準(zhǔn)確率和c)異常定位：人工智能產(chǎn)品應(yīng)具有足夠透明度，使得出現(xiàn)異常時(shí)，能使開(kāi)發(fā)人員或用戶理解人工d)可理解性：人工智能產(chǎn)品應(yīng)提供清晰、易懂、充分的解釋，使得做出用戶充分理解針對(duì)其做出e)可預(yù)測(cè)性：人工智能產(chǎn)品應(yīng)考慮采用相關(guān)機(jī)制提高自身行為的可預(yù)測(cè)性，幫助相關(guān)的開(kāi)發(fā)維護(hù)5.8責(zé)任和問(wèn)責(zé)a)責(zé)任界定：人工智能產(chǎn)品應(yīng)具備相關(guān)機(jī)制在b)例外界定機(jī)制：針對(duì)人工智能產(chǎn)品在設(shè)計(jì)、開(kāi)發(fā)、部署、運(yùn)行過(guò)程中產(chǎn)生的監(jiān)管規(guī)定未涉及的c)責(zé)任組織架構(gòu)：人工智能產(chǎn)品開(kāi)發(fā)方應(yīng)明確倫理相關(guān)的負(fù)責(zé)人進(jìn)行監(jiān)管、處理人工智能d)可追溯性：在人工智能產(chǎn)品生存周期中，人工智能產(chǎn)品應(yīng)具備相關(guān)機(jī)制實(shí)現(xiàn)對(duì)輸出結(jié)果背后的8[1]《新一代人工智能倫理規(guī)范》，中華人民共和國(guó)科學(xué)技[3]《人工智能倫理問(wèn)題建議書(shū)》，聯(lián)合國(guó)教科文[4]RecommendationoftheCouncilonArtificialIntelligence,OECDLegalInstruments[5]EthicsGuidelinesForTrustworthyAI,AIHLEG[6]Frameworkofethicalaspectsofartificialintelligence,roboticsandrelatedtechnologies,European[7]GB/T25069—2022《信息安全[8]GB/TXXXXX-XXXX《信息技術(shù)人工智能術(shù)語(yǔ)》（報(bào)批稿）[9]ISO/IEC22989:2022Informationtechnology—Artificialintelligence—Artificialintelligenceconcepts[10]ISO/IECTR24027:2021Informationtechnology—Artificial