中國的算法備案制度第一章總則第一條制度制定依據(jù)為響應(yīng)國家關(guān)于算法治理的相關(guān)政策導(dǎo)向，規(guī)范企業(yè)算法應(yīng)用行為，防范算法濫用風(fēng)險(xiǎn)，保障數(shù)據(jù)安全與公平競爭，同時(shí)滿足集團(tuán)母公司關(guān)于數(shù)字化轉(zhuǎn)型與風(fēng)險(xiǎn)防控的統(tǒng)一要求，結(jié)合公司算法應(yīng)用現(xiàn)狀及業(yè)務(wù)發(fā)展需求，特制定本制度。本制度以《中華人民共和國網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》等法律法規(guī)為基礎(chǔ)，參照行業(yè)算法倫理規(guī)范，旨在建立健全算法應(yīng)用全生命周期管理體系，提升算法治理能力，推動業(yè)務(wù)合規(guī)可持續(xù)發(fā)展。第二條適用范圍本制度適用于公司各部門、下屬單位及全體員工，覆蓋公司所有涉及算法設(shè)計(jì)、開發(fā)、測試、部署、運(yùn)行及管理的業(yè)務(wù)場景，包括但不限于智能推薦、用戶畫像、風(fēng)險(xiǎn)評估、自動化決策、數(shù)據(jù)分析等應(yīng)用場景。具體場景包括但不限于市場營銷、風(fēng)控審核、供應(yīng)鏈管理、客戶服務(wù)等關(guān)鍵業(yè)務(wù)領(lǐng)域。第三條核心術(shù)語定義1.算法專項(xiàng)管理：指公司為規(guī)范算法應(yīng)用、防控算法風(fēng)險(xiǎn)、確保算法合規(guī)所建立的管理制度、組織架構(gòu)、流程機(jī)制及保障措施的總稱，涵蓋算法全生命周期的治理活動。2.算法風(fēng)險(xiǎn)：指算法在設(shè)計(jì)、開發(fā)、部署或運(yùn)行過程中可能引發(fā)的法律合規(guī)風(fēng)險(xiǎn)、數(shù)據(jù)安全風(fēng)險(xiǎn)、公平性風(fēng)險(xiǎn)、系統(tǒng)性風(fēng)險(xiǎn)等，可能導(dǎo)致法律責(zé)任、經(jīng)濟(jì)損失或聲譽(yù)損害。3.算法合規(guī)：指算法應(yīng)用行為符合國家法律法規(guī)、行業(yè)準(zhǔn)則及公司內(nèi)部管理制度要求，保障數(shù)據(jù)使用合法、公平、透明，避免歧視、偏見或?yàn)E用。4.算法治理委員會：指公司設(shè)立的跨部門算法治理決策機(jī)構(gòu)，負(fù)責(zé)統(tǒng)籌算法專項(xiàng)管理工作的頂層設(shè)計(jì)、重大事項(xiàng)審批及監(jiān)督評價(jià)。第四條專項(xiàng)管理核心原則1.全面覆蓋：確保所有算法應(yīng)用場景納入管理范圍，實(shí)現(xiàn)算法治理無死角。2.責(zé)任到人：明確各級管理及執(zhí)行崗位的算法治理責(zé)任，建立責(zé)任追溯機(jī)制。3.風(fēng)險(xiǎn)導(dǎo)向：以風(fēng)險(xiǎn)防控為核心，優(yōu)先治理高風(fēng)險(xiǎn)算法應(yīng)用，動態(tài)調(diào)整管理策略。4.持續(xù)改進(jìn)：建立動態(tài)評估與優(yōu)化機(jī)制，根據(jù)法規(guī)變化、技術(shù)迭代及業(yè)務(wù)需求優(yōu)化治理體系。5.透明可釋：推動算法決策過程可解釋、可審計(jì)，提升算法應(yīng)用的透明度與公信力。第二章管理組織機(jī)構(gòu)與職責(zé)第五條決策層職責(zé)公司主要負(fù)責(zé)人為本單位算法專項(xiàng)管理第一責(zé)任人，對算法治理工作的全面性、合規(guī)性負(fù)總責(zé)；分管算法應(yīng)用的領(lǐng)導(dǎo)為直接責(zé)任人，負(fù)責(zé)專項(xiàng)管理制度的落地執(zhí)行、風(fēng)險(xiǎn)防控及資源保障。決策層需定期審議算法治理報(bào)告，審批重大算法應(yīng)用決策及風(fēng)險(xiǎn)處置方案。第六條算法治理委員會職責(zé)1.統(tǒng)籌協(xié)調(diào)：負(fù)責(zé)算法專項(xiàng)管理工作的頂層設(shè)計(jì)，協(xié)調(diào)跨部門資源，推動制度落地。2.決策審批：審議重大算法應(yīng)用的風(fēng)險(xiǎn)評估報(bào)告，審批高風(fēng)險(xiǎn)算法的上線與迭代。3.監(jiān)督評價(jià)：定期檢查算法治理執(zhí)行情況，評估專項(xiàng)管理有效性，提出優(yōu)化建議。第七條專項(xiàng)管理領(lǐng)導(dǎo)小組組成及職能算法治理委員會由公司主要負(fù)責(zé)人牽頭，成員包括信息技術(shù)部、合規(guī)部、法務(wù)部、風(fēng)險(xiǎn)部、業(yè)務(wù)部門代表及下屬單位負(fù)責(zé)人。領(lǐng)導(dǎo)小組下設(shè)辦公室（掛靠信息技術(shù)部），負(fù)責(zé)日常統(tǒng)籌、信息匯總及會議組織。第八條牽頭部門職責(zé)信息技術(shù)部作為算法專項(xiàng)管理的牽頭部門，負(fù)責(zé)：1.算法專項(xiàng)管理制度建設(shè)與修訂；2.算法風(fēng)險(xiǎn)庫的建立與動態(tài)更新；3.算法合規(guī)培訓(xùn)及宣傳；4.算法應(yīng)用效果及風(fēng)險(xiǎn)監(jiān)測。第九條專責(zé)部門職責(zé)合規(guī)部與法務(wù)部作為算法專項(xiàng)管理的專責(zé)部門，負(fù)責(zé)：1.算法應(yīng)用的法律合規(guī)性審查；2.算法倫理風(fēng)險(xiǎn)評估與干預(yù)；3.算法糾紛處置與外部監(jiān)管對接。第十條業(yè)務(wù)部門及下屬單位職責(zé)各業(yè)務(wù)部門及下屬單位需：1.落實(shí)本領(lǐng)域算法應(yīng)用的管理要求；2.開展算法應(yīng)用的風(fēng)險(xiǎn)自查與上報(bào)；3.確保算法操作符合業(yè)務(wù)規(guī)范及合規(guī)要求。第十一條基層執(zhí)行崗責(zé)任所有接觸算法應(yīng)用的崗位人員需：1.履行崗位合規(guī)承諾，遵守算法操作手冊；2.及時(shí)上報(bào)算法運(yùn)行異常或潛在風(fēng)險(xiǎn)；3.參與算法合規(guī)培訓(xùn)，提升風(fēng)險(xiǎn)識別能力。第三章專項(xiàng)管理重點(diǎn)內(nèi)容與要求第十一條算法設(shè)計(jì)合規(guī)性管理業(yè)務(wù)操作需符合以下標(biāo)準(zhǔn)：1.明確算法應(yīng)用目的，避免目的模糊或過度收集數(shù)據(jù)；2.設(shè)計(jì)階段開展算法公平性測試，剔除歧視性模型；3.優(yōu)先采用成熟算法模型，禁止使用未經(jīng)驗(yàn)證的算法進(jìn)行高風(fēng)險(xiǎn)決策。禁止性行為：嚴(yán)禁為優(yōu)化算法效果而惡意設(shè)置偏見模型，或利用算法進(jìn)行歧視性定價(jià)。重點(diǎn)防控點(diǎn)：模型訓(xùn)練數(shù)據(jù)的代表性偏差、特征選擇引發(fā)的偏見風(fēng)險(xiǎn)。第十二條算法開發(fā)過程管控業(yè)務(wù)操作需符合：1.建立算法開發(fā)記錄臺賬，明確數(shù)據(jù)來源、處理邏輯及模型參數(shù)；2.實(shí)施代碼分級審查，核心算法需經(jīng)至少兩名技術(shù)專家審核；3.模型迭代需經(jīng)回歸測試，確保性能不下降且合規(guī)性不受影響。禁止性行為：禁止在算法開發(fā)中植入利益輸送邏輯，或偽造測試數(shù)據(jù)美化算法效果。重點(diǎn)防控點(diǎn)：開發(fā)過程的隱蔽性風(fēng)險(xiǎn)、第三方外包算法的合規(guī)性審核。第十三條算法測試與驗(yàn)證要求業(yè)務(wù)操作需符合：1.普通場景算法需覆蓋80%以上業(yè)務(wù)數(shù)據(jù)，高風(fēng)險(xiǎn)場景需100%覆蓋；2.開展算法魯棒性測試，模擬異常輸入及對抗性攻擊；3.驗(yàn)證算法的公平性指標(biāo)（如性別、地域差異化影響需低于5%）。禁止性行為：禁止通過調(diào)整測試數(shù)據(jù)降低算法風(fēng)險(xiǎn)暴露，或刻意回避不公平性測試。重點(diǎn)防控點(diǎn)：測試樣本的覆蓋偏差、驗(yàn)證指標(biāo)的量化標(biāo)準(zhǔn)缺失。第十四條算法部署與運(yùn)行監(jiān)控業(yè)務(wù)操作需符合：1.建立算法上線審批流程，高風(fēng)險(xiǎn)算法需經(jīng)算法治理委員會審批；2.實(shí)時(shí)監(jiān)控算法運(yùn)行效果，關(guān)鍵指標(biāo)（如準(zhǔn)確率、召回率）需定期復(fù)盤；3.設(shè)置算法性能預(yù)警閾值，異常波動需48小時(shí)內(nèi)響應(yīng)。禁止性行為：禁止擅自調(diào)整算法參數(shù)以規(guī)避合規(guī)審查，或隱瞞算法運(yùn)行故障。重點(diǎn)防控點(diǎn)：算法性能衰減導(dǎo)致的合規(guī)風(fēng)險(xiǎn)、運(yùn)行監(jiān)控系統(tǒng)的有效性。第十五條算法數(shù)據(jù)使用管控業(yè)務(wù)操作需符合：1.算法使用數(shù)據(jù)需嚴(yán)格遵循最小必要原則，禁止過度挖掘用戶隱私；2.定期開展數(shù)據(jù)脫敏處理，敏感數(shù)據(jù)需滿足加密存儲要求；3.建立數(shù)據(jù)訪問權(quán)限分級制度，核心算法數(shù)據(jù)需雙人授權(quán)。禁止性行為：禁止通過算法技術(shù)手段規(guī)避數(shù)據(jù)合規(guī)要求，或非法獲取外部數(shù)據(jù)。重點(diǎn)防控點(diǎn)：數(shù)據(jù)跨境傳輸?shù)暮弦?guī)性、第三方數(shù)據(jù)合作的盡職調(diào)查。第十六條算法結(jié)果解釋與救濟(jì)機(jī)制業(yè)務(wù)操作需符合：1.提供算法決策的簡要解釋，對關(guān)鍵影響（如拒絕服務(wù)）需說明依據(jù)；2.設(shè)立算法申訴渠道，用戶可要求人工復(fù)核或解釋算法邏輯；3.定期評估算法解釋的透明度，優(yōu)化用戶可理解性。禁止性行為：禁止以算法黑箱為由拒絕解釋，或拖延處理用戶申訴。重點(diǎn)防控點(diǎn)：解釋機(jī)制的易用性、人工復(fù)核的獨(dú)立性。第十七條算法備案與公示管理業(yè)務(wù)操作需符合：1.算法上線前需向信息技術(shù)部備案，備案材料包括算法原理、風(fēng)險(xiǎn)說明及應(yīng)對措施；2.普通算法需在業(yè)務(wù)界面提示“算法推薦”標(biāo)識，高風(fēng)險(xiǎn)算法需明確標(biāo)注影響范圍；3.備案信息需定期更新，變更后10個(gè)工作日內(nèi)重新備案。禁止性行為：禁止偽造備案信息，或隱瞞算法對用戶權(quán)益的潛在影響。重點(diǎn)防控點(diǎn)：備案流程的及時(shí)性、公示信息的完整性。第四章專項(xiàng)管理運(yùn)行機(jī)制第十八條制度動態(tài)更新機(jī)制信息技術(shù)部需根據(jù)以下情形修訂制度：1.國家算法治理政策調(diào)整；2.行業(yè)出現(xiàn)新的算法風(fēng)險(xiǎn)案例；3.公司業(yè)務(wù)場景發(fā)生重大變化；4.年度評估發(fā)現(xiàn)系統(tǒng)性漏洞。修訂后的制度需經(jīng)算法治理委員會審議，并在30個(gè)工作日內(nèi)發(fā)布實(shí)施。第十九條風(fēng)險(xiǎn)識別預(yù)警機(jī)制1.每季度開展算法風(fēng)險(xiǎn)排查，重點(diǎn)關(guān)注高風(fēng)險(xiǎn)場景（如自動化審批、內(nèi)容推薦）；2.建立風(fēng)險(xiǎn)分級標(biāo)準(zhǔn)（一級為重大風(fēng)險(xiǎn)，四級為低風(fēng)險(xiǎn)），發(fā)布預(yù)警時(shí)需明確應(yīng)對措施；3.風(fēng)險(xiǎn)預(yù)警需抄送業(yè)務(wù)部門及下屬單位負(fù)責(zé)人，確保閉環(huán)管理。第二十條合規(guī)審查機(jī)制1.算法應(yīng)用需嵌入以下審查節(jié)點(diǎn)：-開發(fā)階段：模型設(shè)計(jì)合規(guī)性審查；-測試階段：算法公平性審查；-上線階段：備案材料合規(guī)性審查；-運(yùn)行階段：季度算法效果審查。2.未經(jīng)合規(guī)審查的算法不得實(shí)施，審查不合格的需整改后復(fù)評。第二十一條風(fēng)險(xiǎn)應(yīng)對機(jī)制1.一級風(fēng)險(xiǎn)需立即停用算法，重大風(fēng)險(xiǎn)需上報(bào)決策層決策；2.二級、三級風(fēng)險(xiǎn)需制定專項(xiàng)整改方案，明確責(zé)任人與完成時(shí)限；3.應(yīng)急處置需形成日志記錄，并抄送算法治理委員會備案。第二十二條責(zé)任追究機(jī)制1.違規(guī)情形及處罰標(biāo)準(zhǔn)：-輕微違規(guī)（如未按規(guī)定備案）：通報(bào)批評、績效考核扣分；-嚴(yán)重違規(guī)（如算法歧視性影響超過10%）：部門負(fù)責(zé)人免職、涉事人員撤職；-極端違規(guī)（如引發(fā)訴訟）：追責(zé)至集團(tuán)母公司層面。2.處罰流程需經(jīng)合規(guī)部復(fù)核，確保程序公正。第二十三條評估改進(jìn)機(jī)制1.每半年對算法治理效果評估，重點(diǎn)指標(biāo)包括：-算法合規(guī)覆蓋率（100%）；-風(fēng)險(xiǎn)事件發(fā)生率（≤0.5%）；-用戶投訴率下降（目標(biāo)降低20%）。2.評估結(jié)果需提交算法治理委員會審議，并納入部門績效考核。第五章專項(xiàng)管理保障措施第二十四條組織保障1.公司主要負(fù)責(zé)人需在季度會議上聽取算法治理進(jìn)展報(bào)告；2.分管領(lǐng)導(dǎo)需親自參與重大算法風(fēng)險(xiǎn)處置；3.各部門負(fù)責(zé)人需在每月會議上匯報(bào)算法治理執(zhí)行情況。第二十五條考核激勵(lì)機(jī)制1.算法合規(guī)情況納入部門年度考核指標(biāo)（權(quán)重20%）；2.優(yōu)秀算法治理案例可申請專項(xiàng)獎勵(lì)（最高5萬元）；3.違規(guī)責(zé)任人與部門績效直接掛鉤，實(shí)行“一票否決”。第二十六條培訓(xùn)宣傳機(jī)制1.管理層需接受算法倫理培訓(xùn)（每年2次）；2.一線員工需通過在線考試考核合規(guī)操作（合格率需達(dá)95%）；3.每半年發(fā)布算法合規(guī)手冊，動態(tài)更新制度要點(diǎn)。第二十七條信息化支撐1.開發(fā)算法管理平臺，實(shí)現(xiàn)以下功能：-算法備案電子化；-風(fēng)險(xiǎn)預(yù)警自動化推送；-決策過程可追溯。2.平臺需與數(shù)據(jù)中臺打通，實(shí)時(shí)獲取算法運(yùn)行數(shù)據(jù)。第二十八條文化建設(shè)1.每年發(fā)布《算法合規(guī)倡議書》，鼓勵(lì)全員參與治理；2.新員工入職需簽署算法合規(guī)承諾書；3.設(shè)立算法治理榮譽(yù)榜，表彰先進(jìn)典型。第二十九條報(bào)告制度1.風(fēng)險(xiǎn)事件需在2小時(shí)內(nèi)上報(bào)至信息技術(shù)部，24小時(shí)內(nèi)形成初步報(bào)告；2.年度算法治理報(bào)告需在次年3月底前提交集團(tuán)母公司；3.報(bào)告內(nèi)容需