人工智能倫理治理研究報告(2023年)目 錄一、人工智能倫理治理概述 1（一）人工智能倫理的概念與特點 1（二）人工智能倫理治理的必要性 2二、人工智能倫理治理關切 5（一）人工智能倫理挑戰(zhàn) 5（二）典型應用場景的人工智能倫理風險 7三、人工智能倫理治理實踐 12（一）國際組織人工智能倫理治理方案 12（二）域外國家和地區(qū)人工智能倫理治理機制 13（三）我國人工智能倫理治理實踐 17四、人工智能倫理治理展望 21（一）協(xié)調人工智能產(chǎn)業(yè)創(chuàng)新發(fā)展與倫理治理 21（二）完善人工智能倫理治理舉措 21（三）提升各主體人工智能倫理風險應對能力 23（四）加強人工智能倫理治理國際交流合作 23人工智能倫理治理研究報告（2023年）人工智能倫理治理研究報告（2023年）PAGEPAGE10一、人工智能倫理治理概述（一）人工智能倫理的概念與特點1一是人與人工智能技術的發(fā)展應用密切相關。從1940年人工智能第一次浪2004（二）人工智能倫理治理的必要性通過倫理治理，加深關于“人工智能體”的哲學探討控3二與工業(yè)時代可視、可理解、可控制的工具不同，通過倫理治理，應對人工智能應用風險屬4技通過倫理治理，實現(xiàn)敏捷有效的風險規(guī)制人工智能倫理治理具有靈活敏捷、包容開放的特點，與人工智能二、人工智能倫理治理關切（一）人工智能倫理挑戰(zhàn)據(jù)OECDAIIncidentsMonitor20231280件56層面分析評估人業(yè)人員，加速教育投入的折舊7，引發(fā)進一步的就業(yè)替代沖擊。（二）典型應用場景的人工智能倫理風險人工智能生成內容ChatGPTClaudeStableDiffusion、Midjourney20238阻止未經(jīng)允許的模型訓練。在生成內容的權利誤用濫用案例：生成假視頻、圖片、聲音以實施詐騙2023228328隱私侵犯案例：泄露用戶信息20231128ChatGPT2023325OpenAIChatGPTPlus知識產(chǎn)權爭議案例：是否屬于“合理使用”的爭議20239OpenAI在未經(jīng)許可的情況將受版權保護的作品用于大語言模型20237OpenAI自動駕駛責任歸屬案例：駕駛員和汽車廠商的責任劃分20183Uber692020915Uber駕駛員RafaelaVasquez，2.52019Model3動駕駛系統(tǒng)Autopilot20239陷，特斯拉方面稱該案件是由駕駛員人為因素導致。自動駕駛汽車算法設計問題：緊急情況下的處置不當2023年10月，一行人被人類駕駛的轎車撞倒并滾落至車道上。此時，由CruiseRobotaxiRobotaxi207智慧醫(yī)療人工智能在醫(yī)療衛(wèi)生領域的應用帶來顯著的機遇，為病灶診斷、藥物研發(fā)、疾病風險預測等提供了重要的工具。根據(jù)斯坦福大學最新6011確保人類監(jiān)督和決策案例：禁止人工智能替代醫(yī)師和生成處方確保人類監(jiān)督和決策案例：禁止人工智能替代醫(yī)師和生成處方20238征求意見稿供診療，禁止使用人工智能等自動生成處方。三、人工智能倫理治理實踐（一）國際組織人工智能倫理治理方案193個成員202110項政IECIEEEITU20228ISO/IEC發(fā)布（ISO/IECTR24368）。202166項原則。目前，人工智能倫理已成為全球人工智能治理討論的重要議題，，20235252023102612820239（G20）G20（二）域外國家和地區(qū)人工智能倫理治理機制美國發(fā)展以鼓勵創(chuàng)新為基礎的可信賴人工智能105202010年10579OpenAI15家企業(yè)就開，美國聯(lián)邦政府不同部門也依據(jù)主責主業(yè)發(fā)布相應的倫理原則和治理框架。20202023年1（NIST）的指南。2023年12月，美國審計署發(fā)布報告，公布對聯(lián)邦23個機構負責任使用人工智能的情況評估。歐盟通過健全監(jiān)管規(guī)制落地人工智能倫理要求年4712德國關注人工智能具體應用領域倫理風險規(guī)制，201892023月71-520新加坡積極探索人工智能倫理治理技術工具202023122.0再次強調建立一個可信賴和負責任的人工智能生態(tài)。在工具方面，2022520236AI（三）我國人工智能倫理治理實踐確立科技倫理治理體制機制202211202232023108日，科技部、教育部、工業(yè)和信息化部等十部門聯(lián)合發(fā)布《科技倫理審查辦法（試行）》，對科技倫理審查的基本程序、標準、條件（）（）7的清單。細化人工智能倫理要求2017202520192201962021年918202210720234行業(yè)積極探索人工智能倫理治理落地措施積極參與人工智能倫理治理國際合作202382023年10202310四、人工智能倫理治理展望（一）協(xié)調人工智能產(chǎn)業(yè)創(chuàng)新發(fā)展與倫理治理人工智能倫理治理需要關注產(chǎn)業(yè)科技創(chuàng)新活動與倫理風險防范（二）完善人工智能倫理治理舉措健全多學科多主體合作的治理體系建立分類分級倫理治