大語言模型通識微課

人工智能倫理原則人工智能發(fā)展不僅僅是一場席卷全球的科技革命，也是一場對人類文明帶來前所未有深遠影響的社會倫理實驗。在應(yīng)用層面，人工智能已經(jīng)開始用于解決社會問題，各種服務(wù)機器人及智能應(yīng)用軟件應(yīng)運而生，各種倫理問題隨之產(chǎn)生。機器人倫理與人因工程相關(guān)，涉及人體工程學、生物學和人機交互，需要以人為中心的機器智能設(shè)計。隨著推理、社會機器人進入家庭，如何保護隱私、滿足個性都要以人為中心而不是以機器為中心設(shè)計。過度依賴社會機器人將帶來一系列的家庭倫理問題。為了避免人工智能以機器為中心，需要法律和倫理研究參與其中。微課12.2人工智能倫理原則需要制定人工智能的職業(yè)倫理準則，來達到下列目標：（1）為防止人工智能技術(shù)的濫用設(shè)立紅線；（2）提高職業(yè)人員的責任心和職業(yè)道德水準；（3）確保算法系統(tǒng)的安全可靠；（4）使算法系統(tǒng)的可解釋性成為未來引導(dǎo)設(shè)計的一個基本方向；（5）使倫理準則成為人工智能從業(yè)者的工作基礎(chǔ)；（6）提升職業(yè)人員的職業(yè)抱負和理想。12.2.1職業(yè)倫理準則的目標人工智能的職業(yè)倫理準則至少應(yīng)包括下列幾個方面：（1）確保人工智能更好地造福于社會；（2）在強化人類中心主義的同時，達到走出人類中心主義的目標，形成雙向互進關(guān)系；（3）避免人工智能對人類造成任何傷害；（4）確保人工智能體位于人類可控范圍之內(nèi)；（5）提升人工智能的可信性；（6）確保人工智能的可問責性和透明性；（7）維護公平；（8）尊重隱私、謹慎應(yīng)用；（9）提高職業(yè)技能與提升道德修養(yǎng)并行發(fā)展。12.2.1職業(yè)倫理準則的目標2018年7月11日，中國人工智能產(chǎn)業(yè)創(chuàng)新發(fā)展聯(lián)盟發(fā)布了《人工智能創(chuàng)新發(fā)展道德倫理宣言》分別涉及人工智能系統(tǒng)，人工智能與人類的關(guān)系，人工智能與具體接觸人員的道德倫理要求，以及人工智能應(yīng)用和未來發(fā)展方向。發(fā)布《宣言》是為了宣揚涉及人工智能創(chuàng)新、應(yīng)用和發(fā)展的基本準則，以期無論何種身份的人都能經(jīng)常銘記本宣言精神，理解并尊重發(fā)展人工智能的初衷，使其傳達的價值與理念得到普遍認可與遵行。12.2.2創(chuàng)新發(fā)展道德倫理宣言《宣言》指出：（1）鑒于全人類固有道德、倫理、尊嚴及人格之權(quán)利，創(chuàng)新、應(yīng)用和發(fā)展人工智能技術(shù)當以此為根本基礎(chǔ)；（2）鑒于人類社會發(fā)展的最高階段為人類解放和人的自由全面發(fā)展，人工智能技術(shù)研發(fā)當以此為最終依歸，進而促進全人類福祉；（3）鑒于人工智能技術(shù)對人類社會既有觀念、秩序和自由意志的挑戰(zhàn)巨大，對技術(shù)創(chuàng)新應(yīng)當設(shè)置倡導(dǎo)性與禁止性的規(guī)則，凝聚人類基本共識；（4）縱然探索道路曲折與反復(fù)，也不應(yīng)停止AI創(chuàng)新發(fā)展步伐。12.2.2創(chuàng)新發(fā)展道德倫理宣言建設(shè)人工智能系統(tǒng)，要做到：（1）基礎(chǔ)數(shù)據(jù)應(yīng)當秉持公平性與客觀性，摒棄帶有偏見的數(shù)據(jù)和算法，以杜絕可能的歧視性結(jié)果。（2）數(shù)據(jù)采集和使用應(yīng)當尊重隱私權(quán)等一系列人格權(quán)利，以維護權(quán)利所承載的人格利益。（3）應(yīng)當有技術(shù)風險評估機制，保持對潛在危險的前瞻性控制能力。（4）所具有的自主意識程度應(yīng)當受到科學技術(shù)水平和道德、倫理、法律等人文價值的共同評價。12.2.3創(chuàng)新發(fā)展道德倫理宣言為明確人工智能與人類的關(guān)系，《宣言》指出：（1）人工智能的發(fā)展應(yīng)當始終以造福人類為宗旨。牢記這一宗旨，是防止人工智能的巨大優(yōu)勢轉(zhuǎn)為人類生存發(fā)展巨大威脅的關(guān)鍵所在。（2）無論人工智能的自主意識能力進化到何種階段，都不能改變其由人類創(chuàng)造的事實。不能將人工智能的自主意識等同于人類特有的自由意志，模糊這兩者之間的差別可能抹殺人類自身特有的人權(quán)屬性與價值。（3）當人工智能的設(shè)定初衷與人類整體利益或個人合法利益相悖時，人工智能應(yīng)當無條件停止或暫停工作進程，以保證人類整體利益的優(yōu)先性。12.2.3創(chuàng)新發(fā)展道德倫理宣言《宣言》指出，人工智能具體接觸人員的道德倫理要求是：（1）人工智能具體接觸人員是指居于主導(dǎo)地位、可以直接操縱或影響人工智能系統(tǒng)和技術(shù)，使之按照預(yù)設(shè)產(chǎn)生某種具體功效的人員，包括但不限于人工智能的研發(fā)人員和使用者。（2）人工智能的研發(fā)者自身應(yīng)當具備正確的倫理道德意識，同時將這種意識貫徹于研發(fā)全過程，確保其塑造的人工智能自主意識符合人類社會主流道德倫理要求。12.2.3創(chuàng)新發(fā)展道德倫理宣言（3）人工智能產(chǎn)品的使用者應(yīng)當遵循產(chǎn)品的既有使用準則，除非出于改善產(chǎn)品本身性能的目的，否則不得擅自變動、篡改原有的設(shè)置，使之背離創(chuàng)新、應(yīng)用和發(fā)展初衷，以致破壞人類文明及社會和諧。（4）人工智能從業(yè)人員可以根據(jù)自身經(jīng)驗，闡述其對產(chǎn)品與技術(shù)的認識。此種闡述應(yīng)當本著誠實信用的原則，保持理性與客觀，不得誘導(dǎo)公眾的盲目熱情或故意加劇公眾的恐慌情緒。12.2.3創(chuàng)新發(fā)展道德倫理宣言針對人工智能的應(yīng)用，《宣言》指出：（1）人工智能發(fā)展迅速，但也伴隨著各種不確定性，應(yīng)當審慎而科學。（2）人工智能可以為決策提供輔助，其本身不能成為決策的主體。（3）人工智能在軍事領(lǐng)域存在巨大應(yīng)用潛力。出于對人類整體福祉的考慮，應(yīng)當本著人道主義精神，克制在進攻端武器運用人工智能的沖動。（4）人工智能不應(yīng)成為侵犯合法權(quán)益的工具。（5）人工智能的應(yīng)用可以解放人類在腦力和體力層面的部分束縛，應(yīng)當鼓勵人工智能在相應(yīng)領(lǐng)域發(fā)揮幫助人類自由發(fā)展的作用。12.2.3創(chuàng)新發(fā)展道德倫理宣言《宣言》指出，當前發(fā)展人工智能的方向主要是：（1）探索合作機制，推動核心技術(shù)創(chuàng)新與產(chǎn)業(yè)發(fā)展，推動各方資源結(jié)合。（2）制定人工智能產(chǎn)業(yè)發(fā)展標準，推動協(xié)同發(fā)展。推動數(shù)據(jù)規(guī)范、應(yīng)用接口以及性能檢測等標準體系制定，為消費者提供更好的服務(wù)與體驗。（3）打造共性技術(shù)支撐平臺，構(gòu)建產(chǎn)業(yè)生態(tài)。推動領(lǐng)域龍頭企業(yè)牽頭建設(shè)平臺，為人工智能在社會生活各個領(lǐng)域的創(chuàng)業(yè)創(chuàng)新者提供更好支持。（4）健全法律法規(guī)體系。在拓展人類人工智能應(yīng)用能力的同時，避免人工智能對社會和諧的沖擊，尋求創(chuàng)新、產(chǎn)業(yè)發(fā)展與道德倫理的平衡點。12.2.3創(chuàng)新發(fā)展道德倫理宣言2019年，歐盟人工智能高級別專家組正式發(fā)布了《可信賴的人工智能倫理準則》。根據(jù)準則，可信賴的人工智能應(yīng)該是：（1）合法——尊重所有適用的法律法規(guī)。（2）合乎倫理——尊重倫理原則和價值觀。（3）穩(wěn)健——既從技術(shù)角度考慮，又考慮到其社會環(huán)境。12.2.5歐盟可信賴的倫理準則該指南提出了未來AI系統(tǒng)應(yīng)滿足的7大原則，以便被認為是可信的。并給出一份具體的評估清單，旨在協(xié)助核實每項要求的適用情況。（1）人類代理和監(jiān)督：AI不應(yīng)該踐踏人類的自主性。人們不應(yīng)該被AI系統(tǒng)所操縱或脅迫，應(yīng)該能夠干預(yù)或監(jiān)督軟件所做的每一個決定；（2）技術(shù)穩(wěn)健性和安全性：AI應(yīng)該是安全而準確的，它不應(yīng)該輕易受到外部攻擊（例如對抗性例子）的破壞，并且應(yīng)該是相當可靠的；（3）隱私和數(shù)據(jù)管理：AI系統(tǒng)收集的個人數(shù)據(jù)應(yīng)該是安全的，并且能夠保護個人隱私。它不應(yīng)該被任何人訪問，也不應(yīng)該輕易被盜；12.2.5歐盟可信賴的倫理準則（4）透明度：用于創(chuàng)建AI系統(tǒng)的數(shù)據(jù)和算法應(yīng)該是可訪問的，軟件所做的決定應(yīng)該“為人類所理解和追蹤”；（5）多樣性、無歧視、公平：AI應(yīng)向所有人提供服務(wù)，不分年齡、性別、種族或其他特征。同樣，AI系統(tǒng)不應(yīng)在