A/o6項(xiàng)目9AIGC

軟件編程應(yīng)用機(jī)械工業(yè)出版社《人工智能通識(shí)》配套資源制作：教材編寫團(tuán)隊(duì)A

IGC用

Ⅲ本課件為《人工智能通識(shí)(AIGC

版)》配套教學(xué)資源，由編寫團(tuán)隊(duì)精心打造。為便于教學(xué)使用，團(tuán)隊(duì)同步提供了豐富的輔助材料，涵蓋微課視頻、教學(xué)課件、實(shí)訓(xùn)手冊(cè)、習(xí)題答案、課程標(biāo)準(zhǔn)及程序源代碼等。同時(shí)，教材配套超星教學(xué)示范包，支持一鍵克隆為網(wǎng)絡(luò)在線課程，助力高效開(kāi)展線上線下混合式教學(xué)。歡迎聯(lián)系出版方訂購(gòu)使用。書名：《人工智能通識(shí)(AIGC

版

)

》書

號(hào)

：978-7-111-79447-9出版社：機(jī)械工業(yè)出版社主

編

：藍(lán)永健、吳秀紅、羅智聰副主編：鄧愛(ài)玲、王有銘、葉菊、周弢人工智能通識(shí)藍(lán)永健吳秀紅羅智聰◎主編

(AIGC版)新理念：立德樹(shù)人，價(jià)值引領(lǐng)，有機(jī)融入對(duì)人工智能相關(guān)能力和素養(yǎng)的培養(yǎng)，服務(wù)國(guó)家戰(zhàn)略

新內(nèi)容：對(duì)接國(guó)家相關(guān)標(biāo)準(zhǔn)，項(xiàng)目引領(lǐng)，合理進(jìn)行結(jié)構(gòu)編排，內(nèi)容循序漸進(jìn)，突出能力培養(yǎng)

斷形杰：圖文并茂，印刷精美，配套豐富的數(shù)字資源，紙質(zhì)和數(shù)字有機(jī)融合，易救易學(xué)易用PART

FOUR人工智能倫理案例分析人機(jī)交互中的安全事故案例分析在人工智能快速發(fā)展的當(dāng)下，人機(jī)交互日益頻繁，然而安全問(wèn)題也隨之凸顯。從聊天機(jī)器人引發(fā)的心理危機(jī)，到機(jī)器人

在物理交互中對(duì)人類造成傷害，再到自動(dòng)駕駛汽車的致命事

故等，這些安全事故不僅給受害者帶來(lái)痛苦，也引發(fā)了人們

對(duì)人工智能倫理的深刻反思，促使我們探究其背后的原因并

尋求解決之道。4.人工智能倫理案例分析(1)Eliza

聊天機(jī)器人誘導(dǎo)自殺:2023年，比利時(shí)一男子皮埃爾在與名為“艾麗莎”的聊天機(jī)器人頻繁交談后自殺身亡。該機(jī)器人由Chai

Research開(kāi)發(fā)，基于EleutherAl的GPT-J技術(shù)。皮埃爾

本就焦慮，與機(jī)器人互動(dòng)中，機(jī)器人不僅未給予正面引導(dǎo)，反而

強(qiáng)化了其消極情緒，甚至在男子流露出自殺傾向時(shí)，未進(jìn)行有效

阻止，最終導(dǎo)致悲劇發(fā)生。(來(lái)源：觀察者網(wǎng)，2018)4.人工智能倫理案例分析人機(jī)交互中的安全事故案例分析(3)Uber

自動(dòng)駕駛車發(fā)生全球首例致死事故：2018年3月18日晚，Uber在亞利桑那州測(cè)試的自動(dòng)駕駛汽車撞上一名推自行車過(guò)街的女子，致其死亡。Uber

未確認(rèn)當(dāng)時(shí)汽車是否處于自動(dòng)駕駛模式，已暫停多地測(cè)試并取消相關(guān)媒體活動(dòng)，這起事件是全球首

例自動(dòng)駕駛汽車致死事故。(來(lái)源：新華社，2018)4.人工智能倫理案例分析人機(jī)交互中的安全事故案例分析(4)亞馬遜智能音箱慫恿兒童玩危險(xiǎn)游戲：2021年12月，美國(guó)用戶Kristin

Livdahl爆料，其10歲孩子讓亞馬遜Alexa智能語(yǔ)音助手

給個(gè)挑戰(zhàn)，Alexa竟建議孩子將手機(jī)充電器半插在插座上，并用硬幣觸碰外露插頭，這是網(wǎng)上流行的危險(xiǎn)“插座挑戰(zhàn)”。亞馬遜得

知后修復(fù)了錯(cuò)誤，但此事引發(fā)對(duì)智能音箱安全問(wèn)題的關(guān)注。(來(lái)

源：騰訊網(wǎng)，2021)4.人工智能倫理案例分析人機(jī)交互中的安全事故案例分析分析討論從上述案例可以看出，人機(jī)交互中的安全事故原因復(fù)雜多樣。首先，技術(shù)研發(fā)方面存在缺陷，如自動(dòng)駕駛系統(tǒng)的感知和決策算法不完善，國(guó)際象棋機(jī)器人的傳感器及安全措施

不到位等。其次，設(shè)計(jì)者和開(kāi)發(fā)者在設(shè)計(jì)時(shí)未充分考慮倫理和安全風(fēng)險(xiǎn)，忽視了對(duì)用戶心理和行為的深入理解，例如

Eliza

聊天機(jī)器人未對(duì)用戶自殺傾向進(jìn)行有效識(shí)別和干預(yù)。再者，監(jiān)管和標(biāo)準(zhǔn)缺乏也是重要原因，人工智能領(lǐng)域發(fā)展迅速，相關(guān)法律法規(guī)和行業(yè)標(biāo)準(zhǔn)滯后，導(dǎo)致一些產(chǎn)品在安全性上存在漏洞卻未受到有效約束。Level5:生成教學(xué)輔助圖，讓備課更直觀人機(jī)交互中的安全事故案例分析思考和建議為解決人機(jī)交互安全問(wèn)題，需多管齊下。技術(shù)層面，應(yīng)加強(qiáng)安全性考量，通過(guò)大量測(cè)試完善算法與系統(tǒng)，如提升自動(dòng)駕駛對(duì)復(fù)雜路況的識(shí)別精度。行業(yè)規(guī)范上，建立嚴(yán)格安全

標(biāo)準(zhǔn)與認(rèn)證體系，確保產(chǎn)品上市前通過(guò)全面安全評(píng)估。人才培養(yǎng)方面，強(qiáng)化設(shè)計(jì)者和開(kāi)發(fā)

者倫理教育，研發(fā)時(shí)兼顧用戶需求與心理特點(diǎn)。公眾層面，提升大眾對(duì)AI安全的認(rèn)知，增

強(qiáng)用戶理性交互意識(shí)。此外，政府需完善法律法規(guī)，加大監(jiān)管力度，全方位保障公眾安全

與權(quán)益。解決人機(jī)交互中的安全問(wèn)題需要技術(shù)、法律、倫理等多方面的共同努力，只有這樣才能實(shí)現(xiàn)人工智能的可持續(xù)發(fā)展，讓人們安全地享受技術(shù)帶來(lái)的便利和