6.1.1人工智能帶來的倫理挑戰(zhàn)《人工智能+汽車技術與應用》教師：目

錄核心知識點講解重點與難點剖析課程導入互動環(huán)節(jié)課程總結課程導入01從“你刷到的‘假明星’說起”“假明星”現(xiàn)象舉例大家是否刷到過“周杰倫說要退出歌壇”“楊冪吐槽某綜藝”這類視頻，后來發(fā)現(xiàn)是Deepfake技術制作的?，F(xiàn)象背后的本質這些糾結本質上是AI倫理的“日常版困惑”。AI技術越強大，越需要懂得“不能踩的倫理紅線”。強調倫理紅線的必要性AI技術在發(fā)展過程中，必須明確倫理紅線，避免在應用中出現(xiàn)侵犯隱私、傳播虛假信息等倫理問題，確保技術的健康發(fā)展。核心知識點講解：AI的“五大倫理坑”與真實案例02數(shù)據(jù)隱私——AI的“燃料”不能是“偷來的”核心矛盾數(shù)據(jù)隱私侵占的核心矛盾是“數(shù)據(jù)需求”和“隱私保護”的沖突，AI運行需要海量數(shù)據(jù)，但不能侵犯他人隱私。典型案例2018年“Facebook劍橋分析事件”，劍橋分析公司通過心理測試APP騙取數(shù)千萬Facebook用戶信息，用于訓練AI并推送定制化政治廣告。事后，F(xiàn)acebook被罰款50億美元。后續(xù)影響此事件倒逼APP出現(xiàn)“隱私權限彈窗”，相當于給AI的“數(shù)據(jù)餐盤”裝了“防盜鎖”。算法偏見——AI學壞了，還會“隱形歧視”算法偏見成因

典型案例

亞馬遜2014年的“AI招聘工具”，因使用的歷史招聘數(shù)據(jù)中男性申請技術崗多、錄用多，導致該工具存在性別歧視，2018年該工具停用。案例啟示

這就像孩子學了大人的刻板印象，提醒我們要確保喂給算法的數(shù)據(jù)無偏見。算法是“跟著數(shù)據(jù)學”的，如果數(shù)據(jù)本身帶偏見，算法就會復刻甚至變本加厲。算法的“中立”取決于所喂數(shù)據(jù)的質量。責任歸屬——AI犯錯了，誰來“背鍋”？

責任認定難題AI做決策出問題時，責任歸屬難以確定，如同熊孩子闖禍，難以明確怪孩子、家長還是老師。

典型案例2018年“特斯拉Autopilot事故”，司機開啟Autopilot模式后AI未識別前方卡車致司機死亡。特斯拉、司機家屬和開發(fā)者三方扯皮。

案例結果與影響法院判司機負主要責任，特斯拉改了廣告，全球開始討論“AI責任法”以明確責任歸屬。深度偽造——AI造的“假”，比真的還真

典型案例2024年美國大選，有人用Deepfake技術制作拜登說“要取消老年人醫(yī)保”的視頻，在社交媒體廣泛傳播，影響部分選區(qū)投票意向。

深度偽造危害深度偽造不僅毀人聲譽、搞垮公司，還會讓人們對真實信息產(chǎn)生懷疑。

深度偽造概念AI能快速制造假視頻、假音頻且難以看出破綻，相當于給謊言裝了高清濾鏡。

就業(yè)替代——AI搶飯碗，誰最慌？

AI對就業(yè)的影響AI能替代部分工作，但不是所有人都會失業(yè)，它替代的是沒技術含量的重復勞動。

應對建議這提醒人們在AI時代要終身學習，避免成為被AI淘汰的那一個。典型案例2016年起，富士康“機器換人”計劃。會修機器人、調試程序的工人工資上漲，只會擰螺絲的工人面臨轉崗或下崗。重點與難點剖析03五大倫理挑戰(zhàn)的核心表現(xiàn)與典型案例01數(shù)據(jù)隱私：需求與保護的矛盾核心表現(xiàn)為“數(shù)據(jù)需求”和“隱私保護”的沖突。典型案例是2018年Facebook劍橋分析事件，劍橋分析公司通過心理測試APP騙取數(shù)千萬用戶信息用于訓練AI，為美國大選推定制化政治廣告，F(xiàn)acebook因此被罰款50億美元。02算法偏見：數(shù)據(jù)影響的歧視算法因數(shù)據(jù)帶偏見而產(chǎn)生歧視。如亞馬遜2014年的AI招聘工具，因歷史招聘數(shù)據(jù)中男性居多，導致對女性求職者存在“隱形歧視”，該工具于2018年停用。03責任歸屬：決策失誤的追責難題AI決策出問題時責任難以劃分。2018年特斯拉Autopilot事故，AI未識別前方卡車致司機死亡，特斯拉、司機家屬和開發(fā)者三方扯皮，最終法院判司機負主要責任。五大倫理挑戰(zhàn)的核心表現(xiàn)與典型案例

深度偽造：虛假信息的泛濫AI制造的假視頻、音頻難以分辨。（2024年美國大選）

就業(yè)替代：重復勞動的危機AI取代無技術含量的重復勞動。（富士康“機器換人”）理解“技術中立性”的誤區(qū)算法并非絕對客觀人們常認為算法是客觀中立的，但實際上算法是基于數(shù)據(jù)運行的，而數(shù)據(jù)可能存在偏見。數(shù)據(jù)決定算法表現(xiàn)算法的“中立”與否取決于所使用的數(shù)據(jù)。就像教孩子會受自身刻板印象影響一樣，算法會復刻數(shù)據(jù)中的偏見。若數(shù)據(jù)不干凈，算法就會出現(xiàn)偏差。案例凸顯算法偏見通過前面的典型案例可以看到算法偏見的存在。無論是亞馬遜的招聘歧視，還是Facebook的數(shù)據(jù)隱私問題，都說明算法會受到數(shù)據(jù)的影響，并非能做到絕對中立。“技術優(yōu)化”與“倫理合規(guī)”的平衡邏輯

避免倫理風險技術優(yōu)化不能以犧牲倫理為代價。這表明在技術發(fā)展時要提前預判倫理問題，避免出現(xiàn)算法偏見等不良現(xiàn)象。

尋求平衡路徑解決“機器倫理”問題可通過功利主義算法和倫理規(guī)則庫兩條路徑。兩者結合有助于在技術優(yōu)化和倫理合規(guī)間找到平衡。兩者需兼顧發(fā)展在AI發(fā)展過程中，技術優(yōu)化和倫理合規(guī)都至關重要。例如特斯拉Autopilot事故后，不僅要優(yōu)化技術以提高識別能力，還要考慮倫理合規(guī)?；迎h(huán)節(jié)：當“AI倫理裁判”，斷“棘手案子”04緊急場景下的生命價值權衡

互動案例引入自動駕駛系統(tǒng)在面對無法避免的事故時，需基于預設算法做出道德決策，這引發(fā)了對“機器倫理”的廣泛討論。

典型案例呈現(xiàn)典型案例如“電車難題”，在自動駕駛領域則體現(xiàn)為車輛必須在“保護乘客安全”與“避免碰撞行人”之間做出選擇。

引導思考讓我們思考在這種緊急場景下，算法應如何進行生命價值的權衡。小組討論與代表發(fā)言

分組要求分組演練，每組4人，扮演“AI倫理裁判團”。

討論安排給10分鐘討論當車輛必須在“保護乘客安全”與“避免碰撞行人”之間選擇時，算法應如何權衡的問題。

代表發(fā)言每組派個代表“宣判”，表達小組觀點，最后投票選“最公正的裁判團”。解決“機器倫理”問題的路徑

功利主義算法以“最大化整體利益”為核心，試圖通過量化傷害與收益，在事故不可避免時選擇損失最小的方案。

倫理規(guī)則庫將人類社會公認的道德準則轉化為機器可執(zhí)行的規(guī)則集合，為自動駕駛系統(tǒng)劃定行為邊界。

應用方式自動駕駛系統(tǒng)通過讀取規(guī)則庫，對傳感器獲取的信息進行判斷，選擇符合規(guī)則的行為。課程總結05AI要“向善”，先懂“規(guī)矩”

課程內(nèi)容總結本次課程深入探討了AI的五大倫理挑戰(zhàn)，包括數(shù)據(jù)隱私、算法偏見、責任歸屬、深度偽造和就業(yè)替代，旨在讓AI發(fā)展走得更穩(wěn)。

遵循倫理規(guī)矩的重要性如同開車要考駕照、遵守交通規(guī)則，AI發(fā)展也需遵循倫理規(guī)矩，避免因倫理問題阻礙其發(fā)展。

記憶口訣回顧隱私不偷拿，偏見要篩查，責任分清楚，偽造別亂發(fā)，就業(yè)共進化。樹立“負責任的AI開發(fā)者”意識

01意識的重要性作為AI開發(fā)者，樹立“負責任的AI開發(fā)者”