模塊8責(zé)任護(hù)航：AI使用安全與社會(huì)責(zé)任

南京工業(yè)職業(yè)技術(shù)大學(xué)本章目錄01

基本介紹02知識(shí)儲(chǔ)備

03任務(wù)實(shí)施04滄海拾貝05課后習(xí)題本章目錄01

基本介紹02知識(shí)儲(chǔ)備

03任務(wù)實(shí)施04滄海拾貝05課后習(xí)題1.有監(jiān)督學(xué)習(xí)基本方法（分類：決策樹）8.1學(xué)習(xí)目標(biāo)1.有監(jiān)督學(xué)習(xí)基本方法（分類：決策樹）8.1智能引航AI雙刃劍：詐騙、換臉與學(xué)術(shù)不端的深思AI電信詐騙AIGC引發(fā)的學(xué)術(shù)不端行為AI“換臉”引發(fā)的官司請(qǐng)嘗試搜索AI詐騙的實(shí)際案例試一試請(qǐng)用大模型工具搜索AI詐騙的相關(guān)新聞，請(qǐng)羅列2~3個(gè)真實(shí)案例進(jìn)行分享。提示詞示例如下：1.AI詐騙案例精選：尋找并分享2-3個(gè)具有代表性的AI詐騙實(shí)例。2.揭秘AI詐騙手段：通過2-3個(gè)真實(shí)案例，深入了解AI在詐騙中的具體應(yīng)用。3.AI詐騙實(shí)例解析：羅列2-3起AI詐騙的典型案例，揭示其背后的運(yùn)作機(jī)制。4.探索AI詐騙新趨勢(shì)：通過2-3個(gè)最新案例，了解AI詐騙的最新發(fā)展和變化。5.防范AI詐騙案例分享：精選2-3個(gè)AI詐騙案例，增強(qiáng)公眾的安全意識(shí)。。1.有監(jiān)督學(xué)習(xí)基本方法（分類：決策樹）8.1情境分析小明在宿舍刷短視頻時(shí)，被一條“AI美顏相機(jī)”廣告吸引。小明未細(xì)讀隱私條款，直接上傳了一張朋友圈照片輕信網(wǎng)絡(luò)平臺(tái)一周后，室友小華在另一款購(gòu)物APP的彈窗廣告中發(fā)現(xiàn)了小明的照片。個(gè)人信息泄露小明的父母收到一條“借貸催款”視頻：畫面中小明手持身份證哭訴“借款逾期”深度偽造本章目錄01

基本介紹02知識(shí)儲(chǔ)備

03任務(wù)實(shí)施04滄海拾貝05課后習(xí)題1.有監(jiān)督學(xué)習(xí)基本方法（分類：決策樹）8.2知識(shí)儲(chǔ)備隱私與數(shù)據(jù)泄露深度偽造與虛假信息知識(shí)產(chǎn)權(quán)侵權(quán)事實(shí)上的失真算法偏見與歧視惡意工具化常見的AI安全隱患有哪些？1.有監(jiān)督學(xué)習(xí)基本方法（分類：決策樹）隱私與數(shù)據(jù)泄露：人工智能模型開發(fā)、訓(xùn)練、應(yīng)用過程中，因數(shù)據(jù)處理(收集、存儲(chǔ)、處理和共享)的技術(shù)漏洞、算法缺陷或管理失當(dāng)，容易導(dǎo)致用戶敏感信息被非法獲取、篡改或?yàn)E用的系統(tǒng)性威脅。黑客通過大模型竊取用戶數(shù)據(jù)示意圖8.2知識(shí)儲(chǔ)備1.有監(jiān)督學(xué)習(xí)基本方法（分類：決策樹）深度偽造與虛假信息：深度偽造像“數(shù)字魔術(shù)”，用AI把不存在的內(nèi)容變得逼真，常見的深度偽造技術(shù)包括：視頻偽造、語(yǔ)音偽造以及文本與圖像偽造等。02卷積神經(jīng)網(wǎng)絡(luò)（CNN），通過提取目標(biāo)人臉的生物特征（如表情、動(dòng)作），生成高度逼真的虛假圖片，例如性別反轉(zhuǎn)AI利用大語(yǔ)言模型(LLM)批量生產(chǎn)誤導(dǎo)性新聞、偽造文件8.2知識(shí)儲(chǔ)備1.有監(jiān)督學(xué)習(xí)基本方法（分類：決策樹）知識(shí)產(chǎn)權(quán)侵權(quán)：AI模型像一臺(tái)“超級(jí)復(fù)印機(jī)”，AI模型需要大量數(shù)據(jù)學(xué)習(xí)，若開發(fā)者未獲授權(quán)使用受版權(quán)保護(hù)的文本、圖像、音視頻等內(nèi)容（如新聞報(bào)道、美術(shù)作品），直接構(gòu)成?訓(xùn)練數(shù)據(jù)侵權(quán)。032024年2月8日，廣州互聯(lián)網(wǎng)法院就作出了另一份涉及AIGC著作權(quán)侵權(quán)的（2024）粵0192民初113號(hào)判決。該案被稱為“AIGC平臺(tái)著作權(quán)侵權(quán)全球第一案”，簡(jiǎn)稱“AI奧特曼侵權(quán)案”。8.2知識(shí)儲(chǔ)備1.有監(jiān)督學(xué)習(xí)基本方法（分類：決策樹）事實(shí)上的失真（Distortion）：AI技術(shù)失真指的是AI生成與事實(shí)相悖的內(nèi)容，產(chǎn)生虛假信息并誤導(dǎo)用戶04AIGC具有一定程度的隨機(jī)性AI模型不具有識(shí)別甄別能力，給出的答案很可能拼湊而來(lái)，看似合理，卻暗藏事實(shí)性錯(cuò)誤人工智能“幻覺”8.2知識(shí)儲(chǔ)備1.有監(jiān)督學(xué)習(xí)基本方法（分類：決策樹）算法偏見與歧視：算法偏見（AlgorithmicBias）是指在算法設(shè)計(jì)和執(zhí)行中存在的不公平性和傾向算法歧視（Discrimination）則是指對(duì)不同群體的不平等對(duì)待，可以表現(xiàn)為對(duì)某些群體的有利或不利。05導(dǎo)致AI技術(shù)不公平的兩個(gè)主要原因：輸入的數(shù)據(jù)的偏見算法模型本身的偏見8.2知識(shí)儲(chǔ)備1.有監(jiān)督學(xué)習(xí)基本方法（分類：決策樹）惡意工具化：AI技術(shù)被惡意工具化表現(xiàn)為批量生成虛假內(nèi)容、深度偽造身份，該現(xiàn)象在多個(gè)領(lǐng)域呈現(xiàn)復(fù)雜化、專業(yè)化趨勢(shì)。例如，AI被濫用于通信騷擾和數(shù)據(jù)竊取，形成黑色產(chǎn)業(yè)鏈；不雅圖片或者視頻、虛假新聞等可通過AIGC技術(shù)輸入簡(jiǎn)單指令生成，形成工業(yè)化生產(chǎn)鏈條06AI技術(shù)滲透生活，謹(jǐn)防AI技術(shù)淪為作惡工具8.2知識(shí)儲(chǔ)備1.有監(jiān)督學(xué)習(xí)基本方法（分類：決策樹）8.2知識(shí)儲(chǔ)備02仔細(xì)閱讀AI應(yīng)用程序和服務(wù)的隱私政策和服務(wù)條款，評(píng)估其必要性和可信度，避免過度分享敏感信息，如身份證號(hào)碼、銀行卡號(hào)等謹(jǐn)慎使用個(gè)人信息04意識(shí)到AI推薦系統(tǒng)可能存在的局限性和偏見，不盲目相信推薦結(jié)果理性看待AI推薦01了解AI安全風(fēng)險(xiǎn)相關(guān)知識(shí)關(guān)注媒體報(bào)道和專業(yè)機(jī)構(gòu)的研究成果養(yǎng)成保護(hù)個(gè)人信息的習(xí)慣提高安全意識(shí)03設(shè)置強(qiáng)密碼，并定期更換啟用多因素身份驗(yàn)證，增加賬戶的安全性避免使用公共網(wǎng)絡(luò)進(jìn)行涉及個(gè)人隱私和資金的操作保護(hù)賬戶安全05積極參與相關(guān)的用戶反饋和監(jiān)督機(jī)制參與監(jiān)督和反饋個(gè)人如何應(yīng)對(duì)AI的安全風(fēng)險(xiǎn)？06學(xué)習(xí)和掌握基本的數(shù)字技能，如數(shù)據(jù)備份、網(wǎng)絡(luò)安全防護(hù)、軟件使用等提升數(shù)字技能本章目錄01

基本介紹03任務(wù)實(shí)施04滄海拾貝05課后習(xí)題1.有監(jiān)督學(xué)習(xí)基本方法（分類：決策樹）8.3任務(wù)實(shí)施任務(wù).

AI工具在學(xué)術(shù)寫作中的創(chuàng)新實(shí)踐

任務(wù)描述身為大學(xué)生，我們常常會(huì)面臨學(xué)術(shù)寫作方面的任務(wù)，AI技術(shù)具有強(qiáng)大的內(nèi)容檢索以及文字生成能力，合理的利用AI工具寫作可以讓我們提高寫作效率。本任務(wù)聚焦AI工具在學(xué)術(shù)寫作中的創(chuàng)新應(yīng)用，我們需要掌握AI輔助寫作的核心技術(shù)邏輯與倫理規(guī)范。要求如下：場(chǎng)景選擇與工具調(diào)研風(fēng)險(xiǎn)推演防控策略開發(fā)請(qǐng)保持批評(píng)性思維，甄別地使用AI提供的信息，對(duì)AI生成內(nèi)容進(jìn)行批判性篩選和分析，判斷資料來(lái)源的權(quán)威性與可信度1.有監(jiān)督學(xué)習(xí)基本方法（分類：決策樹）8.3任務(wù)實(shí)施任務(wù).

AI工具在學(xué)術(shù)寫作中的創(chuàng)新實(shí)踐

任務(wù)描述身為大學(xué)生，我們常常會(huì)面臨學(xué)術(shù)寫作方面的任務(wù)，AI技術(shù)具有強(qiáng)大的內(nèi)容檢索以及文字生成能力，合理的利用AI工具寫作可以讓我們提高寫作效率。本任務(wù)聚焦AI工具在學(xué)術(shù)寫作中的創(chuàng)新應(yīng)用，我們需要掌握AI輔助寫作的核心技術(shù)邏輯與倫理規(guī)范。要求如下：場(chǎng)景選擇與工具調(diào)研風(fēng)險(xiǎn)推演防控策略開發(fā)請(qǐng)保持批評(píng)性思維，甄別地使用AI提供的信息，對(duì)AI生成內(nèi)容進(jìn)行批判性篩選和分析，判斷資料來(lái)源的權(quán)威性與可信度1.有監(jiān)督學(xué)習(xí)基本方法（分類：決策樹）8.3任務(wù)實(shí)施任務(wù).

AI工具在學(xué)術(shù)寫作中的創(chuàng)新實(shí)踐任務(wù)拆解：為了合理使用AI工具輔助我們完成學(xué)術(shù)論文的編寫，我們對(duì)任務(wù)進(jìn)行進(jìn)階思考，并拆解出四步關(guān)鍵步驟本章目錄01

基本介紹04滄海拾貝05課后習(xí)題1.有監(jiān)督學(xué)習(xí)基本方法（分類：決策樹）8.4滄海拾貝AI安全防御技術(shù)——生成對(duì)抗網(wǎng)絡(luò)GAN對(duì)抗訓(xùn)練和生成對(duì)抗網(wǎng)絡(luò)對(duì)抗訓(xùn)練（AdversarialTraining）：將AI模型生成或者隨機(jī)生成的對(duì)抗樣本加入到訓(xùn)練集中去，讓模型在訓(xùn)練的時(shí)候就先學(xué)習(xí)一遍對(duì)抗樣本，從而增強(qiáng)模型的魯棒性。生成對(duì)抗網(wǎng)絡(luò)（GenerativeAdversarialNetworks,簡(jiǎn)稱GAN）是一種通過對(duì)抗性訓(xùn)練實(shí)現(xiàn)數(shù)據(jù)生成的深度學(xué)習(xí)框架。GAN是由兩部分組成的深度學(xué)習(xí)模型：一個(gè)生成器（Generator）和一個(gè)鑒別器（Discriminator）1.有監(jiān)督學(xué)習(xí)基本方法（分類：決策樹）8.4滄海拾貝AI安全防御技術(shù)——視覺AIGC識(shí)別和深度偽造檢測(cè)根據(jù)已有的研究工作調(diào)研，將視覺AIGC識(shí)別粗略劃分為：人臉偽造檢測(cè)（FaceForgeryDetection）：包含人臉的AIG圖片/視頻的檢測(cè)，例如AI換臉、人臉操控等。此類方法主要關(guān)注帶有人臉相關(guān)的檢測(cè)方法，檢測(cè)方法可能會(huì)涉及人臉信息的先驗(yàn)。AIGC整圖檢測(cè)（AIGenerated-imagesDetection）：檢測(cè)一整張圖是否由AI生成，檢測(cè)更加的泛化。這類方法相對(duì)更關(guān)注生成圖與真實(shí)圖更通用的底層區(qū)別，通常專注于整張圖，比如近年爆火的SD、Midjounery的繪圖；其他類型假圖檢測(cè)（OtherstypesofFakeImageDetection）：此類方法更偏向于局部偽造、綜合偽造等一系列更復(fù)雜的圖片造假，當(dāng)然人臉偽造也屬于局部、復(fù)雜，但是是人臉場(chǎng)景。將AIG圖與真實(shí)圖拼湊、合成的圖片識(shí)別也屬于這一類。1.有監(jiān)督學(xué)習(xí)基本方法（分類：決策樹）8.4滄海拾貝案例1：全球AI文生圖平臺(tái)侵害著作權(quán)第一案：“AI奧特曼”

2024年2月8日，廣州互聯(lián)網(wǎng)法院就作出了另一份涉及AIGC著作權(quán)侵權(quán)的（2024）粵0192民初113號(hào)判決。該案被稱為“AIGC平臺(tái)著作權(quán)侵權(quán)全球第一案”，以下簡(jiǎn)稱“奧特曼案”。

原告上海某文化發(fā)展有限公司通過許可的形式獲得了奧特曼系列作品的權(quán)利人圓谷制作株式會(huì)社在中國(guó)國(guó)內(nèi)的著作權(quán)授權(quán)并享有維權(quán)權(quán)利。被告是一家提供人工智能服務(wù)的平臺(tái)，其運(yùn)營(yíng)的網(wǎng)站具有AI生成繪畫功能。原告發(fā)現(xiàn)，當(dāng)要求該網(wǎng)站生成奧特曼相關(guān)圖片時(shí)，生成的奧特曼形象與其享有著作權(quán)的奧特曼形象構(gòu)成實(shí)質(zhì)性近似。原告認(rèn)為被告未經(jīng)授權(quán)，擅自利用原告享有權(quán)利的作品訓(xùn)練其大模型并生成實(shí)質(zhì)性相似的圖片，且通過銷售會(huì)員充值及“算力”等增值服務(wù)的行為侵害其對(duì)奧特曼作品享有的復(fù)制權(quán)、改編權(quán)和信息網(wǎng)絡(luò)傳播權(quán)。

在該案中，我國(guó)法院首次明確，被告經(jīng)營(yíng)的AI平臺(tái)在提供AIGC服務(wù)過程中侵犯了原告對(duì)案涉奧特曼作品所享有的復(fù)制權(quán)和改編權(quán)，并應(yīng)承擔(dān)相關(guān)民事責(zé)任。1.有監(jiān)督學(xué)習(xí)基本方法（分類：決策樹）8.4滄海拾貝案例1：首例AI生成聲音人格權(quán)侵權(quán)案

國(guó)內(nèi)首例AI生成聲音人格權(quán)侵權(quán)案于2024年4月由北京互聯(lián)網(wǎng)法院一審宣判，明確了AI生成聲音的法律保護(hù)邊界。在這個(gè)案子里，原告殷女士是一名配音演員，殷女士曾和一家文化傳媒公司合作，錄制了幾部有聲讀物。之后，這家文化傳媒公司將這些錄音制品，提供給了一家軟件公司。該軟件公司以殷女士錄制的作品為素材，進(jìn)行了AI化處理，生成了一款文本轉(zhuǎn)語(yǔ)音產(chǎn)品并通過經(jīng)銷商對(duì)外出售。殷女士認(rèn)為自己的聲音權(quán)益受到了侵害，于是將運(yùn)營(yíng)智能配音軟件的某科技公司、將自己的錄音制品轉(zhuǎn)手他人的某文化傳媒公司等五家公司，起訴至法院。我國(guó)的民法典已經(jīng)在人格權(quán)編，將自然人的聲音視為一種人格權(quán)益，具有人身專屬性。所以，法院最終認(rèn)定被告方使用原告聲音、開發(fā)案涉AI文本轉(zhuǎn)語(yǔ)音產(chǎn)品未獲得合法授權(quán)，構(gòu)成侵權(quán)，書面賠禮道歉，并賠償原告各項(xiàng)損失25萬(wàn)元。本章目錄01

基本介紹02知識(shí)儲(chǔ)備

03任務(wù)實(shí)施04滄海拾貝05課后習(xí)題1