第十五章AI與人類未來(lái)：

共生、挑戰(zhàn)與邊界主講教師：王存睿人工智能通識(shí)基礎(chǔ)目錄AI的未來(lái)01AI的社會(huì)影響02AI的邊界03目錄AI的未來(lái)011.1AI的三體世界英偉達(dá)的“三體世界”主要由DGX、AGX和Omniverse組成，三個(gè)中心互為一體，構(gòu)建了訓(xùn)練、模擬和運(yùn)行的AI“三體世界”。1AI的未來(lái)1.2物理模型的應(yīng)用借助基于Omniverse的參考應(yīng)用程序NVIDIAIsaacSim，機(jī)器人可以通過(guò)演示來(lái)學(xué)習(xí)任務(wù)，從而消除了對(duì)傳統(tǒng)編碼或編程的需求，使開(kāi)發(fā)人員能夠?qū)Ｗ⒂诟邇r(jià)值的任務(wù)。1AI的未來(lái)1.4《ThreeObservations》2025年OpenAI公司發(fā)布了關(guān)于AI未來(lái)預(yù)測(cè)的文章《ThreeObservations》提出了關(guān)于AI經(jīng)濟(jì)學(xué)的三個(gè)觀察和2035年的預(yù)測(cè)。1.模型智能與訓(xùn)練資源呈對(duì)數(shù)關(guān)系智能∝log(資源)

企業(yè)可通過(guò)持續(xù)增加算力和數(shù)據(jù)投入獲得可預(yù)測(cè)的能力提升;

當(dāng)前GPT-4到GPT-5的跨越需要約10倍資源投入，但邊際效益遞減規(guī)律顯著;

該規(guī)律解釋了為何科技巨頭持續(xù)投入超算中心建設(shè)。2.智能成本指數(shù)級(jí)下降

AI服務(wù)價(jià)格每年下降10倍的速率遠(yuǎn)超摩爾定律（晶體管數(shù)量每18個(gè)月翻倍）;GPT-4的token成本在2023-2024年間下降150倍；

該趨勢(shì)導(dǎo)致”杰文斯悖論”效應(yīng)：成本降低刺激需求暴漲，形成技術(shù)擴(kuò)散正反饋循環(huán)。1AI的未來(lái)1.5《ThreeObservations》3.智能的社會(huì)經(jīng)濟(jì)價(jià)值超指數(shù)增長(zhǎng)

技術(shù)演進(jìn)：人類個(gè)體智力將無(wú)法超越人工智能；

科研加速：AI或?qū)?0年科研進(jìn)程壓縮至1年；

生產(chǎn)力變革：軟件工程領(lǐng)域12-18個(gè)月內(nèi)將出現(xiàn)高效率的AI智能體完成大部分開(kāi)發(fā)任務(wù)；

產(chǎn)業(yè)重構(gòu)：會(huì)計(jì)、保險(xiǎn)等行業(yè)將率先部署”數(shù)字員工”填補(bǔ)人力缺口。4OpenAI公司表示，如果這三點(diǎn)觀察結(jié)果繼續(xù)成立，預(yù)計(jì)到2035年知識(shí)工作者將配備智能代理團(tuán)隊(duì)，個(gè)人生產(chǎn)力提升百倍；軟件工程領(lǐng)域?qū)⒊霈F(xiàn)”虛擬初級(jí)工程師”，處理代碼審查、單元測(cè)試等基礎(chǔ)任務(wù)；醫(yī)療、法律等專業(yè)領(lǐng)域形成”人機(jī)協(xié)作”新范式；依賴于智力成本和能源成本許多產(chǎn)品的價(jià)格最終將大幅下跌。1AI的未來(lái)1.6《2025年人工智能指數(shù)報(bào)告》由李飛飛聯(lián)合領(lǐng)導(dǎo)的斯坦福大學(xué)以人為本人工智能研究所（StanfordHAI）發(fā)布了《2025年人工智能指數(shù)報(bào)告》（ArtificialIntelligenceIndexReport2025）。這份長(zhǎng)達(dá)456多頁(yè)的報(bào)告是StanfordHAI發(fā)布的第8份AIIndex研究，追蹤了2024年全球人工智能（AI）行業(yè)的發(fā)展趨勢(shì)。1AI的未來(lái)1.7《2025年人工智能指數(shù)報(bào)告》1.AI在苛刻基準(zhǔn)上的表現(xiàn)持續(xù)提升2024年，AI系統(tǒng)性能大幅提升：在MMMU（多任務(wù)語(yǔ)言理解）、GPQA(博士級(jí)別科學(xué)問(wèn)題)和SWE-bench(軟件工程評(píng)測(cè)基準(zhǔn))分別提高了18.8、48.9和67.3個(gè)百分點(diǎn)。AI系統(tǒng)在生成高質(zhì)量視頻方面也取得了重大進(jìn)展，在某些場(chǎng)景下，大語(yǔ)言模型甚至在有限時(shí)間和預(yù)算下的編程任務(wù)中超越了人類水平。1AI的未來(lái)1.8《2025年人工智能指數(shù)報(bào)告》2.AI正越來(lái)越多地融入到日常生活中從醫(yī)療保健到交通運(yùn)輸，AI正迅速?gòu)膶?shí)驗(yàn)室走向日常生活。2023年，美國(guó)食品藥品監(jiān)督管理局FDA批準(zhǔn)了223種AI醫(yī)療設(shè)備，而2015年僅為6種。在自動(dòng)駕駛領(lǐng)域，百度的經(jīng)濟(jì)型“蘿卜快跑”（ApolloGo）和美國(guó)Waymo已經(jīng)商用。1AI的未來(lái)1.9《2025年人工智能指數(shù)報(bào)告》3.企業(yè)全力投入AI，推動(dòng)投資和使用創(chuàng)歷史新高2024年，2024年私人AI投資中國(guó)是93億美元，英國(guó)是45億美元，美國(guó)是1091億美元，。生成式AI尤其強(qiáng)勁，全球AI產(chǎn)業(yè)吸引私營(yíng)投資339億美元——比2023年增長(zhǎng)18.7%。AI的商業(yè)應(yīng)用也在加速，2024年78%的組織報(bào)告稱在使用AI，比前一年增長(zhǎng)55%。同時(shí)越來(lái)越多的研究證實(shí)，AI提高了生產(chǎn)力，在大多數(shù)情況下，有助于縮小勞動(dòng)力中的技能差距。1AI的未來(lái)1.10《2025年人工智能指數(shù)報(bào)告》4.在創(chuàng)造頂級(jí)AI模型方面，中國(guó)正在縮小與美國(guó)的差距2024年，美國(guó)推出了40個(gè)引人注目的AI模型，顯著超過(guò)中國(guó)的15個(gè)和歐洲的3個(gè)。雖然美國(guó)在數(shù)量上保持領(lǐng)先，但中國(guó)模型在質(zhì)量上迅速縮小了差距：在MMLU(大規(guī)模多任務(wù)語(yǔ)言理解測(cè)試集)和HumanEval(手寫代碼評(píng)測(cè)集)等主要基準(zhǔn)上的性能差異從2023年的兩位數(shù)縮小到2024年的接近相等。同時(shí)，中國(guó)在AI出版物和專利方面繼續(xù)領(lǐng)先。與此同時(shí)，模型開(kāi)發(fā)越來(lái)越全球化，中東、拉丁美洲和東南亞等地區(qū)也推出了引人注目的新模型。1AI的未來(lái)1.11《2025年人工智能指數(shù)報(bào)告》5.AI安全體系不斷，但不均衡人工智能相關(guān)安全事件急劇上升，工業(yè)級(jí)模型較少對(duì)自己的模型進(jìn)行風(fēng)險(xiǎn)評(píng)估，這主要是因?yàn)闃?biāo)準(zhǔn)化的模型安全評(píng)估仍然很少。目前，斯坦福CRFM團(tuán)隊(duì)推出HELMSafety(評(píng)估LLM在敏感話題安全響應(yīng))以及Safety、AIR-Bench和FACTS等大模型安全評(píng)估基準(zhǔn)測(cè)試為大模型安全提供了一定基礎(chǔ)保障。2024年，全球在人工智能治理方面的合作不斷加強(qiáng)，致力于透明度、可信度和負(fù)責(zé)任的人工智能安全框架。主流基礎(chǔ)模型的安全性與負(fù)責(zé)任AI基準(zhǔn)測(cè)試集的表現(xiàn)1AI的未來(lái)1.12《2025年人工智能指數(shù)報(bào)告》6.全球AI樂(lè)觀情緒上升，但地區(qū)間深層次分歧依然存在在中國(guó)（83%）、印度尼西亞（80%）和泰國(guó)（77%）等國(guó)家的大多數(shù)人認(rèn)為，人工智能產(chǎn)品和服務(wù)是利大于弊的。相比之下，加拿大（40%）、美國(guó)（39%）和荷蘭（36%）等地的樂(lè)觀情緒仍然遠(yuǎn)低于其他國(guó)家。然而，情緒正在轉(zhuǎn)變：自2022年以來(lái)，包括德國(guó)（+10%）、法國(guó)（+10%）、加拿大（+8%）、英國(guó)（+8%）和美國(guó)（+4%）在內(nèi)的幾個(gè)先前持懷疑態(tài)度的國(guó)家，樂(lè)觀情緒顯著增長(zhǎng)。1AI的未來(lái)1.13《2025年人工智能指數(shù)報(bào)告》7.AI變得更加高效、經(jīng)濟(jì)實(shí)惠和易于獲取得益于越來(lái)越強(qiáng)大的小規(guī)模語(yǔ)言模型不斷發(fā)展，以GPT-3.5水平為基準(zhǔn)，推理成本在2022年11月到2024年10月間下降了280倍。在硬件層面，成本每年下降30%，而能效每年提高40%。開(kāi)源權(quán)重模型也在縮小與閉源模型的差距，在某些基準(zhǔn)測(cè)試中，一年內(nèi)性能差異從8%減少到僅1.7%。這些趨勢(shì)共同迅速降低了高級(jí)人工智能的使用門檻。1AI的未來(lái)1.14《2025年人工智能指數(shù)報(bào)告》8.各國(guó)政府正在加強(qiáng)對(duì)AI的監(jiān)管和投資2024年，在全球范圍內(nèi)，自2023年以來(lái)，75個(gè)國(guó)家的AI立法提及率上升了21.3%，自2016年以來(lái)增長(zhǎng)了9倍。同時(shí)各國(guó)政府也在進(jìn)行大規(guī)模投資：加拿大承諾投資24億美元，中國(guó)啟動(dòng)了475億美元的半導(dǎo)體基金，法國(guó)承諾投資1090億歐元，印度承諾投資12.5億美元，沙特阿拉伯則發(fā)起了一項(xiàng)1000億美元的倡議。|1AI的未來(lái)1.15《2025年人工智能指數(shù)報(bào)告》9.AI和計(jì)算機(jī)科學(xué)教育正在擴(kuò)大，但普及程度仍不夠已有2/3的國(guó)家提供或計(jì)劃提供K-12計(jì)算機(jī)科學(xué)教育，是2019年的兩倍，其中非洲和拉丁美洲取得的進(jìn)展最大。然而在許多非洲國(guó)家，由于電力等基礎(chǔ)設(shè)施的不足，獲得計(jì)算機(jī)學(xué)位的機(jī)會(huì)仍然有限。1AI的未來(lái)1.16《2025年人工智能指數(shù)報(bào)告》10.工業(yè)界依然一路領(lǐng)先如圖所示，2024年，近90%的著名人工智能模型來(lái)自工業(yè)界，高于2023年的60%，而學(xué)術(shù)界仍然是高引用率研究的首要來(lái)源。模型規(guī)模持續(xù)快速增長(zhǎng)——訓(xùn)練計(jì)算每5個(gè)月翻一番，數(shù)據(jù)集每8個(gè)月翻一番，耗電量每年翻一番。然而，性能差距正在縮小：排名第一和第十的模型之間的得分差距在一年內(nèi)從11.9%降至5.4%，排名前兩位的差距現(xiàn)在僅為0.7%。前沿領(lǐng)域的競(jìng)爭(zhēng)越來(lái)越激烈。1AI的未來(lái)1.17《2025年人工智能指數(shù)報(bào)告》11.復(fù)雜推理仍是一項(xiàng)挑戰(zhàn)人工智能模型在國(guó)際數(shù)學(xué)奧林匹克競(jìng)賽問(wèn)題等任務(wù)中表現(xiàn)出色，但在PlanBench等復(fù)雜推理基準(zhǔn)測(cè)試中仍然面臨挑戰(zhàn)。在Blocksworld零樣本評(píng)估（特定規(guī)劃測(cè)試領(lǐng)域）中，o1以97.8%的得分遠(yuǎn)超Llama3.1405B（62.6%）和GPT-4o（35.5%）。而在更具挑戰(zhàn)性的MysteryBlocksworld領(lǐng)域（包含語(yǔ)法混淆的測(cè)試項(xiàng)），o1的零樣本得分達(dá)到52.8%，顯著優(yōu)于Llama3.1405B（0.8%）和GPT-4（0%）亞利桑那州立大學(xué)的研究團(tuán)隊(duì)提出了PlanBench基準(zhǔn)測(cè)試套件，該套件匯集了自動(dòng)規(guī)劃領(lǐng)域特別是國(guó)際規(guī)劃競(jìng)賽（IPC）中的典型問(wèn)題，專門用于評(píng)估LLM的規(guī)劃能力。該基準(zhǔn)包含600個(gè)積木堆疊問(wèn)題，測(cè)試要求機(jī)械手在每次只能移動(dòng)一個(gè)積木到桌面或另一個(gè)積木頂部的約束條件下完成堆疊任務(wù)。1AI的未來(lái)1.18超級(jí)人工智能ASI軟銀公司預(yù)測(cè)，AGI（通用人工智能）的定義是和人腦一樣，ASI（超級(jí)人工智能）的定義是比人腦聰明1萬(wàn)倍，這將在2035年實(shí)現(xiàn)，超級(jí)人工智能將比人腦聰明1萬(wàn)倍，建設(shè)它需要400GW的電力、2億個(gè)芯片、9萬(wàn)億美元的資金——或許還低估了。1AI的未來(lái)1.19超級(jí)人工智能ASI12個(gè)ASI相對(duì)人類的能力優(yōu)勢(shì)1AI的未來(lái)1.20超級(jí)人工智能ASI1AI的未來(lái)1.21星際之門“星際之門”于2025年1月21日在美國(guó)白宮宣布計(jì)劃，該項(xiàng)目旨在建設(shè)下一代人工智能所需的物理與虛擬基礎(chǔ)設(shè)施，包括遍布全美的數(shù)據(jù)中心。日本軟銀集團(tuán)、OpenAI和美國(guó)甲骨文公司三家企業(yè)將投資5000億美元，用于在美國(guó)建設(shè)支持AI發(fā)展的基礎(chǔ)設(shè)施。該項(xiàng)目的初始投資為1000億美元，并計(jì)劃在未來(lái)4年內(nèi)擴(kuò)展至5000億美元。星際之門”AI基建項(xiàng)目啟航得州阿比林小城首座數(shù)據(jù)中心擬部署6.4萬(wàn)顆GB2001AI的未來(lái)1.22DeepSeek2025年1月20日DeepSeek發(fā)布R1模型，被認(rèn)為可以與美國(guó)最先進(jìn)的模型相媲美，但是成本卻大幅降低。1月25-26日隨著DeepSeekR1引爆美國(guó)輿論美國(guó)科技股出現(xiàn)大幅拋售。1月27日，納斯達(dá)克下跌3.1%，標(biāo)普500下跌1.5%，而AI相關(guān)企業(yè)股價(jià)普遍明顯調(diào)整，芯片設(shè)計(jì)和制造商英偉達(dá)大跌17.0%，創(chuàng)2020年3月以來(lái)最大跌幅，博通公司股價(jià)下跌17.4%，臺(tái)積電下跌13.3%。1AI的未來(lái)1.23DeepSeekvs星際之門1AI的未來(lái)1.24DeepSeekvs星際之門DeepSeekR1的出現(xiàn)使得“星際之門”（Stargate）落地難度將進(jìn)一步加大。DeepSeek使得投資者增加了對(duì)Stargate項(xiàng)目的質(zhì)疑。DeepSeek可能導(dǎo)致市場(chǎng)質(zhì)疑科技巨頭大規(guī)模資本開(kāi)支的合理性。DeepSeek出現(xiàn)之前，科技巨頭采取的是“不惜一切代價(jià)建設(shè)”的策略，即通過(guò)大規(guī)模資本開(kāi)支，提高算力。DeepSeek

的出現(xiàn)意味著存在更高效利用資本的可能性，效率提升或?qū)⒔档蛯?duì)GPU芯片的需求，長(zhǎng)期可能降低科技巨頭資本開(kāi)支的預(yù)期。DeepSeek可能顛覆AI行業(yè)格局，沖擊美國(guó)在AI領(lǐng)域的領(lǐng)先地位。DeepSeek以更低成本達(dá)到媲OpenAI等行業(yè)巨頭的產(chǎn)品，可能顛覆現(xiàn)有行業(yè)結(jié)構(gòu)，一定程度擾動(dòng)了英偉達(dá)和科技巨頭的傳統(tǒng)競(jìng)爭(zhēng)格局，對(duì)英偉達(dá)芯片等相關(guān)硬件的需求預(yù)期可能下降，數(shù)據(jù)中心基礎(chǔ)設(shè)施建設(shè)公司、電力供應(yīng)商等與AI硬件相關(guān)的衍生行業(yè)需求預(yù)期也會(huì)下降。1AI的未來(lái)目錄AI的社會(huì)影響022.1AI對(duì)就業(yè)市場(chǎng)影響到2030年，人工智能和自動(dòng)化預(yù)計(jì)將改變86%的企業(yè)。到2030年，全球?qū)粼?800萬(wàn)個(gè)就業(yè)崗位，其中將創(chuàng)造1.7億個(gè)新崗位，同時(shí)有9200萬(wàn)個(gè)崗位將被取代?？傮w來(lái)看，人工智能將成為就業(yè)的凈創(chuàng)造者。到2030年，約40%雇主會(huì)因AI技術(shù)發(fā)展自動(dòng)縮減員工隊(duì)伍。4.到2030年，絕大多數(shù)公司（77-85%）計(jì)劃優(yōu)先提升現(xiàn)有員工的技能。5.到2030年，員工技能差距日益擴(kuò)大是企業(yè)轉(zhuǎn)型的主要障礙，教育機(jī)構(gòu)需要調(diào)整其課程設(shè)置以滿足企業(yè)需求。6.到2030年，技術(shù)被認(rèn)為是塑造勞動(dòng)力市場(chǎng)最具顛覆性的力量，人工智能和信息處理技術(shù)將創(chuàng)造1900萬(wàn)個(gè)就業(yè)崗位，同時(shí)取代900萬(wàn)個(gè)。2AI的社會(huì)影響2.2AI對(duì)就業(yè)市場(chǎng)影響——技能差距雇主預(yù)計(jì)到2030年39%的工人核心技能將發(fā)生變化，低于以往預(yù)測(cè)，這得益于企業(yè)對(duì)培訓(xùn)的重視，50%的勞動(dòng)力已完成相關(guān)培訓(xùn)。不同經(jīng)濟(jì)體和行業(yè)的技能顛覆程度有所不同。技能差距仍然是企業(yè)響應(yīng)全球大勢(shì)、推動(dòng)自身轉(zhuǎn)型所面臨的首要障礙。63%的雇主認(rèn)為技能差距是一項(xiàng)主要障礙，影響了企業(yè)打造面向未來(lái)的經(jīng)營(yíng)方式。2AI的社會(huì)影響2.3AI對(duì)就業(yè)市場(chǎng)影響——人機(jī)協(xié)同方面此消彼長(zhǎng)2025年，22%由技術(shù)（機(jī)器，算法等）完成，47%由人來(lái)完成，30%由人機(jī)合作/協(xié)同完成。2030年，技術(shù)完成的比例將從22%增長(zhǎng)到34%2030年，人來(lái)完成的比例從47%減少到33%。2030年，人機(jī)合作/協(xié)同完成的比例則從30%小幅增長(zhǎng)到33%。2AI的社會(huì)影響2.4AI對(duì)教育行業(yè)影響2025年3月28日，教育部召開(kāi)國(guó)家教育數(shù)字化戰(zhàn)略行動(dòng)2025年部署會(huì)，以“人工智能與教育變革”為主題，圍繞落實(shí)《教育強(qiáng)國(guó)建設(shè)規(guī)劃綱要（2024—2035年）》。教育部黨組書記、部長(zhǎng)懷進(jìn)鵬出席會(huì)議并講話指出，“習(xí)近平總書記高度重視教育數(shù)字化和人工智能，作出一系列重要論述。要深刻領(lǐng)會(huì)習(xí)近平總書記的重要講話精神，科學(xué)把握人工智能在教育強(qiáng)國(guó)建設(shè)中的定位、方向、方法，積極推動(dòng)人工智能賦能教育強(qiáng)國(guó)建設(shè)。必須牢記使命，始終堅(jiān)持服務(wù)立德樹(shù)人這一根本任務(wù)，始終堅(jiān)持五育并舉、促進(jìn)學(xué)生全面發(fā)展的目標(biāo)不動(dòng)搖。必須勇于改革創(chuàng)新，深入推動(dòng)人工智能賦能教育變革，推動(dòng)各級(jí)各類教育課程、教材、教學(xué)體系智能化升級(jí)，將人工智能技術(shù)融入教育教學(xué)全要素、全過(guò)程，全方位助學(xué)、助教、助研、助管、助國(guó)際交流。必須優(yōu)化能力結(jié)構(gòu)，學(xué)校管理者要提升數(shù)字化領(lǐng)導(dǎo)力和駕馭力，廣大教師要提升數(shù)字教學(xué)能力，促進(jìn)科學(xué)教育與人文教育協(xié)同，塑造學(xué)生適應(yīng)人工智能時(shí)代的素養(yǎng)能力?！?AI的社會(huì)影響2.5

AI對(duì)教育行業(yè)影響人工智能技術(shù)正在引發(fā)“學(xué)什么”和“怎么教”的教育顛覆性改變。人工智能在不同教育階段的影響比較2AI的社會(huì)影響2.6

AI對(duì)教育行業(yè)影響——人工智能對(duì)教育中倫理挑戰(zhàn)對(duì)學(xué)生數(shù)據(jù)的收集、存儲(chǔ)和使用；算法偏見(jiàn)可能導(dǎo)致某些學(xué)生群體面臨不公平或歧視性結(jié)果的風(fēng)險(xiǎn)；人工智能對(duì)學(xué)術(shù)誠(chéng)信構(gòu)成的挑戰(zhàn)；學(xué)生和教育工作者可能過(guò)度依賴人工智能；導(dǎo)致批判性思維、解決問(wèn)題的能力和人際互動(dòng)下降的可能性。人工智能在教育領(lǐng)域中的倫理考量與緩解策略2AI的社會(huì)影響2.7AI對(duì)教育行業(yè)影響——4大素養(yǎng)2AI的社會(huì)影響目錄AI的邊界03353.1AI倫理與社會(huì)邊界——科學(xué)倫理重點(diǎn)“倫理”是人類實(shí)現(xiàn)個(gè)體利益與社會(huì)整體利益協(xié)調(diào)過(guò)程中，形成的具有廣泛共識(shí)的引導(dǎo)社會(huì)人際和諧和可持續(xù)發(fā)展的一系列公序良俗，諸如向善、公平、正義等，其內(nèi)涵會(huì)根據(jù)研究主體的特性而改變；2022年3月20日，中共中央辦公廳、國(guó)務(wù)院辦公廳印發(fā)了《關(guān)于加強(qiáng)科技倫理治理的意見(jiàn)》，提出“科技倫理是開(kāi)展科學(xué)研究、技術(shù)開(kāi)發(fā)等科技活動(dòng)需要遵循的價(jià)值理念和行為規(guī)范，是促進(jìn)科技事業(yè)健康發(fā)展的重要保障。”，并明確了五大類科技倫理原則。3AI的邊界3.2AI倫理與社會(huì)邊界——硅基數(shù)字生命《流浪地球2》科學(xué)家圖恒宇利用量子計(jì)算機(jī)，“復(fù)活”了因車禍去世的女兒丫丫，賜予她數(shù)字生命。電影中超級(jí)量子計(jì)算機(jī)將丫丫的大腦記憶和意識(shí)上傳，創(chuàng)建一個(gè)具有獨(dú)立意識(shí)、情感、記憶的完整個(gè)體，帶個(gè)每個(gè)觀眾都是劇烈的思索和倫理震撼。3AI的邊界3.3AI倫理與社會(huì)邊界——硅基數(shù)字生命3AI的邊界3.4AI倫理與社會(huì)邊界——硅基數(shù)字生命利用生成技術(shù)“復(fù)活”逝者影像，這種技術(shù)帶給人們?nèi)绾蔚男睦碛绊懀吭趥惱淼赖骂I(lǐng)域，是否應(yīng)該“復(fù)活”逝者？這種做法可能阻礙了人們正常的哀悼過(guò)程，也可能導(dǎo)致對(duì)死亡的態(tài)度產(chǎn)生根本性的改變。當(dāng)人們過(guò)度依賴數(shù)字技術(shù)同時(shí)，虛擬慰藉很可能帶來(lái)現(xiàn)實(shí)傷害，受到情感困擾甚至出現(xiàn)心理或生理疾病。生者如果難以走出失去親人的陰影，沉溺于虛擬世界中，就會(huì)影響在現(xiàn)實(shí)世界里對(duì)真實(shí)情感和人際關(guān)系的認(rèn)知，嚴(yán)重的會(huì)影響正常生活。近年來(lái)，我國(guó)出臺(tái)《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》和《生成式人工智能服務(wù)管理暫行辦法》等法規(guī)相繼施行，對(duì)深度合成內(nèi)容標(biāo)識(shí)等關(guān)鍵問(wèn)題進(jìn)行了規(guī)范，需要不斷改進(jìn)理念和方式，多舉措防范技術(shù)風(fēng)險(xiǎn)和技術(shù)倫理問(wèn)題。3AI的邊界3.5AI倫理與社會(huì)邊界——法律案例1.生成AI作品可享有著作權(quán)【案情】李某使用AI軟件制作了一張圖片。他為這張圖片加上“AI繪畫”等標(biāo)簽，發(fā)布在自己的社交平臺(tái)上。之后，李某發(fā)現(xiàn)這張圖片被博主劉女士擅自使用，還截去了署名水印。李某認(rèn)為劉女士的行為侵犯了自己的著作權(quán)，便將劉女士訴至法院。涉案圖片與一般的繪畫或攝影作品不同，是利用AI技術(shù)生成的，那么它是否符合著作權(quán)法中關(guān)于作品的定義？李某是否擁有著作權(quán)？李某認(rèn)為，使用AI軟件進(jìn)行繪畫時(shí)，需要設(shè)置相關(guān)提示詞、模型以及其他參數(shù)，自己才是圖片的主導(dǎo)者，因此應(yīng)享有相關(guān)圖片著作權(quán)?！菊f(shuō)法】法院審理認(rèn)為，本案中，圖片以線條、色彩構(gòu)成，有審美意義，可以認(rèn)定為作品，且具備“智力成果”和“獨(dú)創(chuàng)性”要件。通過(guò)設(shè)計(jì)提示詞，不同的人會(huì)生成不同的結(jié)果，這種差異可以體現(xiàn)人類的獨(dú)創(chuàng)性智力投入。涉案圖片是基于原告的智力投入直接產(chǎn)生，而且體現(xiàn)出原告的個(gè)性化表達(dá)，因此可以認(rèn)定涉案圖片屬于著作權(quán)法中規(guī)定的作品，李某可以被認(rèn)定為作者，享有著作權(quán)。最終，法院作出判決，認(rèn)為被告侵犯原告署名權(quán)和信息網(wǎng)絡(luò)傳播權(quán)，應(yīng)該對(duì)原告賠禮道歉，并賠償原告經(jīng)濟(jì)損失。法官提示，利用人工智能生成的內(nèi)容，是否構(gòu)成作品，何人能被認(rèn)定為作者，需要個(gè)案判斷，不能一概而論。關(guān)鍵在于查明人類使用AI模型是否給人以創(chuàng)作空間，以及生成的內(nèi)容是否體現(xiàn)了人的獨(dú)創(chuàng)性智力投入。本案裁判明確了利用人工智能生成圖片的“作品”屬性和使用者的“創(chuàng)作者”身份。3AI的邊界3.6AI倫理與社會(huì)邊界——法律案例2.利用AI造謠依法予以嚴(yán)懲【案情】“浙江一工業(yè)園突發(fā)大火，‘視頻曝光’，整個(gè)廠房都燒透了！伴有爆炸聲，火光沖天！傷亡不明！”前不久一則“圖文并茂”的“新聞”在網(wǎng)上廣為流傳，引起不少網(wǎng)友關(guān)注。很快，相關(guān)部門予以辟謠。原來(lái)這則“新聞”是利用AI技術(shù)制作的一則謠言。張某、陳某二人選取網(wǎng)絡(luò)熱點(diǎn)，復(fù)制新聞的標(biāo)題、關(guān)鍵詞并利用AI軟件自動(dòng)生成文案和視頻，將其發(fā)布至網(wǎng)絡(luò)平臺(tái)供人瀏覽，以博取流量，進(jìn)而牟利。虛假造謠視頻累計(jì)閱讀觀看量超167萬(wàn)次，造成惡劣社會(huì)影響。二人被公安機(jī)關(guān)抓獲并由檢察機(jī)關(guān)提起公訴?！菊f(shuō)法】法院審理認(rèn)為，利用AI技術(shù)自動(dòng)合成災(zāi)情、險(xiǎn)情等虛假視頻，在網(wǎng)絡(luò)平臺(tái)上傳播，嚴(yán)重?cái)_亂社會(huì)秩序的，應(yīng)當(dāng)以編造、故意傳播虛假信息罪定罪處罰。對(duì)于是否達(dá)到“嚴(yán)重?cái)_亂社會(huì)秩序”的程度，應(yīng)當(dāng)結(jié)合虛假信息的發(fā)布數(shù)量、點(diǎn)擊轉(zhuǎn)發(fā)量、對(duì)社會(huì)公共秩序的影響等因素進(jìn)行綜合判斷。張某、陳某利用AI技術(shù)編造虛假的險(xiǎn)情、災(zāi)情、警情，嚴(yán)重?cái)_亂社會(huì)秩序，其行為已構(gòu)成編造、故意傳播虛假信息罪。法官提示，上述案件是人工智能時(shí)代編造、故意傳播虛假信息罪的典型，該案警示網(wǎng)絡(luò)用戶在使用AI生成圖片、音視頻時(shí)，應(yīng)注意甄別圖片、音視頻的真實(shí)性，尤其需警惕具有情緒煽動(dòng)性、利益誘導(dǎo)性的內(nèi)容。如發(fā)布AI生成內(nèi)容，還應(yīng)履行添加標(biāo)識(shí)的義務(wù)，從而避免他人混淆，以防被不法分子利用。此外，通過(guò)認(rèn)定與追究編造、故意傳播虛假信息罪的刑事責(zé)任，可以有效凈化網(wǎng)絡(luò)內(nèi)容，遏制人工智能時(shí)代虛假信息的泛濫之勢(shì)，保障包括網(wǎng)絡(luò)秩序在內(nèi)的社會(huì)公共秩序的安定。3AI的邊界3.7AI倫理與社會(huì)邊界——法律案例3.濫用AI換臉最終難逃懲處【案情】傅某在社交平臺(tái)上發(fā)布“廣告”，聲稱可通過(guò)“AI換臉”技術(shù)，幫助他人通過(guò)相關(guān)平臺(tái)的人臉驗(yàn)證，以登錄非本人賬號(hào)。原來(lái)，傅某使用相關(guān)軟件，用“客戶”提供的頭像制作換臉視頻，預(yù)存在手機(jī)相冊(cè)中，再點(diǎn)擊客戶要求通過(guò)的人臉驗(yàn)證鏈接，采用軟件控制相關(guān)平臺(tái)的人臉識(shí)別系統(tǒng)，讀取到其指定的預(yù)先制作的人臉視頻，以此通過(guò)平臺(tái)的人臉驗(yàn)證。甚至客戶只提供身份證號(hào)，傅某即從某些非法平臺(tái)上購(gòu)買相關(guān)公民信息，以制作換臉視頻。傅某被公安機(jī)關(guān)抓獲后，被檢察機(jī)關(guān)以非法控制計(jì)算機(jī)信息系統(tǒng)罪提起公訴?！菊f(shuō)法】傅某辯稱，其只是借助AI軟件，使得系統(tǒng)讀取到的是其預(yù)先制作的人臉視頻，并未“控制”平臺(tái)的識(shí)別系統(tǒng)，刑法也未明確通過(guò)AI換臉幫助他人通過(guò)實(shí)名認(rèn)證的行為定性為犯罪。法院經(jīng)審理認(rèn)為，傅某使用軟件程序，改變手機(jī)系統(tǒng)原本調(diào)用自身攝像頭的方式，并用虛擬攝像頭助手程序讀取指定的人臉視頻，實(shí)現(xiàn)替換攝像頭的功能。這種對(duì)后臺(tái)系統(tǒng)進(jìn)行干擾的行為，接近一種控制行為，符合“非法控制計(jì)算機(jī)信息系統(tǒng)罪”的犯罪特征。此外，傅某為制作驗(yàn)證視頻而購(gòu)買他人身份信息，構(gòu)成侵犯公民個(gè)人信息罪。二罪是目的和手段的關(guān)系，屬于刑法上的“牽連犯”，故從一重罪處斷，也就是以非法控制計(jì)算機(jī)信息系統(tǒng)罪追究傅某刑事責(zé)任。3AI的邊界3.8AI倫理與社會(huì)邊界——戰(zhàn)爭(zhēng)AI(五角大樓“梅文計(jì)劃”)2022年1月30日，梅文計(jì)劃主要參與企業(yè)之一的ScaleAI獲得美國(guó)國(guó)防部2.5億美元的合同。2022年2月1日，美國(guó)國(guó)防部成立首席數(shù)字和人工智能辦公室。據(jù)國(guó)外媒體報(bào)到，2020年的某夏夜，美國(guó)第18空降兵凝視著他們指揮所電腦上的衛(wèi)星圖像，在得到識(shí)別和提示目標(biāo)的指令后，一個(gè)人工智能程序已掃描了這些照片，接著該程序給出提示并要求確認(rèn)它的信息：一輛報(bào)廢的坦克。信息得到確認(rèn)后，該系統(tǒng)向配有海馬斯M142的炮兵陣地發(fā)送指示開(kāi)火的指令。一枚海馬斯火箭立即升空按制定目標(biāo)摧毀了那輛坦克。這次電腦模擬演習(xí)拉開(kāi)美國(guó)梅文計(jì)劃試驗(yàn)的序幕。此后，通過(guò)與美軍其他軍種及英國(guó)等盟國(guó)協(xié)作，第18空降軍使用梅文系統(tǒng)以及與之相連的武器系統(tǒng)，制作從轟炸機(jī)、戰(zhàn)斗機(jī)、無(wú)人機(jī)和潛艇上打擊目標(biāo)的型號(hào)數(shù)據(jù)。據(jù)媒體報(bào)到，2022年2月7日，負(fù)責(zé)AI作戰(zhàn)測(cè)試的第18空降軍抵達(dá)烏克蘭邊境。據(jù)彭博社報(bào)道，在美軍于2024年初在中東進(jìn)行的空襲轟炸中，梅文智能系統(tǒng)至少幫助美軍鎖定了85個(gè)打擊目標(biāo)，地點(diǎn)涉及伊拉克、敘利亞、也門和紅海地區(qū)。3AI的邊界3.9AI