6.1人工智能的

不確定性主講人：***CONTENTS目錄01人工智能的不確定性概述02我國人工智能模型存在的技術(shù)問題03人機(jī)關(guān)系探討04人工智能暗箱現(xiàn)象05我國人工智能發(fā)展情況06人工智能不確定性的應(yīng)對思考人工智能的不確定性概述01不確定性的定義與影響人工智能不確定性的概念在AI技術(shù)中，不確定性指因數(shù)據(jù)不完整、噪聲干擾、模型復(fù)雜性等因素，導(dǎo)致結(jié)果不確定或預(yù)測不準(zhǔn)確的現(xiàn)象。不確定性對AI模型決策的影響不確定性會使AI模型的決策出現(xiàn)偏差，如受噪聲干擾，模型可能將雪山誤識別為狗，影響決策準(zhǔn)確性。不確定性引發(fā)的社會安全問題這種不確定性可能引發(fā)一系列社會安全問題，對人們的生命財產(chǎn)安全構(gòu)成潛在威脅。不確定性的案例展示Uber自動駕駛汽車撞人事件2018年，美國亞利桑那州，Uber一輛測試中的自動駕駛汽車以69公里時速撞死橫穿馬路的婦女，這是世界首例L4車輛因車禍致人死亡事件。智能音箱給出危險回答案例2019年，英格蘭護(hù)理人員向某智能音箱查詢心臟問題，卻得到“用刀捅心臟”等危險回答。人工智能換臉技術(shù)詐騙案例2023年，包頭警方發(fā)布案例，福州市某公司法人代表被利用人工智能換臉技術(shù)的好友詐騙430萬元。利用人工智能非法獲利案例2023年，洪某弟通過ChatGPT修改編輯熱點(diǎn)新聞，上傳至百家號非法獲利。人工智能的廣泛應(yīng)用01醫(yī)療領(lǐng)域的應(yīng)用人工智能在醫(yī)療領(lǐng)域可幫助醫(yī)生輔助診斷，提高診斷效率和準(zhǔn)確性。02金融領(lǐng)域的應(yīng)用在金融領(lǐng)域，用于風(fēng)險投資、欺詐檢測和自動化交易，提升金融服務(wù)效率與安全性。03交通領(lǐng)域的應(yīng)用交通領(lǐng)域中，人工智能帶來自動駕駛，改變出行方式，但也存在不確定性風(fēng)險。04教育領(lǐng)域的應(yīng)用教育領(lǐng)域里，能為學(xué)生進(jìn)行個性化定制，滿足不同學(xué)生學(xué)習(xí)需求。05農(nóng)業(yè)領(lǐng)域的應(yīng)用在農(nóng)業(yè)領(lǐng)域，人工智能實(shí)時監(jiān)控農(nóng)作物，助力農(nóng)業(yè)生產(chǎn)智能化。06應(yīng)用帶來的問題、機(jī)遇和挑戰(zhàn)人工智能廣泛應(yīng)用滲透社會各角落，帶來諸多便利同時，也產(chǎn)生各種問題，面臨機(jī)遇與挑戰(zhàn)。我國人工智能模型存在的技術(shù)問題02缺乏高質(zhì)量的訓(xùn)練數(shù)據(jù)GPT-3模型訓(xùn)練語料中英文占比對比GPT-3模型的訓(xùn)練語料中，英文占比75%，中文僅占3%，其余為西班牙語、法語、德語等其他語種。中英文語料公開數(shù)據(jù)情況差異英文語料的公開數(shù)據(jù)數(shù)量更多、質(zhì)量更高，而高質(zhì)量的中文開源數(shù)據(jù)相對較少，在百科、問答、圖書文獻(xiàn)、學(xué)術(shù)論文、報刊等通用領(lǐng)域中，適用于大模型訓(xùn)練的優(yōu)質(zhì)中文內(nèi)容較為匱乏。國內(nèi)專業(yè)數(shù)據(jù)服務(wù)現(xiàn)狀國內(nèi)的專業(yè)數(shù)據(jù)服務(wù)尚處于起步階段，用于人工智能模型訓(xùn)練的經(jīng)過加工、清洗和標(biāo)注的高質(zhì)量數(shù)據(jù)集仍然稀缺，缺少優(yōu)質(zhì)的訓(xùn)練數(shù)據(jù)已成為國內(nèi)大模型訓(xùn)練的核心痛點(diǎn)。國內(nèi)應(yīng)對中文數(shù)據(jù)不足的努力在2024北京AI原生產(chǎn)業(yè)創(chuàng)新大會暨北京數(shù)據(jù)基礎(chǔ)制度先行區(qū)成果發(fā)布會上，北京國際大數(shù)據(jù)交易所和北京人工智能產(chǎn)業(yè)聯(lián)盟聯(lián)合發(fā)布了人工智能大模型語料庫，中文在線數(shù)據(jù)集被列入首批100個高質(zhì)量訓(xùn)練數(shù)據(jù)集之一。缺少充足的智能算力支撐算力對人工智能模型訓(xùn)練的重要性隨著人工智能算法的快速進(jìn)步，越來越多的模型訓(xùn)練需要強(qiáng)大的算力支撐，才能實(shí)現(xiàn)高效且快速的應(yīng)用。算力提升可提高數(shù)據(jù)利用效率，避免算法微調(diào)時出現(xiàn)過擬合，增強(qiáng)模型泛化能力。目前人工智能算力的主要提供方式目前，人工智能所需的算力主要由專用AI硬件芯片和具有超強(qiáng)計算能力的公有云服務(wù)提供。其中，GPU在計算能力、并行處理能力和單機(jī)峰值計算性能上遙遙領(lǐng)先，成為最廣泛使用的芯片，極大地提高了AI計算的效率。我國算力提升的趨勢算力已成為推動新生產(chǎn)力發(fā)展的關(guān)鍵力量，我國的算力提升已是大勢所趨，其發(fā)展正呈現(xiàn)“算力三定律”的趨勢。我國在算力方面面臨的難題-成本高昂大模型訓(xùn)練和運(yùn)營算力成本高昂，訓(xùn)練階段，業(yè)界測算ChatGPT訓(xùn)練成本約為1000萬美元，為研發(fā)擁有部分ChatGPT能力的大模型，至少需要上千張A100訓(xùn)練卡。運(yùn)營階段，ChatGPT云計算成本每日約200萬美元。缺少充足的智能算力支撐我國在算力方面面臨的難題-缺乏工程能力滿足大模型訓(xùn)練的算力需求不僅需要數(shù)量巨大的高性能GPU，更需要面向人工智能高度優(yōu)化的云計算平臺和相應(yīng)的工程能力，而我國缺乏大規(guī)模并行計算工程能力。我國在算力方面面臨的難題-采購與國產(chǎn)算力問題采購國外先進(jìn)GPU受限，國產(chǎn)算力尚未成熟到支撐大模型研發(fā)。國產(chǎn)智能芯片不僅在算力、帶寬等性能上同英偉達(dá)A100、H100芯片有差距（這兩款都在美方對華禁售之列），支持自然語言處理和大模型訓(xùn)練的算子庫也不夠成熟，國產(chǎn)自主創(chuàng)新仍有軟硬適配等技術(shù)問題尚待持續(xù)優(yōu)化與解決。我國在算力方面面臨的難題-市場“碎片化”人工智能算力市場和服務(wù)市場“碎片化”加劇，全國多地主導(dǎo)建設(shè)近百個智算中心，形成一個個孤立破碎的人工智能算力和服務(wù)小市場，資源整合變得更加困難，增加了決策成本和難度，消解了中國大市場優(yōu)勢。缺少適合大模型研發(fā)特點(diǎn)的機(jī)制人工智能大模型的特點(diǎn)人工智能大模型具有長周期、重投入、高風(fēng)險等特點(diǎn)。國內(nèi)企業(yè)、高校研發(fā)情況國內(nèi)企業(yè)、高校在“大模型”“大數(shù)據(jù)”“大算力”等方面各有側(cè)重，研發(fā)力量分散，資源缺乏整合，沒有與OpenAI技術(shù)實(shí)力對標(biāo)的企業(yè)。企業(yè)面臨的盈利壓力企業(yè)受盈利壓力很難長期維持高投入，難以持續(xù)支撐大模型研發(fā)。政府項目的支持情況政府項目的支持力度與所需投入相比仍顯乏力，且決策周期長，不利于大模型研發(fā)的快速推進(jìn)。人機(jī)關(guān)系探討03人機(jī)關(guān)系的準(zhǔn)則發(fā)展01阿西莫夫的“機(jī)器人三大定律”美國科幻作家阿西莫夫提出“機(jī)器人三大定律”，即機(jī)器人不得傷害人類；機(jī)器人必須服從人類的命令；在不違反前兩條的前提下，機(jī)器人需保護(hù)自身不受傷害。02“人工智能的阿西洛馬23條準(zhǔn)則”2017年，一群人工智能領(lǐng)域的專家和領(lǐng)袖在“機(jī)器人三大定律”基礎(chǔ)上，提出“人工智能的阿西洛馬23條準(zhǔn)則”，進(jìn)一步規(guī)范AI的設(shè)計和使用。03準(zhǔn)則對規(guī)范AI設(shè)計和使用的作用這些準(zhǔn)則為AI的設(shè)計和使用提供了重要規(guī)范，有助于引導(dǎo)人工智能朝著符合人類價值觀和利益的方向發(fā)展，保障人類在與AI交互中的安全與權(quán)益。人類“消亡”的兩種情況不符合人類意愿的“消亡”第一種人類“消亡”情況不符合人類意愿，人工智能迭代創(chuàng)造新的人工智能，智能化高且迭代時間短，但因算力、模型不足，人類的無能成為迭代屏障，可能導(dǎo)致人類被暴力消滅。符合人類意愿的“消亡”第二種人類“消亡”可能符合人類意愿，人工智能代替人類參與社會運(yùn)作，人類交出對社會運(yùn)作的決策，進(jìn)入安逸陷阱，逐漸喪失活力、開拓精神和斗志。人機(jī)共存的可能性與意義人工智能在各領(lǐng)域的作用在零售、醫(yī)療、制造等領(lǐng)域，人工智能可大大降低成本，或帶來更高回報，節(jié)省更多時間。例如在醫(yī)療領(lǐng)域輔助診斷，提高診斷效率。人類利用節(jié)省時間創(chuàng)造價值人類可利用人工智能節(jié)省的時間，去創(chuàng)造更多價值，如豐富學(xué)識、提高創(chuàng)新能力，強(qiáng)化智能機(jī)器，讓機(jī)器更好、更快地完成工作。人機(jī)和諧共存的意義人機(jī)應(yīng)和諧共處，將人工智能看作合作伙伴，共同推動社會發(fā)展，實(shí)現(xiàn)互利共贏，為人類創(chuàng)造更美好的未來。人工智能暗箱現(xiàn)象04暗箱現(xiàn)象的定義與表現(xiàn)暗箱現(xiàn)象的定義人工智能暗箱現(xiàn)象指輸入的數(shù)據(jù)和輸出的結(jié)果之間存在不可觀察的空間，人工智能系統(tǒng)的內(nèi)部工作方式對用戶不可見。以智能攝像頭為例的表現(xiàn)智能攝像頭配備AI算法識別目標(biāo)、分析行為或監(jiān)控操作，但其內(nèi)部AI處理過程對外部觀察者通常不可見。以自動駕駛汽車為例的表現(xiàn)自動駕駛汽車運(yùn)行依賴復(fù)雜AI系統(tǒng)感知環(huán)境、決策并操作，涉及大量傳感器數(shù)據(jù)等，對普通乘客或外部觀察者不透明。暗箱現(xiàn)象的負(fù)面影響信任度下降暗箱現(xiàn)象導(dǎo)致用戶對人工智能系統(tǒng)信任度下降，尤其在高風(fēng)險決策和敏感領(lǐng)域，用戶難理解模型決策過程。限制可用性由于難以理解模型決策，限制了模型的可用性，用戶和開發(fā)者難以確定模型是否可靠。限制可維護(hù)性當(dāng)模型出現(xiàn)錯誤時，因暗箱現(xiàn)象很難有效調(diào)試和改進(jìn)，限制了模型的可維護(hù)性。法律層面爭議暗箱現(xiàn)象在引起利益沖突時，難以確定錯誤根源或責(zé)任歸屬，可能在法律層面引發(fā)爭議，造成不公平結(jié)果。我國人工智能發(fā)展情況05國家重視與政策推動習(xí)近平主席對人工智能發(fā)展的指示習(xí)近平主席向2024世界智能產(chǎn)業(yè)博覽會致賀信時指出，人工智能是新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力量，將對全球經(jīng)濟(jì)社會發(fā)展和人類文明進(jìn)步產(chǎn)生深遠(yuǎn)影響。推動人工智能與實(shí)體經(jīng)濟(jì)融合我國高度重視人工智能發(fā)展，積極推動互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能和實(shí)體經(jīng)濟(jì)深度融合，為高質(zhì)量發(fā)展提供新動能。培育壯大智能產(chǎn)業(yè)與新質(zhì)生產(chǎn)力通過推動融合，培育壯大智能產(chǎn)業(yè)，加快發(fā)展新質(zhì)生產(chǎn)力，助力經(jīng)濟(jì)發(fā)展邁向新臺階。產(chǎn)業(yè)發(fā)展成果2017-2023年人工智能產(chǎn)業(yè)政策舉措2017年國務(wù)院首次印發(fā)《新一代人工智能發(fā)展規(guī)劃》；2018年明確提出促進(jìn)人工智能“同經(jīng)濟(jì)社會發(fā)展深度融合”；2020年正式發(fā)布《國家新一代人工智能標(biāo)準(zhǔn)體系建設(shè)指南》，還制定支持?jǐn)?shù)字經(jīng)濟(jì)高質(zhì)量發(fā)展政策，將開展“人工智能+”行動寫入今年政府工作報告。產(chǎn)業(yè)規(guī)模增長2020年，我國人工智能產(chǎn)業(yè)規(guī)模3031億元；到2023年底，核心產(chǎn)業(yè)規(guī)模已近5800億元，產(chǎn)業(yè)規(guī)模實(shí)現(xiàn)大幅增長。算力總規(guī)模與企業(yè)數(shù)量目前，我國算力總規(guī)模位居全球第二，人工智能企業(yè)數(shù)量超4400家，展現(xiàn)出強(qiáng)大的產(chǎn)業(yè)實(shí)力。賦能千行百業(yè)在智能制造領(lǐng)域的賦能在智能制造領(lǐng)域，人工智能推動傳統(tǒng)汽車行業(yè)分化出智能網(wǎng)聯(lián)汽車新賽道，聰明的車、智慧的路、可靠的云助力產(chǎn)業(yè)發(fā)展，產(chǎn)業(yè)規(guī)?？蛇_(dá)萬億級。在文化領(lǐng)域的賦能在文化領(lǐng)域，元宇宙虛擬技術(shù)、虛擬預(yù)演等新技術(shù)在影視制作中屢見不鮮，文生視頻等大模型讓普通人也能體會電影創(chuàng)作樂趣，催生新業(yè)態(tài)、新場景。對生產(chǎn)生活方式的改變?nèi)斯ぶ悄芡ㄟ^在各領(lǐng)域的應(yīng)用，深刻改變著我們的生產(chǎn)生活方式，為經(jīng)濟(jì)社會發(fā)展注入新動能。國際交流與合作2024世界人工智能大會概況2024世界人工智能大會暨人工智能全球治理高級別會議于7月4日-6日在上海舉行，約500家企業(yè)攜1500多項展品參會。創(chuàng)新成果展示與會各方聚焦大模型、算力、機(jī)器人、自動駕駛等重點(diǎn)領(lǐng)域進(jìn)行創(chuàng)新成果展示，推動行業(yè)技術(shù)交流與發(fā)展。話題討論與宣言發(fā)表會議就智能向善、安全治理等話題進(jìn)行討論，并發(fā)表《人工智能全球治理上海宣言》，強(qiáng)調(diào)我國在人工智能領(lǐng)域積極開展國際交流與合作。人工智能不確定性的應(yīng)對思考06技術(shù)層面的應(yīng)對策略解決數(shù)據(jù)問題的策略面對高質(zhì)量訓(xùn)練數(shù)據(jù)缺乏問題，一方面要加強(qiáng)數(shù)據(jù)共享，推動國內(nèi)多方主體合力攻關(guān)，如北京國際大數(shù)據(jù)交易所和北京人工智能產(chǎn)業(yè)聯(lián)盟聯(lián)合發(fā)布人工智能大模型語料庫。另一方面，要大力發(fā)展專業(yè)數(shù)據(jù)服務(wù)，對數(shù)據(jù)進(jìn)行加工、清洗和標(biāo)注，以豐富優(yōu)質(zhì)數(shù)據(jù)集。提升算力的策略針對算力難題，需降低大模型訓(xùn)練和運(yùn)營算力成本，例如探索更高效的訓(xùn)練算法。同時，加強(qiáng)大規(guī)模并行計算工程能力建設(shè)，推動國產(chǎn)算力成熟，打破國外GPU采購限制，整合碎片化的算力和服務(wù)市場，提升整體算力水平。優(yōu)化研發(fā)機(jī)制的策略鑒于大模型研發(fā)特點(diǎn)，要整合企業(yè)、高校等研發(fā)力量，集中資源。政府加大項目支持力度，縮短決策周期，減輕企業(yè)盈利壓力，使其能長期維持高投入，形成與OpenAI對標(biāo)實(shí)力。人機(jī)關(guān)系的合理構(gòu)建避免人類“暴力消亡”為防止人工智能因算力、模型等問題迭代受限，進(jìn)而對人類產(chǎn)生不符合意愿的暴力消滅，人類需積極提升自身科技能力，為人工智能發(fā)展提供更好支持，避免成為其迭代屏障。規(guī)避安逸陷阱針對人類可能因人工智能代替社會運(yùn)作決策而進(jìn)入安逸陷阱，應(yīng)強(qiáng)化教育，培養(yǎng)開拓精神和斗志，鼓勵人類積極參與社會運(yùn)作，不依賴人工智能，保持自身活力。促進(jìn)人機(jī)和諧共存認(rèn)識到人工智能在零售、醫(yī)療、制造等領(lǐng)域可降低成本、節(jié)省時間，人類應(yīng)將其視為合作伙伴，利用節(jié)省時間提升自身，強(qiáng)化智能機(jī)器，實(shí)現(xiàn)人機(jī)和諧共處。暗箱現(xiàn)象的解決途徑提高模型透明度對于人工智能暗箱現(xiàn)象，可通過開發(fā)可視化工具，讓用戶能直觀了解模型內(nèi)部工作方式，如智能攝像頭和自動駕駛汽車的AI處理過程，從而提高模型透明度。增強(qiáng)模型可解釋性采用可解釋的人工智能算法，使模型決策邏輯更易理解，當(dāng)出現(xiàn)錯誤時便于調(diào)試和改進(jìn)，在高風(fēng)險決策和敏感領(lǐng)域增強(qiáng)用戶信任度。明確責(zé)任歸屬建立相關(guān)法律和監(jiān)管機(jī)制，在引起利益沖突時，能夠清晰確定錯誤根源和責(zé)任歸屬，避免法律層面爭議，確保公平結(jié)果。發(fā)展帶來的機(jī)遇提高效率在醫(yī)療領(lǐng)域，人工智能憑借強(qiáng)大的圖像識別和分析能力，能迅速從海量醫(yī)學(xué)影像中捕捉關(guān)鍵病灶信息，極大提高診斷效率；在制造業(yè)，強(qiáng)人工智能可實(shí)現(xiàn)設(shè)備自我監(jiān)控、預(yù)測性維護(hù)和流程優(yōu)化，減少資源浪費(fèi)和停工時間，提升生產(chǎn)效率。降低成本在金融領(lǐng)域，強(qiáng)人工智能通過大數(shù)據(jù)分析、機(jī)器學(xué)習(xí)等技術(shù)處理海量數(shù)據(jù)，提供精準(zhǔn)金融服務(wù)，降低人力成本；在零售、醫(yī)療、制造等行業(yè)，AI的應(yīng)用可降低運(yùn)營成本，例如富士康深圳的關(guān)燈工廠采用全自動化制造流程，人力節(jié)省88%，提升效益2.5倍。創(chuàng)造新業(yè)態(tài)在文化領(lǐng)域，元宇宙虛擬技術(shù)、虛擬預(yù)演等新技術(shù)在影視制作中屢見不鮮，文生視頻等大模型讓普通人也能體驗電影創(chuàng)作樂趣；在智能制造領(lǐng)域，智能網(wǎng)聯(lián)汽車作為傳統(tǒng)汽車行業(yè)分化出的新賽道，產(chǎn)業(yè)規(guī)?？蛇_(dá)萬億級。面臨的挑戰(zhàn)不確定性因數(shù)據(jù)不完整、噪聲干擾、模型復(fù)雜性等因素，AI結(jié)果可能不確定或預(yù)測不準(zhǔn)確。如將雪山圖像輸入模型，加入微小噪聲干擾，模型可能將雪山誤識別為狗；2018年美國亞利桑那州Uber自動駕駛汽車撞死橫穿馬路婦女。技術(shù)問題我國人工智能模型存在技術(shù)問題，缺乏高質(zhì)量訓(xùn)練數(shù)據(jù)，如GPT-3模型訓(xùn)練語料中文占比僅3%，國內(nèi)優(yōu)質(zhì)中文開源數(shù)據(jù)匱乏；缺少充足智能算力支撐，大模型訓(xùn)練和運(yùn)營算力成本高昂，采購國外先進(jìn)GPU受限，國產(chǎn)算力不成熟；缺少適合大模型研發(fā)特點(diǎn)的機(jī)制，研發(fā)力量分散，資源缺乏整合。人機(jī)關(guān)系人機(jī)關(guān)系存在人類“消亡”的可能，一是人工智能迭代可能因人類成為算力、模型迭代屏障而暴力消滅人類；二是人類可能因?qū)⑸鐣\(yùn)作決策交予人工智能，進(jìn)入安逸陷阱而喪失活力。當(dāng)然，人機(jī)也可共存，人類利用AI節(jié)省時間創(chuàng)造更多價值，把AI當(dāng)作合作伙伴。技術(shù)突破的可能性高質(zhì)量訓(xùn)練數(shù)據(jù)的突破前景隨著國內(nèi)多方主體合力攻關(guān)，數(shù)據(jù)資源共享和豐富工作持續(xù)推進(jìn)，如北京國際大數(shù)據(jù)交易所和北京人工智能產(chǎn)業(yè)聯(lián)盟聯(lián)合發(fā)布人工智能大模型語料庫，未來有望解決優(yōu)質(zhì)中文數(shù)據(jù)匱乏問題，為大模型訓(xùn)練提供充足“養(yǎng)分”。智能算力支撐的突破方向面對算力難題，我國可能在降低大模型訓(xùn)練和運(yùn)營算力成本、提升大規(guī)模并行計算工程能力、推動國產(chǎn)算力成熟等方面取得突破，順應(yīng)“算力三定律”趨勢，開拓算力創(chuàng)新領(lǐng)域。適合大模型研發(fā)機(jī)制的建立可能未來或許能整合企業(yè)、高校等研發(fā)力量，優(yōu)化資源配置，政府加大支持力度并縮短決策周期，形成對標(biāo)OpenAI的研發(fā)實(shí)力，建立適應(yīng)大模型長周期、重投入、高風(fēng)險特點(diǎn)的研發(fā)機(jī)制。人機(jī)協(xié)作的美好愿景在生產(chǎn)領(lǐng)域的協(xié)作場景在制造行業(yè)，人類憑借創(chuàng)新思維進(jìn)行產(chǎn)品設(shè)計，人工智能利用精準(zhǔn)計算和不知疲