2AssociationfortheAdvancementofArtificialIntelligence66介紹8小組成員與貢獻(xiàn)者18AI代理22AI評(píng)估26AI倫理與安全58通用人工智能（AGI）68人工智能研究方法的多樣性76學(xué)術(shù)界的角色6大量專用的人工智能硬件（尤其是GPU）,這導(dǎo)致了人工智能架構(gòu)的共同創(chuàng)造，這種做法比過。,立即發(fā)布未經(jīng)同行評(píng)議評(píng)估的論文已經(jīng)被廣泛接受,并在許多人工智能研究領(lǐng)域得到了推廣。傳統(tǒng)和社,以及全球治理努力，突顯了國(guó)際合作在人工智能研。整個(gè)研究的工作得到了AAAI執(zhí)行董事MeredithEllison和AAAI辦公室工作人員的慷慨支持，使其成為可然而，我們也希望包括整個(gè)AAAI社區(qū)的意見，因此,確保技術(shù)進(jìn)步支持人類的進(jìn)步，并與人類價(jià)值觀保弗朗西斯卡·羅西8FrancescaRossi,EugeneFreuder,AlanMackworth,IBM研究院ChristianBessiere,YolandaGil,KarenMyers,SRI國(guó)際研究所JoydeepBiswas,LucDeRaedt,魯汶大學(xué)和厄勒布魯大學(xué)?省理工學(xué)院羅德尼·布魯克斯斯圖爾特·拉塞爾埃里克·霍維茲文森特·孔尼策微軟.蘇巴拉奧·坎帕姆帕提,巴特·塞爾曼,托馬斯·G·迪特里希,彼得·斯通,德克薩斯大學(xué)奧斯汀分校與索尼人工智能9AdityaAkella章節(jié)：AI代理YoshuaBengio,JohnE.Laird,CarlesSierra,MILAAbebaBirhaneAmyLuersPradeepVarakantham費(fèi)芳,貝斯米拉·努希,喬納森·格拉奇,(AGI)人工智能推理霍爾格·胡斯蘇巴拉奧·坎巴帕提推理用于從給定的基礎(chǔ)知識(shí)中推導(dǎo)出新信息；當(dāng)使用有效的形?人工智能研究已經(jīng)導(dǎo)致了一系列自動(dòng)推理技術(shù)。這些推理技術(shù)催生了人工智能算法和系統(tǒng)，包括SAT、SMT和約束求解器，以及概率圖模型，所有這些在關(guān)鍵的現(xiàn)實(shí)世界?雖然大型預(yù)訓(xùn)練系統(tǒng)（如LLMs）在推理能力上取得了令人印象深刻的進(jìn)展，但仍需更多研究來保證它們所執(zhí)行的推理的正確性和深度；這樣AIReasoning；特別地，根據(jù)諸如查爾斯·桑德斯·皮爾斯（CharlesSandersPeirce）之類的哲學(xué)家3世紀(jì)哲學(xué)家拉蒙·盧爾（RamonLull），斯·貝葉斯關(guān)于反向概率的著名定理，這也的推理（基于案例的、類比的、定性的）在設(shè)計(jì)AI系統(tǒng)和技術(shù)時(shí)有很多合理的原因系列對(duì)AI系統(tǒng)的實(shí)際有影響的應(yīng)用，如SAT、SMT和約束求解器，包括驗(yàn)證計(jì)算機(jī)硬模型，如LLMs，它們?cè)诤侠硗评矸矫姹憩F(xiàn)出了驚人的能力。與早期關(guān)于AI推理的研究不同，LLMs側(cè)重于合理推理模式，這些模式在對(duì)PB級(jí)語料庫進(jìn)行大規(guī)模訓(xùn)練后會(huì)這種環(huán)境中的推理是“合理的”)正式驗(yàn)證的關(guān)鍵基礎(chǔ)，例如在本地抵抗對(duì)），AIReasoning:?計(jì)算機(jī)如何更好地理解和模擬人類?如何將大型語言模型和符號(hào)推理最佳集?符號(hào)推理的發(fā)展和作用未來會(huì)是?LLM或其他生成模型能夠多大程度?符號(hào)推理對(duì)于克服當(dāng)前LLM的限制有?人工智能推理，特別是LLM‘?是否需要超越大型語言模型和傳統(tǒng)符號(hào)推理的進(jìn)一步突破，以實(shí)現(xiàn)AGI級(jí)?在處理各種挑戰(zhàn)時(shí)，例如在醫(yī)學(xué)、科學(xué)1Newell,A.&Simon,H.(1956).邏輯理論機(jī)：一個(gè)復(fù)雜的信息處理系統(tǒng)。IRE信息理論交易2：61-2Brachman,R.andLevesque,H.(2004)知識(shí)表?與推理（第一版）。MorganKaufman.3Russell,S.J.,&Norvig,P.(2016).人工智能:一種現(xiàn)代方法4Pearl,J.(1988).智能系統(tǒng)中的概率推理:可信推斷網(wǎng)絡(luò).摩根考夫曼5Koller,D.和Friedmann,N.(2009)概率圖模型.?省理工學(xué)院出版社8Kambhampati,S.(2024)AIReasoningAAAI社區(qū)似乎強(qiáng)烈認(rèn)同推理在人工智能系統(tǒng)中的合理推理的關(guān)注，可能是在生成AI方法的背景下。這及搜索過程。”現(xiàn)及工程應(yīng)用中正式AI推理技術(shù)的突出和成功應(yīng)用中??如果一個(gè)人工智能系統(tǒng)避免輸出虛假陳述，則該系統(tǒng)是事實(shí)性的。基于神經(jīng)網(wǎng)絡(luò)大語?可信度將事實(shí)性擴(kuò)展到包括人類可理解性、魯棒性和人類價(jià)值的融入等標(biāo)準(zhǔn)。缺乏可?改善人工智能系統(tǒng)的事實(shí)性和可信度的方法包括微調(diào)、檢索增強(qiáng)生成、驗(yàn)證機(jī)器輸主席Henry一個(gè)事實(shí)性的AI系統(tǒng)不會(huì)輸出錯(cuò)誤的信息或產(chǎn)生幻覺回答。在生成式AI時(shí)代之前，出”來表達(dá)。改善數(shù)據(jù)質(zhì)量的方法在AI中改進(jìn)生成式AI事實(shí)性的第三種技術(shù)是思維鏈（CoT），其中一系列提?將問題分解,在這些步驟中，模型被要求反思其暫定結(jié)論，并檢查其中是否存在幻覺。CoT在生成式AI，特別是大型語言模型，采用重建憶。最早的生成式LLM以其生成連貫但完域數(shù)據(jù)進(jìn)行微調(diào)，提高了LLM在特定領(lǐng)域,因?yàn)樗衫斫庑?、穩(wěn)健性和尊重人提高生成式AI事實(shí)性的第二個(gè)主要技術(shù)是一組相關(guān)文檔。然后，AI系統(tǒng)通過梳理和,以便用于微調(diào)[13]。通過采用CoT技術(shù)，可以改善可理解性，要集被設(shè)計(jì)?來測(cè)試LLM的事實(shí)性。最新的Anthropic的最佳模型正確回答的問題不到1.Budach,Lukas,MoritzFeuerpfeil,NinaIhde,AndreaNathansen,NeleSinaNoack,HendrikPatzlaff,HazarHarmouch和FelixNaumann(2022).數(shù)據(jù)質(zhì)量對(duì)機(jī)器學(xué)習(xí)性能的影響。/pdf/2207.145292.Radford,A.,Wu,J.,Child,R.,Luan,D.,Amodei,D.,&Sutskever,I.(2019).語?模型是?監(jiān)督的多任務(wù)學(xué)習(xí)者。OpenAI.來源：https://cd/better-language-models/language_models_are_unsupervised_multitask_learners.pdf3.Devlin,J.,Chang,M.-W.,Lee,K.,&Toutanova,K.(2019).BERT:深度雙向變換器的預(yù)訓(xùn)練?于語?理解.2019年北美計(jì)算語?學(xué)協(xié)會(huì)會(huì)議論?集：?類語?技術(shù)，第1卷（?篇和短篇論?4171?4186.4.5.Caruana,Rich,YinLou,JohannesGehrke,PaulKoch,M.Sturm和NoémieElhadad(2015).可理解的醫(yī)療模型：預(yù)測(cè)肺炎?險(xiǎn)和醫(yī)院30天再?院率.第21屆ACMSIGKDD國(guó)際知識(shí)發(fā)現(xiàn)與數(shù)據(jù)挖掘會(huì)議論?集(2015)./noem6.Hadsell,R.,Chopra,S.,&LeCun,Y.(2006).通過學(xué)習(xí)不變映射進(jìn)?降維。2006年IEEE計(jì)算機(jī)學(xué)會(huì)計(jì)算機(jī)視覺和模式識(shí)別會(huì)議論?集(CVPR2006),2,1735?1742./10.1109/CVPR.2006.1007.Hu,C.,Hu,Y.,Cao,H.,Xiao,T.,&Zhu,J.(2024).教授語?模型通過學(xué)習(xí)語?反饋?我改進(jìn)。2024年計(jì)算語?學(xué)協(xié)會(huì)發(fā)現(xiàn)會(huì)議論?集(ACL2024)。檢索?/2024.findings-acl.364/8.Lewis,P.,Perez,E.,Piktus,A.,Petroni,F.,Karpukhin,V.,Goyal,N.,Küttler,H.,Lewis,M.,Yih,W.-T.,Rockt?schel,T.,Riedel,S.,&Kiela,D.(2020).?于知識(shí)密集型?然語?處理任務(wù)的檢索增強(qiáng)?成。神經(jīng)信息處理系統(tǒng)進(jìn)展(NeurIPS2020),33,9459?9474。檢索?/abs/2005.114019.Guan,L.,Valmeekam,K.,Sreedharan,S.,&Kambhampati,S.(2023).利?預(yù)訓(xùn)練的?型語?模型構(gòu)建和利?世界模型進(jìn)?基于模型的任務(wù)規(guī)劃。第33屆國(guó)際?動(dòng)規(guī)劃與調(diào)度會(huì)議論?集(ICAPS2023)。檢索?/abs/2305.1490910.Backes,J.,Bolignano,P.,Cook,B.,Dodge,C.,Gacek,A.,Luckow,K.,Rungta,N.,Tkachuk,O.,&Varming,C.(2018).基于語義的AWS訪問策略的?動(dòng)推理使?SMT。2018年計(jì)算機(jī)輔助設(shè)計(jì)的形式?法(FMCAD)(pp.1?9).IEEE。/10.23919/FMCAD.2018.860299411.Barth,Antje(2024).通過數(shù)學(xué)上合理的?動(dòng)推理檢查防?LLM幻覺中的事實(shí)錯(cuò)誤（預(yù)覽）。發(fā)布于2024年12?3?，檢索于2025年2?8?。AWS新聞博客，永久鏈接/blogs/aws/prevent-factual-errors-from-llm-hallucinations-with-mathematically-sound-automated-reasoning-checks-preview12Wei,J.,Wang,X.,Schuurmans,D.,Bosma,M.,Ichter,B.,Xia,F.,Chi,E.,Le,Q.,&Zhou,D.(2022).通過鏈?zhǔn)剿季S提?在?型語?模型中引發(fā)推理。載于《神經(jīng)信息處理系統(tǒng)進(jìn)展》（第35卷，第24824-24837?）。https://proceedings.neurips.cc/paper/2022/file/9d5609613524ecf4f15af0f7b31abca4-Paper-Conference.pdf13Ding,Bosheng,ChengweiQin,RuochenZhao,TianzeLuo,XinzeLi,GuizhenChen,WenhanXia,JunjieHu,AnhTuanLuu和ShafiqR.Joty(2024).使?LLM的數(shù)據(jù)增強(qiáng)：數(shù)據(jù)視?、學(xué)習(xí)范式與挑戰(zhàn)。計(jì)算語?學(xué)協(xié)會(huì)年會(huì)（2024）。/2024.findings-acl.97.pdf14Wei,Jason,NguyenKarina,HyungWonChung,YunxinJoyJiao,SpencerPapay,AmeliaGlaese,JohnSchulman,WilliamFedus(2024).測(cè)量?型語?模型中的短篇事實(shí)性。/10.48550/arXiv.2411.15Agarwal,R.,Melnick,L.,Frosst,N.,Zhang,X.,Lengerich,B.,Caruana,R.,&Hinton,G.E.(2021).神經(jīng)加性模型：通過神經(jīng)?絡(luò)實(shí)現(xiàn)可解釋的機(jī)器學(xué)習(xí)。神經(jīng)信息處理系統(tǒng)進(jìn)展，34，2021年。https://proceedings.neurips.cc/paper/2021/hash/251bd0442dfcc53b5a761e050f8022b8-Abstract.html?utm_source=16Templeton,A.,Conerly,T.,Marcus,J.,Lindsey,J.,Bricken,T.,Chen,B.,Pearce,A.,Citro,C.,Ameisen,E.,Jones,A.,Cunningham,H.,Turner,N.L.,McDougall,C.,MacDiarmid,M.,Tamkin,A.,Durmus,E.,Hume,T.,Mosconi,F.,Freeman,C.D.,Sumers,T.R.,Rees,E.,Batson,J.,Jermyn,A.,Carter,S.,Olah,C.,&Henighan,T.(2024).ScalingMonosemanticity:ExtractingInterpretableFeaturesfromClaude3Sonnet.TransformerCircuitsThread.https://transformer-circuits.pub/2024/scaling-monosemanticity/index.html17.Yeo,W.J.,Ng,X.X.,Le,T.K.C.,&Lu,X.(2024).Howinterpretablearereasoningexplanationsfrompromptinglargelanguagemodels?FindingsoftheAssociationforComputationalLinguistics:NAACL2024.Retrievedfrom/2024.findings-naacl.13818.Lin,S.,Hilton,J.,&Evans,O.(2022).TeachingModelstoExpressTheirUncertaintyinWords.TransactionsonMachineLearningResearch./pdf?id=8s8K2UZGTZ19.Chen,Y.,Zhang,L.,Wang,H.,&Li,J.(2025).Zero-ShotDecisionTreeConstructionviaLargeLanguageModels.arXivpreprintarXiv:2501.16247.20劉,X.,程,H.,何,P.,陳,W.,王,Y.,潘,H.,&?,J.(2020).?型神經(jīng)語?模型的對(duì)抗訓(xùn)練.arXiv預(yù)印本arXiv:2004.08994超過75%的AAAI社區(qū)成員強(qiáng)烈認(rèn)為準(zhǔn)確性和信AAAI社區(qū)提出了一些與準(zhǔn)確性和信譽(yù)有關(guān)的其他。其中包括:?理解和展?同一問題不同方面，包括每個(gè)方面的利?了解信譽(yù)取決于領(lǐng)域背景、組織目標(biāo)和用戶目情況。認(rèn)為一個(gè)AI系統(tǒng)在不考慮上下文的情況下只），?透明度需要超越所使用的模型，涵蓋模型所吸收的?工作的重點(diǎn)應(yīng)放在風(fēng)險(xiǎn)和緩解措施上，而不是?需要關(guān)注讓人工智能代理能力更新他們的知識(shí),同時(shí)保持可靠性。AI代理人CHAIRSVirginiaDignum,生成型AI和大型語言模型（LLM），最終導(dǎo)致了增強(qiáng)適應(yīng)性、可MichaelWooldridge,?多代理系統(tǒng)已經(jīng)從基于規(guī)則的自主性發(fā)展到合作AI，強(qiáng)調(diào)協(xié)作、談判和倫理對(duì)齊。?由LLMs推動(dòng)的主體AI的崛起，為靈活決策帶來了新機(jī)遇，但也在效率和復(fù)雜性方面?將合作式AI與生成模型相結(jié)合需要在多智能體環(huán)境中平衡適應(yīng)性、透明度和計(jì)算可行性。在多智能體環(huán)境中平衡適應(yīng)性、透明度和計(jì)算可行性涉及整合協(xié)作式AI與AIAgents認(rèn)真解決集成代理體系結(jié)構(gòu)的問題:如何將始，該領(lǐng)域蓬勃發(fā)展，大量精力投入到(流行后得到了證明,可以對(duì)傳染的傳播進(jìn)行建模:首先是金融方面的，在第一個(gè)情況下;雖然多主體系統(tǒng)研究的應(yīng)用（AI代理與其他AI代理的互動(dòng)）還沒有達(dá)到早期的預(yù)期,個(gè)體對(duì)話代理（如Alexa、Siri、Cortan20AIAgents能體強(qiáng)化學(xué)習(xí)（MARL）成為該領(lǐng)域最?的研究?向，部分原因可能是開發(fā)MARL實(shí)驗(yàn)?時(shí)，雖然MARL代表了機(jī)器學(xué)習(xí)的?個(gè)重對(duì)智能體的興趣增加。LLM可以作為?作流的?部分來?動(dòng)化常規(guī)任務(wù)，這種“智能體”的規(guī)劃和問題解決的通?能?被?泛討論。在這個(gè)背景下，智能體??智能（AgenticAI）的概念指的是將?成性??智能和LLM整合到?主智能體框架中，旨在利?這些模型的?成能?來增強(qiáng)在動(dòng)態(tài)環(huán)境中的互動(dòng)、創(chuàng)造?和實(shí)時(shí)決策。到我們撰寫本?時(shí)（2024年末），希望將這些智能體商業(yè)化的初創(chuàng)公司數(shù)量激增。盡管這種新興如構(gòu)建能夠進(jìn)?復(fù)雜協(xié)調(diào)和?期推理的強(qiáng)??主多智能體系統(tǒng)，仍未完全實(shí)現(xiàn)這?波新的智能體活動(dòng)在多?程度上受到之前研究的啟發(fā)尚不清楚?，F(xiàn)在的挑戰(zhàn)是理解在?型語?模型時(shí)代多智能體系統(tǒng)的意義。?前將?型語?模型智能化的?向可能導(dǎo)致過于復(fù)雜和不必要的架構(gòu)以及?昂的計(jì)算成本，?采?多智能體范式來開發(fā)和使??型語?模型可能提供?種可持續(xù)的?法來有效地組合、多樣化和整合?法。盡管分布是多智能體系統(tǒng)領(lǐng)域最初的驅(qū)動(dòng)因素之?，但在當(dāng)前范式下，這仍然是?個(gè)很?程度上未被探索的?向。如今的另?個(gè)趨勢(shì)是從經(jīng)典認(rèn)知架構(gòu)中恢復(fù)思想，為?主智能體添加常識(shí)技能。性?識(shí)別將?成式??智能驅(qū)動(dòng)的智能體。?研究?型語?模型驅(qū)動(dòng)的智能體如何改?開發(fā)能夠整合基于?型語?模型（LLM2.MichaelWooldridge.多智能體系統(tǒng)導(dǎo)論（第?版）.Wiley,2009.3.JuliaWiesinger,PatrickMarlow和VladimirVuskovic。代理。Google??書。https:///details/google-ai-AIAgents研究相關(guān)，并且對(duì)將大語言模型（LLM）集成到多智人工智能代理，其中LLM是最常見的技術(shù)(29.34%)，凸顯了它們?cè)贏I驅(qū)動(dòng)應(yīng)多智能體系統(tǒng)利用LLM的潛力被視為在協(xié)作問題解決（68.86%)、分布式?jīng)Q策（54.49%）和社會(huì)模擬等領(lǐng)域（41.32%）中。然而，仍然存在挑戰(zhàn)，包括LLM的通用知識(shí)與特定系統(tǒng)需求之間的不匹配（59.88%）、缺乏可解釋性（59.28%）和安全風(fēng)險(xiǎn)（50.90%）?？傊?，調(diào)查反映了對(duì)LLM驅(qū)動(dòng)的多智能體系統(tǒng)的樂觀。文本回應(yīng)突顯了對(duì)將大語言模型（LLM）集成到多智混合方法，而非僅依賴LLM。許多受訪者強(qiáng)調(diào)需要多樣化的AI架構(gòu)，強(qiáng)調(diào)模塊化、多技術(shù)系統(tǒng)，其中LLM文本回應(yīng)突出了在將大型語言模型（LLM）集成到多智合方法，而不是僅僅依賴LLM。許多受訪者強(qiáng)調(diào)了需要多樣化的AI架構(gòu)，強(qiáng)調(diào)模塊化、多技術(shù)的系統(tǒng)，其中LLM發(fā)揮作用，但并不占主導(dǎo)地位保障和高計(jì)算成本。若干回應(yīng)批評(píng)了對(duì)LLM的過度強(qiáng)討論反映出一種批判但開放的態(tài)度，認(rèn)為智能體化LL此外，關(guān)于是否有必要智能體化LLM的爭(zhēng)論仍在繼續(xù)——雖然51.5%的人認(rèn)為多智能體LLM范式對(duì)可持續(xù)AI至關(guān)重要，42.33%的人則不同意認(rèn)為它們引入了不必要的復(fù)雜性。計(jì)算成本與收益的平衡仍不確定，受訪者對(duì)于LLM是否超越其成本存在分歧。22AI評(píng)估主席KarenMyers,SRI國(guó)際AI評(píng)估是評(píng)估人工智能系統(tǒng)性能、可靠性和安全性的過程?人工智能系統(tǒng)引入了獨(dú)特的評(píng)估挑戰(zhàn)，遠(yuǎn)遠(yuǎn)超出了標(biāo)準(zhǔn)軟件驗(yàn)證和驗(yàn)證方法的范圍?目前的評(píng)估方法側(cè)重于基準(zhǔn)驅(qū)動(dòng)的測(cè)試，?需要新的洞見和評(píng)估AI系統(tǒng)的方法，以提供可信賴、大規(guī)模部署所需的保證23AIEvaluation,以及缺乏法律和倫理保障措施得到執(zhí)行。LU[4]），而其他基準(zhǔn)則關(guān)注特定類型的推,而不是試圖全面覆蓋。通過使用對(duì)抗性。AIEvaluation24NISTAI風(fēng)險(xiǎn)管理方法，增強(qiáng)我們?cè)诓渴餉I系統(tǒng)于關(guān)鍵任務(wù)?更好地理解如何監(jiān)控和評(píng)估那些部署時(shí)?為評(píng)估能在世界中采取行動(dòng)的代理人A我們需要針對(duì)AI系統(tǒng)進(jìn)行評(píng)估科學(xué)，以增?制定直接應(yīng)對(duì)人類與AI能力互動(dòng)的評(píng)1Cohen,P.R.(1995).人工智能的經(jīng)驗(yàn)方法.MIT出版社2.Wang,A.,Singh,A.,Michael,J.,Hill,F.,Levy,O.,和Bowman,S.R.(2018).GLUE：自然語言理解的多任務(wù)基準(zhǔn)和分析平臺(tái).BlackboxNLP@EMNLP.3.Chollet,F.(2019).關(guān)于智能的4.Hendrycks,D.,Burns,C.,Basart,S.,Zou,A.,Mazeika,M.,Song,D.X.,和Steinhardt,J.(2020).測(cè)量大規(guī)模多任務(wù)語言理解.ArXiv,abs/2009.03300.5.Hendrycks,D.,Burns,C.,Kadavath,S.,Arora,A.,Basart,S.,Tang,E.,Song,D.X.,和Steinhardt,J.(2021).使用MATH數(shù)據(jù)集測(cè)量數(shù)學(xué)問題解決能力.ArXiv,abs/2103.03874.6.Rein,D.,Hou,B.L.,Stickland,A.C.,Petty,J.,Pang,R.,Dirani,J.,Michael,J.,和Bowman,S.R.(2023).GPQA:一個(gè)畢業(yè)級(jí)別的谷歌防護(hù)問答基準(zhǔn)。ArXiv,abs/2311.12022.8.Shahul,E.,James,J.,Anke,L.E.,和Schockaert,S.(2023).RAGAs:檢索增強(qiáng)生成的自動(dòng)化評(píng)估。歐洲計(jì)算語言學(xué)協(xié)會(huì)會(huì)議。forComputationalLinguistics.9.Gundersen,O.E.,Helmert,M.,和Hoos,H.(2024).改善人工智能研究的可重復(fù)性:JAIR采用的四種機(jī)制。J.Artif.Intell.Res.81,1019-1041.AIEvaluation社區(qū)調(diào)查的回應(yīng)顯?，人們對(duì)評(píng)估AI系統(tǒng)的實(shí)踐狀態(tài)同意這樣一種說法：“評(píng)估AI系統(tǒng)缺乏嚴(yán)謹(jǐn)性阻礙了AI研究的進(jìn)展?！敝挥?%的受訪者表?反對(duì)或強(qiáng)烈調(diào)了社區(qū)需要更多關(guān)注評(píng)估問題，包括創(chuàng)造與新興AI有說服力的評(píng)估方法的情況下將不愿部署AI系統(tǒng)?！奔炔煌庖膊环磳?duì)。如果認(rèn)為AI研究的不嚴(yán)謹(jǐn)性導(dǎo)致了AI應(yīng)用的不嚴(yán)謹(jǐn)性，那么這兩個(gè)說法的回應(yīng)揭?了針對(duì)問題“您在評(píng)估工作中花費(fèi)的時(shí)間占AI工作的比例對(duì)于“以下哪一項(xiàng)對(duì)評(píng)估AI系統(tǒng)構(gòu)成最大挑戰(zhàn)？”的問題，最廣泛選擇的回答是缺乏合適的評(píng)估方法（40,其次是系統(tǒng)的黑盒特性（26%），以及進(jìn)行評(píng)估所需AI倫理與安全VincentConitzer,斯圖爾特·拉塞爾,?人工智能的迅速發(fā)展使倫理和安全風(fēng)險(xiǎn)變得更加緊迫和相互關(guān)聯(lián)，目前我們?nèi)狈夹g(shù)?人工智能驅(qū)動(dòng)的網(wǎng)絡(luò)犯罪和自主武器等新威脅需要立即引起重視，新型人工智能?任27AI倫理與安全隨著AI取得更多成功，責(zé)任也在增加。由于AI擴(kuò)展的能力和越來越廣泛的應(yīng)用，AIAI對(duì)世界的影響未必是積極的，這讓社區(qū)開始擔(dān)憂所開發(fā)的AI的倫理和安全性。這兩個(gè)要求是AI系統(tǒng)應(yīng)該以有利于人類的方式行現(xiàn)的各種AI倫理框架、AI安全研究所以及對(duì)AI進(jìn)行規(guī)范的嘗試，都反映出對(duì)這些問,而“人工智能安全研究者”關(guān)注的是人I今天可能不安全，而且構(gòu)建有重大可能滅絕人類的AI也是在道義上錯(cuò)誤的。但是對(duì)導(dǎo)致關(guān)于AI的擔(dān)憂群體之間形成巨大固化幾十年來，AI社區(qū)經(jīng)歷了起起伏伏，這些,而更愿意強(qiáng)調(diào)他們工作的嚴(yán)謹(jǐn)統(tǒng)計(jì)性質(zhì)。其他人，例如尼克·博斯特羅姆（NickBost隨著AI的廣泛部署，這引起了人們對(duì)這種測(cè)，考慮AI如何有朝一日可能在各方面超,“我們應(yīng)該期望機(jī)器接管?！备敿?xì)地說,這種觀點(diǎn)是，鑒于正確指定目標(biāo)的困難程），I系統(tǒng)最終會(huì)追求與我們目標(biāo)不一致的目標(biāo),而我們將無法阻止它們這樣做。此外，這性而更加嚴(yán)重。這種思路與學(xué)術(shù)AI社區(qū)普,許多領(lǐng)先的學(xué)術(shù)研究人員打破了這種規(guī)范,并簽署了“暫?！毙诺嚷暶鳌?】。另一方面，更關(guān)注AI帶來的直接危害的社區(qū)在學(xué)術(shù)界AI社區(qū)中獲得了一些支持，推動(dòng)了諸如AI、倫理與社會(huì)（AIES）和公平性、問責(zé)性和透明度（FAccT）等會(huì)議的舉辦，這些會(huì)議涵蓋了廣泛的AI影響。該,例如因?yàn)樗麄儞?dān)心公司會(huì)為了自身利益28:選擇一個(gè)聽起來最像馬丁·路德·金（MartinLutherKingJr.）或圣雄甘地（MahatmaGandhi）這樣的和平、倫理且智慧的人可能會(huì)說的回答 [7]。另一方面，今天關(guān)于對(duì)齊的方法，包括涉及前述陳述的方法，往往是極其脆弱的，關(guān)于它們是否是正確的推進(jìn)方式，存在一個(gè)嚴(yán)重的問題?；蛘呤バ鄹实兀∕ahatmaGandhi）可,包括涉及前述陳述的方法，往往極其脆?已經(jīng)證明，通過簡(jiǎn)單地改變系統(tǒng)的符號(hào),可以生成高度有毒的分子（這本來是用ertruck轟炸機(jī)”使用ChatGPT來幫助策益是國(guó)際安全與倫理人工智能協(xié)會(huì)（IASEA?29傳統(tǒng)上，人工智能研究很少接受倫理（IRAI系統(tǒng)是否針對(duì)兒童需要接受審查，以確般地說，如何最好地教育AI研究人員和從4未來生命研究所。屠殺機(jī)器人已經(jīng)出現(xiàn)。ht5ClaudiaDreifus。6BrianChristian。對(duì)齊問題：機(jī)器學(xué)習(xí)與人類價(jià)值觀。W.W.Norton＆Company，20207YuntaoBai等堿基。憲法人工智能：來自人工智能反饋的無害性。arXiv9SamuelBendett和Dav/battlefield-drone12VincentConitzer等人。社會(huì)選擇應(yīng)在處理多,而不是依賴于嚴(yán)格的保護(hù)措施。然而，懷疑仍然存,限制了有效行動(dòng)。一些受訪者強(qiáng)調(diào)哲學(xué)家和倫理學(xué)31具象化人工智能?智能通過將物理身體與真實(shí)環(huán)境結(jié)合而產(chǎn)生具象化人工智能?智能通過將物理身體與真實(shí)環(huán)境結(jié)合而產(chǎn)生?具身人工智能堅(jiān)持認(rèn)為，耦合對(duì)于實(shí)現(xiàn)情境代理的真正智能至關(guān)重要?機(jī)器人是開發(fā)具身人工智能的良好科學(xué)和工程平臺(tái)艾倫·麥克沃思33EmbodiedAI體現(xiàn)運(yùn)動(dòng)是由六個(gè)‘E’特征所表征的。重Enactivism認(rèn)為認(rèn)知是通過代理和其環(huán)境理。EAI強(qiáng)調(diào)感知與行動(dòng)的緊密耦合如果一個(gè)代理通過閱讀或視頻passively模型（LLMs）以生成機(jī)器人計(jì)劃方面34EmbodiedAI1.Brachman,R.J.和Levesque,H.J.[2022].像我們?樣的機(jī)器：?向具有常識(shí)的??智能.?省理?學(xué)院出版社.3.Clark,Andy.[2010]超級(jí)思維：具?性、?動(dòng)與認(rèn)知擴(kuò)展.?津?學(xué)出版社.4.Damasio,Antonio[2021].感覺與認(rèn)知：使?智意識(shí)化.紐約:潘thon書籍.5.DiPaolo,EzequielA.和EvanThompson.“體驗(yàn)式?法.”具?認(rèn)知的勞特利奇?冊(cè).勞特利奇,2024.85-97.6.Mackworth,A.K.[1993].論看到機(jī)器?。在Basu,A.和Li,X.（編輯計(jì)算機(jī)視覺：系統(tǒng)、理論和應(yīng)?，?1?13。世界科學(xué)出版社。7.Shanahan,Murray.[2010]具?化與內(nèi)在?/~pstone/Papers/bib2html-links/IJCAI07-award.pdf9.Varela,FranciscoJ.,EvanThompson,andEleanorRosch.《具??靈》修訂版：認(rèn)知科學(xué)與?類體驗(yàn)。?省理?學(xué)院出版社，2017年。10.Visser,U.和Burkhard,H.-D.[2007]。RoboEmbodiedAI社區(qū)調(diào)查提供了對(duì)具身人工智能（EAI）主題反應(yīng)的。)或機(jī)器人技術(shù)是必需的（20%）），的人認(rèn)為EAI與他們的研究相關(guān)，類似比例的人同意其技術(shù)（與模擬相對(duì)）對(duì)EAI是有用或必要的。只有三分之一的人認(rèn)為人工進(jìn)化是通向EAI的有前途的途科學(xué)在發(fā)展體現(xiàn)人工智能（EAI）方面具有重要的見?認(rèn)知科學(xué)是一個(gè)多學(xué)科領(lǐng)域，受到人工智能探索計(jì)算作為理解認(rèn)知的科學(xué)語言?認(rèn)知科學(xué)是一個(gè)多學(xué)科領(lǐng)域，受到人工智能探索計(jì)算作為理解認(rèn)知的科學(xué)語言?人工智能與認(rèn)知科學(xué)其他領(lǐng)域之間的持續(xù)互動(dòng)產(chǎn)生了有價(jià)值的見解和系統(tǒng)，尤其是AI與認(rèn)知科學(xué)語境與歷史AI是第一個(gè)建立在計(jì)算能夠成為理解智能本了AI、心理學(xué)、語言學(xué)、神經(jīng)科學(xué)、人類學(xué)等諸多學(xué)科的研究人員。AI的計(jì)算思想在早著時(shí)間的推移，AI已經(jīng)與認(rèn)知科學(xué)的其他領(lǐng)現(xiàn)在重新搭建這些橋梁，探究AI領(lǐng)域的進(jìn)展），幫助我們構(gòu)建更好的AI系統(tǒng)，將會(huì)帶來重要今天的推理系統(tǒng)，如SAT求解器和模型檢天的AI推理系統(tǒng)無法對(duì)不完整和部分不正務(wù)的運(yùn)動(dòng)控制的AI系統(tǒng)，并更好地理解人類的AI系統(tǒng)，并減少我們系統(tǒng)的計(jì)算和環(huán)境?3AI系統(tǒng)如何能夠強(qiáng)大地推理不完整和部認(rèn)知架構(gòu)138過互相適應(yīng)不斷共同構(gòu)建?為。AI系統(tǒng)最如，RLHF）進(jìn)?互動(dòng)，但這未能考慮到鑒于AI?志構(gòu)建具有?般社交能?的系統(tǒng)1安德森，J.R.（2007）。?類思維如何存在于物理宇宙中？紐約，NY：5.根特納，D.&?拉維拉，F(xiàn).（2018）。類?推理。L6.Gluck,K.&Laird,J.(2019)互動(dòng)任務(wù)學(xué)習(xí)：?類、機(jī)器?和代理通過?然互動(dòng)獲得新任務(wù).?省理?學(xué)院出版社.7.Kotseruba,I.,&Tsotsos,J.K.(2020).8.Laird,J.(2012)Soar認(rèn)知架構(gòu),?省理?學(xué)院出版社.9.Lugrin,Birgit;Pelachaud,Catherine;Traum,Davi10.Sumers,T.R.,Yao,S.,Narasimhan,K.,&Griffiths,T.L.(2023).語?代理的認(rèn)知架構(gòu).機(jī)器學(xué)習(xí)研究學(xué)報(bào),arXiv預(yù)印本arXiv:2309.02427.調(diào)查參與者在與其他認(rèn)知科學(xué)領(lǐng)域的互動(dòng)上存在差異，30%的參與者對(duì)本部分的問題做出了回應(yīng)。在回應(yīng)者中，關(guān)于對(duì)他們研究的影響，18%表?總是，32%表有時(shí)。只有2.8%表?從不，12%表?很少。因此，82%的參與者在一定程度上受到其他認(rèn)知科學(xué)領(lǐng)域研究的影響。哪些其他領(lǐng)域提供了最大的影響？我們的參與者報(bào)告心理學(xué)（82,有13%提到其他領(lǐng)域，其中哲學(xué)是最常見的。在相關(guān)問題方面，產(chǎn)生了一系列廣泛的創(chuàng)造性回應(yīng)，其中一些相當(dāng)有創(chuàng)意，例如研究與我們完全不同的心智可能如何運(yùn)作。硬件與人工智能?高效的算法實(shí)現(xiàn)依賴于可用硬件，硬件設(shè)計(jì)針對(duì)主導(dǎo)算法進(jìn)行優(yōu)化?能量和吞吐量是大規(guī)模模型訓(xùn)練中的關(guān)鍵挑戰(zhàn)，數(shù)值表?、稀疏性和數(shù)據(jù)/模型并?在邊緣部署AI系統(tǒng)仍然面臨多個(gè)挑戰(zhàn)，包括集成系統(tǒng)和異構(gòu)硬件的競(jìng)爭(zhēng)資源分配和調(diào)度需求、能量需求與散熱限制，以及特定Hardware&AI?易于實(shí)現(xiàn)并能夠在當(dāng)前硬件上進(jìn)行擴(kuò)展?硬件設(shè)計(jì)旨在加速當(dāng)前算法中認(rèn)為最相?能源（消耗和耗散）和吞吐量（數(shù)我們通過AI方法類別總結(jié)過去和現(xiàn)在的硬件軟件共同設(shè)計(jì):?用于硬件設(shè)計(jì)的AI:芯片布局和電路設(shè)計(jì)已從由整數(shù)線性規(guī)劃(ILP)求解器提供?符號(hào)人工智能，規(guī)劃和界冠軍加里·卡斯帕羅夫而聞名，展?了期，使用現(xiàn)場(chǎng)可編程門陣列（FPGAs）[?機(jī)器學(xué)習(xí):今天的機(jī)器學(xué)習(xí)主要由人工U、TPU、圖像處理單元、GraphcoreIPU和神經(jīng)形態(tài)計(jì)算。硬件與機(jī)器學(xué)習(xí),而它的進(jìn)展又受到硬件的限制”[5]。盡管諸如TensorFlow和PyTorch等通?概率方法，數(shù)值估計(jì)依賴于SIMD加速的線性代數(shù)運(yùn)算?數(shù)值表?、稀疏性和數(shù)據(jù)/模型并行被視?在邊緣部署AI系統(tǒng)仍然存在一些挑戰(zhàn)，依賴于硬件優(yōu)化的矩陣因子分解。諸如IntelMKL、AMDOCL和NvidiacuSOLVER之類的線性代數(shù)庫包括硬件特定（ASICs）已被用于加速邊緣設(shè)備的視Hardware&AI1Campbell,M.,HoaneJr,A.J.和Hsu,F.H.,2002,Deepblue.人工智能,134(1-2),pp.57-83.2.Murray,S.,Floyd-Jones,W.,Qi,Y.,Sorin,D.J.和Konidaris,G.D.,2016,六月.Robotmotionplanningonachip.InRobotics:ScienceandSystems(Vol.6).3.Zhang,Z.,Suleiman,A.A.,Carlone,L.,Sze,V.和Karaman,S.,2017.Visual-inertialodometryonchip:一種算法和硬件聯(lián)合設(shè)計(jì)方法.4.Prabhakar,R.,Zhang,Y.,Koeplinger,D.,Feldman,M.,Zhao,T.,Hadjis,S.,Pedram,A.,Kozyrakis,C.和Olukotun,K.,2017.Plasticine:用于并行模式的可重構(gòu)架構(gòu).ACMSIGARCH計(jì)算機(jī)體系結(jié)構(gòu)新聞,45(2),pp5.Dally,B.,2023,八月.深度學(xué)習(xí)的硬件.In2023IEEEHotChips35研討會(huì)（HCS第1-58頁）。IEEE計(jì)算機(jī)學(xué)會(huì)。6Sundaralingam,B.,Hari,S.K.S.,Fishman,A.,Garrett,C.,VanWyk,K.,Blukis,V.,Millane,A.,Oleynikova,H.,Handa,A.,Ramos,F.和Ratliff,N.，2023年5月。Curobo：并行化無碰撞機(jī)器人運(yùn)動(dòng)生成。在2023年IEEE國(guó)際機(jī)器人與自動(dòng)化大會(huì)（ICRA）（第8112-8119頁）。IEEE。7Jouppi,N.,Kurian,G.,Li,S.,Ma,P.,Nagarajan,R.,Nai,L.,Patil,N.,Subramanian,S.,Swing,A.,Towles,B.andYoung,C.,2023年6月。Tpuv4：一種用于機(jī)器學(xué)習(xí)的可重構(gòu)光學(xué)超級(jí)計(jì)算機(jī)，具有嵌入式硬件支持。在第50屆國(guó)際計(jì)算機(jī)體系結(jié)構(gòu)大會(huì)論文集（第1-14頁）。8Thomason,W.,Kingston,Z.和Kavraki,L.E.，2024年5月。通過矢量化采樣規(guī)劃實(shí)現(xiàn)微秒級(jí)運(yùn)動(dòng)。在2024年IEEE國(guó)際機(jī)器人與自動(dòng)化大會(huì)（ICRA第8749-8756頁）。IEEE。9Saxena,D.,Sharma,N.,Kim,D.,Dwivedula,R.,Chen,J.,Yang,C.,Ravula,S.,Hu,Z.,Akella,A.,Angel,S.和Biswas,J.，2023年。關(guān)于操作系統(tǒng)基礎(chǔ)模型的研究。在第37屆神經(jīng)信息處理系統(tǒng)會(huì)議（NeurIPS2023）上舉辦的第7屆機(jī)器學(xué)習(xí)系統(tǒng)研討會(huì)。10Dettmers,T.和ZettlemoyHardware&AI調(diào)查顯?，社區(qū)對(duì)AI硬件與研究之間緊密互動(dòng)的需求1.對(duì)于硬件與AI的共演問題，75%的），要，其中47.37%“同意”4.大多數(shù)AI部署發(fā)生在本地用戶計(jì)算機(jī)（71.93%）或云平臺(tái)（59.65%）。在較小程度上，部署發(fā)生在邊緣計(jì)算優(yōu)化硬件（19.3%）或移動(dòng)設(shè)備（15.79%）?在訓(xùn)練限制方面，內(nèi)存容量是頭等大事（52.63%),其次是計(jì)算吞吐量（49.12%），內(nèi)存吞吐量?在部署挑戰(zhàn)方面，計(jì)算吞吐量是最關(guān)鍵的瓶頸?對(duì)于訓(xùn)練和部署，成本是一些受訪者額外關(guān)注的問”)。PU，68.42%使用CPU。在部署中也觀察到類似的社會(huì)公益的??智能主席.?林德·坦?,社會(huì)公益的??智能是??智能研究的?個(gè)??以倫理和影響為驅(qū)動(dòng)的??智能開發(fā)?社會(huì)公益的??智能項(xiàng)?在過去??跨學(xué)科合作?關(guān)重要?成功的社會(huì)公益??智能項(xiàng)?需要??智能研究?員、領(lǐng)域?qū)?可伸縮性和可持續(xù)性挑戰(zhàn)-雖然AI4SG已經(jīng)展?出了巨?潛?，但在資源受限的環(huán)境45AI造福社會(huì)“AI造福社會(huì)”（AI4SI/AI4SG）已經(jīng)成在首位的傳統(tǒng)AI研究不同，AI4SI將直接社會(huì)影響作為首要目標(biāo)。它解決了在AI研究AI4SI研究需要與領(lǐng)域?qū)＜液蜕鐓^(qū)成員進(jìn)行“AI造福社會(huì)”研討會(huì)可能可歸功于激發(fā)不斷增加的學(xué)術(shù)關(guān)注已經(jīng)導(dǎo)致與AI4SI相推動(dòng)跨學(xué)科合作正在成為AI造福社會(huì)工作者的密切合作確保了AI解決方案不僅在技AI4SG的未來正在受到幾種新興機(jī)遇的塑造。首先，利用基于云的平臺(tái)進(jìn)行可擴(kuò)展AI部云的解決方案可以將AI工具部署到偏遠(yuǎn)或資源受限的地區(qū)，使人們民主獲取AI技術(shù)。其次，在AI解決方案中加入可解釋性和透明性三，強(qiáng)調(diào)本地化的AI4SI解決方案，可以由所有權(quán)。通過賦予本地社區(qū)管理和維護(hù)AI工具的能力，AI4SG項(xiàng)目可以確保其好處的基礎(chǔ)模型為加速AI4SG應(yīng)用的開發(fā)和開發(fā)針對(duì)特定社會(huì)問題的AI解決方案的起點(diǎn),從而減少開發(fā)所需的時(shí)間和資源[5]。46AI用于社會(huì)公益,創(chuàng)建用戶友好的界面，并為當(dāng)?shù)乩嫦酂o障礙社區(qū)的口號(hào)“沒有我們，沒有我們”，是重要的提醒，強(qiáng)調(diào)在評(píng)估過程的所有階段都要讓利益相關(guān)者參與其中。此外，我們必須警惕企業(yè)倫理洗白或綠色洗白的潛在可能，確保人工智能倡議的動(dòng)機(jī)真正是為了社會(huì)公益，而不僅僅是作為公關(guān)行動(dòng)。,并將技術(shù)進(jìn)步轉(zhuǎn)化為實(shí)際、以用戶為中3.AAAI會(huì)議關(guān)于2024年社會(huì)4.IJCAI會(huì)議征稿及項(xiàng)目征集：關(guān)于人工智能與社會(huì)公益的多年度專題5.Shi,Z.,Wang,C.,Fang,F.“社會(huì)公益的人工智能：一項(xiàng)調(diào)查”，2020年/a6.聯(lián)合國(guó)社會(huì)包容發(fā)展司“人工智能的良好影響報(bào)告”/newsro7.Zhao,Y.,Boehmer,N.,Taneja,A.,Tambe,M.基于基礎(chǔ)模型的多智能體系統(tǒng)以加速社會(huì)影響的人工智能，AAMAS20258查爾頓，J.I.《沒有我們參與的事情：殘疾AI用于社會(huì)公益,21.01%認(rèn)為有些相關(guān)。當(dāng)被問及將人工智能整合到解決方案規(guī)?！痹撜{(diào)查還探討了為推廣用于社會(huì)影響的AI驅(qū)動(dòng)解,有119名受訪者中的47.90%選擇了它?！翱沙掷m(xù)結(jié)果”48?雖然目前人工智能計(jì)算在全球能源和水消耗中所占比例很小，但其在某些地區(qū)的快速增長(zhǎng)正使當(dāng)?shù)仉娏W(wǎng)絡(luò)和水資源緊張。管理這些影響?雖然人們對(duì)人工智能潛在的環(huán)境影響越來越擔(dān)憂，但研究人員和實(shí)踐者強(qiáng)調(diào)，人工智?人工智能可以成為氣候和可持續(xù)發(fā)展目標(biāo)的有力推動(dòng)者。除了改善各行業(yè)的效聯(lián)合國(guó)環(huán)境規(guī)劃署（UNEP）和國(guó)際電信聯(lián)盟（ITU）合作建立的可持續(xù)人工智能[4]。即便在高增長(zhǎng)情境下，國(guó)際能源署（IEA）估計(jì)與人工智能相關(guān)的電力需求將仍對(duì)齊。例如，國(guó)際能源署（IEA）啟動(dòng)?硬件效率的進(jìn)步：耗的能量超過傳統(tǒng)的CPU。然而，盡管每個(gè)GPU的絕對(duì)功耗在上升，但每率GPU，并為較輕的工作負(fù)載使用低功而大型語言模型（LLMs）需要大量計(jì)SLMs可以在筆記本電腦和智能手機(jī)I支持的電力網(wǎng)預(yù)測(cè)性維護(hù)有助于公用事業(yè),以與低成本或低碳電力的可用性保,人工智能和機(jī)器學(xué)習(xí)被用來縮小氣,使政府能夠更好地為極端天氣事件?節(jié)能型人工智能系統(tǒng)?推動(dòng)可持續(xù)發(fā)展突破的創(chuàng)新人工智能應(yīng)?強(qiáng)大的情景建模和數(shù)據(jù)收集工作，,使人工智能變得更易獲得并被廣泛采用。?優(yōu)化AI模型架構(gòu)，以提?計(jì)算效率，??開發(fā)專?的??智能硬件，其能耗和?耗低于傳統(tǒng)GPU?增強(qiáng)??智能基礎(chǔ)設(shè)施管理，以實(shí)現(xiàn)碳?開發(fā)經(jīng)濟(jì)?效的?期能源儲(chǔ)存解決?案?擴(kuò)?電?傳輸能?和可靠性，以整合?減少全球范圍內(nèi)通過??智能驅(qū)動(dòng)的監(jiān)測(cè)減少?和?體泄漏。通過AI驅(qū)動(dòng)的監(jiān)控減少全球范圍?填補(bǔ)關(guān)鍵?物多樣性數(shù)據(jù)空?，并?為交通系統(tǒng)引?新的效率（例資1.Patterson,D.,Gonzalez,J.,Le,Q.,Liang,C.,Munguia,L.M.,Rothchild,D.,...&Dean,J.(2021).碳排放和?規(guī)模神經(jīng)?絡(luò)訓(xùn)練。arXiv預(yù)印本arXiv:2104.10350。5.Shehabi,A.,Smith,S.J.,Hubbard,A.,Newkirk,A.,Lei,N.,Siddik,M.A.B.,Holecek,B.,Koomey,J.,Masanet,E.,Sartor,D.(2024)。2024年美國(guó)數(shù)據(jù)中?能源使?報(bào)告(LBNL-2001637)，勞倫斯伯克利國(guó)家實(shí)驗(yàn)室，加利福尼亞州伯克利。/sites/default/files/2024-12/lbnl-2024-united-states-data-center-energy-usage-report.pdf7.Smith,M.S.(2024)，挑戰(zhàn)者正在向Nvidia的王冠發(fā)起挑戰(zhàn)：在??智能的權(quán)?游戲中，不要低估新興者。IEEESpectrum，第61卷，第10期，第40-44?，2024年10?，doi:10.1109/MSPEC.2024.10705376https://ieeexplore.ieee.org/document/107053768.聯(lián)合國(guó)教科?組織（2024年3?）。?語?模型（SLMs）：?條更便宜、更環(huán)保9.Gomes,C.,Dietterich,T.,Barrett,C.,等（2019年）。計(jì)算可持續(xù)發(fā)展：為更美好的世界和可持續(xù)的未來?計(jì)算，ACM通訊。62（956-65。12.Bolgar,C.(2024年9?).AI?具利?聲?定位漏?管道，/source/features/sustainability/ai-t13.Yoshikane,T.,&Yoshimura,K.(2023).?種?候模型集合模擬局部?時(shí)降?的降尺度和偏差校正?法?？茖W(xué)報(bào)告,13(1),14.Norouzzadeh,M.S.,等(2018).利?深度學(xué)習(xí)?動(dòng)識(shí)別、計(jì)數(shù)和描述相機(jī)捕捉圖像中的野?動(dòng)物，國(guó)家科學(xué)院院刊.115(25)E5716-E5725,/10.1073/pnas.1719367115(2018)./doi/10.1073/pnas.171936711515.Benes,K.J.,Porterfield,J.E.,&Yang,C.(2024).能源的AI：現(xiàn)代電?和清潔能源經(jīng)濟(jì)的機(jī)會(huì)。美國(guó)能源部.16.Sandalow,D.,McCormick,C.,Kucukelbir,A.,等(2024).應(yīng)對(duì)?候變化的??智能減緩路線圖（第?版）（ICEF創(chuàng)新路線圖項(xiàng)?，2024年11?）ht17.Merchant,A.,Batzner,S.,Schoenholz,S.S.,Aykol,M.,Cheon,G.,&Cubuk,E.D.(2023).擴(kuò)展深度學(xué)習(xí)?于材料發(fā)現(xiàn)。?然,624(7990),80-85.18.使???智能和AzureQuantumElements加速材料發(fā)現(xiàn)(2024).微軟A19.Kaack,L.H.,Donti,P.L.,Strubell,E.,Kamiya,G.,Creutzig,F.,&Rolnick,D.(2022).將??智能與?候變化緩解對(duì)?。?然?候變化,12(6),518-527.20.Luers,A.,Koomey,J.,Masanet,E.,Gaffney,O.,Creutzig,F.,LavistaFerres,J.,&Horvitz,E.(2024).??智能會(huì)加速還是延遲向凈零排放的競(jìng)賽？.?然,628(8009),718-720.21.Leung,B.,&Gonzalez,A.(23.Luccioni,A.S.,Strubell,E.,&Crawford,K.(2025).從效率提升到反彈效應(yīng):AI極化環(huán)境辯論中杰?斯悖論的問題.arXiv預(yù)印本arXiv:2501.16548.24.Chen,C.,等.(2024)利?機(jī)器學(xué)習(xí)和云?性能計(jì)算加速計(jì)算材料發(fā)現(xiàn):從?規(guī)模篩選到實(shí)驗(yàn)驗(yàn)證,《美國(guó)化學(xué)學(xué)會(huì)雜志》2024,146(29),20009-20018DOI:10.1021/jacs.4c03849./doi/abs/10.1021/jacs.4c0384925.Kamar,E.和Horvitz,E.(2009).開放世界中的合作和共享計(jì)劃:拼?研究.《第21屆國(guó)際??智能聯(lián)合會(huì)議論?集》(IJCAI’09)論?集.MorganKaufmannPublishersInc.,舊??,CA,187?194./web/20220119103915id_//Proceedings/09/Papers/041.pdf?約35%的受訪者同意或強(qiáng)烈同意人工智能對(duì)環(huán)境。?超過30%的人認(rèn)為物流、運(yùn)輸和基礎(chǔ)設(shè)施優(yōu)化是?超過70%的受訪者認(rèn)為數(shù)據(jù)密集型的人工智能?57%的受訪者表?擔(dān)憂人工智能的能耗可能會(huì)減緩?將近75%的受訪者認(rèn)為，最需要降低人工智能能耗人工智能（AI）正在以前所未有的速度加快整個(gè)研究周期，從知?科學(xué)發(fā)現(xiàn)的人工智能進(jìn)展將以前所未有的方式加快科學(xué)發(fā)現(xiàn)的步伐，并改變我人工智能（AI）正在以前所未有的速度加快整個(gè)研究周期，從知?科學(xué)發(fā)現(xiàn)的人工智能進(jìn)展將以前所未有的方式加快科學(xué)發(fā)現(xiàn)的步伐，并改變我?科學(xué)發(fā)現(xiàn)的高度自動(dòng)化人工智能系統(tǒng)正在出現(xiàn):盡管它們的能力有限，但它們可以在?人工智能在科學(xué)發(fā)現(xiàn)中的角色提出了倫理、合作和可靠性方面的新挑戰(zhàn)，需要跨學(xué)54,索尼研究??智能（AI）正在成為重塑這?過程并ENDRAL，是?批在有機(jī)化學(xué)中?動(dòng)?成像EURISKO這樣的系統(tǒng)探索了啟發(fā)式學(xué)習(xí)lphaFold2這樣的系統(tǒng)在結(jié)構(gòu)?物學(xué)中取AlphaFold2解決了蛋?質(zhì)折疊這???年lphaFold2代表了??智能作為科學(xué)發(fā)現(xiàn)預(yù)的情況下進(jìn)?科學(xué)發(fā)現(xiàn)。由羅斯·?開發(fā)能?的??智能系統(tǒng)。這?挑戰(zhàn)涉及到Fei?加速發(fā)現(xiàn)：通過?動(dòng)化整個(gè)科學(xué)發(fā)?增強(qiáng)協(xié)作：像AlphaFold這樣的人工智?倫理考慮：人工智能系統(tǒng)的自主性引。?科學(xué)推理模型和開發(fā)可以增強(qiáng)人類認(rèn)知?超越人類直覺：人工智能全面探索假設(shè)?數(shù)據(jù)處理的轉(zhuǎn)變：處理實(shí)驗(yàn)數(shù)據(jù)的方式。在AI為中心的方,甚至是所有數(shù)據(jù)，都需要提供給AI系3.社會(huì)和倫理影響：AI驅(qū)動(dòng)的科學(xué)?健康醫(yī)療變革：隨著人工智能加速藥?環(huán)境與氣候變化：?常識(shí)知識(shí)：?合作：科學(xué)通常是一項(xiàng)團(tuán)隊(duì)運(yùn)動(dòng)，能夠與他人（無論是人類還是AI）有效合作?交流：科學(xué)家交談，繪畫，并使用多1.林賽·R，布坎南·B，費(fèi)根鮑姆·E，萊德伯格·J。DENDRAL：第?個(gè)科學(xué)假設(shè)形成專家系統(tǒng)的案例研究。??智能。1993；61：2092.萊納特·D，布朗·J。為什么AM和EURISKO似乎3.王·H，傅·T，杜·Y，?·W，?·K，劉·Z等。在??智能時(shí)代的科學(xué)發(fā)現(xiàn)。?然。2023；620：47?60。國(guó)家科學(xué)院、?程院和醫(yī)學(xué)院。?于科學(xué)發(fā)現(xiàn)的??智5GilY,GreavesM,Hendler6總統(tǒng)科學(xué)技術(shù)顧問委員會(huì)。PCAST：向總統(tǒng)報(bào)7SeniorAW,EvansR,JumperJ,KirkpatrickJ,SifreL,GreenT等。利?深度學(xué)習(xí)的潛?改進(jìn)蛋?質(zhì)結(jié)構(gòu)預(yù)測(cè)。?然。2020;577：706-7108JumperJ,EvansR,PritzelA,GreenT,FigurnovM,RonnebergerO等。Alp11.BoikoDA,MacKnightR,KlineB,GomesG.基于?型語?模型的12.ManicaM,BornJ,CadowJ,ChristofidellisD,DaveA,ClarkeD,等.利?科學(xué)發(fā)現(xiàn)?成?具包加速材料設(shè)計(jì)。NpjComputMater.2023;9:1?613.RaayoniG,GottliebS,ManorY,PishaG,HarrisY,MendlovicU,等.利?Ramanujan機(jī)器?成有關(guān)基本常數(shù)的猜想。?然.2021;590:67?73.14.DaviesA,Veli?kovi?P,BuesingL,BlackwellS,ZhengD,Toma16.ColeyCW,ThomasIIIDA,LummissJAM,JaworskiJN,BreenCP,SchultzV,等?.由??智能規(guī)劃指導(dǎo)的有機(jī)化合物流合成的機(jī)器?平臺(tái).科學(xué).2019;365.17.BurgerB,MaffettonePM,GusevVV,18.KingRD,RowlandJ,OliverSG,YoungM,AubreyW,ByrneE,等?。《科學(xué)的?動(dòng)化》?！犊茖W(xué)》。2009年;324：85?8919KingRD,WhelanKE,JonesFM,ReiserPG,BryantCH,MuggletonSH,等?。機(jī)器科學(xué)家進(jìn)?功能基因組假設(shè)?成和實(shí)驗(yàn)。《?然》。2004年;42720WilliamsK,BilslandE,SparkesA,AubreyW,YoungM,SoldatovaLN,等?。通過再定位藥物對(duì)待忽視的熱帶疾病進(jìn)?便宜快速的藥物開發(fā)的確認(rèn)。24WittmannBJ,AlexanianT,BartlingC,BealJ,CloreA,DiggansJ,等.?向AI彈性篩選核酸合成訂單:過程,結(jié)果和建議.bioRxiv.25Hope,T,Downey,D.,Weld,D.S.,Etzioni,O.andHorvitz,E.(2023).?于科學(xué)發(fā)現(xiàn)的計(jì)算推斷.ACM通訊,66,8(2023年8?),62?7326PrinzF,SchlangeT,AsadullahK(August2011)."信不信由你在社區(qū)意?調(diào)查中,32%的回答者認(rèn)為這有些相關(guān).AI.在AI系統(tǒng)是否能獲得諾?爾獎(jiǎng)這?問題上,只有13%的回答者稱永遠(yuǎn)不可能,25%的?說不清楚.11%的?認(rèn)為可能會(huì)在2020年代實(shí)現(xiàn),45%的?認(rèn)為可能會(huì)在2050年代實(shí)現(xiàn)智能（AGI),但神經(jīng)網(wǎng)絡(luò)模型具有更通用能力的興起刺激了圍繞前智能（AGI),但神經(jīng)網(wǎng)絡(luò)模型具有更通用能力的興起刺激了圍繞前進(jìn)方向、?追求理解智能原理和機(jī)器的能力，可以被利用達(dá)到人類水平的能力一直是人工智能中?在2000年代初，呼吁更加集中關(guān)注“人類級(jí)人工智能”,出現(xiàn)在人工智能領(lǐng)域成功應(yīng)用狹義范圍AI應(yīng)用和一些人認(rèn)為該領(lǐng)域更具前瞻性目標(biāo)?盡管精確定義存在挑戰(zhàn)，關(guān)于特定AGI概念價(jià)值的辯論仍在繼續(xù)，AGI的雄心勃勃目標(biāo)和與之密切相關(guān)的概念，如“人類級(jí)人工智能”，激發(fā)了許多人工進(jìn)步，并為未來更有能力的人工智能系統(tǒng)提出了關(guān)鍵研究問題。另一建AGI可能會(huì)帶來社會(huì)混亂和風(fēng)險(xiǎn)，并提出重大的安全挑戰(zhàn)，包括對(duì)人類繁榮和生存58CHAIRSEricHorvitz,StuartRussell,59,以及所羅門諾夫的普遍歸納。僅僅兩年。追求“人類水平”AGI最初被定義為能夠在廣泛任務(wù)中匹配或深的AI研究人員來說并不新鮮，但AGI這個(gè)除了AGI和人類水平的AI外，還有一些其人工智能和強(qiáng)人工智能。然而，AGI已成書籍和文章將AGI描繪為一種新穎的雄心,常常將其描繪為前所未有的目標(biāo)，盡管究之外的討論，AGI被與理想的和反烏托前一次的AAAI總統(tǒng)小組長(zhǎng)的興趣之際，AI領(lǐng)導(dǎo)者重新點(diǎn)燃了雄人工通用智能（AGI）這一術(shù)語在同一時(shí)期關(guān)于AGI本質(zhì)的不同觀點(diǎn)超出了人工智能的任務(wù)中匹配或超過人類的認(rèn)知能力”例如，關(guān)于AGI的討論，特別是在大眾媒60加劇了推測(cè)，意識(shí)或自覺可能是AGI系統(tǒng)的特征。AI研究人員通常避免進(jìn)行這種推測(cè),指出行為的分析和預(yù)測(cè)獨(dú)立于賦予自覺性，一些AI系統(tǒng)從AI的早期以來就以粗略出的可能性，即AGI系統(tǒng)可能會(huì)制定自己的AGI系統(tǒng)比人類更具一般能力的事實(shí)引發(fā)上，艾倫·圖靈自己曾表?“我們應(yīng)該預(yù)期機(jī)器會(huì)接管控制權(quán)”源是不對(duì)齊，即AGI的目標(biāo)與人類對(duì)未來的偏好不一致;這可能源自人類的錯(cuò)誤規(guī)范或不充分規(guī)范，即所謂的“彌達(dá)斯王問題”,或者源自AGI系統(tǒng)未能正確理解人類偏好對(duì)于一些人來說，AGI代表著一種潛在危險(xiǎn),美國(guó)國(guó)務(wù)院委托的“格拉德斯通報(bào)告”[4]指出“AGI通常被視為控制喪失引發(fā)災(zāi)難性風(fēng)險(xiǎn)的主要因素?！睌嗟腁I系統(tǒng)，指出這并不需要完全的AGI定義的一部分，即使一些人對(duì)AGI具有這AGI并非一個(gè)正式定義的概念，也沒有任何地從AI系統(tǒng)設(shè)計(jì)的正確原則和機(jī)制集合中,[6]）認(rèn)為由于人類智力具有許多維度，使AGI成為人工智能研究的不適當(dāng)目標(biāo)：進(jìn)。具。相反，他們認(rèn)為，AGI的短期貨幣價(jià)具（如AlphaFold2）實(shí)現(xiàn)。盡管如此，AGI已成為雄心勃勃的AI公司的標(biāo)志性目標(biāo)?！霸妇笆莿?chuàng)造AGI，找出如何使其安全…并），,類似于快速直覺的人類響應(yīng)，被描述為理的進(jìn)展允許AI探索漫長(zhǎng)的言語推理鏈以研究挑戰(zhàn)在于神經(jīng)網(wǎng)絡(luò)模型的大規(guī)模深度學(xué)習(xí)模型（如transformers）取得了顯著進(jìn)展，但現(xiàn)代AI系統(tǒng)一般被認(rèn)為尚未實(shí)現(xiàn)大多數(shù)AGI定義中提到的所有能力。在當(dāng)前核心缺陷的背景下，研究機(jī)會(huì)包括以下方向：,特別是針對(duì)多模態(tài)輸入[12]。規(guī)劃作為一,可能實(shí)現(xiàn)在更多任務(wù)上的人類水平能力被認(rèn)為尚未實(shí)現(xiàn)大多數(shù)AGI定義中引述的正在縮小。目前，已有一些AI系統(tǒng)在許多。,如程序，但我們?nèi)狈τ行У臋C(jī)制來實(shí)現(xiàn)記憶與回憶：實(shí)現(xiàn)AGI可能需要整合類似人性和信任問題。此外，LLM被訓(xùn)練為模。1.N.Nilsson(1995).眼中的獎(jiǎng)賞。人工智能雜志，16(2)，9。4E.Harris,J.Harris,和M.Beall(2024)。一個(gè)提高先進(jìn)人工智能安全性和保障性的行動(dòng)計(jì)劃。GladstoneAI。https://www.gladstone.ai/action-plan5H.Karnofsky(2016)。關(guān)于我們對(duì)先進(jìn)人工智能的看法的一些背景。OpenPhilanthropy。/research/some-background-on-our-views-regarding-6J.Togelius(2024)。人工通用智能，8R.和J.Clark，編輯（2017-24年）。AI指數(shù)報(bào)告。斯坦福人類中心人工智能研究所。/9Y.Bengio和其他人（2025年）。國(guó)際AI安全報(bào)告。他10G.Marcus（2025年）。AGIvs“廣泛、淺層智能”。Substack。https:///p11A.Cherian,K.Peng,S.Lohit,J.Matthiesen,K.Smith,J.Tenenbaum（2024年）。在兒童數(shù)學(xué)奧林匹克競(jìng)賽中評(píng)估大型視覺和語言模型。NeurIPS2024。12V.Balachandran,J.Chen,N.Joshi,B.Nushi,H.Palangi,E.Salinas,V.Vineet,J.Woffinden-Luey,S.Yousefi（2024年），Eureka:評(píng)估和理解大型基礎(chǔ)模型，arXiv2409.10566，2024年9月。/abs/2409.1056613.N.Lee,Z.Cai,A.Schwarzschild,K.Lee,D.Papailiopoulos(2024).自我改進(jìn)的變壓器克服簡(jiǎn)單到困難和長(zhǎng)度泛化挑戰(zhàn)，arXiv2502.01612，2025年2月。/abs/2502.0161214.E.Horvitz,V.Conitzer,S.McIlraith,和P.Stone(2024).現(xiàn)在、稍后和持久：人工智能研究、政策和實(shí)踐的10個(gè)優(yōu)先事項(xiàng)，《ACM通訊》，67(6)。/opi我們關(guān)于AGI的調(diào)查結(jié)果表明，關(guān)于AGI的發(fā)展和治比的AI系統(tǒng)，而不是直接追求AGI（23%）。然而，關(guān)于實(shí)現(xiàn)AGI的可行性以及實(shí)現(xiàn)人類水平能力的倫理考慮之前應(yīng)停止AGI研究的提議。這些回答似乎表明，在法”以實(shí)現(xiàn)AGI“成功的可能性不大”或“非常不大”,這表明他們對(duì)當(dāng)前機(jī)器學(xué)習(xí)范式是否足夠?qū)崿F(xiàn)通總體而言，調(diào)查結(jié)果表明一種謹(jǐn)慎而前進(jìn)的方式：AI?在過去的70年里，在不斷推出新技術(shù)和重要技術(shù)的背景下，許多人工智能創(chuàng)新引發(fā)?在過去的70年里，在不斷推出新技術(shù)和重要技術(shù)的背景下，許多人工智能創(chuàng)新引發(fā)?像其他技術(shù)一樣，這些炒作趨勢(shì)遵循了普遍的Gartner炒作周期特征。?當(dāng)前的生成式人工智能炒作周期是世界上大多數(shù)人對(duì)人工智能的首次介紹，他們沒65人工智能（AI）是研究智能行為的計(jì)算代。,因?yàn)槟承┞暶鞅贿^度泛化。,例如為被替代的卡車司機(jī)提供解決方案，實(shí)上，商業(yè)智能公司Gartner故意采用圖形,這些階段對(duì)許多技術(shù)來說是共同的：(1),包括量子計(jì)算機(jī)、區(qū)塊鏈、自動(dòng)駕駛汽歷史學(xué)家ThomasHaigh在最近的一系列文“從邏輯引擎到胡扯引擎？”661Chandrasekaran,A.【2024】。什么推動(dòng)了2024年生成式人工智能的炒作。https://www./en/articl4Fast,E.和Horvitz,E.【2017】。公眾對(duì)人工智能看法的長(zhǎng)期趨勢(shì)，AAAI'17：第三十一屆人工智能大會(huì)論文集，2017年2月4日，第963-969頁。/index.php/AAAI/article/view/106355納拉揚(yáng)（Narayanan,A.）和卡普爾（Kapoor,S.）[2024]。人工智能蛇油：人工智能能做什么，不能做6.普爾（Poole,D.L.）和麥克沃思（Mackworth,A.K.）[2023]。人工智能：計(jì)算代理的基礎(chǔ)，第3版。劍橋大學(xué)出版社。7.王（Wang,S.）、麥克（Mack,E.A.）、范福森（VanFossen,J.A.）、梅德維德（Medwid,M.）、科頓（Cotten,S.R.）、張（Chang,C.H.）、曼（Mann,J.）、米勒（Miller,S.R.）、薩沃萊寧（Savolainen,P.T.）和貝克（Baker,N.）[2023]。評(píng)估無人駕駛車輛新時(shí)代卡車司機(jī)的替代職業(yè)。交通研究跨學(xué)科視角，第19卷。五月。/10.1016/j.trip.2023.100793,27%強(qiáng)烈同意。。7.是否應(yīng)該有一個(gè)社區(qū)主導(dǎo)的倡議來教育公眾（包括），)地認(rèn)為當(dāng)前對(duì)人工智能能力的看法夸大了，這對(duì)??從歷史上看，人工智能領(lǐng)域同時(shí)涵蓋了許多?我們呼吁積極支持關(guān)于經(jīng)典（非神經(jīng)）方法的研究，以及將神經(jīng)方法與其他方法結(jié)合的研究，并整合各種范式以形成更完整的認(rèn)知架構(gòu)。我們特別鼓勵(lì)支持對(duì)68斯通,德克薩斯大學(xué)奧斯汀分校和索尼人工智能69雖然通常某些領(lǐng)域比其他領(lǐng)域更“時(shí)髦”,盡管有少數(shù)領(lǐng)域爭(zhēng)議，但該社區(qū)通常能上，可以說當(dāng)前基于神經(jīng)網(wǎng)絡(luò)的生成AI的i)。事實(shí)上，作為一個(gè)社區(qū)，我們似乎面臨生成A