20251通用型人工智能（GnlpupoeAI，本報告關(guān)注的人工智能類型）的能力近年來迅速提升，并在近幾個月內(nèi)得到了進一步增強。幾年前，最先進的大語言模型agelangugeodl，L)很少能生成式對話。自《先進人工智能安全國際科學報告：中期報告》中期報告）（024年5月）發(fā)布以來，新模型在科學推理和編程測試中的表現(xiàn)有了顯著提升。許多公司正在投資開發(fā)通用型人工智能自主體（General-purposeAIagents)，將其作為進一步發(fā)展的潛在方向。人工智能自主體（AIAgent）是能夠自主行動、規(guī)劃和分配任務(wù)以實現(xiàn)目標的通用型人工智能未來數(shù)月乃至數(shù)年里，人工智能能力的進一步提升可能會非常緩慢，也可能極其迅速。其進展取決于企通用型人工智能的一些危害已得到充分證實。這些危害包括詐騙、未經(jīng)同意的隱私圖像on-consnsuliniaeimgy，II)和兒童性虐待材料(Cildsxulbusemteil，CSA)，對某些人群或某些研究人員已經(jīng)開發(fā)出針對上述問題的緩解技術(shù)，但迄今為止，還沒有任何技術(shù)組合能夠完全解決此類問題。自中期報告（04年5月）發(fā)布以來，與通用型人工智能系統(tǒng)相關(guān)歧視的新證據(jù)揭示了更為隱蔽的偏見形式。隨著通用型人工智能的能力不斷增強，更多風險的跡象也逐漸浮現(xiàn)。這些風險包括大規(guī)模勞動力市場沖能可能在未來數(shù)年內(nèi)就會對社會造成大規(guī)模的危害。通用型人工智能能力的最新進展——特別是在科學推理和編程測試方面——為人工智能支持的黑客攻擊和生物攻擊等潛在風險提供了新證據(jù)，這促使一家大型人工智能公司將其對最佳模型的生物風險評估等級從“低”提高到“中”。1請參閱主席在撰寫本報告后有關(guān)對人工智能最新進展的看法通用型人工智能能做什么？通用型人工智能存在哪些風險？以及針對這些風險有哪些緩解技術(shù)？1最先進的人工智能模型用于訓練的計算資源（“算力”）42.5倍。在分歧。專家們對通用型人工智能能力的發(fā)展速度可能緩慢、迅速或極其迅速持有不同的意見。專家們對于未來進步的速度存在分歧，原因在于他們對于進一步“擴展的前景看法不一。而各公司正在探索一種新的擴展類型，這或許能進一步提升能力。盡管擴展通常可以克服以前系統(tǒng)的局限性，但專家們對于其解決當今系統(tǒng)剩余局限性的潛力存在分歧，例如在物理世界中行動的不可靠性以及在計算機上執(zhí)行復(fù)雜任務(wù)的能力不足。近幾個月來，一種新型的擴展類型展現(xiàn)出進一步提升其能力的潛力：人工智能公司不再僅僅關(guān)推理擴展（infncescling）感興趣——即讓已經(jīng)訓練過的模型使用更多的計算來解決給定的問題，例如改進自身的解決方案，或者編寫所謂的“思維鏈為更簡單的步驟。到2026年底，部分通用型人工智能模型將使用比2023年計算量最大的模型大約100倍的訓練算力進行訓練，到030年將增長到0,000倍，同時算法也將實現(xiàn)以更少的可用計算量獲得更強的能力。除了訓練資源可能的這種規(guī)模增長外，諸如推理規(guī)模擴大以及利用模型生成訓練數(shù)據(jù)等近期趨勢，可能意味著總體上會使用更多的計算量。然而，進一步快速增加數(shù)據(jù)和計算還存在一些潛在瓶頸，例如數(shù)據(jù)、人工智能芯片、資本和本地能源容量的可及性。開發(fā)通用型人工智能的公司正在努力克服此類潛在的瓶頸。2?請參閱主席在撰寫本報告后有關(guān)對人工智能最新進展的看法自《先進人工智能安全國際科學報告：中期報告》自《先進人工智能安全國際科學報告：中期報告》(“中期報告”）（2024年5月）發(fā)布以來，通用型人2—生物和化學攻擊：近期通用型人工智能系統(tǒng)已展現(xiàn)出一定的能力，能夠為復(fù)制已知生物和化學武器提當前的通用型人工智能可能不可靠，從而可能造成危害。例如，如果用戶向通用型人工自中期報告（自中期報告（2024年5月）發(fā)布以來，有新的研究對偏見和失控風險給出了新的見解。新的研究對偏見通用型人工智能，特別是如果其繼續(xù)快速發(fā)展，有可能使非常廣泛的任務(wù)實現(xiàn)自動溝”有可能使世界上許多國家對這一小部分國家產(chǎn)生更大的依賴。一些專家還預(yù)計人工智能鴻溝將加自中期報告（自中期報告（2024年5月）發(fā)布以來，有關(guān)通用型人工智能對勞動力市場影響的更多證據(jù)浮出水面，開放權(quán)重模型（pn-ihtodl)：評估通用型人工智能模型可能帶來的諸多風險的一個重要因素，是它如何向公眾發(fā)布。所謂的“開放權(quán)重模型是指人工智能模型的核心組件（稱為“權(quán)重）公開供下載的人工智能模型。開放權(quán)重訪問有利于研究和創(chuàng)新，包括人工智能安全方面的研究，同時提高透明度并使研究界更容易發(fā)現(xiàn)模型中的缺陷。然而，開放權(quán)重模型也可能帶來風險，例如，它可能為惡意或錯誤使用提供便利，而這種使用對于模型開發(fā)者來說難以或無法監(jiān)控或緩解。一旦模型權(quán)重可供公眾下載，就無法對所有現(xiàn)有副本的全面回滾，也無法確保所有現(xiàn)有副本都收到安全更新。自中期報告（024年5月）發(fā)布以來，已達成高級別共識，即認為應(yīng)從以邊際風險（Mginliss）的角度來評估人工智能開放程度提高所帶來的風險：即相對于封閉式模型或其他技術(shù)等現(xiàn)有替代方案帶來的風險，發(fā)布開放權(quán)重模型造成的風險，相較于給定3—以可靠地防止出現(xiàn)明顯不安全的輸出。例如，一種稱為“對抗訓練”（adversarialtraining）的技術(shù)故3?請參閱主席在撰寫本報告后有關(guān)對人工智能最新進展的看法當前的工具能夠檢測人工智能生成的內(nèi)容、追蹤系統(tǒng)性能，控制從數(shù)據(jù)中學習多少信息的模型訓練方法（（differentialprivacy）方法），工智能與敏感數(shù)據(jù)結(jié)合使用的技術(shù)，使得數(shù)據(jù)難以恢復(fù)（例如“機密計算