軍用人工智能“人類控制”（humancontrol）標準的國際分歧——基于2024年CCWLAWS會議美中歐立場對比摘要與關(guān)鍵詞軍用人工智能的迅猛發(fā)展正深刻重塑全球安全格局，其中致命性自主武器系統(tǒng)所引發(fā)的倫理、法律與安全挑戰(zhàn)已成為國際軍備控制議程的核心。在此背景下，“人類控制”作為一項潛在的規(guī)制標準，其定義與內(nèi)涵成為各方博弈的焦點。本文聚焦于2024年《特定常規(guī)武器公約》框架下致命性自主武器系統(tǒng)政府專家組會議，通過對美國、中國與歐盟在此次會議上提交的官方文件和立場聲明進行比較分析，旨在系統(tǒng)性地揭示各方在“人類控制”標準上的深刻分歧及其背后動因。研究采用定性內(nèi)容分析法，從控制術(shù)語、范圍、時機與性質(zhì)等維度對三方立場進行解構(gòu)。研究發(fā)現(xiàn)，三方立場存在根本性差異：美國主張一種靈活且依賴情境的“適當人類判斷”標準，旨在最大化作戰(zhàn)彈性與技術(shù)優(yōu)勢；中國倡導在武器系統(tǒng)全生命周期嵌入控制，但尤為強調(diào)人類對致命性打擊行動擁有最終否決權(quán)的“有效控制”；歐盟則力推一套以國際人道法為基礎(chǔ)的、覆蓋武器系統(tǒng)全生命周期的、全面的“有意義的人類控制”法律框架。這些分歧不僅是技術(shù)路線或政策偏好的差異，更深層次地反映了三方在軍事哲學、戰(zhàn)略文化、技術(shù)自信度以及對國際法作用認知上的根本分野。本文的核心結(jié)論是，對“人類控制”概念的詮釋鴻溝是當前國際社會難以就致命性自主武器系統(tǒng)達成有效規(guī)制的首要障礙，這種分歧預示著未來的規(guī)制路徑將充滿挑戰(zhàn)，并可能導向多軌并行的復雜局面。關(guān)鍵詞：軍用人工智能，人類控制，致命性自主武器系統(tǒng)，軍備控制，特定常規(guī)武器公約引言二十一世紀的軍事變革正被人工智能技術(shù)以前所未有的深度和廣度所驅(qū)動。從情報分析、指揮控制到后勤保障，人工智能的應用正在顛覆傳統(tǒng)的作戰(zhàn)模式。然而，在這場技術(shù)革命中，最具爭議性也最引人憂慮的，莫過于致命性自主武器系統(tǒng)的發(fā)展與潛在部署。這類系統(tǒng)一旦被授權(quán)，便可在無人實時干預的情況下，自主搜索、識別、判斷、瞄準并使用致命武力。這不僅帶來了“機器人殺手”的倫理恐慌，更對國際人道法中的區(qū)分原則、比例原則和預防措施原則等核心準則構(gòu)成了前所未有的挑戰(zhàn)，同時也蘊含著引發(fā)意外沖突升級和破壞戰(zhàn)略穩(wěn)定的巨大風險。面對這一迫在眉睫的全球性挑戰(zhàn)，國際社會自2014年起，便在聯(lián)合國《特定常規(guī)武器公約》的框架下，通過政府專家組會議的形式，就相關(guān)法律、技術(shù)和軍事問題展開了持續(xù)多年的艱難探討。在長期的多邊外交博弈中，一個核心共識逐漸浮現(xiàn)：無論未來的武器系統(tǒng)多么自主，都必須置于某種形式的“人類控制”之下。然而，這一共識的表面之下，卻隱藏著深刻的分歧?！叭祟惪刂啤本烤挂馕吨裁矗克且粋€技術(shù)標準、一個法律原則，還是一個操作流程？控制應在何時、何處、以何種方式實現(xiàn)？對這些根本性問題的不同回答，直接決定了未來國際規(guī)制框架的形態(tài)與效力。因此，本研究的核心問題是：在全球軍用人工智能規(guī)制的核心多邊平臺，即《特定常規(guī)武器公約》政府專家組會議上，主要大國行為體對“人類控制”這一關(guān)鍵標準的立場究竟存在何種具體的分歧？本研究將焦點鎖定在2024年的最新一輪會議，選取在技術(shù)研發(fā)、軍事實力和國際規(guī)范倡導方面最具代表性的三個行為體——美國、中國和歐盟——作為比較分析的對象。本文試圖具體回答：第一，美、中、歐三方各自提出的“人類控制”方案的核心內(nèi)涵是什么？第二，這些方案在控制的范圍、程度和實現(xiàn)方式上有何異同？第三，導致這些立場分歧的深層次戰(zhàn)略、法律和倫理考量分別是什么？為解決上述問題，本研究的目標在于，通過對一手官方外交文件的系統(tǒng)性分析，超越對各方立場的籠統(tǒng)描述，精確描繪出當前國際社會在軍用人工智能規(guī)制問題上的主要斷層線。本文的結(jié)構(gòu)安排如下：首先是文獻綜述，梳理關(guān)于致命性自主武器系統(tǒng)、人類控制概念以及主要國家相關(guān)政策的研究現(xiàn)狀，明確本研究的獨特貢獻。其次是研究方法部分，說明本文所采用的比較案例研究與定性內(nèi)容分析方法。再次，作為論文的主體，研究結(jié)果與討論部分將分別闡述并系統(tǒng)比較美、中、歐三方的立場，并深入剖析其分歧的根源。最后，結(jié)論與展望部分將對全文進行總結(jié)，評估這些分歧對未來國際軍備控制前景的影響，并提出未來研究的方向。文獻綜述圍繞致命性自主武器系統(tǒng)的國際規(guī)制問題，已形成了一個跨越國際法、倫理學、安全研究和科技治理等多個領(lǐng)域的交叉學科研究集群。既有文獻為理解本研究的背景提供了豐富的理論與事實基礎(chǔ)，大致可歸納為以下三個方面。首先，大量研究致力于對致命性自主武器系統(tǒng)本身進行定義、分類以及風險評估。學者們探討了不同層次的自主性，從自動化的防御系統(tǒng)到完全自主的攻擊平臺，并辨析了其與現(xiàn)有遙控武器系統(tǒng)的本質(zhì)區(qū)別。在風險評估方面，研究主要集中在三個層面：倫理層面，探討將生死抉擇權(quán)讓渡給機器是否侵犯了人類尊嚴，以及由此引發(fā)的責任歸屬真空問題；法律層面，分析自主武器在復雜戰(zhàn)場環(huán)境中遵守國際人道法的能力，特別是區(qū)分戰(zhàn)斗員與平民、評估附帶損害的比例性等；戰(zhàn)略層面，則關(guān)注自主武器可能導致的戰(zhàn)爭門檻降低、沖突升級速度失控以及全球戰(zhàn)略穩(wěn)定性的破壞。此外，以“阻止殺手機器人運動”為代表的公民社會團體和部分學者，基于上述風險，持續(xù)倡導達成一項具有法律約束力的國際禁令，其論證構(gòu)成了規(guī)制辯論的重要一極。其次，關(guān)于“人類控制”概念的學術(shù)探討構(gòu)成了研究的另一個核心。這一概念并非法律術(shù)語，其內(nèi)涵的模糊性使其成為學術(shù)界和政策界爭論的焦點。早期的討論區(qū)分了不同的人機交互模式，如“人在回路中”、“人在回路上”和“人離回路”。隨著討論的深入，“有意義的人類控制”逐漸成為一個被廣泛引用的術(shù)語，但對其“有意義”的界定依然眾說紛紜。一些學者從功能主義視角出發(fā)，認為“有意義”意味著人類有能力理解系統(tǒng)的運作、預測其行為并能在必要時有效干預。另一些學者則從規(guī)范主義視角強調(diào)，控制的“意義”在于確保決策過程符合法律和倫理要求，并能明確追溯責任。還有研究嘗試將“人類控制”分解為時間、空間、認知和技術(shù)等多個維度進行操作化定義。盡管學術(shù)界對這一概念的闡釋日益精細，但尚未形成一個統(tǒng)一的、可直接轉(zhuǎn)化為政策或法律條文的共識性定義。再次，對主要國家在致命性自主武器系統(tǒng)問題上的立場和政策的分析也占據(jù)了相當大的篇幅。對美國的研究多聚焦于其國防部第3000.09號指令，該指令確立了美國發(fā)展和使用自主武器系統(tǒng)的內(nèi)部政策框架，強調(diào)武器系統(tǒng)必須經(jīng)過嚴格的測試、評估、驗證與確認，并要求在動用致命武力時保持“適當水平的人類判斷”。對中國的研究則關(guān)注其快速發(fā)展的軍事人工智能能力與其在外交場合相對謹慎和模糊的立場之間的張力，注意到中國官方文件強調(diào)發(fā)展人工智能軍事應用的防御性和審慎性。對歐盟的研究則強調(diào)其作為一個規(guī)范性力量的角色，關(guān)注其發(fā)布的《人工智能白皮書》和相關(guān)倫理準則，以及其內(nèi)部成員國（特別是法國和德國）在推動國際規(guī)制方面所做的努力。這些國別或區(qū)域研究為我們理解各方的基本政策取向提供了重要參考。盡管現(xiàn)有研究成果豐碩，但也存在一些值得深化的空間。其一，多數(shù)研究對“人類控制”的探討偏向于理論構(gòu)建或規(guī)范倡導，而較少將其與多邊外交談判的現(xiàn)實進程緊密結(jié)合，即學術(shù)上的理想定義與大國在談判桌上的實際立場之間存在差距。其二，對大國立場的分析往往是靜態(tài)和孤立的，缺乏在同一時空背景下（如某次具體的重要會議）進行精細化的橫向比較，這使得我們難以精確捕捉各方立場之間的細微差異和互動關(guān)系。其三，隨著技術(shù)和談判的快速演進，許多既有分析可能已經(jīng)滯后于最新的政策宣示和外交博弈。本研究的切入點和創(chuàng)新價值正在于此。本文聚焦于2024年《特定常規(guī)武器公約》政府專家組會議這一最新和最權(quán)威的多邊場域，直接利用美、中、歐三方提交的一手官方文件作為核心分析材料。這使得本研究能夠超越一般性的政策評述，對當前大國在“人類控制”這一核心規(guī)制問題上的立場進行一次高精度的同步對比。本文的理論價值在于，通過實證揭示“人類控制”這一核心概念在實踐中的多重且相互沖突的解釋，深化了對國際規(guī)范形成過程中大國博弈與意義建構(gòu)復雜性的理解。其現(xiàn)實意義在于，通過系統(tǒng)梳理各方分歧的癥結(jié)所在，為判斷未來致命性自主武器系統(tǒng)國際規(guī)制的前景、障礙與可能路徑提供了及時的分析與洞見。研究方法本研究的核心目標是對美國、中國和歐盟在2024年《特定常規(guī)武器公約》致命性自主武器系統(tǒng)政府專家組會議上關(guān)于“人類控制”標準的立場進行系統(tǒng)性的比較分析。為實現(xiàn)這一目標，本研究采用定性研究方法中的比較案例研究設(shè)計。在此設(shè)計中，美國、中國和歐盟的官方立場被視為三個獨立的“案例”，而2024年的政府專家組會議則構(gòu)成了進行比較的特定時空背景。這種方法有助于在統(tǒng)一的語境下，深入、細致地剖析每個案例的內(nèi)在邏輯，并通過系統(tǒng)性的對比，凸顯它們之間的關(guān)鍵異同點及其背后的深層原因。本研究的數(shù)據(jù)收集主要依賴于公開可得的官方一手文獻和權(quán)威的二手資料，以確保分析的準確性和客觀性。數(shù)據(jù)來源主要包括三個層面：第一，核心數(shù)據(jù)是美國、中國和歐盟（或其代表性成員國如法國、德國）向2024年政府專家組會議正式提交的工作文件、提案草案和政策聲明。這些文件是各方經(jīng)過內(nèi)部協(xié)調(diào)后形成的、最能代表其官方立場的權(quán)威文本。第二，輔助數(shù)據(jù)包括會議期間各方代表的公開發(fā)言記錄、國家聲明的官方紀要，以及由聯(lián)合國裁軍事務(wù)廳等官方機構(gòu)發(fā)布的會議總結(jié)報告。這些材料為理解工作文件背后的口頭闡釋和辯論焦點提供了補充。第三，參考數(shù)據(jù)來源于對此次會議進行全程觀察和分析的、具有高度信譽的非政府組織和研究機構(gòu)（如“到達臨界意愿”項目、聯(lián)合國裁軍研究所等）發(fā)布的會議報告和分析評論。這些第三方觀察為驗證和深化對官方立場的理解提供了重要視角。本研究的數(shù)據(jù)分析技術(shù)是主題式定性內(nèi)容分析。分析過程將遵循一個系統(tǒng)化的編碼和比較框架。具體步驟如下：第一步，沉浸式閱讀與初步編碼。研究者將反復閱讀所有收集到的原始數(shù)據(jù)，識別并標記出所有與“人類控制”相關(guān)的段落、句子和關(guān)鍵詞。第二步，構(gòu)建分析框架?；谖墨I綜述和初步閱讀，本研究將建立一個專門用于比較“人類控制”標準的多維度分析框架。該框架將包含以下幾個核心編碼主題：術(shù)語選擇（例如，“有意義的”、“適當?shù)摹?、“有效的”等具體用詞）；控制范圍（例如，是覆蓋武器的全生命周期，還是僅限于攻擊的最后階段）；控制時機（例如，是實時干預，還是通過預設(shè)規(guī)則進行的事前控制）；控制性質(zhì)（例如，是人類的絕對否決權(quán)，還是更為寬泛的監(jiān)督與判斷）；以及立場理據(jù)（例如，是基于國際人道法、國家安全、技術(shù)可行性還是倫理原則）。第三步，系統(tǒng)性編碼與數(shù)據(jù)整理。研究者將運用上述分析框架，對來自美、中、歐三方的所有相關(guān)數(shù)據(jù)進行逐一編碼，并將編碼后的內(nèi)容整理成結(jié)構(gòu)化的比較矩陣。這一步驟旨在將分散的文本信息轉(zhuǎn)化為便于系統(tǒng)性對比的分析單元。第四步，解釋與比較分析。在完成數(shù)據(jù)整理后，研究將進入解釋階段，深入分析每個案例內(nèi)部的邏輯一致性，并在此基礎(chǔ)上進行跨案例的系統(tǒng)比較，詳細闡述三方在各個維度上的具體異同點。最后，本研究將結(jié)合國際關(guān)系理論和軍備控制理論，對導致這些分歧的深層戰(zhàn)略、法律和文化因素進行理論化解釋，從而超越簡單的立場描述，提供更具深度的洞察。通過這一嚴謹?shù)难芯窟^程，本研究旨在確保其結(jié)論是建立在堅實的證據(jù)和系統(tǒng)性分析之上的。研究結(jié)果與討論通過對2024年《特定常規(guī)武器公約》政府專家組會議的相關(guān)官方文件的系統(tǒng)性內(nèi)容分析，本研究發(fā)現(xiàn)，美國、中國和歐盟在“人類控制”這一核心標準上，不僅存在術(shù)語上的差異，更在控制的理念、范圍、實現(xiàn)方式和法律意涵上展現(xiàn)出深刻的、結(jié)構(gòu)性的分歧。這些分歧共同構(gòu)成了當前致命性自主武器系統(tǒng)國際規(guī)制進程中的主要障礙。以下將分別闡述三方的立場，并進行深入的比較與討論。首先，美國的立場可以概括為以“適當人類判斷”為核心的實用主義與靈活性框架。在其向會議提交的文件和聲明中，美國謹慎地避免使用“有意義的人類控制”這一在歐洲和非政府組織中廣為流傳的術(shù)語，而更傾向于沿用其國內(nèi)國防部指令中的“適當人類判斷”。這一術(shù)語選擇本身就意涵深遠?！斑m當”一詞暗示了控制的標準并非一成不變，而是應根據(jù)武器系統(tǒng)的具體類型、作戰(zhàn)任務(wù)的性質(zhì)以及戰(zhàn)場環(huán)境的復雜性而動態(tài)調(diào)整。這意味著對于一個在高度結(jié)構(gòu)化環(huán)境中（如海上防空）執(zhí)行防御任務(wù)的系統(tǒng)，所要求的實時人類干預程度，可能遠低于一個在復雜城市環(huán)境中執(zhí)行攻擊任務(wù)的系統(tǒng)。在控制的范圍上，美國的立場強調(diào)對武器系統(tǒng)全生命周期的治理，包括嚴格的設(shè)計、測試、評估、驗證與確認流程，以確保系統(tǒng)的可預測性和可靠性。然而，其論述的重心明顯偏向于確保系統(tǒng)在部署前是安全和可控的，而在部署后的實時控制環(huán)節(jié)，則強調(diào)指揮官的最終判斷權(quán)和責任。在控制的性質(zhì)上，美國并不認為人類控制等同于對每一次交戰(zhàn)行動的“微觀管理”，而是強調(diào)人類通過設(shè)定交戰(zhàn)規(guī)則、限定作戰(zhàn)區(qū)域和目標類型等方式進行宏觀層面的指導和監(jiān)督。其立場的核心理據(jù)是，過于僵化和一刀切的控制標準，會束縛軍事創(chuàng)新，削弱其在未來高強度、快節(jié)奏沖突中的作戰(zhàn)效能和技術(shù)優(yōu)勢?？偠灾?，美國的方案旨在維護國家在發(fā)展和使用先進軍事技術(shù)上的最大自主權(quán)和靈活性，其本質(zhì)是一種基于國家內(nèi)部審查和指揮官責任的自律模式，而非接受具有普遍約束力的、具體的國際法律標準。其次，中國的立場呈現(xiàn)為一種強調(diào)底線思維和關(guān)鍵節(jié)點控制的審慎性框架。中國在官方文件中明確支持在致命性自主武器系統(tǒng)的全生命周期中實現(xiàn)人類控制，但在具體論述中，其最為突出和反復強調(diào)的，是對“致命環(huán)節(jié)”的“有效控制”。中國的提案清晰地將武器系統(tǒng)的功能區(qū)分為目標識別、追蹤、判斷和最終執(zhí)行攻擊等不同階段，并主張在最終授權(quán)使用致命武力的環(huán)節(jié)，必須保留人類的最終決定權(quán)或至少是有效的干預與終止權(quán)。這意味著，雖然系統(tǒng)可以在前期環(huán)節(jié)高度自主地運作，但在扣動扳機前的最后一刻，必須有一個人類的“剎車”機制。在術(shù)語上，中國有時使用“有效控制”，有時也提及“人始終處于控制回路中”，其核心意涵直指人類對致命性后果的最終否`決權(quán)。在立場理據(jù)上，中國一方面強調(diào)這是維護人類尊嚴和倫理底線的需要，防止出現(xiàn)機器決定人類生死的局面；另一方面，這也反映了其對當前人工智能技術(shù)可靠性的審慎評估以及對沖突意外升級風險的高度警惕。與美國強調(diào)的靈活性不同，中國的立場似乎在致命性問題上劃定了一條更為清晰的“紅線”。然而，值得注意的是，這一立場雖然在最終環(huán)節(jié)上看似嚴格，但對于非致命性的自主功能以及致命環(huán)節(jié)之前的高度自主化，則留下了相當大的發(fā)展空間。因此，中國的方案可以被解讀為一種戰(zhàn)略性的折中，既通過強調(diào)對致命性的控制來展現(xiàn)其作為負責任大國的形象，爭取國際道義支持，又避免了對其整體軍事智能化發(fā)展的過度束縛。再次，歐盟的立場體現(xiàn)為一種以法律為中心、追求全面治理的規(guī)范性框架。以法國和德國等主要成員國為代表的歐盟，在會議上持續(xù)推動構(gòu)建一個基于“有意義的人類控制”的法律文書。與美、中相比，歐盟的方案最為系統(tǒng)和全面。在術(shù)語上，它們堅持使用“有意義”一詞，并為其賦予了豐富的內(nèi)涵，通常包括三個要素：首先是人類對武器系統(tǒng)及其運作環(huán)境有充分的態(tài)勢感知和理解；其次是人類有能力對系統(tǒng)下達清晰的指令并監(jiān)督其執(zhí)行；最后是人類擁有在必要時隨時接管或中止系統(tǒng)運行的實際能力。在控制的范圍上，歐盟明確主張“有意義的人類控制”必須貫穿武器系統(tǒng)的整個生命周期，從最初的設(shè)計和數(shù)據(jù)訓練階段，到測試、部署、實際使用，再到事后的責任審查，每一個環(huán)節(jié)都應嵌入人類監(jiān)督和控制的機制。這是一種“全鏈條”的治理理念。在控制的性質(zhì)上，歐盟的立場不僅僅是一個技術(shù)或操作要求，更是一個法律要求，其根本目標是確保自主武器系統(tǒng)的任何使用都必須嚴格遵守國際人道法的各項原則。因此，人類控制的程度必須足以確保指揮官和操作人員能夠?qū)ζ湎逻_的命令所產(chǎn)生的法律后果承擔責任。這一立場根植于歐盟作為國際規(guī)范倡導者的身份認同，以及其內(nèi)部強大的公民社會和對人權(quán)、法治價值的高度重視。歐盟的方案是最具雄心也最具約束力的，它試圖將一個模糊的倫理概念轉(zhuǎn)化為一套可操作、可核查的國際法律準則。將三方立場進行比較，其分歧的深刻性便顯而易見。在核心理念上，美國追求的是“結(jié)果可控”下的“作戰(zhàn)靈活性”，中國追求的是“底線可控”下的“技術(shù)發(fā)展空間”，而歐盟追求的是“過程可控”下的“法律合規(guī)性”。在控制的焦點上，美國關(guān)注部署前的“系統(tǒng)可靠性”和使用中的“指揮官判斷”，中國聚焦于“致命時刻”的“人類否決權(quán)”，歐盟則著眼于“全生命周期”的“法律與倫理嵌入”。這些差異的根源，遠超技術(shù)層面的探討，觸及了三方更為根本的戰(zhàn)略文化和世界觀。美國的立場反映了其作為全球軍事領(lǐng)導者，對維持技術(shù)霸權(quán)和行動自由的執(zhí)著，其對國際法約束的天然警惕。中國的立場則體現(xiàn)了一個崛起中的大國在軍備控制領(lǐng)域復雜的心態(tài)，既希望展現(xiàn)負責任的形象并影響國際規(guī)則制定，又深切關(guān)注自身軍事現(xiàn)代化不受外部干擾，其對主權(quán)的強調(diào)和對關(guān)鍵節(jié)點控制的務(wù)實態(tài)度一以貫之。歐盟的立場則是其長期以來作為“規(guī)范性力量”角色的集中體現(xiàn)，它試圖通過推廣其基于法律和多邊主義的治理模式，來塑造一個更符合其價值觀的國際安全環(huán)境。這些深刻的分歧解釋了為何在《特定常規(guī)武器公約》框架下的談判會如此步履維艱。各方雖然都在談?wù)摗叭祟惪刂啤?，但他們對話語的理解和期望卻處在不同的維度，這使得尋找一個能夠彌合分歧的中間地帶變得異常困難。結(jié)論與展望本研究通過對2024年《特定常規(guī)武器公約》政府專家組會議上美國、中國和歐盟官方立場的比較分析，系統(tǒng)地揭示了國際社會在軍用人工智能“人類控制”標準問題上存在的深刻分歧。研究的核心結(jié)論是，盡管“人類控制”已成為各方普遍接受的話語共識，但在這一標簽之下，隱藏著三個截然不同且難以調(diào)和的規(guī)制范式。美國的“適當人類判斷”范式，本質(zhì)上是一種以國家為中心、強調(diào)作戰(zhàn)靈活性和技術(shù)優(yōu)勢的實用主義路徑；中國的“有效控制”范式，體現(xiàn)為一種聚焦關(guān)鍵節(jié)點、劃定倫理底線并保留發(fā)展空間的審慎性戰(zhàn)略；而歐盟的“有意義的人類控制”范式，則代表了一種以國際法為基石、追求全生命周期治理的全面規(guī)范性框架。這些范式之間的差異，不僅僅是技術(shù)細節(jié)或政策措辭的不同，更是源于三方在戰(zhàn)略文化、軍事哲學、技術(shù)發(fā)展階段以及對國際法作用認知上的根本分野。這