1、21/21第十二章 戰(zhàn)略與生存不情愿采納新的補(bǔ)救方式就會產(chǎn)生新的邪惡，因?yàn)闀r(shí)刻是最偉大的改革者。弗朗西斯培根在前面的章節(jié)我的討論貼近于技術(shù)可能性的牢固基礎(chǔ)。那個地點(diǎn)，我將冒險(xiǎn)深入到政治和人類行為領(lǐng)域。那個基礎(chǔ)是比較軟一些的，然而技術(shù)事實(shí)和進(jìn)化法則仍將在那個領(lǐng)域提供可靠的支持。被進(jìn)化的壓力推動的技術(shù)競賽，正把我們帶向未知的危險(xiǎn)，我們需要查找到應(yīng)付它們的方法。因?yàn)槲覀冊谇懊娌畈欢嗫吹搅嗣媾R的巨大的危險(xiǎn)，因此考慮停止盲目的奔馳是有意義的。然而我們能做些什么呢？個人克制作為個體，我們能夠克制自己不去做可能導(dǎo)致危險(xiǎn)能力的研究。的確，大多數(shù)人會克制，因?yàn)榇蠖鄶?shù)人不是第一線研究人員。但那個策略也不能阻止進(jìn)步

2、：在我們的多元化的世界，總有其他人會把研究工作向前推進(jìn)的。地點(diǎn)抑制個人克制的策略（至少在這件情況上）帶有簡單的無所作為的意味。但地點(diǎn)政策的策略又如何呢？比如游講議員提議并通過抑制某些研究的法律？這事實(shí)上也是一種個人行為，目的是強(qiáng)迫集體無所作為。盡管這種策略可能在某個都市，行政區(qū)，國家，或聯(lián)盟內(nèi)抑制研究，但也不能關(guān)心指導(dǎo)我們的方向，而只會使某些不受我們操縱的力量取得領(lǐng)導(dǎo)地位。這種類型的公眾運(yùn)動只能在人民掌握權(quán)力的地區(qū)停止研究，同時(shí)最大的成功可能也僅僅是打開了使一個更專制的國家成為領(lǐng)導(dǎo)力量的大門。在考慮核武器的情況下，爭論通常圍繞著單方面裁軍和非暴力（至少是非核化）抵抗。核武器能夠被用來摧毀軍事設(shè)

3、施和使恐懼氣氛蔓延，然而不能用來占據(jù)地區(qū)或者操縱人民不能直接地。核武器也不能抑制游擊戰(zhàn)爭和社會動亂，因此一個裁軍的策略和抵抗運(yùn)動具有某種程度的參考意義。從另一方面來講，單邊抑制納米技術(shù)和AI，將在抵抗不起作用的情況下導(dǎo)致單方面裁軍。一個好斗的國家會利用這些技術(shù)來攻占和統(tǒng)治（或消滅）象甘地的印度那樣的國家，或者武裝起來的為自由而獻(xiàn)身的戰(zhàn)士。這值得強(qiáng)調(diào)。沒有一些新的方法來改革世界上的專制性國家，簡單的壓制研究的運(yùn)動就不能取得完全的成功。而沒有完全的成功，任何要緊的成功都意味著民主國家的災(zāi)難。即使不能得到，這種類型的努力也將吸引激進(jìn)的人們的熱情和工作，使稀缺的人類資源白費(fèi)在無意義的策略上。更甚者，抑

4、制策略將會使研究者互相疏遠(yuǎn)，挑起盟友之間的爭斗并白費(fèi)更多的人類資源。這種無意義和分裂的前景使這一策略應(yīng)該被幸免。盡管如此，壓制是不可幸免會被提出的，因?yàn)樗唵味苯印拔ｋU(xiǎn)來了？讓我們停止它！”，還有地點(diǎn)立法的成功能夠保證短期的效果：“危險(xiǎn)來了？我們能夠現(xiàn)在就地停止它，在開始的時(shí)候。” 危險(xiǎn)在開始時(shí)可能會失敗，然而可能可不能引起每個人的注意。簡單壓制的念頭大概會誘發(fā)專門多方法。怎么講，地點(diǎn)政府壓制本地的危險(xiǎn)是個傳統(tǒng)，例如，通過阻止本地的污染者，減少本地的污染。通過地點(diǎn)抑制來阻止全球危險(xiǎn)大概也是類似的，不管可能有什么差不。我們將需要地點(diǎn)組織和政治壓力，但必須建立在一個可用策略的基礎(chǔ)上。全球抑制協(xié)議

5、在一個更有希望的途徑上，我們能夠用地點(diǎn)壓力通過磋商來達(dá)成可證實(shí)的，世界范圍的禁令。一個類似的策略可能能操縱核武器。然而停止納米技術(shù)和人工智能將造成問題的順序位置不同，至少因?yàn)橐韵聝蓚€緣故。第一，這些技術(shù)不象核武器是明確定義的：因?yàn)槟壳暗暮思夹g(shù)需要某些稀有的同位素，這和其他技術(shù)是有區(qū)不的。它能夠被定義同時(shí)（原則上）被禁止。然而現(xiàn)代生物化學(xué)逐步走向納米技術(shù)，現(xiàn)代計(jì)算機(jī)技術(shù)逐步走向AI。沒有一條自然分界線。由于每個小的進(jìn)步都將帶來醫(yī)學(xué)的、軍事的、經(jīng)濟(jì)的利益，我們?nèi)绾螛硬拍苓_(dá)成一個世界性的禁止協(xié)議呢？第二，這些技術(shù)比核武器更有效：因?yàn)榉磻?yīng)堆和武器系統(tǒng)都相當(dāng)大，通過觀看就能夠限制秘密力量的規(guī)模和強(qiáng)度。然

6、而危險(xiǎn)的復(fù)制機(jī)是專門微小的，AI軟件是無形的。我們?nèi)绾文苊靼啄硞€實(shí)驗(yàn)室差不多達(dá)到了突破的邊緣了呢？最后，我們?nèi)绾文苊靼啄硞€地下室中的黑客差不多達(dá)到了突破的邊緣了呢？通常的查證方法差不多不管用了，這也使得世界范圍內(nèi)的磋商和禁止變得幾乎不可能。面對正確的國際協(xié)議的壓力將使我們的道路更安全，然而協(xié)議只是簡單地抑制危險(xiǎn)的步伐。再一次，地點(diǎn)壓力成為可用策略的一部分。強(qiáng)制性全球抑制假如和平協(xié)議不起作用，人們可能會考慮用軍事力量來抑制危險(xiǎn)的進(jìn)步。然而因?yàn)榇嬖隍?yàn)證的問題，單獨(dú)使用軍事壓力是不夠的。強(qiáng)迫壓制進(jìn)步的需求會轉(zhuǎn)變?yōu)橐环N制服和占據(jù)敵對勢力的力量看起來不是個安全策略。還有，戰(zhàn)勝的力量本身會成為一個要緊的技

7、術(shù)力量，擁有巨大的軍事力量和使用它的意愿。這種力量能保證會壓制自己的進(jìn)步嗎？而且即使能夠，它能永久保持全球性的警惕嗎？假如不能，威脅就會秘密滋生，在一個活性盾的開放性研究被阻止的環(huán)境下。結(jié)果將會是災(zāi)難性的。民主國家中的軍事力量有巨大的用處，然而軍事力量本身不能解決我們的問題。我們不能通過一個制服和壓制研究的策略來得到安全。這些停止研究的策略不管是通過個人無作為，地點(diǎn)無作為，磋商協(xié)議，或是制服世界都大概注定會失敗。然而反對進(jìn)步的觀點(diǎn)仍然將扮演一個重要角色，因?yàn)槲覀冃枰x擇，聰慧地制定推遲威脅到來的目標(biāo)，直到我們能夠做好預(yù)備。警惕者的壓力是因該有的，然而應(yīng)該是關(guān)心引導(dǎo)進(jìn)步，而不是停止它。單邊領(lǐng)先假

8、如嘗試壓制AI和納米技術(shù)的研究是無意義和危險(xiǎn)的，那么相反的過程一個單方面的努力又如何呢？這是太緊迫的問題了。在民主國家中將不能在完全保密的情況下產(chǎn)生戰(zhàn)略性的突破。這需要太多的人和太多的時(shí)刻。由于蘇聯(lián)領(lǐng)導(dǎo)人能明白我們的努力，他們就會相當(dāng)關(guān)注，而我們的突破會被他們視為威脅。假如納米技術(shù)被作為一個秘密的軍事項(xiàng)目的一部分來開發(fā)，他們的情報(bào)分析家將會擔(dān)心某種小而有力的武器，或許是基于一種可編程的“微生物”。依照這種情況，我們的對手可能會搶先采取主動進(jìn)攻。因此民主國家在此技術(shù)上保持領(lǐng)先是重要的，而假如我們采納明顯的非威脅政策再加上這種力量我們就會特不安全。力量的平衡假如我們按照上述任何一個策略行動都將引起

9、激烈的沖突。壓制納米技術(shù)和AI的嘗試會觸及到研究者、企業(yè)、軍事組織、和病人的切身利益。嘗試通過這些技術(shù)來獲得單邊優(yōu)勢會引起我們和我們對手的競爭。所有的策略都會引起沖突，然而有必要使所有的策略都引起西方社會的分裂或者使世界變得惡劣嗎。為了尋求一條中間道路，我們要尋求一種建立在技術(shù)平衡基礎(chǔ)上的力量平衡。這看起來會延伸四十年來的和平狀態(tài)。然而那個地點(diǎn)的關(guān)鍵詞是“看起來”：立即到來的突破將會專門突然并動搖舊的平衡狀態(tài)。在過去，一個國家能夠承受幾年的技術(shù)落后并保持大致的軍事平衡。有了快速的復(fù)制機(jī)或先進(jìn)的AI，一天的落后差不多上致命的。穩(wěn)定的平衡看來確實(shí)是不可奢望的了。合作開發(fā)在原則上，存在一種方法能夠保

10、證在民主國家和蘇聯(lián)集團(tuán)之間取得技術(shù)平衡：我們能夠合作開發(fā)技術(shù)，共享我們的工具和信息。盡管這也存在明顯的問題，但至少是更實(shí)際一些。合作談判是可能的嗎？武器限制條約談判的失敗會立即出現(xiàn)在腦海，而合作看起來更復(fù)雜和更困難。然而真是如此嗎？在武器限制談判中，每一方都試圖阻止另一方的行動，這加深了他們的對抗關(guān)系。更有，它也引起歡迎武器限制的集團(tuán)和制造武器的集團(tuán)之間的沖突。更糟的，磋商圍繞著措辭和含義的爭論，每一方都有自己的語言并歪曲它本身的含義。從另一方面來講，合作使兩方面朝著一個共同目標(biāo)前進(jìn)，這能夠減緩對抗的關(guān)系；還有，它也能夠減輕每個集團(tuán)間的沖突，因?yàn)楹献鞯呐㈨?xiàng)目而不是消除項(xiàng)目；最后兩方會用

11、一種共同的語言來討論一種科學(xué)的和工程上的使用數(shù)學(xué)和圖表的語言。同時(shí)，合作有清晰的邊界和可見的結(jié)果。在1970年代中期，美國和蘇聯(lián)開展了一個聯(lián)合太空打算，在政治關(guān)系緊張之前他們差不多在為一個聯(lián)合太空站作了一些試驗(yàn)性打算。這不是孤立的事件，在太空或在地面，聯(lián)合打算和技術(shù)交換差不多進(jìn)行了專門多年了。盡管有問題，技術(shù)合作也可保證至少和武器限制一樣容易也許更容易，考慮到后來的更大的努力。在AI和納米技術(shù)被關(guān)注的情況下，合作和有效的武器限制將是相似的。要核實(shí)武器操縱條約需要持續(xù)地親熱地由一方的專家去觀看另一方的實(shí)驗(yàn)室一種和可想象的最完全的合作接近的關(guān)系。然而合作會出現(xiàn)什么結(jié)果？它可能能保證平衡，然而平衡不

12、能保證穩(wěn)定。假如兩個面對面的持槍的槍手互相都高度恐懼，他們的力量是平衡的，然而首先開槍的一個能夠消除另一個的威脅。在技術(shù)開發(fā)中的合作，除非認(rèn)真打算和操縱，將會給每一方提供可怕的武器而卻不提供防護(hù)。誰能保證其中的一方能突然打擊而不受損害？即使有人能保證這一點(diǎn)，那么其他力量的問題呢還有愛好者呢？以及意外事件呢？在上一章我描述了這些問題的一種解決方案：開發(fā)，測試，并構(gòu)造活性盾。它提供了對新問題的一種新的補(bǔ)救方法，還沒人能提出另一種可供選擇的方案。假如有人提出了，我們應(yīng)該首先考慮如何建筑和是否它們能讓我們采取可用的對策。戰(zhàn)略的綜合個人克制，地點(diǎn)抑制，選擇延遲，國際協(xié)議，單方增強(qiáng)，和國際合作所有的策略都

13、能關(guān)心我們?nèi)ヅ﹂_發(fā)活性盾?？紤]一下我們現(xiàn)在的情況，民主國家在科學(xué)和技術(shù)的大部分領(lǐng)域處于世界領(lǐng)先地位差不多幾十年了，我們今天在計(jì)算機(jī)和生物技術(shù)方面處于領(lǐng)導(dǎo)地位，因此，我們是領(lǐng)導(dǎo)力量?？雌饋硪矝]有理由講我們不能保持這種領(lǐng)先地位。象上一章所討論的，領(lǐng)導(dǎo)力量將能使用幾種策略來掌握組裝機(jī)突破。這包括使用密封組裝機(jī)實(shí)驗(yàn)室和受限的組裝機(jī)，并保守初始組裝機(jī)開發(fā)的秘密。在我們使用這些策略的同時(shí)，我們能夠開發(fā)活性盾技術(shù)。這種技術(shù)反過來又能夠關(guān)心我們實(shí)現(xiàn)一個安全的，多樣性的以后。這一策略的第二部分和目前的敵對力量之間的政策相關(guān)。那個地點(diǎn)，我們必須保持主動并把威脅降到最低。技術(shù)平衡可不能起作用，我們也不可能放棄領(lǐng)先

14、地位。這使得力量和領(lǐng)導(dǎo)成為我們的僅有的真正的選擇，并使得非威脅姿態(tài)更難實(shí)現(xiàn)。那個地點(diǎn)我們再一次需要穩(wěn)定的、可信賴的機(jī)構(gòu)：假如我們能使它們用心地朝向目標(biāo)，那么即使我們的對手也將在一定程度上信任它。為了使我們的對手（和我們自己）安心，這些機(jī)構(gòu)應(yīng)該盡可能地開放，并與他們的任務(wù)一致。我們也能建立一個機(jī)構(gòu)扮演與蘇聯(lián)合作的角色。通過邀請他們參與，即使他們拒絕我們提出的條件，我們也能夠傳達(dá)我們的意圖使他們放心。假如蘇聯(lián)情愿同意，他們就能得到聯(lián)合開發(fā)的一個立足點(diǎn)。假如民主社會在突破到來時(shí)依舊強(qiáng)大，假如我們能幸免威脅到任何政府操縱它的版圖，那么我們的對手可能就可不能覺得攻擊有什么好處。因此，我們就可能不通過合作

15、來完成，假如需要的話。活性盾 vs 太空武器考慮我們會如何樣在更傳統(tǒng)的領(lǐng)域應(yīng)用活性盾是有用的。在傳統(tǒng)上，防備需要使用和進(jìn)攻一樣的武器。這也是“防備”意味著“制造戰(zhàn)爭的能力”的一個緣故，和什么緣故對“防備”的努力也使對手可怕的理由。目前提出的太空防備將擴(kuò)展這種形式。幾乎任何能夠摧毀導(dǎo)彈的防備系統(tǒng)都能夠摧毀對方的防備或加強(qiáng)空間的封鎖，阻止對方搶占制高點(diǎn)。這種“防備”有進(jìn)攻的味道，因此軍備競賽會導(dǎo)致另一種危險(xiǎn)的飛躍。進(jìn)攻和防備是如此不可分的嗎？從歷史上來看是如此。城墻在有戰(zhàn)士防守的情況下才能夠阻擋入侵者，然而戰(zhàn)士也能夠去入侵不的國家。當(dāng)我們想象武器的時(shí)候，通常也會想象出使用它的手和使用它的意愿歷史教

16、育我們要想到最壞的情況。而今天，歷史上第一次，我們開始學(xué)習(xí)如何樣建筑和武器有本質(zhì)不同的防備系統(tǒng)。考慮在太空的例子，我們現(xiàn)在能設(shè)計(jì)能夠傳感（看起來象一千枚導(dǎo)彈剛剛發(fā)射），處理（看起來是企圖首先打擊），和動作（摧毀那些導(dǎo)彈?。┑难b置。假如一個系統(tǒng)只能反擊一堆導(dǎo)彈，那么它就不能被用來進(jìn)攻或做太空封鎖，更好的，它能夠被設(shè)計(jì)成不能區(qū)不進(jìn)攻方。盡管設(shè)計(jì)者可能有戰(zhàn)略意圖，它也不聽從任何將軍的命令。它只能把太空變成進(jìn)攻導(dǎo)彈的危險(xiǎn)區(qū)域。象海洋和山脈限制了早期戰(zhàn)爭一樣，它會為每一方都提供一些防護(hù)。盡管會用到武器技術(shù)（傳感器，跟蹤器，激光，制導(dǎo)裝置，等等），但這種防備并不是武器系統(tǒng)，因?yàn)樗慕巧簧鲜遣煌?。這種

17、類型的系統(tǒng)需要一個有區(qū)不的名稱：它們，事實(shí)上，是一種活性盾一個用來描述任何非威脅性的自動或半自動防備系統(tǒng)的詞語。通過為各方提供防備又不威脅對方，活性盾能夠減弱軍備競賽。由活性盾引起的技術(shù)，經(jīng)濟(jì)，和戰(zhàn)略的話題是復(fù)雜的，它們可能或不可能被應(yīng)用于前組裝機(jī)時(shí)代。假如它們是有用的，就會有幾種可能的建筑途徑。一種途徑是，合作的民主社會單方面建筑。為了讓其它的國家能檢驗(yàn)系統(tǒng)能夠和不能夠干什么，我們能夠同意多方視察關(guān)鍵性的設(shè)計(jì)、組件、以及生產(chǎn)過程。我們不必泄露所有的相關(guān)技術(shù)，因?yàn)槊靼资裁春兔靼兹绾稳プ鍪遣灰粯拥?。另一種不同的途徑，我們能夠合作開發(fā)防護(hù)系統(tǒng)，通過有限的技術(shù)轉(zhuǎn)讓和最低限度的合作和檢驗(yàn)的需求。我們在

18、禁止太空武器方面比禁止納米技術(shù)方面有更多的機(jī)會，這也許是最好的減少近期風(fēng)險(xiǎn)的路子。在選擇操縱軍備競賽的長期戰(zhàn)略上，我們必須考慮更多的幾步。在本章中我的簡單分析暗示了傳統(tǒng)的基于談判和可證實(shí)的限制的軍備操縱方法，不能用于納米技術(shù)。假如這是關(guān)鍵，我們就需要進(jìn)展不同的途徑。活性盾最終會提供一個新的，穩(wěn)定的方法來解決太空軍備競賽。通過探究這種方法，我們能夠探究所有活性防護(hù)系統(tǒng)的差不多原理。假如我們開發(fā)出了它們，我們就能夠獲得經(jīng)驗(yàn)，并能夠制定制度來保證我們的生存?；钚远苁且粋€基于新技術(shù)的新選項(xiàng)。要讓它們能工作需要工程上的制造性、各學(xué)科間的綜合、和國際上的戰(zhàn)略。它們提供了能讓我們幸免過去出現(xiàn)的僵持狀態(tài)的新選

19、擇。它們顯然也提供了一個解決非威脅性愛護(hù)問題的答案但不是個簡單的答案。力量、邪惡、無能和懶惰我差不多概要描述了納米技術(shù)和先進(jìn)AI系統(tǒng)將會帶給領(lǐng)導(dǎo)力量多大的威力能夠被用來摧毀生命的威力，或者延長并解放生命。由于我們不能停止這些技術(shù)的進(jìn)展，那么我們就必須應(yīng)對這種歷史上從來沒有過的濃縮的威力巨大的力量。我們需要一個相應(yīng)的組織機(jī)構(gòu)體系，為了能安全地掌握復(fù)雜的技術(shù)，那個體系必須具有推斷事實(shí)的各種方法；為了能安全地掌握力量，它必須能綜合有效的檢查和平衡，它的目標(biāo)和采納的方法必須對公眾開放并同意公眾審查；最后，因?yàn)樗荜P(guān)心我們?yōu)樾率澜绲旎?，因此它最好由我們的共同興趣指引，并限制在某些原則的框架內(nèi)。我們不能從

20、湊合開始，我們要依靠現(xiàn)有的機(jī)構(gòu)。它們是不同的，不是所有的機(jī)構(gòu)差不多上官僚主義的并都躲在巨大的灰色建筑中的；它們包括象自由出版，研究團(tuán)體，和先進(jìn)的網(wǎng)絡(luò)如此的充滿活力的機(jī)構(gòu)；這些分布廣泛的機(jī)構(gòu)關(guān)心我們操縱灰色的、官僚主義的機(jī)器。部分來講，我們面對的是一個關(guān)于限制濫用權(quán)力的古老而又一般的問題的新的版本。這可不能帶來巨大的和全然的新奇變化，同時(shí)有幾個世紀(jì)歷史的自由民主的法則和機(jī)構(gòu)也告訴了我們?nèi)绾螛咏鉀Q它。民主政府差不多掌握了能夠摧毀陸地和能夠抓住，監(jiān)禁和殺死人民的物理能力，然而我們能夠在這種能力下存活因?yàn)檫@些政府相當(dāng)和氣和穩(wěn)定。立即到來的時(shí)代將會給我們的機(jī)構(gòu)帶來更重的擔(dān)子。關(guān)于有代表性的政府、自由言論

21、、權(quán)力作用、法制、愛護(hù)人 權(quán)的原則依舊是至關(guān)緊要的。為了承擔(dān)新的責(zé)任，我們需要擴(kuò)展和振興這些原則和支持它們的機(jī)構(gòu)。愛護(hù)技術(shù)方面的言論自由也是至關(guān)緊要的。盡管我們面對一個巨大的挑戰(zhàn)，然而我們依舊有理由希望去面對它。因此，依舊有明顯的理由懷疑我們能迎接它，然而無望是傳染性的和令人討厭的，同時(shí)會使人沮喪。另外，無望也是未被證實(shí)的，盡管是熟悉的問題：邪惡我們太邪惡而不能做正確的事了嗎？無能力我們太笨而不能做正確的事了嗎？懶惰我們太懶而不去做預(yù)備嗎？盡管預(yù)測以后是玫瑰色的有點(diǎn)輕率，然而這些問題看來也不是不可解決的。民主政府是大的，臃腫的，同時(shí)有時(shí)造成暴行，但它們總體上來講并不邪惡，盡管它們?nèi)菁{那些能夠被稱為邪惡的人。事實(shí)上，它們的領(lǐng)導(dǎo)人要緊通過公開贊成那些傳統(tǒng)的好的方法來獲得權(quán)力。我們的首要危險(xiǎn)是那些看起來好的然而會引起災(zāi)難的政策，或者真正好的政策沒有被建立，公布和實(shí)現(xiàn)效力。民主遭受懶惰和無能的痛苦多于邪惡。無能因此是不可幸免的，然而是致命的嗎？我們?nèi)祟惿鷣泶_實(shí)是愚蠢和無知的，但我們常常設(shè)法組合我們的能力和知識的碎片來完成偉大的情況。沒人明白如何到達(dá)月球，也沒人學(xué)習(xí)過，然而差不多有十二個人在月球表面閑逛過了。我們在技術(shù)方面成功是因?yàn)槲覀儗W(xué)會了建立關(guān)心人們生成和測