了效率與可及性。例如，2024年諾貝爾化學獎的得主中，DavidBaker因在蛋白質設計方面的了生物工程的發(fā)展；DemisHassabis和JohnJumper則因AlphaFold系統(tǒng)實現(xiàn)高精度蛋白質1NTI,TheConvergenceofArti?cialIntelligenceandtheLifeSciences,”2023-10-30,/wp-content/uploads/2023/10/NTIBIO_AI_FINAL.pdf2國務院新聞辦公室,“新時代的中國國家安全,”2025-05-12,/zfbps/zfbps_2279/202505/t20250512_894771.html2具備生物設計潛力的前沿AI模型在未經(jīng)充分風險評估和實施緩解措施的前提下以開源或開放權第十三屆全國人大常委會第二十二次會議于2020年10月17日表決通過了《中華人民共和國生億人死亡，占當時世界人口的2.5%-5%。5根據(jù)《2021年全球災難風險評估》，由生物因發(fā)的災難性風險（如自然疫情或生物武器攻擊）年均發(fā)生概率約為0.1%-0.5%。6雖然這一概學家公報》發(fā)布的“末日時鐘”聲明中，人工智能與生物風險成為討論重點。聲明指出：“人工智能的快速進步加劇了3以英語為母語的國家提及生物安全通常將“biosafety”與“biosecurity”作區(qū)分，翻譯成中文分別為“生物安全”和“生物安?！薄Ｇ罢咴从诜枪室獾娜祟愋袨?，4新華社,“習近平：完善重大疫情防控體制機制健全國家公共衛(wèi)生應急管理體系,”2020-02-14,/politics/leaders/2020-02/14/c_1125575922.htm5CédricCotter,“Fromthe'SpanishFlu'toCOVID-19,”2020-04-23,/law-and-policy/2020/04/23/spanish-?u-covid-19-1918-pandemic-?rst-world-war/6GlobalChallengeFoundation,“GlobalCatastrophicRisks2021:NavigatingtheComplexIntersections,”2021,/app/uploads/2023/06/Global-Catastrophic-Risks-2021--Navigating-the-Complex-Intersections.pdf7DanielM.Gersteinetal.,“EmergingTechnologyandRiskAnalysis-SyntheticPandemics,”2024-02-15,/pubs/research_reports/RRA2882-1.html3會阻礙重大科學突破”。82025年7月，超過35位的同時實現(xiàn)社會益處。參與聲明的專家包括圖靈獎得主姚期智和YoshuaBengio，以及9多位人工智能領域的專家發(fā)出了類似警告。Anthropic首席執(zhí)行官DarioAmodei曾在機制，風險將顯著上升。102025年5月，Anthropic推出了其新模型ClaudeOpus4，該模型首次預防性啟動了公司設定的“AI安全級別3(ASL-3)”標準，11正是基于對模型可能具備生物攻擊能力的擔憂，也部分印證了DarioAmodei此前的判斷。谷歌前首席執(zhí)行官、曾任美國國家人工智能安全委員會聯(lián)合主席EricSchmidt也指出AI可用于擴大病毒數(shù)據(jù)庫、合成新型化學物生命科學領域的專家也提出了同樣的擔憂。蛋白質設計先驅DavidBaker教授和GeorgeChurch教授在《科學》期刊發(fā)表了題為：《蛋白質設計遇見生物安全》的文章，DNA合成在容易被濫用以及用于生產(chǎn)危險的生物制劑。13已有180多位學者與行業(yè)領袖簽署《負責任的人并造成危害。148JohnMecklin,“2025DoomsdayClockStatement,”2025-01-28,/doomsday-clock/2025-statement/9AIxBioGlobalForum,StatementonBiosecurityRisksattheConvergenceofAIandtheLifeSciences,2025-07-17/analysis/articles/statement-on-biosecurity-risks-at-the-convergence-of-ai-and-the-life-sciences/10DarioAmodel,“Forahearingon'OversightofA.I.:PrinciplesforRegulation',”2023-07-25,/imo/media/doc/2023-07-26_-_testimony_-_amodei.pdf11Anthropic,“ActivatingAISafetyLevel3Protections,”2025-05-23,/news/activating-asl3-protections12AmandaMiller,“BioweaponsDesignedbyAI:a'VeryNear-TermConcern,'SchmidtSays,”2022-09-12,/bioweapons-designed-by-ai-a-very-near-term-concern-schmidt-says/13DavidBaker&GeorgeChurch,“Proteindesignmeetsbiosecurity,”2024-01-25,/doi/10.1126/science.ado167114ResponsibleAIxBiodesign,“CommunityValues,GuidingPrinciples,andCommitmentsfortheResponsibleDevelopmentofAIforProteinDesign”2024-03-08,https://responsiblebiodesign.ai/4報告通過對代表性技術融合趨勢、正向價值、風險識別、第1章：技術融合趨勢。本章聚焦三類對生命科學影響顯著的AI能5第2章：正向價值。本章介紹AI在生命科學領域可帶來的社會正向價值。AI工具已在藥物構、人工智能研發(fā)機構、生命科學產(chǎn)學研機構、安全與治理研究6●設計-構建-測試-學習(Design-Build-Test-Learn,DBTL)循環(huán)：是一種迭代式科學方●數(shù)字-物理界面(Digital-PhysicalInterface)：指生物學中將人工智能模型生成的數(shù)字設計轉化成生物現(xiàn)實的關鍵環(huán)節(jié)。這一轉化●生物安全(Biosafety)風險：源于非故意的人類行為，可能由生物實驗室中不恰當接●生物安保(Biosecurity)風險：指未經(jīng)授權的獲取、丟失、盜竊、濫用、轉移或故意●生物武器(Biologicalweapon)：是指非和平用途的微生物劑、生物毒素或其他生物●生物攻擊(Biologicalattack)：是指出于敵意目的，蓄意使用病原體、毒素或其他生●生物風險鏈(Bioriskchain)：是一個概念模型，用于系統(tǒng)性地描述從意圖到生物危害●兩用科學(Dual-usescience)：可應用于有益目的（如醫(yī)學或環(huán)境解決方案但也●基礎模型(FoundationModel)：在大規(guī)模廣泛數(shù)據(jù)上訓練的模型，使其可以適應廣●大語言模型(LargeLanguageModel,LLM)：最成熟和廣泛部署的基礎模型類型，專●大型X模型(LargeXModel,LxM)：基礎模型正逐步擴展其數(shù)據(jù)處理范圍，涵蓋圖●通用型人工智能(GeneralPurposeAI,GPAI)：通常基于深度學習等方法構建，可執(zhí)●生物通用型人工智能(Biologicalgeneral-purposeAI)：因AlphaFold3已能完成生●生物設計工具(Biologicaldesigntool或Biodesigntool,BDT)：指通過對生物序列所需序列或結構能力的AI模型與工具。與僅用于預測的●AI賦能的生物工具(AI-enabledbiologicaltool,BT)：指基于生物數(shù)據(jù)開發(fā)，并通過●自動化科學(AutomatedScience)：指通過AI實現(xiàn)科學發(fā)現(xiàn)流程的自動化，或將完整8安遠AI：方亮（主要撰寫人）、謝旻希、段雅文、王同時感謝國際基因工程機器大賽(iGEM 1 1.1基礎模型(FoundationModels) 11.2生物設計工具(BiologicalDesignTools,BDT) 21.3自動化科學(AutomatedScience) 3 4 62.1AI賦能生命科學的研究與應用 72.1.1改進科學發(fā)現(xiàn)流程：賦能DBTL循環(huán)(?AI) 72.1.2加速應用轉化過程：從科研到產(chǎn)業(yè) 92.2AI賦能生物安全治理的防御體系 2.2.1預測(Prediction) 122.2.2檢測(Detection) 122.2.3預防(Prevention) 2.2.4應對(Response) 13 153.1事故風險 3.1.1步驟：研究設計與信息收集 3.1.2步驟：材料采購與準備 163.1.3步驟：實驗操作與處理 173.1.4結果：意外泄漏 3.1.5結果：潛在傳播 3.2濫用風險 3.2.1步驟：研究設計與信息收集 3.2.2步驟：材料采購與準備 213.2.3步驟：實驗操作與處理 223.2.4結果：故意部署 233.2.5結果：潛在傳播 233.3結構性風險 233.3.1人工智能削弱生物安全防護體系 233.3.2人工智能放大生物技術的兩用風險 253.3.3人工智能引發(fā)新興生物安全挑戰(zhàn) 263.3.4人工智能和生物競賽引發(fā)制度性風險 283.4風險判斷的爭議與局限 293.4.1“現(xiàn)實部署執(zhí)行難” 293.4.2“邊際風險證據(jù)弱” 303.4.3“致命物質已夠多” 30 314.1獲取生物信息并進行策劃（針對通用型基礎模型） 324.1.1分析方法 324.1.2評估基準 324.1.3研究綜述 344.1.4歸納與展望 384.2合成有害生物制品（針對專用型AI賦能的生物工具） 384.2.1分析方法 384.2.2評估基準 384.2.3研究綜述 394.2.4歸納與展望 414.3其他風險模型 42 445.1政府監(jiān)管機構 44 445.1.2美國：認為生物威脅是本國的最大威脅 455.1.3英國：將生物武器列為二級風險 475.1.4歐盟：尋求“更美好世界中的歐洲安全” 495.2人工智能研發(fā)機構 505.3生命科學產(chǎn)學研機構 515.4安全與治理研究機構 52 55 576.1為人工智能-生物能力建立護欄 576.1.1技術防護措施 586.1.2風險監(jiān)測預警 596.1.3治理機制建設 606.2加強數(shù)字-物理界面的生物安全 626.3推進大流行病防范 646.4強化生物科研的安全倫理建設 65 687.1策略路徑與行動方職責矩陣 687.2各方角色和職責簡要總結 70o3（由OpenAI發(fā)布的生成式預訓練模型）所體現(xiàn)的發(fā)展趨勢可能對人工智能風險產(chǎn)生深遠影響?？茖W和編程能力的提升此前已為網(wǎng)絡攻擊和生1.1基礎模型(FoundationModels)當前，大語言模型(LargeLanguageModel,LLM)是最為成熟和廣泛部署的基礎模型，專一些面向特定領域優(yōu)化的大語言模型，如BioGPT已在專業(yè)發(fā)展，形成被稱為大型X模型(LargeXModel,LxM)的廣義大模型體系。多模態(tài)基礎模型有望15“Thetrendsevidencedbyo3couldhaveprofoundimplicationsforAIrisks.Advancesinscienceandprogrammingcapabilitieshavepreviouslygeneratedmoreevidenceforriskssuchascyberandbiologicalattacks.”YoshuaBengioetal.,“InternationalAISafetyReport2025,”2025-01-29,.uk/government/publications/international-ai-safety-report-20252率降低，其在生物學中的角色有望從輔助性工具向深層次知識生產(chǎn)與1.2生物設計工具(BiologicalDesignTools,BDT)的生物工具(AI-enabledBiologicalTools,BT)的核心組成部分。BDT主要指通過對生物序列數(shù)據(jù)（如DNA、RNA、蛋白質序列）進行訓練，生成具有預期功能的新型生物分子性工具包括AlphaFold、RFDi?usion、ProteinMPNN、ProGen2、Ankh，以及專用于DNA調控序列設計的ExpressionGAN等。多數(shù)BDT在架構上借鑒LLM，但其生物數(shù)據(jù)的建功能規(guī)律。例如，AlphaFold2展?了通過深度學習預測蛋白質子結構和功能的深入理解。2016JonasB.Sandbrink,“Arti?cialintelligenceandbiologicalmisuse:Di?erentiatingrisksoflanguagemodelsandbiologicaldesigntools,”2023-06-24,/abs/2306.1395217同注1(NTI,2023)18同注16(Sandbrink,2023)19因AlphaFold3已能完成生物領域多種預測任務，甚至無需微調，《國際人工智能安全報告》已人工智能(biologicalgeneral-purposeAI)。20同注1(NTI,2023)3構建-測試-學習”(DBTL)循環(huán)中扮演更核心的角色。值得指出的是，BDT是當前最具代表AI賦能生物工具(BT)子類，但并非BT的全部。BT還包括其他不系統(tǒng)的發(fā)現(xiàn)效率。221.3自動化科學(AutomatedScience)工具已被應用于科學研究過程的各個環(huán)節(jié)：文獻檢索、假的系統(tǒng)（如百萬級粒子相互作用并加速實驗迭代。例如，2009年機器人科學家“亞當”AutoGPT通過連接LLM的推理能力，聯(lián)動互聯(lián)網(wǎng)搜索與專業(yè)工具完成復雜目標；ChemCrow自主決策與反饋閉環(huán)實現(xiàn)。24更前沿的嘗試中，ChatGPT已能基于數(shù)據(jù)集自主提出假設、編寫分析代碼，并撰寫論文初稿，盡管仍需人工糾錯；GoogleDeepMind的AlphaEvolve系統(tǒng)則融21同注1(NTI,2023)22ChristopherJ.etal.,“Dynamiccontrolinmetabolicengineering:Theories,tools,andapplications,”2021-01,/science/article/pii/S109671762030144023同注1(NTI,2023)24ZJU,“Integratingproteinlanguagemodelsandautomaticbiofoundryforenhancedproteinevolution,”2025-02-11,/articles/s41467-025-56751-842.云實驗室和實驗室自動化在降低生物技術實驗專業(yè)3.宿主遺傳易感性對傳染病研究的兩用進展；4.病毒病原體精準工程的兩用進展。25毒學實驗故障排查、生物威脅設計問答、非專家在AI輔助下合成流感病毒、生物武器攻擊策圖1：各預測評估能力實現(xiàn)的中位數(shù)年份。黑點表?組中位數(shù)，黑25CNAS,“AIandtheEvolutionofBiologicalNationalSecurityRisksCapabilities,Thresholds,andInterventions,”2024-08-13,/publications/reports/ai-and-the-evolution-of-biological-national-security-risks52040年之間才會實現(xiàn)，但與SecureBio的聯(lián)合研究顯?，OpenAI的o3模型已在病毒學實驗故障排查測試(VirologyCapabilitiesTest,VCT)中表現(xiàn)出與頂尖病毒學專家相當?shù)乃?6，而這項能力原本被專家預測將在2030年之后才能達成。另一項能力?即大模型在應對長篇(long-form)生物威脅設計問題方面的強2726SecureBioetc.,“VirologyCapabilitiesTest,”2025-04,https://www.virologytest.ai/27BridgetWilliamsetal.,“ForecastingLLM-enabledbioriskandthee?cacyofsafeguards,”2025-07-01,/ai-enabled-biorisk6我一直在思考人工智能如何減少世界上一些最嚴重的人工智能與生命科學的深度融合是近年來的新興趨勢?，F(xiàn)代人工智能的基礎“深度學習”真正引發(fā)全球關注的是2021年由DeepMind團隊研發(fā)的AlphaFold，以及華盛頓大學Baker實驗室研發(fā)的RoseTTAFold。這兩項工具通過深度學習方法成功解決了長達50年的根據(jù)氨基酸序列預測蛋白質三維結構的科學難題。2024年，諾貝爾化學獎一半授予DavidBaker，以表彰其在計算蛋白質設計方面的貢獻；另一半則共同授予DemisHassabis和JohnJumper，以表彰他們在蛋白質結構預測方面的成就。進一步彰顯了人工智DemisHassabis曾指出，DeepMind利用AI在一年內完成了相當于“十億年博士研究工作量”華大學智能產(chǎn)業(yè)研究院和水木分子共同推出的全OpenBioMed30，打破了人類語言與生物分子語言之間的壁壘，使科研人員僅憑發(fā)周期。根據(jù)中國科學技術信息研究所發(fā)布的《AIforScience創(chuàng)新圖譜》31，生命科學是目前AIforScience應用最為豐富、潛力最大的方向之一，中美兩國已成為該領域的領先國家。28“I'vebeenthinkingalotabouthowAIcanreducesomeoftheworld'sworstinequities.IseeseveralwaysinwhichAIswillimprovehealthcareandthemedical?eld.AIswilldramaticallyacceleratetherateofmedicalbreakthroughs.”BillGates.,“Here'swhattheageofAImeansfortheworld,accordingtoBillGates,”2023-03-28,/stories/2023/03/heres-what-the-age-of-ai-means-for-the-world-according-to-bill-gates29DhrithiDeshpande,“Theevolutionofcomputationalresearchinadata-centricworld,”2024-08-22,/10.1016/j.cell.2024.07.04530清華大學AIR和水木分子,“OpenBioMed開源平臺,”2025-03,/PharMolix/OpenBioMed31中國科學技術信息研究所,“AIforScience創(chuàng)新圖譜,”2025-03-11,/s/DuZiHa8Kh5OYxOlJIoY3pg2.1AI賦能生命科學的研究與應用2.1.1改進科學發(fā)現(xiàn)流程：賦能DBTL循環(huán)(?AI)在合成生物學中，“設計-構建-測試-學圖2：AI賦能的生物工具對合成生物學數(shù)字-物理任務的影響，目前最大的能力提升(?AI)體現(xiàn)在構思和設計階段33AI賦能的生物工具可以通過提供數(shù)據(jù)驅動的實驗驗證指導、生成新的假設和想法以及32FengRenetal.,“Asmall-moleculeTNIKinhibitortargets?brosisinpreclinicalandclinicalmodels,”2024-03-08,/10.1038/s41587-024-02143-033NASEM,“TheAgeofAIintheLifeSciences:Bene?tsandBiosecurityConsiderations,”2025,/10.17226/2886881）構思(Ideas)和設計(Design)：大語言模型和基礎模型設生成，如CRISPR-GPT34和ChemCrow35。此外，基礎模型可通過預訓練與微調適應特定任準治療。非Transformer架構如Mamba37等也在探索中，以降低訓練與推理成本。多模態(tài)基礎2）構建(Build)與測試(Test)：自動化實驗室近年來，生物制造工廠開始用于生成AI訓練所需的數(shù)據(jù)集，從而以實驗室在環(huán)(labintheloop)方式加速AI模型迭代，減少DBTL所需的循環(huán)次數(shù)。這一方法強調將AI驅動的實驗設計與34YuanhaoQuetal.,“CRISPR-GPT:AnLLMagentforautomateddesignofgene-editingexperiments,”2024-10-15,/10.1101/2024.04.25.59100335AndresM.Branetal.,“Augmentinglargelanguagemodelswithchemistrytools,”2024-05-08./10.1038/s42256-024-00832-836JuanJoseGarau-Luisetal.,“Multi-modalTransferLearningbetweenBiologicalFoundationModels,”2024-06-20,/abs/2406.1415037AlbertGu,TriDao,“Mamba:Linear-TimeSequenceModelingwithSelectiveStateSpaces,”2023-12-01,/abs/2312.0075238HectorMartinetal.,“Perspectivesforself-drivinglabsinsyntheticbiology,”2023-02,/10.1016/j.copbio.2022.1028813）學習(Learn)：合成數(shù)據(jù)大。建議未來研究需關注生成質量控制、評估標準制定以及生成模型的可控性與可解釋性。392.1.2加速應用轉化過程：從科研到產(chǎn)業(yè)律的能力。預訓練大模型如xTrimoV3和Uni-RNA通過統(tǒng)一嵌入不同模態(tài)的數(shù)據(jù)，使模型具備企識別潛在“可成藥”靶點。例如，BenevolentAI和InsilicoMedicine等企業(yè)構建了靶點優(yōu)選39IliaShumailovetal.,“AImodelscollapsewhentrainedonrecursivelygenerateddata,”2024-07-24,/articles/s41586-024-07566-y在2024年，百圖生科發(fā)布全新生命科學基礎大模型xTrimoV3，擁有2100億參數(shù)，是當時態(tài)；在蛋白質領域，實現(xiàn)全球首個混合專家(MoE)架構；DNA序列長度突破12學、遺傳病預測和精準醫(yī)療領域提供更高的準確性。40AlphaFoldAI能夠揭?關鍵驅動基因與蛋白的活性位點和構象多樣性，指導設計更具成藥構與構象，生成具有理想藥理屬性的新分子。DavidBaker團隊提出的RFDi?usion就是這一方小分子藥物、抗體藥和mRNA疫苗設計中。據(jù)IDC統(tǒng)計，到2025年AI應用市場總值將達到1270億美元，其中大健康行業(yè)將占市場規(guī)模的五分之一。在制藥領域，中國公司是全球AI+制藥不可忽視的力量。截止2023年研發(fā)新藥已有超過100項成功進入臨床階段中國公司。4140鈦媒體AGI,“對話百圖生科：融資超14億元、訂單超142億元，下一步要做生命科學AI模型提供商,”2024-11-06,/zixun/yytrz_2858641新浪醫(yī)藥,“對話百圖生科：解碼生命語言，AI模型讓藥物研發(fā)更快、更準,”2024-11-04,/news/detail/5c21e0c97f8ae51db673c39391dedf03業(yè)如BensonHill則利用AI構建“基因-性狀-氣候”多維數(shù)據(jù)庫，推進耐逆種質資源的發(fā)掘工的AI施肥模型已在非洲和南亞部分地區(qū)取得顯著增產(chǎn)與減碳效頸并提出調控建議。以GinkgoBioworks為代表的公司已實現(xiàn)結合高通量篩選與機器學習優(yōu)化2.2AI賦能生物安全治理的防御體系應對四方面來增強生物安全并減輕生物威脅。42,43而AI作為生物安全治理的對象，將在后續(xù)的42同注33,(NASEM,2025)43AureliaAttal-Juncquaetal.,“AIxBio:OpportunitiestoStrengthenHealthSecurity,”2024-06-30,/abstract=4912422.2.1預測(Prediction)EVEscape等工具可快速識別高風險突變，并預測疫苗與抗體療法的有效性變化。這一預測能于人工智能探索和記錄隱藏的RNA病毒世界》研究，利用云計算與AI技術發(fā)現(xiàn)超16萬種新RNA一步推動RNA病毒疫苗的研發(fā)。44自美國弧形研究所、英偉達公司和斯坦福大學的研究人員開發(fā)的Evo2模型，基于超過12.8萬個基因組數(shù)據(jù)、9.3萬億個核苷酸進行訓練，在預測良性或致病性突變方面達到了90%以上的藥研發(fā)。這類高精度模型在傳染病、罕見病和病毒變異風險篩查等領域均具備應用前2.2.2檢測(Detection)例如，新南威爾士大學的EPIWATCH項目使用AI算法實時分析社交健康預警等信息。研究表明，該系統(tǒng)本可在2013年12月即檢測到西非44雷鋒網(wǎng),“AI發(fā)現(xiàn)16萬種新RNA病毒成果登上《Cell》后，我們和阿里云算法專家賀勇聊了聊,”2024-10-15,https://?/tech/roll/2024-10-15/doc-incsrkfy7666101.shtml45新華網(wǎng),“美研究機構發(fā)布生物學領域最大AI模型Evo2,”2025-02-20,/world/20250220/7c586b818a284d8d9a5e984d6a9d6994/c.html在醫(yī)學檢測方面，AI也可用于輔助診斷。美國生物醫(yī)學高級研究與發(fā)展局(BARDA)與Virufy、VisualDx合作開發(fā)的AI工具，分別可通過咳嗽音頻或皮膚圖像識別感染風險，未來有于實驗室資源有限的地區(qū)。AI驅動的便攜診斷工具有望將檢測能力延伸至邊遠地區(qū)或2.2.3預防(Prevention)Moderna和P?zer疫苗能在疫情初期迅速完成抗原穩(wěn)定化設計。同時，基于主導株預測結果，機制。根據(jù)2024年美國白宮科技政策辦公室(OSTP)發(fā)布的《核酸合成篩查框架》46，這類工2.2.4應對(Response)升對新發(fā)生物威脅的快速響應能力。例如，流行病防范創(chuàng)新聯(lián)盟(CEPI)推出的DiseaseX項目46OSTP,“FrameworkforNucleicAcidSynthesisScreening,”2024-04-29,/ostp/news-updates/2024/04/29/framework-for-nucleic-acid-synthesis-screeningAI還可加快抗病毒藥物與抗生素的研發(fā)進程。AI模型可以高效篩選龐大的以AlphaFold3為代表的蛋白質結構預測工具已在揭?病原體生物機制方面展現(xiàn)出巨大潛力。?美國微生物學家、生物武器專家及生物戰(zhàn)行政管理專家肯·阿利貝克(KenAl圖3：基礎模型和生物設計工具可能會改變意外或故意濫用生物學的風險格局4849圖4：生物風險簡化視圖：區(qū)分故意濫用與科研活4947“The?rststepwemusttaketoprotectourselvesistounderstandwhatbiologicalweaponsareandhowtheywork.”KenAlibek,“Biohazard,”1999,/nichsr/esmallpox/biohazard_alibek.pdf(NTI,2023)49CSET,“AnticipatingBiologicalRisk:AToolkitforStrategicBiosecurityPolicy,”2024-12,/publication/anticipating-biological-risk-a-toolkit-for-strategic-biosecurity-policy/3.1事故風險3.1.1步驟：研究設計與信息收集3.1.2步驟：材料采購與準備50同注49(CSET,2024)51SakanaAI,“TheAIScientist:TowardsFullyAutomatedOpen-EndedScienti?cDiscovery,”2024-08-13,https://sakana.ai/ai-scientist/52同注51(SakanaAI,2024)3.1.3步驟：實驗操作與處理相關歷史事件為上述風險提供了現(xiàn)實警?。2014年，美國疾病控制與預防中心(CD病菌；542015年，北卡羅來納大學教堂山分校實驗室在處理基因53Blackselletal.，“Laboratory-acquiredinfectionsandpathogenescapesworldwidebetween2000and2021:ascopingreview,”2024-02,/journals/lanmic/article/PIIS2666-5247(23)00319-1/fulltext54CDC,“CDCLabDeterminesPossibleAnthraxExposures:Sta?ProvidedAntibiotics/Monitoring,”2014-06-19,/www_cdc_gov/media/releases/2014/s0619-anthrax.html55ProPublic,“HereAreSixAccidentsUNCResearchersHadWithLab-CreatedCoronaviruses,”2020-08-17,/article/here-are-six-accidents-unc-researchers-had-with-lab-created-coronaviruses56EBRC,“SecurityConsiderationsattheIntersectionofEngineeringBiologyandArti?cialIntelligence,”2023-11,/publications-security-engineering-biology-arti?cial-intelligence/57FilippaLentzosetal.,“Laboratoriesinthecloud,”2019-07-02,/2019/07/laboratories-in-the-cloud/圖5：卡內基梅隆大學的云實驗室允許研究人員遠程操作200余臺科學設備58自動化系統(tǒng)在網(wǎng)絡安全方面的薄弱環(huán)節(jié)。59,60,612022年，BD公司的兩套實驗室設備也被曝存在嚴重漏洞：其Pyxis藥物管理系統(tǒng)因默認憑證未更新，允許遠程攻擊者竊取醫(yī)療數(shù)623.1.4結果：意外泄漏在AI驅動的自動化的實驗系統(tǒng)中，這一風險尤為突出。若A58同注25(CNAS,2024)59ThomasBrewster“Exclusive:HackersBreakinto'biochemicalsystems'atOxforduniversitylabstudyingCOVID-19,”2021-02-25,/sites/thomasbrewster/2021/02/25/exclusive-hackers-break-into-biochemical-systems-at-oxford-uni-lab-studying-covid-19/?sh=77cf49492a3960CharlieOsborne,“OxforduniversitylabwithCOVID-19researchlinkstargetedbyhackers.”，2021-02-26,/article/oxford-university-biochemical-lab-involved-in-covid-19-research-targeted-by-hackers/61PMC,“Cyberbiosecurityinhigh-containmentlaboratories,”2023-07-25,/articles/PMC10407794/62Fiercebiotech,“BDtopatchcybersecurityrisksfoundindrugdispensing,labmanagementtech,”2022-06-01,https://www.?/medtech/bd-patching-cybersecurity-risks-found-drug-dispensing-lab-management-tech3.1.5結果：潛在傳播3.2濫用風險3.2.1步驟：研究設計與信息收集全會議上進行了試驗，將一個名為MegaSyn的AI系統(tǒng)應用于毒性分子篩選，在6小時了4萬種假想的化合物，其中部分分子的毒性甚至超過強效MegaSyn本是AI藥物發(fā)現(xiàn)平臺，旨在尋找治療人類罕見病的新型了AI在毒素設計中被濫用的潛在風險，其生成和重構2023年6月，MIT的生物安全專家進行了一項測試，63CSET,“AnticipatingBiologicalRisk:AToolkitforStrategicBiosecurityPolicy,”2024-12,/publication/anticipating-biological-risk-a-toolkit-for-strategic-biosecurity-policy/64張芮晴,“生物技術與人工智能融合產(chǎn)生新興生物安全風險,”2024-01-26,/s/fRlfy1IJwz6ght3gq9Qjyw65FLI,“Chemical&BiologicalWeaponsandArti?cialIntelligence:ProblemAnalysisandUSPolicyRecommendations,”2024-02-27,https://futureo?/document/chemical-biological-weapons-and-arti?cial-intelligence-problem-analysis-and-us-policy-recommendations/66EmilySoiceetal.,“Canlargelanguagemodelsdemocratizeaccesstodual-usebiotechnology?,”2023-06-06,/abs/2306.0380920惡意行為者獲取可武器化生物制劑的能力。67,68,69特別是在有效解決實驗中的技術障礙、優(yōu)化其他經(jīng)常被低估的重大技術障礙。707171未來專業(yè)化生物AI可能實現(xiàn)目標導向的設計。74以Evo1和Evo2為例，模型已展?出高致病性的突變組合。盡管當前開發(fā)者已將可感染67OpenAI,“BuildinganearlywarningsystemforLLM-aidedbiologicalthreatcreation,”2024-01-31,/research/building-an-early-warning-system-for-llm-aided-biological-threat-creation68Rand,“TheOperationalRisksofAIinLarge-ScaleBiologicalAttacksResultsofaRed-TeamStudy,”2024-01-25,/pubs/research_reports/RRA2977-2.html69同注66(Soiceetal,2023)70同注25(CNAS,2024)7172同注15(Bengioetal.,2025)同注64(張芮晴,2024)73NoémieLefrancqetal.,“Learningthe?tnessdynamicsofpathogensfromphylogenies,”2025-01-01,/articles/s41586-024-08309-974雖然“蛋白質設計軟件”的可能性在幾年前還被視為遙不可及，但DeepMind于2018年推出的AlphaFold已成功實現(xiàn)僅質設計領域邁進，其發(fā)展軌跡或將重現(xiàn)AlphaFold在結構預測領域的革命性突破。75CAIS,“BiosecurityandAI:RisksandOpportunities,”2024-02-08,https://safe.ai/blog/biosecurity-and-ai-risks-and-opportunities21基于AI的蛋白質生成模型（如ProtGPT2、ProGen）支持從零設計自然界不存在的蛋白質練的蛋白質語言模型（如ESM等）也被廣3.2.2步驟：材料采購與準備eBay等網(wǎng)絡平臺亦出售大量學術實驗室的二手設備，包括DNA合成儀和高等級生物安全設序的DNA合成公司、分析合成商的工作流程并提出規(guī)避建議；在更復雜場景76NCBI,“NCBIVirus,”2004,/labs/virus/vssi/#/77同注75(CAIS,2024)78同注64(張芮晴,2024)79同注49(CSET,2024)80Roth,“AGuidetoDIYbio(updated2021),”2019-02-17,/a-guide-to-diybio-updated-2019-abd0956cdf7481同注65(FLI,2024)223.2.3步驟：實驗操作與處理工程任務中則尚待進一步觀察。83,84安全威脅。8582CMU,“Emergentautonomousscienti?cresearchcapabilitiesoflargelanguagemodels,”2023-04-11,/abs/2304.0533283Matinetal.,“Perspectivesforself-drivinglabsinsyntheticbiology,”2023-03,/science/article/pii/S095816692200215484同注49(CSET,2024)85同注75(CAIS,2024)233.2.4結果：故意部署3.2.5結果：潛在傳播3.3結構性風險3.3.1人工智能削弱生物安全防護體系他們也向國際基因合成聯(lián)盟(IGSC)的13個成員下了訂單，得到了11.5個回復?？傮w表明，2023年10月采用的DNA合成篩選實踐幾乎未能識別出大流行病毒等輕度偽裝的危險序列。研86其他領域的攻擊規(guī)劃案例：特斯拉Cybertruck拉斯維加斯爆炸案細節(jié)曝光：嫌犯曾向ChatGPT詢問如何制造爆炸物、爆87同注75(CAIS,2024)88OpenAI,“GPT-4SystemCard,”2023,/papers/gpt-4-system-card.pdf89R.ZwetslootandA.Dafoe.“ThinkingaboutrisksfromAI:Accidents,misuseandstructure,”2019-02-11,/article/thinking-about-risks-ai-accidents-misuse-and-structure24如將編碼蓖?毒素的基因分割成500個堿外，研究還分割了1918年流感大流行病毒、其他毒劑和潛增強核酸合成供應商的風險防控。90成訂單中的DNA/RNA序列與官方危險病原體數(shù)據(jù)庫中的已知基戰(zhàn)。新一代的蛋白質/分子設計模型（如AlphaFold、ProGen等）具備強大的結構預測與功能AI對生物安全攻防平衡(o?ense-defensebalance)的影響長期韌性中心(CentreforLong-TermResilience,CLTR)指出，LLM和BDT能在生物威脅制工具則更可能被用于進攻性目的。蘭德公司研究認為90ImportAI,“Voicecloningishere;MIRI'spolicyobjective;andanewhardAGIbenchmark,”2024-06-17,/p/import-ai-377-voice-cloning-is-here91同注64(張芮晴,2024)92CLTR,“UnderstandingAI-FacilitatedBiologicalWeaponDevelopment,”2023-10-18,/reports/understanding-risks-at-the-intersection-of-ai-and-bio/93同注68(Rand,2024)253.3.2人工智能放大生物技術的兩用風險人工智能與生物技術均具有顯著的兩用(dual-use)特性。在有助于疾病防控和公共健康的的更廣泛討論的焦點。圖靈獎得主YoshuaBengio牽頭的《國際人工智能安全報告》9694Pauwels,“HowtoProtectBiotechnologyandBiosecurityfromAdversarialAIAttacks?AGlobalGovernancePerspective,”2023-05-10,/chapter/10.1007/978-3-031-26034-6_1195同注64(張芮晴,2024)96同注15(Bengioetal.,2025)26圖7大語言模型、通用生物AI和病原體相關專用模型的兩用能力隨時間持續(xù)增強97值得關注的進展包括：大語言模型（LLM）回答有關生物武器釋放問題的準確率從15%提升至80%；2024年間，生物AI預測蛋白質與小分子（包括藥物和化學武器）相互作用的能力3.3.3人工智能引發(fā)新興生物安全挑戰(zhàn)97同注15(Bengioetal.,2025)27開放數(shù)據(jù)與生物風險并存。脊髓灰質炎病毒、與暴露。99特殊的網(wǎng)絡安全風險。近年來興起的“網(wǎng)絡-生物安?！?cyberbiosecurity)領域，即致力于識員泄露敏感生物信息或訪問高風險基礎設施的可能性。盡管取原本受控的敏感信息。102信息病毒(inforus)帶來生物安全的新興挑戰(zhàn)病”(infodemic)，從認知層面削弱生物安全體系的韌性。98同注64(張芮晴,2024)99同注65(FLI,2024)100Crawfordetal.,“Cyberbiosecurityinhigh-containmentlaboratories,”2023-06-25,/chapter/10.1007/978-3-031-26034-6_11101NIST,“NISTIdenti?esTypesofCyberattacksThatManipulateBehaviorofAISystems”,2024-01-04,/news-events/news/2024/01/nist-identi?es-types-cyberattacks-manipulate-behavior-ai-systems102Liuetal.,“JailbreakingChatGPTviaPromptEngineering:AnEmpiricalStudy”,2023-05-23,/abs/2305.13860103高福院士將信息流行病的病原體稱為信息病毒(inforus)，即信息(info)和病毒(virus)的合成詞。28威脅的應對機制。生成式AI加速了隱性知3.3.4人工智能和生物競賽引發(fā)制度性風險以及非專業(yè)人士更容易制造生物制劑等一系列風險。104104同注25(CNAS,2024)105NicolasCropperetal.,“Amodular-incrementalapproachtoimprovingcomplianceveri?cationwiththebiologicalweaponsconvention,”2023-09-25,/doi/10.1089/hs.2023.0078106NicoleWheeler,“ResponsibleAIinbiotechnology:balancingdiscovery,innovationandbiosecurityrisks,”2025-02-05,/39974189/107FinnMetz,“Whereweareonfor-pro?tAIsafety,”2024,/news/where-we-are-on-for-pro?t-ai-safety293.4風險判斷的爭議與局限3.4.1“現(xiàn)實部署執(zhí)行難”108同注65(FLI,2024)109Terwilliger,T.C.etal.,“AlphaFoldpredictionsarevaluablehypothesesandacceleratebutdonotreplaceexperimentalstructuredetermination,”2023-01-30,/articles/s41592-023-02087-4#citeas110LouiseMatsakis,“WhyAI-assistedbioterrorismbecameatopconcernforOpenAIandAnthropic,”2023-11-16,/article/11/15/2023/ai-assisted-bioterrorism-is-top-concern-for-openai-and-anthropic111Stanford,“ConsiderationsforGoverningOpenFoundationModels,”2023-12-13,/policy/issue-brief-considerations-governing-open-foundation-models112同注25(CNAS,2024)303.4.2“邊際風險證據(jù)弱”和鼠疫等傳統(tǒng)生物戰(zhàn)劑的致死概率；提供獲取帶疫嚙齒動物或跳避生物安全監(jiān)管的運輸方法。但研究也強調，這些建議3.4.3“致命物質已夠多”例如，知名創(chuàng)投公司a16z的生物與醫(yī)療健康團隊合伙人VijayPande曾批評過度渲染AI生113同注66(Soiceetal,2023)114NeelGuhaetal.,“AIRegulationHasItsOwnAlignmentProblem:TheTechnicalandInstitutionalFeasibilityofDisclosure,Registration,Licensing,andAuditing”,2024-12,/wp-content/uploads/AI_Regulation.pdf115WIKIPEDIA,/wiki/In?uenza_pandemic116THENATIONALACADEMIESPRESS,“BiodefenseintheAgeofSyntheticBiology,”2018,/catalog/24890/biodefense-in-the-age-of-synthetic-biology117AISnakeOil.,“WhattheexecutiveordermeansforopennessinAI,”2023-11-01,/p/what-the-executive-order-means-for118同注68(Rand,2024)119VijayPande,“AIIsaHealer,NotaKiller,”2023-12-27,/opinion/ai-is-a-healer-not-a-killer-arti?cial-intelligence-0f4ba7c9120同注25(CNAS,2024)314風險分析?圖靈獎得主大衛(wèi)·帕特森(DavidPatterson)121的風險管理從基于推測的風險模型走向基于物攻擊所需信息的能力；122,123,124,1252）合成有害生物制品。風險提升的假設是專用型AI賦能增強其毒性。126,127,128121DavidPatterson,“ForBetterorWorse,BenchmarksShapeaField,”2012?07-01,/doi/pdf/10.1145/2209249.2209271122CSET,“AIandBiorisk:AnExplainer,”2023-12,/publication/ai-and-biorisk-an-explainer/123CLTR,“Thenear-termimpactofAIonbiologicalmisuse,”2024-07,/wp-content/uploads/2024/07/CLTR-Report-The-near-term-impact-of-AI-on-biological-misuse-July-2024-1.pdf124CSIS,“AdvancedTechnology:ExaminingThreatstoNationalSecurity.ATestimonyby:GregoryC.Allen,”2023-09-19,/wp-content/uploads/Allen-Testimony.pdf125Gryphon,“WrittenStatementbyRoccoCasagrande,PhD,ExecutiveChairofGryphonScienti?c,”2023-12-06,/imo/media/doc/Rocco%20Casagrande%20-%20Statement.pdf126FAS,“BioxAI:PolicyRecommendationsforaNewFrontier,”2023-12-12,/publication/bio-x-ai-policy-recommendations/127Rand,“PreparingtheFederalResponsetoAdvancedTechnologies,”2023-09-19,/wp-content/uploads/Alstott-Testimony.pdf128GovAI,“ManagingRisksfromAI-EnabledBiologicalTools,”2024-08-05,ernance.ai/analysis/managing-risks-from-ai-enabled-biological-tools129AidanPeppinetal.,“TheRealityofAIandBiorisk,”2025-01-02,/abs/2412.01946324.1.1分析方法4.1.2評估基準歷史生物武器和生物恐怖主義使用領域、增強材料和設備。這包括與云實驗室簽約、隱藏DNA合成訂單、規(guī)避出口管制、檢索和分析危險DNA序列等相關知識。4.構建：評估模型或系統(tǒng)是否能提供幫助行與以下方面的知識：協(xié)助或解決病原體培養(yǎng)問題以生產(chǎn)130FMF,“IssueBrief:PreliminaryTaxonomyofAI-BioSafetyEvaluations,”2024-12-20,/updates/issue-brief-preliminary-taxonomy-of-ai-bio-safety-evaluations/33-GPQA是一個具有挑戰(zhàn)性的科學知識與推理數(shù)據(jù)集，包含448道由生物學、物理學和化學領域的專家編寫的多項選擇題。在相應領域擁士學位的專家的準確率達到65%，而盡管能不受限30多分鐘，技能高超的非專家驗證者的準確率僅為34%。-SciKnowEval基準測試旨在評估LLM的科學知識與推理能力，其靈感源自物、材料四大領域，系統(tǒng)地從記憶(博學)、理解(審問)、推理(慎思)、辨別(明辨)和應用(篤行)這五個科學知識的遞進層次對大型語言模型進行評估。該數(shù)據(jù)集涵蓋了生物學、化學、物理學和材料科學領域內7萬道多層次的科-MMLU-Pro(MassiveMultitaskLanguageUnderstanding-Professional)來自改進和擴充MMLU的12032多項選擇題，每題有10個選項，經(jīng)過專家審核以確保答案正確，并進行了其他質量提升。其Biology子集有717道題。與-LAB-Bench(LanguageAgentBiologyBenchmark)是一個多選題數(shù)據(jù)集,用于評估語言模型在實用生物學研究任務中的能力。它包括ProtocolQA-BioLP-bench是一項評估大型語言模型在理解生物實驗操作方案(biologicallaboratoryprotocols)方面熟練程度的基準。包含修改后的生物LLM對回答進行打分。3.危險生物知識評估：評估AI模型/-WMDP(WeaponsofMassDestructionProxy)是一組多選題，用于代理測量生物安全、網(wǎng)絡安全和化學安全領域的危險知識。WMDP-Bio包括生物武器、反向遺傳學、增強型潛在病原體、病毒載體研究和兩用-VCT(VirologyCapabilitiesTest)是一個關于實用病毒學濕實驗室技能的兩評估AI模型/系統(tǒng)能否拒絕生物相關險的科學領域：化學、生物學、醫(yī)學、藥理學、Biology子集是一個由600個基于法規(guī)的提?組成的子集，這些提?以ICD等病。模型將根據(jù)其拒絕或安全應對這些微妙生物危害的能力-SciKnowEval的部分評測強調模型對科學安全的認知能力，期望大型語言模型拒絕回答有害科學問題。BiologyHarmfulQA(L4)子集包括一系列出表1：生物威脅相關的能力和風險領域的基準344.1.3研究綜述2025SecureBio,CAISetc.VirologyCapabilitiesTest2025AnthropicClaude4SystemCard2025OpenAIo3ando4-miniSystemCard2025GDMGemini2.5ProPreviewModelCard2025AnthropicClaude3.7SonnetSystemCard2024AnthropicClaude3.5ModelCard2024GDMGemini1.5ProModelCard2024GDMEvaluatingFrontierModelsforDangerousCapabilities2024IvanovBioLP-bench:Measuringunderstandingofbiologicallabprotocolsbylargelanguagemodels2024Lietal.TheWMDPBenchmark2024Llama3.1ModelCard2024Llama3ModelCard2024OpenAIBuildinganearlywarningsystemforLLM-aidedbiologicalthreatcreation2024OpenAIo1SystemCard2024OpenAIGPT-4oSystemCard2024RANDTheOperationalRisksofAIinLarge-ScaleBiologicalAttacks:ResultsofaRed-TeamStudy352024SecureBioLabAssistanceBenchmark?Multimodal2024UKAISIAdvancedAIevaluationsatAISI2024USAISI&UKAISIUSAISIandUKAISIJointPre-DeploymentTest?Anthropic'sClaude3.5Sonnet2024USAISI&UKAISIUSAISIandUKAISIJointPre-DeploymentTest?OpenAIo12023Gopaletal.Willreleasingtheweightsoffuturelargelanguagemodelsgrantwidespreadaccesstopandemicagents?2023OpenAIGPT-4SystemCard2023Sarwaletal.BioLLMBench:AComprehensiveBenchmarkingofLargeLanguageModelsinBioinformatics表2：公開披露的人工智能x生物安全相關評測，在前沿模型論壇(FrontierModelForum)整理131基礎上做了補充MIT等機構的研究者就此主題開展了早期學術研究132，評估了LLM如何幫助用戶收集有關乎沒有或根本沒有接受過實驗室培訓的人”。然而，這項研究并未包含一個關鍵的基準—邊際風險，即通過LLM獲取信息與通過互聯(lián)網(wǎng)等來源同程度的專業(yè)知識。與之前的研究不同，這些小組時訪問LLM和互聯(lián)網(wǎng)的小組得分并未顯著高于沒有LLM訪問的小組。沒有一個小組只擁有LLM而沒有互聯(lián)網(wǎng)訪問權限。因此，僅擁有LLM的小組會表現(xiàn)如何仍未知。1131同注130(FMF,2024)132同注66(Soiceetal,2023)133SayashKapooretal.,“OntheSocietalImpactofOpenFoundationModels,”2024-02-27,/open-fms/paper.pdf134同注68(Rand,2024)36OpenAI在2024年初的一項研究納入了100名紅隊成員，規(guī)模是上述蘭德公司研究的兩倍多，統(tǒng)計學上的顯著提升。135OpenAI對多個模型的系統(tǒng)卡持續(xù)更新了模型在CBRN方面的風險評估。其2024年9月發(fā)布的GPT-4o到o1系列模型的系統(tǒng)卡顯?，評估結果發(fā)現(xiàn)o1-preview和o1-mini可協(xié)助專家制定重現(xiàn)已知生物威脅的計劃，因此將CBRN風險從低136上調為中137，此后發(fā)布的o3-mini系統(tǒng)卡維持了中風險評級。138這表明，雖然模型對于專家用戶可能具有一定DeepMind對Gemini1.5內部評估使用了三種方法，分別針對CBRN信息進行測試，初步定性結果顯?模型在應對提?時的拒絕率有所上升，定量能力未見提升。139Anthropic在Claude3學細節(jié)尚未完整報告。Claude3.5Sonnet保持在ASL-2的“無災難性危害”級別，ClaudeOpus4則成為首個預防性采用ASL-3標準的模型，但尚無法明確其是否達到該級別所對應的能力門檻。141Meta則與CBRNE專家合作，對Llama3.1進行了能力提升測試，比較了在模擬生專業(yè)背景差異較大等。此外，值得注意的是當前大多數(shù)研究均由同一家第三方機構GryphonScienti?c支持，這可能在一定程度上影響了研究視角的多樣性。因此，相關提升。斯坦福大學提出的“虛擬AI實驗室”143便展?了這一趨勢：該系統(tǒng)由多個大語言模型組135同注67(OpenAI,2024)136OpenA