6Q/LB.□XXXXX-XXXX人工智能社會實驗實施指南1范圍本文件提供了人工智能社會實驗的基本原則和階段程序，包括了組織應(yīng)用、科學(xué)測量、綜合反饋等三個階段的操作和管理方法。本文件適用于人工智能社會實驗應(yīng)用主體、研究主體和技術(shù)主體等相關(guān)方開展人工智能社會實驗的組織實施工作，也適用于有關(guān)主體推進(jìn)智能技術(shù)社會應(yīng)用的場景實踐。2規(guī)范性引用文件下列文件中的內(nèi)容通過文中的規(guī)范性引用而構(gòu)成本文件必不可少的條款。其中，注日期的引用文件，僅該日期對應(yīng)的版本適用于本文件；不注日期的引用文件，其最新版本（包括所有的修改單）適用于本文件。GB/TXXXXXX《人工智能社會實驗設(shè)計指南》GB/TXXXXXX《人工智能社會實驗評價指南》3術(shù)語和定義下列術(shù)語和定義適用于本文件。將特定人工智能技術(shù)引入真實社會，形成人工智能應(yīng)用場景，采用實驗性方法，科學(xué)跟蹤和分析人工智能應(yīng)用場景中微觀個體、中觀組織、宏觀社會系統(tǒng)的發(fā)展變化，全面研判人工智能應(yīng)用的實際影響和潛在風(fēng)險，進(jìn)而提出促進(jìn)智能社會發(fā)展與治理的政策建議的過程。實驗場景experimentalscenario人工智能社會實驗進(jìn)行的具體背景和環(huán)境，包括實驗所處的地點(diǎn)、條件和相關(guān)的情境因素，涵蓋實驗的物理空間、設(shè)備和材料的配置，以及與實驗?zāi)康暮脱芯繂栴}相關(guān)的其他元素。研究對象experimentalsubject人工智能社會實驗中被研究者或研究團(tuán)隊選擇并進(jìn)行觀察、調(diào)查或?qū)嶒灥膫€體、組織、群體或現(xiàn)象。觀測變量observationalvar人工智能社會實驗中被觀察、測量或記錄的特征、屬性或量化指標(biāo)。Q/LB.□XXXXX-XXXX7組織應(yīng)用applicationorganizing建立組織實施機(jī)制，協(xié)調(diào)各方分工合作，明確技術(shù)與應(yīng)用場景、參與主體、實驗方案，有效防范倫理風(fēng)險，部署人工智能社會實驗的過程?？茖W(xué)測量scientificmeasurement選取合理的研究對象和觀測變量，采用科學(xué)的抽樣與分組方法，運(yùn)用多種數(shù)據(jù)收集和分析手段，開展人工智能社會實驗研究的過程。綜合反饋comprehensivefeedback對實驗過程和成果進(jìn)行全面評價，綜合技術(shù)、社會、文化等因素形成標(biāo)準(zhǔn)規(guī)范、政策建議等并反饋給相關(guān)方，開展人工智能社會實驗評估和反饋的過程。4概述4.1基本原則4.1.1以增進(jìn)福祉為目標(biāo)人工智能社會實驗的實施以推動社會和智能技術(shù)的協(xié)同發(fā)展、增進(jìn)人類福祉為根本導(dǎo)向，在技術(shù)應(yīng)用場景選擇、數(shù)據(jù)采集分析及成果轉(zhuǎn)化中，優(yōu)先促進(jìn)社會效益，防范技術(shù)應(yīng)用加劇社會分化，確保發(fā)展成果全社會共享。4.1.2保障個體基本權(quán)益人工智能社會實驗的實施嚴(yán)格保護(hù)個體基本權(quán)益，以技術(shù)進(jìn)步促進(jìn)個人發(fā)展。在實驗中保障生命健康、人身自由、個人隱私、私人財產(chǎn)等權(quán)利不受侵犯，充分尊重對人工智能技術(shù)接受程度和使用意愿的個體化差異。通過實施知情同意、隱私保護(hù)、風(fēng)險控制等全周期措施，保障參與者知情權(quán)、參加研究的自主選擇權(quán)與數(shù)據(jù)安全。4.1.3確?？伤輰徤靼萑斯ぶ悄苌鐣嶒灥膶嵤┐_保人工智能技術(shù)安全和系統(tǒng)可控，為人工智能技術(shù)的研發(fā)、應(yīng)用與共享提供敏捷包容的實驗環(huán)境。明確應(yīng)用主體、研究主體和技術(shù)主體等相關(guān)方的責(zé)任，推進(jìn)智能社會發(fā)展與治理多元參與，推動政府部門、科研院所、教育機(jī)構(gòu)、企業(yè)、社會團(tuán)體、社會公眾互動協(xié)調(diào)。開展倫理審查，建立敏捷的響應(yīng)與協(xié)調(diào)機(jī)制，及時發(fā)現(xiàn)和化解可能引發(fā)的風(fēng)險。構(gòu)建多方協(xié)同的開放式創(chuàng)新生態(tài)，推動治理規(guī)則與技術(shù)發(fā)展同步迭代。4.2程序階段人工智能社會實驗主要包括組織應(yīng)用（見第5章）、科學(xué)測量（見第6章）和綜合反饋（見第7章）三個程序階段（見附錄A具體來說，遴選有代表性的人工智能實驗場景，隨機(jī)建立實驗組和控制組，通過科學(xué)抽樣，甄別運(yùn)轉(zhuǎn)模式、行為軌跡、社會網(wǎng)絡(luò)和心理動態(tài)等泛意性概念，轉(zhuǎn)化為內(nèi)涵清晰、概念準(zhǔn)確的可測量指標(biāo)，采用科學(xué)的方法進(jìn)行測量和數(shù)據(jù)處理，分析智能化轉(zhuǎn)型的綜合影響，最終形成技術(shù)規(guī)范、技術(shù)標(biāo)準(zhǔn)、政策建議并進(jìn)行反饋。本文件以民生訴求處置場景為樣例，給出了人工智能社會實驗組織實施中各程序階段主要工作的參考示例（見附錄B）。Q/LB.□XXXXX-XXXX85組織應(yīng)用5.1明確技術(shù)類型選取具有典型代表性的人工智能技術(shù)，聚焦城市大腦、鄉(xiāng)村智治、智能交通等智能技術(shù)作用于社會的各類應(yīng)用場景，觀測人工智能技術(shù)對微觀個人、中觀組織或宏觀社會系統(tǒng)的綜合影響。明確人工智能技術(shù)的具體類型，充分考慮技術(shù)對于實驗的先進(jìn)性和適配性。5.2明確實驗場景具體實驗場景可選擇已有場景或新建場景；若為新建場景，宜充分評估，減少重復(fù)建設(shè)。新建的實驗場景宜符合相關(guān)政策規(guī)定，與經(jīng)濟(jì)社會高質(zhì)量發(fā)展中長期目標(biāo)保持一致。場景可有利于調(diào)動實驗有關(guān)的各項資源，用于基地場景建設(shè)、實驗布點(diǎn)、數(shù)據(jù)收集、風(fēng)險控制等，滿足觀測人工智能技術(shù)對微觀個人、中觀組織、宏觀社會系統(tǒng)等多層面和維度的綜合影響的需求。5.3明確參與主體實驗宜有明確的應(yīng)用主體、研究主體、技術(shù)主體，且各主體間分工明確。應(yīng)用主體具有承載實驗具體場景的建設(shè)條件，研究主體具有智能社會治理研究能力和參與相關(guān)領(lǐng)域政策制定的豐富經(jīng)驗，技術(shù)主體具有較強(qiáng)的實驗場景搭建水平。5.4明確實驗方案實驗方案可包含研究問題、實驗設(shè)計、樣本對象、數(shù)據(jù)測量、分析計劃、倫理考量等部分。實驗設(shè)計的有關(guān)考慮見GB/TXXXXXX《人工智能社會實驗設(shè)計指南》。5.5防范倫理風(fēng)險實驗宜明確倫理風(fēng)險監(jiān)測措施，制定應(yīng)急預(yù)案，注重全流程倫理風(fēng)險防控，開展必要的倫理審查，按要求跟蹤監(jiān)督人工智能社會實驗活動全過程，確保實驗符合法規(guī)政策、技術(shù)倫理、社會實驗倫理。根據(jù)實驗不同情形，可采取會議審查、簡易審查、應(yīng)急審查等倫理審查方式。倫理審查流程宜遵循申請與受理、審查、決定、跟蹤審查、申述與專家復(fù)核等步驟。驗領(lǐng)域的技術(shù)風(fēng)險以及實驗場景對研究參與者可能造成Q/LB.□XXXXX-XXXX9示例6：在實驗的組織實施方面，審查內(nèi)容主要包括：實施前對人工智能的系統(tǒng)穩(wěn)健性和安全性的風(fēng)示例8：在實驗結(jié)果的反饋方面，審查內(nèi)容主要包括：研究6科學(xué)測量6.1選取測量要素圍繞實驗要解決的社會問題或要達(dá)到的治理目標(biāo)，選取科學(xué)合理的測量要素。要素宜體現(xiàn)技術(shù)應(yīng)用對微觀個人、中觀組織或宏觀社會系統(tǒng)的綜合影響。6.2明確觀測變量將人工智能技術(shù)對組織運(yùn)轉(zhuǎn)模式、個人行為軌跡、社會網(wǎng)絡(luò)和心理動態(tài)的影響等泛意性概念，轉(zhuǎn)化為經(jīng)濟(jì)收入、出行方式變遷、機(jī)構(gòu)調(diào)整、滿意度和接受度等內(nèi)涵清晰、概念準(zhǔn)確的可測量數(shù)據(jù)指標(biāo)。示例1：評估人工智能技術(shù)在微觀個人層面產(chǎn)生的影響，可選取個體行為和個體主觀感受等作為觀測示例2：評估人工智能技術(shù)在中觀組織與行業(yè)層面產(chǎn)生的影響，可選取經(jīng)濟(jì)效益變化情況和產(chǎn)業(yè)生態(tài)發(fā)展情況等作示例3：評估人工智能技術(shù)在宏觀社會系統(tǒng)層面產(chǎn)生的影響，可選取政府治理與決策的效率效果和公共服務(wù)質(zhì)量的6.3科學(xué)抽樣與分組如研究人工智能應(yīng)用場景對特定地區(qū)或特定領(lǐng)域總?cè)丝诋a(chǎn)生影響的社會實驗，宜在綜合考慮總?cè)丝谝?guī)模、分布等因素基礎(chǔ)上，運(yùn)用科學(xué)的抽樣方法，選定具有代表性的被試對象。Q/LB.□XXXXX-XXXX根據(jù)社會實驗的主要目的和內(nèi)容，結(jié)合人口特征和可用資源，確定調(diào)查樣本總體。結(jié)合考慮樣本總體的人口規(guī)模、特征等多種實驗因素，評估使用概率抽樣或非概率抽樣，或根據(jù)實驗需要結(jié)合應(yīng)用兩類抽樣方法。根據(jù)科學(xué)采樣步驟中的隨機(jī)抽樣結(jié)果，科學(xué)設(shè)置實驗組和控制組，選擇合理的實驗類型和規(guī)范的抽樣方法。充分考慮特殊群體、弱勢群體、區(qū)域差異、數(shù)字鴻溝等問題，保證抽樣與分組過程符合知情同意、尊重隱私、平等保護(hù)、比例原則等倫理要求，保證實驗數(shù)據(jù)的科學(xué)性和代表性。示例1：評估人工智能技術(shù)在民生訴求處置場景中的綜合影響時，可選取實驗區(qū)域全域民生訴求相關(guān)主體作為樣本6.4數(shù)據(jù)采集與匯集依據(jù)科學(xué)、規(guī)范的社會科學(xué)測量手段，綜合利用觀察記錄、問卷調(diào)查、大數(shù)據(jù)捕捉與社會計算等方法，進(jìn)行數(shù)據(jù)采集與匯集，落實隱私保護(hù)、信息安全及公共安全防護(hù)措施，建立符合倫理準(zhǔn)則和數(shù)據(jù)安全要求的全生命周期數(shù)據(jù)管理體系。7綜合反饋通過科學(xué)測量情況，提取并形成關(guān)于人工智能技術(shù)在社會治理中的應(yīng)用效能，以及對提升公共服務(wù)質(zhì)量、優(yōu)化社會資源配置等產(chǎn)生具體影響的研究結(jié)論。相關(guān)結(jié)論可以論文、報告、專利、數(shù)據(jù)庫（平臺）等形式呈現(xiàn)，并確保其具有理論意義和科學(xué)價值。7.2綜合集成綜合考慮技術(shù)發(fā)展的可能性、社會個體的接受程度以及經(jīng)濟(jì)文化環(huán)境等因素，結(jié)合社會實驗過程和成效，形成標(biāo)準(zhǔn)、規(guī)范和政策建議等實驗成果。對實驗過程和成效進(jìn)行評價，內(nèi)容包括實驗場景建設(shè)情況、組織與保障機(jī)制、風(fēng)險防范與倫理審查、工作計劃執(zhí)行效果、實驗成果及轉(zhuǎn)化等。實驗評價的有關(guān)考慮見GB/TXXXXXX《人工智能社會實驗評價指南》。7.4成果反饋基于全周期的過程評價和多因素觀察，將人工智能社會實驗的成果進(jìn)行反饋，將形成的標(biāo)準(zhǔn)、規(guī)范、政策建議等，反饋給技術(shù)研發(fā)者和政府實踐應(yīng)用部門，為技術(shù)研發(fā)者提供方向指引，為政府實踐應(yīng)用部門提供決策依據(jù)，保障相關(guān)治理措施的有效跟進(jìn)和實施。Q/LB.□XXXXX-XXXX實驗階段劃分本附錄以流程圖的形式給出人工智能社會實驗組織實施的階段劃分，目的是為理解本標(biāo)準(zhǔn)中人工智能社會實驗的組織應(yīng)用、科學(xué)測量、綜合反饋等實施環(huán)節(jié)提供實踐參考。圖A.1實驗階段劃分Q/LB.□XXXXX-XXXX實驗實施參考示例本附錄以民生訴求處置場景為樣例，給出了人工智能社會實驗組織實施的參考示例，目的是為理解本標(biāo)準(zhǔn)中人工智能社會實驗的組織應(yīng)用、科學(xué)測量、綜合反饋等實施環(huán)節(jié)提供實踐參考。示例僅是為了說明相關(guān)實施過程，不保證適用于所有人工智能技術(shù)應(yīng)用場景。B.1組織應(yīng)用在民生訴求處置場景的人工智能社會實驗中，明確以人工智能技術(shù)革新民生訴求系統(tǒng)為核心目標(biāo)，聚焦信息收集、處理、反饋等全場景開展智能應(yīng)用實驗。實驗參與主體包括技術(shù)主體（負(fù)責(zé)搭建智能平臺）、研究主體（聯(lián)合應(yīng)用主體和技術(shù)主體開展實驗并提煉理論結(jié)論）及應(yīng)用主體（負(fù)責(zé)實際場景落地與協(xié)同）。實驗采用對比驗證型方法，按照“小切口、深層次、漸進(jìn)式”思路，針對民生訴求受理、分撥、處置、評價等關(guān)鍵環(huán)節(jié)設(shè)計實驗方案，選取智能平臺、系統(tǒng)應(yīng)用、業(yè)務(wù)清單、保障機(jī)制等不同服務(wù)模式進(jìn)行對照。同時建立組織實施機(jī)制，協(xié)調(diào)各方分工合作，在實驗過程中關(guān)注倫理風(fēng)險防范，重點(diǎn)觀測人工智能技術(shù)對民生訴求處置全流程的綜合影響。B.2科學(xué)測量實驗從微觀、中觀、宏觀三個層面選取測量要素并明確可測度指標(biāo)：微觀個人層面：市民提交民生訴求的方式便捷度、對訴求處置的滿意度；中觀組織層面：政府部門受理方式規(guī)范性、處置協(xié)同效率（具體包括分撥效率、處置速度、處置效果、服務(wù)態(tài)度、反饋質(zhì)量等）；宏觀社會系統(tǒng)層面：對社會治理“一網(wǎng)統(tǒng)管”模式的促進(jìn)作用。結(jié)合區(qū)域人口規(guī)模、民生訴求事件分布特征及治理資源差異，選取部分區(qū)域作為實驗組，其他區(qū)域作為控制組。實驗組通過搭建智能平臺，整合電話、郵箱、社交媒體賬號、應(yīng)用程序等多元民生訴求受理渠道，并納入“AI+視頻”等智能采集途徑實現(xiàn)統(tǒng)一受理分撥；深度融合人工智能算法與語義分析模型，構(gòu)建全流程智能辦件體系及主題分析模型。通過對受理、分撥、處置、督辦、評價等環(huán)節(jié)的數(shù)據(jù)采集與分析，量化評估技術(shù)應(yīng)用成效。B.3綜合反饋實驗完成后，結(jié)合綜合技術(shù)應(yīng)用效果、社會接受度及區(qū)域治理環(huán)境等因素，對