目錄 1 31.1 31.1.1 31.1.2 51. 52. 61.1.3 81.1.3.1 81.1.3.2 131.1.3.3 201.1.4 251.1.4.1 251.1.4.2 261.2 271.2.1 281. 282. 283. 291.2.2 301. 302. 331.2.3 381. 382. 393. 394. 391.3 41對無人駕駛的過分樂觀宣傳降低了公眾對危害的防范意識。與一般的人工智能系統(tǒng)不同，無人駕駛車輛的安全性和可靠性必須達到或盡可能接近100才可以全面應(yīng)用。固開展引導(dǎo)和規(guī)范。美國的無人駕駛技術(shù)研究保持領(lǐng)先，管理立法機構(gòu)適時出臺相關(guān)政策法規(guī)，如《聯(lián)邦自動駕駛汽車政策》（2016年）、《自動駕駛法案》（2017年）路交通法（第八修正案）》（2017年）段；產(chǎn)業(yè)管理層面積極跟進，如《智能汽車創(chuàng)新發(fā)展戰(zhàn)略》（2018年）行了頂層規(guī)劃，《車聯(lián)網(wǎng)（智能網(wǎng)聯(lián)汽車）產(chǎn)業(yè)發(fā)展行動計劃》（2018年）產(chǎn)業(yè)體系的構(gòu)建并提出了車聯(lián)網(wǎng)的中長期規(guī)劃。自動駕駛汽車依賴計算機系統(tǒng)、人工智能技術(shù)、攝像與圖像識別、雷達探測、高精度地圖、高精度定位系統(tǒng)等的協(xié)同合作，利用電子控制單元（），下安全地行駛14；不調(diào)整汽車自身的架構(gòu)，不改動車輛原有的功能，而是在車身上集成自動駕駛所需的智能器件（含軟件和硬件）3；根據(jù)國際汽車工程師協(xié)會制定的標(biāo)準(zhǔn)，自動駕駛分為0～5共6個級別15。為使研究范圍、概念定義更加聚焦和精準(zhǔn)，本書將無人駕駛自動駕駛加以區(qū)分，無人駕駛指在完全沒有人類司機操作的情況下，由自動駕駛系統(tǒng)自動安全地操作機動車輛。行控制[2]機器處理與應(yīng)對策略。有研究者對社會的道德取向進行了調(diào)查，其中道德機器研究11最希望他人購買，但自身更愿意乘坐能夠保護乘客的無人駕駛汽車13。也有試驗得出了不同的結(jié)論，即參與者的道德傾向更高，更愿意舍己救人；特別是在考慮年齡因素后，參與者傾向于為了更多人的安全而采取措施（如控制車輛轉(zhuǎn)向路側(cè)）12。圖3-1采用探索性的案例調(diào)查和質(zhì)性研究方法17開展風(fēng)險識別研究，待討論的無人駕駛風(fēng)險涉細(xì)分方向。表3-1企業(yè)和政府案例范疇化編碼列表（部分（續(xù)表單一框架（見表32）：第一層為主范疇，包括6類安全風(fēng)險要素，其中，前3類為工程風(fēng)險，后3類為人文社會風(fēng)險；第二層為安全風(fēng)險要素的度量因子；第三層為安全風(fēng)險要素的度量問卷測量題項數(shù)。表3-2（續(xù)表本次調(diào)查通過網(wǎng)絡(luò)自填問卷的形式進行，借助長沙冉星信息科技有限公司的問卷星平臺進行問卷發(fā)放，時間為2020年7月25日至31日；共收到反饋問卷1310份，其中有效問卷1195份（有效率為91.22）。綜合考慮信度、結(jié)構(gòu)效度、區(qū)分效度、收斂效度、整體模圍刪減與修正，如單車安全部分的測量模型經(jīng)過調(diào)整后（見圖32）具有較好的擬合效圖3-2在信度方面，3個因子的Cronbach'sα系數(shù)取值分別為0.742、0.782、0.822（均在0.7占比為47.7，女性占比為52.3，比例更均衡；年齡在20～30歲、30～40歲的分別占28.6、35.1；學(xué)歷水平以大專、本科為主，分別占29.1、36.3，占比基本均衡，具3種狀態(tài)的調(diào)查對象共有838人，沒有集中于某一行業(yè)的情況；制造業(yè)信息傳輸、軟件和信息技術(shù)服務(wù)業(yè)人數(shù)占比稍高（分別為22.91、15.04），這些行業(yè)與無人駕駛關(guān)聯(lián)業(yè)工作過的調(diào)查對象有166人，從業(yè)時長的分布較為均衡，少于1年的占24.1，1～3年的占45.78，3～5年的占13.86，5～10年的占12.65，10年以上的占3.61；從業(yè)1～3年顯。圖3-3在信度方面，4個因子的Cronbach'sα系數(shù)取值分別為0.693、0.837、0.813、0.844（1個接障”外，其余因子的Cronbach'sα系數(shù)均大于0.7。在結(jié)構(gòu)效度方面，5個安全風(fēng)險模型的結(jié)▼表3-3（續(xù)表▼表3-4（續(xù)表▼表3-5（續(xù)表4、4，則二級節(jié)點得分為這3個三級節(jié)點得分的算術(shù)平均值4圖3-4產(chǎn)業(yè)風(fēng)險貝葉斯網(wǎng)絡(luò)節(jié)點概率分布如圖35全的419題，的概率為57%；在二級節(jié)點中，第三方測試認(rèn)證需求”的狀態(tài)比較危險，“不安全的概率為72%，配套保險業(yè)不足”的狀態(tài)也稍不安全，不安全”概率為45%，但其他二級節(jié)點的狀態(tài)較安全；一級節(jié)點產(chǎn)業(yè)風(fēng)險”在的概率為56%。圖3-5法律政策風(fēng)險貝葉斯網(wǎng)絡(luò)節(jié)點概率分布如圖36所示，三級節(jié)點的狀態(tài)都偏安全，大部分在70%以上，在的概率最低的304題，其安全”的概率也有64%；在二級節(jié)點中，準(zhǔn)空缺”和相關(guān)領(lǐng)域監(jiān)管空白的狀態(tài)較為不安全，其狀態(tài)在1的概率分別為60、56%，而另外2個節(jié)點狀態(tài)安全”的概率都在60以上；一級節(jié)點“法律政策風(fēng)險的狀態(tài)也較為安全，在的概率為58%。圖3-6表3-6（續(xù)表圖3-7政府管理部門的監(jiān)管采用控制監(jiān)管引導(dǎo)策略。以政府許可和準(zhǔn)入的模式，增強第三方測試認(rèn)證、安全認(rèn)證的真實性，加強對無人駕駛的核心部件軟件產(chǎn)品準(zhǔn)入流程的控的使用和流動機制。務(wù)。同無人系統(tǒng)的概念類似，多無人系統(tǒng)協(xié)同并不僅僅包括無人機、無人車及無人艇潛成各智能無人系統(tǒng)非協(xié)同作業(yè)時難以實現(xiàn)的目標(biāo)。歐洲中空長航時無人機項目于2015多、空客防務(wù)公司承擔(dān)具體設(shè)計研發(fā)工作；2016年，西班牙參與了該項目。2018國防部公開發(fā)布的《無人系統(tǒng)綜合路線圖（2017—2042）同化、安全化發(fā)展趨勢，闡明了對多無人系統(tǒng)協(xié)同網(wǎng)絡(luò)安全的研究規(guī)劃。2018年，緊隨其他國家，澳大利亞發(fā)布了其第一份機器人發(fā)展路線圖。該路線圖以澳大利亞在利基多無人系統(tǒng)協(xié)同所涉及的技術(shù)主要有以下兩個方面[21]自主無人系統(tǒng)的智能技術(shù)。研究無人機自主控制和汽車、船舶、軌道交通自動駕駛等智能技術(shù)，服務(wù)機器人、空間機器人、海洋機器人、極地機器人技術(shù)，無人車間智能的定位、導(dǎo)航、識別等機器人及機械手臂自主控制技術(shù)。在感知技術(shù)與認(rèn)知技術(shù)方面，在2019AudeBillard借助柔性執(zhí)行器，在視覺和觸覺感知方面取得進步，可提供自然柔順性，但仍需要對機器人感知機理進行進一步研究。GuillerminaLópezBendito提出觸覺地圖概念，從而形成全身各部位的觸覺系統(tǒng)。在智能單體研究方面，2015年，BrendenM.Lake提出型，提高從經(jīng)驗中逐漸形成常識的能力。2017年，GangYan在《生物神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)和。2019年，ShuguangLi提出群體機器人，通過試驗和仿真，驗證了24個物理機器人和10圖3-8多無人系統(tǒng)能夠自主地處理通信網(wǎng)絡(luò)中的數(shù)據(jù)和指令，并直接反映在多無人系統(tǒng)的行為同中的人工智能依賴的網(wǎng)絡(luò)節(jié)點多，數(shù)據(jù)交互頻繁，其協(xié)同控制中的通信交互安全保障通信造成大范圍影響，容易在依賴關(guān)系鏈上產(chǎn)生連鎖反應(yīng)3336。布各異的敏感數(shù)據(jù)在通信傳輸、信號處理及數(shù)據(jù)存儲過程中易受到虛假數(shù)據(jù)植入攻擊，可能導(dǎo)致出現(xiàn)敏感數(shù)據(jù)盜竊泄露等問題，危害內(nèi)部敏感數(shù)據(jù)的安全，同時導(dǎo)致特定任務(wù)加密方式相對于對稱加密方式計算量更大、計算時間更長，必須根據(jù)實際情況評估可行性。目前，針對3.2.1節(jié)中所述理論和技術(shù)的研究正在如火如荼地進行25，但同時，這些基礎(chǔ)理論框架和關(guān)鍵性技術(shù)中潛在的安全風(fēng)險也應(yīng)該得到重視。在《新一代人工智能發(fā)展規(guī)在應(yīng)用上給機器學(xué)習(xí)方法帶來較大的安全隱患。dddd等學(xué)習(xí)框架的深度學(xué)習(xí)。（obotpngy）是一個用于編寫機樣化的現(xiàn)實世界中實現(xiàn)對機器人的控制。目前，在機器人領(lǐng)域，是使用最為廣泛的一個平臺，其既有兼容性強的軟硬件接口，能夠支持、多關(guān)節(jié)機器臂控制、機器學(xué)習(xí)、3運動等，又有通用的文件格式及可視化界面。但是，由于的開源特性和自身特質(zhì)，所以當(dāng)代碼量較大時，存在漏洞的可能性較高，這對的商業(yè)應(yīng)用造成了一定的影響。noo、yoh、dddd等作為人工智能領(lǐng)域廣泛應(yīng)用的深度學(xué)習(xí)框最早、最成熟的是美國的全球定位系統(tǒng)（GlobalPositioningSystem，GPS），已經(jīng)有了大（InertialMeasurementUnit，IMU）的信息，然而IMU也有自身的問題，如果用于長時位多無人系統(tǒng)內(nèi)部和外部都有許多網(wǎng)絡(luò)設(shè)備，因此網(wǎng)絡(luò)設(shè)備安全也需要重點考慮。5、人工智能、（軟件定義網(wǎng)絡(luò)）、V（網(wǎng)絡(luò)功能虛擬化）網(wǎng)絡(luò)設(shè)備的更新。在5技術(shù)發(fā)展并成熟的過程中，大量新型設(shè)備被啟用，如5基站、終大眾視野；技術(shù)則催生了虛擬路由器、虛擬防火墻等大量軟件形態(tài)的網(wǎng)絡(luò)設(shè)備。干擾或自身系統(tǒng)出現(xiàn)故障，無論作戰(zhàn)是由無人機群完成的，還是由有人-無人機群協(xié)同完成的，多無人系統(tǒng)中單體的失控都可能威脅其他單體的安全，如發(fā)生撞擊、墜毀或誤傷通常不超過500米，并遠離飛機場與軍事設(shè)施。民用無人機群的應(yīng)用環(huán)境更加復(fù)雜，更有積大等特點，其非法使用將會嚴(yán)重威脅人身財產(chǎn)安全。式，利用一對多無線通信來控制大量的無人機。而無人機集群作戰(zhàn)則更多利用分布式控性，將對整個無人機集群造成致命的危害。圖39記錄了2018年5月1日晚紅五月·西安城墻國際文化節(jié)”的無人機表演事故。圖3-9圖3-10的作戰(zhàn)模式將隨著多智能無人武器協(xié)同的出現(xiàn)而徹底改變20。在軍事上，我們不僅要具安全領(lǐng)域已有兩個著名的實例，一是武裝人