第7章

大模型技術(shù)與應(yīng)用CONTENTS目錄7.1

大模型概述7.2

大模型的架構(gòu)與技術(shù)7.3

模型優(yōu)化與壓縮技術(shù)7.4

DeepSeek的技術(shù)原理與應(yīng)用7.5

WPSAI智能辦公應(yīng)用7.1

大模型概述7.1.1

大模型的特點(diǎn)（1）模型的規(guī)模巨大。一方面，大模型的參數(shù)數(shù)量巨大，達(dá)到數(shù)十億甚至數(shù)萬(wàn)億的參數(shù)。例如，GPT-3模型擁有1750億個(gè)參數(shù)，DeepSeek-R1模型有6710億個(gè)參數(shù)。另一方面，訓(xùn)練數(shù)據(jù)的規(guī)模巨大。（2）模型的泛化能力強(qiáng)?？珙I(lǐng)域的訓(xùn)練方式使得大模型具有很強(qiáng)的泛化能力，即它們可以處理新的、未見(jiàn)過(guò)的任務(wù)。7.1.1

大模型的特點(diǎn)（3）模型采用預(yù)訓(xùn)練加微調(diào)的學(xué)習(xí)方法。首先是利用大規(guī)模的無(wú)監(jiān)督數(shù)據(jù)來(lái)預(yù)訓(xùn)練模型，使其學(xué)習(xí)到語(yǔ)言的通用知識(shí)。這樣，模型就能夠理解語(yǔ)言的基本結(jié)構(gòu)和語(yǔ)義信息；接下來(lái)，在微調(diào)階段，模型會(huì)在特定任務(wù)的有監(jiān)督數(shù)據(jù)集上進(jìn)行訓(xùn)練。通過(guò)微調(diào)，模型可以進(jìn)一步學(xué)習(xí)特定任務(wù)的知識(shí)和規(guī)則，從而適應(yīng)特定任務(wù)的訓(xùn)練數(shù)據(jù)。（4）超高的算力需求。大模型訓(xùn)練對(duì)算力的要求較高，需要強(qiáng)大的計(jì)算資源來(lái)訓(xùn)練和運(yùn)行。訓(xùn)練周期可能長(zhǎng)達(dá)數(shù)周甚至數(shù)月。7.1.2

大語(yǔ)言模型大語(yǔ)言模型是指通過(guò)大規(guī)模預(yù)訓(xùn)練和自監(jiān)督學(xué)習(xí)技術(shù)構(gòu)建的深度學(xué)習(xí)模型，旨在提高計(jì)算機(jī)對(duì)自然語(yǔ)言的理解和生成能力。1．大語(yǔ)言模型的主要技術(shù)（1）預(yù)訓(xùn)練預(yù)訓(xùn)練是大語(yǔ)言模型的重要基礎(chǔ)，它通過(guò)在大規(guī)模語(yǔ)料庫(kù)上進(jìn)行訓(xùn)練，使模型學(xué)習(xí)到豐富的語(yǔ)言知識(shí)和上下文信息。這一過(guò)程極大地提高了模型的語(yǔ)言理解和生成能力。1．大語(yǔ)言模型的主要技術(shù)（2）自監(jiān)督學(xué)習(xí)自監(jiān)督學(xué)習(xí)是大語(yǔ)言模型訓(xùn)練的重要方式。通過(guò)自監(jiān)督學(xué)習(xí)，模型能夠自動(dòng)發(fā)現(xiàn)輸入序列中的規(guī)律和模式，從而無(wú)須人工標(biāo)注即可完成訓(xùn)練。1．大語(yǔ)言模型的主要技術(shù)（3）Transformer模型架構(gòu)Transformer模型由編碼器和解碼器兩部分組成。編碼器負(fù)責(zé)將輸入序列轉(zhuǎn)換成高維向量表示，解碼器則根據(jù)這些向量表示生成輸出序列。自注意力機(jī)制使模型能夠同時(shí)關(guān)注輸入序列中的多個(gè)位置，捕捉序列內(nèi)部的依賴(lài)關(guān)系。1．大語(yǔ)言模型的主要技術(shù)（4）多任務(wù)學(xué)習(xí)大語(yǔ)言模型通常被設(shè)計(jì)為能夠處理多種自然語(yǔ)言處理任務(wù)，通過(guò)多任務(wù)學(xué)習(xí)的方式，模型能夠在不同任務(wù)之間共享知識(shí)，進(jìn)一步提高其泛化能力。2．大語(yǔ)言模型的兩大模型體系大語(yǔ)言模型主要包括BERT系列和GPT系列等代表性模型。BERT模型通過(guò)在大規(guī)模語(yǔ)料庫(kù)上進(jìn)行預(yù)訓(xùn)練，學(xué)習(xí)到了豐富的語(yǔ)言知識(shí)和上下文信息，這使得BERT在處理各種自然語(yǔ)言任務(wù)時(shí)表現(xiàn)出色，如文本分類(lèi)、問(wèn)答系統(tǒng)等。而GPT模型則更注重生成能力，通過(guò)自回歸的方式生成連貫的文本序列。BERT擅長(zhǎng)深度理解文本含義，GPT專(zhuān)注生成連貫自然的內(nèi)容。3．大模型與大語(yǔ)言模型之間的關(guān)系7.1.3

主流大模型1．國(guó)內(nèi)主流大模型國(guó)內(nèi)主流大模型以深度適配中文場(chǎng)景、深耕垂直行業(yè)、構(gòu)建全流程合規(guī)體系為主要特點(diǎn)，同時(shí)結(jié)合本土數(shù)據(jù)與技術(shù)生態(tài)，形成差異化競(jìng)爭(zhēng)優(yōu)勢(shì)，努力滿(mǎn)足國(guó)內(nèi)市場(chǎng)需求。包括DeepSeek大模型、文心一言大模型、通義千問(wèn)大模型、混元大模型、豆包大模型、星火認(rèn)知大模型、Kimi大模型、智譜清言大模型、日日新大模型、盤(pán)古大模型、WPSAI等。7.1.3

主流大模型2．國(guó)外主流大模型國(guó)外主流大模型以技術(shù)前瞻性、多語(yǔ)言通用性、生態(tài)開(kāi)放性為主要特點(diǎn)，但本土化適配和合規(guī)性方面相對(duì)薄弱。包括ChatGPT大模型、Gemini大模型、Sora大模型、OpenAIo3大模型等。7.2

大模型的架構(gòu)與技術(shù)7.2.1

Transformer架構(gòu)Transformer架構(gòu)主要由編碼器（Encoder）和解碼器（Decoder）兩個(gè)部分組成。編碼器由多個(gè)相同的層組成，每一層都有兩個(gè)子層。第1個(gè)子層是自注意力模塊，第2個(gè)子層是一個(gè)前饋神經(jīng)網(wǎng)絡(luò)。編碼器首先通過(guò)自注意力機(jī)制對(duì)輸入序列進(jìn)行編碼，捕捉序列中的依賴(lài)關(guān)系和上下文信息。然后，通過(guò)一個(gè)前饋神經(jīng)網(wǎng)絡(luò)對(duì)自注意力模塊的輸出進(jìn)行非線(xiàn)性變換，得到編碼器的輸出。解碼器也由多個(gè)相同的層組成，每一層有3個(gè)子層。第1個(gè)子層是自注意力模塊，第2個(gè)子層是編碼器-解碼器注意力模塊，第3個(gè)子層是一個(gè)前饋神經(jīng)網(wǎng)絡(luò)。解碼器的任務(wù)是使用編碼器-解碼器注意力模塊，對(duì)編碼器的輸出和之前解碼器的輸出進(jìn)行交互，以生成當(dāng)前位置的輸出。最后，通過(guò)一個(gè)前饋神經(jīng)網(wǎng)絡(luò)對(duì)編碼器-解碼器注意力模塊的輸出進(jìn)行非線(xiàn)性變換，得到最終的輸出。7.2.2

自注意力機(jī)制1．自注意力機(jī)制的概念自注意力機(jī)制的核心在于計(jì)算序列中各個(gè)元素之間的相關(guān)性得分，這些相關(guān)性得分衡量了不同元素對(duì)最終表示的貢獻(xiàn)程度。相關(guān)性得分是通過(guò)一個(gè)函數(shù)計(jì)算得出的，該函數(shù)通常是一個(gè)神經(jīng)網(wǎng)絡(luò)模型。在自然語(yǔ)言處理領(lǐng)域，這個(gè)函數(shù)通常是一個(gè)變換矩陣，它將輸入序列中的每個(gè)元素映射到一個(gè)高維空間中，然后計(jì)算兩個(gè)元素之間的點(diǎn)積或余弦相似度作為它們之間的相關(guān)性得分。2．自注意力機(jī)制的實(shí)現(xiàn)步驟自注意力機(jī)制在大模型中的實(shí)現(xiàn)通常遵循以下步驟。（1）輸入表示將輸入序列中的每個(gè)元素（如單詞、圖像塊），通過(guò)線(xiàn)性變換等操作，分別映射得到對(duì)應(yīng)的查詢(xún)（Query）向量、鍵（Key）向量和值（Value）向量。（2）計(jì)算注意力得分為了計(jì)算不同位置之間的注意力得分，這些得分反映了不同位置之間的相互關(guān)系，即一個(gè)位置對(duì)另一個(gè)位置的重要性。2．自注意力機(jī)制的實(shí)現(xiàn)步驟（3）通過(guò)Softmax函數(shù)歸一化將注意力得分通過(guò)Softmax函數(shù)進(jìn)行歸一化，使得所有元素的注意力得分之和為1。這樣，每個(gè)元素的注意力得分就變成了一個(gè)概率分布，表示當(dāng)前元素對(duì)其他元素的關(guān)注程度。2．自注意力機(jī)制的實(shí)現(xiàn)步驟（4）加權(quán)求和在計(jì)算得到注意力得分矩陣后，模型會(huì)利用這些得分對(duì)輸入數(shù)據(jù)進(jìn)行加權(quán)求和。通過(guò)這種加權(quán)求和的方式，模型能夠聚焦于那些對(duì)當(dāng)前任務(wù)更為重要的位置，從而提升模型的性能。（5）輸出使用加權(quán)表示作為自注意力層輸出，其輸出可被后續(xù)層進(jìn)一步處理。7.2.3

編碼器和解碼器的作用原理1．編碼器的作用原理編碼器的主要任務(wù)是將輸入序列轉(zhuǎn)換為一個(gè)高維的、固定長(zhǎng)度的向量表示，即上下文向量（ContextVector）。這個(gè)過(guò)程通常通過(guò)神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)，具體步驟包括輸入處理、序列編碼、上下文向量生成。2．解碼器的作用原理解碼器的主要任務(wù)是基于編碼器生成的上下文向量，逐步生成目標(biāo)序列。這個(gè)過(guò)程同樣通過(guò)神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)，具體步驟包括初始化、序列生成、隱藏狀態(tài)更新、終止條件。7.2.3

編碼器和解碼器的作用原理3．自注意力機(jī)制模塊在編碼器-解碼器架構(gòu)中，自注意力機(jī)制是一個(gè)重要的擴(kuò)展。它允許解碼器在生成每個(gè)輸出符號(hào)時(shí)，能夠動(dòng)態(tài)地關(guān)注輸入序列的不同部分。解碼器就能夠更準(zhǔn)確地捕捉輸入與輸出之間的對(duì)應(yīng)關(guān)系，從而提高生成結(jié)果的質(zhì)量。7.3

模型優(yōu)化與壓縮技術(shù)7.3.1

知識(shí)蒸餾知識(shí)蒸餾是一種模型壓縮技術(shù)，旨在將一個(gè)大型的、復(fù)雜的模型（TeacherModel，教師模型）的知識(shí)遷移到一個(gè)較小的、較輕量的模型（StudentModel，學(xué)生模型）中，從而使學(xué)生模型在保持較高精度的同時(shí)，大大減小模型規(guī)模，其過(guò)程如圖所示。1．知識(shí)蒸餾的原理（1）教師模型的訓(xùn)練教師模型通常是一個(gè)復(fù)雜的深度神經(jīng)網(wǎng)絡(luò)，具有大量的參數(shù)和強(qiáng)大的表達(dá)能力。教師模型的訓(xùn)練過(guò)程與常規(guī)的深度學(xué)習(xí)模型訓(xùn)練過(guò)程相同。（2）學(xué)生模型的初始化初始化一個(gè)結(jié)構(gòu)更簡(jiǎn)單、參數(shù)更少的學(xué)生模型。學(xué)生模型的設(shè)計(jì)需要考慮計(jì)算資源的限制和推理速度的要求，它可以是教師模型的簡(jiǎn)化版本，也可以是完全不同的架構(gòu)。1．知識(shí)蒸餾的原理（3）軟標(biāo)簽的生成在知識(shí)蒸餾過(guò)程中，教師模型為訓(xùn)練樣本生成的概率分布（即經(jīng)過(guò)Softmax函數(shù)處理后的輸出）作為學(xué)生模型的監(jiān)督信號(hào)。這些軟標(biāo)簽提供了更多類(lèi)別間的相對(duì)信息，有助于學(xué)生模型學(xué)習(xí)到教師模型的決策邊界。1．知識(shí)蒸餾的原理（4）學(xué)生模型的訓(xùn)練使用教師模型的軟標(biāo)簽以及真實(shí)標(biāo)簽共同指導(dǎo)學(xué)生模型的訓(xùn)練，使學(xué)生模型能夠模仿教師模型的行為。學(xué)生模型的結(jié)構(gòu)通常比教師模型要簡(jiǎn)單，參數(shù)較少，但通過(guò)學(xué)習(xí)教師模型的知識(shí)，它可以在許多任務(wù)上接近或超過(guò)教師模型的性能。2．知識(shí)蒸餾的應(yīng)用在圖像分類(lèi)任務(wù)中，通過(guò)知識(shí)蒸餾可以將一個(gè)大型的卷積神經(jīng)網(wǎng)絡(luò)壓縮為一個(gè)較小的卷積神經(jīng)網(wǎng)絡(luò)，同時(shí)保持較高的分類(lèi)準(zhǔn)確率。7.3.2

模型剪枝與量化1．模型剪枝剪枝可以分為結(jié)構(gòu)化剪枝（如層內(nèi)剪枝，保留完整的神經(jīng)元組）和非結(jié)構(gòu)化剪枝（單獨(dú)剪除權(quán)重）。結(jié)構(gòu)化剪枝是在網(wǎng)絡(luò)層內(nèi)或?qū)娱g移除完整的神經(jīng)元組或?yàn)V波器。非結(jié)構(gòu)化剪枝是單獨(dú)剪除權(quán)重，而不考慮其在網(wǎng)絡(luò)中的位置。7.3.2

模型剪枝與量化2．模型量化量化可以分為均勻量化和非均勻量化兩種。均勻量化是將權(quán)重映射到固定的量化級(jí)別上，這些級(jí)別在數(shù)值上是均勻分布的。非均勻量化是根據(jù)權(quán)重分布自適應(yīng)地選擇量化級(jí)別。7.3.2

模型剪枝與量化3．模型剪枝與量化的應(yīng)用可以先通過(guò)剪枝移除不重要的權(quán)重，然后再對(duì)剩余的權(quán)重進(jìn)行量化。此外，還可以結(jié)合其他優(yōu)化技術(shù)，如稀疏化、低秩分解等，以實(shí)現(xiàn)更全面的模型壓縮和優(yōu)化。7.3.3

稀疏化與低秩分解稀疏化技術(shù)的核心思想是通過(guò)各種方法，將神經(jīng)網(wǎng)絡(luò)模型中的大部分參數(shù)壓縮或剔除，只保留對(duì)模型性能影響較大的關(guān)鍵參數(shù)。低秩分解則是通過(guò)奇異值分解（SingularValueDecomposition，SVD）等技術(shù)將神經(jīng)網(wǎng)絡(luò)中的權(quán)重矩陣近似為低秩矩陣。這種方法特別適合于全連接層，能實(shí)現(xiàn)顯著的模型大小壓縮。7.3.3

稀疏化與低秩分解1．稀疏化稀疏化技術(shù)旨在通過(guò)引入稀疏性（即大量權(quán)重為零）來(lái)減少模型的計(jì)算量和存儲(chǔ)需求。2．低秩分解低秩分解是將高維權(quán)重矩陣分解為多個(gè)低維矩陣的乘積的方法，以減少參數(shù)數(shù)量和計(jì)算復(fù)雜度。7.3.3

稀疏化與低秩分解3．稀疏化與低秩分解的應(yīng)用稀疏化技術(shù)可能需要在存儲(chǔ)稀疏矩陣時(shí)采用特殊的格式（如按行壓縮存儲(chǔ)、按列壓縮存儲(chǔ)等），以便在硬件上實(shí)現(xiàn)高效的稀疏矩陣運(yùn)算。低秩分解技術(shù)可能需要在分解過(guò)程中考慮模型的穩(wěn)定性和性能損失等問(wèn)題。7.4

DeepSeek的技術(shù)原理與應(yīng)用7.4.1

DeepSeek的技術(shù)原理1．核心技術(shù)（1）基于Transformer架構(gòu)的創(chuàng)新DeepSeek的模型基于當(dāng)前最先進(jìn)的Transformer架構(gòu)，該架構(gòu)利用自注意力機(jī)制有效處理序列數(shù)據(jù)中的長(zhǎng)距離依賴(lài)關(guān)系。同時(shí)，DeepSeek對(duì)Transformer架構(gòu)進(jìn)行了改進(jìn)與優(yōu)化，一是采用稀疏注意力機(jī)制，二是引入混合專(zhuān)家模型架構(gòu)。1．核心技術(shù)（2）更大規(guī)模的參數(shù)DeepSeek的大語(yǔ)言模型擁有數(shù)百億到數(shù)千億參數(shù)，更大的模型規(guī)模意味著更強(qiáng)大的語(yǔ)言理解能力、更豐富的知識(shí)儲(chǔ)備以及更自然的語(yǔ)言生成能力。2．訓(xùn)練方法DeepSeek采用多種先進(jìn)的技術(shù)和方法來(lái)訓(xùn)練其大語(yǔ)言模型，包括5個(gè)方面：分布式訓(xùn)練、混合精度訓(xùn)練、強(qiáng)化學(xué)習(xí)與多詞元預(yù)測(cè)、持續(xù)學(xué)習(xí)與微調(diào)、人類(lèi)反饋的強(qiáng)化學(xué)習(xí)。7.4.1

DeepSeek的技術(shù)原理3．工作流程（1）輸入處理用戶(hù)輸入文本或代碼片段后，DeepSeek通過(guò)分詞器將其轉(zhuǎn)換為模型可處理的詞元序列。同時(shí)，系統(tǒng)會(huì)進(jìn)行預(yù)處理，包括違法不良信息審核等。（2）專(zhuān)家選擇與推理模型根據(jù)輸入內(nèi)容動(dòng)態(tài)選擇最適合的專(zhuān)家網(wǎng)絡(luò)進(jìn)行處理。7.4.1

DeepSeek的技術(shù)原理3．工作流程（3）模型推理模型基于注意力機(jī)制計(jì)算每個(gè)位置的重要性權(quán)重，根據(jù)語(yǔ)言的統(tǒng)計(jì)規(guī)律、知識(shí)和對(duì)齊要求進(jìn)行推理和計(jì)算，預(yù)測(cè)下一個(gè)最佳詞語(yǔ)等，逐步生成文本。（4）輸出處理生成的文本或代碼經(jīng)過(guò)審核，確保內(nèi)容符合規(guī)范和要求后，將結(jié)果輸出返回給用戶(hù)。7.4.2

DeepSeek的應(yīng)用1．DeepSeek應(yīng)用領(lǐng)域DeepSeek已在多個(gè)領(lǐng)域得到廣泛應(yīng)用，包括文本處理、編程輔助、智能交互、數(shù)據(jù)分析和預(yù)測(cè)、內(nèi)容創(chuàng)作、其他應(yīng)用。2．DeepSeek應(yīng)用實(shí)戰(zhàn)（1）與DeepSeek進(jìn)行對(duì)話(huà)訪(fǎng)問(wèn)DeepSeek官網(wǎng)，單擊首頁(yè)的“開(kāi)始對(duì)話(huà)”會(huì)出現(xiàn)對(duì)話(huà)界面，在提示詞輸入框輸入提示詞。2．DeepSeek應(yīng)用實(shí)戰(zhàn)（2）DeepSeek的基本用法DeepSeek使用的基本原則是簡(jiǎn)單直接、自然表達(dá)，既能滿(mǎn)足日常需求，也能實(shí)現(xiàn)專(zhuān)業(yè)目標(biāo)，以便更精準(zhǔn)地獲取所需信息。（3）使用DeepSeek處理文檔單擊DeepSeek界面中的“回形針”圖標(biāo)上傳文件，然后，就可以在對(duì)話(huà)框中輸入提示詞。7.5

WPSAI智能辦公應(yīng)用7.5.1

智能文檔處理1．WPSAI幫我寫(xiě)在WPS文字主界面中，選擇“WPSAI”選項(xiàng)卡，單擊其中的“幫我寫(xiě)”按鈕，即可開(kāi)啟“幫我寫(xiě)”功能。1．WPSAI幫我寫(xiě)用戶(hù)只需在“幫我寫(xiě)”懸浮窗中輸入問(wèn)題，“幫我寫(xiě)”功能即可迅速生成大綱或全文，大幅提升寫(xiě)作效率，如圖所示。還可以在“AI幫我寫(xiě)”下拉列表顯示的場(chǎng)景中進(jìn)行選擇，單擊運(yùn)行按鈕即可生成文本。生成完成后，可根據(jù)需要選擇調(diào)整（續(xù)寫(xiě)、潤(rùn)色、擴(kuò)寫(xiě)、縮寫(xiě)）、重寫(xiě)、棄用或保留。輸入問(wèn)題后，單擊優(yōu)化指令按鈕，一句話(huà)的需求即可轉(zhuǎn)化為專(zhuān)業(yè)指令，AI生成內(nèi)容更符合用戶(hù)的預(yù)期?！皫臀覍?xiě)”功能，可一鍵生成自帶格式排版的各類(lèi)規(guī)范文書(shū)。還可去“靈感市集”探索，選擇想要的指令模板。在“AI幫我寫(xiě)”下拉列表中單擊“去靈感市集探索”按鈕，即可打開(kāi)“靈感市集”對(duì)話(huà)框。2．WPSAI幫我改在“WPSAI”選項(xiàng)卡中單擊“幫我改”按鈕或雙擊“Ctrl”鍵喚起WPSAI懸浮窗，根據(jù)需求選擇需要的操作即可。此外，也可以直接在“WPSAI”選項(xiàng)卡下單擊“續(xù)寫(xiě)”“擴(kuò)寫(xiě)”“重寫(xiě)”“縮寫(xiě)”或“潤(rùn)色”按鈕。用戶(hù)若對(duì)文本的措辭不滿(mǎn)意，可利用“幫我改”功能快速潤(rùn)色。利用該功能，用戶(hù)還可以根據(jù)需求，對(duì)文本風(fēng)格進(jìn)行調(diào)整。目前支持的風(fēng)格有：更正式、黨政風(fēng)、更活潑、口語(yǔ)化和更學(xué)術(shù)。

如果用戶(hù)覺(jué)得內(nèi)容有些簡(jiǎn)短或過(guò)長(zhǎng)，還可以利用“幫我改”功能實(shí)現(xiàn)一鍵擴(kuò)寫(xiě)或縮寫(xiě)，根據(jù)需求調(diào)整文本長(zhǎng)短。“幫我改”功能既能由詞擴(kuò)句，由句擴(kuò)段，由段生文，幫助用戶(hù)豐富文章細(xì)節(jié)，也能快速精煉內(nèi)容而不丟文意。3．WPSAI伴寫(xiě)在WPS文字的“WPSAI”選項(xiàng)卡中單擊“伴寫(xiě)”按鈕，在右側(cè)“AI伴寫(xiě)”窗格中單擊開(kāi)啟按鈕，如圖所示。“伴寫(xiě)”功能開(kāi)啟后，光標(biāo)將變?yōu)闈u變樣式，且左下角狀態(tài)欄將顯示伴寫(xiě)開(kāi)啟圖標(biāo)。

“伴寫(xiě)”功能可自動(dòng)理解前文內(nèi)容，實(shí)現(xiàn)快速響應(yīng)，用淺灰色文字實(shí)時(shí)提供內(nèi)容寫(xiě)作建議。用戶(hù)可以按“Tab”鍵或鼠標(biāo)單擊選擇滿(mǎn)意的內(nèi)容，順暢地接續(xù)寫(xiě)作思路。若對(duì)當(dāng)前續(xù)寫(xiě)不滿(mǎn)意，無(wú)須切換頁(yè)面，只需按“Alt+↓”鍵即可查看更多建議，獲取更多靈感。日常寫(xiě)作可選用“通用”角色輔助，而在更細(xì)分的寫(xiě)作場(chǎng)景中，可在“AI伴寫(xiě)”窗格中切換使用“行政”“教師”“運(yùn)營(yíng)”專(zhuān)業(yè)角色。

利用“伴寫(xiě)”功能，用戶(hù)可在寫(xiě)作過(guò)程中輕松地“引經(jīng)據(jù)典”，不用糾結(jié)如何遣詞造句，能提升表達(dá)深度。用戶(hù)在輸入古詩(shī)詞或名篇名作的部分內(nèi)容后，“伴寫(xiě)”功能將自動(dòng)識(shí)別并提示后文，如圖所示。

4．WPSAI排版在WPS文字的“WPSAI”選項(xiàng)卡中單擊“AI排版”下拉按鈕，然后單擊“更多類(lèi)型排版”選項(xiàng)即可打開(kāi)“AI排版”窗格，用戶(hù)可根據(jù)需要在窗格中選擇文檔類(lèi)型。4．WPSAI排版若要對(duì)學(xué)位論文進(jìn)行排版，用戶(hù)只需在“WPSAI”選項(xiàng)卡下單擊“論文排版”按鈕，在“AI排版”窗格中搜索學(xué)校名稱(chēng)，單擊“開(kāi)始排版”按鈕即可。若“AI排版”提供的文檔類(lèi)型無(wú)法滿(mǎn)足特定需求，用戶(hù)可自行上傳范文?！癆I排版”將智能識(shí)別格式，實(shí)現(xiàn)個(gè)性化智能排版。排版完成后，用戶(hù)可以勾選“顯示原文”復(fù)選框，“AI排版”會(huì)生成排版前后效果對(duì)比預(yù)覽，方便快速定位，進(jìn)行自定義調(diào)整優(yōu)化。7.5.2

智能數(shù)據(jù)分析1．WPSAI寫(xiě)公式用戶(hù)只需將光標(biāo)放置在需要寫(xiě)入公式的單元格上，在WPS表格的“WPSAI”選項(xiàng)卡中單擊“AI寫(xiě)公式”按鈕即可喚起WPSAI懸浮窗?！癆I寫(xiě)公式”可以通過(guò)文字描述，幫助用戶(hù)智能生成公式。例如，有學(xué)生成績(jī)表如圖所示，單擊H2單元格，然后在“AI寫(xiě)公式”懸浮窗中輸入指令“對(duì)C列到G列的數(shù)據(jù)求和”，WPSAI會(huì)自動(dòng)分析指令，并根據(jù)相應(yīng)的公式計(jì)算結(jié)果。對(duì)于不理解的公式，可通過(guò)鼠標(biāo)單擊公式中不理解的地方，WPSAI將自動(dòng)定位多層嵌套函數(shù)，進(jìn)行相應(yīng)解釋。例如，首先讓“AI寫(xiě)公式”生成“求姓‘李’的同學(xué)中總分的最大值”指令對(duì)應(yīng)的公式，單擊“對(duì)公式的解釋”按鈕，或?qū)⒐鈽?biāo)放置在公式的MAX函數(shù)中，再單擊“MAX解釋”按鈕，即可查看到“公式意義”和“函數(shù)解釋”的說(shuō)明。2．WPSAI數(shù)據(jù)分析在WPS表格的“WPSAI”選項(xiàng)卡中單擊“AI數(shù)據(jù)分析”按鈕即可打開(kāi)“AI數(shù)據(jù)分析”窗格，用戶(hù)可直接輸入分析內(nèi)容或單擊“推薦問(wèn)題”進(jìn)行選擇。若用戶(hù)需要WPSAI快速分析表格并給出分析結(jié)果，可直接單擊“AI數(shù)據(jù)分析”窗格中的“快速解讀表格內(nèi)容”按鈕。3．WPSAI條件格式在WPS表格的“WPSAI”選項(xiàng)卡中單擊“AI條件格式”按鈕即可喚起“AI條件格式”功能。假設(shè)有員工信息表，可以在“AI條件格式”懸浮窗中輸入“將出生日期在1988年以后的姓名標(biāo)記為紅色”指令，“AI條件格式”指令將會(huì)按照指令要求自動(dòng)標(biāo)注出相關(guān)數(shù)據(jù)。7.5.3

智能演示文稿制作用戶(hù)可在“新建演示文稿”頁(yè)面單擊“AI生成PPT”按鈕，WPS會(huì)創(chuàng)建一個(gè)空白演示文稿并打開(kāi)“AI生成PPT”懸浮窗，用戶(hù)可在懸浮窗中輸入幻燈片主題，WPSAI將會(huì)自動(dòng)構(gòu)建大綱。用戶(hù)挑選喜歡的幻燈片模板（選擇推薦模板、上傳模板或自定義模板），“AI生成PPT”功能將快速生成排版精美、內(nèi)容完整的整套幻燈片。也可以上傳整篇文檔，“AI生成PPT”功能可以自動(dòng)理解提煉內(nèi)容并生成幻燈片大綱?；蛘迟N大綱（內(nèi)容層級(jí)盡量不超過(guò)四級(jí)），“AI生成PPT”功能將識(shí)別并整理內(nèi)容獲得幻燈片大綱。如果對(duì)生成的大綱不滿(mǎn)意，單擊大綱右側(cè)按鈕即可編輯修改或?qū)蛹?jí)升降調(diào)整，生成的幻燈片效果更加貼合需求。WPSAI還能夠根據(jù)主題自由生成單頁(yè)幻燈片，幫助用戶(hù)完善演示文稿。用戶(hù)只需選擇“WPSAI”選項(xiàng)卡，單擊“AI生成單頁(yè)”按鈕即可喚起“AI生成單頁(yè)”懸浮窗，輸入幻燈片正文頁(yè)主題，并通過(guò)主題或大綱生成幻燈片。THEEND謝謝第8章

人工智能倫理與安全CONTENTS目錄8.1

人工智能倫理概述8.2

人工智能的安全挑戰(zhàn)8.3

典型案例分析8.1

人工智能倫理概述8.1.1

人工智能倫理的概念和發(fā)展1．倫理與人工智能倫理“倫理”指的是人倫道德之理，指人與人相處的各種道德準(zhǔn)則?？萍紓惱碇傅氖强萍蓟顒?dòng)中人與人、人與機(jī)器之間的道德準(zhǔn)則和行為規(guī)范。人工智能倫理指的是人工智能相關(guān)活動(dòng)中引發(fā)的道德和倫理問(wèn)題，是倫理在人工智能這一特定領(lǐng)域的應(yīng)用和延伸。1．倫理與人工智能倫理人工智能倫理的發(fā)展與計(jì)算機(jī)倫理的發(fā)展緊密相連，大致經(jīng)歷以下三個(gè)階段。①20世紀(jì)40年代至90年代的孕育奠基期，但人工智能倫理尚未形成。②20世紀(jì)90年代至2016年的分化獨(dú)立階段，推動(dòng)人工智能倫理從計(jì)算機(jī)倫理中分化并走向獨(dú)立。③2016年至今的全球治理階段，全球正致力于構(gòu)建完善的治理體系和法律框架，力求在技術(shù)快速發(fā)展與倫理規(guī)范之間達(dá)成動(dòng)態(tài)平衡。2．人工智能倫理困境（1）數(shù)據(jù)隱私與保護(hù)困境人工智能系統(tǒng)的決策和訓(xùn)練依賴(lài)海量數(shù)據(jù)，個(gè)人隱私保護(hù)在整個(gè)數(shù)據(jù)處理的流程中出現(xiàn)的問(wèn)題眾多，包含數(shù)據(jù)收集、存儲(chǔ)、使用等環(huán)節(jié)。（2）算法偏見(jiàn)與歧視困境算法也存在偏見(jiàn)。人工智能算法設(shè)計(jì)時(shí)，數(shù)據(jù)不全面、數(shù)據(jù)標(biāo)注和算法設(shè)計(jì)者的主觀意識(shí)等，使得設(shè)計(jì)中出現(xiàn)偏見(jiàn)。不同人群在人工智能系統(tǒng)中得不到公平對(duì)待。2．人工智能倫理困境（3）責(zé)任歸屬不清困境當(dāng)人工智能系統(tǒng)出現(xiàn)錯(cuò)誤或造成損害時(shí)，權(quán)責(zé)如何劃分也是一個(gè)難題。（4）透明度與可解釋性困境人工智能使用的眾多深度學(xué)習(xí)算法模型，由于深度太深，模型復(fù)雜，難以解析內(nèi)部的決策過(guò)程，這一過(guò)程被稱(chēng)為決策過(guò)程的“黑箱”屬性。（5）道德主體地位困境具有自主意識(shí)的人工智能或機(jī)器人，其不當(dāng)行為對(duì)人類(lèi)造成傷害時(shí)，責(zé)任界定將會(huì)變得更加復(fù)雜。2．人工智能倫理困境（6）技術(shù)濫用風(fēng)險(xiǎn)困境人工智能技術(shù)就像一把雙刃劍，一旦被濫用，就會(huì)對(duì)社會(huì)造成嚴(yán)重的危害。（7）就業(yè)結(jié)構(gòu)沖擊困境當(dāng)前生成式人工智能技術(shù)的突破性發(fā)展，正對(duì)知識(shí)密集型行業(yè)的程序化工作產(chǎn)生顛覆性影響。（8）數(shù)字鴻溝困境不同國(guó)家、地區(qū)、行業(yè)、組織及社區(qū)之間，在數(shù)字基礎(chǔ)設(shè)施覆蓋、核心技術(shù)應(yīng)用、數(shù)據(jù)資源獲取等方面形成顯著差異。8.1.2

數(shù)據(jù)隱私與倫理問(wèn)題1．?dāng)?shù)據(jù)隱私的概念數(shù)據(jù)隱私包含在數(shù)據(jù)收集、存儲(chǔ)、傳輸、共享與使用、挖掘和預(yù)測(cè)過(guò)程中需要保護(hù)的、不宜公開(kāi)的信息。8.1.2

數(shù)據(jù)隱私與倫理問(wèn)題2．?dāng)?shù)據(jù)隱私泄露的方式（1）數(shù)據(jù)采集的合法性數(shù)據(jù)采集是數(shù)據(jù)進(jìn)入人工智能系統(tǒng)的入口，其合法性是保護(hù)用戶(hù)隱私的前提。（2）數(shù)據(jù)存儲(chǔ)的安全性數(shù)據(jù)存儲(chǔ)中涉及的硬件、軟件以及系統(tǒng)安全策略存在缺陷都可能成為安全漏洞。2．?dāng)?shù)據(jù)隱私泄露的方式（3）數(shù)據(jù)傳輸?shù)陌踩允紫?，合法的授?quán)流程是數(shù)據(jù)傳輸安全的基礎(chǔ)。其次，傳輸協(xié)議的安全性對(duì)數(shù)據(jù)傳輸至關(guān)重要。最后，遵循相關(guān)行業(yè)規(guī)范與法律法規(guī)進(jìn)行數(shù)據(jù)傳輸是保障數(shù)據(jù)安全的必要條件。（4）數(shù)據(jù)共享與使用的合規(guī)性合法合規(guī)的數(shù)據(jù)共享與使用能夠推動(dòng)社會(huì)進(jìn)步，違規(guī)的數(shù)據(jù)共享和使用將損害用戶(hù)的權(quán)益，還可能帶來(lái)不可預(yù)估的風(fēng)險(xiǎn)和危害。2．?dāng)?shù)據(jù)隱私泄露的方式（5）數(shù)據(jù)挖掘和預(yù)測(cè)的透明性人工智能技術(shù)應(yīng)用的核心環(huán)節(jié)是數(shù)據(jù)挖掘和預(yù)測(cè)。如何確保這一過(guò)程的透明性，是避免對(duì)個(gè)人隱私造成侵犯的關(guān)鍵所在。3．?dāng)?shù)據(jù)泄露與隱私保護(hù)問(wèn)題的治理（1）法律法規(guī)全球各國(guó)政府和組織已制定與數(shù)據(jù)隱私保護(hù)相關(guān)的法案和條例，旨在強(qiáng)調(diào)數(shù)據(jù)主體的權(quán)利，規(guī)范組織對(duì)個(gè)人數(shù)據(jù)的合理規(guī)范使用行為，要求數(shù)據(jù)控制者和處理者采取必要的安全措施保護(hù)數(shù)據(jù)，并追究違法違規(guī)的相關(guān)法律責(zé)任。3．?dāng)?shù)據(jù)泄露與隱私保護(hù)問(wèn)題的治理（2）技術(shù)手段數(shù)據(jù)全生命周期保護(hù)離不開(kāi)先進(jìn)技術(shù)的支撐。通過(guò)對(duì)數(shù)據(jù)進(jìn)行編碼處理，防止傳輸與存儲(chǔ)環(huán)節(jié)的數(shù)據(jù)被竊取的加密技術(shù)就是重要的手段之一。憑借去中心化、不可篡改的特性的區(qū)塊鏈技術(shù)，是數(shù)據(jù)隱私保護(hù)的一種新興手段。（3）公眾意識(shí)提升公眾數(shù)據(jù)保護(hù)意識(shí)是數(shù)據(jù)安全治理的重要環(huán)節(jié)。8.1.3

算法偏見(jiàn)與公平1．算法偏見(jiàn)及其面臨的挑戰(zhàn)算法偏見(jiàn)（Algorithmic

Bias）是指在設(shè)計(jì)、訓(xùn)練或應(yīng)用人工智能算法過(guò)程中，可能產(chǎn)生的對(duì)某些群體或個(gè)體的不公平的輸出，相應(yīng)表現(xiàn)出的不公平或歧視性行為。數(shù)據(jù)中的偏見(jiàn)、開(kāi)發(fā)者的主觀影響和算法本身的局限性是產(chǎn)生算法偏見(jiàn)的三大來(lái)源。8.1.3

算法偏見(jiàn)與公平2．算法偏見(jiàn)的倫理問(wèn)題（1）公平性與正義性算法偏見(jiàn)引發(fā)的公平性問(wèn)題已成為當(dāng)前社會(huì)面臨的倫理問(wèn)題之一。（2）透明性與可解釋性算法的決策過(guò)程難以被人類(lèi)理解和追溯，這一特性進(jìn)一步加劇了倫理爭(zhēng)議。2．算法偏見(jiàn)的倫理問(wèn)題（3）隱私與數(shù)據(jù)權(quán)利算法優(yōu)化需求與隱私保護(hù)要求形成直接沖突，提升模型精度需要擴(kuò)大數(shù)據(jù)維度，而個(gè)人權(quán)利保護(hù)卻要求嚴(yán)格限制信息使用范圍。（4）責(zé)任歸屬算法決策的責(zé)任歸屬問(wèn)題是人工智能倫理領(lǐng)域的困境之一。3．算法偏見(jiàn)的治理（1）法律法規(guī)保護(hù)法律框架是算法偏見(jiàn)治理的制度基石。（2）行業(yè)舉措企業(yè)作為技術(shù)應(yīng)用主體，積極構(gòu)建并推進(jìn)倫理標(biāo)準(zhǔn)，持續(xù)提升治理體系實(shí)施質(zhì)量。（3）技術(shù)手段保護(hù)技術(shù)手段是算法偏見(jiàn)和歧視治理當(dāng)中的關(guān)鍵，可以從數(shù)據(jù)、模型和評(píng)估三個(gè)方面入手。8.2

人工智能的安全挑戰(zhàn)8.2.1

對(duì)抗攻擊與模型的魯棒性1．對(duì)抗攻擊的定義與原理對(duì)抗攻擊向正常數(shù)據(jù)（如文本、圖像、音頻等）注入精心設(shè)計(jì)的微小擾動(dòng)，使得深度學(xué)習(xí)模型產(chǎn)生錯(cuò)誤的輸出，從而破壞模型的正常功能和決策。這些微小擾動(dòng)就稱(chēng)為對(duì)抗樣本，人類(lèi)對(duì)對(duì)抗樣本的微小擾動(dòng)幾乎感知不到與原始數(shù)據(jù)的差別。2．對(duì)抗攻擊的類(lèi)型（1）快速梯度符號(hào)法快速梯度符號(hào)法（FastGradientSignMethod，F(xiàn)GSM）通過(guò)計(jì)算損失函數(shù)關(guān)于輸入的梯度，然后根據(jù)梯度的符號(hào)來(lái)確定擾動(dòng)的方向，以快速生成對(duì)抗樣本。2．對(duì)抗攻擊的類(lèi)型（2）投影梯度下降法投影梯度下降法（ProjectedGradientDescent，PGD）是多步迭代的FGSM。其核心思想是?多步梯度優(yōu)化與擾動(dòng)約束?。（3）Carlini-Wagner（CW）方法CW方法將生成對(duì)抗樣本的問(wèn)題轉(zhuǎn)化為一個(gè)優(yōu)化問(wèn)題。首先設(shè)計(jì)一個(gè)目標(biāo)函數(shù)，再通過(guò)最小化目標(biāo)函數(shù)尋找最優(yōu)擾動(dòng)。8.2.1

對(duì)抗攻擊與模型的魯棒性3．對(duì)抗攻擊的危害（1）交通領(lǐng)域針對(duì)自動(dòng)駕駛領(lǐng)域的對(duì)抗攻擊可以直接瓦解其感知系統(tǒng)。由于自動(dòng)駕駛系統(tǒng)采用的是?多模態(tài)融合架構(gòu)，對(duì)抗樣本不僅可干擾攝像頭數(shù)據(jù)，還可通過(guò)偽造激光雷達(dá)點(diǎn)云或毫米波雷達(dá)信號(hào)，誤導(dǎo)車(chē)輛對(duì)障礙物距離與運(yùn)動(dòng)軌跡的預(yù)測(cè)。3．對(duì)抗攻擊的危害（2）人臉識(shí)別領(lǐng)域有研究證明，通過(guò)定制一副帶有特殊對(duì)抗樣本的“眼鏡”，利用人臉識(shí)別算法中的缺陷，可以逃逸識(shí)別或者被誤識(shí)為另一個(gè)人，使得廣泛用于手機(jī)、門(mén)禁和支付上的人臉識(shí)別系統(tǒng)變得非常不安全。3．對(duì)抗攻擊的危害（3）醫(yī)療系統(tǒng)醫(yī)療領(lǐng)域的對(duì)抗攻擊直接危及患者生命健康。醫(yī)學(xué)影像分析、疾病預(yù)測(cè)已經(jīng)引入了人工智能輔助診斷系統(tǒng)，攻擊者向醫(yī)療影像數(shù)據(jù)注入對(duì)抗樣本，干擾人工智能輔助診斷系統(tǒng)的判斷。此外，向工業(yè)控制系統(tǒng)發(fā)送惡意指令、干擾智能監(jiān)控系統(tǒng)中的攝像頭、干擾無(wú)人機(jī)系統(tǒng)中的導(dǎo)航/通信或視覺(jué)系統(tǒng)、破解政務(wù)系統(tǒng)中的“人臉識(shí)別”認(rèn)證并利用他人信息注冊(cè)公司等行為，均會(huì)對(duì)系統(tǒng)造成危害。8.2.1

對(duì)抗攻擊與模型的魯棒性4．模型魯棒性的提升策略（1）對(duì)抗訓(xùn)練對(duì)抗訓(xùn)練的基本原理是在模型訓(xùn)練時(shí)主動(dòng)引入對(duì)抗樣本，讓模型在訓(xùn)練過(guò)程中同時(shí)學(xué)習(xí)識(shí)別和應(yīng)對(duì)這些對(duì)抗樣本。這樣模型就能逐漸學(xué)會(huì)識(shí)別對(duì)抗樣本的特征，提高對(duì)對(duì)抗攻擊的抵抗力，之后運(yùn)用快速梯度符號(hào)法、迭代快速梯度符號(hào)法等技術(shù)生成對(duì)抗樣本。4．模型魯棒性的提升策略（2）模型正則化正則化技術(shù)常常用于防止模型的過(guò)擬合，同時(shí)它也能有效提升模型的魯棒性。（3）多模型融合多模型融合（ModelEnsemble）將多個(gè)異構(gòu)模型的決策結(jié)果融合在一起，從而分散對(duì)抗攻擊的風(fēng)險(xiǎn)。其基本思想是融合?多樣的模型形成防御互補(bǔ)?。4．模型魯棒性的提升策略（4）數(shù)據(jù)增強(qiáng)數(shù)據(jù)增強(qiáng)（DataAugmentation）的基本思想是讓經(jīng)過(guò)變換后的數(shù)據(jù)參與模型的訓(xùn)練過(guò)程，擴(kuò)充數(shù)據(jù)的多樣性，提升模型對(duì)輸入擾動(dòng)的適應(yīng)能力。8.2.2

人工智能在安全系統(tǒng)中的應(yīng)用與風(fēng)險(xiǎn)1．人工智能安全系統(tǒng)基于人工智能的安全系統(tǒng)利用了人工智能算法，增加了系統(tǒng)的數(shù)據(jù)分析、模式識(shí)別與決策能力，對(duì)傳統(tǒng)安全系統(tǒng)從被動(dòng)的監(jiān)控管理進(jìn)行智能化升級(jí)，具備了更多的主動(dòng)管理和預(yù)防功能。如何在享受它們帶來(lái)的便利時(shí)，有效應(yīng)對(duì)這些風(fēng)險(xiǎn)，成為亟待解決的問(wèn)題。8.2.2

人工智能在安全系統(tǒng)中的應(yīng)用與風(fēng)險(xiǎn)2．人工智能在安全系統(tǒng)中的應(yīng)用（1）具有目標(biāo)識(shí)別與追蹤功能的智能監(jiān)控?cái)z像頭智能監(jiān)控?cái)z像頭的應(yīng)用使得傳統(tǒng)的安全系統(tǒng)具備了主動(dòng)追蹤功能。其工作過(guò)程由圖像采集和特征提取、目標(biāo)識(shí)別和數(shù)據(jù)匹配、目標(biāo)跟蹤三步完成。（2）自主導(dǎo)航的安防巡邏機(jī)器人安防巡邏機(jī)器人的自主導(dǎo)航系統(tǒng)融合了多種傳感器的數(shù)據(jù)，再結(jié)合智能算法，使得機(jī)器人能在復(fù)雜環(huán)境中靈活工作。3．人工智能在安全系統(tǒng)中面臨的風(fēng)險(xiǎn)（1）算法決策的脆弱性與誤判風(fēng)險(xiǎn)人工智能算法的應(yīng)用覆蓋了安全系統(tǒng)的大部分應(yīng)用場(chǎng)景，然而在復(fù)雜的應(yīng)用場(chǎng)景下，存在外部因素干擾、算法局限性以及場(chǎng)景適應(yīng)性不足等問(wèn)題，會(huì)產(chǎn)生算法誤報(bào)現(xiàn)象。3．人工智能在安全系統(tǒng)中面臨的風(fēng)險(xiǎn)（2）數(shù)據(jù)泄露與隱私侵犯在人工智能安全系統(tǒng)的應(yīng)用中，數(shù)據(jù)安全至關(guān)重要，一旦出現(xiàn)隱私泄露，將導(dǎo)致個(gè)人隱私以及商業(yè)秘密泄露等問(wèn)題，引發(fā)嚴(yán)重的信任危機(jī)。安全系統(tǒng)中的每一個(gè)環(huán)節(jié)如數(shù)據(jù)的存儲(chǔ)、傳輸和使用等環(huán)節(jié)均可能存在泄漏風(fēng)險(xiǎn)。（3）系統(tǒng)的安全漏洞人工智能安全系統(tǒng)的開(kāi)發(fā)高度依賴(lài)第三方硬件、算法庫(kù)及云服務(wù)。這些環(huán)節(jié)當(dāng)中存在漏洞都可能導(dǎo)致系統(tǒng)性的風(fēng)險(xiǎn)。4．人工智能在安全系統(tǒng)中的治理策略（1）加強(qiáng)技術(shù)創(chuàng)新，提升安全性能在安全系統(tǒng)的算法、系統(tǒng)漏洞的防護(hù)方面開(kāi)展技術(shù)研發(fā)，不斷深化技術(shù)創(chuàng)新。（2）完善流程管理，規(guī)范數(shù)據(jù)使用在系統(tǒng)層面，設(shè)置相關(guān)的數(shù)據(jù)管理級(jí)別，分層級(jí)地設(shè)置數(shù)據(jù)訪(fǎng)問(wèn)權(quán)限；在管理層面，切實(shí)提高工作人員的數(shù)據(jù)安全意識(shí)。（3）多方協(xié)同治理，構(gòu)建安全生態(tài)為了有效化解人工智能安全系統(tǒng)的風(fēng)險(xiǎn)，構(gòu)建安全的生態(tài)屏障，需要政府、行業(yè)和科研機(jī)構(gòu)多方協(xié)同的治理體系。8.2.3

人工智能失控的可能性1．人工智能失控的技術(shù)與倫理問(wèn)題在技術(shù)層面，代碼漏洞、算法復(fù)雜性、數(shù)據(jù)依賴(lài)、自主系統(tǒng)漏洞等問(wèn)題是引發(fā)人工智能失控的主要因素。在倫理層面，人工智能技術(shù)的應(yīng)用正面臨日益復(fù)雜的價(jià)值沖突與道德困境。8.2.3

人工智能失控的可能性2．預(yù)防人工智能失控的策略預(yù)防人工智能失控要兼顧技術(shù)措施和倫理規(guī)范，從技術(shù)層面守護(hù)人工智能系統(tǒng)安全，從倫理層面規(guī)范人類(lèi)的行為，努力抑制人工智能的負(fù)面因素。8.3

典型案例分析8.3.1

面部識(shí)別技術(shù)與倫理問(wèn)題1．面部識(shí)別技術(shù)概述面部識(shí)別技術(shù)（FacialRecognitionTechnology）是生物識(shí)別技術(shù)中的關(guān)鍵技術(shù)之一?；谏疃葘W(xué)習(xí)算法，對(duì)人的面部關(guān)鍵特征點(diǎn)進(jìn)行提取與分析，從而實(shí)現(xiàn)對(duì)人面部的精準(zhǔn)識(shí)別和驗(yàn)證。面部識(shí)別技術(shù)由圖像采集、人臉檢測(cè)、特征提取以及比對(duì)識(shí)別四個(gè)步驟組成。8.3.1

面部識(shí)別技術(shù)與倫理問(wèn)題2．典型案例近年來(lái)，人臉識(shí)別技術(shù)廣泛應(yīng)用于銀行業(yè)務(wù)，尤其是資金業(yè)務(wù)場(chǎng)景。但這項(xiàng)技術(shù)一旦出現(xiàn)問(wèn)題，不僅會(huì)讓客戶(hù)遭受財(cái)產(chǎn)損失，更會(huì)影響人們對(duì)于人臉識(shí)別技術(shù)的信心。3．技術(shù)濫用與倫理問(wèn)題面部識(shí)別技術(shù)雖然為人們的生活提供了高效快捷的服務(wù)，