《深度學(xué)習(xí)》課程教學(xué)大綱課程英文名稱（DeepLearning）課程編號：學(xué)分：2學(xué)時：32開課學(xué)期：2適用學(xué)科：計算機科學(xué)與技術(shù)、軟件工程、電子信息課程性質(zhì)：專業(yè)課開課單位：課程的性質(zhì)本課程屬于計算機科學(xué)與人工智能領(lǐng)域，旨在提供深度學(xué)習(xí)的系統(tǒng)性知識和實踐技能。課程將結(jié)合理論與實踐，幫助學(xué)生理解深度學(xué)習(xí)的基本概念及其在計算機視覺和自然語言處理中的應(yīng)用。通過該課程，學(xué)生將掌握深度學(xué)習(xí)的基本原理，熟悉相關(guān)算法和模型，并能夠在實際項目中運用所學(xué)的理論知識。課程的目標(biāo)掌握基礎(chǔ)理論：理解深度學(xué)習(xí)的基本概念，包括感知機、神經(jīng)網(wǎng)絡(luò)架構(gòu)、算法及其工作原理。掌握計算機視覺技術(shù)：深入了解卷積神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)及其在圖像處理中的應(yīng)用，包括經(jīng)典與先進網(wǎng)絡(luò)架構(gòu)（YOLO系列）在物體檢測和圖像分割中的實現(xiàn)。熟悉自然語言處理方法：掌握語言模型、詞嵌入技術(shù)word2vec、循環(huán)神經(jīng)網(wǎng)絡(luò)RNN、Transformers及預(yù)訓(xùn)練模型（ELMo、GPT和BERT）的工作原理及在各種自然語言處理任務(wù)中的應(yīng)用。提升實踐能力：通過理論與實踐結(jié)合的學(xué)習(xí)方式，培養(yǎng)學(xué)生的動手能力和解決實際問題的能力，使其能夠獨立設(shè)計和實施深度學(xué)習(xí)項目。培養(yǎng)團隊合作精神：通過小組討論與項目合作，培養(yǎng)學(xué)生的團隊合作能力和溝通技巧，促進知識的分享與交流。課程的教學(xué)內(nèi)容及要求感知機：理解感知機的基本概念及其重要性，了解感知機的局限性，掌握多層感知機（MLP）的工作原理，了解其如何克服單層感知機的局限性實現(xiàn)更復(fù)雜的邏輯運算。神經(jīng)網(wǎng)絡(luò)：掌握神經(jīng)網(wǎng)絡(luò)的基本概念、工作原理、損失函數(shù)的類型，如均方誤差和交叉熵誤差，mini-batch學(xué)習(xí)。理解梯度在神經(jīng)網(wǎng)絡(luò)中的應(yīng)用、誤差反向傳播算法及計算圖的使用。了解激活函數(shù)層、Affine層和softmax層的實現(xiàn)。神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)方法：掌握神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)方法、參數(shù)更新策略隨機梯度下降（SGD）及其缺點、Momentum、AdaGrad和Adam等優(yōu)化算法。理解將權(quán)重初始化為零的影響及隱藏層激活值的分布，批量歸一化（BatchNormalization）的概念及其對模型訓(xùn)練的影響。掌握正則化技術(shù)以應(yīng)對過擬合，包括權(quán)值衰減和Dropout方法。了解超參數(shù)驗證的過程，包括驗證數(shù)據(jù)的使用和超參數(shù)優(yōu)化的方法。卷積神經(jīng)網(wǎng)絡(luò)：掌握卷積神經(jīng)網(wǎng)絡(luò)（CNN）的基本概念與結(jié)構(gòu)，神經(jīng)網(wǎng)絡(luò)與卷積神經(jīng)網(wǎng)絡(luò)的區(qū)別和聯(lián)系、卷積層的意義。掌握CNN的整體結(jié)構(gòu)和卷積層的工作原理，包括全連接層的問題、卷積運算的具體過程、三維數(shù)據(jù)的卷積運算及卷積層參數(shù)設(shè)置。了解池化層的作用、池化操作以及相關(guān)參數(shù)配置。經(jīng)典卷積神經(jīng)網(wǎng)絡(luò)：理解經(jīng)典卷積網(wǎng)絡(luò)結(jié)構(gòu)，了解LeNet的基本概念及實踐分析案例；了解AlexNet的結(jié)構(gòu)特點、改進及其優(yōu)勢，實踐案例分析AlexNet的應(yīng)用效果。了解VGG網(wǎng)絡(luò)的基本概念、主要特點及VGG的案例實踐分析表現(xiàn)。經(jīng)典卷積網(wǎng)絡(luò)結(jié)構(gòu)進階：了解先進的卷積網(wǎng)絡(luò)結(jié)構(gòu)，理解GoogLeNet的基本概念及實踐分析的案例，重點理解其創(chuàng)新點和應(yīng)用效果。掌握ResNet的基本原理，了解殘差模塊的設(shè)計及其在深層網(wǎng)絡(luò)中的重要性，了解案例實踐分析ResNet的應(yīng)用表現(xiàn)。語言模型：了解語言模型的基本概念，概述語言模型的定義和應(yīng)用。理解N-gram統(tǒng)計語言模型，包括評估詞序列的方法、平滑操作及應(yīng)用、缺點。掌握詞嵌入的概念，區(qū)分離散分布表示和分布式表示。理解神經(jīng)網(wǎng)絡(luò)語言模型（NNLM），涵蓋基本原理、輸入處理、信息編碼轉(zhuǎn)換及模型細節(jié)，NNLM的缺點。掌握NNLM模型的應(yīng)用，包括數(shù)據(jù)預(yù)處理、模型結(jié)構(gòu)定義、參數(shù)設(shè)置及訓(xùn)練過程。word2vec模型：了解word2vec模型的基本概念、word2vec模型及其與神經(jīng)網(wǎng)絡(luò)反向傳播法的關(guān)系、word2vec模型的架構(gòu)，包括簡易CBOW架構(gòu)、CBOW架構(gòu)和Skip-Gram架構(gòu)。理解優(yōu)化算法，重點介紹層次softmax和負采樣優(yōu)化。掌握word2vec模型的應(yīng)用，涵蓋數(shù)據(jù)預(yù)處理、模型結(jié)構(gòu)定義、參數(shù)和超參數(shù)設(shè)置、模型訓(xùn)練以及嵌入的可視化與結(jié)果展示。循環(huán)神經(jīng)網(wǎng)絡(luò)模型：掌握循環(huán)神經(jīng)網(wǎng)絡(luò)（RNN）模型的基本概念、RNN的基本結(jié)構(gòu)、與序列數(shù)據(jù)的關(guān)系及反向傳播過程。理解雙向RNN的工作原理、梯度消失和梯度爆炸問題。掌握長短期記憶（LSTM）模型、門控循環(huán)單元（GRU）模型的工作原理及其架構(gòu)和應(yīng)用。Transformer模型：掌握序列到序列（Seq2Seq）模型的基本概念、基本架構(gòu)及其工作原理。理解Transformer模型，包括其Seq2Seq架構(gòu)和輸入處理，掌握Transformer的自注意力機制及其在編碼器和解碼器中的應(yīng)用。掌握編碼器的結(jié)構(gòu)信息和解碼器模塊的輸入與結(jié)構(gòu)。位置編碼：了解位置編碼的概念與實現(xiàn)方法，包括線性歸一化位置編碼、整型值位置編碼、二進制位置編碼，以及基于周期函數(shù)（sin）和交替使用sin與cos的編碼方式。掌握Transformer模型中的位置編碼及其可視化效果。掌握Transformer模型的應(yīng)用，涵蓋數(shù)據(jù)預(yù)處理、模型結(jié)構(gòu)定義、參數(shù)和超參數(shù)設(shè)置、編碼器和解碼器的構(gòu)建、模型訓(xùn)練，以及嵌入的可視化與結(jié)果展示。預(yù)訓(xùn)練模型：了解三種重要的語言模型：ELMo、GPT和BERT。了解ELMo模型的基本概念，討論其與BiLSTM的關(guān)系，并解析ELMo的結(jié)構(gòu)。了解GPT模型的基本架構(gòu)、選擇和訓(xùn)練過程。掌握BERT模型的基本概念，涵蓋其架構(gòu)選擇、輸入信息、輸出信息以及預(yù)訓(xùn)練任務(wù)。課程學(xué)時分配表1教學(xué)內(nèi)容的學(xué)時分配教學(xué)內(nèi)容理論學(xué)時實驗（實踐）學(xué)時備注第一章感知機10第二章神經(jīng)網(wǎng)絡(luò)10第三章神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)方法10第四章卷積神經(jīng)網(wǎng)絡(luò)20第五章經(jīng)典卷積神經(jīng)網(wǎng)絡(luò)02第六章經(jīng)典卷積網(wǎng)絡(luò)結(jié)構(gòu)進階02第七章語言模型10第八章word2vec模型22第九章循環(huán)神經(jīng)網(wǎng)絡(luò)模型42第十章Transformer模型22第十一章位置編碼10第十二章預(yù)訓(xùn)練模型10實訓(xùn)項目06合計學(xué)時1616五、教學(xué)環(huán)節(jié)教學(xué)環(huán)節(jié)包括：課堂講授和上機實踐。通過本課程各個教學(xué)環(huán)節(jié)的教學(xué)，重點培養(yǎng)學(xué)生分析問題、解決問題的能力。（一）課堂講授1.教學(xué)方法上采用啟發(fā)式和討論式教學(xué)，課堂上積極提問，安排相關(guān)自學(xué)內(nèi)容，以激發(fā)學(xué)生的主動學(xué)習(xí)興趣，鼓勵學(xué)生進行自學(xué)，培養(yǎng)學(xué)生獨立思考、分析問題和解決問題的能力。2.在教學(xué)內(nèi)容上，重點講授神經(jīng)網(wǎng)絡(luò)、卷積神經(jīng)網(wǎng)絡(luò)、循環(huán)神經(jīng)網(wǎng)絡(luò)、Word2vec、Transformer、位置編碼和預(yù)訓(xùn)練模型的理論和應(yīng)用，注意培養(yǎng)學(xué)生利用各種深度學(xué)習(xí)模型解決問題的能力。3.在教學(xué)過程中采用多媒體教學(xué)，增強教學(xué)的直觀性。（二）上機實踐為幫助學(xué)生將理論知識應(yīng)用于真實場景，增強他們計算機視覺技術(shù)和自然語言處理的理解與掌握，設(shè)計了5個實踐項目和1個實訓(xùn)項目。具體實踐項目見表2。通過實際操作，學(xué)生將獲得寶貴的實踐經(jīng)驗，提升分析和解決問題的能力。表2實踐項目列表序號名稱類型要求備注1利用VGGNet實現(xiàn)貓狗大戰(zhàn)的圖像分析實驗性必做2利用GoogleNet實現(xiàn)花朵的分類實驗性必做3利用RNN實現(xiàn)股票價格的預(yù)測實驗性必做4利用Bert實現(xiàn)情感分析實驗性必做5利用Transformer模型實現(xiàn)情感分析實驗性必做6基于昇騰AI云的智能制造領(lǐng)域的刀具異常檢測實訓(xùn)項目必做考核方式本課程成績由上機作業(yè)和項目作業(yè)兩部分構(gòu)成，課程成績以百分制計算，分配比例如下：（一）上機作業(yè)（成績占比70%）：為了促使學(xué)生更好掌握本課程涉及到的深度學(xué)習(xí)各個模型的理論，本課程特設(shè)置上機作業(yè)環(huán)節(jié)，要進行五個實踐項目的實驗，具體內(nèi)容見表2，撰寫上機報告，上機作業(yè)總分70分。（二）項目作業(yè)（成績占比30%）：為了評估學(xué)生在計算機視覺領(lǐng)域的原理理解和應(yīng)用能力，設(shè)計了實訓(xùn)項目《基于昇騰AI云的智能制造領(lǐng)域的刀具異常檢測》。該實訓(xùn)項目利用華為云昇騰AI云平臺實施計算機視覺模型YOLOv11。項目作業(yè)內(nèi)容涵蓋確定業(yè)務(wù)需求、收集數(shù)據(jù)、數(shù)據(jù)清洗、數(shù)據(jù)拆分、數(shù)據(jù)上傳至?xí)N騰AI云；在云平臺上搭建YOLOv11模型、訓(xùn)練YOLOv11模型、調(diào)優(yōu)YOLOv11模型、部署和推理、評估模型等各個方面。通過這一系列實訓(xùn)任務(wù)，學(xué)生將全面掌握計算機視覺的基本理論知識，并提升利用昇騰AI云進行深度學(xué)習(xí)實踐的能力。該項目將幫助學(xué)生理解如何將理論應(yīng)用于實際問題，提高他們在智能制造領(lǐng)域的技術(shù)能力和創(chuàng)新思維。表3成績構(gòu)成方式方式說明考核方式上機作業(yè)項目作業(yè)占總成績比例70%30%工作方式個人個人成果形式上機報告（電子文檔）項目報告（電子文檔