人工智能導(dǎo)論慕課版 課件全套 第1-7章 認(rèn)識(shí)人工智能 -人工智能數(shù)據(jù)安全_第1頁(yè)
人工智能導(dǎo)論慕課版 課件全套 第1-7章 認(rèn)識(shí)人工智能 -人工智能數(shù)據(jù)安全_第2頁(yè)
人工智能導(dǎo)論慕課版 課件全套 第1-7章 認(rèn)識(shí)人工智能 -人工智能數(shù)據(jù)安全_第3頁(yè)
人工智能導(dǎo)論慕課版 課件全套 第1-7章 認(rèn)識(shí)人工智能 -人工智能數(shù)據(jù)安全_第4頁(yè)
人工智能導(dǎo)論慕課版 課件全套 第1-7章 認(rèn)識(shí)人工智能 -人工智能數(shù)據(jù)安全_第5頁(yè)
已閱讀5頁(yè),還剩295頁(yè)未讀, 繼續(xù)免費(fèi)閱讀

下載本文檔

版權(quán)說(shuō)明:本文檔由用戶(hù)提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)

文檔簡(jiǎn)介

第1章認(rèn)識(shí)人工智能人工智能導(dǎo)論

(慕課版)名校名師通識(shí)教育新形態(tài)系列教材科技改變未來(lái)人工智能的概念及范疇1.21.11.3人工智能發(fā)展史人工智能的特征與價(jià)值1.1?人工智能的概念及范疇人工智能(ArtificialIntelligence,AI)是一門(mén)由計(jì)算機(jī)和機(jī)器系統(tǒng)模擬人類(lèi)思維過(guò)程和智能行為的學(xué)科和技術(shù)。作為一門(mén)學(xué)科,人工智能研究人類(lèi)大腦的活動(dòng)規(guī)律,包括如何感知信息、如何表示知識(shí)、如何獲得知識(shí)并使用知識(shí),并將這種活動(dòng)規(guī)律構(gòu)建為計(jì)算模型。作為一門(mén)技術(shù),人工智能能夠模擬人類(lèi)感知環(huán)境,理解包括文字、音頻、圖像、視頻在內(nèi)的各種信息,獲取知識(shí)、進(jìn)行推理、規(guī)劃決策和執(zhí)行操作。高級(jí)人工智能還能夠通過(guò)自主學(xué)習(xí)使系統(tǒng)不斷適應(yīng)新的環(huán)境變化。1.人工智能的基本定義1.1?人工智能的概念及范疇不同的專(zhuān)家、學(xué)者對(duì)人工智能有不同的理解和定義。美國(guó)斯坦福大學(xué)的尼爾斯·尼爾森(NilsNilsson)教授對(duì)人工智能下了這樣一個(gè)定義:“人工智能是關(guān)于知識(shí)的學(xué)科――怎樣表示知識(shí)和怎樣獲得知識(shí)并使用知識(shí)的學(xué)科?!倍绹?guó)麻省理工學(xué)院的帕特里克·溫斯頓(PatrickWinston)教授認(rèn)為:“人工智能就是研究如何使計(jì)算機(jī)去做過(guò)去只有人才能做的智能工作?!币灿袑?zhuān)家認(rèn)為人工智能是研究使用計(jì)算機(jī)來(lái)模擬人的某些思維過(guò)程和智能行為(如學(xué)習(xí)、推理、思考、規(guī)劃等)的學(xué)科,主要包括計(jì)算機(jī)實(shí)現(xiàn)智能的原理、制造擁有類(lèi)似于人腦智能的計(jì)算機(jī),使計(jì)算機(jī)能實(shí)現(xiàn)更高層次的應(yīng)用。1.1?人工智能的概念及范疇2.人工智能的核心技術(shù)在人工智能領(lǐng)域占有重要地位的自然語(yǔ)言處理則是研究人與計(jì)算機(jī)之間通過(guò)人類(lèi)自然語(yǔ)言進(jìn)行有效交互的機(jī)器學(xué)習(xí)理論和方法。自然語(yǔ)言處理包括語(yǔ)音識(shí)別、語(yǔ)言解析、語(yǔ)義理解等多個(gè)研究課題。單擊添加標(biāo)題機(jī)器學(xué)習(xí)是人工智能的一個(gè)重要基礎(chǔ)。機(jī)器學(xué)習(xí)的原理是讓計(jì)算機(jī)從數(shù)據(jù)中學(xué)習(xí)知識(shí)和規(guī)律,并根據(jù)學(xué)習(xí)到的知識(shí)和規(guī)律建立計(jì)算模型,模型可以用于進(jìn)行決策和預(yù)測(cè)。機(jī)器學(xué)習(xí)從2006年開(kāi)始被廣泛采用的深度學(xué)習(xí)是機(jī)器學(xué)習(xí)的一個(gè)分支,它通過(guò)構(gòu)建深度神經(jīng)網(wǎng)絡(luò)來(lái)構(gòu)建計(jì)算模型。該模型可以模擬人腦的感知、理解和決策等過(guò)程,從而實(shí)現(xiàn)復(fù)雜的模式識(shí)別和推理分析。深度學(xué)習(xí)計(jì)算機(jī)視覺(jué)是一種讓機(jī)器能夠感知、分析和理解圖像和視頻內(nèi)容的技術(shù),在視覺(jué)感知、圖像和視頻識(shí)別、語(yǔ)義理解和人機(jī)交互等眾多領(lǐng)域得到了廣泛的應(yīng)用。下圖所示為計(jì)算機(jī)視覺(jué)中的人臉識(shí)別系統(tǒng)。計(jì)算機(jī)視覺(jué)1.1?人工智能的概念及范疇圖

計(jì)算機(jī)視覺(jué)中的人臉識(shí)別系統(tǒng)1.1?人工智能的概念及范疇人工智能根據(jù)其應(yīng)用領(lǐng)域,可以分為智能交通、智能安防、機(jī)器人、智能家居、智慧醫(yī)療、智慧政務(wù)和智慧金融等。3.人工智能的主要分類(lèi)人工智能按智能的能力層次,可以分為:弱人工智能(ArtificialNarrowIntelligence,ANI)、

能(ArtificialGeneralIntelligence,AGI)超人工智能(ArtificialSuperIntelligence,ASI)。人工智能按技術(shù)研究方向,可以分為自然語(yǔ)言處理、機(jī)器學(xué)習(xí)、深度學(xué)習(xí)、計(jì)算機(jī)視覺(jué)、語(yǔ)音識(shí)別、大模型等。人工智能的主要分類(lèi)人工智能的概念及范疇1.21.3人工智能發(fā)展史人工智能的特征與價(jià)值1.11.2.1?早期發(fā)展階段人工智能的誕生以1956年8月在美國(guó)新罕布什爾州漢諾威鎮(zhèn)的達(dá)特茅斯學(xué)院舉行的達(dá)特茅斯會(huì)議為標(biāo)志。圖所示為達(dá)特茅斯會(huì)議人工智能小組成員拍攝的照片。會(huì)議主要列出了7個(gè)議題:自動(dòng)計(jì)算機(jī)、計(jì)算機(jī)語(yǔ)言的應(yīng)用、神經(jīng)網(wǎng)絡(luò)、計(jì)算規(guī)模理論、自我改進(jìn)、抽象、隨機(jī)性與創(chuàng)造性。會(huì)議成果對(duì)后世的科學(xué)發(fā)展產(chǎn)生了深遠(yuǎn)的影響,因此,1956年也被人們稱(chēng)為“人工智能元年”1.萌芽誕生期圖

達(dá)特茅斯會(huì)議人工智能小組成員拍攝的照片1.2.1?早期發(fā)展階段盡管1956年(達(dá)特茅斯會(huì)議召開(kāi)當(dāng)年)被視為人工智能元年,但其實(shí)人工智能的研究在20世紀(jì)50年代初期就已經(jīng)開(kāi)始,因此,人工智能的早期發(fā)展期主要涵蓋了20世紀(jì)50年代至70年代初期(具體到1973年)的研究與發(fā)展。2.早期發(fā)展期圖靈測(cè)試

1950年,阿蘭·圖靈提出的圖靈測(cè)試為衡量機(jī)器是否具備智能提供了理論基礎(chǔ)。邏輯理論家

1956年,艾倫·紐厄爾和赫伯特·西蒙開(kāi)發(fā)了第一個(gè)人工智能程序——邏輯理論家(LogicTheorist),它能夠證明數(shù)學(xué)定理,展示了早期人工智能的潛力。感知機(jī)(Perceptron)

1958年,弗蘭克·羅森布拉特(FrankRosenblatt)發(fā)明了感知機(jī)模型,實(shí)現(xiàn)了神經(jīng)網(wǎng)絡(luò)的初步應(yīng)用。感知機(jī)是一種結(jié)構(gòu)簡(jiǎn)單的神經(jīng)網(wǎng)絡(luò),主要用于解決二分類(lèi)問(wèn)題。1.2.1?早期發(fā)展階段符號(hào)主義:20世紀(jì)60年代,人工智能的研究主要集中在符號(hào)主義方法上,即通過(guò)符號(hào)表示知識(shí),使用推理規(guī)則進(jìn)行推理。這一時(shí)期的人工智能程序通常通過(guò)“規(guī)則”進(jìn)行推理,并依賴(lài)知識(shí)庫(kù)來(lái)做決策。專(zhuān)家系統(tǒng):專(zhuān)家系統(tǒng)是指模擬專(zhuān)家決策過(guò)程的計(jì)算機(jī)程序,它們通過(guò)構(gòu)建知識(shí)庫(kù)和邏輯推理,做出類(lèi)似專(zhuān)家的決策。代表性系統(tǒng)包括MYCIN(用于醫(yī)療診斷,其研究項(xiàng)目于1972年啟動(dòng))和DENDRAL(用于化學(xué)分析,于1965年被提出)。1.2.1?早期發(fā)展階段1974—1980年,人工智能迎來(lái)了挑戰(zhàn)與“低谷冬天期”。主要原因如下。3.低谷冬天期資金短缺與失望:由于對(duì)人工智能的能力的過(guò)度預(yù)期未能實(shí)現(xiàn),加上專(zhuān)家系統(tǒng)的局限性顯現(xiàn),政府和企業(yè)的投資熱情減退[標(biāo)志事件:1973年,英國(guó)數(shù)學(xué)家詹姆斯·萊特希爾(JamesLighthill)發(fā)表了《萊特希爾報(bào)告》(“LighthillReport”),批評(píng)人工智能研究的實(shí)用性,直接導(dǎo)致當(dāng)時(shí)的英國(guó)政府削減對(duì)人工智能的投資],人工智能研究一度陷入低谷。計(jì)算能力的限制:盡管這一時(shí)期取得了不少成就,但受限于當(dāng)時(shí)的計(jì)算能力和理論局限,人工智能技術(shù)未能實(shí)現(xiàn)廣泛的應(yīng)用。1.2.1?早期發(fā)展階段4.復(fù)蘇成長(zhǎng)期(1)專(zhuān)家系統(tǒng)的復(fù)興。商用專(zhuān)家系統(tǒng)的應(yīng)用:隨著計(jì)算機(jī)硬件的進(jìn)步,專(zhuān)家系統(tǒng)在工業(yè)界再次獲得關(guān)注。例如,R1(又名XCON)就是一個(gè)用于配置計(jì)算機(jī)系統(tǒng)的成功的商用專(zhuān)家系統(tǒng)。面臨新挑戰(zhàn):盡管專(zhuān)家系統(tǒng)在商業(yè)應(yīng)用中取得了一定成功,但它們?nèi)噪y以適應(yīng)動(dòng)態(tài)環(huán)境和不確定性。(2)神經(jīng)網(wǎng)絡(luò)的復(fù)蘇。①

反向傳播算法。1986年,杰弗里·欣頓(GeoffreyHinton)等人提出了一種適用于多層感知機(jī)的反向傳播(Back-Propagation)算法——BP算法,為訓(xùn)練多層神經(jīng)網(wǎng)絡(luò)提供了一種有效的途徑。②

循環(huán)神經(jīng)網(wǎng)絡(luò)(RecurrentNeuralNetwork,RNN)。1982年,著名物理學(xué)家約翰·霍普菲爾德(JohnHopfield)發(fā)明了Hopfield神經(jīng)網(wǎng)絡(luò)。1.2.1?早期發(fā)展階段5.發(fā)展瓶頸期20世紀(jì)90年代中期,以SVM(SupportVectorMahine,支持向量機(jī))為代表的其他淺層機(jī)器學(xué)習(xí)算法被提出,并在分類(lèi)、回歸問(wèn)題上均取得了很好的效果,其原理又明顯不同于神經(jīng)網(wǎng)絡(luò)模型,所以人工智能的發(fā)展再次進(jìn)入了瓶頸期。1987—2006年,人工智能的發(fā)展進(jìn)入瓶頸期。盡管有技術(shù)突破,但是由于20世紀(jì)80年代末期計(jì)算機(jī)的硬件水平有限,如運(yùn)算能力跟不上,當(dāng)神經(jīng)網(wǎng)絡(luò)的規(guī)模增大時(shí),使用BP算法會(huì)出現(xiàn)“梯度消失”的問(wèn)題。這使得BP算法的發(fā)展受到了很大的限制。高期望與實(shí)際應(yīng)用之間的落差導(dǎo)致人工智能研究再次陷入低谷,特別是在面對(duì)復(fù)雜的實(shí)際問(wèn)題時(shí)無(wú)能為力。1.2.2?以深度學(xué)習(xí)為主流技術(shù)的階段1.深度學(xué)習(xí)的出現(xiàn)

2006年,杰弗里·欣頓和他的學(xué)生魯斯蘭·薩拉赫丁諾夫(RuslanSalakhutdinov)正式提出了深度學(xué)習(xí)的概念2012

年,在著名的ImageNet大規(guī)模視覺(jué)識(shí)別挑戰(zhàn)賽(ImageNetLargeScaleVisualRecognitionChallenge,ILSVRC)中,杰弗里·欣頓領(lǐng)導(dǎo)的小組依靠深度神經(jīng)網(wǎng)絡(luò)模型AlexNet一舉奪冠2013年,牛津大學(xué)的視覺(jué)幾何小組(VisualGeometryGroup,VGG)提出了深度卷積神經(jīng)網(wǎng)絡(luò)VGGNet,這個(gè)網(wǎng)絡(luò)在ImageNet大規(guī)模視覺(jué)識(shí)別挑戰(zhàn)賽中取得了顯著的成績(jī),證明了深度卷積神經(jīng)網(wǎng)絡(luò)在圖像分類(lèi)任務(wù)中的有效性2014年,谷歌公司的研究員提出了GoogleNet(也被稱(chēng)為InceptionV1),GoogleNET引入了Inception模塊,這種設(shè)計(jì)大大提高了計(jì)算效率,同時(shí)減少了參數(shù)數(shù)量2015

年,約瑟夫·雷德蒙(JosephRedmon)和阿里·法爾哈迪(AliFarhadi)等人提出YOLO(YouOnlyLookOnce)目標(biāo)檢測(cè),其特點(diǎn)在于檢測(cè)速度快和準(zhǔn)確性高。2016年,微軟亞洲研究院的何愷明、張祥雨、任少卿和孫劍等人提出ResNet,引入了殘差學(xué)習(xí)的概念2017

年,基于強(qiáng)化學(xué)習(xí)算法的AlphaGo的升級(jí)版——AlphaGoZero橫空出世。1.2.2?以深度學(xué)習(xí)為主流技術(shù)的階段在深度學(xué)習(xí)的發(fā)展過(guò)程中,研究者們提出了很多深度神經(jīng)網(wǎng)絡(luò)模型,其中,知名的有AlexNet、VGGNet、GoogleNet、ResNet。2.知名的深度神經(jīng)網(wǎng)絡(luò)模型的結(jié)構(gòu)以深度學(xué)習(xí)為主流技術(shù)的階段是人工智能發(fā)展的一個(gè)重要階段。深度學(xué)習(xí)是機(jī)器學(xué)習(xí)的一種,而機(jī)器學(xué)習(xí)是實(shí)現(xiàn)人工智能的基礎(chǔ)。深度學(xué)習(xí)的概念源于人工神經(jīng)網(wǎng)絡(luò)(特別是具有多個(gè)隱含層的深度神經(jīng)網(wǎng)絡(luò))的發(fā)展。通過(guò)深度學(xué)習(xí)的研究,研究人員可以建立人腦感知、理解、推理等過(guò)程的神經(jīng)網(wǎng)絡(luò)模型,實(shí)現(xiàn)模仿人腦機(jī)制的圖像識(shí)別、語(yǔ)音識(shí)別和自然語(yǔ)言理解。深度學(xué)習(xí)通過(guò)卷積操作,將低層特征逐步抽象為高層語(yǔ)義的屬性類(lèi)別或特征,以獲得數(shù)據(jù)的特征分布表征。1.2.3?大模型興起階段1.大模型的演變歷程O(píng)penAI的成立和2018年谷歌BERT(BidirectionalEncoderRepresentationsfromTransformers)模型的發(fā)布成為大模型發(fā)展史上的關(guān)鍵里程碑。OpenAI提出了GPT(GenerativePre-trainedTransformer),通過(guò)預(yù)訓(xùn)練來(lái)學(xué)習(xí)語(yǔ)言模式,然后在特定任務(wù)上進(jìn)行微調(diào)。OpenAI發(fā)布了GPT-2模型,展示了大模型在語(yǔ)言生成方面的巨大潛力。OpenAI推出了GPT-3模型,其參數(shù)規(guī)模達(dá)到了1750億,成為當(dāng)時(shí)參數(shù)規(guī)模最大的大語(yǔ)言模型(LargeLanguageModel,LLM),并在零樣本學(xué)習(xí)任務(wù)上實(shí)現(xiàn)了巨大的性能提升。OpenAI推出了人工智能聊天機(jī)器人程序ChatGPT(ChatGenerativePretrainedTransformer),ChatGPT憑借其逼真的自然語(yǔ)言交互與多場(chǎng)景內(nèi)容生成能力迅速引爆互聯(lián)網(wǎng)。GPT-4發(fā)布,它具備多模態(tài)理解與多類(lèi)型內(nèi)容生成能力,進(jìn)一步推動(dòng)了大模型技術(shù)的發(fā)展。2015年2018年2019年2022年2020年2023年1.2.3?大模型興起階段2.大模型的特點(diǎn)大模型是利用海量數(shù)據(jù)和超大規(guī)模的參數(shù)量,結(jié)合有效的算法和訓(xùn)練技術(shù),形成的具有強(qiáng)大預(yù)測(cè)和推理能力的模型。圖所示為不同階段出現(xiàn)的知名大模型及其參數(shù)量。圖

不同階段出現(xiàn)的知名大模型及其參數(shù)量1.2.3?大模型興起階段大模型通常擁有數(shù)十億甚至數(shù)千億個(gè)參數(shù),這使得它們能夠捕捉到數(shù)據(jù)中非常復(fù)雜和細(xì)微的模式。龐大的參數(shù)規(guī)模使得大模型具有強(qiáng)大的表達(dá)能力和學(xué)習(xí)能力,能夠完成復(fù)雜的自然語(yǔ)言處理和計(jì)算機(jī)視覺(jué)任務(wù)。參數(shù)規(guī)模龐大大模型通常在大規(guī)模的數(shù)據(jù)集上進(jìn)行訓(xùn)練,這些數(shù)據(jù)集可能包含數(shù)十億個(gè)甚至更多單詞,使得大模型能夠?qū)W習(xí)到豐富的語(yǔ)言知識(shí)和其他知識(shí)。訓(xùn)練數(shù)據(jù)量大訓(xùn)練和運(yùn)行大模型需要大量的計(jì)算資源,包括高性能的GPU或TPU、大量的存儲(chǔ)空間以及高效的計(jì)算框架,這導(dǎo)致了大模型的部署和訓(xùn)練成本較高。算力成本很高大模型具有以下幾個(gè)主要特點(diǎn)。1.2.3?大模型興起階段許多大模型能夠同時(shí)處理多種不同的任務(wù),如翻譯語(yǔ)言、寫(xiě)文章、回答問(wèn)題等,這使得它們具有更好的泛化能力和適應(yīng)性。多任務(wù)學(xué)習(xí)能力大模型通常采用深度神經(jīng)網(wǎng)絡(luò),尤其是以Transformer為代表的自注意力機(jī)制在大模型中得到了廣泛應(yīng)用,這使得大模型能夠處理長(zhǎng)距離的依賴(lài)關(guān)系。深度學(xué)習(xí)架構(gòu)大模型通常先在大量無(wú)標(biāo)簽數(shù)據(jù)上進(jìn)行預(yù)訓(xùn)練,然后在特定任務(wù)上進(jìn)行微調(diào)。預(yù)訓(xùn)練幫助大模型學(xué)習(xí)通用特征,而微調(diào)則讓大模型適應(yīng)特定應(yīng)用。預(yù)訓(xùn)練與微調(diào)大模型在面對(duì)不同類(lèi)型的數(shù)據(jù)和任務(wù)時(shí),具有一定的自適應(yīng)能力,可以使用相同的模型結(jié)構(gòu)處理文本和圖像等多種類(lèi)型的數(shù)據(jù)。同時(shí)大模型也能夠在處理未見(jiàn)過(guò)的數(shù)據(jù)時(shí)表現(xiàn)良好。自適應(yīng)能力和泛化能力較強(qiáng)1.2.3?大模型興起階段除大語(yǔ)言模型外,多模態(tài)大模型在圖像處理、音頻處理、視頻語(yǔ)義描述等其他數(shù)據(jù)模態(tài)中也顯示出巨大優(yōu)勢(shì)。隨著數(shù)據(jù)資源的不斷增加和計(jì)算能力的不斷提升,大模型的性能得到了極大的提升,大規(guī)模預(yù)訓(xùn)練模型成為大模型發(fā)展的重要方向。這些模型在大量的數(shù)據(jù)上進(jìn)行預(yù)訓(xùn)練,可以學(xué)習(xí)到更多的知識(shí)和特征,從而在各種任務(wù)上取得更好的性能。圖所示是基于ChatGPT大模型的一個(gè)文生文示例。圖

大模型的發(fā)展路線1.2.3?大模型興起階段以文生文為主要功能的ChatGPT可以根據(jù)用戶(hù)提示生成相應(yīng)的文字描述段落,圖示是基于ChatGPT大模型的一個(gè)文生文示例。圖

基于ChatGPT大模型的文生文示例隨后,又出現(xiàn)了通過(guò)文字提示生成圖像的文生圖大模型,圖所示是基于大模型的一個(gè)文生圖示例(提示詞為“宇航員在叢林”)。圖

基于大模型的文生圖示例人工智能的概念及范疇1.31.2人工智能發(fā)展史人工智能的特征與價(jià)值1.11.3.1?人工智能的特征人工智能研究從特征來(lái)分類(lèi),主要分為三大流派:符號(hào)主義(Symbolicism)、聯(lián)結(jié)主義(Connectionism)和行為主義(Behaviorism),每個(gè)流派都有其獨(dú)特的理論基礎(chǔ)和應(yīng)用領(lǐng)域。人工智能研究可以追溯到1950年,阿蘭·圖靈提出的“圖靈測(cè)試”標(biāo)志著人工智能領(lǐng)域的誕生。20世紀(jì)50年代到60年代,符號(hào)主義和規(guī)則系統(tǒng)成為主流,專(zhuān)家系統(tǒng)開(kāi)始出現(xiàn)。20世紀(jì)80年代到90年代,神經(jīng)網(wǎng)絡(luò)和聯(lián)結(jié)主義、行為主義逐漸成為研究熱點(diǎn)。1.人工智能研究流派的特征1.3.1?人工智能的特征符號(hào)主義符號(hào)主義也稱(chēng)為邏輯主義或認(rèn)知主義,是基于邏輯推理的智能模擬方法。它認(rèn)為智能源于數(shù)理邏輯和符號(hào)處理,通過(guò)大量的“如果-就”規(guī)則定義,產(chǎn)生像人一樣的推理和決策能力。聯(lián)結(jié)主義聯(lián)結(jié)主義也被稱(chēng)為仿生學(xué)派或生理學(xué)派,受腦科學(xué)啟發(fā),認(rèn)為智能產(chǎn)生于大量簡(jiǎn)單單元(如神經(jīng)元)的相互連接和學(xué)習(xí)過(guò)程。聯(lián)結(jié)主義通過(guò)模擬生物神經(jīng)網(wǎng)絡(luò)來(lái)實(shí)現(xiàn)學(xué)習(xí)和識(shí)別模式,典型應(yīng)用包括深度學(xué)習(xí)、強(qiáng)化學(xué)習(xí)等。行為主義行為主義又稱(chēng)為進(jìn)化主義或控制論學(xué)派,強(qiáng)調(diào)智能是通過(guò)主體與環(huán)境的交互過(guò)程產(chǎn)生的。它認(rèn)為智能的本質(zhì)在于根據(jù)環(huán)境反饋來(lái)調(diào)整行為,而不是內(nèi)部的思考。1.3.1?人工智能的特征2.人工智能系統(tǒng)的特征自主學(xué)習(xí)和適應(yīng)能力能夠通過(guò)分析海量數(shù)據(jù),自主學(xué)習(xí)新知識(shí),并且不斷調(diào)整算法模型以適應(yīng)變化的環(huán)境。例如,機(jī)器學(xué)習(xí)技術(shù)的廣泛應(yīng)用讓人工智能系統(tǒng)像人類(lèi)一樣從學(xué)習(xí)經(jīng)驗(yàn)中成長(zhǎng)。高效處理數(shù)據(jù)的能力可以迅速處理大規(guī)模的數(shù)據(jù),進(jìn)行快速且準(zhǔn)確的信息抽取、分類(lèi)、挖掘和分析。在金融領(lǐng)域,能對(duì)大量金融數(shù)據(jù)進(jìn)行分析和預(yù)測(cè),助力制訂有效的投資策略。決策和自主規(guī)劃能力基于所獲取的知識(shí)和信息,能夠自主推理和決策,規(guī)劃出最優(yōu)的解決方案。比如,在游戲領(lǐng)域,能自主決定攻擊、防御或逃跑的策略。多領(lǐng)域應(yīng)用能力廣泛應(yīng)用于醫(yī)療、金融、游戲、物流、教育、智能家居等眾多領(lǐng)域,在不同領(lǐng)域發(fā)揮重要作用。人機(jī)交互與自然語(yǔ)言處理能力通過(guò)語(yǔ)音識(shí)別、音頻識(shí)別、視覺(jué)交互等方式與人類(lèi)溝通,還能理解自然語(yǔ)言并給出回應(yīng)。1.3.1?人工智能的特征自動(dòng)化和智能化實(shí)現(xiàn)機(jī)器的自動(dòng)化和智能化,可通過(guò)人工智能控制完成物品搬運(yùn)、監(jiān)控、巡檢等工作,減輕人類(lèi)勞動(dòng)強(qiáng)度。強(qiáng)大的學(xué)習(xí)能力從大量數(shù)據(jù)中自主學(xué)習(xí)規(guī)律和模式,且隨著數(shù)據(jù)量增加和算法改進(jìn),學(xué)習(xí)能力持續(xù)增強(qiáng)。環(huán)境適應(yīng)能力通過(guò)學(xué)習(xí)和調(diào)整,能適應(yīng)不同的場(chǎng)景和任務(wù)要求。例如,語(yǔ)音識(shí)別系統(tǒng)能適應(yīng)不同人的口音和語(yǔ)速,智能客服系統(tǒng)能處理各種類(lèi)型的客戶(hù)問(wèn)題。數(shù)據(jù)依賴(lài)性其發(fā)展高度依賴(lài)大量高質(zhì)量的數(shù)據(jù),數(shù)據(jù)的質(zhì)量和數(shù)量直接影響模型的性能和準(zhǔn)確性,因此數(shù)據(jù)收集、整理和標(biāo)注等工作至關(guān)重要??蓴U(kuò)展性能夠很容易地?cái)U(kuò)展和應(yīng)用到不同領(lǐng)域和場(chǎng)景。例如圖像識(shí)別領(lǐng)域的模型經(jīng)過(guò)調(diào)整優(yōu)化,可應(yīng)用于醫(yī)療影像診斷、安防監(jiān)控等場(chǎng)景。1.3.2?人工智能的價(jià)值1.學(xué)科發(fā)展層面的價(jià)值人工智能是計(jì)算機(jī)科學(xué)的核心研究方向之一。計(jì)算機(jī)科學(xué)人工智能在數(shù)據(jù)科學(xué)中能夠起到關(guān)鍵的作用。數(shù)據(jù)科學(xué)人工智能在醫(yī)學(xué)學(xué)科領(lǐng)域的應(yīng)用日益增加。醫(yī)學(xué)學(xué)科領(lǐng)域人工智能是智能機(jī)器和機(jī)器人技術(shù)的基礎(chǔ)。機(jī)械學(xué)科人工智能在自然語(yǔ)言處理中發(fā)揮著重要的作用。自然語(yǔ)言處理1.3.2?人工智能的價(jià)值對(duì)于教育領(lǐng)域,生成式人工智能具備3層價(jià)值:三是終極價(jià)值,它能助力教育回歸本質(zhì),讓學(xué)習(xí)者實(shí)現(xiàn)自由而全面的發(fā)展,享受學(xué)習(xí)的快樂(lè)。二是融合價(jià)值,它能重塑教育體系。生成式人工智能和虛擬現(xiàn)實(shí)(VirtualReality,VR)/增強(qiáng)現(xiàn)實(shí)(AugmentedReality,AR)等技術(shù)融合,促進(jìn)教育培養(yǎng)模式變革。一是工具價(jià)值,它能促進(jìn)教學(xué)變革。生成式人工智能可以被應(yīng)用到教與學(xué)的各個(gè)環(huán)節(jié),促進(jìn)個(gè)性化學(xué)習(xí),提升教師備課授課與教育管理者決策的質(zhì)量和效率。1.3.2?人工智能的價(jià)值總體而言,人工智能在學(xué)科發(fā)展層面的普遍性?xún)r(jià)值主要體現(xiàn)在以下幾個(gè)方面。人工智能技術(shù),尤其是生成式人工智能,為科研工作者提供了前所未有的高效工具和方法。在文本分析、歷史文獻(xiàn)整理和知識(shí)圖譜構(gòu)建等方面,人工智能顯著提升了研究效率和質(zhì)量。提高研究效率和質(zhì)量01人工智能不僅提高了研究效率,還在一定程度上改變了研究范式。智能系統(tǒng)作為研究工具,甚至在某些情況下成為研究者開(kāi)展自主研究的新方法。02改變研究和教育范式人工智能的發(fā)展推動(dòng)了“智能人文”等新興子學(xué)科的發(fā)展,這一領(lǐng)域涵蓋人類(lèi)文化、語(yǔ)言研究、歷史研究、文化遺產(chǎn)保護(hù)、藝術(shù)創(chuàng)作和哲學(xué)反思等多個(gè)方面,具有廣闊的發(fā)展空間。03推動(dòng)新興學(xué)科/子學(xué)科發(fā)展在教育領(lǐng)域,人工智能技術(shù)推動(dòng)了個(gè)性化學(xué)習(xí)系統(tǒng)的應(yīng)用。個(gè)性化學(xué)習(xí)系統(tǒng)應(yīng)用04我國(guó)政府和教育部正在大力推進(jìn)智慧校園建設(shè),打造中國(guó)版人工智能教育大模型。智慧校園建設(shè)051.3.2?人工智能的價(jià)值2.多行業(yè)變革維度的價(jià)值圖

新一代人工智能發(fā)展規(guī)劃布局1.3.2?人工智能的價(jià)值人工智能在疾病診斷、手術(shù)規(guī)劃、個(gè)性化醫(yī)療等方面提高了醫(yī)療服務(wù)的精準(zhǔn)性和效率。通過(guò)分析醫(yī)療影像數(shù)據(jù),人工智能可以輔助醫(yī)生進(jìn)行早期癌癥診斷,幫助醫(yī)生提高診斷的準(zhǔn)確性。醫(yī)療行業(yè)01智能輔導(dǎo)系統(tǒng)可根據(jù)學(xué)生的學(xué)習(xí)進(jìn)度和理解能力,提供定制化的學(xué)習(xí)資源和反饋,幫助學(xué)生按照自己的節(jié)奏學(xué)習(xí),提高學(xué)習(xí)效果和興趣。教育行業(yè)02自動(dòng)駕駛技術(shù)降低了交通事故的發(fā)生率;智能交通管理系統(tǒng)優(yōu)化了交通流量,提高了道路使用效率。交通與無(wú)人駕駛行業(yè)03智能電網(wǎng)能減少能源浪費(fèi),降低碳排放;人工智能還能為保護(hù)生物多樣性做出貢獻(xiàn)。環(huán)保行業(yè)04謝謝觀看??!科技改變未來(lái)人工智能導(dǎo)論(慕課版)名校名師通識(shí)教育新形態(tài)系列教材第2章人工智能的科學(xué)背景人工智能導(dǎo)論

(慕課版)名校名師通識(shí)教育新形態(tài)系列教材科技改變未來(lái)神經(jīng)科學(xué)2.22.12.3語(yǔ)言學(xué)哲學(xué)2.4心理學(xué)2.1.1?神經(jīng)元學(xué)說(shuō)神經(jīng)元學(xué)說(shuō)認(rèn)為:神經(jīng)元是功能單元,是大腦和神經(jīng)系統(tǒng)中信息傳遞的基本單位。圖描繪了神經(jīng)元的結(jié)構(gòu)模型,包括樹(shù)突、胞體、軸突和突觸等組成部分。樹(shù)突通常呈樹(shù)狀,接收其他神經(jīng)元傳遞過(guò)來(lái)的信號(hào),并將其傳遞給胞體。胞體則將多個(gè)樹(shù)突傳遞來(lái)的信號(hào)整合,得到整合的刺激信號(hào)。軸突則對(duì)外發(fā)送信號(hào)。突觸是神經(jīng)元與其他神經(jīng)元或效應(yīng)器之間的連接點(diǎn),神經(jīng)元之間通過(guò)神經(jīng)遞質(zhì)在突觸處傳遞信息。圖

神經(jīng)元的結(jié)構(gòu)模型2.1.1?神經(jīng)元學(xué)說(shuō)基于神經(jīng)遞質(zhì)的突觸傳遞是神經(jīng)系統(tǒng)正常功能的關(guān)鍵組成部分。通過(guò)神經(jīng)遞質(zhì)的釋放和作用,神經(jīng)元之間能夠進(jìn)行有效的信息傳遞,調(diào)節(jié)神經(jīng)元的興奮性和抑制性,實(shí)現(xiàn)神經(jīng)系統(tǒng)的正常功能和行為表現(xiàn)。神經(jīng)遞質(zhì)在突觸傳遞中起著關(guān)鍵作用,是神經(jīng)元之間信息傳遞的化學(xué)信號(hào)分子。當(dāng)神經(jīng)元興奮時(shí),電信號(hào)會(huì)沿著軸突傳播到軸突末端,觸發(fā)神經(jīng)遞質(zhì)的釋放。這些神經(jīng)遞質(zhì)儲(chǔ)存在囊泡內(nèi),當(dāng)電信號(hào)到達(dá)軸突末端時(shí),導(dǎo)致囊泡與細(xì)胞膜融合,釋放神經(jīng)遞質(zhì)到突觸間隙。釋放到突觸間隙的神經(jīng)遞質(zhì)會(huì)擴(kuò)散到相鄰的神經(jīng)元的樹(shù)突上,與其上的受體結(jié)合。這種結(jié)合會(huì)導(dǎo)致受體上離子通道的打開(kāi)或關(guān)閉,從而改變目標(biāo)神經(jīng)元內(nèi)細(xì)胞膜電位,產(chǎn)生興奮或抑制效應(yīng)。不同的神經(jīng)元使用不同種類(lèi)的神經(jīng)遞質(zhì),這些神經(jīng)遞質(zhì)在突觸傳遞中起著特定的作用。興奮性神經(jīng)遞質(zhì)(如谷氨酸)會(huì)導(dǎo)致目標(biāo)神經(jīng)元內(nèi)細(xì)胞膜電位升高,促使目標(biāo)神經(jīng)元興奮。抑制性神經(jīng)遞質(zhì)[如GABA(γ-AminobutyricAcid,4-氨基丁酸)]會(huì)導(dǎo)致目標(biāo)神經(jīng)元內(nèi)細(xì)胞膜電位降低,抑制目標(biāo)神經(jīng)元的興奮性。2.1.1?神經(jīng)元學(xué)說(shuō)神經(jīng)元學(xué)說(shuō)的提出對(duì)于神經(jīng)科學(xué)領(lǐng)域具有革命性意義,改變了人們對(duì)神經(jīng)系統(tǒng)內(nèi)部結(jié)構(gòu)和功能的認(rèn)識(shí),推動(dòng)了神經(jīng)科學(xué)的發(fā)展,促進(jìn)了對(duì)神經(jīng)系統(tǒng)的深入研究和探索。神經(jīng)元學(xué)說(shuō)幫助解釋了神經(jīng)系統(tǒng)的生理功能和信息傳遞過(guò)程。神經(jīng)元學(xué)說(shuō)的提出和發(fā)展對(duì)神經(jīng)科學(xué)領(lǐng)域產(chǎn)生了深遠(yuǎn)的影響,為神經(jīng)科學(xué)相關(guān)領(lǐng)域的研究和實(shí)踐提供了重要的理論基礎(chǔ)。同時(shí),神經(jīng)元學(xué)說(shuō)的發(fā)展為構(gòu)建人工神經(jīng)網(wǎng)絡(luò)模型奠定了基礎(chǔ),推動(dòng)了人工智能領(lǐng)域的發(fā)展。2.1.2?神經(jīng)可塑性大腦的神經(jīng)可塑性(NeuralPlasticity)指的是大腦神經(jīng)網(wǎng)絡(luò)通過(guò)生長(zhǎng)和重組而發(fā)生變化的能力。大腦神經(jīng)元、神經(jīng)回路結(jié)構(gòu)及功能可以根據(jù)外部刺激、學(xué)習(xí)、記憶、環(huán)境變化等因素發(fā)生改變,使大腦能夠以不同于先前狀態(tài)的方式進(jìn)行適應(yīng)和運(yùn)作。根據(jù)神經(jīng)可塑性的表現(xiàn)形式和機(jī)制的不同,可以將神經(jīng)可塑性分為結(jié)構(gòu)可塑性和功能可塑性?xún)煞N類(lèi)型。結(jié)構(gòu)可塑性通常被理解為大腦改變其神經(jīng)元連接方式的能力。大腦神經(jīng)元和神經(jīng)網(wǎng)絡(luò)能夠通過(guò)改變其連接方式和結(jié)構(gòu)來(lái)適應(yīng)外部環(huán)境和學(xué)習(xí)經(jīng)驗(yàn)。突觸連接的結(jié)構(gòu)會(huì)發(fā)生變化,新突觸形成、現(xiàn)有突觸改變或消失,以適應(yīng)大腦對(duì)新的信息和環(huán)境的需求,具體表現(xiàn)如下:(1)神經(jīng)元的軸突可以在損傷后發(fā)生回縮和再生,以恢復(fù)功能;(2)樹(shù)突的形態(tài)可以根據(jù)輸入信號(hào)的變化而發(fā)生改變,影響神經(jīng)元之間的連接。功能可塑性指的是大腦改變和調(diào)整神經(jīng)元網(wǎng)絡(luò)功能特性的能力,即神經(jīng)元在接收、處理和傳遞信息時(shí)的功能性改變和調(diào)整。

美國(guó)神經(jīng)科學(xué)家喬丹·格拉夫曼(JordanGrafman)將發(fā)現(xiàn)的功能可塑性大致劃分為4種類(lèi)型:即同源區(qū)域適應(yīng)、代償性偽裝、腦圖擴(kuò)展和跨模態(tài)重新分配。2.1.2?神經(jīng)可塑性腦圖擴(kuò)展則是指與特定認(rèn)知任務(wù)相關(guān)的皮層腦圖由于頻繁接觸刺激而擴(kuò)展,體現(xiàn)了大腦局部區(qū)域在執(zhí)行特定功能或存儲(chǔ)特定信息方面的靈活性。當(dāng)一項(xiàng)功能通過(guò)重復(fù)行為或刺激以足夠頻繁的方式執(zhí)行時(shí),大腦皮層中負(fù)責(zé)該功能的區(qū)域會(huì)隨著個(gè)體對(duì)該功能的“練習(xí)”而擴(kuò)張和收縮。這種現(xiàn)象通常發(fā)生在學(xué)習(xí)和練習(xí)一項(xiàng)技能(如演奏樂(lè)器)的過(guò)程中??缒B(tài)重新分配是指將新的輸入信號(hào)接收至已被剝離默認(rèn)輸入的大腦區(qū)域。一個(gè)典型的例子是,盲人的視覺(jué)皮層仍然能夠發(fā)揮認(rèn)知功能,創(chuàng)造對(duì)現(xiàn)實(shí)世界的表征,但這些表征的基礎(chǔ)是另一種感覺(jué)——觸覺(jué)的輸入。2.1.2?神經(jīng)可塑性此外,突觸隨著時(shí)間的推移和活動(dòng)的增加或減少而增強(qiáng)或減弱的能力,被稱(chēng)為突觸可塑性。突觸可塑性是功能可塑性的核心機(jī)制。突觸可塑性表現(xiàn)為突觸的連接強(qiáng)度和結(jié)構(gòu)發(fā)生變化的能力,主要的突觸可塑性包括長(zhǎng)時(shí)程增強(qiáng)(Long-TermPotentiation,LTP)和長(zhǎng)時(shí)程抑制(Long-TermDepression,LTD)長(zhǎng)時(shí)程增強(qiáng)指的是當(dāng)神經(jīng)元的突觸輸入重復(fù)激活時(shí),突觸傳遞效率提高的過(guò)程。長(zhǎng)時(shí)程抑制指的是當(dāng)神經(jīng)元的突觸輸入不再激活時(shí),突觸傳遞效率降低的過(guò)程。長(zhǎng)時(shí)程增強(qiáng)和長(zhǎng)時(shí)程抑制可以加強(qiáng)或削弱神經(jīng)元之間的連接,從而影響神經(jīng)回路的功能。2.1.2?神經(jīng)可塑性在生物發(fā)育過(guò)程中的特定時(shí)間段內(nèi),神經(jīng)系統(tǒng)對(duì)環(huán)境刺激更為敏感,這種敏感期的發(fā)展可塑性對(duì)大腦發(fā)展至關(guān)重要。外部刺激、體驗(yàn)和環(huán)境對(duì)大腦神經(jīng)可塑性的影響巨大,豐富的環(huán)境和多樣的經(jīng)驗(yàn)有助于促進(jìn)神經(jīng)可塑性,而缺乏刺激或者單一的環(huán)境可能會(huì)限制大腦的神經(jīng)可塑性。大腦的神經(jīng)可塑性是一個(gè)動(dòng)態(tài)的過(guò)程,它使得大腦能夠不斷適應(yīng)外部環(huán)境的變化、學(xué)習(xí)新知識(shí)、形成記憶,并在受損后恢復(fù)功能。神經(jīng)可塑性的研究促進(jìn)了深度學(xué)習(xí)模型的發(fā)展。在深度學(xué)習(xí)模型中,神經(jīng)元和連接權(quán)重在訓(xùn)練過(guò)程中根據(jù)數(shù)據(jù)特性進(jìn)行調(diào)整,類(lèi)似于生物神經(jīng)元的可塑性機(jī)制。理解神經(jīng)可塑性有助于在人工智能領(lǐng)域設(shè)計(jì)更加智能的學(xué)習(xí)算法,模仿大腦學(xué)習(xí)方式和信息處理機(jī)制,提高機(jī)器學(xué)習(xí)算法的效率和準(zhǔn)確性。通過(guò)結(jié)合神經(jīng)可塑性的原理和機(jī)制,人工智能系統(tǒng)以大規(guī)模數(shù)據(jù)學(xué)習(xí)為基礎(chǔ),模擬人類(lèi)智能行為,進(jìn)行模式識(shí)別、學(xué)習(xí)和決策,并在各種任務(wù)中表現(xiàn)出色。2.1.3?感覺(jué)和知覺(jué)01感覺(jué)(Sensation)感覺(jué)是指感知外部刺激或內(nèi)部生理狀態(tài)的過(guò)程,是生物對(duì)外界環(huán)境刺激的直接反應(yīng),通常包括感覺(jué)器官接收刺激信號(hào)、將信號(hào)傳輸至大腦的神經(jīng)途徑,并在大腦中進(jìn)行初步的信息處理。感覺(jué)主要涉及感知外部刺激的能力,依據(jù)感覺(jué)器官的差異又可以分為視覺(jué)、聽(tīng)覺(jué)、觸覺(jué)、味覺(jué)和嗅覺(jué)等。02知覺(jué)(Perception)知覺(jué)則是在感覺(jué)的基礎(chǔ)上對(duì)信息進(jìn)行加工、解釋和理解的過(guò)程,涉及大腦對(duì)感覺(jué)信息的綜合和解釋?zhuān)刮覀兡軌蛘J(rèn)識(shí)和理解外界環(huán)境。知覺(jué)不僅包括感知外部刺激的能力,還涉及大腦對(duì)這些感知信息進(jìn)行分析、識(shí)別、記憶和意義賦予的過(guò)程。大腦的知覺(jué)是一個(gè)復(fù)雜的過(guò)程,涉及感知、認(rèn)知、注意力等多個(gè)方面。知覺(jué)的加工過(guò)程是大腦處理和解釋感覺(jué)輸入的復(fù)雜過(guò)程,包括3個(gè)階段,分別是感覺(jué)接收階段、感覺(jué)整合階段、知覺(jué)解釋階段。2.1.3?感覺(jué)和知覺(jué)在感覺(jué)接收階段感覺(jué)器官?gòu)耐饨缃邮招畔?,外界刺激(如光、聲音、觸覺(jué)等)被感覺(jué)器官(如眼睛、耳朵、皮膚、鼻子、舌頭)接收并轉(zhuǎn)化成神經(jīng)信號(hào),通過(guò)神經(jīng)元傳遞到大腦的感覺(jué)皮層。在感覺(jué)整合階段大腦對(duì)來(lái)自不同感官的信息進(jìn)行整合和綜合,以產(chǎn)生更加全面和準(zhǔn)確的認(rèn)知。以視覺(jué)信息整合為例,大腦會(huì)抽取信息的特征,如形狀、顏色、大小等,將相似的特征組合起來(lái)形成對(duì)物體的整體認(rèn)識(shí),以識(shí)別出環(huán)境中物體的類(lèi)別和屬性。大腦對(duì)接收到的信息進(jìn)行加工、分類(lèi)和模式識(shí)別,以識(shí)別物體、場(chǎng)景或聲音等,形成更全面的感知體驗(yàn)。在知覺(jué)解釋階段大腦對(duì)感知整合的信息進(jìn)行認(rèn)知層面的加工,根據(jù)先前的經(jīng)驗(yàn)、記憶和文化背景解釋感知信息,賦予其意義和情境。大腦會(huì)根據(jù)個(gè)體的知識(shí)、經(jīng)驗(yàn)和期望對(duì)接收到的信息進(jìn)行解釋和推斷,從而形成對(duì)周?chē)h(huán)境的完整認(rèn)識(shí)。這一階段是知覺(jué)過(guò)程的最終環(huán)節(jié),也是個(gè)體與外界環(huán)境進(jìn)行交互的關(guān)鍵?;趯?duì)感知信息的理解和解釋?zhuān)竽X制訂決策和行動(dòng)計(jì)劃。2.1.3?感覺(jué)和知覺(jué)通過(guò)這些步驟,大腦能夠?qū)⑼獠康母杏X(jué)輸入轉(zhuǎn)化為有意義的感知體驗(yàn),幫助個(gè)體理解和適應(yīng)周?chē)h(huán)境。知覺(jué)加工是一個(gè)動(dòng)態(tài)的、交互式的神經(jīng)活動(dòng)過(guò)程,涉及大腦的多個(gè)區(qū)域和神經(jīng)網(wǎng)絡(luò)的協(xié)同工作。這些階段相互作用,共同構(gòu)成了我們對(duì)外部世界感知、理解和反應(yīng)的復(fù)雜過(guò)程。知覺(jué)過(guò)程受多種因素(包括生理因素、心理因素和環(huán)境因素)影響。不同情境下,同樣的感覺(jué)輸入可能被解釋為不同的感知,這種情況稱(chēng)為情境效應(yīng)。此外,情感狀態(tài)對(duì)感知信息的選擇、解釋和記憶也起著重要作用。2.1.4?注意機(jī)制注意機(jī)制是認(rèn)知活動(dòng)中的重要組成部分,有助于個(gè)體選擇性地感知、處理和響應(yīng)特定的刺激或信息。大腦中的注意機(jī)制指的是一系列神經(jīng)過(guò)程和網(wǎng)絡(luò),負(fù)責(zé)調(diào)節(jié)和控制個(gè)體對(duì)外界或內(nèi)部信息的關(guān)注和處理。大腦中的注意機(jī)制允許個(gè)體在不同感官輸入或任務(wù)之間進(jìn)行注意的分配和轉(zhuǎn)移。個(gè)體可以選擇性地將注意集中在特定的感覺(jué)輸入或任務(wù)上,以實(shí)現(xiàn)更高效的信息處理和行為反應(yīng)??偟膩?lái)說(shuō),大腦中的注意機(jī)制是一個(gè)復(fù)雜的神經(jīng)網(wǎng)絡(luò)系統(tǒng),涉及多個(gè)大腦區(qū)域和神經(jīng)過(guò)程,負(fù)責(zé)調(diào)節(jié)和控制個(gè)體的注意力資源,以支持有效的感知、認(rèn)知和行為。2.1.4?注意機(jī)制注意模型主要關(guān)注人類(lèi)注意力的調(diào)控和運(yùn)作機(jī)制,以解釋人類(lèi)在處理信息時(shí)是如何選擇性地關(guān)注和處理特定的信息,而忽略其他信息的。常見(jiàn)的注意模型包括過(guò)濾器模型、衰減器模型、競(jìng)爭(zhēng)性選擇模型、雙通道模型等。競(jìng)爭(zhēng)性選擇模型認(rèn)為,大腦中的不同信息源或表示在處理過(guò)程中相互競(jìng)爭(zhēng),只有最強(qiáng)的信息源能夠在認(rèn)知系統(tǒng)中得到處理和表征;競(jìng)爭(zhēng)性選擇模型過(guò)濾器模型認(rèn)為,人類(lèi)的注意力會(huì)在早期信息處理階段對(duì)信息進(jìn)行過(guò)濾,只有符合特定標(biāo)準(zhǔn)(如注意任務(wù)或意圖)的信息才能通過(guò),而非相關(guān)信息則被抑制或忽略;過(guò)濾器模型衰減器模型則認(rèn)為人類(lèi)的注意力是通過(guò)調(diào)整信息的“強(qiáng)度”來(lái)實(shí)現(xiàn)的,非相關(guān)信息可能被減少但仍在一定程度上被處理,而非完全過(guò)濾;衰減器模型雙通道模型認(rèn)為,人類(lèi)注意力系統(tǒng)由一個(gè)自動(dòng)的“即時(shí)”通道和一個(gè)有意識(shí)的“控制”通道組成,分別用于自動(dòng)處理外部環(huán)境的重要信息和有意識(shí)地選擇性處理任務(wù)相關(guān)信息。雙通道模型2.1.4?注意機(jī)制在深度學(xué)習(xí)中,注意機(jī)制是一種模擬人類(lèi)注意力的技術(shù),通過(guò)使模型在處理信息時(shí)集中注意力于重要部分,提升模型的性能和泛化能力。從具體實(shí)現(xiàn)上來(lái)看,注意機(jī)制通過(guò)計(jì)算每個(gè)輸入元素的注意力權(quán)重來(lái)模擬不同程度的關(guān)注。作為深度學(xué)習(xí)和大模型實(shí)踐的常見(jiàn)網(wǎng)絡(luò)模型,Transformer模型正是基于對(duì)注意機(jī)制的建模實(shí)現(xiàn)的。另一方面,Transformer模型中的自注意力建模允許模型在處理序列數(shù)據(jù)時(shí)將注意力集中在序列內(nèi)不同位置的元素上,從而更好地捕捉元素之間的依賴(lài)關(guān)系。一方面,Transformer模型中的多頭注意機(jī)制模擬了人類(lèi)的多方面關(guān)注能力。通過(guò)同時(shí)關(guān)注輸入的不同方面,Transformer模型可以更全面地處理信息并提高性能。2.1.4?注意機(jī)制深度學(xué)習(xí)中的注意機(jī)制可以動(dòng)態(tài)調(diào)整注意力權(quán)重,使模型能夠根據(jù)輸入信息的不同部分自適應(yīng)地調(diào)整關(guān)注程度。這種動(dòng)態(tài)調(diào)整類(lèi)似于人類(lèi)在處理信息時(shí)根據(jù)情境和任務(wù)靈活調(diào)整注意力的行為。注意機(jī)制的引入使得深度學(xué)習(xí)模型更具可解釋性,也更符合人類(lèi)認(rèn)知過(guò)程的特點(diǎn),推動(dòng)了人工智能系統(tǒng)向更智能、更人性化的方向發(fā)展。2.1.5?記憶機(jī)制大腦的記憶機(jī)制是一個(gè)復(fù)雜而精密的過(guò)程,涉及多個(gè)大腦區(qū)域和神經(jīng)回路的協(xié)同作用。按照保持時(shí)間和容量的不同,記憶可以分成感覺(jué)記憶、短時(shí)記憶和長(zhǎng)時(shí)記憶3個(gè)子系統(tǒng)。感覺(jué)記憶感覺(jué)記憶又被稱(chēng)為瞬時(shí)記憶,指的是外部刺激通過(guò)感覺(jué)器官傳遞到大腦所引起的短暫記憶。感覺(jué)記憶具備高容量和短暫的特點(diǎn),能夠快速地接收和存儲(chǔ)大量的感知信息,但存儲(chǔ)時(shí)間很短,信息容易被遺忘。短時(shí)記憶短時(shí)記憶又被稱(chēng)為工作記憶,指的是信息在短期內(nèi)被暫時(shí)存儲(chǔ)在大腦中。這種記憶形式具有較短的持續(xù)時(shí)間和較小的容量。前額葉在短時(shí)記憶中發(fā)揮重要作用,幫助維持和操作臨時(shí)存儲(chǔ)的信息。長(zhǎng)時(shí)記憶長(zhǎng)時(shí)記憶容量很大,能夠存儲(chǔ)大量的信息并保持較長(zhǎng)的時(shí)間,從幾分鐘到幾十年不等。長(zhǎng)時(shí)記憶的信息編碼和存儲(chǔ)是持久的,通常需要更深層次的加工,如語(yǔ)義加工、情境加工等。2.1.5?記憶機(jī)制感覺(jué)記憶、短時(shí)記憶和長(zhǎng)時(shí)記憶是人類(lèi)記憶系統(tǒng)中的3個(gè)重要組成部分,它們之間存在著信息的轉(zhuǎn)換和交互,如圖所示。圖

記憶子系統(tǒng)的相互轉(zhuǎn)換和交互2.1.5?記憶機(jī)制在人工智能領(lǐng)域,記憶機(jī)制是一種模擬人類(lèi)記憶過(guò)程的技術(shù),通過(guò)在模型中引入記憶單元或機(jī)制,使得模型能夠更好地存儲(chǔ)和訪問(wèn)過(guò)去的信息,提高其性能和泛化能力。在深度學(xué)習(xí)中,長(zhǎng)短時(shí)記憶(LongShort-TermMemory,LSTM)網(wǎng)絡(luò)是一種處理序列數(shù)據(jù)的經(jīng)典網(wǎng)絡(luò)模型,通過(guò)模擬短時(shí)記憶、長(zhǎng)時(shí)記憶與遺忘機(jī)制來(lái)實(shí)現(xiàn),被廣泛應(yīng)用于序列建模的任務(wù)中。此外,在深度學(xué)習(xí)模型中,記憶單元可用于捕捉和存儲(chǔ)過(guò)去的信息。這些記憶單元可以幫助模型更好地理解序列數(shù)據(jù)、處理長(zhǎng)期依賴(lài)關(guān)系,避免梯度消失或梯度爆炸的問(wèn)題。引入記憶的存儲(chǔ)與遺忘機(jī)制,允許模型在學(xué)習(xí)新任務(wù)時(shí)忘記先前學(xué)習(xí)的部分信息,這類(lèi)似于人類(lèi)大腦在學(xué)習(xí)過(guò)程中對(duì)次要信息進(jìn)行遺忘的機(jī)制。神經(jīng)科學(xué)2.12.22.3語(yǔ)言學(xué)哲學(xué)2.4心理學(xué)2.2.1?喬姆斯基的語(yǔ)言學(xué)理論諾姆·喬姆斯基(NoamChomsky)是一位著名的語(yǔ)言學(xué)家、哲學(xué)家和認(rèn)知科學(xué)家,其語(yǔ)言學(xué)理論對(duì)現(xiàn)代語(yǔ)言學(xué)和認(rèn)知科學(xué)領(lǐng)域有著深遠(yuǎn)的影響。喬姆斯基的語(yǔ)言學(xué)理論包括許多重要的理論和觀點(diǎn),其中,核心理論包括生成語(yǔ)法(GenerativeGrammar)理論和普遍語(yǔ)法(UniversalGrammar)理論。普遍語(yǔ)法理論

:則認(rèn)為人類(lèi)天生具有一種普遍的語(yǔ)言結(jié)構(gòu)和能力,這種結(jié)構(gòu)和能力被編碼在人類(lèi)的基因中,使得人類(lèi)能夠?qū)W習(xí)并理解語(yǔ)言。普遍語(yǔ)法理論強(qiáng)調(diào)語(yǔ)言習(xí)得的內(nèi)在機(jī)制,關(guān)注語(yǔ)言的普遍特性和人類(lèi)語(yǔ)言的共性。生成語(yǔ)法理論:認(rèn)為語(yǔ)言是由有限數(shù)量的基本規(guī)則生成的無(wú)限句子的集合。這些基本規(guī)則被稱(chēng)為生成語(yǔ)法,用于描述語(yǔ)言結(jié)構(gòu)的組成和生成過(guò)程。如下圖為一個(gè)語(yǔ)言結(jié)構(gòu)的示例。生成語(yǔ)法理論旨在通過(guò)構(gòu)建和測(cè)試語(yǔ)法知識(shí)的模型來(lái)解釋語(yǔ)言的認(rèn)知基礎(chǔ),提出由明確的語(yǔ)法規(guī)則系統(tǒng)組成語(yǔ)言模型,這些規(guī)則系統(tǒng)可以實(shí)現(xiàn)語(yǔ)句生成。核心理論2.2.1?喬姆斯基的語(yǔ)言學(xué)理論圖

一個(gè)語(yǔ)言結(jié)構(gòu)的示例喬姆斯基的語(yǔ)言學(xué)理論對(duì)認(rèn)知科學(xué)、語(yǔ)言學(xué)和人工智能領(lǐng)域產(chǎn)生了深遠(yuǎn)影響,為理解語(yǔ)言結(jié)構(gòu)、語(yǔ)言習(xí)得和認(rèn)知能力提供了重要的理論框架,使得人們對(duì)語(yǔ)言和認(rèn)知之間的關(guān)系有了更深入的認(rèn)識(shí),并推動(dòng)了相關(guān)領(lǐng)域的研究和發(fā)展。首先,喬姆斯基的普遍語(yǔ)法理論強(qiáng)調(diào)了人類(lèi)天生的語(yǔ)言習(xí)得能力,這為人工智能領(lǐng)域的知識(shí)表示和知識(shí)嵌入模型提供了啟示,促使人工智能研究者探索如何用類(lèi)似的內(nèi)在結(jié)構(gòu)和規(guī)則來(lái)表示知識(shí),模擬人類(lèi)的語(yǔ)言智能行為。其次,喬姆斯基的生成語(yǔ)法的思想被廣泛應(yīng)用于自然語(yǔ)言處理系統(tǒng)中,幫助構(gòu)建應(yīng)用于自然語(yǔ)言理解和生成的計(jì)算模型,推動(dòng)了生成式語(yǔ)言模型的建立,提高了自然語(yǔ)言處理的準(zhǔn)確性和效率。2.2.2?言語(yǔ)分析理論言語(yǔ)分析(SpeechAnalysis)是語(yǔ)言學(xué)的一個(gè)重要分支,關(guān)注語(yǔ)言使用和言語(yǔ)行為。言語(yǔ)分析理論的研究涉及解釋人類(lèi)言語(yǔ)交流的各個(gè)方面,主要研究口語(yǔ)表達(dá)的結(jié)構(gòu)、功能、生成和理解機(jī)制,涉及語(yǔ)音、語(yǔ)法、語(yǔ)義、語(yǔ)用等多個(gè)層面,以揭示言語(yǔ)行為背后的規(guī)律和原則。按照具體的研究對(duì)象來(lái)劃分,言語(yǔ)分析理論包括語(yǔ)音學(xué)分析、語(yǔ)法分析、語(yǔ)義分析、語(yǔ)用分析等方面。言語(yǔ)分析理論的研究有助于語(yǔ)言學(xué)家、社會(huì)學(xué)研究者和語(yǔ)言教育者理解和解釋言語(yǔ)現(xiàn)象,推動(dòng)對(duì)言語(yǔ)交流的深入研究和應(yīng)用。語(yǔ)音學(xué)分析語(yǔ)音學(xué)分析涉及對(duì)語(yǔ)音學(xué)特征和語(yǔ)音單位(包括音素、音節(jié)、重音模式等)的分析,了解語(yǔ)音在言語(yǔ)交流中的作用和特征。語(yǔ)法分析語(yǔ)法分析則是研究語(yǔ)法結(jié)構(gòu)和句法規(guī)則在言語(yǔ)交流中的作用,涉及句子結(jié)構(gòu)、詞類(lèi)、句法關(guān)系等內(nèi)容,為語(yǔ)句的組織和解釋提供支撐。語(yǔ)義分析語(yǔ)義分析則關(guān)注言語(yǔ)的意義和表達(dá)方式,涉及詞義、句義、邏輯關(guān)系等內(nèi)容,關(guān)注言語(yǔ)表達(dá)的含義和推理。語(yǔ)用分析語(yǔ)用分析研究言語(yǔ)使用的社會(huì)交際功能,涉及言語(yǔ)行為、言外行為、言語(yǔ)目的和效果等內(nèi)容,關(guān)注言語(yǔ)的社會(huì)交際功能。2.2.3?語(yǔ)料庫(kù)語(yǔ)言學(xué)語(yǔ)料庫(kù)語(yǔ)言學(xué)(CorpusLinguistics)是語(yǔ)言學(xué)的一個(gè)子學(xué)科,指的是采用基于語(yǔ)料庫(kù)數(shù)據(jù)的語(yǔ)言研究方法。其研究方式是通過(guò)收集、整理和分析大規(guī)模語(yǔ)言數(shù)據(jù)來(lái)揭示語(yǔ)言規(guī)律和模式。語(yǔ)料庫(kù)語(yǔ)言學(xué)被認(rèn)為是一種數(shù)據(jù)驅(qū)動(dòng)的語(yǔ)言學(xué)研究方法,依賴(lài)于真實(shí)語(yǔ)言數(shù)據(jù)的收集和分析。語(yǔ)料庫(kù)是指收集和組織起來(lái)的大量實(shí)際語(yǔ)言使用的文本或語(yǔ)音數(shù)據(jù)集合,可以是書(shū)面文本、口語(yǔ)數(shù)據(jù)、網(wǎng)絡(luò)文本等形式的語(yǔ)言素材。語(yǔ)料庫(kù)語(yǔ)言學(xué)的研究在翻譯學(xué)和教育學(xué)等人文學(xué)科領(lǐng)域有重要意義。一方面,其研究可以為翻譯工作者提供語(yǔ)言使用的參考和語(yǔ)境信息;另一方面,研究成果可以提升語(yǔ)言教學(xué)的效果,幫助教師和學(xué)習(xí)者更好地了解語(yǔ)言的實(shí)際使用情況。語(yǔ)料庫(kù)語(yǔ)言學(xué)為自然語(yǔ)言處理和機(jī)器翻譯等人工智能任務(wù)提供了重要的數(shù)據(jù)支持和分析方法。語(yǔ)言模型的訓(xùn)練和語(yǔ)言處理任務(wù)的評(píng)估通常依賴(lài)于語(yǔ)料庫(kù)數(shù)據(jù)。正是通過(guò)大規(guī)模語(yǔ)料庫(kù)的搜集和構(gòu)建,為大語(yǔ)言模型提供了優(yōu)化學(xué)習(xí)的數(shù)據(jù)支撐。大規(guī)模語(yǔ)料庫(kù)提供了豐富且多樣化的語(yǔ)言數(shù)據(jù),使得以此為基礎(chǔ)的深度神經(jīng)網(wǎng)絡(luò)模型能夠?qū)W習(xí)到復(fù)雜且多樣的語(yǔ)言結(jié)構(gòu)、語(yǔ)言風(fēng)格和用法。語(yǔ)料庫(kù)中包含的大量上下文信息,使模型能夠獲取廣泛的知識(shí),理解語(yǔ)言多樣性和對(duì)環(huán)境的依賴(lài)性,構(gòu)建更準(zhǔn)確和有效的自然語(yǔ)言處理系統(tǒng)。2.2.4?統(tǒng)計(jì)語(yǔ)言學(xué)統(tǒng)計(jì)語(yǔ)言學(xué)(StatisticalLinguistics)是語(yǔ)言學(xué)與統(tǒng)計(jì)學(xué)的交叉學(xué)科,它利用統(tǒng)計(jì)學(xué)原理和技術(shù)來(lái)研究自然語(yǔ)言現(xiàn)象和語(yǔ)言結(jié)構(gòu)。統(tǒng)計(jì)語(yǔ)言學(xué)強(qiáng)調(diào)在大規(guī)模語(yǔ)料庫(kù)上開(kāi)展數(shù)據(jù)量化與統(tǒng)計(jì)分析,被廣泛應(yīng)用于自然語(yǔ)言處理和機(jī)器翻譯等任務(wù)。統(tǒng)計(jì)語(yǔ)言學(xué)的主要特點(diǎn)包括以下兩個(gè)方面。其次,統(tǒng)計(jì)語(yǔ)言學(xué)使用概率模型來(lái)描述語(yǔ)言現(xiàn)象,包括語(yǔ)音、文本和語(yǔ)義等方面。通過(guò)統(tǒng)計(jì)模型,可以對(duì)語(yǔ)言現(xiàn)象進(jìn)行建模和預(yù)測(cè)。與語(yǔ)料庫(kù)語(yǔ)言學(xué)相比,統(tǒng)計(jì)語(yǔ)言學(xué)更關(guān)注語(yǔ)言的統(tǒng)計(jì)學(xué)規(guī)律(例如,用概率模型實(shí)現(xiàn)對(duì)下一個(gè)詞的預(yù)測(cè))首先,統(tǒng)計(jì)語(yǔ)言學(xué)是一種數(shù)據(jù)驅(qū)動(dòng)的方法,它依賴(lài)于大規(guī)模語(yǔ)料庫(kù)數(shù)據(jù)來(lái)進(jìn)行統(tǒng)計(jì)分析和建模。典型分析方式有描述統(tǒng)計(jì)、推斷性建模等。通過(guò)大量語(yǔ)言數(shù)據(jù)的定量統(tǒng)計(jì)分析,可以揭示語(yǔ)言的規(guī)律和模式,幫助理解和處理自然語(yǔ)言。隨著深度學(xué)習(xí)的發(fā)展,統(tǒng)計(jì)語(yǔ)言學(xué)也得到了顯著發(fā)展,體現(xiàn)在語(yǔ)言模型用于自然語(yǔ)言生成和識(shí)別。2.2.5?計(jì)算語(yǔ)言學(xué)計(jì)算語(yǔ)言學(xué)(ComputationalLinguistics)是一門(mén)交叉學(xué)科,它結(jié)合了計(jì)算機(jī)科學(xué)、人工智能和語(yǔ)言學(xué)等領(lǐng)域的知識(shí),關(guān)注并研究利用計(jì)算機(jī)技術(shù)處理和分析自然語(yǔ)言。自然語(yǔ)言處理是計(jì)算語(yǔ)言學(xué)的核心領(lǐng)域之一,旨在開(kāi)發(fā)計(jì)算機(jī)程序來(lái)處理和理解人類(lèi)語(yǔ)言。自然語(yǔ)言處理包括機(jī)器翻譯、自動(dòng)語(yǔ)音識(shí)別、信息檢索、人機(jī)交互等核心任務(wù)。通過(guò)計(jì)算語(yǔ)言學(xué)的研究和應(yīng)用,人們能夠利用計(jì)算機(jī)技術(shù)處理和分析自然語(yǔ)言,實(shí)現(xiàn)自然語(yǔ)言處理的自動(dòng)化和智能化,推動(dòng)自然語(yǔ)言理解和處理技術(shù)的發(fā)展與應(yīng)用。神經(jīng)科學(xué)2.22.32.1語(yǔ)言學(xué)哲學(xué)2.4心理學(xué)2.3.1?人工智能的哲學(xué)背景人工智能的起源與發(fā)展具備深刻的哲學(xué)背景。意識(shí)、思維和智能的本質(zhì),是哲學(xué)領(lǐng)域的基本問(wèn)題,與人工智能有緊密的關(guān)聯(lián)。阿蘭·圖靈在1950年發(fā)表了論文“ComputingMachineryandIntelligence”(《計(jì)算機(jī)器與智能》),提出了著名的“圖靈測(cè)試”,即如果一臺(tái)機(jī)器能夠與人類(lèi)展開(kāi)對(duì)話(huà)且不被察覺(jué),那么可以認(rèn)為這臺(tái)機(jī)器具備智能。圖靈測(cè)試蘊(yùn)含行為主義的哲學(xué)思想,即關(guān)注行為本身,而不是內(nèi)在過(guò)程。圖靈測(cè)試正是強(qiáng)調(diào)通過(guò)觀察機(jī)器的行為來(lái)評(píng)估其智能水平,而不關(guān)心機(jī)器內(nèi)部的工作原理和思維過(guò)程。2.3.1?人工智能的哲學(xué)背景人工智能研究主要分為三大流派,分別是符號(hào)主義、聯(lián)結(jié)主義和行為主義。符號(hào)主義符號(hào)主義也被稱(chēng)為邏輯主義或認(rèn)知主義。符號(hào)主義流派主張通過(guò)符號(hào)和符號(hào)之間的關(guān)系來(lái)表示和處理知識(shí)(包括事實(shí)、規(guī)則、概念等)。符號(hào)主義強(qiáng)調(diào)邏輯推理的重要性,認(rèn)為通過(guò)符號(hào)之間的邏輯關(guān)系可以實(shí)現(xiàn)高級(jí)推理和問(wèn)題解決能力。符號(hào)主義對(duì)早期人工智能領(lǐng)域?qū)<蚁到y(tǒng)的發(fā)展起到了推動(dòng)作用。符號(hào)主義與認(rèn)知哲學(xué)中的知識(shí)表示密切相關(guān),探討如何將人類(lèi)知識(shí)形式化。符號(hào)主義關(guān)注理性思維,涉及哲學(xué)中對(duì)意識(shí)和智能的理解。聯(lián)結(jié)主義聯(lián)結(jié)主義是人工智能的另一個(gè)流派,核心思想是模仿人腦神經(jīng)元之間的連接方式,使用神經(jīng)網(wǎng)絡(luò)模型來(lái)構(gòu)建人工智能系統(tǒng)。聯(lián)結(jié)主義強(qiáng)調(diào)通過(guò)學(xué)習(xí)來(lái)獲取知識(shí)和技能。神經(jīng)網(wǎng)絡(luò)通過(guò)調(diào)整連接權(quán)重來(lái)適應(yīng)輸入數(shù)據(jù)的統(tǒng)計(jì)結(jié)構(gòu),從而進(jìn)行模式識(shí)別和分類(lèi)。聯(lián)結(jié)主義引發(fā)了對(duì)意識(shí)(尤其是機(jī)器能否具備類(lèi)似人類(lèi)的意識(shí))的討論。聯(lián)結(jié)主義流派的觀點(diǎn)蘊(yùn)含著形而上學(xué)的哲學(xué)思想,探討模型如何映射到真實(shí)世界,神經(jīng)網(wǎng)絡(luò)的運(yùn)作機(jī)制是否能夠解釋智能的本質(zhì)。2.3.1?人工智能的哲學(xué)背景行為主義行為主義是一個(gè)在人工智能和心理學(xué)領(lǐng)域均影響深遠(yuǎn)的流派。行為主義者認(rèn)為內(nèi)心狀態(tài)(如思想、情感等)無(wú)法被科學(xué)地測(cè)量,主張用可觀察的行為和環(huán)境變量來(lái)解釋心理現(xiàn)象,而不是通過(guò)內(nèi)心的過(guò)程。行為主義傾向于使用實(shí)驗(yàn)和觀察的方法來(lái)研究個(gè)體的行為反應(yīng),避免主觀的內(nèi)省和推測(cè)。行為主義認(rèn)為人工智能系統(tǒng)應(yīng)該通過(guò)觀察和模仿人類(lèi)或其他智能體(Agent)的外部行為來(lái)實(shí)現(xiàn)智能,而不需要考慮內(nèi)部的心理過(guò)程或認(rèn)知結(jié)構(gòu)。行為主義認(rèn)為智能行為是由環(huán)境和個(gè)體的反饋機(jī)制共同決定的,強(qiáng)調(diào)通過(guò)反饋機(jī)制來(lái)調(diào)整行為,即系統(tǒng)根據(jù)環(huán)境的反饋信息來(lái)調(diào)整自己的行為,以達(dá)到預(yù)期的目標(biāo)。行為主義還認(rèn)為智能行為應(yīng)該是可觀察和可測(cè)量的,系統(tǒng)的內(nèi)部結(jié)構(gòu)和運(yùn)作機(jī)制并不重要,只有通過(guò)觀察行為才能了解系統(tǒng)的智能程度。行為主義與實(shí)用主義哲學(xué)相契合,關(guān)注實(shí)際效果和應(yīng)用,而不是內(nèi)部狀態(tài),這種觀點(diǎn)對(duì)于研究智能行為以及如何模擬智能行為具有重要意義。2.3.1?人工智能的哲學(xué)背景此外,數(shù)學(xué)哲學(xué)(哲學(xué)的子學(xué)科)中的邏輯主義、形式主義也為人工智能提供了哲學(xué)背景。邏輯主義是數(shù)學(xué)哲學(xué)中的一個(gè)重要流派,主張數(shù)學(xué)的基礎(chǔ)是邏輯而非直覺(jué)或經(jīng)驗(yàn)。邏輯主義強(qiáng)調(diào)邏輯推理在智能行為中的重要性,邏輯推理被視為理解智能行為的關(guān)鍵。邏輯主義還強(qiáng)調(diào)數(shù)學(xué)命題可以通過(guò)邏輯推理得出,這一思想促進(jìn)了人工智能中形式化推理系統(tǒng)的發(fā)展。人工智能算法和模型依賴(lài)于嚴(yán)密的邏輯推理框架。邏輯主義為知識(shí)表示提供了理論基礎(chǔ),人工智能中的知識(shí)表示常使用謂詞邏輯和命題邏輯來(lái)描述世界。這種形式化的表示方式使得計(jì)算機(jī)能夠有效地處理和推理信息。邏輯主義的原則支持開(kāi)發(fā)自動(dòng)推理系統(tǒng),這些系統(tǒng)可以基于邏輯規(guī)則進(jìn)行推導(dǎo)和推理,廣泛應(yīng)用于專(zhuān)家系統(tǒng)和推理引擎中。邏輯主義影響了編程語(yǔ)言的設(shè)計(jì),邏輯推理成了編程的核心。形式化的編程為人工智能的算法和模型實(shí)現(xiàn)提供了支撐。邏輯主義2.3.1?人工智能的哲學(xué)背景形式主義強(qiáng)調(diào)符號(hào)系統(tǒng)和形式規(guī)則在認(rèn)知和智能行為中的作用,推動(dòng)了基于符號(hào)的人工智能系統(tǒng)的發(fā)展。形式主義主張數(shù)學(xué)的基礎(chǔ)在于符號(hào)和形式系統(tǒng),而非對(duì)象的直觀理解。形式主義關(guān)注符號(hào)的操作和變換,而人工智能系統(tǒng)常使用符號(hào)來(lái)表示數(shù)據(jù)和信息,符號(hào)的操作遵循嚴(yán)格的規(guī)則。形式主義為形式化推理提供了基礎(chǔ),為推理系統(tǒng)依賴(lài)于邏輯規(guī)則和公式實(shí)現(xiàn)自動(dòng)推理和決策提供了方法論基礎(chǔ)。形式主義促使算法設(shè)計(jì)遵循明確的規(guī)則和步驟,確保計(jì)算過(guò)程的嚴(yán)謹(jǐn)性。形式主義強(qiáng)調(diào)通過(guò)模型來(lái)理解復(fù)雜系統(tǒng),人工智能領(lǐng)域常用形式化模型來(lái)表示現(xiàn)實(shí)世界中的問(wèn)題,為算法提供解決框架。形式主義的觀點(diǎn)可影響知識(shí)表示的語(yǔ)法結(jié)構(gòu),指導(dǎo)人工智能系統(tǒng)通過(guò)形式化的規(guī)則進(jìn)行推理,確保推理過(guò)程的有效性和一致性。形式主義2.3.2?機(jī)器倫理學(xué)人工智能對(duì)倫理學(xué)提出了許多挑戰(zhàn),這些挑戰(zhàn)主要體現(xiàn)在以下幾個(gè)方面。人工智能系統(tǒng)的設(shè)計(jì)和應(yīng)用可能存在潛在的歧視性,數(shù)據(jù)偏差或算法偏見(jiàn)可能導(dǎo)致系統(tǒng)對(duì)某些群體產(chǎn)生不公平的對(duì)待。公平性和歧視隨著人工智能特別是具身人工智能的發(fā)展,自動(dòng)駕駛汽車(chē)、智能機(jī)器人等具備自主決策能力的智能系統(tǒng)成為發(fā)展的前沿?zé)狳c(diǎn)。但是,如何確定系統(tǒng)的責(zé)任和出現(xiàn)問(wèn)題時(shí)的責(zé)任歸屬成為復(fù)雜的倫理問(wèn)題。自主性與責(zé)任劃分基于大數(shù)據(jù)學(xué)習(xí)的人工智能模型是智能系統(tǒng)的大腦。同時(shí),人工智能系統(tǒng)的廣泛應(yīng)用涉及大量個(gè)人數(shù)據(jù)的收集和處理,如何解決數(shù)據(jù)驅(qū)動(dòng)的科研創(chuàng)新和個(gè)人隱私權(quán)之間的沖突,成為一項(xiàng)倫理挑戰(zhàn)。如何確保數(shù)據(jù)的安全性和隱私性,平衡人工智能系統(tǒng)的數(shù)據(jù)收集和隱私保護(hù)之間的關(guān)系,是一個(gè)重要倫理問(wèn)題。隱私和數(shù)據(jù)保護(hù)許多人工智能系統(tǒng),尤其是深度學(xué)習(xí)模型,通常被認(rèn)為是黑箱系統(tǒng),其決策過(guò)程難以解釋?zhuān)瑸闆Q策的透明度和解釋性帶來(lái)了挑戰(zhàn)。透明度和解釋性神經(jīng)科學(xué)2.22.42.3語(yǔ)言學(xué)哲學(xué)2.1心理學(xué)2.4.1?認(rèn)知心理學(xué)認(rèn)知心理學(xué)是心理學(xué)的一個(gè)分支領(lǐng)域,是研究人類(lèi)思維、記憶、學(xué)習(xí)等認(rèn)知過(guò)程的心理學(xué)子學(xué)科。認(rèn)知心理學(xué)是研究人類(lèi)認(rèn)知過(guò)程的學(xué)科,關(guān)注個(gè)體如何獲取、組織、存儲(chǔ)、加工和運(yùn)用信息,以及這些過(guò)程如何影響個(gè)體的行為和表現(xiàn),與人工智能領(lǐng)域有著密切的聯(lián)系。信息加工理論是認(rèn)知心理學(xué)中的一個(gè)重要理論,探討個(gè)體如何獲取、處理和組織信息。信息加工理論提供了認(rèn)知心理學(xué)研究的理論框架,幫助理解認(rèn)知過(guò)程的機(jī)制。信息加工理論強(qiáng)調(diào)認(rèn)知系統(tǒng)對(duì)外部信息的加工過(guò)程,包括感知、編碼、存儲(chǔ)、檢索和解碼等環(huán)節(jié)。2.4.1?認(rèn)知心理學(xué)在認(rèn)知心理學(xué)領(lǐng)域,格式塔組織原則(GestaltLawsofGrouping)描述了人類(lèi)感知系統(tǒng)在處理感覺(jué)信息時(shí)遵循的一些基本規(guī)則。這些規(guī)則有助于解釋人類(lèi)是如何組織和理解感覺(jué)輸入的。圖中展示了一些常見(jiàn)的格式塔組織原則。圖

常見(jiàn)的格式塔組織原則2.4.1?認(rèn)知心理學(xué)1鄰近性(Proximity)物體在空間中相近時(shí),人們傾向于將它們視為相關(guān)的組合體或群體。2相似性(Similarity)具有相似特征(如形狀、顏色等)的物體被認(rèn)為屬于同一群組。3連續(xù)性(Continuity)人們更傾向于看到連續(xù)的圖案或形狀,而不是間斷的部分。4封閉性(Closure)人們傾向于將不完整的圖形視為完整的對(duì)象,填補(bǔ)缺失的部分以形成封閉的圖形。5對(duì)稱(chēng)性(Symmetry)人們傾向于將對(duì)稱(chēng)的元素視為一組或一個(gè)整體,即對(duì)稱(chēng)的對(duì)象被認(rèn)為更加吸引人。6共同命運(yùn)(CommonFate)在同一方向上移動(dòng)的物體被視為相關(guān)的群體。2.4.2?情感智能情感智能(AffectiveIntelligence)是研究如何使機(jī)器識(shí)別、解釋、模擬以及處理人類(lèi)情感(如喜怒哀樂(lè))的交叉研究領(lǐng)域。情感智能的研究?jī)?nèi)容涵蓋了情感識(shí)別、情感生成、情感分析、情感交互等多個(gè)方面,旨在使機(jī)器能夠更好地理解和處理人類(lèi)情感,進(jìn)而提高人機(jī)交互的自然性和智能化程度。情感識(shí)別情感識(shí)別是情感智能的核心研究?jī)?nèi)容之一,需實(shí)現(xiàn)的功能是讓機(jī)器從文本、語(yǔ)音、圖像和視頻等多種數(shù)據(jù)源中識(shí)別和分類(lèi)情感。情感生成情感生成是情感智能的另一個(gè)核心研究?jī)?nèi)容,指的是讓機(jī)器生成具有情感色彩的內(nèi)容,如帶有情感的文本、語(yǔ)音或圖像。情感分析情感分析是指分析人類(lèi)對(duì)特定事物或主題的情感傾向,通常包括情感極性(如正面、負(fù)面、中性)和情感強(qiáng)度(如強(qiáng)烈、弱化),在社交媒體挖掘、輿情監(jiān)測(cè)等領(lǐng)域有著廣泛的應(yīng)用。情感交互情感交互是指使計(jì)算機(jī)系統(tǒng)能夠與用戶(hù)進(jìn)行情感化的交互,包括識(shí)別用戶(hù)的情感狀態(tài)、生成合適的情感回應(yīng)以及適應(yīng)用戶(hù)情感變化的交互方式,對(duì)于智能助手、虛擬角色等應(yīng)用具有重要意義。2.4.2?情感智能為了推動(dòng)情感智能領(lǐng)域的研究,需要構(gòu)建包含多種情感類(lèi)別的數(shù)據(jù)的大規(guī)模情感數(shù)據(jù)集,用于訓(xùn)練和評(píng)估情感識(shí)別、情感生成等模型。構(gòu)建情感數(shù)據(jù)集是情感智能領(lǐng)域中重要的步驟。情感是一種主觀體驗(yàn),不同的人對(duì)同一事物或情境可能會(huì)有不同的情感反應(yīng)。在構(gòu)建情感數(shù)據(jù)集時(shí),需要考慮到不同個(gè)體之間的主觀性和多樣性,以確保數(shù)據(jù)集能夠覆蓋各種情感表達(dá)。對(duì)情感數(shù)據(jù)集進(jìn)行標(biāo)注是一項(xiàng)耗時(shí)且困難的任務(wù),涉及情感類(lèi)別、強(qiáng)度、程度等多個(gè)方面;同時(shí)情感往往是復(fù)雜多維的,標(biāo)注人員需要具有一定的專(zhuān)業(yè)知識(shí)和標(biāo)注標(biāo)準(zhǔn),以確保數(shù)據(jù)集的質(zhì)量和可靠性。人類(lèi)情感表達(dá)具有多樣性,可以通過(guò)文本、語(yǔ)音、圖像、視頻等多種形式進(jìn)行表達(dá)。構(gòu)建涵蓋多種表達(dá)形式的情感數(shù)據(jù)集需要綜合考慮不同類(lèi)型數(shù)據(jù)的采集和標(biāo)注方法。2.4.3?認(rèn)知模擬認(rèn)知模擬(CognitiveSimulation)是一種模擬和復(fù)制人類(lèi)認(rèn)知過(guò)程的研究方法,旨在通過(guò)模擬大腦認(rèn)知過(guò)程來(lái)理解和模擬人類(lèi)的思維能力。利用神經(jīng)網(wǎng)絡(luò)和計(jì)算模型來(lái)模擬人類(lèi)大腦的神經(jīng)結(jié)構(gòu)和信息處理過(guò)程,建立神經(jīng)計(jì)算模型,用于模擬認(rèn)知功能(如感知、學(xué)習(xí)、記憶、推理等方面)的神經(jīng)機(jī)制。在認(rèn)知任務(wù)模擬方面,通過(guò)設(shè)計(jì)和實(shí)施各種認(rèn)知任務(wù)來(lái)模擬人類(lèi)在解決問(wèn)題、學(xué)習(xí)知識(shí)、做出決策等認(rèn)知活動(dòng)中的表現(xiàn)。這些任務(wù)可以涉及注意力、記憶、語(yǔ)言理解、問(wèn)題解決等方面。利用符號(hào)系統(tǒng)來(lái)表示和處理知識(shí),模擬人類(lèi)的符號(hào)推理和邏輯推斷過(guò)程,通常涉及知識(shí)表示、推理規(guī)則、邏輯編程等技術(shù)。2.4.3?認(rèn)知模擬人類(lèi)在實(shí)踐中應(yīng)用認(rèn)知模擬時(shí)會(huì)遇到一些挑戰(zhàn)和瓶頸。人類(lèi)認(rèn)知過(guò)程是極其復(fù)雜和多樣化的,涉及大量的神經(jīng)元、神經(jīng)連接和信息傳遞。模擬這種復(fù)雜和多樣化的人類(lèi)認(rèn)知過(guò)程,需要更加先進(jìn)的計(jì)算技術(shù)和更精細(xì)的建模方法。進(jìn)行認(rèn)知模擬研究需要大量的數(shù)據(jù)支撐,包括神經(jīng)影像數(shù)據(jù)、行為數(shù)據(jù)等。數(shù)據(jù)的獲取、整理和標(biāo)注是一項(xiàng)耗時(shí)耗力的工作,尤其是對(duì)于大規(guī)模神經(jīng)數(shù)據(jù)的處理和標(biāo)注。2.4.3?認(rèn)知模擬提高認(rèn)知模擬模型的可解釋性是當(dāng)前人工智能領(lǐng)域一個(gè)重要的研究方向。利用可視化技術(shù)將模型的內(nèi)部結(jié)構(gòu)、參數(shù)和決策過(guò)程展示出來(lái),使研究人員和用戶(hù)能夠直觀地理解模型是如何做出決策的。通過(guò)分析模型中各個(gè)特征的重要性,了解哪些特征對(duì)模型的決策起到關(guān)鍵作用,從而幫助解釋模型的預(yù)測(cè)結(jié)果。使用模型蒸餾技術(shù),將復(fù)雜模型簡(jiǎn)化,得到一個(gè)性能相對(duì)較好且更易解釋的模型。運(yùn)用因果推理方法來(lái)分析模型的因果關(guān)系,幫助理解模型的決策是基于什么因果關(guān)系而做出的。使用局部解釋性方法,如LIME(LocalInterpretableModel-agnosticExplanations)

或SHAP(SHapleyAdditiveexPlanations),可以解釋模型在特定樣本上的決策過(guò)程。將復(fù)雜模型轉(zhuǎn)換為更易解釋的形式,如決策樹(shù)或規(guī)則集,以便更清晰地理解模型的決策邏輯。謝謝觀看??!科技改變未來(lái)人工智能導(dǎo)論

(慕課版)名校名師通識(shí)教育新形態(tài)系列教材第3章人工智能的技術(shù)基礎(chǔ)人工智能導(dǎo)論

(慕課版)名校名師通識(shí)教育新形態(tài)系列教材科技改變未來(lái)機(jī)器學(xué)習(xí)3.23.13.3深度學(xué)習(xí)大模型實(shí)踐3.1.1?機(jī)器學(xué)習(xí)的基本概念1.機(jī)器學(xué)習(xí)的常見(jiàn)模型類(lèi)型監(jiān)督學(xué)習(xí)(SupervisedLearning)和無(wú)監(jiān)督學(xué)習(xí)(UnsupervisedLearning)是機(jī)器學(xué)習(xí)中兩種基本的學(xué)習(xí)范式,在數(shù)據(jù)標(biāo)注和學(xué)習(xí)目的等方面有著明顯的區(qū)別。1在監(jiān)督學(xué)習(xí)中,模型從標(biāo)注好的訓(xùn)練數(shù)據(jù)中學(xué)習(xí)規(guī)律,以對(duì)新的未知數(shù)據(jù)做出準(zhǔn)確預(yù)測(cè)或分類(lèi)為目的。常見(jiàn)的監(jiān)督學(xué)習(xí)算法包括線性回歸、邏輯回歸、支持向量機(jī)、決策樹(shù)、隨機(jī)森林等。2在無(wú)監(jiān)督學(xué)習(xí)中,模型從未標(biāo)注的數(shù)據(jù)中學(xué)習(xí)模式和結(jié)構(gòu),目的是發(fā)現(xiàn)數(shù)據(jù)的內(nèi)在結(jié)構(gòu)。常見(jiàn)的無(wú)監(jiān)督學(xué)習(xí)算法包括聚類(lèi)算法(如K均值聚類(lèi))、降維算法(如主成分分析)等。(1)監(jiān)督學(xué)習(xí)和無(wú)監(jiān)督學(xué)習(xí)3.1.1?機(jī)器學(xué)習(xí)的基本概念監(jiān)督學(xué)習(xí)是一種常見(jiàn)的機(jī)器學(xué)習(xí)范式。在監(jiān)督學(xué)習(xí)中,訓(xùn)練數(shù)據(jù)通常包含輸入特征和對(duì)應(yīng)的輸出標(biāo)簽,模型從有標(biāo)簽的訓(xùn)練數(shù)據(jù)中學(xué)習(xí),以構(gòu)建輸入數(shù)據(jù)與輸出標(biāo)簽之間的關(guān)系模型。訓(xùn)練數(shù)據(jù)的輸出標(biāo)簽通常通過(guò)人工標(biāo)注獲取。通過(guò)學(xué)習(xí)訓(xùn)練數(shù)據(jù)中的模式,模型可以在未見(jiàn)過(guò)的新數(shù)據(jù)上進(jìn)行準(zhǔn)確的預(yù)測(cè)或分類(lèi)。也就是說(shuō),模型在學(xué)習(xí)過(guò)程中依賴(lài)有標(biāo)簽的訓(xùn)練數(shù)據(jù)進(jìn)行訓(xùn)練,通過(guò)最小化預(yù)測(cè)誤差來(lái)優(yōu)化模型,以實(shí)現(xiàn)對(duì)新的測(cè)試數(shù)據(jù)進(jìn)行預(yù)測(cè)。無(wú)監(jiān)督學(xué)習(xí)則是另一種機(jī)器學(xué)習(xí)范式。在無(wú)監(jiān)督學(xué)習(xí)中,模型從無(wú)標(biāo)簽的數(shù)據(jù)中學(xué)習(xí)隱藏的模式和結(jié)構(gòu),不用預(yù)先定義輸出標(biāo)簽。無(wú)監(jiān)督學(xué)習(xí)的訓(xùn)練數(shù)據(jù)僅包含輸入數(shù)據(jù)的特征,沒(méi)有對(duì)應(yīng)的輸出標(biāo)簽。模型需探索數(shù)據(jù)中蘊(yùn)含的內(nèi)在結(jié)構(gòu),發(fā)現(xiàn)數(shù)據(jù)之間的關(guān)聯(lián)屬性。也就是說(shuō),模型在無(wú)監(jiān)督學(xué)習(xí)過(guò)程中不依賴(lài)標(biāo)簽,而是自行發(fā)現(xiàn)數(shù)據(jù)中的結(jié)構(gòu),目的通常是對(duì)數(shù)據(jù)進(jìn)行聚類(lèi)、降維或異常識(shí)別等。3.1.1?機(jī)器學(xué)習(xí)的基本概念強(qiáng)化學(xué)習(xí)(ReinforcementLearning)是一種機(jī)器學(xué)習(xí)范式,通過(guò)與環(huán)境的交互學(xué)習(xí)做出決策,以最大化累積獎(jiǎng)勵(lì)。強(qiáng)化學(xué)習(xí)的靈感來(lái)源于認(rèn)知心理學(xué)中的行為主義理論,智能體通過(guò)與環(huán)境的交互進(jìn)行學(xué)習(xí),以在特定任務(wù)中獲得最大的累積獎(jiǎng)勵(lì)。在強(qiáng)化學(xué)習(xí)中,存在如下5個(gè)概念。(2)強(qiáng)化學(xué)習(xí)智能體強(qiáng)化學(xué)習(xí)系統(tǒng)中的決策制訂者,負(fù)責(zé)觀察環(huán)境、選擇動(dòng)作并獲得獎(jiǎng)勵(lì)。環(huán)境(Environment)智能體所處的外部環(huán)境,對(duì)智能體的行為動(dòng)作做出響應(yīng),并提供獎(jiǎng)勵(lì)信號(hào)。狀態(tài)(State)描述環(huán)境的特定情況,智能體根據(jù)狀態(tài)做出決策。動(dòng)作(Action)智能體在特定狀態(tài)下可以執(zhí)行的操作。獎(jiǎng)勵(lì)(Reward)環(huán)境根據(jù)智能體的動(dòng)作提供的即時(shí)反饋,用于指導(dǎo)智能體的學(xué)習(xí)過(guò)程。3.1.1?機(jī)器學(xué)習(xí)的基本概念強(qiáng)化學(xué)習(xí)的核心在于智能體通過(guò)嘗試,學(xué)習(xí)最優(yōu)的行為策略,以最大化長(zhǎng)期獎(jiǎng)勵(lì)。策略和價(jià)值函數(shù)是強(qiáng)化學(xué)習(xí)的重要組成部分,用于評(píng)估動(dòng)作的好壞并指導(dǎo)智能體的決策。策略和價(jià)值函數(shù)是強(qiáng)化學(xué)習(xí)的重要組成部分,用于評(píng)估動(dòng)作的好壞并指導(dǎo)智能體的決策。策略指的是智能體在特定狀態(tài)下選擇動(dòng)作的規(guī)則;策略可以是確定性的(確定的智能體動(dòng)作)或概率性的(根據(jù)概率選擇動(dòng)作)。價(jià)值函數(shù)則是在獎(jiǎng)勵(lì)的基礎(chǔ)上凝練出來(lái)的,用于衡量在特定狀態(tài)下智能體能獲得的長(zhǎng)期獎(jiǎng)勵(lì)期望值。價(jià)值函數(shù)可以幫助智能體評(píng)估不同策略的好壞。典型的強(qiáng)化學(xué)習(xí)算法包括Q學(xué)習(xí)、蒙特卡洛方法、策略梯度等。強(qiáng)化學(xué)習(xí)的典型應(yīng)用場(chǎng)景包括大語(yǔ)言模型的人類(lèi)對(duì)齊,即利用強(qiáng)化學(xué)習(xí)方法對(duì)預(yù)訓(xùn)練好的大模型進(jìn)行微調(diào),使其與人類(lèi)價(jià)值觀、人的真實(shí)意圖適配。3.1.1?機(jī)器學(xué)習(xí)的基本概念2.評(píng)估機(jī)器學(xué)習(xí)模型性能的核心概念:誤差、泛化誤差誤差在機(jī)器學(xué)習(xí)中,誤差指的是模型的預(yù)測(cè)輸出與實(shí)際標(biāo)簽之間的差異,通常用損失函數(shù)來(lái)度量。誤差可以幫助評(píng)估模型的性能,根據(jù)評(píng)估數(shù)據(jù)的差異可細(xì)分成訓(xùn)練誤差和測(cè)試誤差,后者又被稱(chēng)為泛化誤差。訓(xùn)練誤差代表模型在訓(xùn)練數(shù)據(jù)集上的表現(xiàn),即模型對(duì)訓(xùn)練數(shù)據(jù)的預(yù)測(cè)輸出與真實(shí)標(biāo)簽之間的差異。訓(xùn)練誤差是模型優(yōu)化的目標(biāo)函數(shù),是模型參數(shù)更新的基準(zhǔn)。泛化誤差泛化誤差則指的是模型在新數(shù)據(jù)上的表現(xiàn),代表模型在實(shí)際應(yīng)用場(chǎng)景中的性能,即模型的泛化能力。泛化誤差小則代表模型具備高泛化能力;泛化誤差大則代表模型具備低泛化能力。訓(xùn)練誤差越小,模型在訓(xùn)練數(shù)據(jù)上的擬合效果越好。但是如果訓(xùn)練誤差非常小,而泛化誤差較大,則可能存在過(guò)擬合問(wèn)題。3.1.1?機(jī)器學(xué)習(xí)的基本概念3.機(jī)器學(xué)習(xí)中的常見(jiàn)問(wèn)題:過(guò)擬合和欠擬合過(guò)擬合過(guò)擬合指的是模型在訓(xùn)練數(shù)據(jù)上表現(xiàn)很好,但在未見(jiàn)過(guò)的測(cè)試數(shù)據(jù)上表現(xiàn)不佳的情況。具體表現(xiàn)是訓(xùn)練誤差小,測(cè)試誤差大。如圖所示,在過(guò)擬合情況下,模型過(guò)度學(xué)習(xí)訓(xùn)練數(shù)據(jù)中的噪聲和細(xì)節(jié),而忽略了數(shù)據(jù)中的真實(shí)模式。對(duì)應(yīng)的表現(xiàn)為,模型在訓(xùn)練數(shù)據(jù)上表現(xiàn)很好,訓(xùn)練誤差很??;但是由于缺乏對(duì)數(shù)據(jù)本質(zhì)的理解,模型在測(cè)試數(shù)據(jù)上表現(xiàn)不佳,測(cè)試誤差較大。過(guò)擬合問(wèn)題的出現(xiàn)通常是因?yàn)槟P瓦^(guò)于復(fù)雜,過(guò)度學(xué)習(xí)了訓(xùn)練數(shù)據(jù)中的噪聲和細(xì)節(jié)。泛化誤差欠擬合指的是模型無(wú)法在訓(xùn)練數(shù)據(jù)上有很好的表現(xiàn),同時(shí)在測(cè)試數(shù)據(jù)上也表現(xiàn)糟糕的情況。具體表現(xiàn)是訓(xùn)練誤差和測(cè)試誤差都大。這通常是因?yàn)槟P瓦^(guò)于簡(jiǎn)單,無(wú)法捕捉數(shù)據(jù)中相對(duì)復(fù)雜的模式。也就是說(shuō),欠擬合問(wèn)題的出現(xiàn)通常是因?yàn)槟P蛷?fù)雜度不足,無(wú)法刻畫(huà)數(shù)據(jù)的真實(shí)模式。3.1.1?機(jī)器學(xué)習(xí)的基本概念圖?機(jī)器學(xué)習(xí)中的欠擬合、適當(dāng)擬合與過(guò)擬合示意在機(jī)器學(xué)習(xí)中,過(guò)擬合和欠擬合都是需要避免的問(wèn)題,而合適的模型復(fù)雜度和訓(xùn)練數(shù)據(jù)量是關(guān)鍵因素,可以幫助緩解上述兩種問(wèn)題,達(dá)到適當(dāng)擬合。3.1.2?機(jī)器學(xué)習(xí)算法機(jī)器學(xué)習(xí)的本質(zhì)是在數(shù)據(jù)中學(xué)習(xí)規(guī)律,并根據(jù)學(xué)到的規(guī)律對(duì)未見(jiàn)過(guò)的數(shù)據(jù)進(jìn)行預(yù)測(cè)。經(jīng)典的機(jī)器學(xué)習(xí)算法包括線性回歸、邏輯回歸、支持向量機(jī)、決策樹(shù)等。線性回歸(LinearRegression)(示例見(jiàn)圖)是一種用于建立變量之間線性關(guān)系的統(tǒng)計(jì)模型。它基于輸入特征的線性組合來(lái)預(yù)測(cè)連續(xù)型輸出變量的值。線性回歸是一種簡(jiǎn)單且有效的機(jī)器學(xué)習(xí)算法,常用在適配于回歸分析的預(yù)測(cè)和建模(例如銷(xiāo)售量預(yù)測(cè)、價(jià)格變化趨勢(shì)分析等)上。在實(shí)際應(yīng)用中,線性回歸通常作為統(tǒng)計(jì)建?;驒C(jī)器學(xué)習(xí)的初始基線模型,以快速評(píng)估數(shù)據(jù)的可預(yù)測(cè)性,并為復(fù)雜模型(如非線性模型)的設(shè)計(jì)提供性能對(duì)比基準(zhǔn)。線性回歸01圖?線性回歸示例3.1.2?機(jī)器學(xué)習(xí)算法邏輯回歸(LogisticalRegression)是另一種常用于分類(lèi)的機(jī)器學(xué)習(xí)算法。盡管名字中包含“回歸”,但邏輯回歸其實(shí)是一種解決分類(lèi)問(wèn)題的模型。邏輯回歸也基于線性模型,但使用了邏輯映射(也稱(chēng)為Sigmoid函數(shù))將線性模型的輸出映射到[0,1]之間,用于表示不同類(lèi)別的概率。邏輯映射的數(shù)學(xué)表達(dá)式:邏輯回歸通常使用對(duì)數(shù)損失函數(shù)來(lái)衡量模型的預(yù)測(cè)誤差。簡(jiǎn)單來(lái)說(shuō),對(duì)數(shù)損失函數(shù)是衡量模型輸出類(lèi)別與實(shí)際類(lèi)別之間差異的一種函數(shù)。損失值從0到無(wú)窮大,值越小表示模型預(yù)測(cè)效果越好。邏輯回歸的目標(biāo)是最小化損失值,通常使用梯度下降來(lái)減小損失值,更新模型參數(shù)。邏輯回歸常被用于二分類(lèi)問(wèn)題,如垃圾郵件識(shí)別、疾病診斷等。邏輯回歸02支持向量機(jī)(SupportVectorMachine,SVM)是一種強(qiáng)大的監(jiān)督學(xué)習(xí)算法,常用于分類(lèi)任務(wù)。支持向量機(jī)的工作原理是尋找最大分類(lèi)間隔(Margin),即尋找到一個(gè)能夠?qū)⒉煌?lèi)別的數(shù)據(jù)點(diǎn)分開(kāi)的超平面,且該超平面能夠使兩個(gè)類(lèi)別之間的間隔最大化。如圖所示。支持向量機(jī)033.1.2?機(jī)器學(xué)習(xí)算法在實(shí)際應(yīng)用中,數(shù)據(jù)往往不是完全線性可分的。因此,針對(duì)支持向量機(jī)算法引入了軟間隔和正則化的概念,允許一些數(shù)據(jù)點(diǎn)在間隔內(nèi),通過(guò)權(quán)衡間隔的大小來(lái)優(yōu)化模型參數(shù)。對(duì)于多類(lèi)別分類(lèi)問(wèn)題,支持向量機(jī)可以通過(guò)“一對(duì)一”(One-vs-One)或“一對(duì)其他”(One-vs-All)的轉(zhuǎn)化策略來(lái)實(shí)現(xiàn)多類(lèi)別分類(lèi)。支持向量機(jī)通過(guò)最大化分類(lèi)超平面與支持向量之間的幾何間隔來(lái)構(gòu)建分類(lèi)器,使得分類(lèi)超平面僅與少量的支持向量樣本有關(guān),避免了對(duì)于大量數(shù)據(jù)的依賴(lài),所以具有良好的泛化性能和魯棒性。支持向量機(jī)算法對(duì)特征縮放和異常值相對(duì)不敏感,因此在處理高維數(shù)據(jù)和數(shù)據(jù)噪聲方面表現(xiàn)良好,被廣泛應(yīng)用于文本分類(lèi)、圖像識(shí)別、生物信息學(xué)等領(lǐng)域,尤其在小樣本情況下的高維數(shù)據(jù)分類(lèi)問(wèn)題上表現(xiàn)突出。圖?支持向量機(jī)示意3.1.2?機(jī)器學(xué)習(xí)算法決策樹(shù)(DecisionTree)是一種常見(jiàn)的機(jī)器學(xué)習(xí)算法,可按照對(duì)應(yīng)的機(jī)器學(xué)習(xí)任務(wù)的差異分為分類(lèi)樹(shù)和回歸樹(shù),分別用于解決分類(lèi)和回歸問(wèn)題。決策樹(shù)由節(jié)點(diǎn)和分支組成,每個(gè)內(nèi)部(非葉子)節(jié)點(diǎn)表示對(duì)應(yīng)于特征或?qū)傩缘囊粋€(gè)測(cè)試,每個(gè)分支表示一個(gè)測(cè)試輸出,每個(gè)葉子節(jié)點(diǎn)表示一個(gè)分類(lèi)類(lèi)別(分類(lèi)樹(shù))或者一個(gè)回歸值(回歸樹(shù))。決策樹(shù)算法通過(guò)選擇最佳的特征測(cè)試方式來(lái)構(gòu)建樹(shù)結(jié)構(gòu),以使得每個(gè)劃分能夠最大限度地提高預(yù)測(cè)準(zhǔn)確性。常用的特征選擇指標(biāo)包括信息增益、基尼不純度等。分類(lèi)決策樹(shù)的示例如圖所示。當(dāng)新數(shù)據(jù)進(jìn)入決策樹(shù)時(shí),根據(jù)每個(gè)節(jié)點(diǎn)的特征測(cè)試結(jié)果,沿著樹(shù)的分支向下走,直至到達(dá)葉子節(jié)點(diǎn),葉子節(jié)點(diǎn)的類(lèi)別即分類(lèi)預(yù)測(cè)結(jié)果。決策樹(shù)在處理連續(xù)型特征時(shí),通常會(huì)選擇一個(gè)特征及一個(gè)特定的閾值進(jìn)行數(shù)據(jù)劃分。決策樹(shù)作為一種直觀且易于解釋的機(jī)器學(xué)習(xí)算法,在許多領(lǐng)域得到了廣泛的應(yīng)用。決策樹(shù)043.1.2?機(jī)器學(xué)習(xí)算法圖?分類(lèi)決策樹(shù)的示例決策樹(shù)易于與其他技術(shù)結(jié)合使用,如聯(lián)合集成學(xué)習(xí)構(gòu)建隨機(jī)森林算法以提高預(yù)測(cè)性能。決策樹(shù)可以清晰地展示特征對(duì)預(yù)測(cè)結(jié)果的重要性和影響,因此可解釋性強(qiáng)。決策樹(shù)對(duì)異常值和缺失值具有魯棒性,易于處理非數(shù)值類(lèi)的屬性數(shù)據(jù),常用于金融風(fēng)控、醫(yī)療診斷等領(lǐng)域,尤其在需要解釋性和可視化的場(chǎng)景中應(yīng)用廣泛。機(jī)器學(xué)習(xí)3.13.23.3深度學(xué)習(xí)大模型實(shí)踐3.2.1?感知機(jī)感知機(jī)(Perceptron)是一種簡(jiǎn)單的線性分類(lèi)模型,是深度學(xué)習(xí)的基礎(chǔ)單元,是形式最簡(jiǎn)單的神經(jīng)網(wǎng)絡(luò),可用于二分類(lèi)問(wèn)題。具體而言,感知機(jī)模型的輸出由如下公式給出,其中sgn(·)被稱(chēng)為階躍函數(shù)。感知機(jī)模型的訓(xùn)練過(guò)程包括初始化權(quán)重和偏置,然后迭代地對(duì)每個(gè)訓(xùn)練數(shù)據(jù)進(jìn)行預(yù)測(cè)并根據(jù)預(yù)測(cè)結(jié)果調(diào)整權(quán)重和偏置,直到達(dá)到停止條件(如所有的訓(xùn)練數(shù)據(jù)都被正確分類(lèi)或達(dá)到最大迭代次數(shù))。感知機(jī)模型在訓(xùn)練數(shù)據(jù)線性可分的情況下是收斂的,即存在一個(gè)決策超平面可以完全正確地對(duì)訓(xùn)練數(shù)據(jù)進(jìn)行分類(lèi)。3.2.2?深度神經(jīng)網(wǎng)絡(luò)深度神經(jīng)網(wǎng)絡(luò)是由多個(gè)神經(jīng)網(wǎng)絡(luò)層組成的神經(jīng)網(wǎng)絡(luò)模型。深度神經(jīng)網(wǎng)絡(luò)在深度學(xué)習(xí)中是模型架構(gòu)核心。根據(jù)結(jié)構(gòu)和功能的不同,可以將深度神經(jīng)網(wǎng)絡(luò)分為多種類(lèi)型,常見(jiàn)的有全連接前饋神經(jīng)網(wǎng)絡(luò)(Fully-ConnectedFeedForwardNeuralNetwork,F(xiàn)FN)、卷積神經(jīng)網(wǎng)絡(luò)、循環(huán)神經(jīng)網(wǎng)絡(luò)、Transformer網(wǎng)絡(luò)等。1.全連接前饋神經(jīng)網(wǎng)絡(luò)全連接前饋神經(jīng)網(wǎng)絡(luò)是一種基本的神經(jīng)網(wǎng)絡(luò)模型,又被稱(chēng)為多層感知機(jī)(Multi-LayerPerceptron,MLP)。全連接前饋神經(jīng)網(wǎng)絡(luò)由一個(gè)輸入層、一個(gè)或多個(gè)隱含層以及一個(gè)輸出層組成,在結(jié)構(gòu)上由多個(gè)全連接層前后串接形成。激活函數(shù)是深度神經(jīng)網(wǎng)絡(luò)的重要組成部分,其引入非線性變換,使神經(jīng)網(wǎng)絡(luò)能夠擬合復(fù)雜的非線性關(guān)系。常用的激活函數(shù)包括Sigmoid、雙曲正切函數(shù)Tanh、線性整流函數(shù)ReLU等,其中,ReLU(RectifiedLinearUnit)是目前在深度神經(jīng)網(wǎng)絡(luò)中最常用的激活函數(shù)之一。全連接前饋神經(jīng)網(wǎng)絡(luò)是最基礎(chǔ)的深度神經(jīng)網(wǎng)絡(luò)之一,其網(wǎng)絡(luò)基本單元是人工神經(jīng)元模型,來(lái)源于對(duì)生物神經(jīng)元的數(shù)學(xué)抽象。圖?卷積神經(jīng)網(wǎng)絡(luò)的典型結(jié)構(gòu)3.2.2?深度神經(jīng)網(wǎng)絡(luò)卷積神經(jīng)網(wǎng)絡(luò)是一種專(zhuān)門(mén)用于處理網(wǎng)格狀結(jié)構(gòu)化數(shù)據(jù),特別是圖像數(shù)據(jù)的深度神經(jīng)網(wǎng)絡(luò)。卷積神經(jīng)網(wǎng)絡(luò)的典型結(jié)構(gòu)包括卷積層、池化層和全連接層等,如圖所示。2.卷積神經(jīng)網(wǎng)絡(luò)3.2.2?深度神經(jīng)網(wǎng)絡(luò)卷積層的基礎(chǔ)操作是卷積,通過(guò)滑動(dòng)一個(gè)卷積核在輸入數(shù)據(jù)上進(jìn)行加權(quán)求和得到輸出特征圖。卷積層通過(guò)卷積操作來(lái)提取輸入數(shù)據(jù)的特征。每個(gè)卷積核對(duì)輸入數(shù)據(jù)執(zhí)行卷積操作,生成一個(gè)特征圖,每個(gè)特征圖對(duì)應(yīng)一個(gè)卷積核提取的特定特征。每個(gè)卷積層通常可以包括多個(gè)卷積核,得到一組多通道的特征圖。池化層則是執(zhí)行下采樣操作,通過(guò)下采樣的方式減少特征映射的維度,減少數(shù)據(jù)量和參數(shù)數(shù)量,同時(shí)保留重要特征。常用的池化操作包括最大池化(MaxPooling)和平均池化(AveragePooling),分別取池化窗口中的最大值和平均值作為輸出。卷積神經(jīng)網(wǎng)絡(luò)的最后通常有全連接層,對(duì)卷積層和池化層提取的特征進(jìn)行平鋪展開(kāi)后連接到一個(gè)或多個(gè)全連接層中執(zhí)行分類(lèi)或回歸的下游任務(wù)。3.2.2?深度神經(jīng)網(wǎng)絡(luò)感受野(ReceptiveField)是卷積神經(jīng)網(wǎng)絡(luò)的重要概念,用于描述每個(gè)神經(jīng)元對(duì)輸入數(shù)據(jù)的感知范圍。卷積神經(jīng)網(wǎng)絡(luò)的卷積層具備局部感受野(LocalReceptiveField),即在網(wǎng)絡(luò)中某一層的一個(gè)神經(jīng)元所能“看到”的輸入數(shù)據(jù)的區(qū)域范圍。與之相對(duì)應(yīng)的,全連接層具備全局感受野(GlobalReceptiveField),即全連接層的各個(gè)神經(jīng)元均對(duì)輸入數(shù)據(jù)的所有維度進(jìn)行感知,具備整體感知范圍。合理地設(shè)計(jì)卷積神經(jīng)網(wǎng)絡(luò),可以達(dá)到優(yōu)化感受野的目的,從而提高卷積神經(jīng)網(wǎng)絡(luò)模型的預(yù)測(cè)性能和效率。在卷積神經(jīng)網(wǎng)絡(luò)中,權(quán)重共享是一種重要的機(jī)制,用于減少模型參數(shù)數(shù)量并提高模型的泛化能力。權(quán)重共享指的是在卷積核的不同位置使用相同的參數(shù)(權(quán)重),實(shí)現(xiàn)對(duì)不同位置的特征進(jìn)行相同的處理。從模型復(fù)雜性的角度來(lái)說(shuō),卷積層中的神經(jīng)元分別對(duì)輸入的不同位置進(jìn)行感知,權(quán)重共享使得不同神經(jīng)元共享相同的參數(shù),可顯著減少需要學(xué)習(xí)的參數(shù)數(shù)量,降低模型的復(fù)雜度。3.2.2?深度神經(jīng)網(wǎng)絡(luò)卷積神經(jīng)網(wǎng)絡(luò)通過(guò)卷積層和池化層提取輸入數(shù)據(jù)的特征,從低級(jí)特征(如圖像的邊緣、紋理)逐漸到高級(jí)抽象特征(如圖像中包括的目標(biāo)對(duì)象的部件或

溫馨提示

  • 1. 本站所有資源如無(wú)特殊說(shuō)明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶(hù)所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁(yè)內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒(méi)有圖紙預(yù)覽就沒(méi)有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫(kù)網(wǎng)僅提供信息存儲(chǔ)空間,僅對(duì)用戶(hù)上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶(hù)上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶(hù)因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。

評(píng)論

0/150

提交評(píng)論