版權(quán)說(shuō)明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)
文檔簡(jiǎn)介
第2章
人工智能哲學(xué)與人工智能發(fā)展歷史目錄CONTNETS2.1.人工智能哲學(xué)問(wèn)題2.2與人工智能有關(guān)的哲學(xué)分支2.3強(qiáng)人工智能與通用人工智能的實(shí)現(xiàn)問(wèn)題2.4人工智能發(fā)展歷史“哲學(xué)”起源于2500年前的古希臘,意即“愛(ài)智慧”。它是關(guān)于世界觀的學(xué)說(shuō),也是自然知識(shí)和社會(huì)知識(shí)的概括和總結(jié)。與人工智能有關(guān)的哲學(xué)概念主要涉及心靈、心智、理性、情感、物質(zhì)、意識(shí)等,對(duì)這些概念有很多不同的哲學(xué)觀點(diǎn)或理論,也形成不同的哲學(xué)分支,主要包括一元論、二元論、心靈哲學(xué)、心智哲學(xué)、計(jì)算主義等。本章主要從哲學(xué)、科幻和歷史發(fā)展的角度思考人工智能研究所涉及的基本問(wèn)題,幻想與現(xiàn)實(shí)的聯(lián)系與差距,人工智能技術(shù)發(fā)展現(xiàn)狀。時(shí)至今日,雖然我們看到以深度學(xué)習(xí)為首的人工智能技術(shù)在諸多領(lǐng)域中大放異彩。但在學(xué)術(shù)界,對(duì)于智能本質(zhì)、機(jī)器意識(shí)等問(wèn)題的認(rèn)識(shí)時(shí)至今日依然是爭(zhēng)論的焦點(diǎn)。人工智能某種程度上也起源于人類(lèi)的幻想,諸多科幻小說(shuō)及影視作品很早就想象出了人形機(jī)器人、超級(jí)人工智能等,對(duì)人類(lèi)社會(huì)的技術(shù)、思想影響巨大。在哲學(xué)和科幻及技術(shù)領(lǐng)域的思想孕育多年基礎(chǔ)上,人工智能在上世紀(jì)50年代誕生,此后經(jīng)歷近70年的發(fā)展,走過(guò)了漫長(zhǎng)曲折的道路,我們今天正處于第三次高潮階段。學(xué)習(xí)導(dǎo)言2.1人工智能哲學(xué)問(wèn)題
在傳統(tǒng)哲學(xué)領(lǐng)域,認(rèn)為世界本原是物質(zhì)的,是唯物主義一元論,認(rèn)為世界本原是精神、意識(shí)的,是唯心主義一元論;認(rèn)為世界有物質(zhì)和精神或意識(shí)兩個(gè)本原的,就是二元論。
唯物主義一元論認(rèn)為物質(zhì)決定精神,但它難以解釋人的思維或精神對(duì)人體或行為的支配和取向。人們無(wú)法理解這種解附帶現(xiàn)象為什么是意識(shí)。因此,人工智能與人類(lèi)智能在哲學(xué)基本問(wèn)題上都是一致的,要解決強(qiáng)人工智能問(wèn)題,實(shí)現(xiàn)類(lèi)人智能,或者創(chuàng)造具備人類(lèi)思維能力的機(jī)器,同樣需要首先理解生命、智能等這些基本問(wèn)題。
關(guān)于人工智能的基本哲學(xué)涉及宇宙、生命、物質(zhì)、信息以及智能、意識(shí)、意志等一切形而上問(wèn)題。2.1.1心靈是否可計(jì)算對(duì)于人工智能而言,心靈、意識(shí)、心智、智能是不是可計(jì)算的?是不是可以用算法和程序?qū)崿F(xiàn)?大腦是不是可以看做一種生物計(jì)算機(jī)?這類(lèi)問(wèn)題目前無(wú)法用數(shù)學(xué)或理論分析加以解決。
人工智能的挑戰(zhàn)雖然人類(lèi)很早就學(xué)會(huì)了各類(lèi)計(jì)算,但直到20世紀(jì)30年代以前,還沒(méi)有人能真正說(shuō)清楚計(jì)算的本質(zhì)是什么。20世紀(jì)30年代,戈德?tīng)?、丘奇、克林尼、圖靈等一批數(shù)學(xué)家和邏輯學(xué)家已經(jīng)為我們提供了關(guān)于可計(jì)算性這一最基本概念的幾種等價(jià)的數(shù)學(xué)描述,特別是有了圖靈機(jī)概念后,數(shù)學(xué)家給出了著名的丘奇-圖靈論題,指出領(lǐng)先地位可能行可計(jì)算函數(shù)或稱(chēng)算法可計(jì)算函數(shù)都是遞歸函數(shù),也就是圖靈可計(jì)算函數(shù),或稱(chēng)圖靈機(jī)算法可實(shí)現(xiàn)的函數(shù)。簡(jiǎn)言之,計(jì)算就是符號(hào)串的連續(xù)變換。
計(jì)算的本質(zhì)與計(jì)算緊密聯(lián)系的另一個(gè)概念則是所謂“算法”,算法是求解某類(lèi)問(wèn)題的通用法則或方法,即符號(hào)串變換的規(guī)則。人們常常把算法看成是用某種精確的語(yǔ)言寫(xiě)成的程序,算法或程序的執(zhí)行和操作就是計(jì)算。
算法的定義020103
2.1.2意識(shí)是什么
意識(shí)的定義與哲學(xué)探討意識(shí)是心理學(xué)家、哲學(xué)家、科學(xué)家爭(zhēng)論的焦點(diǎn),涉及心靈與身體的關(guān)系,被稱(chēng)為“心身問(wèn)題”或“意識(shí)的硬難題”,由戴維·查默斯提出。意識(shí)的“簡(jiǎn)單問(wèn)題”與“困難問(wèn)題”查默斯將理解意識(shí)分為“簡(jiǎn)單問(wèn)題”和“困難問(wèn)題”,簡(jiǎn)單問(wèn)題涉及知覺(jué)、記憶和行為的意識(shí)表現(xiàn),而困難問(wèn)題關(guān)注主觀意識(shí)如何從物質(zhì)基礎(chǔ)上涌現(xiàn)。意識(shí)與記憶的關(guān)系意識(shí)可被視作對(duì)模糊信息刺激反應(yīng)的記憶結(jié)果,大腦本身也是記憶的產(chǎn)物,如果意識(shí)是記憶問(wèn)題,那么它就是一種心智狀態(tài)。核心意識(shí)與擴(kuò)展意識(shí)的區(qū)別達(dá)馬西奧區(qū)分了核心意識(shí)和擴(kuò)展意識(shí),核心意識(shí)關(guān)注當(dāng)前感知,與核心自我和人格相關(guān);擴(kuò)展意識(shí)則涉及過(guò)去經(jīng)歷和對(duì)未來(lái)的期待,與人格同一性緊密相連。人工智能與意識(shí)的關(guān)系近幾十年的人工智能發(fā)展顯示,機(jī)器智能可以?xún)H通過(guò)算力、數(shù)據(jù)和算法實(shí)現(xiàn),表明機(jī)器智能不一定需要意識(shí)。34521心智的定義與功能心智是一種內(nèi)在的認(rèn)知與存在系統(tǒng),它不僅體驗(yàn)和理解自身,還賦予外在世界以意義。它是一個(gè)主動(dòng)的結(jié)構(gòu)化過(guò)程,形成個(gè)體的自我意識(shí)、知覺(jué)、推理、情感和價(jià)值觀念,通過(guò)主觀體驗(yàn)把客觀世界轉(zhuǎn)化為人類(lèi)可理解的“現(xiàn)實(shí)”。人工智能的心智挑戰(zhàn)
當(dāng)前的人工智能系統(tǒng),盡管能處理復(fù)雜的任務(wù)、模仿人類(lèi)行為,但依然缺乏心智的核心特性——自我意識(shí)和主觀體驗(yàn)。哲學(xué)家認(rèn)為,心智不僅是信息處理和算法運(yùn)算的產(chǎn)物,更是產(chǎn)生自我感、體驗(yàn)痛苦與喜悅的內(nèi)在狀態(tài)。
智能的概念常被濫用,由于生命和智能的復(fù)雜性,以及對(duì)智能在不同維度、不同層次的理解,導(dǎo)致人工智能產(chǎn)生不同的派系,衍生出諸多不同的理論、技術(shù)和方法。這正是人工智能思想的起源。意識(shí)與自我意識(shí)的角色心智的能動(dòng)性與主觀體驗(yàn)意識(shí)是心智結(jié)構(gòu)中的顯現(xiàn)之一,賦予我們對(duì)“此時(shí)此地”的自覺(jué),幫助個(gè)體區(qū)分自我與他者,并在時(shí)間流動(dòng)中產(chǎn)生連續(xù)的自我感。笛卡爾的“我思故我在”強(qiáng)調(diào)了心智的思維活動(dòng)是個(gè)體存在的基礎(chǔ),而這種思維正是心智的核心表達(dá)。心智具有一種能動(dòng)性,通過(guò)主觀體驗(yàn)的方式把客觀世界轉(zhuǎn)化為人類(lèi)可理解的“現(xiàn)實(shí)”。心智不僅是認(rèn)知和思維的集合,還是一個(gè)包含情感、意圖和價(jià)值的整合體,成為自我與世界的“橋梁”。2.1.3心智是什么2.2與人工智能有關(guān)的哲學(xué)分支人工智能哲學(xué)源于理性主義、機(jī)械論等思想,邏輯三段論與理性問(wèn)題仍是核心。但深度學(xué)習(xí)缺乏推理與因果能力,意識(shí)、智能與身體的關(guān)系也無(wú)法用簡(jiǎn)潔數(shù)學(xué)公式描述。數(shù)學(xué)雖是工具,卻未能建立如物理般完整體系,其方法難以統(tǒng)一解釋。根本原因在于人類(lèi)對(duì)“智能”的理解停留在現(xiàn)象層面,本質(zhì)尚不可形式化。因此,哲學(xué)在探討智能、認(rèn)知、語(yǔ)言、意識(shí)等問(wèn)題上不可或缺,人工智能的發(fā)展不能僅依賴(lài)算法與技術(shù)。人工智能哲學(xué)源于理性主義、機(jī)械論等思想,邏輯三段論與理性問(wèn)題仍是核心。但深度學(xué)習(xí)缺乏推理與因果能力,意識(shí)、智能與身體的關(guān)系也無(wú)法用簡(jiǎn)潔數(shù)學(xué)公式描述。數(shù)學(xué)雖是工具,卻未能建立如物理般完整體系,其方法難以統(tǒng)一解釋。根本原因在于人類(lèi)對(duì)“智能”的理解停留在現(xiàn)象層面,本質(zhì)尚不可形式化。因此,哲學(xué)在探討智能、認(rèn)知、語(yǔ)言、意識(shí)等問(wèn)題上不可或缺,人工智能的發(fā)展不能僅依賴(lài)算法與技術(shù)。笛卡爾通過(guò)提出“我思故我在”,將心身關(guān)系問(wèn)題引入哲學(xué)領(lǐng)域,區(qū)分了外在世界與內(nèi)在心靈,認(rèn)為兩者是互相影響但又獨(dú)立存在的領(lǐng)域。笛卡爾的心身二元論心靈哲學(xué)關(guān)注的核心問(wèn)題包括意識(shí)的本質(zhì)、心靈與身體的關(guān)系、心靈與大腦的同一性以及心靈、意識(shí)與智能之間的聯(lián)系。心靈與身體的關(guān)系是心靈哲學(xué)探討的重要議題,涉及心靈如何影響身體行為以及身體狀態(tài)如何反映心靈活動(dòng)。心靈哲學(xué)的主要問(wèn)題2.2.1心靈哲學(xué)物理主義或唯物主義主張心理概念可歸結(jié)為行為概念,認(rèn)為只有身體和行為是真實(shí)的,思想和情感等心理現(xiàn)象是由物理性質(zhì)的身體所形成。物理主義與行為主義理想主義或觀念論則傾向于肯定心靈的理想性,認(rèn)為心靈與身體不能分開(kāi),是同一存在的兩個(gè)面向。理想主義(觀念論)的視角現(xiàn)代神經(jīng)科學(xué)的研究揭示了心理活動(dòng)對(duì)大腦物理系統(tǒng)的依賴(lài)性,對(duì)實(shí)質(zhì)二元論提出了挑戰(zhàn),表明心理活動(dòng)的某些方面可能與大腦特定部分的損傷密切相關(guān)。現(xiàn)代神經(jīng)科學(xué)對(duì)二元論的挑戰(zhàn)心靈哲學(xué)的根本問(wèn)題同樣是人工智能的根本問(wèn)題,圖靈提出的“機(jī)器是否有思維”的問(wèn)題根本就是一個(gè)心靈哲學(xué)問(wèn)題。因此,對(duì)于人工智能研究而言,對(duì)這些問(wèn)題的回答,決定了人類(lèi)是否可以在機(jī)器上實(shí)現(xiàn)類(lèi)人智能。對(duì)這些問(wèn)題的理解有助于我們?nèi)パ芯坎煌问降娜斯ぶ悄苋斯ぶ悄芨締?wèn)題心智哲學(xué)對(duì)各種心理概念進(jìn)行理論分析,涉及本體論、認(rèn)識(shí)論、邏輯、美學(xué)、語(yǔ)言哲學(xué)等領(lǐng)域。它試圖回答什么使智能變得可能和什么使意識(shí)成為可能。心智哲學(xué)的理論分析涉身哲學(xué)或具身哲學(xué)強(qiáng)調(diào)心智與身體的密切聯(lián)系,認(rèn)為人的心智是涉身的、隱喻的、有限自由的和涉身道德的。這一觀點(diǎn)與傳統(tǒng)的西方哲學(xué)形成鮮明對(duì)比,它認(rèn)為身體在人的概念形成和理解中起著核心作用。涉身哲學(xué)的興起與發(fā)展心智哲學(xué)探討心智的本質(zhì)與內(nèi)在工作原理,以及心理過(guò)程與腦過(guò)程的關(guān)系,即心腦問(wèn)題。它試圖理解什么是有意識(shí)智慧的本質(zhì),以及心理狀態(tài)和過(guò)程的本質(zhì)。心智與心腦問(wèn)題的探討心智哲學(xué)的歷史研究中,二元論與唯物論的對(duì)立明顯。唯物論認(rèn)為心理活動(dòng)只是大腦復(fù)雜狀態(tài)和過(guò)程的體現(xiàn),而二元論者認(rèn)為心理活動(dòng)不僅僅是物理系統(tǒng)的狀態(tài)和過(guò)程,而是構(gòu)成其本質(zhì)的非物理現(xiàn)象。二元論與唯物論的對(duì)立2.2.2心智哲學(xué)心智哲學(xué)與人工智能的關(guān)系心智哲學(xué)對(duì)人工智能的影響心智哲學(xué)對(duì)人工智能的研究產(chǎn)生了重要影響,特別是關(guān)于“計(jì)算機(jī)能否思維”的問(wèn)題,促使人們深入思考有意識(shí)智慧的本質(zhì)。0102機(jī)器心智與人類(lèi)心智的比較心智哲學(xué)將機(jī)器作為參考來(lái)思考人的心智,而人工智能哲學(xué)則以人的心智為藍(lán)本思考機(jī)器的心智。機(jī)器是否有智能、思維和心智,實(shí)際上是一個(gè)問(wèn)題的三個(gè)方面。03心智的物理或物質(zhì)基礎(chǔ)探討心智哲學(xué)和人工智能哲學(xué)都試圖探討心智的物理或物質(zhì)基礎(chǔ),以理解心智如何在人類(lèi)和機(jī)器中產(chǎn)生,以及兩者之間是否存在共同的基礎(chǔ)。(1)計(jì)算主義哲學(xué)與人工智能01計(jì)算主義哲學(xué)的哲學(xué)源流計(jì)算主義哲學(xué)融合了從樸素唯物論到柏拉圖主義的多種哲學(xué)思想,它的發(fā)展是對(duì)這些哲學(xué)傳統(tǒng)的揚(yáng)棄與發(fā)展。02計(jì)算主義與古希臘哲學(xué)傳統(tǒng)計(jì)算主義植根于古希臘的樸素原子論、畢達(dá)哥拉斯主義和柏拉圖主義傳統(tǒng),以及亞里士多德的目的傳統(tǒng)。03亞里士多德的目的論與自動(dòng)化哲學(xué)萌芽亞里士多德的目的論認(rèn)為自然具有內(nèi)在目的,其創(chuàng)造物合乎目的,這種思想中隱含了程序自動(dòng)化和自動(dòng)機(jī)的早期概念。亞里士多德關(guān)于自動(dòng)機(jī)的思想預(yù)示了現(xiàn)代自動(dòng)機(jī)理論和人機(jī)類(lèi)比的哲學(xué)萌芽,盡管他所指的自動(dòng)機(jī)械裝置相對(duì)簡(jiǎn)單。2.2.3計(jì)算主義計(jì)算主義哲學(xué)對(duì)人工智能發(fā)展的影響與啟示人作為自動(dòng)機(jī)的數(shù)學(xué)模型與計(jì)算機(jī)模擬計(jì)算主義啟示我們,人可以被視為自動(dòng)機(jī),通過(guò)數(shù)學(xué)模型和計(jì)算機(jī)模擬,解決傳統(tǒng)上只有人類(lèi)智能才能解決的問(wèn)題。0102符號(hào)加工機(jī):?jiǎn)l(fā)式程序設(shè)計(jì)與智能模擬人被視為符號(hào)加工機(jī),啟發(fā)式程序設(shè)計(jì)模擬人的智能,通過(guò)總結(jié)感知、記憶、學(xué)習(xí)等心理活動(dòng)為規(guī)則,用計(jì)算機(jī)模擬這些智能行為。03生物學(xué)機(jī)器視角:生理結(jié)構(gòu)與神經(jīng)系統(tǒng)的模擬計(jì)算主義哲學(xué)鼓勵(lì)從人的生理結(jié)構(gòu)和神經(jīng)系統(tǒng)出發(fā),模擬智能,創(chuàng)造出類(lèi)似大腦和人類(lèi)的機(jī)器。04腦與計(jì)算機(jī):心智、認(rèn)知、智能的計(jì)算本質(zhì)將腦視為計(jì)算機(jī),認(rèn)為心智、認(rèn)知、智能本質(zhì)上是計(jì)算過(guò)程,這一觀點(diǎn)推動(dòng)了對(duì)智能本質(zhì)的深入探討和人工智能技術(shù)的發(fā)展。與計(jì)算機(jī)的出現(xiàn)緊密相關(guān),尤其是人工智能的進(jìn)步,對(duì)心靈哲學(xué)產(chǎn)生了深遠(yuǎn)的影響,推動(dòng)了將心靈比作計(jì)算機(jī)的思想。計(jì)算主義的發(fā)展心靈的計(jì)算機(jī)模型將心靈視作程序,大腦視作計(jì)算機(jī)系統(tǒng)的硬件,提出了“心靈之于大腦正如程序之于硬件”的口號(hào)。大腦與計(jì)算機(jī)硬件的類(lèi)比強(qiáng)調(diào)了大腦作為處理信息的物理實(shí)體,而心靈則是運(yùn)行在這一硬件上的程序或軟件。心靈的計(jì)算機(jī)模型(2)心靈是計(jì)算機(jī)塞爾通過(guò)“中文房間論證”區(qū)分了心靈與程序,認(rèn)為程序的形式句法本身不能確保心智內(nèi)容的出現(xiàn),從而否定了心靈等同于計(jì)算機(jī)程序的觀點(diǎn)。中文房間論證揭示了句法操作與語(yǔ)義理解之間的差異,即一臺(tái)計(jì)算機(jī)可以執(zhí)行理解中文的運(yùn)算步驟,但并不理解中文單詞,從而論證了形式句法與形式語(yǔ)義的不同。中文房間論證的邏輯真理塞爾區(qū)分了強(qiáng)人工智能與弱人工智能,其中強(qiáng)人工智能認(rèn)為擁有心靈等同于擁有程序,而弱人工智能認(rèn)為大腦過(guò)程可以被計(jì)算模擬,但大腦本身并不等同于數(shù)字計(jì)算機(jī)。強(qiáng)人工智能與弱人工智能的區(qū)別計(jì)算主義的挑戰(zhàn)與局限01020304計(jì)算主義面臨挑戰(zhàn),因?yàn)槿祟?lèi)智能具有多元性、多因性,以及情感和理性的復(fù)雜關(guān)系,這些因素使得通過(guò)計(jì)算方式實(shí)現(xiàn)類(lèi)人智能顯得不切實(shí)際。計(jì)算主義與人類(lèi)智能的多元性機(jī)器智能與人類(lèi)自然智能的比較計(jì)算實(shí)現(xiàn)的智能范圍計(jì)算主義面臨的數(shù)學(xué)挑戰(zhàn)來(lái)自哥德?tīng)柖ɡ?,該定理表明任何包含算術(shù)的自洽系統(tǒng)都存在無(wú)法證明的命題,這暗示了人類(lèi)心靈能力的某些方面無(wú)法通過(guò)形式推理系統(tǒng)完全刻畫(huà)。它揭示了形式系統(tǒng)內(nèi)在的局限性,即存在無(wú)法被形式推理證明的真命題,從而指出了以邏輯推理為核心的智能系統(tǒng)的局限。計(jì)算主義的數(shù)學(xué)挑戰(zhàn)計(jì)算機(jī)通過(guò)程序和二進(jìn)制計(jì)算實(shí)現(xiàn)的是人類(lèi)智能的一部分,主要是理性部分和邏輯部分,而無(wú)法涵蓋人類(lèi)智能的全部。機(jī)器智能在模擬人類(lèi)智能的共性部分,如視覺(jué)、語(yǔ)言、邏輯思維等方面取得了巨大成功,甚至在某些方面已經(jīng)超越了人類(lèi)的自然智能。當(dāng)前討論強(qiáng)人工智能實(shí)現(xiàn)時(shí),往往基于圖靈機(jī)的計(jì)算思想和馮·諾依曼結(jié)構(gòu)的計(jì)算機(jī),但人腦結(jié)構(gòu)與之有本質(zhì)區(qū)別。盡管可以將人腦看作計(jì)算機(jī),但不必是馮·諾依曼結(jié)構(gòu)的計(jì)算機(jī),心智、心靈、智能也可以看作是計(jì)算的,但不一定是圖靈計(jì)算機(jī)。強(qiáng)人工智能實(shí)現(xiàn)的計(jì)算主義基礎(chǔ)莫拉韋茨悖論指出,對(duì)于計(jì)算機(jī)來(lái)說(shuō),執(zhí)行復(fù)雜的數(shù)學(xué)問(wèn)題、掌握國(guó)際象棋和圍棋等游戲相對(duì)容易,但在感知和行動(dòng)能力方面,計(jì)算機(jī)可能永遠(yuǎn)無(wú)法達(dá)到人類(lèi)一歲孩子的水平。這是因?yàn)槿祟?lèi)大腦中蘊(yùn)含了上億年進(jìn)化的生存技能和經(jīng)驗(yàn)。莫拉韋茨悖論的解釋斯洛曼認(rèn)為人工智能中的計(jì)算機(jī)與圖靈機(jī)是兩種不同歷史過(guò)程發(fā)展的結(jié)晶。一種是驅(qū)動(dòng)物理過(guò)程、處理物理實(shí)在的機(jī)器的發(fā)展,另一種是執(zhí)行數(shù)字計(jì)算操作抽象實(shí)在的機(jī)器的發(fā)展。斯洛曼關(guān)于計(jì)算機(jī)發(fā)展的觀點(diǎn)圖靈機(jī)是理論計(jì)算模型,而現(xiàn)代計(jì)算機(jī)是處理物理實(shí)在的機(jī)器,它們的發(fā)展歷史和應(yīng)用領(lǐng)域不同。圖靈機(jī)的理論化對(duì)計(jì)算機(jī)理論研究有重要意義,但現(xiàn)代計(jì)算機(jī)的軟硬件并非自發(fā)進(jìn)化,不完全具備人腦的本質(zhì)特性。圖靈機(jī)與計(jì)算機(jī)的區(qū)別單擊添加
項(xiàng)標(biāo)題02040103(3)非馮·諾依曼結(jié)構(gòu)的計(jì)算機(jī)新型計(jì)算機(jī)架構(gòu)與未來(lái)人工智能計(jì)算需求目前正在發(fā)展的幾種新架構(gòu)計(jì)算機(jī)在物理層面取得了重大突破,這些非馮結(jié)構(gòu)計(jì)算機(jī)包括生物分子、量子、憶阻器、神經(jīng)形態(tài)等。這些新型計(jì)算機(jī)架構(gòu)在處理速度、能效比、并行處理能力等方面展現(xiàn)出超越傳統(tǒng)馮·諾依曼結(jié)構(gòu)計(jì)算機(jī)的潛力,為未來(lái)人工智能的發(fā)展提供了新的可能性。非馮·諾依曼結(jié)構(gòu)計(jì)算機(jī)的物理突破未來(lái)實(shí)現(xiàn)通用或類(lèi)人的人工智能可能需要一種全新的計(jì)算機(jī)架構(gòu),這種架構(gòu)能夠更好地模擬人腦的工作方式,處理復(fù)雜的感知和運(yùn)動(dòng)任務(wù)。新型計(jì)算機(jī)架構(gòu)的出現(xiàn)可能會(huì)徹底改變?nèi)斯ぶ悄艿挠?jì)算模式,使得機(jī)器在處理復(fù)雜任務(wù)時(shí)更加高效和智能,從而推動(dòng)人工智能技術(shù)的飛躍發(fā)展。通用或類(lèi)人人工智能的計(jì)算需求
現(xiàn)代人工智能發(fā)展實(shí)際上是建立在計(jì)算主義思想基礎(chǔ)上,也就是希望通過(guò)算法和程序?qū)崿F(xiàn)類(lèi)人的智能,而沒(méi)有從源頭思考關(guān)于智能的本質(zhì)及身心二元關(guān)系問(wèn)題??偠灾?.3強(qiáng)人工智能與通用人工智能的實(shí)現(xiàn)問(wèn)題01強(qiáng)人工智能仍屬于科幻領(lǐng)域強(qiáng)人工智能被描述為具有知覺(jué)、自我意識(shí)和思考能力的人工智能,其智能水平達(dá)到甚至超越人類(lèi),但目前它仍然屬于科幻領(lǐng)域。02生命的特征與人工智能生命的定義通常包含自組織、自主、涌現(xiàn)等九個(gè)特征,其中前八個(gè)特征可以被人工智能以信息處理的方式實(shí)現(xiàn),但第九個(gè)特征—新陳代謝,目前只能被計(jì)算機(jī)模擬而無(wú)法體塑化,這為強(qiáng)人工智能的實(shí)現(xiàn)帶來(lái)了限制。03強(qiáng)人工智能可能存在嗎如果新陳代謝是生命存在的必要條件,那么強(qiáng)人工智能由于無(wú)法實(shí)現(xiàn)真正的新陳代謝,其可能性將受到質(zhì)疑,即便其未來(lái)表現(xiàn)再令人印象深刻,也可能無(wú)法實(shí)現(xiàn)真正的智慧。2.3.1強(qiáng)人工智能的實(shí)現(xiàn)問(wèn)題意識(shí)的定義與心智狀態(tài)意識(shí)意識(shí)被定義為一種對(duì)自身和周?chē)h(huán)境有所認(rèn)識(shí)的心智狀態(tài),是強(qiáng)人工智能實(shí)現(xiàn)過(guò)程中需要考慮的關(guān)鍵要素。0102機(jī)器意識(shí)的可能性分析大衛(wèi)·查默斯通過(guò)組織不變?cè)碚撟C了具有適當(dāng)功能組織的系統(tǒng)都具有意識(shí),暗示如果認(rèn)知?jiǎng)討B(tài)是可計(jì)算的,合適的計(jì)算組織將引起意識(shí)。03“中文屋”理論與意識(shí)的挑戰(zhàn)塞爾的“中文屋”理論提出人工智能只是機(jī)械地執(zhí)行任務(wù),缺乏“內(nèi)在意向性”,表明實(shí)現(xiàn)強(qiáng)人工智能的瓶頸在于如何讓機(jī)器擁有有意識(shí)的判斷能力。04強(qiáng)人工智能的終極目標(biāo)與風(fēng)險(xiǎn)電影《機(jī)械姬》展示了接近人類(lèi)的人工智能形象,反映了強(qiáng)人工智能作為終極目標(biāo)的可能性,同時(shí)也暗示了人類(lèi)可能無(wú)法分辨機(jī)器人與人的風(fēng)險(xiǎn)。弱人工智能分為兩個(gè)部分,第一部分是特定領(lǐng)域的智能模擬,如語(yǔ)音識(shí)別或圖像處理;第二部分是通用人工智能,它試圖全面模仿人類(lèi)智能。弱人工智能的兩部分通用人工智能是對(duì)人類(lèi)智能的全面模仿,它能夠執(zhí)行人類(lèi)所能解決的各種任務(wù),而不僅僅是特定領(lǐng)域的智能模擬。通用人工智能的含義史蒂夫·沃茲尼亞克提出咖啡測(cè)試作為通用人工智能的一個(gè)指標(biāo),機(jī)器人必須進(jìn)入普通家庭并嘗試制作咖啡,這需要機(jī)器人具備復(fù)雜的任務(wù)執(zhí)行和推理能力。蘋(píng)果公司創(chuàng)始人沃茲尼亞克的咖啡測(cè)試弱人工智能是特定領(lǐng)域的智能模擬,而強(qiáng)人工智能不僅模擬人類(lèi)智能,還必須具備人類(lèi)的意識(shí)、情感和倫理道德等特征。弱人工智能與強(qiáng)人工智能的區(qū)別2.3.2通用人工智能的實(shí)現(xiàn)問(wèn)題通用人工智能的實(shí)現(xiàn)難點(diǎn)與未來(lái)展望基于大語(yǔ)言模型的多模態(tài)智能系統(tǒng),能夠處理視頻、圖像、語(yǔ)音、文本等信息,并通過(guò)自然語(yǔ)言交流,可以看作是通用人工智能的雛形。多模態(tài)智能系統(tǒng)作為通用人工智能的雛形實(shí)現(xiàn)通用人工智能面臨巨大挑戰(zhàn),它不僅需要模擬人類(lèi)的智能行為,還要具備認(rèn)知靈活性、創(chuàng)造性和自我反思能力,而這些能力目前的機(jī)器還無(wú)法完全實(shí)現(xiàn)。通用人工智能的實(shí)現(xiàn)難點(diǎn)未來(lái)技術(shù)的進(jìn)步可能帶來(lái)能夠適應(yīng)不同環(huán)境、處理各種任務(wù)的通用人工智能,但目前還無(wú)法實(shí)現(xiàn)像人類(lèi)嬰兒那樣從出生開(kāi)始不斷學(xué)習(xí)和適應(yīng)的智能機(jī)器。通用人工智能的未來(lái)展望盡管軟件系統(tǒng)可以實(shí)現(xiàn)多模態(tài)智能,但構(gòu)建具有物理形態(tài)的通用人工智能機(jī)器人仍存在很大難度,需要技術(shù)的進(jìn)一步發(fā)展。物理形態(tài)的通用人工智能機(jī)器人
人類(lèi)非??释麑?shí)現(xiàn)一種集感知、認(rèn)知、語(yǔ)言、行為等多種功能于一身的智能機(jī)器。正如20世紀(jì)中期以后,科幻電影中出現(xiàn)了各種各樣的機(jī)器人一樣,這些機(jī)器人形象有的模仿人形,有的則奇形怪狀。其中具有代表性的是1977年開(kāi)始的系列科幻電影《星球大戰(zhàn)》中的C3-PO和R2-D2,即一高一矮一胖一瘦兩個(gè)經(jīng)典機(jī)器人形象,塑造了與人類(lèi)自然交互、善解人意又足智多謀的機(jī)器人伙伴形象。還有《機(jī)器管家》中對(duì)人類(lèi)家庭無(wú)微不至的機(jī)器人管家形象。這些機(jī)器人都是人類(lèi)理想中的通用人工智能。
人類(lèi)對(duì)通用人工智能的渴望
這些智能機(jī)器人夠像人一樣適應(yīng)各種復(fù)雜的環(huán)境,幫助人們解決各種復(fù)雜、困難的問(wèn)題甚至危險(xiǎn)任務(wù),但這種智能機(jī)器人只是一種理想狀態(tài)的通用人工智能實(shí)現(xiàn)之后的產(chǎn)物。如何實(shí)現(xiàn)科幻電影中的通用人工智能呢?很遺憾,目前還沒(méi)有答案。未來(lái),隨著人形機(jī)器人、大模型、具身智能技術(shù)的發(fā)展和進(jìn)步,世界上可能會(huì)出現(xiàn)適應(yīng)不同環(huán)境、場(chǎng)景、問(wèn)題的功能意義上的通用人工智能,但發(fā)展自我意識(shí)層面的通用強(qiáng)人工智能的道路還很漫長(zhǎng)。通用人工智能的理想與現(xiàn)實(shí)2.4人工智能發(fā)展歷史
以往考察人工智能的歷史,一般從上世紀(jì)50年代開(kāi)始。但是,與人工智能有關(guān)的重要概念與技術(shù),比如計(jì)算、可計(jì)算、算法及計(jì)算機(jī)等對(duì)于人工智能的孕育更為基礎(chǔ)和重要。(1)“計(jì)算”的哲學(xué)歷史
人工智能的基本實(shí)現(xiàn)手段是計(jì)算機(jī),計(jì)算機(jī)就是一種計(jì)算機(jī)器。人類(lèi)最早從計(jì)算的視角審視問(wèn)題的是笛卡爾,盡管當(dāng)時(shí)還沒(méi)有這個(gè)概念。笛卡兒認(rèn)為,人的理解就是形成和操作恰當(dāng)?shù)谋磉_(dá)方式,而這些表述方式也有復(fù)雜和簡(jiǎn)單之分,其中復(fù)雜的形式都可以分析為簡(jiǎn)單的形式。
“計(jì)算”這一概念是在文藝復(fù)興后伴隨機(jī)械論發(fā)展和機(jī)器的制造而出現(xiàn)的。當(dāng)時(shí)人們?cè)斐隽嗽S多機(jī)器,如織機(jī)、手表、時(shí)鐘等。為了描述機(jī)器的行為,人們發(fā)明了“計(jì)算”一詞。從最早的機(jī)械裝置,到后來(lái)的動(dòng)物“自動(dòng)機(jī)器”都是一種以機(jī)械裝置形式出現(xiàn)的計(jì)算模型。2.4.1計(jì)算的歷史
萊布尼茲對(duì)二進(jìn)制的采用與推廣,為現(xiàn)代計(jì)算機(jī)科學(xué)提供了基礎(chǔ)。他認(rèn)識(shí)到二進(jìn)制與古代中國(guó)《易經(jīng)》中的八卦相吻合,并設(shè)想用二進(jìn)制原理來(lái)構(gòu)建邏輯機(jī)器。萊布尼茲是邏輯學(xué)數(shù)學(xué)化的先驅(qū),他堅(jiān)信通過(guò)統(tǒng)一的科學(xué)語(yǔ)言和符號(hào)化方法,可以建立普遍邏輯和演算邏輯,從而清晰地解釋世界上的所有事物。二進(jìn)制的發(fā)明與計(jì)算機(jī)科學(xué)
德國(guó)哲學(xué)家萊布尼茲不僅在數(shù)學(xué)和物理學(xué)領(lǐng)域有所建樹(shù),其對(duì)人工智能的貢獻(xiàn)亦不可忽視。他設(shè)想通過(guò)數(shù)學(xué)方法實(shí)現(xiàn)思維的機(jī)械化,這一思想為人工智能的符號(hào)計(jì)算和數(shù)學(xué)基礎(chǔ)奠定了早期理論。萊布尼茲的哲學(xué)思想與人工智能圖
萊布尼茲布爾邏輯與人工智能的符號(hào)主義萊布尼茲的理論影響了后來(lái)的數(shù)學(xué)家布爾,布爾通過(guò)其著作《邏輯的數(shù)學(xué)分析》提出了邏輯代數(shù),將邏輯學(xué)數(shù)學(xué)化,為人工智能的符號(hào)主義和邏輯推理計(jì)算提供了堅(jiān)實(shí)的數(shù)學(xué)基礎(chǔ)。符號(hào)主義和邏輯推理計(jì)算的數(shù)學(xué)基礎(chǔ)
萊布尼茲的普遍邏輯與演算邏輯構(gòu)想,預(yù)示了人工智能中通過(guò)計(jì)算來(lái)回答所有可能問(wèn)題的潛力,其對(duì)通用微積分和推理機(jī)器化的設(shè)想,為人工智能的發(fā)展指明了方向。
提出的通用微積分和用于推理的通用微積分概念,是他對(duì)人工智能推理機(jī)器化思想的體現(xiàn)。他設(shè)想利用計(jì)算方法來(lái)實(shí)現(xiàn)復(fù)雜問(wèn)題的推理過(guò)程,這一理念對(duì)后續(xù)人工智能的發(fā)展產(chǎn)生了深遠(yuǎn)影響。通用微積分和推理機(jī)器化
盡管德國(guó)唯心主義極力反對(duì)機(jī)械唯物主義,但仍有許多人在機(jī)器計(jì)算上做出了新的探索,從而使機(jī)械裝置的計(jì)算能力獲得了極大的提高。當(dāng)然,對(duì)計(jì)算概念的認(rèn)識(shí)仍然停留在直觀的層面。萊布尼茲視一切思維為符號(hào)的形式操作,認(rèn)為理解是將概念分解至終極單元的過(guò)程,這些觀點(diǎn)是邏輯思維機(jī)械化思想的萌芽。萊布尼茲的符號(hào)操作理論霍布斯提出推理的本質(zhì)是計(jì)算,認(rèn)為推理過(guò)程是將小部分相加構(gòu)造出整體的過(guò)程?;舨妓沟耐评砑从?jì)算觀點(diǎn)洛克認(rèn)為,人類(lèi)對(duì)世界的認(rèn)識(shí)通過(guò)觀念這個(gè)中介進(jìn)行,思維是大腦對(duì)觀念組合或分解的過(guò)程。洛克的觀念中介論盡管德國(guó)唯心主義反對(duì)機(jī)械唯物主義,但對(duì)機(jī)械裝置計(jì)算能力的提高仍做出了新的探索,計(jì)算概念的認(rèn)識(shí)停留在直觀層面。機(jī)械唯物主義與直觀計(jì)算一些哲學(xué)家將計(jì)算與人類(lèi)思維聯(lián)系起來(lái),弗雷格在1879年出版的《概念文字》中建立了數(shù)理邏輯體系,提出了一階謂詞邏輯,標(biāo)志數(shù)理邏輯的誕生。弗雷格的《概念文字》與一階謂詞邏輯希爾伯特在1900年國(guó)際數(shù)學(xué)家大會(huì)上提出“希爾伯特23個(gè)問(wèn)題”,是數(shù)學(xué)機(jī)械化思想的先驅(qū)。希爾伯特的23個(gè)問(wèn)題羅素和懷德海的《數(shù)學(xué)原理》確立了數(shù)理邏輯的基礎(chǔ),建立了完整的命題演算和謂詞演算,對(duì)現(xiàn)代演繹邏輯產(chǎn)生了巨大影響。羅素和懷德海的《數(shù)學(xué)原理》現(xiàn)代邏輯蓬勃發(fā)展現(xiàn)代邏輯中演繹部分發(fā)展出模態(tài)邏輯、多值邏輯等非經(jīng)典邏輯分支,極大拓展了研究領(lǐng)域。演繹邏輯的現(xiàn)代發(fā)展歸納邏輯與概率、統(tǒng)計(jì)等方法結(jié)合,開(kāi)辟了新的研究領(lǐng)域,為邏輯思維的機(jī)械化提供了新的途徑。歸納邏輯與概率統(tǒng)計(jì)的結(jié)合借助形式邏輯和計(jì)算機(jī)的計(jì)算能力,實(shí)現(xiàn)了人類(lèi)思維的機(jī)械化,機(jī)器認(rèn)知智能的發(fā)展是思維數(shù)學(xué)化、機(jī)械化的體現(xiàn)。機(jī)器認(rèn)知智能與思維的數(shù)學(xué)化、機(jī)械化(2)圖靈與計(jì)算1931年,哥德?tīng)栕C明了遞歸函數(shù)的計(jì)算可以“模仿”形式算術(shù)的某些推理,這是科學(xué)史上第一次嚴(yán)格證明了計(jì)算可以模仿推理。
哥德?tīng)柕呢暙I(xiàn)
其他數(shù)學(xué)家的貢獻(xiàn)丘奇、克林尼、圖靈等一批數(shù)學(xué)家和邏輯學(xué)家已經(jīng)提供了關(guān)于“可計(jì)算性”這一最基本概念的幾種等價(jià)的數(shù)學(xué)描述。a.哥德?tīng)?/p>
b.圖靈
圖靈機(jī):計(jì)算理論的里程碑1936年,圖靈和波斯特設(shè)計(jì)出生物系統(tǒng)的計(jì)算模型,實(shí)現(xiàn)了人的機(jī)械記憶和按規(guī)則推理的功能,開(kāi)了自動(dòng)機(jī)理論與生物學(xué)相結(jié)合的先河。圖靈關(guān)于生物系統(tǒng)的計(jì)算機(jī)模型是以他的名字命名的圖靈機(jī)。
圖靈指出,只要有這樣的有限種類(lèi)的行為組合的機(jī)器,就能夠計(jì)算任何可計(jì)算過(guò)程,實(shí)際上,他證明了存在著一種“通用”計(jì)算機(jī),即所謂“通用圖靈機(jī)”(簡(jiǎn)稱(chēng)UTM),如圖所示,理論上它能夠模擬任何一臺(tái)實(shí)際的計(jì)算機(jī)的行為,從理論上證明了研制通用數(shù)字計(jì)算機(jī)的可行性。圖
通用圖靈機(jī)概念圖
數(shù)學(xué)家給出了著名的丘奇-圖靈論題,指出領(lǐng)先地位可能行可計(jì)算函數(shù)或稱(chēng)算法可計(jì)算函數(shù)都是遞歸函數(shù),也就是圖靈可計(jì)算函數(shù),或稱(chēng)圖靈機(jī)算法可實(shí)現(xiàn)的函數(shù)。丘奇-圖靈論題主張:圖靈機(jī)可以“模仿”任何計(jì)算。
丘奇-圖靈論題積累了大量研究成果,并不斷產(chǎn)生新的模仿方式。如“符號(hào)主義”、“聯(lián)結(jié)主義”、“行為主義”,分別模仿了智能的不同功能。
模仿方式的發(fā)展綜合上述兩項(xiàng)成果得出哥德?tīng)?圖靈引理:用圖靈機(jī)可以“模仿”某些推理。丘奇-圖靈論題中的“模仿”和哥德?tīng)栕C明中的“模仿”具有相同的數(shù)學(xué)定義。
哥德?tīng)?圖靈引理哥德?tīng)柕呢暙I(xiàn)與人工智能的理論基礎(chǔ)從20世紀(jì)40年代至70年代,人工智能領(lǐng)域的發(fā)展很大程度上是通過(guò)專(zhuān)家系統(tǒng)和邏輯編程來(lái)實(shí)現(xiàn)的,這些方法深受哥德?tīng)栵L(fēng)格的定理證明和推理的影響。專(zhuān)家系統(tǒng)與邏輯編程的發(fā)展哥德?tīng)柼岢隽艘环N基于整數(shù)的通用編程語(yǔ)言,該語(yǔ)言能夠形式化任何數(shù)字計(jì)算機(jī)操作,數(shù)據(jù)(如公理和定理)和程序可以被形式化,這為數(shù)字計(jì)算機(jī)操作提供了一種全新的表達(dá)方式,為現(xiàn)代理論計(jì)算機(jī)科學(xué)奠定了基礎(chǔ)。哥德?tīng)柕耐ㄓ镁幊陶Z(yǔ)言概念20世紀(jì)30年代初,哥德?tīng)柼岢龅牟煌耆远ɡ眍嵏擦讼柌仃P(guān)于數(shù)學(xué)一致性和完備性的觀點(diǎn),表明任何包含初等算術(shù)的無(wú)矛盾公理體系都存在無(wú)法用該體系證明真假的命題。哥德?tīng)柕淖C明揭示了數(shù)學(xué)體系的局限性,即數(shù)學(xué)無(wú)法同時(shí)滿足完備性和一致性,因?yàn)榭傆幸恍┟}是不可判定的。哥德?tīng)柌煌耆远ɡ淼奶岢鲇?jì)算機(jī)發(fā)展的歷史軌跡與理論基礎(chǔ)計(jì)算機(jī)夢(mèng)想的起源近代以來(lái),人們渴望減輕計(jì)算負(fù)擔(dān),夢(mèng)想著能代替人類(lèi)進(jìn)行數(shù)字等抽象處理的機(jī)器,即計(jì)算機(jī)的誕生。電子計(jì)算元件的發(fā)展隨著晶體管、集成電路等電子計(jì)算元件的發(fā)展,人們對(duì)計(jì)算的認(rèn)識(shí)開(kāi)始發(fā)生質(zhì)的變化,為計(jì)算機(jī)技術(shù)的進(jìn)步奠定了基礎(chǔ)。計(jì)算概念的邏輯分析人們開(kāi)始對(duì)計(jì)算進(jìn)行邏輯分析,從而產(chǎn)生了形式系統(tǒng)、可證明性、循環(huán)功能、可計(jì)算的功能、算法、有限狀態(tài)自動(dòng)機(jī)等新概念。計(jì)算機(jī)發(fā)展的歷史軌跡與理論基礎(chǔ)計(jì)算理論的新概念在邏輯或理論的方向上,人們側(cè)重于從邏輯上解釋計(jì)算的直觀概念,并從理論上界定可計(jì)算性的范圍。計(jì)算概念的分化計(jì)算概念分化為兩個(gè)方向:一是邏輯或理論的方向,二是強(qiáng)調(diào)技術(shù)邏輯或?qū)嵺`的方面,探討建立計(jì)算裝置時(shí)可能遇到的問(wèn)題?,F(xiàn)代計(jì)算機(jī)時(shí)代的開(kāi)啟盡管數(shù)字計(jì)算機(jī)的發(fā)展為計(jì)算概念的鞏固和發(fā)展提供了支持,但直到諾依曼的貢獻(xiàn),現(xiàn)代計(jì)算機(jī)時(shí)代才真正開(kāi)啟。
歷史上,西方發(fā)展的機(jī)械論、控制論都哲學(xué)思想及理論都對(duì)現(xiàn)代人工智能誕生起到了思想孕育作用,包括1943年開(kāi)始發(fā)展的人工神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)--人工神經(jīng)元數(shù)學(xué)模型等聯(lián)結(jié)主義的原型方法,但這個(gè)過(guò)程中并沒(méi)有任何人提出任何關(guān)于人工智能的想法、概念或進(jìn)行時(shí)實(shí)踐。關(guān)于機(jī)械計(jì)算機(jī)的發(fā)明和使用,其目的也并非是要實(shí)現(xiàn)機(jī)器的智能。2.4.2關(guān)于“人工智能”的原初思想
19世紀(jì)40年代,洛夫萊斯伯爵夫人就曾經(jīng)預(yù)言了“人工智能”,但她也沒(méi)有提出類(lèi)似概念。她比較專(zhuān)注于符號(hào)和邏輯,從未考慮過(guò)人工神經(jīng)網(wǎng)絡(luò)、進(jìn)化編程和動(dòng)力系統(tǒng)。她也未考慮過(guò)人工智能的心理目標(biāo),而純粹對(duì)技術(shù)目標(biāo)感興趣。例如,她說(shuō)一臺(tái)機(jī)器“可能編寫(xiě)所有復(fù)雜程度或長(zhǎng)度的細(xì)膩且系統(tǒng)的樂(lè)曲”,也可能表達(dá)“在科學(xué)史上具有劃時(shí)代意義的、自然界的重要事實(shí)。她所說(shuō)的機(jī)器就是巴貝奇設(shè)計(jì)的機(jī)械計(jì)算機(jī)。她認(rèn)識(shí)到了分析機(jī)的潛在通用性和處理符號(hào)(表示宇宙中的所有主體)的能力。她還描述了現(xiàn)代編程的各種基礎(chǔ)知識(shí):存儲(chǔ)程序、分層嵌套的子程序、尋址、循環(huán)等等。1914年,西班牙人李?yuàn)W那多創(chuàng)造了第一個(gè)可操作的象棋終端機(jī),可以是第一個(gè)實(shí)用的人工智能機(jī)器(當(dāng)時(shí),象棋被認(rèn)為是一種局限于具有智力生物領(lǐng)域的活動(dòng))。01楚澤在1945年就設(shè)計(jì)很多計(jì)算機(jī)象棋規(guī)則,他還在1948年將他開(kāi)創(chuàng)性的將一種編程語(yǔ)言應(yīng)用于定理證明。02031947年,圖靈在一次關(guān)于計(jì)算機(jī)的會(huì)議上作了題為“智能機(jī)器”的報(bào)告,詳細(xì)地闡述了他關(guān)于思維機(jī)器的思想,第一次從科學(xué)的角度指出:“與人腦的活動(dòng)方式極為相似的機(jī)器是可以制造出來(lái)的?!痹谠搱?bào)告中,圖靈提出了自動(dòng)程序設(shè)計(jì)的思想,即借助證明來(lái)構(gòu)造程序的思想.哥德?tīng)柎_定了人工智能、數(shù)學(xué)和計(jì)算的極限,并通過(guò)專(zhuān)家系統(tǒng)自動(dòng)定理證明和推論了人工智能的理論基礎(chǔ),他還表明人類(lèi)優(yōu)于人工智能。051948年,圖靈撰寫(xiě)了與人工進(jìn)化和學(xué)習(xí)人工神經(jīng)網(wǎng)絡(luò)相關(guān)的想法的論文。04現(xiàn)代意義的人工智能
始于上世紀(jì)五十時(shí)代。1950年,人工智能先驅(qū)之一的馬文·明斯基(當(dāng)時(shí)還是大學(xué)四年級(jí)學(xué)生)與他的同學(xué)鄧恩·埃德蒙一起,建造了世界上第一臺(tái)神經(jīng)網(wǎng)絡(luò)計(jì)算機(jī)。這也被看做是人工智能的一個(gè)起點(diǎn)。
1951年,計(jì)算機(jī)科學(xué)家斯特雷奇使用曼徹斯特大學(xué)的FerrantiMark1機(jī)器寫(xiě)出了一個(gè)西洋跳棋程序;同時(shí)期的普林茨則寫(xiě)出了一個(gè)國(guó)際象棋程序。
人工智能先驅(qū)之一的薩繆爾在五十年代中期開(kāi)發(fā)的國(guó)際象棋程序的棋力已經(jīng)可以挑戰(zhàn)具有相當(dāng)水平的業(yè)余愛(ài)好者。圖靈以“計(jì)算者”模型提出圖靈機(jī)原理,并認(rèn)為大腦是可由行為表描述的離散態(tài)機(jī)器,因此計(jì)算機(jī)能夠仿效人的思維。1950年,他在《計(jì)算機(jī)器與智能》中提出圖靈測(cè)試,認(rèn)為若機(jī)器能長(zhǎng)期成功冒充人類(lèi),即可視為具備思維。同時(shí),他論證了心靈的計(jì)算本質(zhì),并反駁了九種否認(rèn)機(jī)器思維的觀點(diǎn),使思維與認(rèn)知活動(dòng)納入機(jī)器可模擬的范圍。圖靈機(jī)思想與圖靈測(cè)試:智能可計(jì)算性的奠基圖靈測(cè)試的兩個(gè)階段
如果機(jī)器A在某些現(xiàn)實(shí)的條件下,能夠非常好地模仿人回答問(wèn)題,以致使提問(wèn)者C在相當(dāng)長(zhǎng)的時(shí)間內(nèi)誤認(rèn)為它跟人類(lèi)B一樣,是人類(lèi)而不是機(jī)器,那么機(jī)器A就可以認(rèn)為是能思維的。圖
圖靈測(cè)試的兩個(gè)階段人類(lèi)關(guān)于人工智能的認(rèn)真思考在圖靈假想的一次圖靈測(cè)試中,計(jì)算機(jī)程序?qū)懥艘皇资男性?shī),然后人類(lèi)裁判與計(jì)算機(jī)程序進(jìn)行了如下回答:雖然圖靈并沒(méi)有明確提出人工智能的概念或給出定義,但圖靈接受了人工智能的兩個(gè)目標(biāo)--技術(shù)和心理。他想讓機(jī)器做通常需要智能才能完成的有意義的事情,并模擬以生理為基礎(chǔ)的心智所發(fā)生的過(guò)程。由他的論文直接引發(fā)了人類(lèi)關(guān)于人工智能的認(rèn)真思考。為了回答人類(lèi)裁判的第一個(gè)問(wèn)題,這個(gè)計(jì)算機(jī)程序要能理解自然語(yǔ)言,其中“把夏天改為春天”屬于意向性語(yǔ)義替換。第二個(gè)問(wèn)題在字面表達(dá)之外隱晦地涉及常識(shí)、情感和因果推理,否則這個(gè)有智能的程序就無(wú)法答出“沒(méi)人想被比作冬天”。圖靈相信,經(jīng)過(guò)大約50年研究,依靠“功能模仿”的計(jì)算機(jī)將能夠通過(guò)這樣的檢驗(yàn),從而讓人類(lèi)認(rèn)為“有智能”。人類(lèi)裁判:你的詩(shī)里說(shuō),“我能把你比作夏天嗎?”如果把“夏天”替換為“春天”,是否更好?計(jì)算機(jī)程序:替換以后不押韻。人類(lèi)裁判:換成“冬天”如何?計(jì)算機(jī)程序:這樣押韻了,但沒(méi)人想被比作冬天。1955年,紐厄爾和西蒙在蘭德公司工作時(shí),就得出結(jié)論,計(jì)算機(jī)操作的二進(jìn)制數(shù)字串能代表任何東西,包括現(xiàn)實(shí)世界中的事物。因此,紐厄爾和西蒙進(jìn)一步指出,人類(lèi)大腦和計(jì)算機(jī)盡管在結(jié)構(gòu)和機(jī)制上全然不同,但是在某一抽象的層次上,則具有共同的特征:人類(lèi)大腦和恰當(dāng)編程的數(shù)字計(jì)算機(jī)可被看作同一類(lèi)裝置的兩個(gè)不同特例,它們都通過(guò)用形式規(guī)則操作符號(hào)來(lái)生成智能行為。紐厄爾與西蒙的符號(hào)操作觀人工智能的誕生與早期發(fā)展1956年夏天,麥卡錫、明斯基、西蒙和紐厄爾等專(zhuān)家學(xué)者在美國(guó)達(dá)特茅斯學(xué)院舉行了史上第一次人工智能研討會(huì),標(biāo)志著人工智能學(xué)科的正式誕生。1956年達(dá)特茅斯會(huì)議的召開(kāi)麥卡錫首次提出“人工智能”這一概念,由此開(kāi)創(chuàng)了人工智能這門(mén)新的學(xué)科,他因此被譽(yù)為“人工智能之父”。人工智能誕生之初,對(duì)控制論中的聯(lián)結(jié)主義持反對(duì)態(tài)度,麥卡錫和明斯基等人認(rèn)為機(jī)器自適應(yīng)調(diào)整不夠,主張通過(guò)符號(hào)主義將程序算法和規(guī)則放入計(jì)算機(jī)系統(tǒng)中。人工智能與控制論的對(duì)立圖
人工智能先驅(qū)麥卡錫人工智能與控制論的哲學(xué)差異符號(hào)主義人工智能的目標(biāo)符號(hào)主義人工智能的目標(biāo)是將人工定義的程序算法和規(guī)則放入計(jì)算機(jī)系統(tǒng)中,從而從更高一級(jí)操縱系統(tǒng),這與早期控制論的聯(lián)結(jié)主義觀點(diǎn)形成對(duì)立。0102人工智能對(duì)人類(lèi)智能本質(zhì)的探索人工智能的初衷是直接將人腦與計(jì)算機(jī)聯(lián)系起來(lái),從計(jì)算的角度思考人類(lèi)智能的本質(zhì)以及如何通過(guò)計(jì)算手段實(shí)現(xiàn)智能,這與控制論關(guān)注機(jī)器智能的出發(fā)點(diǎn)不同。03控制論的衰落與人工智能的持久吸引力控制論在上世紀(jì)70年代衰落,原因在于它沒(méi)有深入探索人類(lèi)或生物體智能的本質(zhì),而人工智能因持續(xù)關(guān)注人類(lèi)智能問(wèn)題,具有持久的吸引力和巨大的發(fā)展空間。04人工智能的核心問(wèn)題與發(fā)展方向人工智能的核心在于研究和探索機(jī)器智能,通過(guò)理解人類(lèi)智能的本質(zhì)來(lái)推動(dòng)技術(shù)進(jìn)步,這是其持久吸引力和巨大發(fā)展空間的根本所在。2.4.3人工智能當(dāng)代史(1)形成期(1956-1969年)1956年8月,達(dá)特茅斯會(huì)議標(biāo)志著人工智能概念的正式提出,為該領(lǐng)域的發(fā)展奠定了基礎(chǔ)。1956年達(dá)特茅斯會(huì)議01紐厄爾和西蒙開(kāi)發(fā)的“邏輯理論家”程序證明了《數(shù)學(xué)原理》中的定理,展示了計(jì)算機(jī)模擬人類(lèi)高級(jí)思維活動(dòng)的可能性。機(jī)器定理證明與邏輯理論家021960年,紐厄爾、肖和西蒙等人研制的通用問(wèn)題求解程序GPS,首次提出了啟發(fā)式搜索的概念,推動(dòng)了人工智能的發(fā)展。通用問(wèn)題求解程序GPS031958年,麥卡錫提出的表處理語(yǔ)言LISP成為人工智能程序設(shè)計(jì)語(yǔ)言的重要里程碑,促進(jìn)了符號(hào)處理技術(shù)的發(fā)展。LISP語(yǔ)言的提出與應(yīng)用041959年,塞繆爾創(chuàng)造了“機(jī)器學(xué)習(xí)”一詞,標(biāo)志著人們開(kāi)始探索讓計(jì)算機(jī)通過(guò)學(xué)習(xí)提升性能。機(jī)器學(xué)習(xí)概念的誕生05在20世紀(jì)60年代初,人工智能領(lǐng)域迎來(lái)了第一次研究高潮,許多學(xué)者對(duì)人工智能的未來(lái)充滿樂(lè)觀。人工智能研究的第一次高潮06人工智能的早期突破與挑戰(zhàn)塞繆爾研制的跳棋程序具有學(xué)習(xí)功能,能夠從棋譜中學(xué)習(xí)并提高棋藝,是人工智能學(xué)習(xí)過(guò)程的一次重大突破。跳棋程序與學(xué)習(xí)功能1969年,人工神經(jīng)網(wǎng)絡(luò)研究受到打擊,人工智能領(lǐng)域陷入第一次低潮,符號(hào)主義學(xué)派開(kāi)始主導(dǎo)該領(lǐng)域。人工智能研究的第一次低潮1961年,第一臺(tái)工業(yè)機(jī)器人Unimate開(kāi)始在生產(chǎn)線上工作,預(yù)示著人工智能技術(shù)在工業(yè)領(lǐng)域的應(yīng)用前景。機(jī)器人技術(shù)的初步應(yīng)用王浩使用“王氏算法”證明了《數(shù)學(xué)原理》中全部定理,展現(xiàn)了人工智能在自動(dòng)定理證明方面的巨大潛力。王浩的自動(dòng)定理證明成就哲學(xué)家德雷福斯在1960年代對(duì)人工智能的批判,削弱了邏輯規(guī)則能賦予機(jī)器“智能”的觀點(diǎn),強(qiáng)調(diào)了人類(lèi)知覺(jué)和決策的復(fù)雜性。德雷福斯對(duì)人工智能的批判人工智能發(fā)展期的關(guān)鍵技術(shù)羅森布拉特提出的感知機(jī)引發(fā)了聯(lián)結(jié)主義方法的熱潮,為后來(lái)的人工神經(jīng)網(wǎng)絡(luò)研究奠定了基礎(chǔ)。感知機(jī)與聯(lián)結(jié)主義方法1969年第一屆國(guó)際人工智能聯(lián)合會(huì)議的召開(kāi),標(biāo)志著人工智能作為一門(mén)新興學(xué)科得到了國(guó)際社會(huì)的肯定和公認(rèn)。人工智能的國(guó)際認(rèn)可人工神經(jīng)網(wǎng)絡(luò)在60年代末因明斯基等人的分析而受到挫折,相關(guān)研究資金被停止,但其潛在價(jià)值并未被完全否定。人工神經(jīng)網(wǎng)絡(luò)的興起與挫折60年代末的人工智能低潮后,符號(hào)主義學(xué)派確立了其在人工智能領(lǐng)域的主導(dǎo)地位,這一局面持續(xù)到90年代中期。符號(hào)主義學(xué)派的主導(dǎo)地位①人工神經(jīng)網(wǎng)絡(luò)導(dǎo)致第一個(gè)低谷期(1970年至20世紀(jì)70年代末)低潮的起因與影響人工智能面臨的技術(shù)瓶頸1970年《人工智能》雜志創(chuàng)刊BP算法提出明斯基首創(chuàng)框架理論專(zhuān)家系統(tǒng)與知識(shí)工程的興起Ⅰ.當(dāng)時(shí)計(jì)算機(jī)計(jì)算能力不足,無(wú)法將早期程序?qū)嶋H應(yīng)用;Ⅱ.問(wèn)題復(fù)雜性增加時(shí),計(jì)算機(jī)程序和硬件難以應(yīng)對(duì);Ⅲ.數(shù)據(jù)不足限制了人工神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)。1974年提出的反向傳播算法未引起重視,表明當(dāng)時(shí)人工智能界對(duì)人工神經(jīng)網(wǎng)絡(luò)的潛力認(rèn)識(shí)不足。1977年提出“知識(shí)工程”概念,強(qiáng)調(diào)知識(shí)在問(wèn)題求解中的作用,專(zhuān)家系統(tǒng)的成功標(biāo)志著人工智能由理論化走向?qū)嶋H化,成為重要轉(zhuǎn)折點(diǎn)。1975年明斯基提出利用多個(gè)有一定關(guān)聯(lián)的框架組成框架系統(tǒng),以完整表示知識(shí)對(duì)人工智能?chē)?guó)際學(xué)術(shù)活動(dòng)和交流、人工智能的研究和發(fā)展起到了積極作用人工智能低潮起源于70年代,科研人員對(duì)項(xiàng)目難度預(yù)估不足導(dǎo)致合作計(jì)劃失敗,加之社會(huì)輿論壓力,研究經(jīng)費(fèi)被轉(zhuǎn)移,人工智能前景蒙上陰影。(2)發(fā)展期(1970年至20世紀(jì)90年代初)②專(zhuān)家系統(tǒng)產(chǎn)生第二次繁榮時(shí)期(1980–1987)在20世紀(jì)80年代,人工智能經(jīng)歷了第二次春天,專(zhuān)家系統(tǒng)的出現(xiàn)對(duì)符號(hào)主義機(jī)器架構(gòu)進(jìn)行了重大修訂,推動(dòng)了機(jī)器學(xué)習(xí)算法的完善,顯著提升了機(jī)器的計(jì)算、預(yù)測(cè)和識(shí)別能力。人工智能的第二個(gè)春天1980年到1987年間,專(zhuān)家系統(tǒng)技術(shù)革新顯著,如卡內(nèi)基梅隆大學(xué)為數(shù)字設(shè)備公司設(shè)計(jì)的XCON系統(tǒng),它利用完整的專(zhuān)業(yè)知識(shí)和經(jīng)驗(yàn)。專(zhuān)家系統(tǒng)的技術(shù)革新專(zhuān)家系統(tǒng)的商業(yè)應(yīng)用在80年代帶來(lái)了顯著的經(jīng)濟(jì)效益,專(zhuān)家系統(tǒng)產(chǎn)業(yè)的價(jià)值在這一時(shí)期高達(dá)5億美元,XCON系統(tǒng)在1986年之前每年為公司節(jié)省超過(guò)四千萬(wàn)美元。商業(yè)應(yīng)用與經(jīng)濟(jì)效益專(zhuān)家系統(tǒng)在深入處理不確定性問(wèn)題時(shí),經(jīng)典數(shù)理邏輯的局限性暴露無(wú)遺。大部分實(shí)際問(wèn)題難以確切定義,導(dǎo)致專(zhuān)家系統(tǒng)在處理復(fù)雜問(wèn)題時(shí)遇到瓶頸。技術(shù)瓶頸與局限性盡管專(zhuān)家系統(tǒng)在商業(yè)上取得成功,但知識(shí)獲取的挑戰(zhàn)依然存在。由于缺乏互聯(lián)網(wǎng)和云計(jì)算等現(xiàn)代技術(shù),構(gòu)建專(zhuān)家知識(shí)庫(kù)常常面臨完備性和可靠性的問(wèn)題,依賴(lài)于經(jīng)驗(yàn)性的非精確推理模型。知識(shí)獲取的挑戰(zhàn)直到2000年后,機(jī)器學(xué)習(xí)和深度學(xué)習(xí)的出現(xiàn),科學(xué)家們才找到了解決專(zhuān)家系統(tǒng)局限性的正確方向,為人工智能的發(fā)展開(kāi)辟了新的道路。后續(xù)技術(shù)的發(fā)展方向在20世紀(jì)80年代和90年代,聯(lián)結(jié)主義經(jīng)歷了從衰落到復(fù)興的過(guò)程。盡管符號(hào)主義人工智能在90年代初開(kāi)始衰落,但人工智能研究者們重新審視了人工神經(jīng)網(wǎng)絡(luò),并取得了顯著的技術(shù)進(jìn)步。聯(lián)結(jié)主義衰落與復(fù)興BP算法被杰弗里·辛頓和樂(lè)昆等人用于訓(xùn)練具有深度結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò),進(jìn)一步推動(dòng)了深度學(xué)習(xí)的發(fā)展。BP算法與深度學(xué)習(xí)的進(jìn)展1979年6月,辛頓和安德森在加州組織了一個(gè)跨學(xué)科會(huì)議,匯集了生物學(xué)家、物理學(xué)家和計(jì)算機(jī)科學(xué)家,為人工神經(jīng)網(wǎng)絡(luò)的研究帶來(lái)了新的思路。1979年跨學(xué)科會(huì)議與新思路1980年,辛頓基于傳統(tǒng)的感知器結(jié)構(gòu),提出了多層感知器模型,這是最早的深度學(xué)習(xí)人工神經(jīng)網(wǎng)絡(luò)模型,標(biāo)志著人工神經(jīng)網(wǎng)絡(luò)理論的重大進(jìn)步。多層感知器模型的提出③第二代人工神經(jīng)網(wǎng)絡(luò)發(fā)展期關(guān)鍵人物與技術(shù)的貢獻(xiàn)辛頓不僅提出了多層感知器模型,還在1980年代初推動(dòng)了深度結(jié)構(gòu)神經(jīng)網(wǎng)絡(luò)的發(fā)展,為深度學(xué)習(xí)奠定了基礎(chǔ)。辛頓與深度結(jié)構(gòu)神經(jīng)網(wǎng)絡(luò)1985年,辛頓和謝澤諾斯基發(fā)明了玻爾茲曼機(jī),一種基于能量函數(shù)的隨機(jī)遞歸神經(jīng)網(wǎng)絡(luò)。1986年,羅姆哈特和麥克里蘭提出的并行分布式處理重新引入了反向傳播算法,為深度學(xué)習(xí)的突破性進(jìn)展奠定了基礎(chǔ)。玻爾茲曼機(jī)與并行分布式處理1982年,霍普菲爾德提出了霍普菲爾德神經(jīng)網(wǎng)格模型,引入了物理學(xué)的動(dòng)力學(xué)思想,為模擬人類(lèi)記憶提供了新的模型,并在多個(gè)領(lǐng)域得到廣泛應(yīng)用?;羝辗茽柕屡c神經(jīng)網(wǎng)格模型格勞斯伯格的自適應(yīng)共振理論為新的神經(jīng)網(wǎng)絡(luò)奠定了基礎(chǔ),而1987年懷貝爾等提出的用于語(yǔ)音識(shí)別的時(shí)間延遲網(wǎng)絡(luò)則展示了卷積神經(jīng)網(wǎng)絡(luò)在特定領(lǐng)域的應(yīng)用潛力。自適應(yīng)共振理論與時(shí)間延遲網(wǎng)絡(luò)在第二次人工智能低谷期間,專(zhuān)家系統(tǒng)的高昂維護(hù)成本和復(fù)雜性導(dǎo)致了其性能有限,未能實(shí)現(xiàn)預(yù)期目標(biāo),從而引發(fā)了市場(chǎng)和投資的大幅下降。專(zhuān)家系統(tǒng)的局限性由于專(zhuān)家系統(tǒng)未能兌現(xiàn)承諾,加上日本“第五代工程”未達(dá)預(yù)期,導(dǎo)致人工智能投資銳減,市場(chǎng)信心受挫,引發(fā)了1987至1993年的第二次人工智能低潮。人工智能投資的下降盡管處于低潮期,人工神經(jīng)網(wǎng)絡(luò)和機(jī)器學(xué)習(xí)方法仍在持續(xù)進(jìn)步,如LeNet在郵政編碼識(shí)別中的應(yīng)用,以及支持向量機(jī)等淺層學(xué)習(xí)模型的出現(xiàn)。人工神經(jīng)網(wǎng)絡(luò)的發(fā)展盡管卷積神經(jīng)網(wǎng)絡(luò)(CNN)在當(dāng)時(shí)并未廣泛流行,但其作為深度學(xué)習(xí)方法的基礎(chǔ),為后來(lái)的
溫馨提示
- 1. 本站所有資源如無(wú)特殊說(shuō)明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁(yè)內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒(méi)有圖紙預(yù)覽就沒(méi)有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 人人文庫(kù)網(wǎng)僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
- 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。
最新文檔
- 天津2025年天津市中心婦產(chǎn)科醫(yī)院招聘77人筆試歷年參考題庫(kù)附帶答案詳解
- 大連2025年遼寧大連市甘井子區(qū)面向應(yīng)屆生招聘社區(qū)工作者50人筆試歷年參考題庫(kù)附帶答案詳解
- 四川2025下半年四川省農(nóng)業(yè)科學(xué)院下屬事業(yè)單位招聘19人筆試歷年參考題庫(kù)附帶答案詳解
- 臺(tái)州2025年浙江臺(tái)州臨海市機(jī)關(guān)事務(wù)中心招聘編外聘用人員筆試歷年參考題庫(kù)附帶答案詳解
- 南通2025年江蘇南通如東縣部分醫(yī)療衛(wèi)生單位招聘高層次人才54人筆試歷年參考題庫(kù)附帶答案詳解
- 南充2025下半年四川南充閬中市招聘事業(yè)單位工作人員69人筆試歷年參考題庫(kù)附帶答案詳解
- 涼山2025下半年四川涼山金陽(yáng)縣招聘事業(yè)單位工作人員12人筆試歷年參考題庫(kù)附帶答案詳解
- 化妝師中級(jí)模擬試卷1(題后含答案及解析)
- 2026年農(nóng)業(yè)科技中級(jí)考試農(nóng)業(yè)信息數(shù)據(jù)輸血技術(shù)要點(diǎn)
- 2025年電子商務(wù)實(shí)操考試試題及答案解析
- T∕CAMH 00002-2025 心理咨詢(xún)師職業(yè)能力水平評(píng)價(jià)標(biāo)準(zhǔn)
- DB4114∕T 250-2024 農(nóng)民田間學(xué)校建設(shè)管理規(guī)范
- 急診科胸部創(chuàng)傷救治指南
- 二手手機(jī)計(jì)劃書(shū)項(xiàng)目方案
- 十年(2016-2025年)高考數(shù)學(xué)真題分類(lèi)匯編:專(zhuān)題10 數(shù)列解答題綜合一(原卷版)
- 醫(yī)院保潔人員安全管理與保障制度
- 工業(yè)園區(qū)規(guī)劃(環(huán)境影響評(píng)價(jià)、水資源論證、安全風(fēng)險(xiǎn)評(píng)估等)方案咨詢(xún)服務(wù)投標(biāo)文件(技術(shù)標(biāo))
- DB50T 1839-2025 合川米粉生產(chǎn)技術(shù)規(guī)程
- 2025年?duì)I養(yǎng)指導(dǎo)員專(zhuān)業(yè)技能考試試題及答案
- 企業(yè)履約能力說(shuō)明
- 曲阜師范大學(xué)介紹
評(píng)論
0/150
提交評(píng)論