劉志毅劉志毅個(gè)人學(xué)術(shù)專著個(gè)人學(xué)術(shù)專著2022年7月清華大學(xué)出版社正式出2022年7月清華大學(xué)出版社正式出國內(nèi)首部數(shù)字經(jīng)濟(jì)領(lǐng)域的重大學(xué)術(shù)影響專著，版，版，十余位公共管理、法學(xué)、計(jì)算技術(shù)思想專著數(shù)字經(jīng)濟(jì)學(xué)學(xué)科的開拓之作機(jī)、經(jīng)濟(jì)金融的跨領(lǐng)域領(lǐng)軍學(xué)者推薦機(jī)、經(jīng)濟(jì)金融的跨領(lǐng)域領(lǐng)軍學(xué)者推薦2019年12月正式發(fā)布，國內(nèi)首部作為中文版本唯一譯者進(jìn)行了全文翻譯工作，討論討論AI與區(qū)塊鏈產(chǎn)業(yè)融合的教育部于2022年8月中信出版社正式出版第一本全英文數(shù)字經(jīng)濟(jì)學(xué)的高等教育教材高等教育教材NatureNature出版并單獨(dú)成系列2ChatGPT的成功源于NLP領(lǐng)域70年發(fā)展的長期積累NLP領(lǐng)域的發(fā)展為大語言模型（FoundationModels）提供了堅(jiān)實(shí)的基礎(chǔ)。NLPNLP70年發(fā)展CaptioningModelThereTherewerealotofsheep.Therewerelotofsheep.ChatGPT的發(fā)展歷程GPTGPT-3ChatGPT的技術(shù)突破除采用一系列深度學(xué)習(xí)新技術(shù)外，ChatGPT還除采用一系列深度學(xué)習(xí)新技術(shù)外，ChatGPT還無監(jiān)督學(xué)習(xí)有監(jiān)督學(xué)習(xí)類腦……1.找方案微信公眾號（掃第一個(gè)碼）每日分享各個(gè)領(lǐng)域高質(zhì)量專業(yè)的解決方案，內(nèi)容包括智慧城市、鄉(xiāng)村振興、智慧城管、智慧園區(qū)、智慧公安、智慧水務(wù)（水利）、智慧林草、社會綜合治理、智慧旅游、智環(huán)保、智慧安監(jiān)等領(lǐng)域，結(jié)合數(shù)字孿生、人工智能、物聯(lián)網(wǎng)、大數(shù)據(jù)、云計(jì)算等技術(shù)，分享行業(yè)售前方案、設(shè)計(jì)方案、技術(shù)方案和項(xiàng)目信息等。2.找標(biāo)準(zhǔn)微信公眾號（掃第二個(gè)碼）每日分享各個(gè)智慧領(lǐng)域國家和地方標(biāo)準(zhǔn)規(guī)范，國家和地方政策指導(dǎo)文件，讓各個(gè)智慧方案有據(jù)可依，內(nèi)容包括找方案中的各個(gè)行業(yè)的政策和規(guī)范，內(nèi)容在不斷的收集和完善中。3.找方案知識星球（掃第三個(gè)碼）會員可下載所有資料，并每日上新（注：所有資料均通過互聯(lián)網(wǎng)等公開渠道獲取，僅供個(gè)人學(xué)習(xí)使用，請勿用于商業(yè)用途）。4.找標(biāo)準(zhǔn)知識星球（掃第四個(gè)碼）會員可下載所有資料，并每日上新（注：所有資料均通過互聯(lián)網(wǎng)等公開渠道獲取，僅供個(gè)人學(xué)習(xí)使用，請勿用于商業(yè)用途）。5.找方案星球優(yōu)惠券（掃第五個(gè)碼）掃描69元價(jià)格優(yōu)惠加入，1W+方案任意下載，5.找方案星球優(yōu)惠券找方案微信公眾號找方標(biāo)準(zhǔn)信公眾號找方案微信公眾號行業(yè)應(yīng)用原子能力行業(yè)應(yīng)用原子能力微調(diào)應(yīng)用領(lǐng)域無關(guān)的海量數(shù)據(jù)市場對于超大模型的看法大模型的定義大模型的價(jià)值市場上可見的大模型日益豐富OMetaMetaLlaMA字節(jié)跳動(dòng)——Microsoft微軟、微軟亞洲研究院MegatronTuring(&英偉達(dá))、NUWA(&北大)GooglegooglePaLMOpenGVLab基于書生的超高效預(yù)訓(xùn)練模型北京智源人工智能研究院悟道2.0商湯科技清華大學(xué)GLM-1308、CokeBert（&騰訊）京東——北京大學(xué)鵬程·盤古α（&鵬程&華為）ODeepMindDeepMindGopheroppoOPPOOBERTnvDANVIDIA英偉達(dá)NeMoLLM二郎神中國科學(xué)院紫東太初浪潮源1.0智能大模型美團(tuán)——華為云鵬程·盤古α（&鵬程&華為）奇點(diǎn)智源型瀾舟科技孟子Tencet騰訊混元AI大模型追一科技RoFormerV2快手——百度文心一言鵬程實(shí)驗(yàn)室鵬程·盤古α（&北大&華為）OpenAIGPT-4云從科技SemBERT阿里巴巴達(dá)摩院智能計(jì)算實(shí)驗(yàn)室M6、“通義”大模型LINKER聯(lián)匯聯(lián)匯科技OmModel核心技術(shù)層協(xié)同發(fā)展，共同賦能AI大模型生態(tài)基礎(chǔ)層：AI大模型的基礎(chǔ)層涉及硬件基礎(chǔ)設(shè)施和數(shù)據(jù)、算力、算法模型三大核心要素。隨著AI大模型規(guī)模的不斷擴(kuò)大，對計(jì)算資源的需求也在增加。因此，高性能的硬件設(shè)備、海量場景數(shù)據(jù)、強(qiáng)大的算力基礎(chǔ)和升級迭代的算法模型成為了支持AI大模型發(fā)展的關(guān)鍵。深度學(xué)習(xí)模型的不斷升級和迭代，增強(qiáng)了AI算法的學(xué)習(xí)能力；同時(shí)，開源模式將使AI大模型成為海量應(yīng)用、網(wǎng)絡(luò)和服務(wù)的基礎(chǔ)。技術(shù)層：AI大模型的技術(shù)層主要涉及模型構(gòu)建。目前，Transformer架構(gòu)在AI大模型領(lǐng)域占據(jù)主導(dǎo)地位，如BERT、GPT系列等。AI大模型包括NLP大模型、CV大模型、多模態(tài)大模型等。這些模型采用預(yù)訓(xùn)練和微調(diào)的策略，先在大量無標(biāo)注數(shù)據(jù)上學(xué)習(xí)語言或圖像的基本表示，然后針對特定任務(wù)進(jìn)行微調(diào)。能力層、應(yīng)用層及用戶層：在基礎(chǔ)層和技術(shù)層的支持下，AI大模型擁有了文字、音頻、圖像、視頻、代碼、策略、多模態(tài)生成能力等，具體應(yīng)用于金融、電商、傳媒、教育、游戲、醫(yī)療、工業(yè)、政務(wù)等多個(gè)領(lǐng)域，為企業(yè)級用戶、政府機(jī)構(gòu)用戶、大眾消費(fèi)者用戶提供產(chǎn)品和服務(wù)。AI大模型的技術(shù)架構(gòu)用戶層應(yīng)用層能力層能力層技術(shù)層技術(shù)層多模態(tài)大模型人工智能基礎(chǔ)層基礎(chǔ)層數(shù)據(jù)資源硬件設(shè)施AI大模型應(yīng)用場景豐富AI市場高景氣，AI大模型應(yīng)用場景豐富人工智能能夠賦能經(jīng)濟(jì)社會發(fā)展各領(lǐng)域，下游各個(gè)領(lǐng)域的產(chǎn)業(yè)升級對大模型的需求持續(xù)走高。例如，在泛交通領(lǐng)域,人工智能能夠在自動(dòng)駕駛、智能座艙、運(yùn)行管理優(yōu)化等多個(gè)方面為汽車行業(yè)創(chuàng)造價(jià)值；在醫(yī)療方面，人工智能可以提高疾病檢測的效率以及醫(yī)學(xué)影像領(lǐng)域的智能化分析。據(jù)測算，2022年中國人工智能行業(yè)市場規(guī)模為3,716億人民幣，預(yù)計(jì)2027年將達(dá)到15,372億人民幣，有望在下游制造、交通、金融、醫(yī)療等多領(lǐng)域不斷滲透，實(shí)現(xiàn)大規(guī)模落地應(yīng)用。下游行業(yè)對人工智能需求呈現(xiàn)出碎片化、多樣化的特點(diǎn)，從開發(fā)、精調(diào)、優(yōu)化、迭代到應(yīng)用都需要投入巨大的人力和財(cái)力，成本極高。而大模型能夠向外賦能，包括通過開放API的形式，-單位：單位：人民幣億元2011年以前對為訓(xùn)練數(shù)據(jù)實(shí)現(xiàn)文本到圖像跨模態(tài)專家系統(tǒng)自動(dòng)駕駛解答特定領(lǐng)域的問題AI繪畫AI學(xué)科成立機(jī)器語言翻譯理解、語言理解等領(lǐng)域的表現(xiàn)加速超越人類平均2012年至今從決策到生成，AI技術(shù)與應(yīng)用迎來跨越發(fā)展2011年以前對為訓(xùn)練數(shù)據(jù)實(shí)現(xiàn)文本到圖像跨模態(tài)專家系統(tǒng)自動(dòng)駕駛解答特定領(lǐng)域的問題AI繪畫AI學(xué)科成立機(jī)器語言翻譯理解、語言理解等領(lǐng)域的表現(xiàn)加速超越人類平均2012年至今前神經(jīng)網(wǎng)絡(luò)專家系統(tǒng)概率推論神經(jīng)網(wǎng)絡(luò)基礎(chǔ)模型大規(guī)模模型2014GAN生成圖像但分辨率不高2017Transformer2022GAN生成圖像但分辨率不高2017Transformer2022DALL·E22020GPT-31980sProlog&Lisp1980sProlog&Lisp感知器模型2011大數(shù)據(jù)機(jī)器學(xué)習(xí)算法2012機(jī)器學(xué)習(xí)算法DNNs物體識別能夠完成大多數(shù)NLP任務(wù)網(wǎng)絡(luò)結(jié)構(gòu)進(jìn)化DNNs物體識別能夠完成大多數(shù)NLP任務(wù)網(wǎng)絡(luò)結(jié)構(gòu)進(jìn)化為后續(xù)大型模型打下基礎(chǔ)由文本生成的高清具有獨(dú)創(chuàng)性圖像IBMIBM沃森益智問答打敗人類GroupLens首個(gè)自動(dòng)化推薦系統(tǒng)推薦算法推薦算法AIGC當(dāng)前典型應(yīng)用：數(shù)字內(nèi)容生成文生文、文生圖、文生視頻?OpenAI的GPT-3（大型語言模型[LLM]）、DALL-E2（圖像模型以及Whisper?Stability.ai的stableDiffusion（圖像模型）?Midjourney（圖像模型）?谷歌的PaLM和LaMDA（對話應(yīng)用的語言模型大型語言模型）?Meta的NLLB（大型語言模型）、Make-a-video（視頻模型）和data2vec（多模態(tài)）?微軟的DeepNet（大型語言模型）和?數(shù)字人/虛擬助理?游戲互娛?美術(shù)設(shè)計(jì)?產(chǎn)品海報(bào)設(shè)計(jì)代碼生成一種機(jī)器學(xué)習(xí)模型，專門為代碼生成而訓(xùn)練代碼生成一種機(jī)器學(xué)習(xí)模型，專門為代碼生成而訓(xùn)練，可以產(chǎn)生各種不同語言的代碼。Microsoft從注釋和代碼中提取上下文，能力包括：自然語言到代碼。人工智能編程助手，理解用戶的初始提示來自動(dòng)完成軟件代碼。在一家行業(yè)領(lǐng)先的審計(jì)、咨詢、稅務(wù)和顧問服務(wù)機(jī)構(gòu)的六周試點(diǎn)中，有55名開發(fā)人員參加，生成式AI生成的代碼準(zhǔn)確性為65%，代碼開發(fā)速度提高20%。知識管理類應(yīng)用并為客戶輕松創(chuàng)建定制內(nèi)容。對財(cái)富管理內(nèi)容的培訓(xùn)進(jìn)行微調(diào)，以便金融顧問能夠搜索公司中的現(xiàn)有知識，并為客戶輕松創(chuàng)建定制內(nèi)容。直接準(zhǔn)確地回答用戶的問題。采用其生成式AI來閱讀組織中的信息，提供獨(dú)特的兩到三句話摘要回應(yīng)，直接準(zhǔn)確地回答用戶的問題。Gogle谷歌發(fā)布Bard：由對話應(yīng)用語言模型驅(qū)動(dòng)的實(shí)驗(yàn)性服務(wù)。Gogle使用自然語言界面快速定位、檢索和呈現(xiàn)企業(yè)信息系統(tǒng)整個(gè)語料庫中的所有相關(guān)數(shù)據(jù)。Viable聚合來自服務(wù)臺票據(jù)、調(diào)查、CRM和評論的定性數(shù)據(jù)，以幫助團(tuán)隊(duì)了解客戶對其產(chǎn)品的看法和感受客戶反饋的準(zhǔn)確性從66%提高到90%。特定行業(yè)用例特定行業(yè)用例銷售和營銷Microsoft將為各種場景生成建議的電子郵件內(nèi)容，如回復(fù)詢問或創(chuàng)建提案，并附上與收件人具體相關(guān)數(shù)據(jù)，如定價(jià)、促銷和截止日期。通過可定制內(nèi)容的自動(dòng)建議，賣家可以花更少的時(shí)間編寫電子郵件和從同事或數(shù)據(jù)庫中搜索銷售數(shù)據(jù)。Microsoft可以制作博客、社交媒體帖子、網(wǎng)絡(luò)副本、銷售電子郵件、廣告和其他類型的面向客戶的內(nèi)容?？梢灾谱鞑┛?、社交媒體帖子、網(wǎng)絡(luò)副本、銷售電子郵件、廣告和其他類型的面向客戶的內(nèi)容。通過提示生成模板，或根據(jù)描述創(chuàng)建獨(dú)特的文本效果。目前主要集中在圖像方面，未來將包括視頻、3D設(shè)計(jì)、紋理創(chuàng)作、標(biāo)志設(shè)計(jì)等等。在銷售、服務(wù)、營銷、商業(yè)和IT互動(dòng)中，超大規(guī)模提供人工智能創(chuàng)造的內(nèi)容。*slack*slack提供即時(shí)對話摘要、研究工具和寫作協(xié)助。AI大模型技術(shù)創(chuàng)新，助推生成式AI應(yīng)用場景加速落地伴隨AI技術(shù)升級和大模型成熟，AI繪畫與ChatGPT的成功破圈，生成式AI技術(shù)迎來發(fā)展拐點(diǎn)，行業(yè)關(guān)注度大幅提升。生成式AI是指基于大模型、生成對抗網(wǎng)絡(luò)GAN等人工智能技術(shù)，通過已有數(shù)據(jù)尋找規(guī)律，并通過適當(dāng)?shù)姆夯芰ι上嚓P(guān)內(nèi)容的技術(shù)，可生成如圖像、文本、音頻、視頻等原創(chuàng)內(nèi)容變體。例如，以ChatGPT、Midjourney、文心一格、商湯商量、Codex為代表的生成式AI應(yīng)用擁有文本語言理解能力、涌現(xiàn)能力以及思維鏈推理能力，能夠完成文學(xué)創(chuàng)作、新聞寫作、數(shù)理邏輯推算、代碼生成、圖片生成等多項(xiàng)任務(wù)。目前，國內(nèi)電商、游戲、文娛、設(shè)計(jì)等行業(yè)正在積極使用相關(guān)的生成式AI應(yīng)用來提高自身工作效率，尤其以文生圖應(yīng)用為主。生成式AI不僅能夠增強(qiáng)并加速下游多領(lǐng)域的設(shè)計(jì)，而且有潛力“發(fā)明”人類可能錯(cuò)過的新設(shè)計(jì)、新對象。生成式AI有生成大規(guī)模、高質(zhì)量、低成本內(nèi)容優(yōu)勢，在算力和算法支持下生成大量內(nèi)容，生成的內(nèi)容質(zhì)量將持續(xù)超越UGC與PGC。未來有望為各行業(yè)提供內(nèi)容支持并促進(jìn)其內(nèi)容繁榮，最大化釋放內(nèi)容生產(chǎn)力。文字生成屬于發(fā)展成熟、易于跨界轉(zhuǎn)化的賽道，而跨模態(tài)生成賽道的發(fā)展?jié)摿ψ罡?。生成式AI應(yīng)用根據(jù)模態(tài)劃分為文字生成、音頻生成、圖像生成、視頻生成、跨模態(tài)生成。語音合成、文本生成、圖像屬性編輯等技術(shù)應(yīng)用目前較為成熟，跨模態(tài)生成、策略生成是高增長潛力的應(yīng)用場景，在自動(dòng)駕駛、機(jī)器人控制等領(lǐng)域有極高應(yīng)用價(jià)值，隨著未來技術(shù)不斷發(fā)展成熟，預(yù)計(jì)3-5年可實(shí)現(xiàn)穩(wěn)定落地。20202020年前20202022垃圾郵件識別翻譯基礎(chǔ)問答基礎(chǔ)文案寫作起草初稿更長的文字完成第二稿垂直微調(diào)科學(xué)論文高于人類平均水平的終稿寫作產(chǎn)出比職業(yè)作家寫得更好的終稿單行代碼自動(dòng)完成多行代碼生成更長的代碼更高的準(zhǔn)確率多程序語言更多垂直領(lǐng)域文本到產(chǎn)品產(chǎn)出比全職開發(fā)人員做得更好的文本到產(chǎn)品（終藝術(shù)作品攝影產(chǎn)品設(shè)計(jì)模型建筑概念模型產(chǎn)品設(shè)計(jì)模型建筑模型產(chǎn)出比專業(yè)藝術(shù)家、設(shè)計(jì)師、攝影師做得更好的終稿基礎(chǔ)/初稿視頻及3D文件第二稿想的電子游戲和電影可用的大模型：初步探索基本形成準(zhǔn)備階段任務(wù)反饋數(shù)據(jù)交互基礎(chǔ)設(shè)施支撐下游需求旺盛智慧交通智慧零售智能汽車智慧醫(yī)療娛樂互聯(lián)網(wǎng)智慧金融大模型迎來發(fā)展新機(jī)遇，未來前景可期任務(wù)反饋數(shù)據(jù)交互基礎(chǔ)設(shè)施支撐下游需求旺盛智慧交通智慧零售智能汽車智慧醫(yī)療娛樂互聯(lián)網(wǎng)智慧金融關(guān)鍵發(fā)現(xiàn)?人工智能的政策引導(dǎo)逐漸覆蓋到大模型生態(tài)，并開始出臺相應(yīng)的生成式AI監(jiān)管建議，進(jìn)一步支撐大模型生態(tài)的有序發(fā)展；?大模型的神經(jīng)網(wǎng)絡(luò)架構(gòu)和訓(xùn)練大模型的AI基礎(chǔ)設(shè)施，均逐漸發(fā)展成熟，推動(dòng)大模型的生產(chǎn)更加系統(tǒng)化和工程化；?下游企業(yè)用戶的AI部署需求進(jìn)一步規(guī)模化發(fā)展，急需在上游大模型支撐下，獲得AI應(yīng)用開發(fā)門檻降低，部署精度提高等基礎(chǔ)價(jià)值，進(jìn)而降低AI規(guī)模化部署的成本；?大模型的發(fā)展趨于通用化與專用化并進(jìn)，平臺化與簡易化并進(jìn)；?依托ModelasaService，大模型建立起面向政企、消費(fèi)者群體等差異化的商業(yè)模式，并逐漸形成基模型、領(lǐng)域、行業(yè)大模型一體的商業(yè)化架構(gòu)。來，大模型“訓(xùn)練基礎(chǔ)設(shè)施-底層技術(shù)-基礎(chǔ)應(yīng)用-頂層設(shè)計(jì)優(yōu)化AI教育智慧文旅AI教育智慧文旅智慧樓宇智慧樓宇大模型的五大基本價(jià)值大模型通過學(xué)習(xí)大量大模型的五大基本價(jià)值大模型通過學(xué)習(xí)大量數(shù)據(jù)和任務(wù)獲得廣泛知識，捕捉更多細(xì)節(jié)，更好地泛化到新的數(shù)據(jù)集和任務(wù)中。大模型通過自動(dòng)學(xué)習(xí)更多的特征和規(guī)律，減少手動(dòng)特征工程的需求，使開發(fā)者能更輕松地構(gòu)建高質(zhì)量的模型。大模型可以更好地捕捉和分析信息，用于生成高質(zhì)量的內(nèi)容，摘要、翻譯等。大模型擁有更多的參數(shù)和更深的層次結(jié)構(gòu)，能對復(fù)雜的模式和規(guī)律進(jìn)行準(zhǔn)確建模，并通過不斷學(xué)習(xí)和更新自己的參數(shù)提大模型的開源性和可復(fù)制性能夠聚合開發(fā)者、高校、實(shí)驗(yàn)室等多方資源，在促進(jìn)學(xué)術(shù)研究的發(fā)展和技術(shù)普及的同時(shí)，加速人工智能技術(shù)的進(jìn)步和應(yīng)用。AI大模型具有降低開發(fā)門檻、生產(chǎn)預(yù)訓(xùn)練生產(chǎn)預(yù)訓(xùn)練微調(diào)基礎(chǔ)模型（FoundationModel）是區(qū)別生成式人工智能技術(shù)棧和之前 基礎(chǔ)模型的開發(fā)架構(gòu)架構(gòu) v的確，生成式人工智能可以徹底改變企業(yè)與客戶之間的運(yùn)作和互動(dòng)方式，甚至可能重新定義我們對“員工”的認(rèn)知。在某些消費(fèi)者和企業(yè)領(lǐng)域，這種轉(zhuǎn)型已經(jīng)在進(jìn)行中。低復(fù)雜度高復(fù)雜度生成式人工智能的核心商業(yè)邏輯：效率，指導(dǎo)，創(chuàng)作，低復(fù)雜度高復(fù)雜度vv在2022年，OpenAI的DALL·E2因其文本生成圖像的能力而引起了全世界的關(guān)注。這個(gè)模型可以根據(jù)簡單的文字提示創(chuàng)建圖像，有直接的提示，比如“叢林中的一只獅子”，還有更加滑稽有趣的提示，比如“以畢加索風(fēng)格描繪兩只獅子打籃球?！眱?yōu)化計(jì)劃、研究和產(chǎn)品開發(fā)等任務(wù)提供個(gè)性化指導(dǎo)或?qū)W習(xí)內(nèi)容生成或增強(qiáng)內(nèi)容，復(fù)制創(chuàng)意過程建造游戲、虛擬人物和其他娛樂項(xiàng)目成熟的新興的消費(fèi)與零售生命科學(xué)與醫(yī)療銀行與金融服務(wù)科技傳媒與電信工業(yè)制造政府與生成式人工智能在消費(fèi)者和企業(yè)領(lǐng)域的應(yīng)用案例成熟的新興的消費(fèi)與零售生命科學(xué)與醫(yī)療銀行與金融服務(wù)科技傳媒與電信工業(yè)制造政府與垂直與橫向的企業(yè)用例示例●文字●語音視頻三維模型●代碼●其他理試告.發(fā)力....決..國外玩家本土玩家中國國外玩家本土玩家kakaoKoGPTA商湯：日日新SenseNova大模型體系昆侖萬維：昆侖天工大模型科大訊飛：1+N認(rèn)知智能大模型浪潮信息：源1浪潮信息：源1.0大模型阿里巴巴：通義大模型華為：盤古大模型騰訊：混元大模型百度：文心大模型呂快手快手：K7大模型生成式人工智能發(fā)展帶來的風(fēng)險(xiǎn)v生成式人工智能確實(shí)存在