智能算力中國(guó)智能算力產(chǎn)業(yè)聯(lián)盟商湯I(xiàn)CPA智能算力中國(guó)智能算力產(chǎn)業(yè)聯(lián)盟商湯新一代人工智能基礎(chǔ)設(shè)施白皮書中國(guó)智能算力產(chǎn)業(yè)聯(lián)盟人工智能算力產(chǎn)業(yè)生態(tài)聯(lián)盟商湯科技智能產(chǎn)業(yè)研究院2鳴謝編寫組4目錄關(guān)鍵發(fā)現(xiàn) 6 8 1.生成式Al推進(jìn)產(chǎn)業(yè)規(guī)模化，Al無處不在愿景加速實(shí)現(xiàn) 251.新一代Al基礎(chǔ)設(shè)施的主要特點(diǎn) 41 1.大模型訓(xùn)練 5 3.Al專家服務(wù) 61.2023年是人工智能產(chǎn)業(yè)發(fā)展的分水嶺，以大模型、生成式Al為發(fā)展里程碑4.新一代Al基礎(chǔ)設(shè)施不是傳統(tǒng)云的Al化，兩者具有明顯定位和發(fā)展路徑的差別。新一代Al基礎(chǔ)設(shè)施主要面向產(chǎn)業(yè)用戶，為大模型訓(xùn)練、區(qū)域行業(yè)及應(yīng)+節(jié)點(diǎn)”模式，構(gòu)建起覆蓋整個(gè)區(qū)域的算力網(wǎng)絡(luò)，并通過建(設(shè))運(yùn)(營(yíng))75.新一代Al基礎(chǔ)設(shè)施為政務(wù)服務(wù)、產(chǎn)業(yè)升級(jí)和科研創(chuàng)新等領(lǐng)域帶來了前所未6.本白皮書提出業(yè)界首個(gè)“新一代人工智能基礎(chǔ)設(shè)施評(píng)估體系術(shù)、戰(zhàn)略愿景、市場(chǎng)生態(tài)三大維度、十二個(gè)評(píng)估指標(biāo)，對(duì)Al基礎(chǔ)設(shè)施廠商815世紀(jì)的古登堡發(fā)明的鉛活字印刷術(shù)，讓人類干年歷史中積累的龐大知識(shí)工程通過印刷書籍形式推廣傳承，知識(shí)從手工抄寫到活字印刷速度提升了118倍，1500年，各類題材的圖書猛增到900多萬冊(cè)。各種傳單和其他印刷物影響了政在人機(jī)協(xié)同模式下，大型語言模型將人類科學(xué)論文的閱讀時(shí)間縮短40%,知識(shí)搜索時(shí)間縮短20%,而這僅僅是ChatGPT出現(xiàn)一周年的“起點(diǎn)”,鑒于大型語言模型遠(yuǎn)超人類的超高速學(xué)習(xí)能力，預(yù)計(jì)將在2026年學(xué)習(xí)完所有人類歷史上的9得數(shù)字化，即被編輯為0和1表示的計(jì)算機(jī)代碼，它就能夠脫離摩爾定律的舒超過50%,并在以71%的一次通過率刷新HumanEval測(cè)試集成績(jī)(GPT-4—次通過率67%)。從此人類程序員將80%的代碼量交由語言大模型編寫，人類件2.0時(shí)代的“新二八定律”(見圖1)。 部罷上線部罷上線代碼編寫需求分析軟件測(cè)試軟件開發(fā)全生命周期子流程模型能力架構(gòu)設(shè)計(jì)系統(tǒng)維護(hù)第三浪是“Al計(jì)算變革”,在大型語言模型的ScalingLaw(能力和人工智能》報(bào)告指出，早期Al模型算力需求是每21.3個(gè)月翻一番，而2010年深度學(xué)習(xí)后(小模型時(shí)代),模型對(duì)Al算力需求縮短至5.7個(gè)月翻一番，而2023年，大模型需要的Al算力需求每1-2個(gè)月就翻一番，摩爾定律的增速年6-11月超過美國(guó)GDP(見圖2)?！蔽磥韺W(xué)家雷·庫(kù)茲韋爾認(rèn)為，從1890年到現(xiàn)在，人類計(jì)算設(shè)備的(單位時(shí)間)的運(yùn)算能力一直在成倍增強(qiáng)，每當(dāng)一項(xiàng)指數(shù)型技術(shù)(例如符合摩爾定律的芯片技術(shù))的實(shí)用性達(dá)到極限時(shí)，就會(huì)有另一項(xiàng)3年通過一系列基礎(chǔ)設(shè)施的技術(shù)革新，持續(xù)降低Al計(jì)算整體成本(采購(gòu)、建設(shè)與運(yùn)營(yíng)),釋放出各行各業(yè)的生成智能全民應(yīng)用創(chuàng)新能力，尤其是推理算力成本Year遵循規(guī)則來幫助分析數(shù)據(jù)和做出預(yù)測(cè)，更像是一種“分類器”,而Al2.0時(shí)代質(zhì)上的變化，讓Al發(fā)展到了一個(gè)全新的時(shí)代(見圖3)。Gartner預(yù)測(cè)，到2027年，高速增長(zhǎng)的生成式Al將會(huì)貢獻(xiàn)全球人工智能支出的42%,規(guī)模將超過1800億美元，2023年到2027年的復(fù)合增長(zhǎng)率高達(dá)169.7%2。截止2023年11月底，中國(guó)市場(chǎng)發(fā)布的大模型已經(jīng)超過300個(gè)。生成式Al的顛覆性潛能得到越來越多的企業(yè)認(rèn)可，企業(yè)不再追問何為生成式Al,而是希望了解生成式Al的投入能帶來哪些具體業(yè)務(wù)價(jià)值。Gartner預(yù)測(cè)，到2026年，超過80%的企業(yè)將使用生成式Al的API或模型，或在生產(chǎn)環(huán)境中部署支持生成式Al的應(yīng)用，而在2023年初這一比例不到5%3。創(chuàng)造潛力極為驚人，麥肯錫預(yù)測(cè)，生成式Al有望為全球經(jīng)濟(jì)貢獻(xiàn)約7萬億美元的價(jià)值，并將Al的總體經(jīng)濟(jì)效益提高50%左右；中國(guó)則有望貢獻(xiàn)其中約2萬億4生成式Al在中國(guó)：2萬億美元的經(jīng)濟(jì)價(jià)值，麥肯錫，2023年9月圖3:生成式Al驅(qū)動(dòng)Al會(huì)從中獲得客觀的收益。IDC調(diào)研顯示，已有2年，中國(guó)40%的企業(yè)將掌握生成式Al的使用，共同開發(fā)數(shù)字產(chǎn)品和服務(wù)，著Al2.0時(shí)代生成式Al爆發(fā)增長(zhǎng)所帶來的日新月異而發(fā)生徹底改變，短期創(chuàng)造。同時(shí)，由于生成式Al將會(huì)成為不可或缺的生產(chǎn)力工具，培訓(xùn)每個(gè)員工如何負(fù)責(zé)任地使用生成式Al工具也成為重點(diǎn)(見圖5)。多價(jià)值的產(chǎn)出。Gartner預(yù)測(cè)，到2026年，將會(huì)有超過1億人將與“機(jī)器人同事(合成虛擬同事)”協(xié)同工作。5“TheFutureofAl:Reshaping在工作中經(jīng)常使用在工作中和工作之外經(jīng)常使用在工作之外經(jīng)常使用至少嘗試過一次沒有接觸過不知道3發(fā)展中市場(chǎng)歐洲大中華區(qū)北美商業(yè)、法律和專業(yè)服務(wù)消費(fèi)品/零售能源和材料金融服務(wù)健康、制藥和醫(yī)療產(chǎn)品5科技、媒體和電信按職位企業(yè)領(lǐng)導(dǎo)高級(jí)管理層0中級(jí)管理層89出生于1965-1980年B出生于1981-1996年3按性別男性女性4生成式Al增強(qiáng)員工能力路線圖3年展望，商業(yè)創(chuàng)新1年展望，關(guān)鍵業(yè)務(wù)應(yīng)用預(yù)測(cè)性分析生成內(nèi)容(文本、音視頻、代碼)作為整體IT治理的組成部分明確商業(yè)責(zé)任，且建立站門的Al治理團(tuán)隊(duì)教育所有員工負(fù)責(zé)任的使用生成式AlIDC預(yù)測(cè)，2022年中國(guó)智能算力規(guī)模達(dá)259.9EFLOPS,2023年將達(dá)到414.1EFLOPS,預(yù)計(jì)到2027年將達(dá)到1117.4EFLOPS(見圖6)。2022-2027年期間，中國(guó)智能算力規(guī)模年復(fù)合增長(zhǎng)率達(dá)33.9%,同期通用算力規(guī)模年復(fù)合增長(zhǎng)率為16.6%?。精確度不佳等一系列挑戰(zhàn)，在某種程度上，反而限制了Al產(chǎn)業(yè)的進(jìn)一步發(fā)向業(yè)務(wù)邏輯對(duì)基模型進(jìn)行微調(diào)，輔助提示詞工程來開發(fā)相應(yīng)的生成式Al應(yīng)用，進(jìn)而更快速、低成本、高精度的覆蓋更多業(yè)務(wù)場(chǎng)景，這使得Al產(chǎn)業(yè)進(jìn)入了一個(gè)高速發(fā)展且無處不在的全新時(shí)代(見圖7)。高速成熟化發(fā)展，生成式Al應(yīng)用也迎來爆發(fā)式增長(zhǎng)(見圖8)。最早，以人、營(yíng)銷工具、聊天助手等，不斷推向市場(chǎng)。2023年11月，OpenAl推出GPTs并計(jì)劃打造GPTStore,讓用戶無需代碼，結(jié)合自己的指令、外部知圖6:中國(guó)智能算力規(guī)模及預(yù)測(cè)，2020-2027,基于FP16計(jì)算，EFLOPS?“IntroducingGPTs”,OpenAl,November2023圖7:AlAI模型微調(diào)應(yīng)用場(chǎng)景案例應(yīng)用場(chǎng)景案例核心技術(shù)關(guān)鍵活動(dòng)基礎(chǔ)設(shè)施與平臺(tái)信任與監(jiān)督業(yè)務(wù)影響數(shù)據(jù)視頻圖片7億參數(shù)的GPT-3模型大概需要的算力約為3640PFlops-day,共使用了1024塊A100(GPU)訓(xùn)練34天。隨著模型參數(shù)量不斷升級(jí)，Al算力需求也增長(zhǎng)也超過15萬倍，遠(yuǎn)超摩爾定律?。例如，GPT-4參數(shù)量大約是GPT-3的500倍，用了約2萬-3萬張A100,訓(xùn)練1個(gè)月左右的時(shí)間。除大模型訓(xùn)來或?qū)⑦h(yuǎn)遠(yuǎn)超過訓(xùn)練階段的算力當(dāng)量(見圖9)。8《WOT全球技術(shù)創(chuàng)新大會(huì)：創(chuàng)新不止，實(shí)戰(zhàn)為王》,東方財(cái)富網(wǎng)，2023年6月短板，影響到數(shù)十個(gè)甚至全部GPU節(jié)點(diǎn)信息同步(見圖10)。此外，大模型訓(xùn)練過程中會(huì)通過Checkpoint來保存模型參數(shù)(權(quán)重),進(jìn)而實(shí)現(xiàn)大模寫入時(shí)間會(huì)變久，導(dǎo)致導(dǎo)致GPU利用率降低。例如，1750億參數(shù)的G模型，假設(shè)文件系統(tǒng)寫入速度為15GB/s,完成一次Checkpoint需要2.5練為例，理論上在1,000個(gè)80GA100上訓(xùn)練3,000億個(gè)單詞，需要33天，而實(shí)際訓(xùn)練卻用了90天，期間出現(xiàn)了112次故障，其中主要是硬件故障，導(dǎo)致手動(dòng)重啟35次，自動(dòng)重啟約70次10。節(jié)點(diǎn)故障不僅造成訓(xùn)練時(shí)間被拉9《大模型需要大算力，但光靠GPU也不行》,21世紀(jì)經(jīng)濟(jì)報(bào)道，2023年6月10《如果沒有Al算力，大模型這場(chǎng)戰(zhàn)役我們可能勝不了》,量子位，2023年12月來了更大挑戰(zhàn)，需要更高效的Al數(shù)據(jù)管理流程來匹配大模型時(shí)代的新需求。而理“作坊式”的工作模式，已無法滿足大模不當(dāng)或會(huì)造成嚴(yán)重的數(shù)據(jù)泄露，對(duì)用戶造成不可逆損害。IDC全球2023年求較高。MaaS(ModelasaService,大模型即服務(wù))代表著一種全新的Al發(fā)人員和企業(yè)進(jìn)行更高效的工業(yè)化開發(fā)(見圖11)。目前，包括微軟、華為、場(chǎng)景中，縮短了Al新產(chǎn)品、新服務(wù)、新模式的上線時(shí)間，也加快了創(chuàng)新迭滲透率只有4%。大模型時(shí)代，基于“基礎(chǔ)大模型+微調(diào)”,不僅大大提升具和服務(wù)效率上的持續(xù)提升，并通過平臺(tái)開放、開源社區(qū)等方式吸引更多的應(yīng)用場(chǎng)景應(yīng)用場(chǎng)景文旅行業(yè)數(shù)據(jù)微調(diào)(開發(fā)、數(shù)據(jù)管理等)微調(diào)(見圖12)。圖12:新一代Al生成式生成式Al應(yīng)用生態(tài)Al應(yīng)用開發(fā)和部署工具數(shù)據(jù)管理服務(wù)大模型生產(chǎn)與應(yīng)用平臺(tái)可調(diào)用基礎(chǔ)大模型庫(kù)算力基礎(chǔ)設(shè)施咨詢服務(wù)(大模并發(fā)與錄踐)企業(yè)業(yè)務(wù)應(yīng)用場(chǎng)景施新代一絡(luò)、高性能的文件存儲(chǔ)和大規(guī)模的Al算力資源。使算力的管理能力拓展到整個(gè)智算中心，實(shí)現(xiàn)對(duì)Al計(jì)算資源的靈活調(diào)度、國(guó)家信息中心《智能計(jì)算中心創(chuàng)新發(fā)展指南》測(cè)算，在智算中心實(shí)現(xiàn)80%應(yīng)用水平下，區(qū)域?qū)χ撬阒行牡耐顿Y可帶動(dòng)Al核心產(chǎn)業(yè)增長(zhǎng)2.9~3.4倍、側(cè)重國(guó)產(chǎn)化生態(tài)建設(shè)，增強(qiáng)基礎(chǔ)設(shè)施的自主可控。搭建基于國(guó)產(chǎn)軟硬件的生態(tài)關(guān)乎國(guó)家安全和戰(zhàn)略發(fā)展。以芯片國(guó)產(chǎn)化適配昇騰原生研發(fā)、適配的大模型已經(jīng)超過30個(gè)，占據(jù)中國(guó)大模型的數(shù)量接近圖13:新一代Al傳統(tǒng)云計(jì)算基礎(chǔ)設(shè)施傳統(tǒng)云計(jì)算基礎(chǔ)設(shè)施新一代人工智能基礎(chǔ)設(shè)施11《華為宣布異騰Al集群全面升級(jí)推出首個(gè)萬卡Al集群》,中國(guó)新聞網(wǎng)，2023年7月科研創(chuàng)新等方面創(chuàng)造更大的社會(huì)價(jià)值(見圖14)。具體來看包括三方面：感數(shù)據(jù)開發(fā)出專屬的遙感農(nóng)業(yè)大模型，將Al技術(shù)下沉到水田農(nóng)地，在種植域，Deep-Mind推出的AlphaFold2能夠覆蓋98.5%的人類蛋白質(zhì)組，并對(duì)20種其他生物蛋白質(zhì)的結(jié)構(gòu)進(jìn)行預(yù)測(cè)1?。在氣象領(lǐng)域，上海人工智能實(shí)驗(yàn)室研發(fā)的全球中期天氣預(yù)報(bào)大模型“風(fēng)烏”,首圖14:新一代Al基礎(chǔ)設(shè)施賦能政務(wù)、產(chǎn)業(yè)和科研創(chuàng)新價(jià)值政務(wù)服務(wù)科研創(chuàng)新科研創(chuàng)新13《上海Al實(shí)驗(yàn)室發(fā)布“風(fēng)烏”大模型，全球氣象有效預(yù)報(bào)時(shí)間首破10天》,上海人工智能實(shí)驗(yàn)室，2023年4月式Al推動(dòng)各項(xiàng)創(chuàng)新優(yōu)化(見圖15)。具體來看：戶意圖理解準(zhǔn)確率達(dá)到91%,相較于傳統(tǒng)人工智能有68%的明顯提升。圖15:生成式Al為企業(yè)帶來四方面業(yè)務(wù)紅利變革辦公模式變革辦公模式提升客戶價(jià)值推動(dòng)企業(yè)創(chuàng)新優(yōu)化業(yè)務(wù)洞察速發(fā)展?！耙敫?，先修路”,新一代Al基礎(chǔ)設(shè)施就是Al2.0時(shí)代的“路”,與此同時(shí)，為了更快的享受到Al2.0時(shí)代的紅利或是更快的開展自身技術(shù)示，超過54%的被訪者計(jì)劃將生成式Al相關(guān)的投資預(yù)算用于外部供應(yīng)商提供的Al基礎(chǔ)設(shè)施市場(chǎng)依然處于高速競(jìng)爭(zhēng)的初級(jí)階段，從進(jìn)入該市場(chǎng)不同廠商的商構(gòu)成(見圖16)。三類廠商的業(yè)務(wù)出發(fā)點(diǎn)和產(chǎn)品規(guī)劃方向分別具有以下特點(diǎn)：身對(duì)Al技術(shù)發(fā)展的理解等。2023年11月，阿里云在云棲大會(huì)上宣布，面向智能時(shí)代，阿里云將通過從底層算力到Al平臺(tái)再到模型服務(wù)的全棧技術(shù)創(chuàng)新，升級(jí)云計(jì)算體系14。2023年12月，百度表示，為滿足大模型落地江水暖鴨先知”,作為長(zhǎng)期浸淫Al產(chǎn)業(yè)的Al原生廠商，以商湯科技、科大廠商，分別從自身原有的服務(wù)器或芯片開始加強(qiáng)布局Al基礎(chǔ)設(shè)施，滿足用Al服務(wù)器市場(chǎng)增速最高，2023年中國(guó)市場(chǎng)規(guī)模將達(dá)91億美元，同比增長(zhǎng)82.5%,2027年將達(dá)到134美元，五年年復(fù)合增長(zhǎng)率為21.8%,此領(lǐng)域的代表廠商有浪潮、新華三等。浪潮作為Al服務(wù)器出貨量領(lǐng)先的廠商之一，還在不斷加強(qiáng)對(duì)Al平臺(tái)能力的補(bǔ)齊，同時(shí)在近期推出了“源2.0”基礎(chǔ)大14《大模型時(shí)代的阿里云，將云計(jì)算進(jìn)行到底》,36氮，2023年11月15《Al原生與大模型將從三個(gè)層面重構(gòu)云計(jì)算》,騰訊網(wǎng)，2023年12月從云計(jì)算進(jìn)入Al基礎(chǔ)設(shè)施市場(chǎng)，重點(diǎn)提升算力層面的智能化、加強(qiáng)MaaS服務(wù)能力從Al原生進(jìn)入Al基礎(chǔ)設(shè)施市場(chǎng)，重點(diǎn)加強(qiáng)算力層面的建設(shè)和云交付能力的構(gòu)建從傳統(tǒng)算力設(shè)備進(jìn)入點(diǎn)布局Al相關(guān)的產(chǎn)品技術(shù)與應(yīng)用服務(wù)優(yōu)勢(shì)具有豐富節(jié)點(diǎn)布局的云數(shù)據(jù)中心，以及經(jīng)受過業(yè)務(wù)發(fā)展錘煉的云計(jì)算平臺(tái)及相關(guān)產(chǎn)品領(lǐng)先的技術(shù)積累使其能夠快速進(jìn)入并領(lǐng)先于生成式Al發(fā)展趨勢(shì)，同時(shí)擁有深厚的基礎(chǔ)設(shè)施從一開始就是面向Al原生體系深度研發(fā)算力硬件設(shè)施，如Al服務(wù)器、在算力層擁有領(lǐng)先的技術(shù)儲(chǔ)備挑戰(zhàn)需要加強(qiáng)生成式Al技術(shù)的研發(fā)能力和儲(chǔ)備，對(duì)現(xiàn)有的云計(jì)算基礎(chǔ)設(shè)施進(jìn)行全面升級(jí)和重構(gòu)加強(qiáng)算力資源的投資與建設(shè)，尤其要開始布局智算中心網(wǎng)絡(luò)并提升商業(yè)化運(yùn)營(yíng)能力需補(bǔ)齊Al相關(guān)的技還要思考如何從硬件供應(yīng)商向技術(shù)服務(wù)提供商的身份轉(zhuǎn)變?cè)?、火山引擎、騰訊云等產(chǎn)品服務(wù)的廠商暫不納入此次研究范疇。新一代Al基礎(chǔ)設(shè)施的市場(chǎng)格局處于高速發(fā)展中，越來越多不同出身的技術(shù)體系，包括三個(gè)評(píng)估維度、十二個(gè)指標(biāo)(見圖17)。度，以及支撐大模型訓(xùn)練和生成式Al應(yīng)用落地的工程化能力，具體包括四戰(zhàn)略規(guī)劃愿景。主要評(píng)估的是廠商對(duì)Al基礎(chǔ)設(shè)施市場(chǎng)發(fā)展的理解，以及是產(chǎn)品技術(shù)衡量廠商在Al基礎(chǔ)設(shè)施產(chǎn)品服務(wù)在關(guān)鍵領(lǐng)域的競(jìng)爭(zhēng)力和成功程度。簡(jiǎn)單來說，圍繞大模型以及交付部署模式，包括不限于數(shù)據(jù)管理能力、高工程化建設(shè)這一指標(biāo)主要衡量廠商在Al基礎(chǔ)設(shè)施的產(chǎn)品服務(wù)矩陣是否針對(duì)大模型訓(xùn)練與推理層面提供優(yōu)化措施，包括不限于訓(xùn)練效率、穩(wěn)定性、可高市場(chǎng)響應(yīng)該指標(biāo)將會(huì)系統(tǒng)的衡量廠商在市場(chǎng)上的發(fā)展勢(shì)頭和成功程度，以及對(duì)市場(chǎng)發(fā)展趨勢(shì)的捕捉和理解能力，還包括營(yíng)銷洞察及產(chǎn)品定位和對(duì)市場(chǎng)動(dòng)態(tài)變化的應(yīng)對(duì)能力。中客戶體驗(yàn)該指標(biāo)關(guān)注客戶在采購(gòu)廠商服務(wù)之后的合作體以及領(lǐng)先于客戶的技術(shù)洞察力。該指標(biāo)還會(huì)衡量現(xiàn)有客戶對(duì)廠商的滿意度情況，以及未來相關(guān)性的看法。鑒于支撐大模型、生成式Al依然是新興的技術(shù)領(lǐng)域，所以為客戶提供專業(yè)的相中戰(zhàn)略規(guī)劃市場(chǎng)認(rèn)知該指標(biāo)，主要衡量的是廠商對(duì)市場(chǎng)買家需求的理解情況，并將其轉(zhuǎn)化為產(chǎn)品和服務(wù)的能力，以及廠商與客戶不斷變化的需求的契合程度，以及其客戶對(duì)廠商所輸出的思想理念和新興技中產(chǎn)品戰(zhàn)略衡量廠商支持未來將創(chuàng)造商業(yè)價(jià)值的關(guān)鍵趨勢(shì)的能力。根據(jù)廠商的產(chǎn)品發(fā)展路線圖，其中有利于創(chuàng)造商業(yè)價(jià)值的產(chǎn)品功能將會(huì)成為衡量重點(diǎn)并得分，并且能夠關(guān)注廠商是否能夠提出有高銷售戰(zhàn)略這一指標(biāo)關(guān)注廠商的銷售策略如何驅(qū)動(dòng)市場(chǎng)上的企業(yè)用戶了解和信任其相關(guān)產(chǎn)品服務(wù)，包括不限于Al基礎(chǔ)設(shè)施的產(chǎn)品化輸出與銷售策略制定，相應(yīng)的銷售組織建設(shè)與資源投入，以及是否有一套清晰的敘事邏輯來傳達(dá)其在市場(chǎng)中的價(jià)值和優(yōu)勢(shì)，還包括在垂直行業(yè)的布局和認(rèn)知程度等。高創(chuàng)新規(guī)劃主要衡量廠商在多大程度上為Al基礎(chǔ)設(shè)施能還包括公司在研發(fā)投入和人才儲(chǔ)備情況，以及人工智能論文、專利數(shù)量的積累和創(chuàng)新等。該高指標(biāo)評(píng)判廠商是否正在樹立可供其他供應(yīng)商效商業(yè)模式重點(diǎn)衡量廠商基于Al基礎(chǔ)設(shè)施構(gòu)建的商業(yè)化模型，以及不同商業(yè)化模式的目標(biāo)客戶群體定中行業(yè)覆蓋聚焦廠商在不同行業(yè)所提供的的解決方案能力，以及覆蓋行業(yè)的廣度和深度。中生態(tài)體系衡量廠商的Al開源策略，底層硬件層面的國(guó)產(chǎn)化適配能力，還包括高校合作創(chuàng)新的布局情況，以及其它合作伙伴和聯(lián)盟等合作形中業(yè)績(jī)規(guī)模廠商在2023年的營(yíng)收數(shù)字和同比增長(zhǎng)幅以及在2023年的付費(fèi)客戶數(shù)量。中分10分)。評(píng)估結(jié)果顯示，商湯科技是Al基礎(chǔ)設(shè)施市場(chǎng)的領(lǐng)導(dǎo)者(見圖18)。早在2021年，商湯就提出“大裝置”的概念，成為中國(guó)首個(gè)提出新一代Al基能計(jì)算中心(AIDC)正式投入運(yùn)營(yíng)。SenseCore商湯大裝置搭建了完善的Al以Al專家服務(wù)和數(shù)據(jù)服務(wù)助力相關(guān)技術(shù)舉措的落地(見圖19)。圖18:新一代Al基礎(chǔ)設(shè)施廠商評(píng)估結(jié)果-商湯科技—廠商平均分—商湯科技圖19:SenseCore商湯大裝置全景圖Al原生基礎(chǔ)設(shè)施一商湯人工智能計(jì)算中心(AIDC)-通過生態(tài)合作開拓中國(guó)Al自主發(fā)展大模型生產(chǎn)平臺(tái)行業(yè)應(yīng)用秒畫學(xué)單自O(shè)A國(guó)范圍的算力中心和節(jié)點(diǎn)，面向大模型、生成式Al場(chǎng)景構(gòu)建產(chǎn)品(見圖20):(見圖21)。打造高穩(wěn)定性的算力池，實(shí)現(xiàn)千卡并行訓(xùn)練線性加速比超過90%,實(shí)現(xiàn)30天長(zhǎng)時(shí)間訓(xùn)練不間斷，實(shí)現(xiàn)分鐘級(jí)的異常檢測(cè)和斷點(diǎn)續(xù)訓(xùn)。優(yōu)化存儲(chǔ)系統(tǒng)，實(shí)現(xiàn)IOPS緩存系統(tǒng)高于500萬，存儲(chǔ)處理達(dá)千億級(jí)別，應(yīng)的帶寬并向3.2T發(fā)展。提供云管理平臺(tái)，實(shí)現(xiàn)公有、專有、私有、混合等會(huì)進(jìn)一步升級(jí)算力基礎(chǔ)設(shè)施，實(shí)現(xiàn)2-3倍性能提升，提升50%性價(jià)比。助力各行業(yè)重構(gòu)企業(yè)應(yīng)用(見圖22)?？蒲袡C(jī)構(gòu)科研機(jī)構(gòu)頭部商業(yè)銀行頭部游戲公司頭部互聯(lián)網(wǎng)公司支持大模型的推理和生成式Al應(yīng)用。在2023年，商湯大提升百倍4000卡-5000億商湯人工智能計(jì)算中心(AIDC)大算力國(guó)產(chǎn)化算力管理平面管理平面軟件定義高性能訓(xùn)練網(wǎng)絡(luò)Fabric(CLOS架構(gòu)，無損無擁塞)高性能存儲(chǔ)Fabric存儲(chǔ)統(tǒng)一Al存儲(chǔ)基礎(chǔ)設(shè)施10%專業(yè)知識(shí)金融大模型通用知識(shí)810%手工調(diào)試領(lǐng)域知識(shí)應(yīng)用集成2023年以來，共有超過1,000個(gè)參數(shù)量數(shù)十億到上千億的大模型在商湯大的人工智能算力中心之一。截止2023年Q4,已經(jīng)上架的GPU數(shù)量30,000支持外部客戶訓(xùn)練大模型和應(yīng)用部署(見圖23)。2023年以來，共有超1,000個(gè)參數(shù)量數(shù)十億至上千億的大模型在大裝置上完成訓(xùn)練，實(shí)現(xiàn)了領(lǐng)跑加強(qiáng)建成后的運(yùn)營(yíng)機(jī)制打造，面向當(dāng)?shù)谹l相關(guān)需求企業(yè)進(jìn)行相關(guān)服務(wù)的運(yùn)閉環(huán)落地(見圖24)。商湯大裝置已經(jīng)在廣州、重慶、深圳和福建成并運(yùn)營(yíng)了當(dāng)?shù)氐闹撬阒行?，還有更多的區(qū)域智算中心在建設(shè)中。提供Al專家服務(wù)，協(xié)助客戶訓(xùn)練大模型、落地生成式Al應(yīng)用。基于經(jīng)驗(yàn)積累，商湯大裝置圍繞大模型的訓(xùn)練對(duì)外提供專家服務(wù)，覆蓋大模型規(guī)劃和大模型訓(xùn)練兩個(gè)階段。在大模型規(guī)劃階段，通過提供大模型開發(fā)咨詢服務(wù)和大模型代訓(xùn)練服務(wù)，能夠讓客戶快速理解大模型開發(fā)訓(xùn)練的關(guān)鍵節(jié)點(diǎn)和潛在痛的大模型全生命周期服務(wù)，保障大模型開發(fā)成果落地。更關(guān)鍵的是，針對(duì)不同行業(yè)的客戶，通過Al專家服務(wù)，為客戶基于大模型端到端設(shè)計(jì)整個(gè)系統(tǒng)，極大降低復(fù)雜度，幫助客戶提升產(chǎn)品在行業(yè)中競(jìng)爭(zhēng)力(見圖25)。圖23:商湯上海臨港AIDC算力規(guī)模領(lǐng)先圖24:商湯大裝置賦能打造區(qū)域Al產(chǎn)業(yè)智能化高地區(qū)域人工智能產(chǎn)業(yè)生態(tài)區(qū)域人工智能產(chǎn)業(yè)生態(tài)力底座與大模型應(yīng)用閉環(huán)歌本地算力/大模型客戶扶持培育大模型場(chǎng)景驅(qū)動(dòng)共理A1生態(tài)全國(guó)算力客戶導(dǎo)入中心圖25:商湯大裝置在大模型訓(xùn)練階段提供全鏈條Al專家服務(wù)推理優(yōu)化服務(wù)推理優(yōu)化服務(wù)垃圾數(shù)據(jù)敏感數(shù)據(jù)數(shù)據(jù)處理服務(wù)LLM訓(xùn)練訓(xùn)練優(yōu)化服務(wù)數(shù)據(jù)集決47為自主研發(fā)的基模型訓(xùn)練迭代提供了數(shù)萬張GPU的算力支撐，以及1.5萬出了400億參數(shù)量的孟子大模型，可處理多語言、多模態(tài)數(shù)據(jù)，同時(shí)支持多種中公教育創(chuàng)立于2003年，是一家職業(yè)技能培訓(xùn)學(xué)校，業(yè)務(wù)包括教培圖書、面授培訓(xùn)、在線課程，時(shí)至今日已發(fā)展成為1000多個(gè)各地分校、超5000位專程——“Al系統(tǒng)班”,并發(fā)布虛擬數(shù)字講師“小鹿老師”授課。通過Al技術(shù)分2.2.微博智能化內(nèi)容營(yíng)銷借助Al營(yíng)銷助手的強(qiáng)大功能，微博的商家和博主僅僅幾個(gè)月的時(shí)間里，超過7000名微博達(dá)人就利用AIGC生成了69萬篇文案，覆蓋了9萬多種商品，日平均發(fā)布數(shù)量超過5800多篇。更為關(guān)鍵的是，AIGC營(yíng)銷文案的采用率達(dá)到了驚人的95%,證明博主們對(duì)Al營(yíng)銷工具的青睞和認(rèn)可。3.1.證通股份智能化SCRM系統(tǒng)目前，金融行業(yè)知識(shí)庫(kù)問答系統(tǒng)大模型正在進(jìn)行嚴(yán)格的測(cè)試階段。在包含150條數(shù)據(jù)的測(cè)試集中，該模型的檢索準(zhǔn)確度已經(jīng)超過了90%,展示出了較高戰(zhàn)略使命。2022年，重慶印發(fā)的《重慶市軟件和信息服務(wù)業(yè)“滿天星”行動(dòng)計(jì)劃(2022—2025年)》(簡(jiǎn)稱“滿天星”行動(dòng)計(jì)劃)提出大力發(fā)展以軟件和信商湯科技(西南)人工智能計(jì)算中心(簡(jiǎn)稱AIDC)是商湯與重慶南岸區(qū)攜Petaflops,并計(jì)劃在中長(zhǎng)期內(nèi)進(jìn)一步擴(kuò)大至1000Petaflops。AIDC建成后，商湯科技(西南)人工智能計(jì)算中心已經(jīng)完成了30Petaflops的國(guó)產(chǎn)化算力9位。2022年全省數(shù)字經(jīng)濟(jì)增加值突破2.6萬億元，