邊緣計算行業(yè)專題報告始于AI_賦能應(yīng)用1.投資要件當前市場廣為著眼于云端算力發(fā)展，忽略了邊緣算力在AI乃至社會數(shù)字化發(fā)展中的關(guān)鍵地位。隨著AI大模型應(yīng)用領(lǐng)域逐漸蔓延步入千行百業(yè)和各類縱向細分場景，單純的大規(guī)模計稱得上中心提供更多更多的算力將無法滿足用戶多樣化的AI運算市場需求。基于幾點推斷，我們表示邊緣算力具備不可或缺性：第一，未來隨著排序芯片快速發(fā)展，單位算力成本中，電費與土地費用比重將愈發(fā)提升，算力成本將依賴智算中心的地理位置，以我國舉例，未來算力成本較低的西部將就是云端算力主要部署地。因此，大算力與低時延市場需求將出現(xiàn)相差懸殊。第二，AI模型推理小說Token費用較貴，如果仍須明朗商用，邊緣預(yù)處理將就是必須選項。通在過邊緣部署的算力，將用戶的多樣化市場需求進行本地的預(yù)處理，直觀的市場需求輕而易舉利用本地模型和算力推理小說，繁瑣市場需求通過邊緣算力預(yù)處理后，精簡成最少的TOKEN發(fā)送至云端，從而能夠最低成本的同時同時實現(xiàn)應(yīng)用領(lǐng)域功能，快速商業(yè)化。同時，面向小算力時，ARM架構(gòu)由于其架構(gòu)直觀，比英偉達繁瑣架構(gòu)排序卡極具成本優(yōu)勢，也將快速邊緣小算力的蔓延速度。最后，無論是對用戶個人敏感數(shù)據(jù)進行推理小說，還是推理小說設(shè)計商業(yè)敏感數(shù)據(jù)，完全與云端隔絕的邊緣算力，能為用戶提供更多更多最差的數(shù)據(jù)安全保護。因此，從時延、成本、隱私三大方面來看，邊緣算力未來算力體系的關(guān)鍵構(gòu)成部分，也就是AI市場需求相連接萬物的毛細血管。當前市場廣為著眼于邊緣場景中的大單品邏輯，忽略了邊緣生態(tài)的多樣性。當前市場歡聚焦于智能音響，智能耳機等大單品及其部件，主要就是其作為AI入口的邏輯更具備輕而易舉性。但我們表示，隨著AI快速向邊緣蔓延，應(yīng)用領(lǐng)域的形式將愈發(fā)多樣，越來越多的中小廠商將參與至相同場景，相同細分領(lǐng)域的AI智能硬件研發(fā)中來。隨著應(yīng)用領(lǐng)域形式愈發(fā)多樣，如何在海量相同設(shè)備上部署標準化的AI邊緣算力將變成一個關(guān)鍵問題。我們推斷，物聯(lián)網(wǎng)模組將變成橫跨這類算力的關(guān)鍵形式。物聯(lián)網(wǎng)模組內(nèi)置了通信芯片與全球大廠的算力芯片，能為海量場景和中小廠商提供更多更多均衡的邊緣通信能力和邊緣算力，大大降低了中小開發(fā)者部署邊緣算力的門檻和難度。AI時代，就是萬眾技術(shù)創(chuàng)新的年代，海量的研發(fā)將源于中小開發(fā)者，而模組提供更多更多的算力，將變成邊緣算力中的關(guān)鍵部分。2.模型由大至大，AI走上應(yīng)用領(lǐng)域的快速路今年年初，隨著Chatgpt的發(fā)布，以LLM模型為主導(dǎo)的生成式大模型高速發(fā)展。在Chatgpt之前，AI發(fā)展通常以面向細分行業(yè)的小模型居多，崇尚較小運轉(zhuǎn)成本下的較快商業(yè)化。Chatgpt問世之后，證明了“暴虐”六邊形參數(shù)與算力的生成式模型之路就是可以單有的，因此，短期內(nèi)全球AI模型研發(fā)的風(fēng)向變?yōu)榱肆呅螀?shù)與算力的模式。隨著GPT-4的發(fā)布，標志大語言模型正式宣布正式宣布邁入了多模態(tài)時代，參數(shù)量將近一步膨脹。4月份，OPENAI創(chuàng)始人SAMAltman在一場MIT舉辦的活動上則則表示，“未來的AI進展無法源于于使模型變得更大”，我們表示，這代表著OPENAI之后的不懈努力將可以更多的變?yōu)槿绾尾⑹宫F(xiàn)有的大模型更好用，蔓延seek多的場景。從北美的趨勢來看，當下，在大模型基礎(chǔ)上，快速建立小模型生態(tài)，正是許多大模型龍頭正在高速大力大力推進的發(fā)展方向。如何推動模型同時同時實現(xiàn)“人人可訓(xùn)，人人需以”已經(jīng)變?yōu)榱撕Ｍ獯髲S爭相布局的方向。4月12日，谷歌正式宣布正式宣布開源DeepSpeedchat訓(xùn)練模型，這個訓(xùn)練方式具備三大核心優(yōu)勢，第一，精簡ChatGPT類型模型的訓(xùn)練和強化推理小說體驗，第二，DeepSpeed-RLHF模塊，第三，DeepSpeed-RLHF系統(tǒng)。基于這三大特性，DeepSpeed-HE比現(xiàn)有系統(tǒng)快15倍以上，并使RLHF訓(xùn)練快速且經(jīng)濟實惠。比如說，DeepSpeed-HE在Azure云上只需9小時即可訓(xùn)練一個OPT-13B模型，只需18小時即可訓(xùn)練一個OPT-30B模型。這兩種訓(xùn)練分別花費沒有300美元和600美元。此外，該系統(tǒng)可以大力支持強于千億參數(shù)的模型訓(xùn)練，并且進一步進一步增強了對于單張顯示卡的訓(xùn)練大力支持，單憑單個GPU，DeepSpeed-HE就能大力支持訓(xùn)練多于130億參數(shù)的模型。如果說DeepSpeedchat就是模型界跨入應(yīng)用領(lǐng)域與生態(tài)建設(shè)的第一步，那么在五月初的幾大變化，并使我們更加深信了，萬物搭載模型，模型生態(tài)圈萬物的時代正在快速到來。首先，就是知名華人AI研究者陳天奇會同研發(fā)的MLC-LLM解決方案，MLCLLM為用戶在各類硬件上原生部署任一大型語言模型提供更多更多了解決方案，可以將大模型應(yīng)用于移動端的（基準比如iPhone）、消費級電腦端的（比如說Mac）和Web瀏覽器。MLC的主要功能涵蓋了：（1）大力支持相同型號的CPU、GPU以及其他可能將將的協(xié)處理器和加速器。（2）部署在用戶設(shè)備的本地環(huán)境中，這些環(huán)境可能將將沒有python或其他需以的必要依賴項；通過深入細致規(guī)劃分配和積極主動壓縮模型參數(shù)回去解決內(nèi)存管制。（3）MLCLLM提供更多更多可以重復(fù)、系統(tǒng)化和可以訂做的工作流，并使開發(fā)人員和AI系統(tǒng)研究人員能夠以Python優(yōu)先的方法同時同時實現(xiàn)模型并進行優(yōu)化。MLCLLM可以并使研究人員們快速試驗嶄新模型、嶄新看法和代萊編譯器pass，并進行本地部署。其次，我們看到了隨著Meta開源LLaMA，整個北美AI開發(fā)者中，正在快速蓬勃發(fā)展基于LLaMA的訓(xùn)練風(fēng)潮，同時隨著Lora等訓(xùn)練方法的快速蔓延，我們推斷，中小開發(fā)者蒸餾，訓(xùn)練，部署民主自由模型的成本正在快速增加，整個開源生態(tài)下，模型梯度原產(chǎn)的格局正在快速建立。Lora訓(xùn)練法通過扣押進度表訓(xùn)練的模型權(quán)重，并將可以訓(xùn)練的秩分解成矩陣轉(zhuǎn)化成至Transformaer架構(gòu)的每一層，非常大的減少了下游任務(wù)的可以訓(xùn)練參數(shù)的數(shù)量，有效率提升了進度表訓(xùn)練模型在下游任務(wù)的finetune效率。上述的三種模型或解決方案，DeepspeedChat，MLC-LLM，Lora模型，其中Deepspeed與Lora模型給中小開發(fā)者提供更多更多了低成本，快速訓(xùn)練專屬于自己的小模型的完善工具，而MLC-LLM則為中小開發(fā)者在算力較低的環(huán)境或者邊緣進行模型的推理小說構(gòu)筑了基礎(chǔ)，三大工具，我們表示已經(jīng)形成了AI邁入邊緣的“基礎(chǔ)建設(shè)雛形”。上文闡述了源于開源社區(qū)或者中小開發(fā)者參與的模型應(yīng)用領(lǐng)域變化，在Chatgpt面世以來，大廠也在快速邊緣推理小說能力，小模型的研發(fā)。2月，全球手機與IOT芯片龍頭高通，展現(xiàn)出了其在搭載8Gen2的手機平臺生利用StableDiffusion分解成了圖片，耗時大于15秒。在5月，高通通過持續(xù)優(yōu)化，將分解成圖片的時間縮短至12秒。高通通過與其芯片服務(wù)設(shè)施的全棧AI優(yōu)化方案，將stablediffusion模型從FP32壓縮至INT8，顯著的增加了運轉(zhuǎn)時延和能耗，從而同時同時實現(xiàn)了模型在手機算力上的安全高效率推理小說。高通刊發(fā)布的全棧AI工具，涵蓋了INT8轉(zhuǎn)型，最小化內(nèi)存溢出，內(nèi)置Hexagon處理器的AI加速等功能，能夠并使OEM廠商快速在高通的算力環(huán)境中部署其AI應(yīng)用領(lǐng)域。在5月，谷歌也發(fā)布了其全新的語言大模型PaLM2，并作為發(fā)布會中大部分AI功能的基礎(chǔ)模型，值得注意的就是，PaLM2就是一個具備眾多版本和弁數(shù)量的模型體系，其囊括了4個相同參數(shù)的模型，涵蓋壁虎（Gecko）、水獺（Otter）、野牛（Bison）和獨角獸（Unicorn），并在特定領(lǐng)域的數(shù)據(jù)上進行了微調(diào)，為企業(yè)客戶繼續(xù)執(zhí)行某些任務(wù)。其中PaLM2的最輕版本Gecko足夠多多小，可以在手機上運轉(zhuǎn)，每秒處理20個tokens，大約相等于16或17個英文單詞，谷歌在模型梯度原產(chǎn)上的著重程度，也進一步檢驗了大模型作為AI蔓延步入萬千場景的必要性。將視角拉回國內(nèi)，國內(nèi)廠商在邊緣小模型上也正在加速布局，5月，中科創(chuàng)達發(fā)布Rubik魔方大模型，根據(jù)公司官網(wǎng)介紹，中科創(chuàng)達基于在機器人領(lǐng)域的深厚積累，中科創(chuàng)達將智能音箱與機器人進行融合，并通過中科創(chuàng)達魔方Rubik大模型的不斷訓(xùn)練，已經(jīng)實現(xiàn)了能夠自由對話的智能銷售機器人，可以自主回答客戶關(guān)于企業(yè)及產(chǎn)品的各種問題，為企業(yè)營銷及客戶拓展提供了新的助力。可以看出，除了開源社區(qū)和前沿學(xué)者正在不斷快速模型的可用性，以及邊緣推理小說的積極探索，越來越多的大廠也重新加入至了布局邊緣模型的新一輪“軍備競賽”中來，我們表示，隨著兩方的共同努力，一個由“基礎(chǔ)模型”，“低成本訂做工具”，“模型優(yōu)化工具”三者共同構(gòu)筑的邊緣模型生產(chǎn)與利用體系將可以飛速發(fā)展。3.梯度原產(chǎn)，算力的終極呈現(xiàn)形式當前市場主要著眼于云端算力，但往往忽略了云端之外的算力同樣關(guān)鍵，未來隨著摩爾制成達致音速，數(shù)據(jù)傳輸成本，時延，隱私等等因素的影響，我們晚在2022年發(fā)布的報宣告《算力革命：和和泛在、綠色與生態(tài)》中就特別強調(diào)了由運算算力，邊緣算力，本地算力共同構(gòu)成的“和和泛在”算力，就是算力的終極存形式。算力當前的供需格局同意了，“和和泛在”或者就是“梯度原產(chǎn)”將可以就是算力最終的呈現(xiàn)方式，云計算和邊緣排序的有機融合：“云—邊”一體料流行。下面我們將從算力的供需角度，回去闡述“和和泛在”的必要性。供給端的1：受到量子隧穿著效應(yīng)影響和商業(yè)化成本影響，硅基單核芯片制程將在3nm少于至音速。硅基芯片晶體管的柵長在低于3納米時極容易發(fā)生量子隧穿著效應(yīng)（其原理為，當柵長減小至一定程度的時候，即使沒加電壓，源極和漏極都相符互通，晶體管便失去了控制器的促進作用，因而無法同時同時實現(xiàn)邏輯電路）。因此，通過更加一流的納米制程工藝提升單核芯片性能將遭遇技術(shù)上的緊迫挑戰(zhàn)。由于量子隧穿著效應(yīng)的存，3納米后，單芯片成本將可以急劇下降，華為與羅蘭貝格數(shù)據(jù)說明，3納米制程手機端的旗艦級SoC單芯片（以高通驍龍855為基準）成本較7納米顯著增加約200美元，高昂的成本將可以非常大程度制約終端客戶市場需求，最終增加算力供給的減至加。即使在能拒絕接受較低成本的大型數(shù)據(jù)中心等用戶中，處理器性能的提升依舊受到制約，受存儲、系統(tǒng)、軟件管制（性能）和單位算力功耗顯著上升（功耗）兩大因素影響，芯片核心數(shù)量將在128核達至上限。根據(jù)羅蘭貝格數(shù)據(jù)，現(xiàn)有的馮諾依曼架構(gòu)下，通過插值相同核心數(shù)量的芯片計算能力樣本數(shù)據(jù)，我們推斷出多核處理器隨其核數(shù)快速增長，算力減至長的倍數(shù)快速大幅大幅下滑：從2核增至4核時，總算力可以提升1.74倍，而當核數(shù)由128核增至256核時，總算力水平僅能提升已跌破1.2倍（1.16X），已顯著喪失經(jīng)濟性。在單核性能以及多核提升平添的雙重壓制下，大型數(shù)據(jù)中心平添的增量算力邊際增量將可以快速遞減，而修筑大型數(shù)據(jù)中心仍須的土地，人力，時間成本將在海量算力時代制約“集中式”的算力發(fā)展。供給端的2：算力發(fā)動的背景下，網(wǎng)絡(luò)性能管制和成本將可以導(dǎo)致數(shù)據(jù)中心的算力難以滿足用戶繁瑣場景下的市場需求。網(wǎng)絡(luò)帶寬及網(wǎng)絡(luò)時延共同同意了網(wǎng)絡(luò)信道的傳輸質(zhì)量，影響至網(wǎng)絡(luò)算力的充分發(fā)揮。具體內(nèi)容而言，“網(wǎng)絡(luò)化”算力的使用仍須經(jīng)歷終端與云端的數(shù)據(jù)雙向傳輸過程，這段過程就是通過網(wǎng)關(guān)、基站、數(shù)據(jù)中心等相同網(wǎng)節(jié)點之間的信道所同時同時實現(xiàn)的，其中信道的容量同意了傳輸?shù)乃俾剩l寬），信道的長度與材質(zhì)同意了數(shù)據(jù)傳輸?shù)臅r延，兩者共同影作響了數(shù)據(jù)傳輸?shù)男?。即使隨著當今5G網(wǎng)絡(luò)加速完善，無論從時延以及容量都相較于4G網(wǎng)絡(luò)出現(xiàn)了較大程度提升，但相對于未來社會的海量數(shù)據(jù)需求來看，完全依靠IDC提供算力支撐仍是效率較低的選擇，無論是智能駕駛對于時延的要求，亦或是傳輸高清視頻圖像等帶來的大額帶寬成本，都將進一步加劇“集中式”算力與“分布式”需求的錯配。供給端的3：算力高能耗與全球雙碳目標之間的矛盾。隨著芯片制成逐漸相符量子隧穿著效應(yīng)發(fā)生的制程，當前主流芯片的能效比正在逐漸相符音速。單位算力功耗在過去10多年間經(jīng)歷了顯著下降，但隨著硅基芯片工藝制程提升的難度凸顯，其進一步回升幅度非常非常有限，這意味著，等量算力的提升，即將對應(yīng)等量能耗仍須求的提升。正視未來百倍的算力市場需求，高能耗問題將變成人類算力發(fā)展過程中的關(guān)鍵瓶頸。同時，隨著我國雙碳目標的明確提出，對于數(shù)據(jù)中心的耗電量，PUE值都明確提出了更苛刻的必須求，截至2020年底，中國數(shù)據(jù)中心耗電量已經(jīng)突破2000億千瓦時，能耗占到至全國總用電量的2.7%，隨著數(shù)據(jù)中心進一步加速，算力市場需求進一步提高，解決數(shù)據(jù)中心能耗問題的市場需求也愈發(fā)緊迫。在所述的未來，具備低時延特性的核心城市IDC供給將進一步被壓變大，如何通過有效率的邊緣兩端處理手段，并使非常非常有限的核心城市算力資源贏得充分利用，也就是本輪“算力革命”急需解決的難題。市場需求端的：智能化社會大潮下，對應(yīng)百倍流量快速增長市場需求。隨著以人工智能、物聯(lián)網(wǎng)、區(qū)塊鏈、AR/VR等關(guān)鍵信息技術(shù)逐漸明朗，社會中大量智能化場景將贏得同時同時實現(xiàn)。根據(jù)羅蘭貝格報告，人工智能技術(shù)將推動無人駕駛、智能辦公、智慧醫(yī)療等場景的有效率落地，物聯(lián)網(wǎng)技術(shù)將推動智能消防、智慧工廠、智慧農(nóng)場、智能家居等場景落地，區(qū)塊鏈技術(shù)將播發(fā)發(fā)推喊叫應(yīng)用于數(shù)字證書、信息加密等場景落地，AR/VR技術(shù)則可以推動智慧商場、游戲、智慧課堂等場景落地。這些場景未來將在產(chǎn)業(yè)領(lǐng)域同時同時實現(xiàn)跨越式發(fā)展、助力各產(chǎn)業(yè)技術(shù)創(chuàng)新、進一步進一步增強產(chǎn)業(yè)數(shù)字化程度并進一步進一步增強市場活力，在政務(wù)領(lǐng)域幫助政府提升運轉(zhuǎn)效率、提高城市管理水平、加強居民生活幸福度，在民生領(lǐng)域推動社會民生保證、創(chuàng)造宜居空間、同時同時實現(xiàn)可持續(xù)化發(fā)展，共同推動社會向智能社會發(fā)展。根據(jù)華為《和和泛在算力報告》，在人工智能、物聯(lián)網(wǎng)、區(qū)塊鏈、AR/VR四大領(lǐng)域，至2030年，較之2018年，都將出現(xiàn)百倍至千倍的算力市場需求快速增長，同時對于網(wǎng)絡(luò)的延后也明確提出了更高的建議。從算力市場需求看一看，人工智能技術(shù)對于算力的核心助推點就是未來各應(yīng)用領(lǐng)域場景內(nèi)單設(shè)備芯片算力的快速增長和人工智能技術(shù)的行業(yè)滲透率的進一步提高，物聯(lián)網(wǎng)主要通過低算力物聯(lián)網(wǎng)設(shè)備的普及、服務(wù)設(shè)施云端計算中心和邊緣端的排序單元的增加共同助推算力快速增長，區(qū)塊鏈因安全問題建議的算力持續(xù)增長和應(yīng)用領(lǐng)域場景的快速普及將助推以云服務(wù)器居多的算力快速增長，VR/AR設(shè)備的普及和普及仍須的云計算中心和邊緣排序設(shè)備算力服務(wù)設(shè)施將共同推動整體稱得上力的快速增長。從時延建議看一看，L3級別的自動駕駛對于傳輸時延的建議在10-20毫秒，在步入L4&L5級別后，對于傳輸時延的建議進一步提高至10毫秒以下；使用物聯(lián)網(wǎng)建設(shè)智慧工廠對車間內(nèi)部的局域網(wǎng)絡(luò)頻寬仍須達致Gbps級別，最高時延須掌控在5ms-10ms以內(nèi)；在VR/AR游戲中，端的至端的時延至少仍須大于20毫秒，就可以保證在使用過程中避免心智至明顯的圖像滯后而導(dǎo)致的眩暈。由此可見，供給端的單芯片制程、能源管制，傳輸費用，與市場需求端的降本，能耗，時延所平添的供需相差懸殊，就是算力邁入泛在的核心因素。近年以來，我們也看到了中國為了解財政預(yù)算力調(diào)度問題所作出的不懈努力，其中最具備代表性的就是“東數(shù)西稱得上”與三大運營商所提出的“算力網(wǎng)絡(luò)”。為什么必須特別強調(diào)“東數(shù)西稱得上”或者就是“算力網(wǎng)絡(luò)”的重要性，因為我們表示，崩潰了“網(wǎng)hinet”的邊緣算力就是沒有意義的，未來的邊緣算力一定就是通過“算力網(wǎng)絡(luò)”，與云端大算力一起，同時同時實現(xiàn)智能融合與實時調(diào)度，邊緣預(yù)處理的token通過算力網(wǎng)絡(luò)，調(diào)用云端算力進行token，科研機構(gòu)通過“算力網(wǎng)絡(luò)”調(diào)度系統(tǒng)，實時分配與相匹配各類相同的算力市場需求，可以說，“算力網(wǎng)”的促進作用，在AI時代，關(guān)鍵程度將不遜于通信網(wǎng)絡(luò)。當前，歸因于我國“集中力量籌備大事”的優(yōu)勢，在“東數(shù)西稱得上”這一頂層設(shè)計統(tǒng)一指揮下，我國在“算力網(wǎng)絡(luò)”建設(shè)上已經(jīng)贏得了領(lǐng)先世界的進度。首先就是“東數(shù)西稱得上”，“東數(shù)西稱得上”工程首次明確提出于2021年5月24日的《全國一體化大數(shù)據(jù)中心協(xié)同技術(shù)創(chuàng)新體系算力樞紐實施方案》，此后，在國務(wù)院發(fā)布的《“十四五”數(shù)字經(jīng)濟發(fā)展規(guī)劃》中，也再次將其作為一個關(guān)鍵章節(jié)進行部署。根據(jù)官方闡述，“‘東數(shù)西稱得上’中的‘數(shù)’，所指的就是數(shù)據(jù)，‘稱得上’所指的就是算力，即為對數(shù)據(jù)的處理能力?！蔽覈鞑康貐^(qū)資源充裕，特別就是可以再生能源多樣，具備發(fā)展數(shù)據(jù)中心、承包東部算力市場需求的潛力?！皷|數(shù)西稱得上”就是通過構(gòu)筑數(shù)據(jù)中心、云計算、大數(shù)據(jù)一體化的新型算力網(wǎng)絡(luò)體系，將東部算力市場需求有序引導(dǎo)至西部，優(yōu)化數(shù)據(jù)中心建設(shè)布局，促進東西部協(xié)同協(xié)同。直觀地說，就是并使西部的算力資源更充份地提振東部數(shù)據(jù)的運算，更好為數(shù)字化發(fā)展生態(tài)圈。東數(shù)西稱得上布局說明，整個工程共囊括8大算力樞紐，分攤我國算力網(wǎng)絡(luò)的骨干連接點，發(fā)展數(shù)據(jù)中心集群，積極開展數(shù)據(jù)中心與網(wǎng)絡(luò)、云計算、大數(shù)據(jù)之間的協(xié)同建設(shè)，并作為國家“東數(shù)西稱得上”工程的戰(zhàn)略支點，推動算力資源有序向西搬遷，促進解決東西部算力供仍須短缺問題。緊緊圍繞每個樞紐節(jié)點，都規(guī)劃設(shè)立了1至2個數(shù)據(jù)中心集群。算力樞紐和集群的關(guān)系，相似交通樞紐和客運車站。國家發(fā)展改革委技術(shù)創(chuàng)新驅(qū)動發(fā)展中心副主任徐彬說，數(shù)據(jù)中心集群將匯聚大型、超大型數(shù)據(jù)中心，具體內(nèi)容承包數(shù)據(jù)流量。集群將獲得更好的政策大力支持、服務(wù)設(shè)施保證，同時在綠色節(jié)能環(huán)保、資源利用率、安全保證水平等方面也可以存更苛刻的建議。東數(shù)西稱得上工程自2022年2月正式宣布正式宣布啟動以來，經(jīng)過多于一年多的準備工作工作，八個國家算力樞紐節(jié)點已經(jīng)全部動工，正式宣布正式宣布步入全面建設(shè)階段。截止3月17日，在已經(jīng)動工的8個國家算力樞紐中，今年新開工的數(shù)據(jù)中心項目將近70個，其中，西部新增數(shù)據(jù)中心的建設(shè)規(guī)模多于60萬機架，同比翻了一番。至此，國家算力網(wǎng)絡(luò)體系架構(gòu)初步形成。東站在當前的AI發(fā)動起點，我們再次VM288“東數(shù)西稱得上”工程，存道理深信國家的提前布局，大力資金投入，將可以就是我國“算力”同時同時實現(xiàn)高效率利用，在AI時代搶奪先機的關(guān)鍵基礎(chǔ)建設(shè)?；跂|數(shù)西稱得上體系，“算力網(wǎng)絡(luò)”的建設(shè)就顯得更加順其自然?！八懔W(wǎng)絡(luò)”就是當前三大運營商建設(shè)的關(guān)鍵方向，三大運營商積累了眾多的算力，機柜資源，如何通過“算力網(wǎng)hinet”的建設(shè)，并使用戶同時同時實現(xiàn)“存網(wǎng)絡(luò)的地方就存算力”，將就是運營商建設(shè)“AI”時代核心資產(chǎn)的最重要方向。中國移動的算力資源網(wǎng)絡(luò)建設(shè)可以用“4+N+31+X”的數(shù)據(jù)中心布局來概括，即4熱點區(qū)域+N中心節(jié)點+31省級節(jié)點+X邊緣節(jié)點，中國移動近三年累計投資近900億元，累計投產(chǎn)云服務(wù)器71萬臺，覆蓋“東數(shù)西算”全部核心樞紐；深化云邊端協(xié)同發(fā)展，實現(xiàn)中心云“一省一池”，建成邊緣節(jié)點超1000個。中國電信于2022年發(fā)布“云網(wǎng)融合3.0”，提出六大特征：云網(wǎng)一體、要素聚合、智能敏捷、安全可信、能力開放、綠色低碳。中國電信在智能算力領(lǐng)域布局相對領(lǐng)先，率先構(gòu)建“6+31+N+X”的四級AI算力架構(gòu)，將有力提升天翼視聯(lián)網(wǎng)等重點業(yè)務(wù)的數(shù)智化能力。中國聯(lián)通明確推進架構(gòu)先進、安全可靠、服務(wù)卓越的算力網(wǎng)絡(luò)新布局，為數(shù)字經(jīng)濟打造“第一算力引擎”。制定《聯(lián)通算網(wǎng)融合發(fā)展行動計劃2022~2025》，提出通過云、網(wǎng)、邊、端、業(yè)的高效協(xié)同提供算網(wǎng)一體化的新型算力基礎(chǔ)設(shè)施及服務(wù)，打造基于算網(wǎng)融合設(shè)計的服務(wù)型算力網(wǎng)絡(luò)，形成網(wǎng)絡(luò)與計算深度融合的算網(wǎng)一體化格局，賦能算力產(chǎn)業(yè)發(fā)展。從三大運營商的布局可以看出，算力體系基本由從中心節(jié)點到邊緣資源池的四層體系構(gòu)建，這也驗證了我們上文所闡述的，算力梯度分布+算力網(wǎng)絡(luò)建設(shè)是未來中國算力的最終形態(tài)，從三家運營商的表述中我們也可以看出，“X”即邊緣，是未來我國算力網(wǎng)絡(luò)的最重要組成部分之一，我們將在下一節(jié)中探討，邊緣算力網(wǎng)絡(luò)資源部署的幾種模式。4.邊緣算力，相連接AI與用戶的紐帶邊緣排序，即將計算資源部署緊臨用戶和數(shù)據(jù)源的網(wǎng)絡(luò)邊緣兩端，通過更緊臨數(shù)據(jù)源或者最終用戶的距離，從而同時同時實現(xiàn)更高的時延、更好的隱私以及更優(yōu)的成本。步入大模型時代以來，我們表示邊緣兩端的定義應(yīng)隨著AI的發(fā)展進一步拓展，邊緣排序必須當是距模型推理小說發(fā)生處最近的算力，或者就是幫助云端算力進行進度表推理小說的算力。不同于由超大型數(shù)據(jù)中心與智算中心形式部署的云端算力，邊緣算力的部署形式隨著智能設(shè)備以及邊緣數(shù)據(jù)中心的出現(xiàn)變得愈發(fā)多樣。我們表示，邊緣算力的存形式主要可以以分為兩類，第一類就是通過邊緣算力芯片提供更多更多，通過訂做PCB板輸出，或者通過模組形式輸出。第二類則更加相似傳統(tǒng)數(shù)據(jù)中心，通過將機柜布置在距用戶較將近的機房中，回去獲得相似本地算力的便捷性。目前，邊緣算力的存形式主流就是邊緣排序芯片。從全球來看，邊緣算力芯片巨頭廠商主要涵蓋了高通、蘋果與英偉達三大巨頭。其中，蘋果的邊緣芯片主要用做其生態(tài)體系內(nèi)的如Iphone、Ipad等產(chǎn)品內(nèi)，英偉達邊緣產(chǎn)品主要就是車側(cè)的自動駕駛芯片比如Orin，這兩家的體系較為半封閉，搭載的產(chǎn)品數(shù)量也較太太少。而高通作為全球手機芯片巨頭，基于驍龍系列手機芯片面世了一系列專為邊緣兩端設(shè)計的模組芯片，將傳統(tǒng)的IOT設(shè)備褫奪了算力，也出現(xiàn)發(fā)生改變了過去邊緣兩端設(shè)備就可以基于功耗與成本較低的X86平臺的格局。當下，主流的物聯(lián)網(wǎng)算力場景，比如智能車機，智能零售等，廣為采用高通芯片回去提供更多更多算力和搭載系統(tǒng)。經(jīng)過多年運算，高通于今年4月面世了最新一代的物聯(lián)網(wǎng)芯片QCS8550A/QCM8550，處理器資源整合彪悍算力和邊緣兩端AI處理、Wi-Fi7相連接以及進一步進一步增強圖形和視頻功能，為高性能市場需求的物聯(lián)網(wǎng)應(yīng)用領(lǐng)域提供更多更多大力支持并助力其快速部署，比如說獨立自主移動機器人和工業(yè)無人機。上述產(chǎn)品采用了高通優(yōu)化的AI架構(gòu)。高通QCS8550和高通QCM8550還大力支持進一步進一步增強的視頻和圖形處理，大力支持沉浸式云游戲、視頻協(xié)作和視頻流媒體體驗。我們表示，隨著專為AI處理優(yōu)化的8550系列芯片的面世，從芯片兩端來看，海外巨頭已經(jīng)做好了將AI拎進邊緣側(cè)的基礎(chǔ)建設(shè)準備工作工作。將芯片的視角拉回國內(nèi)，國內(nèi)經(jīng)過幾年追趕，也涌現(xiàn)出了許多優(yōu)秀的邊緣芯片提供廠商，他們聚焦于處理芯片或通信芯片，為邊緣計算能力的國產(chǎn)替代添磚加瓦。從國內(nèi)主要的邊緣算力SOC提供廠商包括了全志科技、晶晨股份、瑞芯微等廠商，而邊緣通信芯片廠商則包括了如翱捷科技、樂鑫科技、紫光展銳、移芯科技等廠商。國內(nèi)的邊緣算力SOC廠商推行了與高通相同的發(fā)展策略，更多的邁入了讀取大廠，大單Fanjeaux的形式，從產(chǎn)品設(shè)計階段已經(jīng)已經(jīng)開始，深度參與芯片與產(chǎn)品的融合與訂做化研發(fā)，而高通則更希望通過將芯片制作成模組，回去為全球所有的中小開發(fā)者回去提供更多更多標準化，難于獲得的邊緣計算能力。國內(nèi)模組廠采用的訂做化+大單品策略，通常就是指客戶基于邊緣算力芯片，在PCB設(shè)計、產(chǎn)品功能設(shè)計階段就與該芯片進行讀取，從而設(shè)計并生產(chǎn)出能夠隨心所欲內(nèi)置芯片的產(chǎn)品，但前期訂做PCB，調(diào)試芯片的費用非常大，仍須用大批量備貨回去攤薄成本，并且一旦失利，產(chǎn)品開發(fā)者仍須分攤非常大的虧損。因此，大量采用國產(chǎn)邊緣算力平臺的廠家通常涵蓋了比如智能音箱廠商、掃地機器人廠商等具有雄厚實力的公司。與國內(nèi)邊緣算力廠商恰好相反，高通憑借其全球市場領(lǐng)先地位，全面全面覆蓋了海量的下游應(yīng)用領(lǐng)域場景與中小開發(fā)者，因此，高通邊緣算力芯片中，最為關(guān)鍵的一個橫跨形式模式就是物聯(lián)網(wǎng)模組。與偏向訂做化后的物聯(lián)網(wǎng)芯片相同，物聯(lián)網(wǎng)模組通過對高通算力芯片的預(yù)載箱，進度表調(diào)試，并使中小開發(fā)者可以通過開發(fā)板的形式，快速的獲得基于模組的標準化的，均衡的通信能力和邊緣算力。通過較小成本，較短流程的研發(fā)，中小開發(fā)者可以利用模組快速順利完成產(chǎn)品設(shè)計和生產(chǎn)，大大縮短了智能設(shè)備的開發(fā)周期。面向海量中小開發(fā)者+細分領(lǐng)域，我們表示，模組就是橫跨邊緣算力無窮想象空間的最佳形式。上文提到的第二條路線就是基于傳統(tǒng)的數(shù)據(jù)中心架構(gòu)，將機房復(fù)置放到距客戶較將近或者離客戶掌控范圍內(nèi)的邊緣算力部署模式。今年4月，上海市經(jīng)濟信息化委關(guān)于印發(fā)《上海市大力大力推進算力資源統(tǒng)一調(diào)度指導(dǎo)意見》的通告中明確提出，必須引導(dǎo)根據(jù)應(yīng)用領(lǐng)域場景，利用存量通信機房、變電站等設(shè)施按仍須有效率部署邊緣數(shù)據(jù)中心。這就是對于該類邊緣算力的部署模式的積極探索。上海的規(guī)劃中則表示的一類邊緣算力部署模式就是在變電站中布置，當前，國家電網(wǎng)也在積極探索利用閑置的變電站土地資源，積極探索“多東站融合”的機會，其中就涵蓋了基于變大電站的邊緣數(shù)據(jù)中心建設(shè)。晚在2020年4月，國網(wǎng)首個戶外式大中型多東站融合數(shù)據(jù)中心交貨，蘭州110千伏砂坪變大多東站融合數(shù)據(jù)中心就是以該變電站可以F83E43Se站址資源，改建632平米舊有倉庫而變?yōu)?，共投產(chǎn)7千瓦機柜172面。當前，邊緣算力的需求方或者部署地往往是核心城市的市中心或熱點地區(qū)，受制于核心城市能耗指標，土地空間等因素影響，再額外興建大型數(shù)據(jù)中心難度極大，因此結(jié)合如變電站等閑置資源再開發(fā)，將是擴充我國邊緣算力池的良好路徑。我們從A股上市公司年報中，發(fā)現(xiàn)了正在上海積極布局邊緣計算的公司龍宇股份，公司年報披露，公司基于前期的資源推進和布局規(guī)劃，圍繞城市智慧發(fā)展以及相關(guān)行業(yè)的數(shù)字化轉(zhuǎn)型發(fā)展需求，前瞻布局邊緣計算IDC細分領(lǐng)域，攜手相關(guān)合作伙伴和在上海中心城區(qū)及五大新城逐步落實資源布點，逐步形成行業(yè)先發(fā)優(yōu)勢。同時，根據(jù)邊緣算力中心單一規(guī)模較小且分布較廣的特點，積極探索業(yè)務(wù)在分布式IT技術(shù)架構(gòu)、網(wǎng)絡(luò)布局、智能運營領(lǐng)域的創(chuàng)新模式，逐步搭建邊緣算力網(wǎng)絡(luò)架構(gòu)。梳理本段，我們認為，未來邊緣算力將呈現(xiàn)設(shè)備本地算力+邊緣算力池雙線并行的發(fā)展方式，中國的模組公司作為全球具有比較優(yōu)勢的企業(yè)，有望充分讓中國制造賦能“全球邊緣”，而中國的邊緣芯片公司，有望加速國產(chǎn)替代進程，讓“中國邊緣算力”加速滲透。而IDC公司，則有望憑借邊緣算力池的模式，通過邊緣算力獨有的優(yōu)勢，實現(xiàn)算力調(diào)度收費，低時延優(yōu)化收費等全新商業(yè)模式，打開行業(yè)發(fā)展空間。5.應(yīng)用領(lǐng)域曙光已現(xiàn)，盼望AI飛輪下的百花齊放當下市場以及投資者關(guān)注的應(yīng)用方向，主要集中于基于云端算力的如CHATGPT，Midjourney，Copilot等等，而提起邊緣智能設(shè)備或者邊緣應(yīng)用時，則更多的將其作為一種“入口”，或是直接忽略“邊緣算力”與AI結(jié)合的可能。其實AI在邊緣側(cè)的應(yīng)用或者“滲透”由來已久，其中最典型的案例便是如人臉識別，圖像處理等分析式AI功能。我們?nèi)粘Ｉ钪幸姷降娜缱詣玉{駛，智能零售、智慧工廠、智能巡檢等場景均是由邊緣或者本地端提供算力進行解決。如英偉達的Orin，地平線等公司的智能駕駛芯片，就是邊緣算力運行AI模型的例子，自動駕駛芯片通過每秒分析上千幀畫面，來保證車輛對前方路況的理解并做出相應(yīng)反應(yīng)。同時，模組廠商也在積極探索如何讓模組算力更好的參與進車輛自動駕駛功能中來，如美格智能最新的C-V2XMA925系列模組，在幫助T-BOX與外界通信的同時，自身搭載的算力能夠提供GNSS服務(wù)，并能夠內(nèi)生解決V2X的運行，讓T-BOX不再需要額外掛載處理芯片。相比于需要利用高算力進行智能駕駛的乘用車，當下，許多小型無人設(shè)備的自動駕駛正在越來越多的依靠模組來提供相關(guān)功能所需要的算力。如國內(nèi)大型工業(yè)無人機廠商云圣智能的“虎鯨Ⅲ”全自主工業(yè)無人機，就搭載了美格智能5G工業(yè)級通信模組SRM815，利用“機器人+人工”相結(jié)合的方式，可實現(xiàn)電力通道巡檢，電力本體巡檢，三維實景建模等功能，模組在其中起到了如視頻解析，傳輸，操控信號低時延傳輸?shù)裙δ?。智能零售場景則就是相同功能模組同時同時實現(xiàn)了如無人零售、自助式繳付、商品管理等功能。比如美格智能的通過對高通模組的心智與訂做化研發(fā)，為客戶在如無人販售柜、人臉繳交、智能收銀機。智能POS等方面面世了完善的解決方案。其中無人零售設(shè)計的人臉識別，圖像識別等，也就是基于高通14NM芯片提供更多更多的算力進行部署。一種更為通用型的邊緣算力應(yīng)用領(lǐng)域，采用“邊緣算力盒子”的形式進行呈現(xiàn)，較之于設(shè)備內(nèi)部搭載的邊緣排序芯片，邊緣排序盒子具備更高的環(huán)境容忍度、更好的物理體積，更好的散熱器，以及更大的算力部署能力，“邊緣算力盒子”往往復(fù)置放到例如工廠產(chǎn)線、電線桿、路燈等場景，用來提振比如產(chǎn)線質(zhì)檢、智慧城市、V-2X等AI應(yīng)用領(lǐng)域場景。甚至，以模組形式橫跨的邊緣算力，已經(jīng)步入了數(shù)據(jù)中心，作為云算力的一部分為用戶提供更多更多服務(wù)。實時互動云技術(shù)創(chuàng)新服務(wù)商啟朔科技，就利用刀片式服務(wù)器橫跨算力模組，同時同時實現(xiàn)了2U機柜內(nèi)部署80顆高通算力芯片，從而為云游戲、數(shù)字人圖形、工業(yè)AI檢測等場景提供更多更多網(wǎng)絡(luò)資源。當前啟朔科技已經(jīng)變成了阿里云，網(wǎng)易游戲等的合作伙伴。我們在這一段的前半部分后，總結(jié)了當下邊緣算力應(yīng)用領(lǐng)域的主流形式，其中已經(jīng)存了非常多略偏AI運算的市場需求，但我們不難推斷出，當前運轉(zhuǎn)在邊緣端的AI模型，更多的就是以傳統(tǒng)的圖像識別形式存的“分析型”AI，而我們表示，真正能夠并使邊緣算力市場需求膨脹，或者關(guān)上邊緣AI天花板的“生成式”AI，則就是下一階段乃至未來仍須在邊緣應(yīng)用領(lǐng)域兩端更加高度高度關(guān)注的重點，在“生成式”AI在邊緣設(shè)備的部署上，我們更想用本段標題中的“曙光初現(xiàn)”回去形容，各個大廠的先期產(chǎn)品和布局并使我們看到了“生成式”走進邊緣的路徑和初步方案，接下來，我們將可以介紹兩大方向，并闡述為什么邊緣算力對這些場景就是不可或缺的。邊緣應(yīng)用領(lǐng)域方向1：基于生成式模型的“智能助理”。智能助理這一概念，最早火熱，就是彌漫“SIRI”的面世，消費者第一次系統(tǒng)性的認識到了基于語音喚醒的智能助理這一概念。然而隨著多年發(fā)展，這一形式的智能助理除了乘坐所載平臺拓展至了如車機、智能音響、掃地機器人等平臺外，其本質(zhì)內(nèi)核仍然沒有出現(xiàn)發(fā)生改變，依舊就是基于對語音輸入關(guān)鍵詞的截取，在功能庫中尋找對應(yīng)的功能。并不具備主動分解成的能力。我們表示，生成式AI將給“智能助理”這一應(yīng)用領(lǐng)域方向平添關(guān)鍵性出現(xiàn)發(fā)生改變，隨著ChatGPT為代表的大模型與“智能助理”融合，智能助理將變得更加擬人化，能夠進一步進一步增強對于命令的心智性和繼續(xù)執(zhí)行能力，得出結(jié)論的回饋也將更加優(yōu)秀，而無法出現(xiàn)當下智能助理經(jīng)常出現(xiàn)的“不能心智您的意思”的情況。第二，大模型的引入，將能夠更好的便捷“智能助理”的用戶的生活習(xí)慣，行動軌跡，以及存留在設(shè)備上的資料進行總結(jié)，從而得出結(jié)論更符合用戶實際市場需求的答案，能夠變成幫助提高自學(xué)，工作效率的泰迪。第一種應(yīng)用領(lǐng)域場景，我們已經(jīng)看到了很多的積極主動變化，首先就是小度科技融合文心一言打造出的針對智能設(shè)備場景的人工智能模型“小度靈機”，除了天貓精靈互連“鳥鳥分鳥”模型打造出“AI嘴替”，并官宣將互連阿里大模型通義千問。在車機方面，我們也看到了模型開回入車機的進展，當前，上汽旗下的斑馬智行AliOS智能汽車操作系統(tǒng)已互連通義千質(zhì)問大模型進行測試。而四季度將發(fā)布的問界M9也將搭載大模型。5月18日，OpenAI官方正式宣布正式宣布面世運轉(zhuǎn)于的ChatGPT，用戶可以以手機為USB輕而易舉訪華存了它，用戶可以輸入問題并傳送源于聊天機器人的回復(fù)。根據(jù)OpenAI的介紹，這款A(yù)PP還包括語音識別功能，因此用戶可以談出來他們的問題。然而，機器人只可以以書面形式回應(yīng)。該應(yīng)用程序還可以橫貫各種設(shè)備同步基于文本的對話。進一步強化了手機的“智能助理角色”。第二