工業(yè)互聯(lián)網(wǎng)

IndustrialInternet01工業(yè)互聯(lián)網(wǎng)架構(gòu)回顧第六章工業(yè)人工智能——上節(jié)回顧1設(shè)備音頻；設(shè)備輻射；……訂單信息;客戶(hù)需求變更；……機(jī)器觸感；機(jī)器溫度；……信息感知產(chǎn)品位置；機(jī)器人位置；人的位置；……視覺(jué)傳感器（攝像頭）溫度傳感器紅外傳感器壓力傳感器煙霧傳感器……數(shù)據(jù)傳輸藍(lán)牙通信蜂窩通信有線(xiàn)通信以太網(wǎng)衛(wèi)星通信……數(shù)據(jù)處理機(jī)器學(xué)習(xí)數(shù)據(jù)挖掘數(shù)據(jù)融合人工智能大數(shù)據(jù)……決策應(yīng)用服務(wù)安全管理……平臺(tái)層2第七章工業(yè)先進(jìn)計(jì)算——課時(shí)安排本次課時(shí)任務(wù)時(shí)間80分鐘（2課時(shí)）主要學(xué)習(xí)內(nèi)容工業(yè)先進(jìn)計(jì)算背景（0.5課時(shí)）；工業(yè)先進(jìn)計(jì)算方法（0.5課時(shí)）；工業(yè)云、邊計(jì)算框架（1課時(shí)）；主要目標(biāo)了解先進(jìn)計(jì)算的背景與發(fā)展歷程；了解工業(yè)中常見(jiàn)的計(jì)算方法與框架。3第四章工業(yè)網(wǎng)絡(luò)通信——架構(gòu)回顧工業(yè)互聯(lián)網(wǎng)通信傳輸架構(gòu)回顧設(shè)備音頻；設(shè)備輻射；……訂單信息;客戶(hù)需求變更；……機(jī)器觸感；機(jī)器溫度；……信息感知產(chǎn)品位置；機(jī)器人位置；人的位置；……視覺(jué)傳感器（攝像頭）溫度傳感器紅外傳感器壓力傳感器煙霧傳感器……數(shù)據(jù)傳輸藍(lán)牙通信蜂窩通信有線(xiàn)通信以太網(wǎng)衛(wèi)星通信……數(shù)據(jù)處理機(jī)器學(xué)習(xí)數(shù)據(jù)挖掘數(shù)據(jù)融合人工智能大數(shù)據(jù)……決策應(yīng)用服務(wù)安全管理……平臺(tái)層4第七章工業(yè)先進(jìn)計(jì)算——背景什么是先進(jìn)計(jì)算？

5第七章工業(yè)先進(jìn)計(jì)算——背景為什么要先進(jìn)計(jì)算？

一樣的計(jì)算結(jié)果，卻有完全不一樣的計(jì)算量6第七章工業(yè)先進(jìn)計(jì)算——背景先進(jìn)計(jì)算發(fā)展

第七章工業(yè)先進(jìn)計(jì)算77.1并行計(jì)算8第七章工業(yè)先進(jìn)計(jì)算——1.并行計(jì)算框架并行計(jì)算產(chǎn)生背景

整個(gè)大的串行任務(wù)分解各個(gè)并行執(zhí)行部分需做大量運(yùn)算，持續(xù)時(shí)間長(zhǎng)根據(jù)大任務(wù)內(nèi)在相關(guān)性各個(gè)相對(duì)獨(dú)立模塊部分并行執(zhí)行，節(jié)約運(yùn)算時(shí)間9第七章工業(yè)先進(jìn)計(jì)算——1.并行計(jì)算框架并行計(jì)算產(chǎn)生背景

并行計(jì)算是相對(duì)于串行計(jì)算10第七章工業(yè)先進(jìn)計(jì)算——1.并行計(jì)算框架并行計(jì)算

并行計(jì)算(ParallelComputing）高端計(jì)算(High-endParallelComputing)高性能計(jì)算(HighPerformanceComputing)超級(jí)計(jì)算(SuperComputing)任何高性能計(jì)算和超級(jí)計(jì)算都離不開(kāi)使用并行技術(shù)由運(yùn)行在多個(gè)部件上的小任務(wù)合作來(lái)求解一個(gè)規(guī)模很大的計(jì)算問(wèn)題的一種方法。11第七章工業(yè)先進(jìn)計(jì)算——1.并行計(jì)算框架并行計(jì)算的應(yīng)用需求

12第七章工業(yè)先進(jìn)計(jì)算——1.并行計(jì)算框架并行計(jì)算應(yīng)用案例——矩陣乘法并行計(jì)算

引入原因：串行計(jì)算在處理大規(guī)模矩陣乘法時(shí)效率低下，計(jì)算時(shí)間過(guò)長(zhǎng)，無(wú)法滿(mǎn)足工業(yè)互聯(lián)網(wǎng)中對(duì)實(shí)時(shí)大數(shù)據(jù)處理的需求。為解決這些問(wèn)題，有必要引入并行計(jì)算，通過(guò)分解任務(wù)并行執(zhí)行，大幅提升計(jì)算速度和效率，滿(mǎn)足大規(guī)模數(shù)據(jù)處理的要求。解決手段：引入多個(gè)處理器:當(dāng)用n個(gè)處理器進(jìn)行n*n矩陣乘法時(shí)，可以容易的獲得并行的時(shí)間復(fù)雜度為O(n)。用n個(gè)處理器時(shí)時(shí)間復(fù)雜度為O(n)。雖然引用多處理器可降低時(shí)間復(fù)雜度，但隆低的時(shí)間復(fù)雜度是針對(duì)計(jì)算而言，增加處理器會(huì)導(dǎo)致顯著的通信開(kāi)銷(xiāo)的增加。實(shí)際中一般結(jié)合塊矩陣實(shí)現(xiàn)。劃分成子矩陣:通過(guò)塊矩陣乘法實(shí)現(xiàn)。13第七章工業(yè)先進(jìn)計(jì)算——1.并行計(jì)算框架矩陣乘法的并行算法

14第七章工業(yè)先進(jìn)計(jì)算——1.并行計(jì)算框架塊矩陣乘法示例

15第七章工業(yè)先進(jìn)計(jì)算——1.并行計(jì)算框架矩陣乘法的并行算法

第七章工業(yè)先進(jìn)計(jì)算167.2錯(cuò)誤處理和容錯(cuò)17第七章工業(yè)先進(jìn)計(jì)算——2.錯(cuò)誤處理和容錯(cuò)并行計(jì)算中的異常和錯(cuò)誤

在并行計(jì)算中，處理異常和錯(cuò)誤是非常重要的，因?yàn)椴⑿杏?jì)算涉

及到多個(gè)計(jì)算單元同時(shí)進(jìn)行工作，一旦出現(xiàn)異常或錯(cuò)誤，可能會(huì)對(duì)整個(gè)計(jì)算過(guò)程造成嚴(yán)重影響。以下是處理并行計(jì)算中異常和錯(cuò)誤的一些建議：異常處理機(jī)制：在并行計(jì)算中，需要建立完善的異常處理機(jī)制，及時(shí)捕獲和處理各種可能出現(xiàn)的異常情況，例如內(nèi)存溢出、數(shù)據(jù)丟失、計(jì)算單元死鎖等。可以通過(guò)編寫(xiě)穩(wěn)健的代碼來(lái)處理異常，或者使用現(xiàn)有的并行計(jì)算框架提供的異常處理工具。錯(cuò)誤檢測(cè)和糾正：在并行計(jì)算中，錯(cuò)誤檢測(cè)和糾正是至關(guān)重要的?？梢酝ㄟ^(guò)引入冗余計(jì)算、校驗(yàn)碼等技術(shù)來(lái)檢測(cè)和糾正計(jì)算中的錯(cuò)誤。例如，在分布式計(jì)算中可以使用冗余數(shù)據(jù)來(lái)檢測(cè)和糾正節(jié)點(diǎn)間的通信錯(cuò)誤，確保計(jì)算結(jié)果的準(zhǔn)確性。第七章工業(yè)先進(jìn)計(jì)算187.3MapReduce框架19第七章工業(yè)先進(jìn)計(jì)算——3.MapReduce框架何謂MapReduce

一種云計(jì)算的核心計(jì)算模式，是一種處理海量數(shù)據(jù)的簡(jiǎn)化并行計(jì)算的分布式編程模式。用于大規(guī)模數(shù)據(jù)集（通常大于1TB）的并行運(yùn)算。MapReduce實(shí)現(xiàn)了Map和Reduce兩個(gè)功能。Map-reduce的思想就是“分而治之”。Mapper負(fù)責(zé)“分”，即把復(fù)雜的任務(wù)分解為若干個(gè)“簡(jiǎn)單的任務(wù)”執(zhí)行?！昂?jiǎn)單的任務(wù)”有幾個(gè)含義：1數(shù)據(jù)或計(jì)算規(guī)模相對(duì)于原任務(wù)要大大縮小；2就近計(jì)算，即會(huì)被分配到存放了所需數(shù)據(jù)的節(jié)點(diǎn)進(jìn)行計(jì)算；3這些小任務(wù)可以并行計(jì)算，彼此間幾乎沒(méi)有依賴(lài)關(guān)系Reducer對(duì)map階段的結(jié)果進(jìn)行匯總Reducer的數(shù)目由mapred-site.xml配置文件里的項(xiàng)目mapred.reduce.tasks決定。缺省值為1，用戶(hù)可以覆蓋之。20第七章工業(yè)先進(jìn)計(jì)算——3.MapReduce框架何謂MapReduce

MapReduce模式的主要思想是將要自動(dòng)分割執(zhí)行的問(wèn)題（例如程序）拆解成Map（映射）和Reduce（化簡(jiǎn)）的方式。流程圖如下：21第七章工業(yè)先進(jìn)計(jì)算——3.MapReduce框架何謂MapReduce

MapReduce實(shí)現(xiàn)了Map和Reduce兩個(gè)功能Map把一個(gè)函數(shù)應(yīng)用于集合中的所有成員，然后返回一個(gè)基于這個(gè)處理的結(jié)果集。是把一組數(shù)據(jù)一對(duì)一地映射為另外一組數(shù)據(jù)，其映射的規(guī)則有一個(gè)函數(shù)來(lái)指定。例如：[1,2,3,4]進(jìn)行乘2的映射就變成了[2,4,6,8]。Reduce對(duì)結(jié)果集進(jìn)行分類(lèi)和歸納，對(duì)一組數(shù)據(jù)進(jìn)行規(guī)約，這個(gè)規(guī)約的規(guī)則由一個(gè)函數(shù)指定。例如：對(duì)[1,2,3,4]進(jìn)行求和的規(guī)約得到結(jié)果是10。Map()和Reduce()兩個(gè)函數(shù)可能會(huì)并行運(yùn)行，即使不是在同一的系統(tǒng)的同一時(shí)刻。Map負(fù)責(zé)把任務(wù)分解成多個(gè)任務(wù)，Reduce負(fù)責(zé)把分解后多任務(wù)處理的結(jié)果匯總起來(lái)。至于在并行編程中的其他復(fù)雜問(wèn)題，如分布式存儲(chǔ)、工作調(diào)度、負(fù)載均衡、容錯(cuò)處理、網(wǎng)絡(luò)通信等，由MapReduce框架負(fù)責(zé)處理。22第七章工業(yè)先進(jìn)計(jì)算——3.MapReduce框架何謂MapReduce

任務(wù)需求：找出服務(wù)器上2015年5月的某個(gè)視頻第七章工業(yè)先進(jìn)計(jì)算237.4分布式機(jī)器學(xué)習(xí)24第七章工業(yè)先進(jìn)計(jì)算——4.分布式機(jī)器學(xué)習(xí)分布式機(jī)器學(xué)習(xí)

引言：大數(shù)據(jù)、大模型和GPU集群的發(fā)展推動(dòng)了人工智能的進(jìn)步，同時(shí)也帶來(lái)了處理和訓(xùn)練大規(guī)模數(shù)據(jù)和模型的挑戰(zhàn)。分布式機(jī)器學(xué)習(xí)技術(shù)應(yīng)運(yùn)而生，用于應(yīng)對(duì)這些挑戰(zhàn)。核心概念：分布式機(jī)器學(xué)習(xí)：將數(shù)據(jù)和計(jì)算任務(wù)分配到多個(gè)節(jié)點(diǎn)，以充分利用計(jì)算資源和存儲(chǔ)資源。25第七章工業(yè)先進(jìn)計(jì)算——4.分布式機(jī)器學(xué)習(xí)分布式機(jī)器學(xué)習(xí)框架

基本流程：數(shù)據(jù)與模型劃分：將大數(shù)據(jù)集和大模型劃分成若干子集，分配到不同的計(jì)算節(jié)點(diǎn)。單機(jī)優(yōu)化：各個(gè)計(jì)算節(jié)點(diǎn)在本地進(jìn)行優(yōu)化和訓(xùn)練。子模型局部數(shù)據(jù)處理：各節(jié)點(diǎn)處理子模型和局部數(shù)據(jù)。數(shù)據(jù)與模型聚合：匯總各節(jié)點(diǎn)的訓(xùn)練結(jié)果，進(jìn)行整體優(yōu)化。分布式機(jī)器學(xué)習(xí)系統(tǒng)框架第七章工業(yè)先進(jìn)計(jì)算267.4數(shù)據(jù)分割和分布27第七章工業(yè)先進(jìn)計(jì)算——5.數(shù)據(jù)分割和分布數(shù)據(jù)與模型劃分模塊

劃分的必要性：?jiǎn)螜C(jī)有時(shí)無(wú)法處理大數(shù)據(jù)的情況，需要?jiǎng)澐趾头植肌?shù)據(jù)和模型劃分目的是對(duì)訓(xùn)練樣本和特征維度進(jìn)行劃分，提高計(jì)算效率，優(yōu)化計(jì)算資源。對(duì)訓(xùn)練樣本進(jìn)行劃分的常用方法：隨機(jī)采樣法：將訓(xùn)練樣本作為采樣的母數(shù)據(jù)，通過(guò)放回的方式進(jìn)行隨機(jī)采樣。然后根據(jù)每個(gè)工作節(jié)點(diǎn)的容量將其分割為若干子集。每個(gè)節(jié)點(diǎn)獨(dú)立訓(xùn)練，避免了樣本間的相關(guān)性。28第七章工業(yè)先進(jìn)計(jì)算——5.數(shù)據(jù)分割和分布分割異質(zhì)性29第七章工業(yè)先進(jìn)計(jì)算——5.數(shù)據(jù)分割和分布數(shù)據(jù)與模型劃分模塊

對(duì)訓(xùn)練樣本進(jìn)行劃分的常用方法：垂直劃分法：將訓(xùn)練樣本的特征維度隨機(jī)并均勻地劃分到不同的計(jì)算節(jié)點(diǎn)，每個(gè)節(jié)點(diǎn)處理不同的特征子集。通過(guò)這種方式，能夠有效降低每個(gè)節(jié)點(diǎn)的計(jì)算負(fù)擔(dān)，提高整體計(jì)算效率。然而，垂直劃分法需要高效的通信和同步機(jī)制，以確保各節(jié)點(diǎn)間的協(xié)調(diào)工作。適當(dāng)?shù)拇怪眲澐帜軌蚱胶庳?fù)載，減少計(jì)算開(kāi)銷(xiāo)，但同時(shí)要注意通信開(kāi)銷(xiāo)和數(shù)據(jù)一致性的問(wèn)題。訓(xùn)練原始數(shù)據(jù)集特征1特征2特征3節(jié)點(diǎn)1節(jié)點(diǎn)2節(jié)點(diǎn)3訓(xùn)練訓(xùn)練均勻劃分第七章工業(yè)先進(jìn)計(jì)算307.6模型并行化31第七章工業(yè)先進(jìn)計(jì)算——6.模型并行化模型并行化

模型并行：模型并行用于分布式機(jī)器學(xué)習(xí)中，將模型的不同部分分配到多個(gè)計(jì)算節(jié)點(diǎn)上并行處理，解決超大規(guī)模模型在單個(gè)計(jì)算節(jié)點(diǎn)上無(wú)法容納的問(wèn)題。模型并行的分類(lèi)：流水線(xiàn)并行：把模型不同的層放到不同設(shè)備之上，比如前面幾層放到一個(gè)設(shè)備之上，中間幾層放到另外一個(gè)設(shè)備上，最后幾層放到第三個(gè)設(shè)備之上。張量并行：層內(nèi)分割，把某一個(gè)層做切分，放置到不同設(shè)備之上，也可以理解為把矩陣運(yùn)算分配到不同的設(shè)備之上，比如把某個(gè)矩陣乘法切分成為多個(gè)矩陣乘法放到不同設(shè)備之上。32第七章工業(yè)先進(jìn)計(jì)算——6.模型并行化模型并行化

上面是層間并行（流水線(xiàn)并行），縱向切一刀，前面三層給第一個(gè)GPU，后面三層給第二個(gè)GPU。下面是層內(nèi)并行（tensor并行），橫向切一刀，每個(gè)張量分成兩塊，分到不同GPU之上。第七章工業(yè)先進(jìn)計(jì)算337.7通信和同步機(jī)制34第七章工業(yè)先進(jìn)計(jì)算——7.通信和同步機(jī)制通信和同步機(jī)制

通信的內(nèi)容：在數(shù)據(jù)并行框架下，每個(gè)工作節(jié)點(diǎn)學(xué)習(xí)局部數(shù)據(jù)的子模型。通信任務(wù)是傳遞子模型或模型更新（如梯度），實(shí)現(xiàn)全局模型的同步。通信的架構(gòu)：參數(shù)服務(wù)器架構(gòu)參數(shù)服務(wù)器架構(gòu)：在分布式機(jī)器學(xué)習(xí)中用于協(xié)調(diào)各個(gè)計(jì)算節(jié)點(diǎn)之間的參數(shù)更新和同步。每個(gè)工作節(jié)點(diǎn)獨(dú)立處理局部數(shù)據(jù)并更新局部模型，然后通過(guò)客戶(hù)端與參數(shù)服務(wù)器通信，將更新的參數(shù)發(fā)送到參數(shù)服務(wù)器。參數(shù)服務(wù)器匯總和同步這些參數(shù)，并將最新的參數(shù)分發(fā)回各個(gè)工作節(jié)點(diǎn)。35第七章工業(yè)先進(jìn)計(jì)算——7.通信和同步機(jī)制通信和同步機(jī)制

同步機(jī)制：同步更新：節(jié)點(diǎn)更新本地模型后立即同步，確保全局一致性。異步更新：節(jié)點(diǎn)無(wú)需等待其他節(jié)點(diǎn)完成更新，提高效率。同步挑戰(zhàn)：通信開(kāi)銷(xiāo)：頻繁通信增加網(wǎng)絡(luò)負(fù)載。一致性問(wèn)題：節(jié)點(diǎn)間數(shù)據(jù)可能不一致，需有效同步策略。容錯(cuò)機(jī)制：確保節(jié)點(diǎn)故障時(shí)系統(tǒng)正常運(yùn)行。第七章工業(yè)先進(jìn)計(jì)算367.8資源管理和調(diào)度37第七章工業(yè)先進(jìn)計(jì)算——8.資源管理和調(diào)度資源管理和調(diào)度

資源管理與調(diào)度：在分布式環(huán)境中，資源管理是非常重要的環(huán)節(jié)，通過(guò)統(tǒng)一管控所有的機(jī)器節(jié)點(diǎn)，實(shí)現(xiàn)水平的擴(kuò)容與移除，并對(duì)外提供服務(wù)。核心概念：資源管理：統(tǒng)一管控所有的機(jī)器節(jié)點(diǎn)，自動(dòng)進(jìn)行水平的擴(kuò)容與移除。資源調(diào)度：當(dāng)某個(gè)服務(wù)想要運(yùn)行在集群中時(shí)，框架可以自動(dòng)按照某種策略篩選節(jié)點(diǎn)執(zhí)行任務(wù)。38第七章工業(yè)先進(jìn)計(jì)算——8.資源管理和調(diào)度資源調(diào)度的類(lèi)型

資源調(diào)度的類(lèi)型：?jiǎn)误w調(diào)度：集群有兩種角色：master和node。master負(fù)責(zé)搜集各個(gè)節(jié)點(diǎn)的狀態(tài)和分配任務(wù)，而node負(fù)責(zé)上報(bào)自身資源使用情況并執(zhí)行任務(wù)。兩層調(diào)度：第一層調(diào)度器在master上，負(fù)責(zé)整體資源分配；第二層調(diào)度器與master溝通，申請(qǐng)節(jié)點(diǎn)執(zhí)行任務(wù)。共享狀態(tài)調(diào)度：共享狀態(tài)調(diào)度通過(guò)第三方存儲(chǔ)平臺(tái)存儲(chǔ)集群狀態(tài)，多個(gè)調(diào)度器并發(fā)讀取并分配任務(wù)，支持高并發(fā)和全局視角，但容易發(fā)生資源沖突。單體調(diào)度雙層調(diào)度共享狀態(tài)調(diào)度第七章工業(yè)先進(jìn)計(jì)算397.9聯(lián)邦學(xué)習(xí)框架40第七章工業(yè)先進(jìn)計(jì)算——9.聯(lián)邦學(xué)習(xí)框架聯(lián)邦學(xué)習(xí)介紹

聯(lián)邦學(xué)習(xí)是一種帶有隱私保護(hù)、安全加密技術(shù)的分布式機(jī)器學(xué)習(xí)框架，旨在讓分散的各參與方在滿(mǎn)足不向其他參與者披露隱私數(shù)據(jù)的前提下，協(xié)作進(jìn)行機(jī)器學(xué)習(xí)的模型訓(xùn)練。經(jīng)典聯(lián)邦學(xué)習(xí)框架的訓(xùn)練過(guò)程可以簡(jiǎn)單概括為以下步驟：協(xié)調(diào)方建立基本模型，并將模型的基本結(jié)構(gòu)與參數(shù)告知各參與方；各參與方利用本地?cái)?shù)據(jù)進(jìn)行模型訓(xùn)練，并將結(jié)果返回給協(xié)調(diào)方；協(xié)調(diào)方匯總各參與方的模型，構(gòu)建更精準(zhǔn)的全局模型，以整體提升模型性能和效果。41第七章工業(yè)先進(jìn)計(jì)算——9.聯(lián)邦學(xué)習(xí)框架聯(lián)邦學(xué)習(xí)的架構(gòu)思想

聯(lián)邦學(xué)習(xí)的架構(gòu)分為兩種，一種是中心化聯(lián)邦（客戶(hù)端/服務(wù)器）架構(gòu)，一種是去中心化聯(lián)邦（對(duì)等計(jì)算）架構(gòu)。

針對(duì)聯(lián)合多方用戶(hù)的聯(lián)邦學(xué)習(xí)場(chǎng)景，一般采用的是客戶(hù)端/服務(wù)器架構(gòu)，企業(yè)作為服務(wù)器，起著協(xié)調(diào)全局模型的作用；而針對(duì)聯(lián)合多家面臨數(shù)據(jù)孤島困境的企業(yè)進(jìn)行模型訓(xùn)練的場(chǎng)景，一般可以采用對(duì)等架構(gòu)，因?yàn)殡y以從多家企業(yè)中選出進(jìn)行協(xié)調(diào)的服務(wù)器方。聯(lián)邦學(xué)習(xí)系統(tǒng)客戶(hù)端/服務(wù)器架構(gòu)42第七章工業(yè)先進(jìn)計(jì)算——9.聯(lián)邦學(xué)習(xí)框架聯(lián)邦學(xué)習(xí)的架構(gòu)思想

當(dāng)參與方不少于兩個(gè)時(shí)，啟動(dòng)聯(lián)邦學(xué)習(xí)過(guò)程。在正式開(kāi)始訓(xùn)練之前，中央服務(wù)器先將初始模型分發(fā)給各參與方，然后各參與方根據(jù)本地?cái)?shù)據(jù)集分別對(duì)所得模型進(jìn)行訓(xùn)練。接著，各參與方將本地訓(xùn)練得到的模型參數(shù)加密上傳至中央服務(wù)器。中央服務(wù)器對(duì)所有模型梯度進(jìn)行聚合，再將聚合后的全局模型參數(shù)加密傳回至各參與方。聯(lián)邦學(xué)習(xí)對(duì)等系統(tǒng)架構(gòu)第七章工業(yè)先進(jìn)計(jì)算437.10云計(jì)算44第七章工業(yè)先進(jìn)計(jì)算——云計(jì)算云計(jì)算的定義云計(jì)算是一種通過(guò)互聯(lián)網(wǎng)（"云"）提供按需訪(fǎng)問(wèn)計(jì)算資源（如服務(wù)器、存儲(chǔ)、數(shù)據(jù)庫(kù)、網(wǎng)絡(luò)、軟件、分析等）的服務(wù)模式。它允許企業(yè)和個(gè)人在不購(gòu)買(mǎi)和維護(hù)物理硬件的情況下，使用這些資源。45第七章工業(yè)先進(jìn)計(jì)算——云計(jì)算云計(jì)算的定義此外，云計(jì)算還有不同的部署模型：公有云：由第三方提供商管理，服務(wù)通過(guò)互聯(lián)網(wǎng)提供給所有客戶(hù)。私有云：由企業(yè)內(nèi)部或?qū)Ｓ镁W(wǎng)絡(luò)管理，僅供特定組織使用。混合云：結(jié)合了公有云和私有云的特點(diǎn)，允許數(shù)據(jù)和應(yīng)用程序在兩者之間移動(dòng)。46第七章工業(yè)先進(jìn)計(jì)算——IaaSIaas的定義

"基礎(chǔ)設(shè)施即服務(wù)"（InfrastructureasaService，簡(jiǎn)稱(chēng)IaaS）是一種云計(jì)算服務(wù)模型，它提供虛擬化的計(jì)算資源作為服務(wù)。在IaaS模型中，云服務(wù)提供商（CSP）管理著龐大的數(shù)據(jù)中心，并通過(guò)互聯(lián)網(wǎng)向客戶(hù)提供硬件、存儲(chǔ)空間、網(wǎng)絡(luò)和其他基礎(chǔ)設(shè)施資源。47第七章工業(yè)先進(jìn)計(jì)算——IaaSIaaS的特點(diǎn)虛擬化：IaaS提供商通常使用虛擬化技術(shù)來(lái)分配物理服務(wù)器的資源，創(chuàng)建多個(gè)虛擬機(jī)（VMs）。按需擴(kuò)展：客戶(hù)可以根據(jù)需要增加或減少資源彈性：資源可以快速擴(kuò)展或縮減，以適應(yīng)應(yīng)用程序的需求變化。成本效益：客戶(hù)只需為實(shí)際使用的資源支付費(fèi)用，而不需要投資昂貴的硬件。易于管理：通過(guò)云服務(wù)提供商的管理界面，客戶(hù)可以輕松管理其虛擬資源。高可用性和災(zāi)難恢復(fù)：云服務(wù)提供商通常提供高可用性解決方案和災(zāi)難恢復(fù)選項(xiàng)，以確保業(yè)務(wù)連續(xù)性。48第七章工業(yè)先進(jìn)計(jì)算——IaaSIaas在阿里云當(dāng)中的應(yīng)用云服務(wù)器ECS：提供安全可靠，彈性和伸縮的云計(jì)算服務(wù)，支持幾乎任何工作負(fù)載。無(wú)影云桌面：無(wú)影云桌面是一種易用、安全、高效的云上桌面服務(wù)，它支持快速便捷的桌面環(huán)境創(chuàng)建、部署、統(tǒng)一管控與運(yùn)維。容器服務(wù)ACK：提供高性能可伸縮的容器應(yīng)用管理能力，支持企業(yè)級(jí)Kubernetes容器化應(yīng)用的全生命周期管理。函數(shù)計(jì)算FC：一個(gè)事件驅(qū)動(dòng)的全托管計(jì)算服務(wù)，通過(guò)函數(shù)計(jì)算，無(wú)需管理服務(wù)器等基礎(chǔ)設(shè)施，上傳編寫(xiě)代碼。49第七章工業(yè)先進(jìn)計(jì)算——PaaSPaaS的定義

PaaS（PlatformasaService，平臺(tái)即服務(wù)）是一種云計(jì)算服務(wù)模式，它為用戶(hù)提供一個(gè)在線(xiàn)平臺(tái)，支持在完全托管的基礎(chǔ)設(shè)施上開(kāi)發(fā)、運(yùn)行和管理應(yīng)用程序。用戶(hù)無(wú)需管理底層基礎(chǔ)設(shè)施（如服務(wù)器、存儲(chǔ)和網(wǎng)絡(luò)）或平臺(tái)的運(yùn)行時(shí)環(huán)境，只需專(zhuān)注于編寫(xiě)和部署應(yīng)用代碼。50第七章工業(yè)先進(jìn)計(jì)算——PaaSPaaS的特點(diǎn)加快開(kāi)發(fā)速度：PaaS提供了預(yù)先配置好的開(kāi)發(fā)環(huán)境，包括運(yùn)行時(shí)、數(shù)據(jù)庫(kù)和中間件等。降低成本：使用PaaS消除了對(duì)于昂貴硬件的前期投資，并減少了對(duì)運(yùn)維人員的依賴(lài)。提高可擴(kuò)展性和靈活性：PaaS平臺(tái)通常設(shè)計(jì)為高度可擴(kuò)展，支持應(yīng)用程序隨著用戶(hù)需求的增長(zhǎng)而橫向擴(kuò)展。促進(jìn)協(xié)作：由于PaaS環(huán)境是集中托管的，團(tuán)隊(duì)成員可以在任何地點(diǎn)共享訪(fǎng)問(wèn)資源和應(yīng)用程序，促進(jìn)遠(yuǎn)程協(xié)作，提高團(tuán)隊(duì)效率。維護(hù)和更新自動(dòng)化：PaaS提供商負(fù)責(zé)所有后端更新支持多種編程語(yǔ)言和工具：多數(shù)PaaS解決方案支持多種編程語(yǔ)言和框架51第七章工業(yè)先進(jìn)計(jì)算——PaaSPaas在阿里云當(dāng)中的應(yīng)用阿里云數(shù)據(jù)庫(kù)RDS：一種完全托管的關(guān)系型數(shù)據(jù)庫(kù)服務(wù)，提供MySQL、SQLServer、PostgreSQL等多種數(shù)據(jù)庫(kù)類(lèi)型。阿里云消息服務(wù)MNS：一種高效、可靠、安全、便捷、可彈性擴(kuò)展的分布式消息通知服務(wù)。容器鏡像服務(wù)ACR：一個(gè)安全、高效的容器鏡像托管服務(wù)，支持存儲(chǔ)和管理Docker鏡像。人工智能平臺(tái)PAI：面向開(kāi)發(fā)者和企業(yè)的機(jī)器學(xué)習(xí)/深度學(xué)習(xí)工程平臺(tái)，提供包含數(shù)據(jù)標(biāo)注、模型構(gòu)建、模型訓(xùn)練、模型部署、推理優(yōu)化在內(nèi)的AI開(kāi)發(fā)全鏈路服務(wù)52第七章工業(yè)先進(jìn)計(jì)算——SaaSSaas的定義SaaS（SoftwareasaService，軟件即服務(wù)）是一種將軟件部署在云端服務(wù)器上，通過(guò)互聯(lián)網(wǎng)向用戶(hù)提供應(yīng)用軟件服務(wù)的模式。用戶(hù)通常通過(guò)訂閱的方式，按需支付服務(wù)費(fèi)用，而無(wú)需購(gòu)買(mǎi)、安裝和運(yùn)維軟件及相關(guān)硬件。SaaS服務(wù)商負(fù)責(zé)軟件的維護(hù)、更新和安全保障，使用戶(hù)能夠隨時(shí)隨地通過(guò)網(wǎng)絡(luò)訪(fǎng)問(wèn)最新版本的軟件。53第七章工業(yè)先進(jìn)計(jì)算——SaaSSaaS的特點(diǎn)成本效益:SaaS消除了傳統(tǒng)軟件高昂的前期購(gòu)買(mǎi)成本和長(zhǎng)期的維護(hù)費(fèi)用。快速部署和升級(jí):由于SaaS應(yīng)用程序不需要在用戶(hù)端安裝或配置，部署速度非常快。訪(fǎng)問(wèn)靈活性與遠(yuǎn)程工作：SaaS允許用戶(hù)通過(guò)互聯(lián)網(wǎng)從世界任何地點(diǎn)訪(fǎng)問(wèn)服務(wù)，這樣的訪(fǎng)問(wèn)靈活性對(duì)適應(yīng)現(xiàn)代工作環(huán)境至關(guān)重要。擴(kuò)展性與集中化管理：SaaS模型提供了出色的可擴(kuò)展性，企業(yè)可以根據(jù)實(shí)際需求簡(jiǎn)單地增加或減少用戶(hù)許可。自動(dòng)化與協(xié)作：許多SaaS解決方案內(nèi)置了業(yè)務(wù)流程自動(dòng)化工具，這些工具可以簡(jiǎn)化重復(fù)性任務(wù)，減少人為錯(cuò)誤，提高操作效率54第七章工業(yè)先進(jìn)計(jì)算——SaaSSaaS在阿里云當(dāng)中的應(yīng)用阿里企業(yè)郵箱：多終端支持，釘+郵隨時(shí)隨地輕松辦公，支持企業(yè)郵箱本地部署，符合全棧國(guó)產(chǎn)化要求，同時(shí)售后7*24小時(shí)VIP服務(wù)支持，保障數(shù)據(jù)遷移無(wú)縫對(duì)接。專(zhuān)屬釘釘：專(zhuān)屬釘釘是針對(duì)企業(yè)協(xié)同場(chǎng)景的移動(dòng)辦公平臺(tái)，提供了強(qiáng)大的APP自定義能力，滿(mǎn)足金融級(jí)別的信息安全要求，提供釘釘核心能力的專(zhuān)屬openAPI。Teambition：數(shù)字化協(xié)作平臺(tái)，提供項(xiàng)目管理、任務(wù)協(xié)同等解決方案，目前已服務(wù)千萬(wàn)級(jí)全球用戶(hù)，10000+付費(fèi)企業(yè)。通義曉蜜：全渠道聯(lián)絡(luò)中心與AI應(yīng)用深度整合的解決方案，包括基于大模型升級(jí)的智能對(duì)話(huà)平臺(tái)、全渠道聯(lián)絡(luò)中心、智能坐席助理。55第七章工業(yè)先進(jìn)計(jì)算——公有云公有云的定義公有云是部署云計(jì)算最常見(jiàn)的方式。公有云資源（如服務(wù)器和存儲(chǔ)空間）由第三方云服務(wù)提供商擁有和運(yùn)營(yíng)，這些資源通過(guò)Internet提供。在公有云中，所有硬件、軟件和其他支持性基礎(chǔ)結(jié)構(gòu)均為云提供商所擁有和管理。在公有云中，你與其他組織或云“租戶(hù)”共享相同的硬件、存儲(chǔ)和網(wǎng)絡(luò)設(shè)備。你可以使用Web瀏覽器訪(fǎng)問(wèn)服務(wù)和管理帳戶(hù)。56第七章工業(yè)先進(jìn)計(jì)算——公有云公有云的特點(diǎn)成本更低：無(wú)需購(gòu)買(mǎi)硬件或軟件，僅對(duì)使用的服務(wù)付費(fèi)。無(wú)需維護(hù)：維護(hù)由服務(wù)提供商提供。近乎無(wú)限制的縮放性：提供按需資源，可滿(mǎn)足業(yè)務(wù)需求。高可靠性：具備眾多服務(wù)器，確保免受故障影響。57第七章工業(yè)先進(jìn)計(jì)算——公有云公有云在阿里云當(dāng)中的應(yīng)用云服務(wù)器ECS:阿里云提供的性能卓越、穩(wěn)定可靠、彈性擴(kuò)展的IaaS級(jí)別云服務(wù)器服務(wù)。云數(shù)據(jù)庫(kù):阿里云提供多種云數(shù)據(jù)庫(kù)服務(wù)，包括關(guān)系型數(shù)據(jù)庫(kù)、NoSQL數(shù)據(jù)庫(kù)等，用戶(hù)可以根據(jù)業(yè)務(wù)需求選擇合適的數(shù)據(jù)庫(kù)服務(wù)。存儲(chǔ)服務(wù):阿里云的存儲(chǔ)服務(wù)包括對(duì)象存儲(chǔ)OSS、文件存儲(chǔ)等，支持海量數(shù)據(jù)的存儲(chǔ)和訪(fǎng)問(wèn)。58第七章工業(yè)先進(jìn)計(jì)算——私有云私有云的定義私有云由專(zhuān)供一個(gè)企業(yè)或組織使用的云計(jì)算資源構(gòu)成。私有云可在物理上位于組織的現(xiàn)場(chǎng)數(shù)據(jù)中心，也可由第三方服務(wù)提供商托管。但是，在私有云中，服務(wù)和基礎(chǔ)結(jié)構(gòu)始終在私有網(wǎng)絡(luò)上進(jìn)行維護(hù)，硬件和軟件專(zhuān)供組織使用。這樣，私有云可使組織更加方便地自定義資源，從而滿(mǎn)足特定的IT需求。59第七章工業(yè)先進(jìn)計(jì)算——私有云私有云的特點(diǎn)靈活性更高：組織可自定義云環(huán)境以滿(mǎn)足特定業(yè)務(wù)需求。安全性更高：資源不與其他組織共享，從而可實(shí)現(xiàn)更高控制性和安全性級(jí)別?？s放性更高：私有云仍然具有公有云的縮放性和效率。60第七章工業(yè)先進(jìn)計(jì)算——私有云私有云在阿里云當(dāng)中的應(yīng)用專(zhuān)有云產(chǎn)品（ApsaraStack）：阿里云推出的專(zhuān)有云產(chǎn)品，允許企業(yè)在自己的數(shù)據(jù)中心部署與阿里云公有云同源的技術(shù)架構(gòu)，實(shí)現(xiàn)云服務(wù)的私有化部署企業(yè)級(jí)云服務(wù)：阿里云為企業(yè)提供包括計(jì)算、存儲(chǔ)、網(wǎng)絡(luò)、安全等在內(nèi)的全面云服務(wù)，滿(mǎn)足企業(yè)多樣化的業(yè)務(wù)需求定制化服務(wù)：針對(duì)企業(yè)特定的業(yè)務(wù)需求，阿里云可以提供定制化的私有云服務(wù)，包括組織架構(gòu)、內(nèi)部審批流程、定制化的計(jì)算服務(wù)等61第七章工業(yè)先進(jìn)計(jì)算——混合云混合云的定義混合云通常被認(rèn)為是“兩全其美”，它將本地基礎(chǔ)架構(gòu)或私有云與公有云相結(jié)合，組織可利用這兩者的優(yōu)勢(shì)。例如行云管家混合云管理平臺(tái)，不僅支持業(yè)界主流公有云廠(chǎng)商，例如：阿里云、騰訊云、華為云、等，還能夠?qū)⑵髽I(yè)內(nèi)部私有云（如：openstack）接入到云端，輕松完成混合云管理。在混合云中，數(shù)據(jù)和應(yīng)用程序可在私有云和公有云之間移動(dòng)，從而可提供更大靈活性和更多部署選項(xiàng)。62第七章工業(yè)先進(jìn)計(jì)算——混合云混合云的特點(diǎn)控制性—組織可針對(duì)敏感資產(chǎn)維持私有基礎(chǔ)結(jié)構(gòu)。靈活性—需要時(shí)可利用公有云中的其他資源。成本效益—具備擴(kuò)展至公有云的能力，因此可僅在需要時(shí)支付額外的計(jì)算能力。容易輕松—無(wú)需費(fèi)時(shí)費(fèi)力即可轉(zhuǎn)換至云，因?yàn)榭筛鶕?jù)時(shí)間按工作負(fù)荷逐步遷移。63第七章工業(yè)先進(jìn)計(jì)算——混合云混合云在阿里云當(dāng)中的應(yīng)用阿里云統(tǒng)一云管平臺(tái)（ApsaraUni-manager）是面向阿里云專(zhuān)有云的企業(yè)級(jí)云管理平臺(tái)，提供全方位的云資源供給、運(yùn)維和運(yùn)營(yíng)管理能力，具備一體化管控、自動(dòng)化運(yùn)維、智能化分析及個(gè)性化擴(kuò)展等核心競(jìng)爭(zhēng)力；致力于為客戶(hù)提供優(yōu)質(zhì)的用戶(hù)體驗(yàn)，簡(jiǎn)化專(zhuān)有云管理，加速政企數(shù)字化轉(zhuǎn)型。64第七章工業(yè)先進(jìn)計(jì)算——邊緣設(shè)備邊緣設(shè)備的定義邊緣設(shè)備是指位于網(wǎng)絡(luò)邊緣，靠近數(shù)據(jù)源的設(shè)備，它們可以收集、處理、分析并傳輸數(shù)據(jù)。邊緣設(shè)備在邊緣計(jì)算中扮演著重要角色，它們使得數(shù)據(jù)處理更加靠近數(shù)據(jù)產(chǎn)生的地點(diǎn)，從而減少延遲、提高響應(yīng)速度、降低帶寬使用，并增強(qiáng)數(shù)據(jù)安全性。65第七章工業(yè)先進(jìn)計(jì)算——邊緣設(shè)備邊緣設(shè)備的應(yīng)用場(chǎng)景邊緣設(shè)備的種類(lèi)繁多，可以是小型的傳感器、智能設(shè)備，也可以是較大的機(jī)器或系統(tǒng)。它們?cè)诓煌膽?yīng)用場(chǎng)景中發(fā)揮作用，如工業(yè)自動(dòng)化、智能家居、智慧城市、醫(yī)療健康、交通管理等領(lǐng)域。邊緣設(shè)備的作用是推動(dòng)邊緣計(jì)算在不同行業(yè)中應(yīng)用的硬件，它們用于完成不同的任務(wù)，具體取決于為其配置的軟件應(yīng)用程序或功能。66第七章工業(yè)先進(jìn)計(jì)算——邊緣設(shè)備阿里云的邊緣設(shè)備邊緣計(jì)算硬件平臺(tái)：阿里云推出了震旦異構(gòu)加速平臺(tái)、隱私計(jì)算平臺(tái)和智能邊緣運(yùn)維平臺(tái)，這些平臺(tái)旨在解決客戶(hù)邊緣方案問(wèn)題，提供異構(gòu)加速、隱私保護(hù)和智能運(yùn)維等功能物聯(lián)網(wǎng)邊緣計(jì)算產(chǎn)品：阿里云提供了包括LE-V-B012邊緣計(jì)算一體機(jī)在內(nèi)的多種產(chǎn)品，這些產(chǎn)品搭載ARM架構(gòu)處理器和平頭哥算力加速器，為AI算法提供強(qiáng)大的算力支持智能邊緣計(jì)算框架：阿里云的物聯(lián)網(wǎng)邊緣計(jì)算原生支持阿里云，并基于云邊一體的理念設(shè)計(jì)，提供通信協(xié)議開(kāi)發(fā)框架、遠(yuǎn)程運(yùn)維框架和邊緣應(yīng)用框架，以提升開(kāi)發(fā)效率67第七章工業(yè)先進(jìn)計(jì)算——邊緣節(jié)點(diǎn)邊緣節(jié)點(diǎn)的定義邊緣節(jié)點(diǎn)是邊緣計(jì)算架構(gòu)中的關(guān)鍵組成部分，它們通常部署在網(wǎng)絡(luò)的邊緣，靠近數(shù)據(jù)源或用戶(hù)。邊緣節(jié)點(diǎn)的作用是處理和分析數(shù)據(jù)，提供快速響應(yīng)和智能決策，而不需要將數(shù)據(jù)發(fā)送到遠(yuǎn)端的中心數(shù)據(jù)中心或云服務(wù)器。68第七章工業(yè)先進(jìn)計(jì)算——邊緣節(jié)點(diǎn)邊緣節(jié)點(diǎn)的特點(diǎn)減少延遲：由于邊緣節(jié)點(diǎn)靠近數(shù)據(jù)源，它們可以提供更低的延遲，這對(duì)于實(shí)時(shí)數(shù)據(jù)處理和響應(yīng)至關(guān)重要。帶寬節(jié)?。和ㄟ^(guò)在邊緣節(jié)點(diǎn)處理數(shù)據(jù)，可以減少需要發(fā)送到中心數(shù)據(jù)中心的數(shù)據(jù)量，從而節(jié)省帶寬。數(shù)據(jù)安全性：邊緣節(jié)點(diǎn)可以對(duì)數(shù)據(jù)進(jìn)行本地處理，減少數(shù)據(jù)在網(wǎng)絡(luò)中的傳輸，增強(qiáng)數(shù)據(jù)安全性。自治能力：邊緣節(jié)點(diǎn)通常具備一定程度的自治能力，即使在與中心數(shù)據(jù)中心的連接受限時(shí)，也能繼續(xù)運(yùn)行。69第七章工業(yè)先進(jìn)計(jì)算——邊緣節(jié)點(diǎn)阿里云的邊緣節(jié)點(diǎn)邊緣節(jié)點(diǎn)服務(wù)ENS：阿里云提供的邊緣節(jié)點(diǎn)服務(wù)ENS，聚焦多態(tài)計(jì)算，提供虛機(jī)實(shí)例、邊緣容器、裸金屬實(shí)例等算力服務(wù)。ENS還提供一站式編排部署，幫助業(yè)務(wù)構(gòu)建全球邊緣基礎(chǔ)設(shè)施環(huán)境。分布式云全網(wǎng)統(tǒng)一管理：基于分布式系統(tǒng)架構(gòu)，ENS支持一鍵創(chuàng)建跨地域、跨運(yùn)營(yíng)商的邊緣節(jié)點(diǎn)算力資源，實(shí)現(xiàn)智能選點(diǎn)和秒級(jí)分發(fā)終端云化及多開(kāi)原生方案：適配云游戲、云應(yīng)用、云渲染等場(chǎng)景化需求，支持ARM+安卓、X86+Windows的異構(gòu)計(jì)算軟硬件方案。70第七章工業(yè)先進(jìn)計(jì)算——邊緣網(wǎng)關(guān)邊緣網(wǎng)關(guān)的定義邊緣網(wǎng)關(guān)是一種網(wǎng)絡(luò)設(shè)備，它位于網(wǎng)絡(luò)的邊緣，靠近用戶(hù)或設(shè)備端，扮演著連接設(shè)備與云平臺(tái)或其他網(wǎng)絡(luò)服務(wù)的角色。邊緣網(wǎng)關(guān)在邊緣計(jì)算中起著至關(guān)重要的作用，它不僅負(fù)責(zé)數(shù)據(jù)的收集、初步處理和轉(zhuǎn)發(fā)，還可以執(zhí)行安全、協(xié)議轉(zhuǎn)換、設(shè)備管理等多種功能。71第七章工業(yè)先進(jìn)計(jì)算——邊緣網(wǎng)關(guān)邊緣網(wǎng)關(guān)的應(yīng)用以阿里云舉例，在阿里云的邊緣計(jì)算服務(wù)中，邊緣網(wǎng)關(guān)的應(yīng)用主要體現(xiàn)在設(shè)備連接、數(shù)據(jù)預(yù)處理、本地決策、安全性、遠(yuǎn)程運(yùn)維、云邊協(xié)同、場(chǎng)景化應(yīng)用、產(chǎn)品規(guī)格等方面。72第七章工業(yè)先進(jìn)計(jì)算——邊緣網(wǎng)關(guān)阿里云中的邊緣網(wǎng)關(guān)阿里云邊緣網(wǎng)關(guān)應(yīng)用主要圍繞其物聯(lián)網(wǎng)邊緣計(jì)算產(chǎn)品LinkIoTEdge展開(kāi)，提供了一系列功能來(lái)幫助用戶(hù)管理和處理邊緣設(shè)備的數(shù)據(jù)和事件。如：邊緣應(yīng)用管理：LinkIoTEdge提供應(yīng)用管理能力，幫助用戶(hù)標(biāo)準(zhǔn)化管理邊緣端應(yīng)用的版本、配置等。容器鏡像應(yīng)用：LinkIoTEdge支持容器鏡像應(yīng)用，可以直接從鏡像倉(cāng)庫(kù)中拉取鏡像作為邊緣應(yīng)用，支持阿里云容器鏡像服務(wù)提供的鏡像倉(cāng)庫(kù)和公共鏡像倉(cāng)庫(kù)。73第七章工業(yè)先進(jìn)計(jì)算——邊緣計(jì)算平臺(tái)邊緣計(jì)算平臺(tái)的定義邊緣計(jì)算平臺(tái)是一種技術(shù)架構(gòu)，旨在將計(jì)算能力從中心數(shù)據(jù)中心擴(kuò)展到網(wǎng)絡(luò)邊緣，靠近數(shù)據(jù)源和最終用戶(hù)。這種