深度學(xué)習(xí)平臺(tái)建設(shè)方案深度學(xué)習(xí)已經(jīng)成為人工智能時(shí)代的入口，國(guó)內(nèi)外行業(yè)巨頭紛紛在語(yǔ)音識(shí)別、圖像識(shí)別、自然語(yǔ)言處理等領(lǐng)域拓展深度學(xué)習(xí)版圖，代表性的有谷歌的深度學(xué)習(xí)框架TensorFlow，F(xiàn)acebook的人工智能計(jì)算服務(wù)器BigSur，越來(lái)越“聰明”的IBM人工智能Watson，微軟的“深度殘差學(xué)習(xí)”，科大訊飛的語(yǔ)音識(shí)別云等。簡(jiǎn)單地說(shuō)，深度學(xué)習(xí)通過(guò)構(gòu)建深層神經(jīng)網(wǎng)絡(luò)，模擬人類大腦的工作原理。如圖所示，深層神經(jīng)網(wǎng)絡(luò)由一個(gè)輸入層，數(shù)個(gè)隱層，以及一個(gè)輸出層構(gòu)成。每層有若干個(gè)神經(jīng)元，每個(gè)神經(jīng)元模擬人類的神經(jīng)細(xì)胞，而結(jié)點(diǎn)之間的連接模擬神經(jīng)細(xì)胞之間的連接?？梢詫⑸疃葘W(xué)習(xí)理解為大腦的“構(gòu)建”，雖然潛力無(wú)限，但是門檻不可謂不高。首先，深度學(xué)習(xí)網(wǎng)絡(luò)模型復(fù)雜，計(jì)算量大。以DNN（深度神經(jīng)網(wǎng)絡(luò)）為例，它需要模擬人腦的計(jì)算能力，而人腦包含100多億個(gè)神經(jīng)細(xì)胞，這要求DNN中神經(jīng)元多，神經(jīng)元間連接數(shù)量也相當(dāng)驚人，如此龐大的計(jì)算量需要高性能的硬件以及與之配套的軟件系統(tǒng)提供支撐。其次，DNN需要大量數(shù)據(jù)才能訓(xùn)練出高準(zhǔn)確率的模型。為了達(dá)到理想的學(xué)習(xí)效果，DNN需要利用海量訓(xùn)練數(shù)據(jù)，進(jìn)行反復(fù)多次實(shí)驗(yàn)，從而選擇合理的選擇優(yōu)化方式，訓(xùn)練出高準(zhǔn)確率的模型。因此，深度學(xué)習(xí)對(duì)訓(xùn)練數(shù)據(jù)提出了較高要求。再者，對(duì)于不少深度學(xué)習(xí)研究者而言，部署困難成為了一個(gè)大問(wèn)題。很多時(shí)候，即使購(gòu)入了高精尖的深度學(xué)習(xí)設(shè)備，但由于難以部署，高價(jià)買回的設(shè)備只能擱置。因此，深度學(xué)習(xí)成為一個(gè)效果很好但門檻極高的方向。而xx大數(shù)據(jù)發(fā)布的DeepRack深度學(xué)習(xí)一體機(jī)，切實(shí)幫助解決深度學(xué)習(xí)應(yīng)用中遇到的障礙與困境。平臺(tái)簡(jiǎn)介DeepRack深度學(xué)習(xí)一體機(jī)是南京xx大數(shù)據(jù)科技股份有限公司自主研發(fā)的深度學(xué)習(xí)軟硬件平臺(tái)，包含24U半高機(jī)柜，最多可配置4臺(tái)4U高性能服務(wù)器；每臺(tái)服務(wù)器CPU選用最新的英特爾E5-2600系列至強(qiáng)處理器；每臺(tái)服務(wù)器最多可插入4塊英偉達(dá)GPU卡；可選配GeForceTitanX、TeslaK40、TeslaK80等各檔次英偉達(dá)GPU卡；部署有TensorFlow、Caffe等主流的深度學(xué)習(xí)開(kāi)源工具軟件，并提供大量免費(fèi)圖片數(shù)據(jù)。根據(jù)操作手冊(cè)用戶可快速搭建屬于自己的深度學(xué)習(xí)應(yīng)用，從而提高了工作效率。DeepRack深度學(xué)習(xí)一體機(jī)具有超高性價(jià)比、超高計(jì)算性能、超高可靠性等特性，能夠?yàn)橛脩籼峁┬阅茏吭健⒎€(wěn)定、便捷、安全的深度學(xué)習(xí)計(jì)算服務(wù)。準(zhǔn)系統(tǒng)DeepRack深度學(xué)習(xí)一體機(jī)內(nèi)部采用專業(yè)GPU服務(wù)器設(shè)計(jì)，特別考慮了散熱能力，力保7*24大數(shù)據(jù)模型訓(xùn)練不間斷。每個(gè)節(jié)點(diǎn)提供兩個(gè)2000瓦電源，保證了GPU滿配情況下的主機(jī)供電需要。采用英特爾E5家族系列CPU及英特爾服務(wù)器組件，具有性價(jià)比高、處理性能優(yōu)越、可靠性高等特性。深度學(xué)習(xí)一體機(jī)各規(guī)格使用的不同CPU性能參數(shù)如下表：CPU參數(shù)E5-2620V3E5-2650V3E5-2697V36核12線程10核20線程14核28線程2.40GHz2.30GHz2.60GHzGPU深度學(xué)習(xí)是需要訓(xùn)練的，所謂的訓(xùn)練就是在成千上萬(wàn)個(gè)變量中尋找最佳值的計(jì)算。這需要通過(guò)不斷的嘗試實(shí)現(xiàn)收斂，而最終獲得的數(shù)值并非是人工確定的數(shù)字，而是一種常態(tài)的公式。通過(guò)這種像素級(jí)的學(xué)習(xí)，不斷總結(jié)規(guī)律，計(jì)算機(jī)就可以實(shí)現(xiàn)像像人一樣思考。如今，幾乎所有的深度學(xué)習(xí)研究者，包括BAT、谷歌，F(xiàn)acebook等等工業(yè)界的大佬，都在使用GPU進(jìn)行相關(guān)的研究。而英偉達(dá)具備CUDA支持的GPU為用戶學(xué)習(xí)Caffe、TensorFlow等研究工具提供了很好的入門平臺(tái)。其實(shí)GPU不僅僅是指專注于HPC領(lǐng)域的Tesla，包括Geforce在內(nèi)的GPU都可以支持CUDA計(jì)算，這也為初學(xué)者提供了相對(duì)更低的應(yīng)用門檻。得益于硬件支持與軟件編程、設(shè)計(jì)方面的優(yōu)勢(shì)，英偉達(dá)GPU才成為了目前應(yīng)用最廣泛的平臺(tái)。下表為英偉達(dá)各主流GPU的參數(shù)，客戶可根據(jù)實(shí)際需求，選用不同的GPU來(lái)做自己的深度學(xué)習(xí)訓(xùn)練。英偉達(dá)GPU參數(shù)表GPU型號(hào)TitanXK40K80Peaksingleprecisionfloatingpointperformance7Tflops4.29Tflops8.73TflopsCUDAcores307228804992Memorysize12GB12GB24GB平臺(tái)優(yōu)勢(shì)特性使用DeepRack深度學(xué)習(xí)一體機(jī)解決方案，用戶可快速搭建屬于自己的深度學(xué)習(xí)應(yīng)用。靈活的高性能硬件配置??DeepRack深度學(xué)習(xí)一體機(jī)包含24U半高機(jī)柜，最多可配置4臺(tái)4U高性能服務(wù)器；每臺(tái)服務(wù)器CPU選用最新的英特爾E5-2600系列至強(qiáng)處理器；每臺(tái)服務(wù)器最多可插入4塊英偉達(dá)GPU卡；可選配GeForceTitanX、TeslaK20、K40、K80等各檔次英偉達(dá)GPU卡，以滿足不同深度學(xué)習(xí)應(yīng)用的需求。DeepRack深度學(xué)習(xí)一體機(jī)為用戶提供最大每秒128萬(wàn)億次的單精度計(jì)算能力，滿配時(shí)相當(dāng)于160臺(tái)服務(wù)器的計(jì)算能力，使您的深度學(xué)習(xí)產(chǎn)品在計(jì)算效率上具有非凡競(jìng)爭(zhēng)力；另外，充分考慮了7*24小時(shí)大規(guī)模運(yùn)算的需要，一體機(jī)內(nèi)部采用專業(yè)的散熱、能耗設(shè)計(jì)。集成最知名的深度學(xué)習(xí)軟件系統(tǒng)DeepRack深度學(xué)習(xí)一體機(jī)預(yù)裝CentOS操作系統(tǒng)，集成了兩套世界一流的開(kāi)源工具軟件——Google的TensorFlow以及伯克利大學(xué)的Caffe，以幫助學(xué)習(xí)諸如圖像識(shí)別、語(yǔ)音識(shí)別和語(yǔ)言翻譯等任務(wù)。提供基礎(chǔ)訓(xùn)練數(shù)據(jù)DeepRack深度學(xué)習(xí)一體機(jī)提供了MNIST、CIFAR-10、ImageNet等圖像數(shù)據(jù)集，以滿足實(shí)驗(yàn)與模型塑造過(guò)程中的訓(xùn)練數(shù)據(jù)需求。即買即用，周到服務(wù)DeepRack深度學(xué)習(xí)一體機(jī)預(yù)裝CentOS操作系統(tǒng)，安裝配置了TensorFlow、Caffe等主流深度學(xué)習(xí)開(kāi)源工具軟件，并免費(fèi)提供大量的可訓(xùn)練數(shù)據(jù)，用戶根據(jù)操作手冊(cè)，可快速搭建屬于自己的深度學(xué)習(xí)應(yīng)用。為了克服學(xué)習(xí)障礙，xx大數(shù)據(jù)向用戶提供周到的免費(fèi)培訓(xùn)，幫您帶出一個(gè)能夠應(yīng)用深度學(xué)習(xí)的團(tuán)隊(duì)來(lái).深度學(xué)習(xí)一體機(jī)包含24U半高機(jī)柜，最多可配置4臺(tái)4U高性能計(jì)算節(jié)點(diǎn)；每臺(tái)節(jié)點(diǎn)CPU選用最新的英特爾E5-2600系列至強(qiáng)處理器；每臺(tái)節(jié)點(diǎn)最多可插入4塊英偉達(dá)GPU卡；可選配GeForceTitanX、TeslaK40、TeslaK80等各檔次英偉達(dá)GPU卡。深度學(xué)習(xí)一體機(jī)外觀節(jié)點(diǎn)內(nèi)部圖目前DeepRack深度學(xué)習(xí)一體機(jī)具有以下四種規(guī)格：極簡(jiǎn)型、經(jīng)濟(jì)型、標(biāo)準(zhǔn)型以及增強(qiáng)型。其中，極簡(jiǎn)型作為單機(jī)，擁有單一節(jié)點(diǎn)，其他三種規(guī)格則是包括4個(gè)節(jié)點(diǎn)的獨(dú)立機(jī)柜。各型號(hào)的深度學(xué)習(xí)一體機(jī)具體配置如下表所示：各型號(hào)配置極簡(jiǎn)型經(jīng)濟(jì)型標(biāo)準(zhǔn)型增強(qiáng)型CPUDualE5-2620V3DualE5-2620V3DualE5-2650