英特爾AI實(shí)踐案例集3第二代英特爾?

至強(qiáng)?

可擴(kuò)展處理器的強(qiáng)勁算力及英特爾?

深度學(xué)習(xí)加速，讓飛槳

INT8方案在不影響推理準(zhǔn)確度的情況下，推理速度得以顯著提升。高鐵柱高級經(jīng)理百度深度學(xué)習(xí)平臺(tái)部智能圖像分析深度學(xué)習(xí)推理為飛槳*

增添“加力推進(jìn)器”百度*

飛槳*

INT8方案借英特爾?

深度學(xué)習(xí)加速技術(shù)提升推理效率在圖像識(shí)別與分類等場景的深度學(xué)習(xí)中發(fā)揮INT8的優(yōu)勢基于MKL/MKL-DNN對不同深度學(xué)習(xí)模型進(jìn)行特定優(yōu)化利用第二代英特爾?

至強(qiáng)?

可擴(kuò)展處理器集成的英特爾?

深度學(xué)習(xí)加速技術(shù)對INT8更優(yōu)的支持FP32

和

INT8

推理準(zhǔn)確度結(jié)果比較

FP32

和

INT8

推理吞吐量結(jié)果比較英特爾?

深度學(xué)習(xí)加速技術(shù)英特爾?

MKL 英特爾?

MKL-DNN能效更優(yōu)提升推理效率、降低功耗和部署復(fù)雜度2-3倍使用INT8時(shí)的推理速度是FP32時(shí)的INT8與FP32的深度學(xué)習(xí)模型推理準(zhǔn)確度差值1%以內(nèi)12為AI訓(xùn)練和超算定制高性能存儲(chǔ)百度智能云*

全閃對象存儲(chǔ)方案導(dǎo)入QLC固態(tài)盤+傲騰TM

固態(tài)盤組合來自英特爾的全閃產(chǎn)品組合，及其與英特爾?

至強(qiáng)?

可擴(kuò)展處理器的配合，幫助我們的方案在穩(wěn)定性、IOPS等方面實(shí)現(xiàn)了更優(yōu)表現(xiàn)，成為應(yīng)對海量非結(jié)構(gòu)化小文件的得力手段。百度智能云私有云存儲(chǔ)團(tuán)隊(duì)高性能存儲(chǔ)AI,

大數(shù)據(jù)，高性能計(jì)算可部署于私有云，專攻

AI

訓(xùn)練、大數(shù)據(jù)和高性能計(jì)算將久經(jīng)考驗(yàn)的高性能對象存儲(chǔ)引擎引入方案“全閃”

=傲騰TM

固態(tài)盤

+

QLC

3D

NAND固態(tài)盤由ABCStorage高性能存儲(chǔ)解決方案支持的AI訓(xùn)練流程文件數(shù)據(jù)增加10倍時(shí)，QPS和延遲波動(dòng)保持在以內(nèi)TCO

降低60%用戶業(yè)務(wù)效率提高5% 1-3倍

34 5實(shí)時(shí)彈屏顯示的推理速度提升達(dá)涉黃內(nèi)容檢測的推理效率提升達(dá)面部識(shí)別應(yīng)用的推理效率提升達(dá)引入OpenVINO?

工具套件，提升Jarvis*

平臺(tái)的推理效率導(dǎo)入英特爾?

至強(qiáng)?

可擴(kuò)展處理器，并使用MKL/MKL-DNN對云平臺(tái)進(jìn)行系統(tǒng)級優(yōu)化將AI與云計(jì)算結(jié)合，構(gòu)建基于云的深度學(xué)習(xí)平臺(tái)Jarvis愛奇藝Jarvis*

深度學(xué)習(xí)云平臺(tái)的架構(gòu)圖解智能視頻服務(wù)英特爾?

至強(qiáng)?

可擴(kuò)展處理器及英特爾?

OpenVINO?

工具套件不僅使我們的深度學(xué)習(xí)云平臺(tái)獲得了更強(qiáng)的算力，也使深度學(xué)習(xí)推理效率得到了顯著的提升，進(jìn)而讓視頻服務(wù)變得更為高效和智能。張磊研究員愛奇藝深度學(xué)習(xí)訓(xùn)練+推理基于英特爾?

OpenVINO?

工具套件的Jarvis平臺(tái)推理優(yōu)化過程5 4 6倍左右倍左右 倍左右11倍文本檢測應(yīng)用中的推理性能提升達(dá)讓視頻服務(wù)實(shí)現(xiàn)全流程智能化愛奇藝*

導(dǎo)入英特爾?

架構(gòu)軟硬件組合優(yōu)化深度學(xué)習(xí)云平臺(tái)Intel?MKLIntel?

MKL-DNN67895前沿研究馮霽博士LAMDA南京大學(xué)表現(xiàn)上佳10經(jīng)海量樣本訓(xùn)練對比驗(yàn)證，召回率、準(zhǔn)確率深化合作成立面向AI領(lǐng)域的英特爾?

并行計(jì)算中心

深度森林更多是需要并行地在多棵樹上進(jìn)行決策計(jì)算，在這方面，GPGPU很難發(fā)揮其長處，而這恰恰是CPU，尤其是擁有多核、高頻能力的英特爾?架構(gòu)處理器所擅長的地方。深度學(xué)習(xí)非常顯著至強(qiáng)?

處理器使決策樹訓(xùn)練速度提升利用針對英特爾?

架構(gòu)的優(yōu)化，提升訓(xùn)練速度和質(zhì)量基于英特爾?

架構(gòu)硬件基礎(chǔ)設(shè)施，優(yōu)化算法與模型英特爾?

編譯器深度森林與其他AI方法的PR曲線對比11獲取白皮書AI≠深度神經(jīng)網(wǎng)絡(luò)南京大學(xué)LAMDA*

攜手英特爾，推進(jìn)深度森林的探索與應(yīng)用觀看視頻6實(shí)踐表明，我們工廠非常歡迎這種務(wù)實(shí)的工業(yè)視覺檢測解決方案，它的部署速度快，對產(chǎn)線的生產(chǎn)影響非常低，未來我們會(huì)把它復(fù)制到我們所有的產(chǎn)線。黃姚根設(shè)備負(fù)責(zé)人美的微波爐工程部智能制造深度學(xué)習(xí)訓(xùn)練+推理基于

“大數(shù)據(jù)+AI”

端到端解決方案，打造工業(yè)視覺檢測系統(tǒng)，實(shí)現(xiàn)敏捷、高性能通用化缺陷檢測能力項(xiàng)目部署周期縮短 人工成本減少推理時(shí)間從2秒縮短至為制造增添“眼”和“腦”英特爾助力美的*構(gòu)建工業(yè)視覺檢測云平臺(tái)57%12

70%13

124毫秒14

獲取白皮書觀看視頻7李培吉韻達(dá)快遞首席架構(gòu)師韻達(dá)股份大規(guī)模部署京、滬、廣、深等一線城市逐步展開未來合作更多AI

應(yīng)用開發(fā)與部署

依托英特爾?

AI架構(gòu)核心軟硬件強(qiáng)大的算力和優(yōu)化，韻達(dá)發(fā)揮數(shù)據(jù)優(yōu)勢，在三大關(guān)鍵業(yè)務(wù)環(huán)節(jié)構(gòu)建AI應(yīng)用，極大提升全產(chǎn)業(yè)鏈的效率，降低成本，推動(dòng)行業(yè)智能化變革。行業(yè)智能化提升效率、優(yōu)化資源、降低成本韻達(dá)物流快遞三大關(guān)鍵業(yè)務(wù)環(huán)節(jié)加速快遞行業(yè)智能化變革英特爾?

架構(gòu)AI核心軟硬件助力韻達(dá)*

提升物流系統(tǒng)運(yùn)轉(zhuǎn)效率深度學(xué)習(xí)訓(xùn)練+推理 智能物流運(yùn)用英特爾?

架構(gòu)軟硬件產(chǎn)品組合，助力三大關(guān)鍵業(yè)務(wù)環(huán)節(jié)：在分撥中心實(shí)現(xiàn)大小件測量的全流程AI處理在資源配置上實(shí)施更精準(zhǔn)的AI件量預(yù)測在數(shù)據(jù)中心內(nèi)實(shí)現(xiàn)基于AI分析的數(shù)據(jù)中心異常檢測獲取白皮書8語音識(shí)別、自然語言處理AI云平臺(tái)在至強(qiáng)?

可擴(kuò)展平臺(tái)上優(yōu)化算法與應(yīng)用第二代英特爾?

至強(qiáng)?

可擴(kuò)展處理器集成的深度學(xué)習(xí)加速技術(shù)，對加速AI計(jì)算很有幫助，同時(shí)還有助于降低AI云的TCO。在訊飛AI云的真實(shí)環(huán)境測試中，它已經(jīng)能讓CPU達(dá)到甚至超過原來GPU的性能15。張致江云計(jì)算研究院副院長科大訊飛均衡提升計(jì)算和存儲(chǔ)性能可替代GPGPU降低TCO導(dǎo)入第二代英特爾?

至強(qiáng)?

可擴(kuò)展處理器、英特爾?

傲騰TM

數(shù)據(jù)中心級固態(tài)盤優(yōu)化AI云，從至強(qiáng)開始科大訊飛*

采用英特爾核心計(jì)算和存儲(chǔ)產(chǎn)品，升級AI云計(jì)算平臺(tái)觀看視頻9企業(yè)級AI核心系統(tǒng)英特爾?

至強(qiáng)?

處理器、英特爾?

傲騰?

固態(tài)盤，以強(qiáng)勁的算力和可觀的存儲(chǔ)能力，有力支撐了

“范式先知”

平臺(tái)高維深度模型的廣泛應(yīng)用，加速了人工智能落地。涂威威資深科學(xué)家第四范式*信用卡交易反欺詐識(shí)別準(zhǔn)確率提升達(dá)糖尿病患病率預(yù)測準(zhǔn)確率，相比“金標(biāo)準(zhǔn)”內(nèi)就完成線上數(shù)據(jù)集成到評分，實(shí)現(xiàn)“事中反欺詐”完善封裝新技術(shù)、新算法和可視化界面，降低AI應(yīng)用門檻以標(biāo)準(zhǔn)化流程提供便捷、高效的開發(fā)工具和運(yùn)行環(huán)境支持基于英特爾?

架構(gòu)平臺(tái)，突破機(jī)器學(xué)習(xí)效果瓶頸機(jī)器學(xué)習(xí)訓(xùn)練+推理>7倍

20毫秒

2-3倍“范式先知”平臺(tái)為企業(yè)用戶提供“所見即所得”的工作模式，能以“拖拉拽”的方式快速構(gòu)建可視化的模型訓(xùn)練過程助更多傳統(tǒng)企業(yè)擁抱AI范式先知*

平臺(tái)采用英特爾技術(shù)，加速AI應(yīng)用落地16 1718

獲取白皮書10加速影像分析，提高診斷效率西安盈谷*

基于英特爾?

架構(gòu)軟硬件，打造醫(yī)療智能化輔助診斷系統(tǒng)醫(yī)學(xué)影像分析深度學(xué)習(xí)推理原先的系統(tǒng)中，渲染和人工智能各用一種

GPU

，業(yè)務(wù)處理則用通用處理器，成本很高且維護(hù)復(fù)雜。我們正計(jì)劃將這些任務(wù)全部遷移到英特爾?

架構(gòu)平臺(tái)，將其全部搞定。黃燁東創(chuàng)始人西安盈谷網(wǎng)絡(luò)科技有限公司肺癌智能化輔助診斷定量的監(jiān)測敏感度高達(dá)肺癌篩查時(shí)間由人工的10

多分鐘縮短到采用MKL-DNN，進(jìn)一步優(yōu)化系統(tǒng)所用AI模型的性能利用針對英特爾?

架構(gòu)優(yōu)化的AI框架，提升鋪助診斷系統(tǒng)功效導(dǎo)入至強(qiáng)?

平臺(tái)，推進(jìn)醫(yī)真云*

上醫(yī)學(xué)影像相關(guān)負(fù)載的整合

Intel?

MKL-DNN 針對英特爾?

架構(gòu)優(yōu)化的單幅胸部Dicom數(shù)據(jù)執(zhí)行RFCN模型處理延時(shí)比較可將醫(yī)技設(shè)備鏈接和聚合起來的醫(yī)真云，相比主流GPGPU，RFCN模型推理耗時(shí)減少196 95%20

10%21秒內(nèi)

是西安盈谷Cloud

IDT智能化輔助診斷服務(wù)的基石獲取白皮書11應(yīng)用英特爾?

架構(gòu)產(chǎn)品，幫助我們成功地應(yīng)對了在大數(shù)據(jù)集群上構(gòu)建大規(guī)模深度學(xué)習(xí)應(yīng)用的挑戰(zhàn)，與運(yùn)行獨(dú)立的GPU集群比，提升了性能，降低了成本。汪振華京東高級軟件工程師深度學(xué)習(xí)推理3.83倍智能零售Intel?

MKL在Spark*

集群上使用BigDL庫運(yùn)行現(xiàn)有Caffe*

模型可通過基于至強(qiáng)?

處理器的服務(wù)器進(jìn)行橫向擴(kuò)展基于英特爾?

架構(gòu)硬件基礎(chǔ)設(shè)施，優(yōu)化算法與模型橫向擴(kuò)展基于至強(qiáng)?

平臺(tái)，技術(shù)設(shè)施更易擴(kuò)展

更利于應(yīng)用開發(fā)基于GPGPU的加速和生產(chǎn)部署則難以實(shí)現(xiàn)與GPGPU

相比，性能提升高達(dá)京東的特征提取工作流程，使用BigDL管理用于目標(biāo)檢測的

SSD

模型以及用于特征提取的

DeepBit

模型用CPU替代GPU，加速圖像分析至強(qiáng)?

平臺(tái)+BigDL助京東*

實(shí)現(xiàn)商品圖像數(shù)據(jù)庫高效擴(kuò)展及分析22獲取白皮書12英特爾為反欺詐模型提供了高性能處理器，為模型各層面提供了優(yōu)化手段，幫助系統(tǒng)實(shí)現(xiàn)了高功效，為人工智能在該領(lǐng)域的應(yīng)用提供了經(jīng)驗(yàn)，為深度學(xué)習(xí)在金融領(lǐng)域場景的落地鋪平了道路。中國銀聯(lián)電子商務(wù)與電子支付國家工程實(shí)驗(yàn)室機(jī)器學(xué)習(xí)訓(xùn)練intel?Python針對英特爾?

架構(gòu)優(yōu)化的GBDT→GRU→RF

三明治結(jié)構(gòu)欺詐偵測模型的架構(gòu)

GBDT→GRU→RF三明治結(jié)構(gòu)欺詐偵測模型評估效果用“三明治”

來反欺詐英特爾助力中國銀聯(lián)*

電子商務(wù)與電子支付國家工程實(shí)驗(yàn)室*金融反欺詐模型研究與應(yīng)用金融反欺詐創(chuàng)新的反欺詐模型，樹立了行業(yè)標(biāo)桿驗(yàn)證英特爾技術(shù)在金融行業(yè)的正向作用將引進(jìn)更多英特爾技術(shù)和產(chǎn)品對模型中的三層方法分別提供針對性的技術(shù)和工具優(yōu)化構(gòu)建

GBDT→GRU→RF

三明治結(jié)構(gòu)欺詐偵測模型獲取白皮書13智能安防英特爾為前端推理和后端深度學(xué)習(xí)平臺(tái)提供的高性能計(jì)算引擎，為我們?nèi)碌摹吧铐比謹(jǐn)z像機(jī)輸入了源源不斷的處理能力。來自于用戶的反饋顯示，新系統(tǒng)能夠很好地提高破案效率。沈林杰算法總監(jiān)