微博機器學習平臺混合云微博機器學習平臺的業(yè)務特點、規(guī)模???微博機器學習平臺建設的挑戰(zhàn)DCP

混合云調度平臺在機器學習中的應用實踐????春晚，紅包飛等運營活動頻發(fā)的熱點事件帶來三到四倍乃至更高的訪問量個性化、興趣化的信息流短視頻、直播等多媒體內容微博平臺的特點微博

+ 機器學習業(yè)界成果采用智u算e的信息流逐步取代人工規(guī)則信息流視覺聽覺語義算e部分u力超過人s人工智u激f機器人-

業(yè)，

全面改造p會微博p交媒體以人為本，有效連接人－內容－人內容－人：feed流熱門流

push等人－內容：反黃垃圾過濾等人－人：用戶推薦親密度等微博＋機器學+機器學+

可以對微博的主流業(yè)務帶來巨大價值，

同時在智u潮流大時代逐h成為決定p交媒體業(yè)務的生d因素之一微博機器學習平臺的系統(tǒng)體量??每日上億用戶，百億分鐘閱讀時間萬億級樣本、近百億級特征的超大規(guī)模機器學習平臺機器學習平臺的效果衡量???用戶點擊量用戶互動行為（轉發(fā)、評論、贊）用戶使用時長?微博機器學習平臺的業(yè)務特點、規(guī)模??微博機器學習平臺建設的挑戰(zhàn)DCP

混合云調度平臺在機器學習中的應用實踐機器學習平臺的挑戰(zhàn)??機器學習平臺要成為支撐萬億級樣本、近百億級特征的超大規(guī)模平臺，平臺對存儲、計算有非常大的需求和挑戰(zhàn)對于成熟的互聯(lián)網(wǎng)企業(yè)，機房機架位資源更加趨于緊張，機器學習平臺需要超大規(guī)模服務器資源，有較大的資源壓力和成本壓力??微博機器學習平臺的業(yè)務特點、規(guī)模微博機器學習平臺建設的挑戰(zhàn)?DCP

混合云調度平臺在機器學習中的應用實踐混合云DCP???基于Docker的云資源管理與調度平臺支撐鏡像倉庫、多云支持、服務編排、服務發(fā)現(xiàn)支持服務池的快速擴縮容，有長期的熱點峰值流量的彈性調度實踐經驗混合云DCP實踐??已完成基于Docker的全自動化運維平臺的建設，并完成了微博主要業(yè)務的改造覆蓋2017年春晚保障中，在不到—天的時間內完成了近5000臺服務器的創(chuàng)建和部署上線，幫助微博實現(xiàn)了在新的流量峰值的情況下整體服務無降級的成績混合云DCP平臺的演進Dispatch任務執(zhí)行引擎混合云DCP的本輪演進??支持內網(wǎng)虛擬化引擎支持大規(guī)模學習集群整體架構混合云DCP公有云調度私有內彈性擴容私有云、公有云同時彈性擴容擴容到公有云彈性混合云DCP流程機器學習平臺組件的Docker化????特征工程平臺的各組件流式計算Storm，Spark，SparkStreaming微博TensorflowCluster混合云DCP平臺混合云DCP平臺彈性擴容管理員混合4平臺發(fā)起請求l

資源評6調度中心5

發(fā)起容B調度服務6

部署服務Con./lg群B/fferS資源2足 2

配額評6配額模C初始化模C監(jiān)控中心4/7層模CConfigSrvif擴容11流e接7模C7

服務注冊服務檢查彈性調度下的資源共享機器學習平臺-公有云調度???使用阿里云OSS擴展大規(guī)模存儲使用阿里云ECS支撐如熱1微博彈性擴容的計算資源需求在阿里云IaaS上使用預制鏡像，快速擴充Spark/Storm類流式分析服務機器學習平臺

-

內網(wǎng)虛擬化建設??置換陳舊設備，采用提高計算密度的方式，用于機架資源的高效利用計算資源單元化，柔性支持業(yè)務擴展和縮容OpenStack選型?OpenStack

Mitaka?可管理性????Keystone更細粒度的控制（Domains,

Projects,

Users,Groups,and

Roles）單—的命令行客戶端SDK進展Neutron

API易用性OpenStack選型??????可擴展性Heat的可擴展性調度器LBaaS

v2Nova熱遷移OpenStack選型??KVMCeph分布式存儲OpenStack部分調優(yōu)???調整QEMU版本系統(tǒng)參數(shù)優(yōu)化使用Rally項目進行擴容瓶頸壓測混合云DCP的內網(wǎng)虛擬化實踐????生產引流壓測虛機類型配比模板在同—宿主機上混合不同業(yè)務類型的虛機，盡可能利用宿主機的物理資源目前規(guī)模300臺物理宿主OpenDCP??????開源地址:/weibocom/opendcp綜合性的運維管理平臺。涵蓋運維配置、發(fā)布、上線變更等運維管理主要功能，而不局限于容器集群管理，可適配Kubernetes、Mesos、Swarm等功能覆蓋鏡像市場、多云對接、服務編排、服務發(fā)現(xiàn)等云資源管理主要環(huán)節(jié)支持阿里云、AWS、私有云等主流云廠商支持Nginx、SLB等服務發(fā)現(xiàn)方式支持Java、PHP、C/C++、Go等主流語言小結???解決了目前階段的機架資源緊張利用不同業(yè)務時段特征，實現(xiàn)資源的潮沙調度快速部署機器學習的功能集群近期的方向??????基于O