“云計算與海量數(shù)據(jù)處理技術〃公開課

中國科學院計算技術研究所是國家專門的計算技術研究機構(gòu)，同時也是中國信息化建設的重要支撐單

位，中科院計算所培訓中心是致力于高端IT類人才培養(yǎng)及企業(yè)內(nèi)訓的專業(yè)培訓機構(gòu)。中心憑借科學院的強

大師資力量，在總結(jié)多年大型軟件開發(fā)和組織經(jīng)驗的基礎上，H主研發(fā)出?整套課程體系，其目的是希望

能夠切實幫助中國軟件企業(yè)培養(yǎng)高級軟件技術人才，提升整體研發(fā)能力，迄今為止已先后為國家培養(yǎng)r數(shù)

萬名計算機專業(yè)人員，井先后為數(shù)千家大型國內(nèi)外企業(yè)進行過專門的定制培訓服務。

云計算提供了一種對資源“按需索取服務〃的能力，確保了使用時間與需要時間的完全一致，從而建立了一

種分布式、高效率、低成本的IT商業(yè)模式。正是這些特點，使云計算成為IT發(fā)展的潮流與趨勢。為解決

廣大系統(tǒng)設計人員深入研究與開發(fā)云計算系統(tǒng)的需要，培訓中心特舉辦”云計算與海量數(shù)據(jù)處理技術〃培訓

班，具體事宜通知如下：

一、培訓對象

1.系統(tǒng)架構(gòu)師、系統(tǒng)分析師、高級程序員、資深開發(fā)人員。

2,牽涉到海量數(shù)據(jù)處理的機構(gòu)數(shù)據(jù)中心運行、規(guī)劃、設計負責人。

3,云服務運營服務提供商規(guī)劃負貢人。

4,高校、科研院所牽涉到大數(shù)據(jù)與分布式數(shù)據(jù)處理的項目負責人。

二、學員基礎

1.對IT系統(tǒng)設計有一定的理論與實踐經(jīng)驗。

2,數(shù)據(jù)倉庫與大數(shù)據(jù)處理有一定的基礎知識。

三、師資

由業(yè)界知名云計算專家親自授課：

楊老師主要研究網(wǎng)絡信息分析以及云計算相關技術，長期從事通信網(wǎng)管系統(tǒng)、網(wǎng)絡信息處理.、商務智能

(BI)以及電信決策支持系統(tǒng)的研究開發(fā)工作，主持和參與了多個國家和省部級基金項目，具有豐富的工程

實踐及軟件研發(fā)經(jīng)驗。

李老師國內(nèi)知名企業(yè)云平臺技術負責人，中國云親身實踐者。

四、培訓要點

今天，隨著IT規(guī)模越米越大，數(shù)據(jù)規(guī)模呈幾何級數(shù)增長，已經(jīng)妞出「傳統(tǒng)技木方法所能解決的范叫。為比，

人們把目光轉(zhuǎn)向了剛剛興起的云計算，希望通過云計算來實施海量數(shù)據(jù)處理解決方案，實現(xiàn)以更小的成本

來處理更大規(guī)模數(shù)據(jù)的目標，并成為目前云計算應用所面對的極大挑戰(zhàn)。本課程基本思想如卜.：

1.目前，”云計算〃已經(jīng)不是?個剛剛流行的時增概念了，在?些傳統(tǒng)IT方法顯得無能為力的場合，云計

算正在開始大展拳腳，表現(xiàn)了強大的解決問題的能力，海量數(shù)據(jù)存儲與處理正是屬于這種場合。我們?nèi)绾?/p>

在云計算分布式環(huán)境下正確設計大數(shù)據(jù)量數(shù)據(jù)模型？如何在設計中解決資源、效率、安全性、可靠也等一

系列極難平衡的問題？如何通過云計算幫助我們解決在傳統(tǒng)IT技術中看似解決不了的敏感問題？這些都

是我們在云計算架構(gòu)設計中需要深入研究的犍問題。

2,理解問題最好的方法是分析成功案例，本課程分別從多個角度分析在面對海量數(shù)據(jù)處理的困難時，不同的

應用體系是如何解決問題并獲得成功的。研究這些已有的體系不是目的，而是希望學員能夠通過學習這些

解決問題的方法和思路，通過歸納整理深入理解，再根據(jù)自己所面對的領域特征，形成解決具體實際問題

的方案。這也是讓云計算在海量數(shù)據(jù)處理領域真正發(fā)揮作用的有效途徑。

3,云計算是一種服務，在云計算應用架構(gòu)設計中，就必須考慮作為服務與普通的產(chǎn)品設計有哪些不同？需要

考慮的產(chǎn)品的服務特征有哪些？如何搭建面向不同層次、合適的服務平臺？在這個過程中，我們需要考慮

哪些問題？有哪些成功的案例？有些什么解決方案？

4,云計算應用最重要的問題是安全問題。安全不是一個后期需要解決的獨立問題，而是在前期就需要投入巨

大精力來考慮的產(chǎn)品策略?？梢哉f，安全性與可用性是云?計算能否順利實施與應用的關鍵點，也是云計算

架構(gòu)設計的關鍵因素。我們應該如何考慮安全問題？如何解決諸如數(shù)據(jù)安全、網(wǎng)絡安全、主機安全、數(shù)據(jù)

管理以及災難恢復等?系列問題？如何制定合適的安全性與可用性策略？在實踐中有什么經(jīng)驗和教研？

5,為了把傳統(tǒng)數(shù)據(jù)中心改造為基于云計算的服務系統(tǒng)，虛擬化是一個重要手段。我們必須深入研究虛擬化技

術是如何實現(xiàn)的。虛擬化技術有哪幾個層面的問題？如何正確應用虛擬化技術來實現(xiàn)把基礎設施向服務轉(zhuǎn)

型？各種虛擬化技術有些什么優(yōu)點？有哪些陷阱？如何規(guī)劃技術解決方案？如何正確進行云計算體系結(jié)構(gòu)

設計？

本課程不是一個泛泛的理論性、概念性的介紹課程，而是針對問題討論解決方案的深入課程。教師對于上

述領域有深入的理論研究與實踐經(jīng)驗，在課程中將會針對這些問題與學員一起進行研究，在關鍵點上還會

搭建實驗環(huán)境進行實踐研究，以加深對于這些解決方案的理解。通過本課程學習，希望推動國內(nèi)云t一算項

目開發(fā)上升到一個新水平。

五、培訓內(nèi)容

第一講云計算的概念與現(xiàn)狀

1）云計算的概念

2）云計算發(fā)展現(xiàn)狀

3）云計算實現(xiàn)機制

4）云計算的發(fā)展環(huán)境

5）云計算的優(yōu)勢

第二講從Google云計算體系，理解海量數(shù)據(jù)處理的方法

1）如何構(gòu)建海量存儲文件系統(tǒng)？

GFS系統(tǒng)架構(gòu)

GFS容錯機制

GFS系統(tǒng)管理技術

MapReduce產(chǎn)生背景

MapReduce編程模型

MapReduce實現(xiàn)機制

MapReduce案例分析

2）如何提供鎖服務解決分布式數(shù)據(jù)一致性問題？

Chubby的設計思路

Chubby中的Paxos算法

Chubby文件系統(tǒng)3）

如何建立規(guī)模龐大的高性能表結(jié)構(gòu)？

BigTable設計目標

BigTable系統(tǒng)架構(gòu)

BigTable服務器

BigTable性能優(yōu)化

4）如何建立高可用性和高可擴展性的數(shù)據(jù)系統(tǒng)？

Megastore設計目標

Megastore數(shù)據(jù)模型

Megastore事務及并發(fā)控制

Megastore基本架構(gòu)

Dapper監(jiān)控系統(tǒng)

Dapper關鍵性技術

Dapper工具

第三講從Hadoop云計算項目，進一步研究云數(shù)據(jù)處理方法

1)HDFS：高可靠性處理機制及應用

Hadoop項目簡介

HDFS體系結(jié)構(gòu)

HDFS關鍵運行機制

HadoopvsGoogle

HadoopAPI

Hadoop環(huán)境搭建

2)HBASE：龐大、極其稀疏的可擴展性數(shù)據(jù)模型

Hbase簡介

HBase的運行機制

HBase與HDFS

HBase的對外接口

ZooKeeper的數(shù)據(jù)模型

ZooKeeper的讀寫機制

ZooKeeper的使用方法

第四講從WindowsAzure,理解平臺即服務的本質(zhì)

1)微軟云計算平臺2)

微軟云操作系統(tǒng)WindowsAzure3)

微軟云關系數(shù)據(jù)庫SQLAzure4)

AzureAppFabric

5)AzureMarketplace

第五講從Amazon云計算，討論如何提供云服務

1）Dynamo基礎存儲架構(gòu)

2）彈性計算云EC2

3）簡單存儲服務S3

4）簡單隊列服務SQS

5）簡單數(shù)據(jù)庫服務SimpleDB

6）關系數(shù)據(jù)庫服務RDS7）

內(nèi)容推送服務CloudFront

第六講實施云計算的關鍵點：安全策略

1）云計算安全是一個必須前期重視的策略

2）云計算的特征與安全挑戰(zhàn)

3）云計算的安全體系與關鍵技術

4）基礎架構(gòu)云安全框架

5）云計算安全平臺

第七講當前數(shù)據(jù)中心如何向云計算環(huán)境轉(zhuǎn)變？

1）VMware云產(chǎn)品2）

云管理平臺vCenter3）

vCloudServiceDirector4）

VMware的網(wǎng)絡和存儲虛擬化

5）主流商業(yè)云計算解決方案比較

6）主流開源云計算系統(tǒng)比較

7）國內(nèi)代表性云計算平臺比較

第八講基礎設施即服務（laaS）關鍵實現(xiàn)技術

1）laaS技術體系概述

2）服務器虛擬化技術

CPU虛擬化

內(nèi)存虛擬化

I/O虛擬化3）

存儲虛擬化技術

存儲系統(tǒng)概述

存儲設備層的存儲虛擬化

塊聚合層的存儲虛擬化

文件/記錄層的存儲虛擬化

4）主機網(wǎng)絡虛擬化

第九講軟件即服務（SaaS）關鍵實現(xiàn)技術

1）SaaS技術概述

2）呈現(xiàn)層技術綜述

3）調(diào)度層技術

基于DNS的調(diào)度基

于虛擬IP的調(diào)度基

于鏈路聚合的調(diào)度基

于應用的調(diào)度

調(diào)度策略

4）業(yè)務