2023學年完整公開課版存儲格式_第1頁
2023學年完整公開課版存儲格式_第2頁
2023學年完整公開課版存儲格式_第3頁
2023學年完整公開課版存儲格式_第4頁
2023學年完整公開課版存儲格式_第5頁
已閱讀5頁，還剩5頁未讀， 繼續(xù)免費閱讀

付費下載

下載本文檔

版權(quán)說明：本文檔由用戶提供并上傳，收益歸屬內(nèi)容提供方，若內(nèi)容存在侵權(quán)，請進行舉報或認領(lǐng)

文檔簡介

主講：張義目錄0102如何選擇Spark文件格式常見存儲格式如何選擇Spark文件格式1如何選擇Spark文件格式存儲Spark輸入數(shù)據(jù)的方式對于Spark應用程序的性能有著重要影響。在進行MapReduce處理時，對于Spark使用的文件格式，也可以從如下幾點來考慮：文件的可分離性文件可以并行處理嗎文件大小壓縮可能性和可用的壓縮編解碼器如何選擇Spark文件格式可以以各種存儲格式存儲數(shù)據(jù)。Spark可以處理結(jié)構(gòu)化和非結(jié)構(gòu)化的存儲格式，例如文本文件、SequenceFiles和Hadoop文件。CSV、JSON和XML文件是特殊的結(jié)構(gòu)化文本文件。在前面的學習中我們了解到，可以使用textFile方法讓Spark讀取文本文件。Spark還可以使用wholeTextFiles方法從一個文件夾中讀取一組文本文件。下面我們來看看如何在Spark中處理特殊的文本文件。常見存儲格式2常見存儲格式為了分析以CSV格式排序的數(shù)據(jù)，需要在其上創(chuàng)建一個DataFrame。雖然可以使用默認的textFile方法并自己指定一個模式，但是我們有更好的選擇。使用Databrick的spark-csv軟件包更方便。下面是一個如何使用spark-csv包的示例：valdf=sql.Context.read.format("com.databricks.spark.csv").option("header","true"),.option(“inferSchema”,“true”).load("mydata.csv")常見存儲格式可以以編程方式提供模式，或者讓Spark從數(shù)據(jù)中推斷出模式。自己提供數(shù)據(jù)有兩個好處：節(jié)省時間，因為Spark不必讀取整個數(shù)據(jù)集來推斷模式。可以通過僅指定所需的字段使Spark忽略不需要的字段。由于XML文件較為冗長并且每行不是XML對象，因此XML文件表現(xiàn)欠佳。由于這些原因，不能并行讀取這些文件?？梢允褂胻extFile方法來讀取XML文件，但是要逐行閱讀。雖然性能不是很好，但是當XML文件足夠小，內(nèi)存不是問題時，可以使用wholeTextfile方法來讀取文件。所得RDD鍵/值對中，鍵為文件路徑，值為文本文件。常見存儲格式SequenceFiles是一種受歡迎的Hadoop存儲格式，因為我們可以很方便地處理它們的壓縮和未壓縮格式。SequenceFiles的同步標記使得識別記錄邊界很容易。使用SequenceFiles可以進行任何的并行化工作。推薦使用Parquet作為SparkSQL的存儲文件格式。Parquet是一種列式文件

溫馨提示

  • 1. 本站所有資源如無特殊說明，都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等，如果需要附件，請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙，網(wǎng)頁內(nèi)容里面會有圖紙預覽，若沒有圖紙預覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫網(wǎng)僅提供信息存儲空間，僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護處理，對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯，并不能對任何下載內(nèi)容負責。
  • 6. 下載文件中如有侵權(quán)或不適當內(nèi)容，請與我們聯(lián)系，我們立即糾正。
  • 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

評論

0/150

提交評論