【移動(dòng)應(yīng)用開(kāi)發(fā)技術(shù)】如何對(duì)大量數(shù)據(jù)進(jìn)行存儲(chǔ)、處理、操作

所謂海量數(shù)據(jù)處理，無(wú)非就是基于海量數(shù)據(jù)上的存儲(chǔ)、處理、操作。何謂海量，就是數(shù)據(jù)量太大，所以導(dǎo)致要么是無(wú)法在較短時(shí)間內(nèi)迅速解決，要么是數(shù)據(jù)太大，導(dǎo)致無(wú)法一次性裝入內(nèi)存。那解決辦法呢?針對(duì)時(shí)間，我們可以采用巧妙的算法搭配合適的數(shù)據(jù)結(jié)構(gòu)，如Bloomfilter/Hash/bit-map/堆/trie樹(shù)。針對(duì)空間，無(wú)非就一個(gè)辦法：大而化小，分而治之（hash映射）。二、算法/數(shù)據(jù)結(jié)構(gòu)基礎(chǔ)1.BloomFilterBloomFilter（BF）是一種空間效率很高的隨機(jī)數(shù)據(jù)結(jié)構(gòu)，它利用位數(shù)組很簡(jiǎn)潔地表示一個(gè)集合，并能判斷一個(gè)元素是否屬于這個(gè)集合。它是一個(gè)判斷元素是否存在集合的快速的概率算法。BloomFilter有可能會(huì)出現(xiàn)錯(cuò)誤判斷，但不會(huì)漏掉判斷。也就是BloomFilter判斷元素不再集合，那肯定不在。如果判斷元素存在集合中，有一定的概率判斷錯(cuò)誤。因此，BloomFilter不適合那些“零錯(cuò)誤”的應(yīng)用場(chǎng)合。BloomFilter（BF）是一種空間效率很高的隨機(jī)數(shù)據(jù)結(jié)構(gòu)，它利用位數(shù)組很簡(jiǎn)潔地表示一個(gè)集合，并能判斷一個(gè)元素是否屬于這個(gè)集合。它是一個(gè)判斷元素是否存在集合的快速的概率算法。BloomFilter有可能會(huì)出現(xiàn)錯(cuò)誤判斷，但不會(huì)漏掉判斷。也就是BloomFilter判斷元素不再集合，那肯定不在。如果判斷元素存在集合中，有一定的概率判斷錯(cuò)誤。因此，BloomFilter不適合那些“零錯(cuò)誤”的應(yīng)用場(chǎng)合。而在能容忍低錯(cuò)誤率的應(yīng)用場(chǎng)合下，BloomFilter比其他常見(jiàn)的算法（如hash，折半查找）極大節(jié)省了空間。適用范圍:可以用來(lái)實(shí)現(xiàn)數(shù)據(jù)字典，進(jìn)行數(shù)據(jù)的判重，或者集合求交集Hash，一般翻譯做“散列”，也有直接音譯為“哈?！钡模褪前讶我忾L(zhǎng)度的輸入（又叫做預(yù)映射，pre-image），通過(guò)散列算法，變換成固定長(zhǎng)度的輸出，該輸出就是散列值。這種轉(zhuǎn)換是一種壓縮映射，也就是，散列值的空間通常遠(yuǎn)小于輸入的空間，不同的輸入可能會(huì)散列成相同的輸出，而不可能從散列值來(lái)唯一的確定輸入值。簡(jiǎn)單的說(shuō)就是一種將任意長(zhǎng)度的消息壓縮到某一固定長(zhǎng)度的消息摘要的函數(shù)。所謂的Bit-map就是用一個(gè)bit位來(lái)標(biāo)記某個(gè)元素對(duì)應(yīng)的值。由于采用了Bit為單位來(lái)存儲(chǔ)數(shù)據(jù)，因此在存儲(chǔ)空間方面，可以大大節(jié)省。如果說(shuō)了這么多還沒(méi)明白什么是Bit-map，那么我們來(lái)看一個(gè)具體的例子，假設(shè)我們要對(duì)0-7內(nèi)的5個(gè)元素(4,7,2,5,3)排序（這里假設(shè)這些元素沒(méi)有重復(fù)）。那么我們就可以采用Bit-map的方法來(lái)達(dá)到排序的目的。要表示8個(gè)數(shù)，我們就只需要8個(gè)Bit（1Bytes），首先我們開(kāi)辟1Byte的空間，將這些空間的所有Bit位都置為0(如下圖：)然后遍歷這5個(gè)元素，首先第一個(gè)元素是4，那么就把4對(duì)應(yīng)的位置為1（可以這樣操作p+(i/8)|(0x01<<(i%8))當(dāng)然了這里的操作涉及到Big-ending和Little-ending的情況，這里默認(rèn)為Big-ending）,因?yàn)槭菑牧汩_(kāi)始的，所以要把第五位置為一（如下圖）：然后再處理第二個(gè)元素7，將第八位置為1,，接著再處理第三個(gè)元素，一直到最后處理完所有的元素，將相應(yīng)的位置為1，這時(shí)候的內(nèi)存的Bit位的狀態(tài)如下：堆是一種特殊的二叉樹(shù)，具備以下兩種性質(zhì)1）每個(gè)節(jié)點(diǎn)的值都大于（或者都小于，稱為最小堆）其子節(jié)點(diǎn)的值2）樹(shù)是完全平衡的，并且最后一層的樹(shù)葉都在最左邊這樣就定義了一個(gè)最大堆。如下圖用一個(gè)數(shù)組來(lái)表示堆：下面我們有and,as,at,cn,com這些關(guān)鍵詞，那么如何構(gòu)建trie樹(shù)呢？從上面的圖中，我們或多或少的可以發(fā)現(xiàn)一些好玩的特性。第一：根節(jié)點(diǎn)不包含字符，除根節(jié)點(diǎn)外的每一個(gè)子節(jié)點(diǎn)都包含一個(gè)字符。第二：從根節(jié)點(diǎn)到某一節(jié)點(diǎn)，路徑上經(jīng)過(guò)的字符連接起來(lái)，就是該節(jié)點(diǎn)對(duì)應(yīng)的字符串。第三：每個(gè)單詞的公共前綴作為一個(gè)字符節(jié)點(diǎn)保存。適用范圍：前綴統(tǒng)計(jì)，詞頻統(tǒng)計(jì)。第一：根節(jié)點(diǎn)不包含字符，除根節(jié)點(diǎn)外的每一個(gè)子節(jié)點(diǎn)都包含一個(gè)字符。第二：從根節(jié)點(diǎn)到某一節(jié)點(diǎn)，路徑上經(jīng)過(guò)的字符連接起來(lái)，就是該節(jié)點(diǎn)對(duì)應(yīng)的字符串。第三：每個(gè)單詞的公共前綴作為一個(gè)字符節(jié)點(diǎn)保存。適用范圍：前綴統(tǒng)計(jì)，詞頻統(tǒng)計(jì)。適用范圍:大數(shù)據(jù)的排序，去重基本原理及要點(diǎn)：外部排序的兩個(gè)獨(dú)立階段：1）首先按內(nèi)存大小，將外存上含n個(gè)記錄的文件分成若干長(zhǎng)度L的子文件或段。依次讀入內(nèi)存并利用有效的內(nèi)部排序?qū)λ麄冞M(jìn)行排序，并將排序后得到的有序字文件重新寫入外存，通常稱這些子文件為歸并段。2）對(duì)這些歸并段進(jìn)行逐趟歸并，使歸并段逐漸由小到大，直至得到整個(gè)有序文件為之。外排序的優(yōu)化方法：置換選擇敗者樹(shù)原理，最優(yōu)歸并樹(shù)1）首先按內(nèi)存大小，將外存上含n個(gè)記錄的文件分成若干長(zhǎng)度L的子文件或段。依次讀入內(nèi)存并利用有效的內(nèi)部排序?qū)λ麄冞M(jìn)行排序，并將排序后得到的有序字文件重新寫入外存，通常稱這些子文件為歸并段。2）對(duì)這些歸并段進(jìn)行逐趟歸并，使歸并段逐漸由小到大，直至得到整個(gè)有序文件為之。外排序的優(yōu)化方法：置換選擇敗者樹(shù)原理，最優(yōu)歸并樹(shù)1、海量日志數(shù)據(jù)，提取出某日訪問(wèn)百度次數(shù)最多的那個(gè)IP。算法思想：分而治之+Hash①.IP地址最多有2^32=4G種取值情況，所以不能完全加載到內(nèi)存中處理；②.可以考慮采用“分而治之”的思想，按照IP地址的Hash(IP)%1024值，把海量IP日志分別存儲(chǔ)到1024個(gè)小文件中。這樣，每個(gè)小文件最多包含4MB個(gè)IP地址；③.對(duì)于每一個(gè)小文件，可以構(gòu)建一個(gè)IP為key，出現(xiàn)次數(shù)為value的Hashmap，同時(shí)記錄當(dāng)前出現(xiàn)次數(shù)最多的那個(gè)IP地址；④.可以得到1024個(gè)小文件中的出現(xiàn)次數(shù)最多的IP，再依據(jù)常規(guī)的排序算法得到總體上出現(xiàn)次數(shù)最多的IP；①.IP地址最多有2^32=4G種取值情況，所以不能完全加載到內(nèi)存中處理；②.可以考慮采用“分而治之”的思想，按照IP地址的Hash(IP)%1024值，把海量IP日志分別存儲(chǔ)到1024個(gè)小文件中。這樣，每個(gè)小文件最多包含4MB個(gè)IP地址；③.對(duì)于每一個(gè)小文件，可以構(gòu)建一個(gè)IP為key，出現(xiàn)次數(shù)為value的Hashmap，同時(shí)記錄當(dāng)前出現(xiàn)次數(shù)最多的那個(gè)IP地址；④.可以得到1024個(gè)小文件中的出現(xiàn)次數(shù)最多的IP，再依據(jù)常規(guī)的排序算法得到總體上出現(xiàn)次數(shù)最多的IP；2丶搜索引擎會(huì)通過(guò)日志文件把用戶每次檢索使用的所有檢索串都記錄下來(lái)，每個(gè)查詢串的長(zhǎng)度為1-255字節(jié)。假設(shè)目前有一千萬(wàn)個(gè)記錄（這些查詢串的重復(fù)度比較高，雖然總數(shù)是1千萬(wàn)，但如果除去重復(fù)后，不超過(guò)3百萬(wàn)個(gè)。一個(gè)查詢串的重復(fù)度越高，說(shuō)明查詢它的用戶越多，也就是越熱門。），請(qǐng)你統(tǒng)計(jì)最熱門的10個(gè)查詢串，要求使用的內(nèi)存不能超過(guò)1G?？梢栽趦?nèi)存中處理，典型的TopK算法算法思想：hashmap+堆①.先對(duì)這批海量數(shù)據(jù)預(yù)處理，在O（N）的時(shí)間內(nèi)用Hash表完成統(tǒng)計(jì)；②.借助堆這個(gè)數(shù)據(jù)結(jié)構(gòu)，找出TopK，時(shí)間復(fù)雜度為O(N*logK)。或者：采用trie樹(shù)，關(guān)鍵字域存該查詢串出現(xiàn)的次數(shù)，沒(méi)有出現(xiàn)為0。最后用10個(gè)元素的最小推來(lái)對(duì)出現(xiàn)頻率進(jìn)行排序。①.先對(duì)這批海量數(shù)據(jù)預(yù)處理，在O（N）的時(shí)間內(nèi)用Hash表完成統(tǒng)計(jì)；②.借助堆這個(gè)數(shù)據(jù)結(jié)構(gòu)，找出TopK，時(shí)間復(fù)雜度為O(N*logK)?；蛘撸翰捎胻rie樹(shù)，關(guān)鍵字域存該查詢串出現(xiàn)的次數(shù)，沒(méi)有出現(xiàn)為0。最后用10個(gè)元素的最小推來(lái)對(duì)出現(xiàn)頻率進(jìn)行排序。3、有一個(gè)1G大小的一個(gè)文件，里面每一行是一個(gè)詞，詞的大小不超過(guò)16字節(jié)，內(nèi)存限制大小是1M。返回頻數(shù)最高的100個(gè)詞。算法思想：分而治之+hash統(tǒng)計(jì)+堆排序①.順序讀文件中，對(duì)于每個(gè)詞x，取hash(x)%5000，然后按照該值存到5000個(gè)小文件（記為x0,x1,...x4999）中。這樣每個(gè)文件大概是200k左右。如果其中的有的文件超過(guò)了1M大小，還可以按照類似的方法繼續(xù)往下分，直到分解得到的小文件的大小都不超過(guò)1M。②.對(duì)每個(gè)小文件，采用trie樹(shù)/hash_map等統(tǒng)計(jì)每個(gè)文件中出現(xiàn)的詞以及相應(yīng)的頻率。③.取出出現(xiàn)頻率最大的100個(gè)詞（可以用含100個(gè)結(jié)點(diǎn)的最小堆）后，再把100個(gè)詞及相應(yīng)的頻率存入文件，這樣又得到了5000個(gè)文件。最后就是把這5000個(gè)文件進(jìn)行歸并（類似于歸并排序）的過(guò)程了。①.順序讀文件中，對(duì)于每個(gè)詞x，取hash(x)%5000，然后按照該值存到5000個(gè)小文件（記為x0,x1,...x4999）中。這樣每個(gè)文件大概是200k左右。如果其中的有的文件超過(guò)了1M大小，還可以按照類似的方法繼續(xù)往下分，直到分解得到的小文件的大小都不超過(guò)1M。②.對(duì)每個(gè)小文件，采用trie樹(shù)/hash_map等統(tǒng)計(jì)每個(gè)文件中出現(xiàn)的詞以及相應(yīng)的頻率。③.取出出現(xiàn)頻率最大的100個(gè)詞（可以用含100個(gè)結(jié)點(diǎn)的最小堆）后，再把100個(gè)詞及相應(yīng)的頻率存入文件，這樣又得到了5000個(gè)文件。最后就是把這5000個(gè)文件進(jìn)行歸并（類似于歸并排序）的過(guò)程了。4、有10個(gè)文件，每個(gè)文件1G，每個(gè)文件的每一行存放的都是用戶的query，每個(gè)文件的query都可能重復(fù)。要求你按照query的頻度排序。方案1：算法思想：分而治之+hash統(tǒng)計(jì)+堆排序順序讀取10個(gè)文件，按照hash(query)%10的結(jié)果將query寫入到另外10個(gè)文件中。這樣新生成的文件每個(gè)的大小大約也1G，大于1G繼續(xù)按照上述思路分。找一臺(tái)內(nèi)存在2G左右的機(jī)器，依次對(duì)用hash_map(query,query_count)來(lái)統(tǒng)計(jì)每個(gè)query出現(xiàn)的次數(shù)。利用快速/堆/歸并排序按照出現(xiàn)次數(shù)進(jìn)行排序。將排序好的query和對(duì)應(yīng)的query_cout輸出到文件中。這樣得到了10個(gè)排好序的文件（記為）。對(duì)這10個(gè)文件進(jìn)行歸并排序（內(nèi)排序與外排序相結(jié)合）。方案2：算法思想：hashmap+堆一般query的總量是有限的，只是重復(fù)的次數(shù)比較多而已，可能對(duì)于所有的query，一次性就可以加入到內(nèi)存了。這樣，我們就可以采用trie樹(shù)/hash_map等直接來(lái)統(tǒng)計(jì)每個(gè)query出現(xiàn)的次數(shù)，然后按出現(xiàn)次數(shù)做快速/堆/歸并排序就可以了。5、給定a、b兩個(gè)文件，各存放50億個(gè)url，每個(gè)url各占64字節(jié)，內(nèi)存限制是4G，讓你找出a、b文件共同的url方案1：可以估計(jì)每個(gè)文件安的大小為5G×64=320G，遠(yuǎn)遠(yuǎn)大于內(nèi)存限制的4G。所以不可能將其完全加載到內(nèi)存中處理?？紤]采取分而治之的方法。算法思想：分而治之+hash統(tǒng)計(jì)遍歷文件a，對(duì)每個(gè)url求取hash(url)%1000，然后根據(jù)所取得的值將url分別存儲(chǔ)到1000個(gè)小文件（記為a0,a1,...,a999）中。這樣每個(gè)小文件的大約為300M。遍歷文件b，采取和a相同的方式將url分別存儲(chǔ)到1000小文件（記為b0,b1,...,b999）。這樣處理后，所有可能相同的url都在對(duì)應(yīng)的小文件（a0vsb0,a1vsb1,...,a999vsb999）中，不對(duì)應(yīng)的小文件不可能有相同的url。然后我們只要求出1000對(duì)小文件中相同的url即可。求每對(duì)小文件中相同的url時(shí)，可以把其中一個(gè)小文件的url存儲(chǔ)到hash_set中。然后遍歷另一個(gè)小文件的每個(gè)url，看其是否在剛才構(gòu)建的hash_set中，如果是，那么就是共同的url，存到文件里面就可以了。方案2：如果允許有一定的錯(cuò)誤率，可以使用Bloomfilter，4G內(nèi)存大概可以表示340億bit。將其中一個(gè)文件中的url使用Bloomfilter映射為這340億bit，然后挨個(gè)讀取另外一個(gè)文件的url，檢查是否與Bloomfilter，如果是，那么該url應(yīng)該是共同的url（注意會(huì)有一定的錯(cuò)誤率）。6、在2.5億個(gè)整數(shù)中找出不重復(fù)的整數(shù)，注，內(nèi)存不足以容納這2.5億個(gè)整數(shù)。采用2-Bitmap（每個(gè)數(shù)分配2bit，00表示不存在，01表示出現(xiàn)一次，10表示多次，11無(wú)意義）進(jìn)行，共需內(nèi)存2^32*2bit=1GB內(nèi)存，還可以接受。然后掃描這2.5億個(gè)整數(shù)，查看Bitmap中相對(duì)應(yīng)位，如果是00變01，01變10，10保持不變。所描完事后，查看bitmap，把對(duì)應(yīng)位是01的整數(shù)輸出即可。7、給40億個(gè)不重復(fù)的unsignedint的整數(shù)，沒(méi)排過(guò)序的，然后再給一個(gè)數(shù)，如何快速判斷這個(gè)數(shù)是否在那40億個(gè)數(shù)當(dāng)中？方案1：申請(qǐng)512M的內(nèi)存，一個(gè)bit位代表一個(gè)unsignedint值。讀入40億個(gè)數(shù)，設(shè)置相應(yīng)的bit位，讀入要查詢的數(shù)，查看相應(yīng)bit位是否為1，為1表示存在，為0表示不存在。方案2：因?yàn)?^32為40億多，所以給定一個(gè)數(shù)可能在，也可能不在其中；這里我們把40億個(gè)數(shù)中的每一個(gè)用32位的二進(jìn)制來(lái)表示