多數(shù)據(jù)流對磁盤陣列系統(tǒng)性能的影響_第1頁
多數(shù)據(jù)流對磁盤陣列系統(tǒng)性能的影響_第2頁
多數(shù)據(jù)流對磁盤陣列系統(tǒng)性能的影響_第3頁
多數(shù)據(jù)流對磁盤陣列系統(tǒng)性能的影響_第4頁
多數(shù)據(jù)流對磁盤陣列系統(tǒng)性能的影響_第5頁
已閱讀5頁,還剩2頁未讀, 繼續(xù)免費閱讀

下載本文檔

版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進行舉報或認領(lǐng)

文檔簡介

多數(shù)據(jù)流對磁盤陣列系統(tǒng)性能的影響單主機連接情況下的磁盤陣列存儲系統(tǒng)性能一般在單主機連接的情況下,磁盤或磁盤陣列擁有最好的性能。由于目前幾乎所有的操作系統(tǒng)都是基于本身獨自占有的文件系統(tǒng),即文件系統(tǒng)只能被一個單一的操作系統(tǒng)所獨有,所以操作系統(tǒng)或基于操作系統(tǒng)的應(yīng)用軟件可以在對存儲系統(tǒng)進行數(shù)據(jù)讀寫的時候, 針對磁盤存儲系統(tǒng)的讀寫特點,無論操作系統(tǒng)還是應(yīng)用軟件都會對讀寫方式做最優(yōu)化處理,以減少磁盤的物理尋道次數(shù),降低磁盤的機械反應(yīng)時間。每個程序進程的數(shù)據(jù)請求對其它的數(shù)據(jù)請求來說是不確定的,但由于操作系統(tǒng)本身的對數(shù)據(jù)訪問的管理和控制,所有出自該操作系統(tǒng)的數(shù)據(jù)請求都被操作系統(tǒng)做了有序化處理,因此對于磁盤或磁盤陣列來說,數(shù)據(jù)讀寫請求是被優(yōu)化過的,或者說在經(jīng)過優(yōu)化以后沒有任何變化,這個時候存儲系統(tǒng)擁有最佳的性能。作為磁盤陣列,雖然在操作系統(tǒng)和各個磁盤驅(qū)動器之間增加了一層 RAID控制器,但目前所有的RAID控制器本身只作為對磁盤容錯的管理和校驗的計算等一些必要的操作, 并不對數(shù)據(jù)請求做合并、重新排序和優(yōu)化處理,因為它的設(shè)計出發(fā)點是建立在單個主機連接的已經(jīng)經(jīng)過操作系統(tǒng)優(yōu)化的和排序的數(shù)據(jù)請求的基礎(chǔ)之上,它所擁有的緩存也只有直接緩存和計算緩存的功能,不對數(shù)據(jù)做排隊處理,只是將主機端口過來的數(shù)據(jù)按著先進先計算先出的方式通過 CPU計算校驗以后寫入磁盤。緩存的性能雖然非常快,但其容量相對于多媒體數(shù)據(jù)來說并不足夠大,在很快寫滿緩存以后,速度立即衰減到實際操作磁盤的速度。所以 RAID控制器的功能只是將許多磁盤組成一個或多個大的容錯的磁盤,并且利用每個磁盤上的緩存的緩沖存儲功能提高整體的數(shù)據(jù)讀寫速度, RAID控制器的讀緩存可以在短時間內(nèi)再次讀取同一數(shù)據(jù)的情況下明顯提高磁盤陣列的讀性能。整個磁盤陣列的實際的最高讀寫速度受到主機通道帶寬、控制器 CPU的校驗計算和系統(tǒng)控制能力(RAID引擎)、磁盤通道帶寬和磁盤性能(每個磁盤有自己的最高性能,這里指多個磁盤總的實際性能)中的最低值的限制。另外,操作系統(tǒng)的數(shù)據(jù)請求的優(yōu)化基礎(chǔ)與 RAID格式不匹配,也會對磁盤陣列的性能造成很大的影響,如 I/O請求的數(shù)據(jù)塊大小與RAID的數(shù)據(jù)段大小不匹配等。多主機同時訪問下,傳統(tǒng)磁盤陣列存儲系統(tǒng)的性能變化首先分析在視音頻應(yīng)用環(huán)境中來自不同主機的多個媒體流對小規(guī)模磁盤陣列存儲系統(tǒng)性能的影響。小規(guī)模磁盤陣列存儲系統(tǒng)一般擁有單個或一對冗余的磁盤陣列控制器,所能連接的磁盤的數(shù)量較少,具有基本的容錯和管理功能,結(jié)構(gòu)相對簡單。在存儲區(qū)域網(wǎng)絡(luò)的多主機共享存儲環(huán)境中,雖然每臺主機對自己所發(fā)出的數(shù)據(jù)請求做了排序和優(yōu)化,但各個主機之間的數(shù)據(jù)流對共享的存儲系統(tǒng)來說是無序的, 導(dǎo)致了更多的磁盤重新尋道次數(shù)、更多的數(shù)據(jù)段頭尾信息和更多的數(shù)據(jù)碎片讀出、合并、校驗計算和再寫入過程。這樣導(dǎo)致存儲的性能比單主機連接時下降許多,主機連接得越多,磁盤系統(tǒng)的性能下降的幅度就越大。

圖2-1顯示了一個磁盤陣列在多主機同時訪問的環(huán)境中的測試結(jié)果, 多主機的同時訪問造成磁盤陣列總性能的衰減。一般情況下,不同磁盤陣列、不同的磁盤陣列設(shè)置和使用不同種類的磁盤驅(qū)動器,測試結(jié)果會稍有不同,但都不可避免地出現(xiàn)性能明顯衰減的狀況。 其次,分析在視音頻應(yīng)用環(huán)境中來自不同主機的多個媒體流對大規(guī)模磁盤陣列存儲系統(tǒng)性能的影響。所謂大規(guī)模磁盤陣列存儲系統(tǒng),一般是指在一個存儲系統(tǒng)中使用總線結(jié)構(gòu)或交叉點交換結(jié)構(gòu)將多個存儲子系統(tǒng)(磁盤陣列)連接起來,并在總線中或交換結(jié)構(gòu)中使用大容量的緩存和用于更多主機連接的類似于通道集線器或交換機的主機連接模塊,最后通過復(fù)雜的存儲管理軟件組合成的大型的存儲系統(tǒng)。這種存儲系統(tǒng)可以提供比單個小的磁盤陣列更大的容量和更高的性能。象采用總線結(jié)構(gòu)的EMC的Symmetrix系統(tǒng)在單個磁盤陣列的性能只能達到 25至50M字節(jié)/秒時,它的最高性能就可以到100M字節(jié)/秒,甚至在使用RAID10(磁盤鏡像)時最高可到 200至300M字節(jié)/秒。象采用總線結(jié)構(gòu)和交叉點交換結(jié)構(gòu)(最新的系統(tǒng))日立的兩種存儲系統(tǒng),也可以到類似于 SymmetrixRAID10的實際性能。一般在這類存儲系統(tǒng)中緩存對性能都有巨大的貢獻,但只有在事務(wù)處理應(yīng)用和類似于郵電計費的應(yīng)用中才起作用。幾十G字節(jié)的緩存可以存儲數(shù)小時的事務(wù)處理數(shù)據(jù), 系統(tǒng)可以從容地在空閑時將數(shù)據(jù)寫入磁盤,物理卷的非常小的數(shù)據(jù)段設(shè)置也足以說明這類存儲系統(tǒng)只適合于事務(wù)處理類應(yīng)用。對于多媒體數(shù)據(jù)來說幾十G字節(jié)的緩存相當于幾十秒或幾分鐘的數(shù)據(jù)量,緩存寫滿以后將考驗系統(tǒng)直接從磁盤上訪問數(shù)據(jù)的能力。 而一般的這類系統(tǒng)雖然擁有幾十個 100M字節(jié)/秒帶寬的光纖通道主機連接端口,但內(nèi)部集成的多個磁盤陣列子系統(tǒng)與一般的用于事務(wù)處理的磁盤陣列并沒有什么不同,磁盤陣列子系統(tǒng)的一個控制器的一個邏輯單元的性能在只有一個主機訪問這個邏輯單元的情況下可以有25至50M字節(jié)左右的實際性能。在多主機訪問同一個邏輯單元的情況下,由于在所有的這些系統(tǒng)中沒有數(shù)據(jù)重新排序和優(yōu)化功能(總線結(jié)構(gòu)和交叉點交換結(jié)構(gòu)決定了這一點),所以同樣會產(chǎn)生較大的性能影響。 但這種性能衰減與小規(guī)模的磁盤陣列的性能衰減有所不同。由于在這種大規(guī)模磁盤陣列存儲系統(tǒng)內(nèi)部包括了相對獨立的多個磁盤陣列子系統(tǒng)(例如四個或八個),每個磁盤陣列子系統(tǒng)由一對磁盤控制器組成,在不同的主機訪問不同的磁盤陣列子系統(tǒng)時各自的性能不受影響,只受到系統(tǒng)總線帶寬的限制。所以在多主機的數(shù)據(jù)流訪問平均分布在不同的存儲子系統(tǒng)中時,它的多主機的支持能力可以是小規(guī)模磁盤陣列系統(tǒng)的幾倍。103忸.103忸.圖2-1在多主機的數(shù)據(jù)流同時訪問時小規(guī)模磁盤陣列總性能的衰減在這種大規(guī)模磁盤陣列存儲系統(tǒng)中,一個邏輯單元只能建立在單個磁盤子系統(tǒng)中,由于單個磁盤陣列子系統(tǒng)的內(nèi)部串行結(jié)構(gòu),決定了一個邏輯單元只能通過一個串行路徑來提供給用戶,所以大規(guī)模磁盤陣列存儲系統(tǒng)并不能提高單個邏輯單元的性能。 單個邏輯單元的性能很低,一般只有25至50M字節(jié)/秒的實際性能。但在事務(wù)處理類應(yīng)用中這種結(jié)構(gòu)大大提高了性能, 因為在這類應(yīng)用中可以根據(jù)事務(wù)處理的特點,每個事務(wù)處理數(shù)據(jù)都非常小,但數(shù)量龐大有一定的統(tǒng)計規(guī)律性,可以利用數(shù)據(jù)庫將同時到來的事務(wù)處理數(shù)據(jù)分類,將它們盡量平均分布在不同的磁盤子系統(tǒng)中,同時利用磁盤子系統(tǒng)外部的大容量緩存,可以大大地提高整個存儲系統(tǒng)的性能。而對于視音頻數(shù)據(jù)流的應(yīng)用,用戶數(shù)據(jù)訪問的單個數(shù)據(jù)流一般都很大,但訪問次數(shù)相對較小,即使有一定的規(guī)律性也有可能發(fā)生對不同邏輯單元的需求不均衡的現(xiàn)象,這樣極易造成某個邏輯單元阻塞或性能明顯下降。所以這種大規(guī)模磁盤陣列存儲系統(tǒng)并不適合使用于視音頻和多媒體的應(yīng)用領(lǐng)域。第三,在視音頻應(yīng)用環(huán)境中來自不同主機的多個媒體流對 NAS存儲系統(tǒng)性能的影響。 NAS存儲系統(tǒng)是建立在傳統(tǒng)RAID技術(shù)的基礎(chǔ)上,發(fā)揮單個主機連接時磁盤陣列系統(tǒng)擁有最好的性能的特點,使用NFS和CIFS協(xié)議將瘦服務(wù)器連接的存儲系統(tǒng)通過以太網(wǎng)共享給外部的用戶。 由于瘦服務(wù)器削減了與存儲管理和數(shù)據(jù)通訊無關(guān)的各種功能,優(yōu)化了 TCP/IP協(xié)議的數(shù)據(jù)傳輸能力,同時使用多個(目前最多十個)并行的TCP/IP數(shù)據(jù)傳輸,使單個NAS存儲系統(tǒng)的最大共享速度可以達到60M字節(jié)/秒左右。在多主機連接的環(huán)境中,由于使用的是以太網(wǎng)的連接,來自不同主機的數(shù)據(jù)進入瘦服務(wù)器以后通過瘦服務(wù)器的操作系統(tǒng)或數(shù)據(jù)管理應(yīng)用軟件的管理和重新排序后以最優(yōu)的方式寫入磁盤系統(tǒng),這樣一來磁盤系統(tǒng)本身沒有明顯的性能衰減。這也是 NAS存儲能在目前得到相當?shù)陌l(fā)展的一個主要的原因之一,它的特點使它適合應(yīng)用于需要數(shù)據(jù)共享的應(yīng)用環(huán)境當中。 但是,NAS有很多特點限制了它在視音頻和多媒體應(yīng)用領(lǐng)域的應(yīng)用。一個獨立的數(shù)據(jù)流只能使用一個TCP/IP傳輸流,不能使用兩個或兩個以上的 TCP/IP流來將一個媒體流分成幾部分同時傳輸。這樣一來,由于單個 TCP/IP流由其協(xié)議的限制最多可以到 6M字節(jié)/秒左右,造成對媒體流大小的限制。同時大多數(shù)媒體流具有實時性,而 TCP/IP的打包傳輸特點不能提供一個持續(xù)穩(wěn)定的傳輸,會導(dǎo)致媒體流的掉幀的或質(zhì)量的下降。 NAS的共享能力只有60M字節(jié)/秒,而對于實時性很強的媒體流類型應(yīng)用來說, 有效的共享能力可能只有 30至40M字節(jié)/秒,這種有限的共享能力對存儲工程師目前的需求來說是遠遠不夠的。在媒體流應(yīng)用中,如果用戶的需求超過NAS存儲所能提供的共享能力時,將導(dǎo)致對每一個用戶的服務(wù)質(zhì)量下降。在使用多個NAS系統(tǒng)時,由于視音頻數(shù)據(jù)流的應(yīng)用的特點,用戶數(shù)據(jù)訪問的數(shù)據(jù)流一般都很大,但訪問次數(shù)相對較小,即使有一定的規(guī)律性也有可能發(fā)生對不同 NAS系統(tǒng)的需求不均衡的現(xiàn)象,這樣極易造成某個NAS系統(tǒng)阻塞。所以NAS存儲系統(tǒng)也同樣不適合使用于視音頻和多媒體的共享應(yīng)用領(lǐng)域。

以下舉例分析。產(chǎn)品1:DataDirectNetworks公司的SANDataDirectorDataDirectNetworks公司的SANDataDirector存儲區(qū)域網(wǎng)絡(luò)設(shè)備是一個全新的存儲系統(tǒng)概念。它無論對單臺主機有序的數(shù)據(jù)訪問還是來自多臺主機的不確定的數(shù)據(jù)訪問, 它都擁有同樣的高性能:單臺SDD實際的寫性能可以到 760M字節(jié)/秒,實際的讀性能可以到800M字節(jié)/秒,單個邏輯單元的性能可以到650至700M字節(jié)/秒。這樣高的性能來自于它的獨特的對存儲區(qū)域網(wǎng)絡(luò)的多主機環(huán)境進行專門設(shè)計的并行體系結(jié)構(gòu),它不只是一個高性能的存儲系統(tǒng),它還是一個存儲區(qū)域網(wǎng)絡(luò)的基礎(chǔ)結(jié)構(gòu)設(shè)備。多CPU的并行處理技術(shù),尤其是其中的軟件技術(shù)一直當今世界計算機應(yīng)用領(lǐng)域的一大難題。不同種類的CPU對于不同種類用途的并行處理能力是不同的, DataDirectNetworks公司采用獨特的軟硬件技術(shù)率先將適用于10處理的RISCCPU的并行處理技術(shù)應(yīng)用于存儲和存儲區(qū)域網(wǎng)絡(luò)管理系統(tǒng)當中,徹底改變了總線結(jié)構(gòu)和交叉點交換結(jié)構(gòu)在這一領(lǐng)域的跟不上發(fā)展需求的現(xiàn)狀。DataDirectNetworks公司的SANDataDirector存儲區(qū)域網(wǎng)絡(luò)設(shè)備擁有八個用于連接主機或連接存儲區(qū)域網(wǎng)絡(luò)連接設(shè)備的主機接口和二十個用于可以連接高達 1250塊磁盤驅(qū)動器的磁盤接口。在每一個端口上都有一個用于與其它端口進行并行處理的 GALEFORCe特定用途集成電路。在這二十八個GALEFORCe特定用途集成電路中,每個包含一個 RISC處理器,用于控制和區(qū)分命令路徑和數(shù)據(jù)路徑,向主機以及存儲器提供高速的數(shù)據(jù)傳輸路徑。巨大的并行處理緩存池與 DMA之間的高速數(shù)據(jù)信息包傳送機制和這些特定用途集成電路的結(jié)合,為所有的主機提供了通過緩存池對所有的存儲進行直接的和并行的訪問能力。由于所有的數(shù)據(jù)訪問都要經(jīng)過緩存, SDD的并行處理機制將無論是來自單臺主機的有序數(shù)據(jù)訪問請求還是來自多臺主機的不確定的數(shù)據(jù)訪問請求都進行重新排隊和有序化, SDD的并行處理機制為來自所有端口的數(shù)據(jù)進行統(tǒng)一排序提供了基礎(chǔ)。同時 SDD的GALEFORCe特定用途集成電路不只在互相之間做功能強大的并行處理, 而且還利用磁盤驅(qū)動器提供的軟件接口, 跟所有的與SDD磁盤端口相連接的磁盤驅(qū)動器的內(nèi)置處理器進行并行處理,通過磁盤驅(qū)動器內(nèi)置處理器對數(shù)據(jù)請求命令再次排序并且充分有效地利用磁盤的自帶緩存。這種獨特的 SDD與所有磁盤驅(qū)動器的一體化并行處理,最大限度地、充分地最小化了驅(qū)動器的尋道次數(shù),將磁盤驅(qū)動器的機械反應(yīng)時間降到最低。SDD不但沒有在多主機訪問時產(chǎn)生性能衰減,而且還利用多臺主機的并發(fā)數(shù)據(jù)訪問發(fā)揮出它的單臺主機無法用到的極高的性能。SDD獨有的另外一個突破性的技術(shù)是 directRAID技術(shù),它對系統(tǒng)性能的貢獻與 SDD的并行處理技術(shù)同樣重要。directRAID技術(shù)結(jié)合并行處理技術(shù)征服了傳統(tǒng) RAID技術(shù)的單數(shù)據(jù)流限制,使多個校驗組數(shù)據(jù)流可以在一個 directRAID中并行存在,多個校驗磁盤同時運行,在提供無縫的數(shù)據(jù)保護的同時不引起絲毫的性能衰減。 它的重建操作只需要傳統(tǒng) RAID技術(shù)的三分之一的時間,消除了傳統(tǒng)RAID技術(shù)在重建時停止工作或性能明顯下降的現(xiàn)象。這種將冗余組和邏輯單元之間關(guān)系虛擬化的 directRAID技術(shù)在首先提供了比傳統(tǒng)RAID技術(shù)的更高的數(shù)據(jù)保護功能以外,它為存儲工程師帶來了比傳統(tǒng)的 RAID系統(tǒng)高數(shù)十倍的單邏輯單元并發(fā)

數(shù)據(jù)訪問性能,使單邏輯單元的數(shù)據(jù)訪問能力可以達到 650至700M字節(jié)/秒,并且這個性能在多主機的情況下沒有衰減。這種非常高的單邏輯單元性能解決了在視音頻和多媒體的共享應(yīng)用環(huán)境中的對某一個邏輯單元數(shù)據(jù)的需求不均衡的現(xiàn)象造成的阻塞問題,消除了人工負載均衡的難題。DataDirectNetworks公司的SANDataDirector存儲區(qū)域網(wǎng)絡(luò)設(shè)備是目前世界上擁有最高性能價格比的存儲系統(tǒng),是適用于大規(guī)模視音頻媒體流共享應(yīng)用領(lǐng)域的存儲系統(tǒng)中的最佳選擇。舉例2:HDS公司的Lightning9960存儲系統(tǒng)分析:Lightning9960的體系結(jié)構(gòu):CKIfSCKIfBCKLPTCKLP8C&GBCacheCKIfSCKIfBCKLPTCKLP8C&GBCache19GBACPIACPZ A£?4ACF5A£F61ACT7]|A£P(guān)S圖2-2Lightning9960磁盤陣列系統(tǒng)的體系結(jié)構(gòu)(圖中只給出數(shù)據(jù)通路的結(jié)構(gòu)圖)Lightning9960的體系結(jié)構(gòu)如圖一所示,主機接口最大可以使用四個 CHIP對,每個CHIP對由兩個可以互相備份(每個主機必須通過兩個光纖通道適配器同時與兩個 CHIP的一個口連接)的CHIP組成,每個CHIP擁有四個光纖通道(ESCON接口在本文中將不涉及,但并不影響存儲工程師對性能的討論)主機接口和兩個用于與內(nèi)部兩個交換機連接的光纖通道接口,四個 CHIP對共有32個光纖通道主機接口和 16個光纖通道的與內(nèi)部交換機相連接的接口。在Lightning9960的中間采用兩個 Crossbar交換機,每個交換機都與每個 CHIP、每個緩存塊和每個磁盤陣列控制器的光纖通道相連接。 Lightning9960最多有四塊8GB的緩存,緩存是 CHIP與控制器之間數(shù)據(jù)的必經(jīng)緩沖區(qū), 它與交換機之間共有 16個光纖通道連接(圖中只畫出了8個)。在體系結(jié)構(gòu)的最下面是四對磁盤陣列控制器, 每對控制器有四個連接交換機的通道和 8個用于連接磁盤驅(qū)動器的磁盤通道??刂破鲗χ械牟煌刂破鞯膬蓚€磁盤通道同時連接到雙端口磁盤的兩個端口上提供備份連接,所以每對控制器實際有 4個獨立的磁盤通道。Lightning9960的數(shù)據(jù)通道帶寬:從Lightning9960的結(jié)構(gòu)圖中可以計算出每部分的帶寬是: 32個光纖通道主機端口總帶寬為3200MB/秒;CHIP與交換機之間的總帶寬為 1600MB/秒;在交換機到緩存之間的總帶寬為 1600MB/

秒;在緩存到交換機之間的總帶寬為 1600MB/秒(緩存和交換機之間是雙向傳輸所以此項帶寬與上一項帶寬互相不影響);交換機到磁盤陣列控制器的總帶寬為 1600MB/秒;內(nèi)部磁盤通道的總帶寬為 1200MB/秒(因為每對磁盤陣列控制器的四個磁盤通道中在做 RAID5時有一個通道的帶寬被用來做校驗)。由于所有以上的帶寬都是串行結(jié)構(gòu),所以 Lightning9960的數(shù)據(jù)通道實際總帶寬受到鏈路中最小值1200MB/秒的限制。但數(shù)據(jù)通道帶寬并不等于整個系統(tǒng)的實際性能,實際的性能將受到每個磁盤陣列控制器(ACP)的RAID引擎、系統(tǒng)整個體系結(jié)構(gòu)和應(yīng)用環(huán)境的影響,下面將討論在應(yīng)用中的實際性能。Lightning9960的實際性能:Lightning9960存儲系統(tǒng)中每個磁盤陣列的性能由于受到每個磁盤陣列控制器( ACP)的RAID引擎的限制,單個控制器的性能只有 60MB/秒左右,而且無論使用控制器的一個通道還是兩個通道結(jié)果都是同樣的,這個結(jié)果是在單主機有序的數(shù)據(jù)請求下的實際結(jié)果。 所有的Lightning9960中的8個控制器,在每個控制器都在單主機訪問的情況下,總的最大的實際性能為 480MB/秒左右。而在存儲區(qū)域網(wǎng)絡(luò)的實際應(yīng)用環(huán)境中, 數(shù)據(jù)訪問來自多個主機,在這種情況下,Lightning9960的實際性能將迅速衰減,如果不確定的數(shù)據(jù)請求來自 8臺主機以上,總性能將衰減到 100到200MB/秒左右。但在Lightning9960存儲系統(tǒng)中,有8個用于主機連接的CHIP,它為系統(tǒng)在多主機連接情況下的實際性能的提高做了巨大的貢獻。由于每個 CHIP可以將與它連接的所有的不同主機來的I/O請求重新排隊,這樣一來,從每個CHIP進

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負責。
  • 6. 下載文件中如有侵權(quán)或不適當內(nèi)容,請與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

評論

0/150

提交評論