2025 SmartX 超融合技術(shù)原理與特性解析_第1頁
2025 SmartX 超融合技術(shù)原理與特性解析_第2頁
2025 SmartX 超融合技術(shù)原理與特性解析_第3頁
2025 SmartX 超融合技術(shù)原理與特性解析_第4頁
2025 SmartX 超融合技術(shù)原理與特性解析_第5頁
已閱讀5頁,還剩41頁未讀 繼續(xù)免費(fèi)閱讀

下載本文檔

版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進(jìn)行舉報(bào)或認(rèn)領(lǐng)

文檔簡介

SmartXTOC\o"1-1"\h\z\u \hOS4.0.10版本正式增加硬盤健康檢查功能,可通過開源工具S.M.A.R.T.檢測技術(shù)、SmartX自研的disk-health硬盤健康檢查工具和SmartX超融合集群的數(shù)disk-health存在局限性,如無法判斷是否因?yàn)镠BA卡導(dǎo)致故障,或因網(wǎng)絡(luò)異常導(dǎo)致節(jié)點(diǎn)存儲(chǔ)鏈路異常,從而增加對(duì)應(yīng)的l/Oerror等情況。如遇硬盤告警提示,建議使用前面提供的命令,通過后臺(tái)進(jìn)行相關(guān)調(diào)查、輔助確認(rèn)。某客戶數(shù)據(jù)中心集群在一周內(nèi)收到17數(shù)據(jù)盤出現(xiàn)亞健康或不健康的告警,涉及3套集群。SmartX工程師協(xié)助客戶排查問題,并提供了基于節(jié)點(diǎn)維度的硬盤批量更換方案,目前所有受影響服務(wù)器的硬盤已全部完成替換。

SmartX超融合集群如何監(jiān)測磁盤健康狀況?SmartXSmartX*用的情況下,出現(xiàn)故障的高峰期一般是在出廠后的第1.5年到第3年之間?;谶@種情況,SmartXSMTXOS4.0.10\h監(jiān)測磁盤健康狀態(tài)可通過三種方式實(shí)現(xiàn)。一是開源工具S.M.A.R.T.檢測技術(shù),二是SmartX自研的disk-health硬盤健康檢查工具,三是SmartX超融合集群的數(shù)據(jù)巡檢功能。另外,S.M.A.R.T.會(huì)監(jiān)控SSD剩余使用壽命,默認(rèn)每6自研工具SmartXZBSI/O的實(shí)際返回情況自動(dòng)探測,在發(fā)現(xiàn)如下I/OII/O30s(SSD、HDD)II90s(6*15s)內(nèi)的相關(guān)數(shù)據(jù)進(jìn)行判斷,兩615s3sIOPS50500msIOPS5000次)、checksum出現(xiàn)錯(cuò)誤(小于100次)。GenerationGeneration0,每次數(shù)據(jù)塊(extent)被寫入數(shù)據(jù)都會(huì)觸發(fā)Generation數(shù)值加1,檢測周期是30秒。由于采用兩副本的機(jī)制,每隔30秒檢會(huì)檢測一下這兩份數(shù)據(jù)的Generation信息是否一致,如果不一致,就認(rèn)為checksumchecksum用于在讀取數(shù)據(jù)時(shí)進(jìn)行校驗(yàn)。檢測以磁盤為單位進(jìn)行掃描,兩個(gè)硬盤之間的掃描間隔為5分鐘,掃描速率為5MB/s、IOPS=20,這樣能夠最大限度降低巡檢對(duì)集群性能的影響,且同一時(shí)間只會(huì)對(duì)一個(gè)節(jié)點(diǎn)的一個(gè)硬盤進(jìn)行檢測,不會(huì)占用集群和節(jié)點(diǎn)上的更多的l/O。SMTXOS4.0.11SMTXOS5.0.1SMTXZBS5.0.0及以對(duì)于被判定為亞健康、S.M.A.R.T.檢測不通過以及壽命不足的硬盤,這些盤只是對(duì)比正常硬盤而言性能通過管理界面點(diǎn)擊“sdczbs-nodeshow_disk_statussdczbs-nodeshow_disk_statussdcsdc的狀態(tài)。zbs-nodeshow_disk_status-sPHYS826003JB480BGNS.M.A.R.TTrue10,達(dá)到了12,導(dǎo)致檢測結(jié)果不通過。zbs-nodeshow_disk_status-sPHYS826003JB480BGN界面故障信息”顯示如下:step3Web界面(CloudTower)step4硬盤卸載完成后,狀態(tài)變更為”未掛載“(卸載時(shí)間和硬盤上數(shù)據(jù)多少有關(guān))。如果計(jì)劃換盤,建議SSD”含元數(shù)據(jù)分區(qū)的緩存盤和”緩存盤“,按照默認(rèn)掛載即可。”含元數(shù)據(jù)分區(qū)首先,disk-health只是基于系統(tǒng)內(nèi)I/O去檢測硬盤是否健康,無法判斷是否因?yàn)镠BA卡導(dǎo)致了故障。HBAHBAHBAI/OSmartX直接聯(lián)系硬件報(bào)修,檢查一下RAID卡是否出現(xiàn)了問題。l/Oerror。這種情況可能也需要進(jìn)行單獨(dú)排I/Oerror747step2MessageI/Oerrormediumerror在1.9年以上,故障原因以mediumerror為主。在硬盤分析時(shí),發(fā)現(xiàn)其中一塊硬盤磁頭的臟污染特別嚴(yán)重,SEM的成分分析顯示磁頭含有Si這種物質(zhì)。Si物質(zhì)殘留,屬于正常情況。但是Si在低負(fù)1.9替換的效率,SmartX配合客戶提供了基于節(jié)點(diǎn)維度的硬盤批量更換方案,目前所有受影響服務(wù)器的硬盤33VMwareSmartXELF\hV2V存儲(chǔ)性能管理|SmartXOWL\h能,SmartX自主研發(fā)了自動(dòng)化存儲(chǔ)性能測試工具OWL。OWL可以從三個(gè)方面為用戶提供幫助:適應(yīng)不同硬件配置,提供每套存儲(chǔ)各自的存儲(chǔ)性能“基線”;參考存儲(chǔ)性能基利用OWL測試結(jié)果可以計(jì)算告警閾有銀行利用OWL定制I/O模型測試集群性能;某國有銀行利用OWL評(píng)估集群性能是否滿足99thPercentile要

為了幫助用戶更好地管理集群存儲(chǔ)性能,SmartXOWL。本文中,我們將為大家介紹OWL的功能特性和使用方法,并通過實(shí)際應(yīng)用展現(xiàn)如何利用OWL測試結(jié)果優(yōu)化性能管OWLSmartXWebfio測試。由于fio可以調(diào)整為多隊(duì)列、多帶寬、多I/O模型的測試情景,能夠模擬大多數(shù)的業(yè)務(wù)I/O(如MySQL的性能測試調(diào)優(yōu)就經(jīng)常使用fio),因此成為了支持OWL的最佳選擇。另外,OWL并不綁定SmartX超融合集群,用戶也可在其他環(huán)境中使用OWL進(jìn)行性能測試。適應(yīng)不同硬件配置,提供每套存儲(chǔ)各自的存儲(chǔ)性能“基線為了滿足IT基礎(chǔ)架構(gòu)信創(chuàng)轉(zhuǎn)型需求,用戶可能會(huì)購入此前未接觸過的國產(chǎn)配件。多種配件組合下,工程架構(gòu)試跑一臺(tái)業(yè)務(wù)虛擬機(jī),OWLI/OOWL為需要上線的業(yè)務(wù)虛擬機(jī)選擇合適的存儲(chǔ)集群IOPSIOPS另外,OWL除了能讓用戶預(yù)先了解每臺(tái)主機(jī)能承載的最大I/O,還可以通過搭建模擬環(huán)境,幫助用戶在I/O,避免將多臺(tái)帶寬占用較大的虛擬機(jī)放在一OWL可在每套集群的告警規(guī)則上設(shè)置對(duì)應(yīng)存儲(chǔ)性能的讀寫帶寬閾值。當(dāng)虛擬機(jī)的帶寬達(dá)到了主帶寬的70%和80%時(shí),運(yùn)維工程師會(huì)分別收到告警提示,從而及時(shí)觀察虛擬OWLovfOWLIPOWLtestVMssh通訊。TestVM配置要求如下:Linux2c4GIP地址,且與OWL工具sshFIOOWLWebOWL詳細(xì)測試過程,可觀看\hDemo演示。I/O81181我們主要關(guān)注帶寬。以寫帶寬為例,在8P8V256K順序?qū)憟鼍爸?,寫帶寬?278。我們將7278除以8,得到每一個(gè)節(jié)點(diǎn)帶寬的平均值,然后再將MBPS換算成BPS,該值的70%就是我們需要設(shè)定為注意8P1V256K1656.86MBPS,經(jīng)過單位換算后,這個(gè)數(shù)值的80%將直接作為嚴(yán)重級(jí)別的告警閾值。由此,我們得到兩個(gè)寫帶寬閾值數(shù)值,如下圖所OWL1.7GB/s,已超過嚴(yán)重警告級(jí)別的閾值。SmartX后臺(tái)自動(dòng)發(fā)送告警,提醒運(yùn)維工程師存儲(chǔ)性能已接近極限,從而避免對(duì)業(yè)務(wù)帶來直接OWLI/O群性能。測試結(jié)果顯示(如下圖),該集群平均IOPS標(biāo)準(zhǔn)差可達(dá)54338,延時(shí)在1毫秒左右。99thPercentileOWL\hSmartX超融合提供三種資源擴(kuò)容方式:在線添加節(jié)點(diǎn)內(nèi)的存儲(chǔ)設(shè)備、在集群內(nèi)在線添加節(jié)點(diǎn)擴(kuò)展計(jì)算和存儲(chǔ)資源、通過多集群管理平臺(tái)CloudTower實(shí)現(xiàn)更大范圍的資源池建設(shè)和統(tǒng)一管理,賦予用戶更大自由度選擇服務(wù)器和相關(guān)設(shè)備組件進(jìn)行擴(kuò)容。SmartX通過自研的存儲(chǔ)管理和調(diào)度技SmartX超融合在自動(dòng)化智能平衡各個(gè)節(jié)點(diǎn)、各個(gè)硬盤的存儲(chǔ)資源方面可以提供有效的方法,因此可以支持將不同型號(hào)和配置的服務(wù)器組成“異構(gòu)”集群。多個(gè)超融合集群可以通過SmartX管理平臺(tái)CloudTower進(jìn)行統(tǒng)一管理,實(shí)現(xiàn)與VMwareSAN存儲(chǔ)相比,SmartX超融合在單節(jié)點(diǎn)內(nèi)部增加數(shù)據(jù)盤和緩存盤的靈活度更高,在同集群不同節(jié)點(diǎn)間對(duì)數(shù)據(jù)盤和緩存盤容量不一致的寬容度更大,更好實(shí)現(xiàn)多架構(gòu)集群統(tǒng)一管理。SmartX分布式存儲(chǔ)技術(shù)的實(shí)現(xiàn)機(jī)制。它基于自主研發(fā)的分布式文件系統(tǒng)LSM,將服務(wù)器上本地硬盤(SSD+HDD)源進(jìn)行池化,實(shí)現(xiàn)彈性靈活擴(kuò)容,并在實(shí)際生產(chǎn)環(huán)境中得到部署和應(yīng)用。

相比于業(yè)內(nèi)大部分超融合產(chǎn)品,SmartX超融合為用戶提供了更加彈性、靈活的擴(kuò)容選擇。作為“軟硬件解特別是對(duì)于由通用機(jī)械盤或SSD構(gòu)成的存儲(chǔ)資源池,SmartX的存儲(chǔ)管理和I/O加速技術(shù)表現(xiàn)得更為靈對(duì)于采用全閃盤的集群,支持“不分層”模式,提高高性能存儲(chǔ)設(shè)備的利用率,所有SSD均可和/或3SmartX出于存儲(chǔ)性能考慮,推薦各個(gè)節(jié)點(diǎn)上所有數(shù)據(jù)盤使用同樣性能的產(chǎn)品(7200RPMSSD(比如:同為IOPS=50,000且DWPD=3)。點(diǎn)上實(shí)現(xiàn)硬盤的完全一致性。SmartX通過自研的存儲(chǔ)管理和調(diào)度技術(shù),可以彌補(bǔ)節(jié)點(diǎn)上的硬盤型號(hào)和容SmartX80TB緩存盤與數(shù)據(jù)盤的容量比例不應(yīng)低于CPU、內(nèi)存和存儲(chǔ)資源?;蛘撸苄?。如前所述,SmartX超融合在自動(dòng)化智能平衡各個(gè)節(jié)點(diǎn)、各個(gè)硬盤的存儲(chǔ)資源方面可以提供有效的節(jié)點(diǎn)上本地存儲(chǔ)設(shè)備(HDD和/或SSD)組成結(jié)構(gòu)(“全閃”或“混合”、“分層”或“不分層”)應(yīng)與現(xiàn)SmartX超融合軟件SMTXOS單集群最大支持255個(gè)節(jié)點(diǎn),最大存儲(chǔ)裸容量6PiB。但在單集群中配置SmartXCloudTower虛擬機(jī)可以在CloudTower2.0統(tǒng)一管理的多個(gè)集群之間進(jìn)行遷移。在不同場景下,可以提供熱遷移、分段遷移、冷遷移三種模式,詳見《\hSmartX發(fā)布管理平臺(tái)CloudTower2.0版本》。下表對(duì)比了SmartX與VMware在超融合集群擴(kuò)容方面的異同:vSAN集群中的服務(wù)器節(jié)點(diǎn)如果不滿足盤組一致性、節(jié)點(diǎn)一致性要求,會(huì)導(dǎo)致集群整體I/O性能下降嚴(yán)重,因此vSAN集群設(shè)計(jì)都是以硬件一致性為前提;雖然集群可以短時(shí)間內(nèi)運(yùn)行在不一致的硬基于SmartX超融合構(gòu)建的集群則為用戶提供了多樣化存儲(chǔ)擴(kuò)容的選項(xiàng),并且得到了實(shí)際生產(chǎn)環(huán)境SmartX超融合的彈性靈活擴(kuò)容,很大程度上來源于SmartXM(D+DXO度能力。集群規(guī)模只需3個(gè)節(jié)點(diǎn)起步,T運(yùn)維人員可以在工作時(shí)間插入和添加新硬盤,即可完成存儲(chǔ)資。目前,已有越來越多的用戶,在實(shí)際部署環(huán)境中充分利用SmartX超融合的靈活擴(kuò)展能力,不僅實(shí)現(xiàn)了資4(基于SmartXELF)逐步擴(kuò)容到10節(jié)點(diǎn),先后使用過的服務(wù)器類型包括超微四子星、PowerEdgeR740xd部分服務(wù)器的升級(jí)替換。五礦期貨的5個(gè)數(shù)據(jù)中心內(nèi)的7個(gè)集群,也通過CloudTower實(shí)現(xiàn)了跨地域統(tǒng)\h升級(jí)|IT\h企業(yè)中IT基礎(chǔ)架構(gòu)升級(jí)是必然需求,但同時(shí)要盡量降低升級(jí)停機(jī)對(duì)企業(yè)業(yè)務(wù)連續(xù)性帶來的影響。傳統(tǒng)基礎(chǔ)架構(gòu)下的VMwarevSphere的熱遷移功能具有運(yùn)維投入大、存在業(yè)務(wù)中斷風(fēng)險(xiǎn)、難以彈性投資等缺陷。SmartX超融合架構(gòu)支持軟件一鍵升級(jí)功能,并可通過異構(gòu)擴(kuò)容和數(shù)據(jù)遷移實(shí)現(xiàn)硬件動(dòng)態(tài)升級(jí),有效降低軟硬件升級(jí)帶來的停機(jī)風(fēng)險(xiǎn),減輕運(yùn)維人員壓力,讓企業(yè)IT技術(shù)輕松迭代,助力企業(yè)業(yè)務(wù)持續(xù)升級(jí)。SmartX超融合核心軟件SMTXOS的SmartX超融合的硬件升級(jí)過程具有彈性擴(kuò)展、無中斷升級(jí)、數(shù)據(jù)自動(dòng)均衡的特點(diǎn)。

在IT基礎(chǔ)架構(gòu)日常運(yùn)維中,升級(jí)是最頭疼的任務(wù)之一。這里的升級(jí)既包括硬件的固件升級(jí),也包括軟件統(tǒng)虛擬化架構(gòu)下,一種可行的不會(huì)造成業(yè)務(wù)中斷的升級(jí)策略是利用VMwarevSphere的熱遷移功能,將兩三百臺(tái)虛擬機(jī)的大型企業(yè)來說,ITeT那么,如何才能在不停機(jī)的前提下簡單、高效、靈活地實(shí)現(xiàn)IT基礎(chǔ)架構(gòu)軟硬件平滑升級(jí)?這項(xiàng)很多運(yùn)維級(jí)帶來的停機(jī)風(fēng)險(xiǎn),減輕運(yùn)維人員壓力,讓企業(yè)IT技術(shù)輕松迭代,助力企業(yè)業(yè)務(wù)持續(xù)升級(jí)。案例應(yīng)監(jiān)管通告要求,某期貨公司需要進(jìn)行IT基礎(chǔ)架構(gòu)軟件升級(jí)。在傳統(tǒng)虛擬化架構(gòu)下,為了不影響業(yè)務(wù)運(yùn)中斷32.5206SmartXSMTXOS,利用一鍵升級(jí)功能在不停機(jī)的情況下完成兼容性保障:SMTXOS\hSmartX超融合支持軟件一鍵升級(jí)(點(diǎn)擊閱讀案例案例SmartX。2018SmartX超融合軟件在超微四子星上部署4個(gè)節(jié)點(diǎn),構(gòu)建原始集群;2019年第1次擴(kuò)容,基于PowerEdgeR740xd部署2個(gè)節(jié)點(diǎn),實(shí)現(xiàn)了不同服務(wù)器之間的異構(gòu)擴(kuò)容;2020年基于老舊服務(wù)器硬件PowerEdgeR730部署4個(gè)節(jié)點(diǎn)完成第2次擴(kuò)容;2021年,通過繼續(xù)擴(kuò)容DellR740xd,然后利用SmartX超融合\h五礦期貨硬件平滑升級(jí)流程(點(diǎn)擊閱讀案例SmartX彈性擴(kuò)展:3升級(jí)|新建集群VS滾動(dòng)升級(jí):如\h新建集群為保證硬件升級(jí)時(shí),關(guān)鍵業(yè)務(wù)可以正常開展、性能和穩(wěn)定性不受影響,Smart提供“新建集群”和“滾動(dòng)升級(jí)”兩種方

在企業(yè)服務(wù)器達(dá)到維護(hù)期限5,超過這一期限,合架構(gòu)的服務(wù)器硬件替換與升級(jí)22欲深入了解服務(wù)器硬件滾動(dòng)升級(jí)特性與用戶實(shí)踐,請閱讀:\hITI/OCPU無論是新建集群方案還是滾動(dòng)升級(jí)方案,都需要確保虛擬機(jī)可以順利完成遷移操作。SmartX成后默認(rèn)會(huì)開啟虛擬機(jī)CPU兼容性功能,根據(jù)當(dāng)前宿主機(jī)的CPU類型和特性,為虛擬機(jī)選擇一個(gè)最接近的CPU模型,同時(shí)可以讓集群中的虛擬機(jī)都繼承此CPU特性。這一功能可以讓虛擬機(jī)在不同代數(shù)(Generation)CPUCPU者其他CPU的兼容性。CPUmodel機(jī)的CPUmodel指令集,并且虛擬機(jī)遷移到新集群或者目標(biāo)主機(jī)后,此虛擬機(jī)依舊繼承遷移前的CPU當(dāng)前集群是否具備新建集群的條件。新建集群需同時(shí)滿足以下3個(gè)條件:VMwareSmartXSmartX擬化ELF的集群。如本次集群調(diào)整涉及虛擬化平臺(tái)和CPU供應(yīng)商的變更,因同一個(gè)集群中不能同時(shí)存在2種虛擬化和2種10SmartX超融合(基于原生虛擬化ELF)集群,單節(jié)點(diǎn)存儲(chǔ)使用容量為15TB20TB件服務(wù)器無需將1個(gè)集群拆分為2個(gè)集群,這樣可避免增加客戶的集群維護(hù)工作量。8SmartX12TB15TB38SmartX4(SmartX原生虛擬化ELF)逐步擴(kuò)容到10節(jié)點(diǎn),同時(shí)完成了從超微四子星到DellPowerEdgeR730xd的服務(wù)器\h遷移|SMTX\hSmartX研發(fā)跨平臺(tái)虛擬機(jī)遷移工具SMTX遷移工具,支持將運(yùn)行在Vmware虛擬化平臺(tái)的虛擬機(jī)遷移到基于SmartX原生虛擬化ELF的超融合集SMTX遷移工具支持靈活部署,覆蓋虛SMTX遷移工具通過自動(dòng)創(chuàng)建快照的方SMTX遷移工具必須連通源端和目標(biāo)端開通相應(yīng)的TCP端口。

—SMTXSmartXELFSMTXVMwarevSphereELF平臺(tái)為例,淺析遷移原理并展示實(shí)踐過程。遷移工具支持使用SMTX1.2.0VMwarevSphereSMTXOS(ELF)SMTXtask任務(wù)。task從創(chuàng)建到結(jié)束,會(huì)經(jīng)過任務(wù)創(chuàng)建、全量遷移、增量遷移、驅(qū)動(dòng)注入、安裝vmtools、配圖1Cutover當(dāng)一個(gè)task的全量遷移階段結(jié)束,此時(shí)會(huì)判斷當(dāng)前虛擬機(jī)的狀態(tài),來決定是否現(xiàn)在開啟Cutover階段。Cutover再主動(dòng)發(fā)起http請求,執(zhí)行Cutover相關(guān)邏輯。關(guān)于遷移過程中的數(shù)據(jù)傳輸,v2v256kv2v而是立刻被處理。在全量遷移階段,源端至v2v工具需要傳輸整個(gè)有效數(shù)據(jù)區(qū)域,而v2v到目標(biāo)磁盤端完成增量數(shù)據(jù)傳輸后,判斷是否需要注入驅(qū)動(dòng)。VMware平臺(tái)上的虛擬機(jī)采用的是專屬的驅(qū)動(dòng)來支持GuestOS,ELF平臺(tái)的虛擬機(jī)采用主流的Virtio驅(qū)動(dòng)。遷移工具會(huì)自動(dòng)完成Virtio驅(qū)動(dòng)注入。數(shù)據(jù)遷移SMTX遷移工具必須連通源端和目標(biāo)端集群的管理網(wǎng)絡(luò)。若要加速數(shù)據(jù)遷移,可以配置SMTX遷移工具與源端或目標(biāo)端的SMTXOS(ELF)集群的存儲(chǔ)網(wǎng)絡(luò)連通,以通過存儲(chǔ)網(wǎng)絡(luò)傳輸數(shù)據(jù)。若SMTX遷移工具與源端或者目標(biāo)端集群之間存在防?墻,則需要先確保防?墻已開通相應(yīng)的TCP端口(見下表)。v2vvCenterServerSMTX虛擬機(jī)服務(wù)集群,作為目標(biāo)端。vSphere的進(jìn)程。我們將在后續(xù)推出更多SmartX產(chǎn)品功能展示,敬請期待!\h為了方便更多用戶將不同環(huán)境的業(yè)務(wù)遷移至虛擬化平臺(tái),SmartX發(fā)布了SMTXCloudMove遷移工具,支持將各類云

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫網(wǎng)僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。

最新文檔

評(píng)論

0/150

提交評(píng)論