IBM服務(wù)器維護手冊_第1頁
IBM服務(wù)器維護手冊_第2頁
IBM服務(wù)器維護手冊_第3頁
IBM服務(wù)器維護手冊_第4頁
IBM服務(wù)器維護手冊_第5頁
已閱讀5頁,還剩18頁未讀 繼續(xù)免費閱讀

下載本文檔

版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進行舉報或認領(lǐng)

文檔簡介

第一類、機房環(huán)境及物理檢查

一、機房內(nèi)環(huán)境規(guī)定

1.溫度與濕度:

最佳工作溫度:20-25攝氏度

極限工作溫度:10-40攝氏度

濕度:8-80%(在23攝氏度條件下)

如果不是工作在最佳溫度,請注意改善機房環(huán)境

2.同步機房要保證清潔.

機房應(yīng)保持清潔,若空氣灰塵過多,很容易導(dǎo)致資源讀寫錯誤及磁盤機中

磁盤或讀寫磁頭毀損。

二、電源規(guī)定

電壓:規(guī)定電壓穩(wěn)定,尖峰電壓會損壞設(shè)備

電壓范疇:220V+/-10%,即200-240V,50-601Iz

電源功率:視機器類型和系統(tǒng)配備而定

電源線:原則日勺零,地,火三相電,其中零,地電壓不得超過

3.0V.

電源接駁:用符合電流規(guī)定的空氣開關(guān)或其他設(shè)備和主機電源線接

駁,保證計算機系統(tǒng)的可靠工作應(yīng)使用穩(wěn)壓電源和UPS,并建議配備發(fā)電機

組;對于冗于電源日勺接入,建議采用兩路單獨輸入.

三、硬件檢查

]檢查服務(wù)器、磁陣的安裝、電源線、7133和主機接線符合規(guī)定。

服務(wù)器狀態(tài)檢查;

1.當(dāng)服務(wù)器處在啟動和正常工作狀態(tài)時,其前面板上的液晶顯示屏

上應(yīng)無信息顯示。

2.當(dāng)液晶顯示屏上浮現(xiàn)帶數(shù)字和字母日勺信息時,闡明有硬件告警。

可以通過查詢有關(guān)機型的ServiceGuide查到相應(yīng)告警因素,狀況嚴重H勺,

則要立即告知IBM技術(shù)專家進行問題排查。

7133狀態(tài)檢查:

磁陣前面板上有7133機柜的狀態(tài)燈(與電源燈并排)和各硬盤日勺狀態(tài)燈

(一排小燈,與各硬盤位置一一相應(yīng))。

1.當(dāng)機柜的狀態(tài)燈浮現(xiàn)橙黃色時,闡明有硬件告警,此時要檢查磁柜日勺

電源、接線、硬盤等。如果有硬件故障則立即進行更換和改正,如果查不

出具體問題,則需要聯(lián)系有關(guān)專家進一步診斷。

2.當(dāng)硬盤工作正常時,與各硬盤相應(yīng)日勺硬盤燈會呈綠色,如無讀寫,則

綠燈始終亮,如該硬盤有讀寫操作,則綠燈會不規(guī)則閃爍,當(dāng)硬盤損壞時

或SSA環(huán)路浮現(xiàn)問題時,則硬盤狀態(tài)燈將熄滅,或者呈閃爍狀態(tài):以1?3

秒日勺頻率有規(guī)律地、不斷地閃爍

第二類、系統(tǒng)平常維護流程

2.1系統(tǒng)啟動

系統(tǒng)啟動正常順序如下:

一方面對外設(shè)(磁盤陣列、磁帶庫等)加電。

待所有外設(shè)加電芻檢完畢后,主機加電正常起機。主機加電后,系統(tǒng)進行

自檢,在液晶顯示屏顯示“ok”后,才干按白色POWER鍵起機.

啟動主機HACMP,啟動后可用命令tail-f/tmp/hacmp.out來檢查啟動

狀況,在HACMP未完全啟動前不要進行下一步。

檢查服務(wù)器日勺網(wǎng)絡(luò)地址,路由表(可用netstat-i,netstat-rn等),

檢查文獻系統(tǒng),邏輯卷(可用mount,Isvg-o等)。

檢查各項應(yīng)用與否工作正常。

2.2系統(tǒng)關(guān)閉

停止HACMP(smittyclstop)0

查看HACMPH勺狀態(tài),檢查服務(wù)器H勺網(wǎng)絡(luò)地址,路由表(可用netstat-i,

netstat-rn等),檢查文獻系統(tǒng),邏輯卷:可用mount,Isvg-o等)。

在HACMP未完全停止前不要進行下一步。

關(guān)閉主機(shutdown-F)。重啟系統(tǒng)可以使用:shutdown-Fr

如有必要的話,校磁盤陣列前方日勺白色按鈕關(guān)閉磁盤陣列。

2.3查看系統(tǒng)的錯誤記錄

在系統(tǒng)運營時.,某些系統(tǒng)錯誤會記錄在crrlog中,其中有些錯誤還會在

終端上顯示。檢查錯誤日記可用如下命令:

tterrptmore查看系統(tǒng)所有日勺記錄

IDENTIFIER7IMESTAM

PTCRESOURCE_NAMEDESCRIPTION

E85C5C4C0426104399PSCFGLFTSOFTW

AREPROGRAMERROR

2BFA76F60426104099TSSYSPROCSYSTE

MSHUTDOWNBYUSER

9D4CF6E70426104399T0errdemonERR

ORLOGGINGTURNEDON

1E2AC07E0426103999T0errdemonERR

ORLOGGINGTURNEDOFF

1E5EER4T0423132999T0clstrmgr

OPERATORNOTIFICATION

其中

IDENTIFIER為錯誤編號,當(dāng)需要檢查具體信息時常會用到。

TIMESTAMP為時間標(biāo)簽,它記錄日勺是出錯時間,其格式:月月日日時時分

分年年

T為Type,它記錄的是錯誤類型

P:為永久錯誤,需引起注意

T:為臨時錯誤。

C為Class,它記錄時是錯誤種類,如

H:Hardware

S:Software

0:Errlogcrcommandmessages

U:undetermined

RESOURCE_NAME為錯誤來源

DESCRIPTION為錯誤描述

tterrpt-aj<IDENTIFIER>查看系統(tǒng)具體記錄內(nèi)容

其中IDENTIFIER為錯誤編號,如Serrpt-aj0426104399

#errpt-dH查看系統(tǒng)所有H勺硬件出錯記錄

2.4系統(tǒng)與數(shù)據(jù)備份

有效及時的系統(tǒng)備份是系統(tǒng)管理日勺非常重要日勺一環(huán)。當(dāng)系統(tǒng)浮現(xiàn)故障時,

特別是文獻系統(tǒng)被嚴重損壞或硬盤損壞時,常需要使用系統(tǒng)備份來恢復(fù)系

統(tǒng)。在如下狀況下應(yīng)做系統(tǒng)備份:

1、新裝機。在硬件及系統(tǒng)軟件安裝完畢后,應(yīng)做系統(tǒng)備份。

2、軟件改動。系統(tǒng)軟件或應(yīng)用軟件有改動時,應(yīng)做系統(tǒng)備份。

3、定期備份。對系統(tǒng)進行定期備份,最佳每兩或三個月做一次備份

備份注意事項:

進行系統(tǒng)備份不必停止業(yè)務(wù),業(yè)務(wù)可以繼續(xù)進行。

建議客戶進行定期歐I系統(tǒng)備份(使用命令smittymksysb)o客戶也可根

據(jù)需要運用SMIT對系統(tǒng)的特定的VG或FS進行備份。

smittymksysb只備份rootvg中mount起來日勺文獻系統(tǒng),其他文獻系統(tǒng)或

數(shù)據(jù)并沒有做備份,因此數(shù)據(jù)備份需要此外完畢(建議客戶使用TAR格式)

在條件容許的狀況下,最佳有一盤以上備份帶,以避免磁帶損壞。

系統(tǒng)備份過程中有時候會提示有些/1叩目錄下的文獻無法備份,顯示如

下:

Creatinglistoffilestobackup...

Backingup34025files

1694of34025files(4%)

2733of34025files(8%)backup:0511-449Anerroroccurred

accessing./

tmp/sh34736.1:Afileordirectoryinthepathnamedoesnotexist.

backup:0511-449Anerroroccurredaccessing./tmp/sh34736.2:A

fileordirector

yinthepathnamedoesnotexist.

backup:0511-449Anerroroccurredaccessing./tmp/sh34736.3:A

fileordirector

yinthepathnamedoesnotexist.

15458of34025files(45%)

31920of34025files(93%)

0512-003mksysbmaynothavebeenabletoarchivesomefiles.

ThemessagesdisplayedontheStandardErrorcontainedadditional

information.

這是正?,F(xiàn)象,備份成功。

2.5系統(tǒng)恢復(fù)

當(dāng)系統(tǒng)發(fā)生比較嚴重的故障以致采用一般性維護手段不能在短期內(nèi)恢復(fù)

原系統(tǒng),在與客戶進行蹉商后,可將近來一次的系統(tǒng)備份帶倒回機器內(nèi)以

全面恢復(fù)系統(tǒng)到近來一次做備份時的系統(tǒng)環(huán)境,然后可將當(dāng)天日勺數(shù)據(jù)備

份再倒回系統(tǒng)內(nèi)。至此,系統(tǒng)可恢復(fù)正常運營。此后,客戶應(yīng)當(dāng)與IBM工

程師再進行整個事件的全面分析與回顧,以期找到故障發(fā)生的因素,并

采用相應(yīng)措施以杜絕類似事件再次發(fā)生。

2.6DUMP

當(dāng)系統(tǒng)運營浮現(xiàn)軟件故障導(dǎo)致系統(tǒng)down機時,機器的液晶顯示屏?xí)‖F(xiàn)

888102xxxOcO(xxx也許為700或其他),AIX常會將當(dāng)時系統(tǒng)歐|運營

狀況記錄下來,這就是DUMP。

當(dāng)DUMP產(chǎn)生后,請將磁帶放入磁帶機,用命令#snap-a-o/dev/rmtO

將DUMP文獻拷貝到磁帶設(shè)備/dev/rmtO中。注明磁帶機的blocksize,

DUMP產(chǎn)生的日期和機器的型號及序列號。同步,請用#errpt

-a>/tmp/err.log將errorlog記在/tmp/err.log中,并將

/tmp/err.log和/tmp/hacmp.*拷貝到軟盤或磁帶上。將磁帶和軟盤交

給IBM工程師。

2.7平常檢查服務(wù)器狀態(tài)的項目及其有關(guān)命令

1運營lsdev命令配以多種參數(shù),所列多種設(shè)備狀態(tài)都應(yīng)為Available。

#

lsdev-C-H-Sa列出系統(tǒng)中可用設(shè)備。

ttlsdev-Ccprocessor列出系統(tǒng)中日勺所有CPUo

#lsdcv-Ccmenory列出系統(tǒng)中口勺所有內(nèi)存。

ttlsdev-Ccdisk列出系統(tǒng)中口勺所有硬盤。

#lsdev-Ccadapter|grepent列出系統(tǒng)中的所有網(wǎng)卡

ttlsdev-Ccadapter|grepscsi列出系統(tǒng)中的所有SCSI卡。

ttlsdev-Ccadapter|grepssa列出系統(tǒng)中歐J所有SSA卡。

2Ispv命令

ttlspv顯示系統(tǒng)中可用日勺PV。

#lspvhdiskn顯示hdiskn/、J具體信息。

#lsdev-Ccpdisk顯示磁盤陣列口勺硬盤的具體信息。

對SSA硬盤H勺檢測:在對主機進行工作之前可以先把磁盤陣列上電,等主

機完全啟動后,登錄到主機上,運營如下命令"Isdev-Ccpdisk",

應(yīng)當(dāng)可以看到所有SSA硬盤,并且狀態(tài)應(yīng)為Available.0

3Isattr命令

#Isattr-E-1memO列出系統(tǒng)中內(nèi)存memOH勺大小,本項目中內(nèi)存

有4GB。

4lsvg命令

#lsvg列出系統(tǒng)中所有H勺vgo

#lsvgrootvg列出rootvg日勺具體信息。

ttlsvg-o列出激活的vg

5oslevel命令

ttoslevel顯示操作系統(tǒng)版本信息。

6netstat命令

ttnetstat-in顯示系統(tǒng)中各網(wǎng)卡的配備??刹榭淳W(wǎng)卡的IP配備好

了沒有。

7#diag命令

運營硬件診斷程序檢測主機內(nèi)所有硬件,檢測成果為“Notrouble

found"顯示各部分工作正常。

8使用#diag命令

(選擇:TaskSelection->SSAServiceAids)對SSA硬盤鏈路連接的

校驗,可以通過SSA工具里H勺LinkVerification來檢測。如有必要,

可以用CertifyDisk運營硬盤診斷部分進行硬盤的表面分析測試,由

1%至100%,檢測成果顯示主機內(nèi)置硬盤時所有扇區(qū)均讀寫正常。

9Isps-a

查看PAGINGSPACEMJ使用狀況,如果使用率超過70%,就需要采用措施.

10Isvg-o|Isvg-il|grep-istale

查看有無staleH勺Iv,如果輸入該命令之后有輸出成果,就需要采用措施

11有否發(fā)給root顧客的錯誤報告(mai1)。

12檢查雙機狀態(tài):Issrc-gcluster

檢查ha三個工作進程與否激活,/usr/sbin/cluster/clstat-a檢查雙

機狀態(tài)與否up,并檢查hacmp.out日記,看與否有異常信息。

13用vmstat,topas,sar命令

檢查系統(tǒng)性能,檢查cpu\memoyr\IO,與否存在性能瓶頸。

14檢查能否順利進入CDE界面,如果不能進入H勺話,要檢查/etc/hc,sts

表中有否錯誤的項目。

15用smittyssaraid查看磁盤陣列RAID盤[f、J狀態(tài)與否是Good。如

果是degrade或其他狀態(tài)表達RAID盤浮現(xiàn)問題了

16用sysdumpd6v-1查看系統(tǒng)『、JDUMP設(shè)立與否正常。

17用instfix-ik|grepML目前操作系統(tǒng)補丁版本補丁程序(FTF)

與否滿足穩(wěn)定運營的需要。一般規(guī)定433操作系統(tǒng)補丁要打到10以上,

5.1操作系統(tǒng)補丁要打到5以上

18使用df?kP查看磁盤空間占用率,請保證如下文獻系統(tǒng)日勺占用率

高于80%立即上報:

2.8性能監(jiān)控與調(diào)優(yōu)

通過命令vmstat1來觀測.

kthrmemorypage

faultscpu

rbavmfrerepiposrcy

insycsussyidwa

命令解析:vmstat命令口勺輸出可以反映系統(tǒng)整體運營狀況,涉及cpu、內(nèi)

存、虛擬頁面、系統(tǒng)進程和系統(tǒng)調(diào)用狀況。

檢查CPU與否為瓶頸,分別檢查CPU的四項數(shù)值和kthr的兩項數(shù)值.

檢查MEM與否為瓶頸,分別檢查Memory的兩項數(shù)值和Page的六項數(shù)值.

通過命令sar-mu-PALL來觀測。

命令解析:sar可以用來收集反映系統(tǒng)運營狀況,在這里重要是查看

CPU的運營狀況,CPU與否負載均衡,與否存在分派不均的)狀況。

通過命令psgv|more來觀測。

P1DTTYS?ATTIME

PGINSIZERSSUMTSTZTRS%CPU%MEMCOMMAND

0-A4:20712

14516XX0145040.05.0swapper

1-A1:331037895279044

3276825360.029.0/etc/ini

命令解析:ps可以用來查看進程的目前狀態(tài)。在這里通過參數(shù)日勺配搭,可

以觀測目前正在運營的進程所耗日勺時間,CPU和memory量.其中,%CPU表

達進程所占用的CPU資源狀況,%MEM表達進程所占用日勺內(nèi)存狀況。重要檢

查與否有標(biāo)示為〈defunc>的僵尸進程耗用系統(tǒng)資源,以及informix數(shù)據(jù)

庫口勺oninit進程口勺系統(tǒng)消耗狀況。

在機器上用dd命令進行磁盤陣列的寫操作校驗,與此同步用iostat1

-dhdiskX觀測磁盤。

Disks:%

tmactKbpstpsKbreadKbwrtn

命令解析:iostat可以用來查看系統(tǒng)日勺I/O的輸入輸出狀況,在這里重

要查看陣列上的硬盤的每秒讀寫最,同步估算磁盤陣列讀寫速度

HHhllhh

通過命令netstat-a進行查看。

ActiveInternetconnections(includingservers)

ProtoRecv-QSend-QLocal

AddressForeignAddress(state

命令解析:netstat可以用來查看系統(tǒng)日勺網(wǎng)絡(luò)狀況,在這里重要是查看網(wǎng)

絡(luò)客戶端連接的狀況和開銷,檢查參數(shù)為state,如有死連接,state狀

態(tài)為fin_wait,這樣耗用系統(tǒng)網(wǎng)絡(luò)資源,從而導(dǎo)致網(wǎng)絡(luò)性能下降構(gòu)成瓶

頸。

2.9安全工作守則

a.系統(tǒng)定期進行系統(tǒng)備份,系統(tǒng)盤建議鏡像。

b.當(dāng)有系統(tǒng)變更或進行操作系統(tǒng)補丁安裝日勺時候,必須作一次系統(tǒng)備份。

c.在7133和shark發(fā)既有硬盤故障的時候,請?zhí)崾究蛻糇⒁猱?dāng)天的)數(shù)據(jù)

備份。在更換硬盤的時候,請確認當(dāng)天數(shù)據(jù)備份已經(jīng)完畢。

d.在更換敏感的電子元件,時候一定要防靜電。

e.在插拔外圍設(shè)備的時候,請把外圍設(shè)備下電。

f.在進行主機微碼升級時候,請留意微碼的完整性。

g.在進行文獻刪除啊時候,請留意目前程徑與否對的。

h.在進行文獻解壓縮的時候,請留意參數(shù)和途徑。

2.10維護電話

在平常維護中遇到問題和疑難,可以致電:

IBM免費技術(shù)支行保修熱

線:800-810-6677010-64981188-5100

客戶技術(shù)征詢熱線:800-810-1818

IBM廣州分公司聯(lián)系電話/p>

I本帖最后由mf'kqwyc86于-11-412:32編輯]

###############################################################

#################################君子務(wù)本,本立而道生。

-—mfkqwyc86,飛鷹工作室ITPUT個人空間:

http://space.itpub.net/9664900

01.

[OracleRAC]Linux+Oracle11gR2RAC安裝配備具體過

程http://space,itpub.net/9664900/viewspace-67683602.[Oracle

RAC]OracleRAC更改VIPIP地址_2節(jié)點的實

驗http://space.itpub.net/9664900/viewspace-67680003.[Oracle

RAC]OracleRAC刪除一種節(jié)點_3節(jié)點的實

驗http://space.itpub.net/9664900/viewspace-67679904.[Oracle

RAC]OracleRAC增長一種節(jié)點_3節(jié)點的實

驗http://space.itpub.net/9664900/viewspace_67679805.[Oracle

RAC+DG]OracleRAC+ASM+DataGuard配備實驗記

錄http://space,itpub.net/9664900/vicwspacc-67679706.[Oracle

RAC]OracleRACCRS>OCR、Voting破壞意

建http://space.itpub.net/9664900/viewspace-67679607.[Oracle

表分區(qū)管理】OraclePartition表分區(qū)與分區(qū)索引兒種方式的實驗操作

http:〃space,itpub.net/9664900/viewspace-67685508.[IBMDB2表空

間管理】db2表空間管理一實例解說之精

髓http:〃space,itpub.net/9664900/vie\vspace-67677709.[IBM

DB2補丁升級】從v9.5.0.1升級到DB2

v9.5.0.6http://space,itpub.net/9664900/viewspace-67682710.

【中間件資料下載匯總】WebSphere,MQ,Portal,WcbLogic資料下載匯總

【PDF格式-共51

類】http://space,/9664900/viewspace-676843

只看該作者命

mfkqw^

#2

yc86使用道具

飛鷹工刊登于-11-412:22

作室

跟貼闡明:

大家看了如下平常維護及故障解決匯總措施后,請大家在貼

后跟上自己遇到過的錯誤問題,及解決措施!!

精髓貼

數(shù)1

個人空

間400第三類、故障定位、故障排除

技術(shù)積

分826

(3079)根據(jù)我們在實際商用系統(tǒng)中遇到問題,我們總結(jié)出了如下幾種常見

社區(qū)積故障及其定位方式和解決措施。3.1硬件故障硬件故障有諸多種,

分28對系統(tǒng)產(chǎn)生的影響也不同樣,這里按其故障對系統(tǒng)日勺影響限度分:致

(9086)命影響的硬件故障和只影響功能的硬件故障兩類進行硬件分類:其

注冊日損壞對系統(tǒng)產(chǎn)生致命影響(將使機器宕機或無法啟動)的硬件涉及:

期主板、CPU、I/O柜(涉及本地盤、光驅(qū)、PCI插槽等的柜子)或CEC

-4-28柜(涉及CPU/MEM0RY等日勺柜子)、I/O柜與CEC柜時接線、電源模塊、

論壇徽電扇、本地硬盤、內(nèi)存損壞等等注:1/()柜和CEC柜一般在比較高品

章:1位的小型機才有,如M80,低端的是合一的。這些設(shè)備的損壞等將

使系統(tǒng)無法完畢自檢、引導(dǎo)和啟動,液晶顯示屏上都將有錯誤信息,

可根據(jù)液晶顯示屏上的錯誤碼對照ServiceGuide查的錯誤因素,如

果是工作狀態(tài)下浮現(xiàn)這些硬件損壞,見系統(tǒng)將被掛起或宕機。其損

壞對僅對系統(tǒng)產(chǎn)生功能影響(機器不會宕機并能正常啟動)H勺硬件涉

及:網(wǎng)卡、本地硬盤有壞塊、顯卡、SSA卡和其他外圍設(shè)備這些設(shè)

備的損壞只影響特定功能,如網(wǎng)絡(luò)功能、顯示功能、訪問磁陣的功能

等,對于本地硬盤有壞塊的狀況,則要看壞塊中與否涉及了重要的系

統(tǒng)文獻,如果不是重要系統(tǒng)文獻,則系統(tǒng)功能不受影響,但也建議立

即更換該硬盤。故障定位和排除:以上硬件故障信息都可以使用:

液晶屏上日勺錯誤碼或:errpt-dH查看到根據(jù)錯誤碼擬定是什

么硬件出了故障,對商用系統(tǒng)來講,由于是雙機系統(tǒng),如果損壞機器

是主機可以將此服務(wù)器切換成備機,然后修復(fù)故隙機器,恢復(fù)系統(tǒng)。

3.2磁陣故障磁陣引起的故障是目前遇到的最頻繁、危害最大的故

障,據(jù)不完全記錄,其故障覆蓋到總故障日勺70%以上,具體來講,也

許引起磁陣故障的環(huán)節(jié)涉及:磁陣硬盤、7133柜子、主機上的SSA

卡、連接7133與主機的SSA線、硬盤的位置和ssa線的接線方式、

以及盤柜使用日勺電壓及周邊磁場、磁陣/硬盤/ssa卡的微碼等都也許

導(dǎo)致7133歐J異常。7133磁陣的問題是最復(fù)雜的),一般有物理損壞日勺

因素也有環(huán)境因素,這是主因,如接線、插盤位置不符合規(guī)定、未及

時查看系統(tǒng)告警等導(dǎo)致系統(tǒng)中斷等輔因。按照我們的經(jīng)驗,不管是

什么硬件故障導(dǎo)致7133故障,系統(tǒng)都會產(chǎn)生告警,如果能及時發(fā)現(xiàn)

問題并采用措施,一般都能避免故障的發(fā)生。故障定位:7133硬

件故障也可以使用:errpt-dH查看到隨著的錯誤碼有:

B4C006180115140004PHssaORESOURCE

UNAVAILABLEFE9E93570401082304PHssaODISK

OPERATIONERRORFE9E93571205000803PHpdisk3DISK

OPERATIONERROR03913B941122031103UH

LVDDHARDWAREDISKBLOCKRELOCATION

ACHIEVED613E5F381121125103PHLVDDI/OERROR

DETECTEDBYLVM625E6B9A0401090004PH

ssaOADAPTERDETECTEDOPENSERIAL

LINK26CA120B0206081104PHssaOCACHESTORAGE

CARD所有日勺錯誤碼都預(yù)示著7133有異常,紅色部分則表達肯定浮現(xiàn)

了硬件故障,需要立即進行檢查并采用措施,否則磁陣將不久不能訪

問。對于藍色部分:625E6B9A0401090004PH

ssaOADAPTERDETECTEDOPENSERIALLINK表達ssa浮現(xiàn)

了開環(huán),浮現(xiàn)開環(huán)不僅影響10性能,也增長了風(fēng)險,即如果另一種

環(huán)路也浮現(xiàn)問題,將不能訪問磁陣。開環(huán)一般有兩種狀況;1)如果

625E6B9A報錯比較頻繁,如每天幾次,則表達系統(tǒng)很有也許出了硬件

故障,雖然不會導(dǎo)致訪問磁陣失敗,但需要立即查出原因并解決。

查錯措施可以參照下面的描述。2)如果625E6B9A錯誤偶爾報一次,

則要具體狀況具體看待,有也許是讀寫忙浮現(xiàn)日勺誤報,也按下面措施

進行排查,如果沒有查出具體口勺因素,則可以繼續(xù)觀測。

26CA120B0206081104PHssaOCACHESTORAGE

CARD該錯誤一般是在:SSA卡帶writecache并打開FastWrite,而

ssa卡上用于writecache供電歐J可充電鍥鎘電池達到或接近安全壽

命的狀況下產(chǎn)生H勺。此類錯誤產(chǎn)生將影響10寫性能,并且由于在

FaslWriie打開的狀況下,主備機需要同步ssa卡上的Jwritecache,

因此甚至?xí)绊懙街鱾錂C同步。具體解決措施可參照下文。故障排

除:對于紅色部分錯誤的問題排除,一般可以使用diag命令進行進

一步診斷:#diag->TaskSelection->SSAServiceAids->Link

Verification檢查環(huán)路中與否浮現(xiàn)了???的盤符或狀態(tài)不是

good的|硬盤或使用:ttsmittyssaraid->ListAllDefinedSSA

RAIDArrays查看磁盤陣列RAID盤的狀態(tài)與否是Good。如果是

degrade或其他狀態(tài)表達RAID盤浮現(xiàn)問題了這時候不建議再進行

單獨硬盤口勺Certify,而是趕緊告知IBM準(zhǔn)備好相似型號和大小的硬

盤(至少兩塊)到現(xiàn)場進行進一步的診斷和壞盤更換。

625E6B9A0401090004PHssaOADAPTERDETECTED

OPENSERIALLINK的排查措施:1、規(guī)定將7133中未插硬盤日勺槽位

所有插上dummy盤。(dummy盤:啞元盤,就是那個空殼子,相稱于替

代SSA硬盤裝在磁盤陣列日勺塑料模型,當(dāng)磁盤陣列的16個槽位沒有被

SSA硬盤插滿時才用到.)2、看看Loop狀態(tài):diag>Task

Selection—>SSAServiceAids->LinkVerification.正常Adapter

Port下的兩列數(shù)字是持續(xù)不間斷的排列,且Status都為good,如果

Physical列有???????符號.或Status不是good,則說明已經(jīng)存在

硬盤或鏈路故障,這種狀況則要立即采用行動,做進一步檢查以擬定

與否要更換硬盤。檢查單盤與否有問題的措施如下:

diag—>TaskSelection一>SSAServiceAids->Ccrtify

Disk選擇覺得存在故障的硬盤進行檢查3、如果7133存在硬

件故障時,可從狀態(tài)燈上觀測到:當(dāng)單塊硬盤浮現(xiàn)故障或未被

使用時,其面板上的硬盤狀態(tài)燈會不亮陣列日勺狀態(tài)燈黃燈會亮

或接SSA線端口口勺批示燈也會熄滅如果通過以上三種措施

都未發(fā)現(xiàn)問題,而系統(tǒng)仍報OpenSerialLink錯誤,建議繼續(xù)跟蹤。

26CA120B0206081104PHssaOCACHESTOR/\GE

CARD日勺解決措施:背景簡介:IBM小型機上連接7133磁降所

配備日勺SSA卡一般都帶有一塊充電電池,該電池用于在忽然停電的狀

況下保護ssa卡上『勺fastwritecache中的信息不去失,這塊電池

的安全壽命一般是2小時,差不多兩年半的時間,也就是說,當(dāng)fast

write模式啟動的狀況下,一般兩年半后來需要更換這塊電池。問

題體現(xiàn):對ssa卡上的電池保護是通過卡上日勺一種計數(shù)器實現(xiàn)

的,每運營一小時該計數(shù)器會增長一,當(dāng)該計數(shù)接近或超過2時,系

統(tǒng)會有26cAi20B硬件報警:26CA120B0206120904PH

ssalCACHESTORAGECARD可以用如下命

令檢查ssa卡上的狀態(tài):Qa后帶上卡的邏輯設(shè)備名,這里假設(shè)是

ssaO)ssa_fw_status-assaO-p(檢查電池已經(jīng)

工作日勺時間,小時為單位)ssa_fw_status-a

ssaO-1(檢查電池安全工柞壽命,小時為單

位)ssa_fw_status-assaO-c(檢查ssa卡上H勺

fastwrite功能與否被激活)解決環(huán)節(jié):(按優(yōu)選方式列出,從中

選擇一種即可)1)更換電池選擇系統(tǒng)闈時,更換主備機ssaK

電池,可以采用:停備機一》更換備機ssa卡電池一》起備機

(雙機服務(wù))一》主備倒換一》停原主機一》更換原主機ssa

卡電池一》起原主機(雙機服務(wù))2)如果系統(tǒng)浮現(xiàn)26cAi20B電池

告警,使用ssa_fw_status-assaO-c檢查主用ssa卡(一般是

ssaO)FastWrite與否處在inactive(未被激活)狀態(tài),如果是,

則以root執(zhí)行如下命令:ssa_format_1ssaO-b

errclear0/usr/lib/errstop

/usr/1ib/errdemon可以暫緩更換電池時間,等有電池

后再更換,但這段時間對磁陣讀寫性能會有所影響。3)如果短期內(nèi)

不能更換電池,同步主機主用卡的FastWrite仍然處在Active狀態(tài),

建議手工屏蔽fastwrite功能1)先停止雙機2)在1

號機修改hdisk該屬性:smittydev->ssadisks->ssa

logicaldisks->change/showcharactersof...->[choose

hdisk2]->fastwrite[no]3)在1號機激活卷組

varyonvgzxinvg4)在1號機去激活卷組

varyoffvgzxinvg5)在2號機上執(zhí)行

smittydev->ssadisks->ssalogicaldisks->change

/showcharactersof...->[choosehdisk2]->fastwrite

[no]檢查fastwrite與否己經(jīng)改為no(只要1號機做

了2好機就不用再修改了)6)在2號機上執(zhí)行

rmdcv-dlhdisk2cfgmgr-v7)

在2號機上執(zhí)行Ispv(查看hdisk2與否已找

到)8)然后執(zhí)行varyonvg

zxinvgvaryoffvgzxinvg9)重新啟動雙機

B4C006180115140004PHssaORESOURCE

UNAVAILABLE而不隨著其他紅色標(biāo)出錯誤日勺狀況,則通過如下方式排

查:也許是hdisk中將'enableuserofhotspare'打開了,而

實際并沒有配備hotspare盤,可以通過如下方式解決:檢查RAID

歐I狀態(tài):#smitty

ssaraid

listall

definedSSARAIDarrays:al1areinstatusgood

(ssaO)檢查與否配備了hot

spare:1ist/idcntifySSAPhysicaldisks—>Listhot

spares:none修改每個ssa卡所配條『、Jhdisk口勺屬性::set

“enableuseofhotspare"to〃no〃然后再執(zhí)行:#

/usr/lib/errstop#cp

/var/adm/ras/err1og/var/adm/ras/errlog.bak#/usr/lib/e

rrdemontterrclear0對于物理硬盤口勺接法可參照如下闡明:(有

也許老局未配備hotspare,則連線措施按未配備hotspare盤的個

數(shù)計算)分如下幾種狀況講述:1)數(shù)據(jù)盤小于等于6塊,建

議配備一塊hotspare2)數(shù)據(jù)盤大于等于8塊小于等于10塊,

建及配備兩塊hotspare3)數(shù)據(jù)盤大于等于12塊小于等于14

塊,建議配各兩塊hotspare1數(shù)據(jù)盤小于等于6塊,配備一

塊hotspare的接線和配備規(guī)則:a)主機Al、A2接磁陣1、8

位置;備機Al、A2接磁陣4、5位置b)保證磁陣前排1\4\5\8

硬盤位置一定要插盤,其他的盤可以挑空位插,注意1-4、5-8兩側(cè)

的數(shù)據(jù)盤保持軸對稱關(guān)系插入(如1和8是軸對稱日勺、4和5是軸對

稱時)c)沒有插硬盤日勺位置一定要插上dummy盤d)做

RAID0+1時,考慮到性能問題,請將『4、5-8以軸對稱方式一一相

應(yīng)做硬盤鏡像,舉例如下:ibm對pdisk的排序與實際口勺物理位置是

不同『、J,因此必須先通過Isdev-CIgreppdisk『、J方式找出其相應(yīng)

關(guān)系并記錄下來,如:pdiskOAvailable

11-08-1641-01-PSSA160PhysicalDisk

DrivepdisklAvailable11-08T641.-05-PSSA160

PhysicalDiskDrivepdisk2Available

11-08-1641-04-PSSA160PhysicalDisk

Drivepdisk3Available11-08-1641-08-PSSA160

PhysicalDiskDrive看第三列中間字符中有-01-的字樣,表達

其物理硬盤位置,以上相應(yīng)關(guān)系表達pdiskO-pdisk3相應(yīng)的)物理槽位

分別是前排1\5\4\8口勺位置,因此在使用smittyssaraid做RAIDO+1

時,需將1\8位置的硬盤(pdisk0/pdisk3)做成鏡像、4\5位置的硬

盤(pdisk2/pdiskl)做成鏡像,因此選擇PrimaryDisks/Secondary

Disks時如下:smittyssaraid->AddanSSARAIDArray

->...PrimaryDisks[需要選擇:pdiskO

pdisk2]―1\4槽位『、J硬盤作為主盤Secondary

Disks[需要選擇:pdisk3pdiskl]-8\5槽位日勺硬盤作

為從盤該規(guī)定只是從性能考慮,并不增長其他特

性。e)hotspare盤插入位置可以找前排8個位置中日勺空

位插入即可,無特殊位置規(guī)定,制作措施如下:使用lsdev-C|grep

pdisk方式找出其pdisk號,如pdisk5然后使用如下方式將其做成

hotspare盤。smittyssaraid->ChangeUseofMultipleSSA

PhysicalDisks->選擇ssa卡(連接磁陣口勺ssa卡,缺省為ssaO)->

選擇作為hotspare日勺pdisk,如pdisk6->NewUse->選擇hotspare

按回車創(chuàng)立即可1數(shù)據(jù)盤大于等于8塊小于等于10塊,

配備兩塊hotspare日勺接線和配備規(guī)則:a)主機Al、A2接磁

陣1、12位置;備機Al、A2接磁陣8、9位置b)保證磁陣前

排1—8位置插滿數(shù)據(jù)盤,9-12位置的數(shù)據(jù)盤和hotspare盤位置可

任意。c)沒有插硬盤的位置一定要插上dummy盤d)做

RAID0+1時,考慮到性能問題,請將1-4、5-8以軸對稱方式一一相

應(yīng)做硬盤鏡像,9T2位置中有數(shù)據(jù)盤日勺,將其相應(yīng)做鏡像,其他兩

塊做hotspare,舉例如下:ibm對pdiskH勺排序與實際的物理位置

是不同的I,因此必須先通過Isdcv-C|greppdisk日勺方式找出其相

應(yīng)關(guān)系并記錄下來,如:pdiskOAvailable

11-08-1641-01-PSSA160PhysicalDisk

DrivepdisklAvailable11-08-1641-05-PSSA160

PhysicalDiskDrivepdisk2Available

11-08-1641-04-PSSA160PhysicalDisk

Drivepdisk3Available11-08-1641-08-PSSAI60

PhysicalDiskDrivepdisk4Available

11-08-1641-02-PSSA160PhysicalDisk

Drivepdisk5Available11-08-1641-03-PSSA160

PhysicalDiskDrivepdisk6Available

11-08-1641-07-PSSA160PhysicalDisk

Drivepdisk7Available11-08-1641-06-PSSA160

PhysicalDiskDrivepdisk8Available

11-08-1641-09-PSSA160PhysicalDisk

Drivepdisk9Available11-08-1641-11-PSSA160

PhysicalDiskDrivepdisklOAvailable

11-08-1641-10-PSSA160PhysicalDisk

DrivepdiskllAvailable11-08-1641-12-PSSA160

PhysicalDiskDrive看第三列中間字符中有-01-的字樣,表

達其物理硬盤位置,以上相應(yīng)關(guān)系表達pdiskO-pdiskll相應(yīng)的物理

槽位分別是1\5\4\8\2\3\7\6\9\11\10\12口勺位置,因此在使用smitty

ssaraid做RAID0+1時,前面八塊盤按1-4、5-8軸對稱方式相應(yīng)做

mirror,9T2中如選擇9(pdisk8)/12(pdiskll)位置做mirror因此

選擇PrimaryDisks/SecondaryDisks時如下:smitty

ssaraid->AddanSSARAIDArray->...Primary

Disks[選擇:pdiskOpdisk4pdisk5pdisk2pdisk8]物理

1-4,9槽位SecondaryDisks[選擇:pdisk3pdisk6pdisk7

pdisklpdiskll]物理8-5,12槽位該規(guī)定只是從性能考慮,并

不增長其他特性。e)剩余物理位置

10(pdiskl0)/ll(pdisk9)盤做成hotspare,措施同上e)環(huán)節(jié)

1數(shù)據(jù)盤大于等于12塊小于等于14塊,配備兩塊hotspare

的接線和配備規(guī)則:a)主機Al、A2接磁陣1、16位置;備機

Al、A2接磁陣8、9位置b)空巴3、14位置插hotspare,如

果是12塊數(shù)據(jù)盤,空出2、15位置插dummy盤,其他都插入數(shù)據(jù)盤;

如果是M塊數(shù)據(jù)盤,則將剩余日勺14個位置所有插上數(shù)據(jù)盤

c)做RAID0+1時,考慮到性能問題,請將1-8、9-16以軸對

稱方式一一而應(yīng)做硬盤鏡像,hotspare也滿足軸對稱關(guān)系,舉例如

下:ibm對pdisk時排序與實際的物理位置是不同的,因此必須先通

過Isdev-CIgreppdisk的J方式找出其相應(yīng)關(guān)系并記錄下來,如:

pdiskOAvailable11-08-1641-01-PSSA160

PhysicalDiskDrivepdisklAvailable

11-08-1641-05-PSSA160PhysicalDisk

Drivepdisk2Available11-08-1641-04-PSSA160

PhysicalDiskDrivepdisk3Available

11-08-1641-08-PSSA160PhysicalDisk

Drivepdisk4Available11-08-1641-02-PSSA160

PhysicalDiskDrivepdisk5Available

11-08-1641-03-PSSA160PhysicalDisk

Drivepdisk6Available11-08-1641-07-PSSA160

PhysicalDiskDrivepdisk7Available

11-08-1641-06-PSSA160PhysicalDisk

Drivepdisk8Available11-08-1641-09-PSSA160

PhysicalDiskDrivepdisk9Available

11-08-1641-11-PSSA160PhysicalDisk

DrivepdisklOAvailable11-08-1641-10-PSSA160

PhysicalDiskDrivepdiskl1Available

11-08-1641-12-PSSA160PhysicalDisk

Drivepdiskl2Available11-08-1641-16-PSSA160

PhysicalDiskDrivepdiskl3Available

11-08-1641-13-PSSA160PhysicalDisk

Drivepdiskl4Available11-08-1641-15-PSSA160

PhysicalDiskDrivepdiskl5Available

11-08-1641-14-PSSA160PhysicalDiskDrive看第三列中間

字符中有-OLD勺字樣,表達其物理硬盤位置,以上相應(yīng)關(guān)系表達

pdisk0-pdiskl5相應(yīng)日勺物理槽位分別是

1\5\4\8\2\3\7\6\9\11\10\12\16\13\15\14的位置,因此在使用

smittyssaraid做RAIDO+1時,以1-8、9T6以軸對稱創(chuàng)立mirror

因此選擇PrimaryDisks/SecondaryDisks時如下:smitty

ssaraid->AddanSSARAIDArray->...Primary

Disks[選擇:pdiskOpdisk4pdisk2pdisklpdisk7pdisk6

pdisk3]物理1-8槽位,除3位置以外SecondaryDisks[選

擇:pdiskl2pdiskl4pdiskl3pdiskllpdisk9pdisklOpdisk8]

物理16-9槽位,除14位置以外該規(guī)定只是從性能考慮,并不

增長其他特性。剩余物理位置3(pdisk5)/14(pdiskl5)盤做成hot

spare,措施同上e)環(huán)節(jié)3.3網(wǎng)絡(luò)故障由于我們應(yīng)用對網(wǎng)絡(luò)依賴很

強,因此當(dāng)網(wǎng)絡(luò)浮現(xiàn)全阻或瞬斷都將對系統(tǒng)產(chǎn)生重大影響,網(wǎng)絡(luò)故障

一般可分為硬件故障(如網(wǎng)卡故障和互換機、路由器故障)和軟件故

障(網(wǎng)絡(luò)中有TP包襲擊或網(wǎng)絡(luò)擁塞)兩種狀況。硬件故障:1.網(wǎng)

卡對于網(wǎng)卡故障,由于商用系統(tǒng)中都是采用IBM的HA雙機系統(tǒng),并

且每臺機器都配備有至少兩塊網(wǎng)卡,因此當(dāng)單塊網(wǎng)卡或網(wǎng)線浮現(xiàn)問題

時,HA軟件都將采用措施實現(xiàn)ServiceIP切換。網(wǎng)卡故障定位措

施:使用errpt-dll可查看到網(wǎng)卡服務(wù)中斷的I錯誤,再使用diag進

行網(wǎng)卡診斷網(wǎng)卡故障排查措施:如果診斷出網(wǎng)卡有問題,則關(guān)閉系

統(tǒng)后進行更換。(如果是主機,則先手工切換為備機后再操作)2.互

換機我們的網(wǎng)絡(luò)一般都采用雙網(wǎng)雙平面的構(gòu)造,因此當(dāng)一種網(wǎng)絡(luò)平

面的互換機浮現(xiàn)問題時,也不會中斷網(wǎng)絡(luò)服務(wù),但值得注重的是:主、

備互換機之間日勺直連線要保持暢通,否則一單發(fā)生IBM服務(wù)器主機

或SIU主機的網(wǎng)卡切換,將導(dǎo)致IBM服務(wù)器主機和SIU主機斷鏈,從

而導(dǎo)致業(yè)務(wù)全阻。尚有一種狀況,有些地方為了網(wǎng)絡(luò)安全,對連到

switch_t口勺不同設(shè)備劃分了不同iKjVLAN,同步又將主、備switch之

間改成通過兩個口連接,并劃分在一種channelgroup里,當(dāng)時遇到

的一種狀況是:1)當(dāng)時TBM服務(wù)器的主網(wǎng)卡從缺省VLAN0到VLAN6

實現(xiàn)遷移時,網(wǎng)絡(luò)將浮現(xiàn)15秒?30秒的瞬斷2)當(dāng)時主、備互換機之

間的channelgroup工作不正常,鏈路不通。當(dāng)1)發(fā)生時,IBM雙

機發(fā)生主、備網(wǎng)卡倒換,但由于2)的問題,導(dǎo)致IBM主機無法與SIU

建鏈。問題排查及建議:1)建議開局時一定要做雙網(wǎng)雙平

面中一種平面口勺swith發(fā)生掉電的故隙測試2)建議一定要做

主、備互換機之間口勺設(shè)備之間的網(wǎng)絡(luò)互訪測試,保證暢通3)盡

量不要在白天在switch上進行配備修改,如果需要修改,也要在晚

上進行,并有嚴格的方案軟件故障:1.網(wǎng)絡(luò)擁塞由于系統(tǒng)在封

閉網(wǎng)絡(luò)中運營,因此發(fā)生網(wǎng)絡(luò)擁塞日勺也許性比較小,但如果網(wǎng)絡(luò)拓撲

比較復(fù)雜日勺話,也也許發(fā)生這種狀況,在主機上的體現(xiàn)為ping主機

丟包嚴重,主機到SIU之間鏈路時通時斷,數(shù)據(jù)包丟失,設(shè)備功能異

常。問題排查及建議:1)盡量使NTH勺機器從網(wǎng)絡(luò)上隔離出

去2)如果狀況仍未改善,建議啟動SIU應(yīng)急流程3)在

恢復(fù)呼喊日勺前提下,使用網(wǎng)絡(luò)工具抓包,找出襲擊源、逐漸將設(shè)備恢

復(fù)到網(wǎng)絡(luò)。2.切換失敗現(xiàn)場遇到過一種狀況,當(dāng)發(fā)生主、

備機切換時老是切換不成功,檢查發(fā)現(xiàn)是備機日勺主網(wǎng)卡綁定浮動IP

老是失敗,再進一步排查,發(fā)現(xiàn)失敗日勺因素是備機主網(wǎng)卡綁定MAX地

址失敗,由于IBM雙機配備時需要將ServiceIP配備為一種固定口勺

MAC地址,規(guī)則是取主機主網(wǎng)卡的MAC地址,將最后兩位改為固定H勺

兩個數(shù)字(規(guī)定與原主網(wǎng)卡地址不同,如定制為89)o但這樣的規(guī)則

在現(xiàn)場不成才問題排除:最后修改了HA拓撲圖中以太網(wǎng)配備口

ServiceAdapter配備,去掉MAC地址的配備(置為空),讓后同步

雙機,再進行倒換,一切0K由于網(wǎng)絡(luò)故障浮現(xiàn)會導(dǎo)致遠程登錄失

效,因此無法進行系統(tǒng)維護。因此建議任何一套TBM服務(wù)器都要配備

一種維護臺。3.4OS故障AIX是一種比較穩(wěn)定的操作系統(tǒng),浮現(xiàn)故

障一般是人為因素引起的:1.沒按規(guī)定打OS補丁,如433打

了09口勺補丁導(dǎo)致內(nèi)存泄漏2.應(yīng)用程序或數(shù)據(jù)庫消耗內(nèi)存太多

或存在內(nèi)存泄漏導(dǎo)致物理內(nèi)存和pagingspace被耗盡導(dǎo)致系統(tǒng)掛起

3.人為刪除了重要日勺目錄或文獻,如:/dev、/usr、/bin、

/sbin、/ctc等故障排查:1.查操作系統(tǒng)補丁與否符合規(guī)定(433

規(guī)定10以上,5.1規(guī)定5以上)2.檢查內(nèi)存、pagingspaceH勺使

用狀況(使用Isps-a查看使用率要小于20%)3.檢查shell命令

執(zhí)行時與否有報錯,errpt有無有關(guān)報錯3.5HA故障對于HA安裝

時浮現(xiàn)的故障,猶如步拓撲圖失敗,規(guī)定檢查如下條款看與否符合規(guī)

定:1.對于4.4.1版本的HA一定要打上15以上的補丁,4.5版本

的HA規(guī)定打上9以上的補丁2.網(wǎng)絡(luò)有關(guān)日勺配備文獻一定要按照安

裝手冊去設(shè)立3.網(wǎng)絡(luò)ip配備要對的并且保證物理鏈路暢通4.所

有4.4.1、4.4.0版本一律使用原則版5.不能在同一臺機器中同步

安裝原則版或ES版6.打補丁時請使用smittyupdatjall方式,

不要選擇打所有補丁,由于原則版和ES版H勺補丁往往在一起,這樣

會導(dǎo)致版本不一致如果是新開局,一定要保證做雙機倒換測試并保

證成功。如果在后續(xù)使用中,進行了如下操作,后來再做雙機切換

會失?。?.在主機上做過磁陣RAID或共享VG有關(guān)信息日勺修改,如:

增長了新日勺RAID盤,修改了共享VG的配備2.在共享VG中增長了

新的FS、增長了新LV3.以上配備或修改只在主機上進行了操作,

而未將共享VG信息及時同步到備機4.備機雖然導(dǎo)入了新日勺共享VG

信息,但未修改共享VG屬性為系統(tǒng)啟動時不自動啟動5.未在共享

VG激活、共享文獻系統(tǒng)mount狀態(tài)下修改備機共享文獻系統(tǒng)、裸設(shè)備

的權(quán)限改為

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時也不承擔(dān)用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

最新文檔

評論

0/150

提交評論