ORACLE11gR2-RAC集群+單實例DG安裝部署配置_第1頁
ORACLE11gR2-RAC集群+單實例DG安裝部署配置_第2頁
ORACLE11gR2-RAC集群+單實例DG安裝部署配置_第3頁
ORACLE11gR2-RAC集群+單實例DG安裝部署配置_第4頁
ORACLE11gR2-RAC集群+單實例DG安裝部署配置_第5頁
已閱讀5頁,還剩62頁未讀 繼續(xù)免費閱讀

付費下載

下載本文檔

版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進行舉報或認領

文檔簡介

ORACLE11gR2RAC集群+單實例DG安裝部署配置方案1參考集群規(guī)劃硬件環(huán)境主庫RAC:服務器2臺:分別為32核CPU、128G內(nèi)存雙網(wǎng)卡*2。共享存儲:2T備庫單機:服務器1臺:為32核CPU、128G內(nèi)存。存儲:2T軟件環(huán)境數(shù)據(jù)庫:linux.x64_11gR2集群件:linux.x64_11gR2_grid操作系統(tǒng):rhel6.9數(shù)據(jù)庫版本:oracle.0IP及存儲規(guī)則每個節(jié)點一個publicIP每個節(jié)點一個publicVIP每個節(jié)點一個privateIP心跳privateip走私有網(wǎng)段,public走公用網(wǎng)段,網(wǎng)段不能相同,Public

IP、Virtual

IP、SCAN

IP必須配置在同一網(wǎng)段。設備用途IP地址磁盤空間(下述是根據(jù)實際業(yè)務量估算冗余后的存儲)HPDL980RAC節(jié)點01RAC01-pub:5RAC01-priv:5RAC01-vip:7300GHPDL980RAC節(jié)點02RAC02-pub:6RAC02-priv:6RAC02-vip:8RAC-scan:9300GIBMV7000主庫共享存儲

OCR:30G(Ocr磁盤,即集群注冊磁盤,用于存儲集群配置信息)FRA:450G(用于存放日志文件,歸檔日志,閃回數(shù)據(jù)等)DATA1:600GDATA2:600GDATA3:600G(存儲數(shù)據(jù)文件)HPDL980備庫8300G+600G備份存儲IBMV7000備庫存儲OCR:30G(Ocr磁盤,即集群注冊磁盤,用于存儲集群配置信息)FRA:450G(用于存放日志文件,歸檔日志,閃回數(shù)據(jù)等)DATA1:600GDATA2:600GDATA3:600G(存儲數(shù)據(jù)文件)RAC主庫安裝實施2.1主機環(huán)境準備2.1.1操作系統(tǒng)安裝分別在兩個節(jié)點安裝rhel6.9x86_64位操作系統(tǒng)Root密碼:wyq19851215--a2.1.2服務器內(nèi)存要求Swap大?。?/p>

當內(nèi)存為2.5GB-16GB時,Swap需要大于等于系統(tǒng)內(nèi)存。

當內(nèi)存大于16GB時,Swap等于16GB即可。128內(nèi)存建議為64或者128.配置方法:1、以下的操作都要在root用戶下進行,首先先建立一個分區(qū),采用如下命令創(chuàng)建512M的swap文件(1024*512MB=524288)。ddif=/dev/zeroof=/swapfile1bs=1024count=41943042、接著再把這個分區(qū)變成swap分區(qū)。/sbin/mkswap

/swapfile13、使用這個swap分區(qū)。使其成為有效狀態(tài)。/sbin/swapon

/swapfile14、設置系統(tǒng)自激活交換文件。編輯/etc/fstab文件,并增加如下第二行代碼。vi/etc/fstab/swapfile1

swap

swap

defaults

0

0你就會發(fā)現(xiàn)你的機器自動啟動以后swap空間也增大了。5、使用free-m查看swap大小。調(diào)整/dev/shm的大小

1)查看大小

df-h/dev/shm

2)修改大小

vi/etc/fstabtmpfs/dev/shmtmpfsdefaults,size=4096M003)重新掛載

umount/dev/shmmount/dev/shm4)查看修改后的大小

df-h/dev/shm5)不重起修改tmpfs大小mount-oremount,size=38g/dev/shm2.3網(wǎng)絡配置每個服務器節(jié)點至少需要2塊網(wǎng)卡,一塊對外網(wǎng)絡接口,一塊私有網(wǎng)絡接口(心跳)。2.3.1配置IP(網(wǎng)絡工程師分配IP并配置好)#vi/etc/sysconfig/network-scripts/ifcfg-eth0DEVICE=eth0HWADDR=F0:92:1C:07:25:1CTYPE=EthernetUUID=0b08f4d3-7339-45bc-9a9a-e90e6280a449ONBOOT=yesNM_CONTROLLED=yes#BOOTPROTO=dhcpBOOTPROTO=STATICIPADDR=06netmask=GATEWAY=53#vi/etc/sysconfig/network-scripts/ifcfg-eth1DEVICE=eth1HWADDR=F0:92:1C:07:25:1DTYPE=EthernetUUID=0b08f4d3-7339-45bc-9a9a-e90e6280a412ONBOOT=yesNM_CONTROLLED=yes#BOOTPROTO=dhcpBOOTPROTO=STATICIPADDR=08netmask=GATEWAY=53心跳privateip走私有網(wǎng)段,public走公用網(wǎng)段,網(wǎng)段不能相同,Public

IP、Virtual

IP、SCAN

IP必須配置在同一網(wǎng)段。節(jié)點2也要對2個網(wǎng)卡分別配置IP,同上配置完成后重啟網(wǎng)絡服務:#servicenetworkrestart2.3.2配置主機名1.查看Hostname2.更改/etc/sysconfig下的network文件,在提示符下輸入vi/etc/sysconfig/network,然后將HOSTNAME后面的值改為想要設置的主機名3.重啟機器。2.3.3配置/etc/hosts#vi/etc/hosts#PublicIP51rac16rac2#PrivateIP5rac1-priv6rac2-priv#VirtualIP7rac1-vip8rac2-vip#ScanIP9rac-scan2.4防火墻、SELinux和NTP禁用2.4.1關閉服務器防火墻或開放端口:所有節(jié)點均執(zhí)行

[root@rac1:~]$serviceiptablesstop[root@rac1:~]$chkconfigiptablesoff部分單位若沒有網(wǎng)絡防火墻,則只開放端口,不關閉防火墻,如下:開放Oracle遠程端口在文件【/etc/sysconfig/iptables】內(nèi)增加以下內(nèi)容:[root@rhel6~]#

vim/etc/sysconfig/iptables-AINPUT-mstate--stateNEW-mtcp-ptcp--dport22-jACCEPT-AINPUT-mstate--stateNEW-mtcp-ptcp--dport1521-jACCEPT-AINPUT-mstate--stateNEW-mtcp-ptcp--dport1158-jACCEPTOracle遠程訪問端口默認是1521,OEM端口1158,若自定義新端口,請開放相應端口。注意:新開放端口的配置必須緊跟著放在端口22的配置后面。重啟防火墻生效[root@rhel6~]#

serviceiptablesrestart查看防火墻狀態(tài)[root@rhel6~]#

serviceiptablesstatus2.4.2禁用SELinux:#所有節(jié)點均執(zhí)行

[root@rac1:~]$sed-i's/SELINUX=enforcing/SELINUX=disabled/g'/etc/selinux/config2.4.3禁用NTP并刪除其配置文件:(禁用ntp并刪除配置文件后,rac的grid安裝時會自動使用其自帶的CTSS進行時間管理)#所有節(jié)點均執(zhí)行

[root@rac1:~]$servicentpdstop[root@rac1:~]$chkconfigntpdoff[root@rac1:~]$mv/etc/ntp.conf/etc/ntp.conf.bak2.5資源限額配置為grid和oracle配置資源限額。2.5.1編輯/etc/sysctl.conf,添加以下內(nèi)容:#所有節(jié)點均執(zhí)行[root@rac1:~]$vi/etc/sysctl.conf#oraclerac內(nèi)存為128G時,設置如下:fs.file-max=6815744kernel.sem=25032000100128kernel.shmmni=4096kernel.shmall=1073741824kernel.shmmax=96636764160#依當前內(nèi)存而定,通常60%-80%左右,此次設置70%net.core.rmem_default=262144net.core.rmem_max=4194304net.core.wmem_default=262144net.core.wmem_max=1048576fs.aio-max-nr=1048576net.ipv4.ip_local_port_range=900065500[root@rac1:~11]$sysctl-p#令配置生效shmmax<=物理內(nèi)存數(shù)(G)*1024*1024*1024(bytes),依當前內(nèi)存而定,通常60%-80%左右,一般為sga和pga的和的大小。shmall=SGA(G)/page_size(bytes)=sga(G)*1024*1024*1024/page_size,比如sga大小為22G,page_size=4kb=4096bytes,那么shmall=22*1024*1024*1024bytes/4096bytes=5767168也可以設置為kernel.shmmax/4096

shmall是指共享內(nèi)存頁面的總數(shù)目,共享內(nèi)存你可以連接為SGA。頁面的大小一般情況下是4KB,單位是bytes,通過命令getconfPAGESIZE查到的數(shù)值一般都是4096bytes2.5.2編輯/etc/security/limits.conf,添加以下內(nèi)容:#所有節(jié)點均執(zhí)行[root@rac1:~]$vi/etc/security/limits.conf#oracleracgridsoftnofile1024gridhardnofile65536gridsoftnproc2047gridhardnproc16384gridsoftstack10240gridhardstack32768oraclesoftnofile1024oraclehardnofile65536oraclesoftnproc2047oraclehardnproc16384oraclesoftstack10240oraclehardstack327682.5.3編輯/etc/pam.d/login,添加以下內(nèi)容:#所有節(jié)點均執(zhí)行

[root@rac1:~]$echo"sessionrequiredpam_limits.so">>/etc/pam.d/login2.5.4調(diào)整tmpfs大小如果內(nèi)存較大,sgatarget不能超過tmpfs大小,因此需要將tmpfs調(diào)整到一個大于sgatarget的值。編輯vi/etc/fstab,修改tmpfs行:#所有節(jié)點均執(zhí)行

tmpfs/dev/shmtmpfsdefaults,size=102400m00#如服務器內(nèi)存128GB,sgatarget為90GB,則可設置tmpfs為100GB重新mount并查看tmpfs設置是否生效:#所有節(jié)點均執(zhí)行

[root@rac1:~]$mount-oremount/dev/shm[root@rac1:~]$df-h2.6用戶和組配置2.6.1新建grid和oracle相關用戶和組。#所有節(jié)點root用戶下均執(zhí)行,且需保證所有節(jié)點對應的組和用戶id相同groupadd-g4321oinstallgroupadd-g4322dbagroupadd-g4323opergroupadd-g4324asmdbagroupadd-g4325asmadmingroupadd-g4326asmoperuseradd-u4321-goinstall-Gasmadmin,asmdba,asmoper,dba-d/home/grid-s/bin/bash-c"GridInfrastructureOwner"griduseradd-u4322-goinstall-Gasmadmin,asmdba,dba,oper-d/home/oracle-s/bin/bash-c"OracleSoftwareOwner"oracleecho"yc12345678--"|passwd--stdingrid#為grid和oracle用戶設置密碼echo"yc12345678--"|passwd--stdinoracle2.6.2新建grid和oracle安裝目錄#所有節(jié)點root用戶下均執(zhí)行

mkdir-p/u01/grid/product/grid11gmkdir-p/u01/grid/gridmkdir-p/u01/oracle/product/db11gchown-Rgrid:oinstall/u01/gridchown-Roracle:oinstall/u01/oraclechmod-R775/u012.6.3配置grid和oracle用戶環(huán)境變量grid環(huán)境變量:編輯/home/grid/.bash_profile文件,添加以下內(nèi)容:#所有節(jié)點均執(zhí)行[root@rac1:~]$cat/home/grid/.bash_profileexportPATHexportTMP=/tmpexportTMPDIR=$TMPexportORACLE_BASE=/u01/grid/gridexportORACLE_HOME=/u01/grid/product/grid11gexportORACLE_SID=+ASM1#節(jié)點1為+ASM1,節(jié)點2為+ASM2,以此類推exportPATH=$HOME/bin:$ORACLE_HOME/bin:/usr/bin:/bin:/usr/bin/X11:/usr/local/bin:$ORACLE_BASE/common/oracle/bin:$PATHexportLD_LIBRARY_PATH=$ORACLE_HOME/lib:$ORACLE_HOME/oracm/lib:/usr/lib:/usr/local/libexportCLASSPATH=$ORACLE_HOME/JRE:$ORACLE_HOME/jlib:$ORACLE_HOME/rdbms/jlib:$ORACLE_HOME/network/jlib:$ORACLE_HOME/oracm/lib配置生效執(zhí)行:source/home/grid/.bash_profileoracle環(huán)境變量:編輯/home/oracle/.bash_profile文件,添加以下內(nèi)容:#所有節(jié)點均執(zhí)行[root@rac1:~]$cat/home/oracle/.bash_profileexportPATHexportTMP=/tmpexportTMPDIR=$TMPexportORACLE_BASE=/u01/oracleexportORACLE_HOME=/u01/oracle/product/db11gexportORACLE_SID=CRRDW1#此處指定oracle實例名。單實例情況下可指定ORACLE_SID,多實例情況下建議不指定。#節(jié)點1為CRRDW1,節(jié)點2為CRRDW2,以此類推exportPATH=/usr/sbin:$PATHexportPATH=$ORACLE_HOME/bin:$PATHexportLD_LIBRARY_PATH=$ORACLE_HOME/lib:/lib:/usr/libexportCLASSPATH=$ORACLE_HOME/JRE:$ORACLE_HOME/jlib:$ORACLE_HOME/rdbms/jlib配置生效執(zhí)行:source/home/oracle/.bash_profile2.7依賴包安裝Linux平臺下oraclerac依賴眾多軟件包,需要使用yum源進行安裝。1.搭建yum倉庫[root@localhost~]#mkdir/mnt/cdrom[root@localhost~]#df-hFilesystemSizeUsedAvailUse%Mountedon/dev/sda143G8.1G33G20%/tmpfs1014M01014M0%/dev/shm/dev/hdc2.8G2.8G0100%/media/EnterpriseLinuxdvd200909082.根據(jù)自己本機的目錄掛載[root@localhost~]#mount/dev/sr0/mnt/cdrommount:blockdevice/dev/hdciswrite-protected,mountingread-only[root@localhost~]#df-hFilesystemSizeUsedAvailUse%Mountedon/dev/sda143G8.1G33G20%/tmpfs1014M01014M0%/dev/shm/dev/hdc--根據(jù)自己本機的目錄2.8G2.8G0100%/media/EnterpriseLinuxdvd20090908/dev/hdc2.8G2.8G0100%/mnt/cdrom3.修改yum源文件中的獲取路徑[root@localhostcdrom]#cd/etc/yum.repos.d/[root@localhostyum.repos.d]#viserver.repo[server]name=RedHatEnterpriseLinuxbaseurl=file:///mnt/cdrom/Serverenabled=1gpgcheck=0保存退出x64包安裝:#所有節(jié)點均執(zhí)行yuminstall-ybinutils*yuminstall-ycompat-libcap1*yuminstall-ycompat-libstdc++-33*yuminstall-ygcc-4.4*yuminstall-ygcc-c++-4.4*yuminstall-yglibc-2.12*yuminstall-yglibc-devel-2.12*yuminstall-ylibgcc-4*yuminstall-ylibstdc++-4.4*yuminstall-ylibstdc++-devel-4.4*yuminstall-ylibaio-0.3.107-10*yuminstall-ylibaio-devel-0.3.107-10*yuminstall-ymake-3.81-23.el6*yuminstall-ysysstat-9.0.4-*yuminstall-yunixODBC-2.2.14-14*yuminstall-yunixODBC-devel-2.2.14*yuminstall-yelfutils-libelf-devel*x86包安裝:#所有節(jié)點均執(zhí)行yuminstall-ycompat-libstdc++-33-3.2.3-69.el6.i686yuminstall-yglibc-2.12-1.209.el6.i686yuminstall-yglibc-devel-2.12-1.209.el6.i686yuminstall-ylibgcc-4.4.7-18.el6.i686yuminstall-ylibstdc++-4.4.7-18.el6.i686yuminstall-ylibstdc++-devel-4.4.6-3.el6.i686yuminstall-ylibaio-0.3.107-10.el6.i686yuminstall-ylibaio-devel-0.3.107-10.el6.i686yuminstall-yunixODBC-2.2.14-14.el6.i686yuminstall-yunixODBC-devel-2.2.14-14.el6.i686pdksh安裝:RHEL6.9不提供pdksh包(有ksh包),需要單獨下載(/或centos5.6光盤)并使用rpm手動安裝:#所有節(jié)點均執(zhí)行rpm-ivhpdksh-5.2.14-37.el5_8.1.i386.rpm--nodeps--forcerpm-ivhpdksh-5.2.14-37.el5_8.1.x86_64.rpm--nodeps--force2.8SSH互信配置配置所有節(jié)點間ssh無密碼登錄,保證節(jié)點間文件互傳。需要分別配置grid和oracle用戶的ssh互信,root用戶可配可不配。本項目只有兩個節(jié)點:rac1,rac2。以配置grid用戶的ssh互信為例:在所有節(jié)點上登錄到grid用戶,執(zhí)行以下命令:#所有節(jié)點均執(zhí)行

[grid@rac1:~]$rm-rf~/.ssh[grid@rac1:~]$mkdir~/.ssh[grid@rac1:~]$chmod700~/.ssh[grid@rac1:~]$/usr/bin/ssh-keygen-trsa#提示輸入時一路回車即可,執(zhí)行不成功需重啟系統(tǒng)后再執(zhí)行在節(jié)點1上執(zhí)行以下命令:#僅節(jié)點1執(zhí)行[grid@rac1:~]$sshrac1cat~/.ssh/id_rsa.pub>>~/.ssh/authorized_keys[grid@rac1:~]$sshrac2cat~/.ssh/id_rsa.pub>>~/.ssh/authorized_keys[grid@rac1:~]$scp~/.ssh/authorized_keysrac2:~/.ssh/authorized_keys在節(jié)點2上執(zhí)行以下命令:#僅節(jié)點2執(zhí)行[grid@rac2:~]$chmod600~/.ssh/authorized_keys測試ssh互信是否配置成功:#所有節(jié)點均執(zhí)行,以下命令第一次執(zhí)行需要輸入密碼,以后則不需要,表示配置成功sshrac1datesshrac2datesshrac1-privdatesshrac2-privdate登錄到oracle賬號下,重復以上操作。編輯/etc/ssh/sshd_config,將#LoginGraceTime2m改為LoginGraceTime0,使ssh認證不超時。RAC主庫共享存儲配置Oracle推薦從linux6開始推薦采用udev來管理,asmlib最高支持到rhel5.9有些linux版本是不支持asmlib的。出問題oracle不支持,如果數(shù)據(jù)庫升級需要升級asmlib時候還需要在找對應版本的。

--UDEV是Linux2.6后內(nèi)置的設備管理器,推薦采用此方案。

--ASMLIB需要用ULN賬號下載,以后可能會被ASMFD替代。

--ASMFD是Oracle新增的特性,目前在GI安裝過程中還無法直接使用。3.1存儲建設聯(lián)系存儲管理員建立存儲,fdisk-l能在各集群節(jié)點檢測得到。3.2UDEV方式配置查看是否已安裝udev:rpm包安裝的rpm-qa|grepudev*yum方法安裝的yumlistinstalled|grepuedv創(chuàng)建腳本自動生產(chǎn)udev規(guī)則文件#節(jié)點1執(zhí)行#注意:如果/etc/udev/rules.d目錄下已存在99開頭的規(guī)則文件,需先將其改為其他數(shù)字開頭首先創(chuàng)建scsi_id配置文件,以避免scsi_id命令的輸出結(jié)果包含空格[root@rac1:~]echo"options=--whitelisted--replace-whitespace">>/etc/scsi_id.config獲取UUID:[root@rac1:~]$/sbin/scsi_id

--whitelisted

--replace-whitespace

--device=/dev/sdb136000c294347acba383e23ecbd43867c4替換和修改下面的UUID、磁盤名稱:[root@rac1:~]vi/etc/udev/rules.d/99-oracle-asmdevices.rulesKERNEL=="sd*",BUS=="scsi",PROGRAM=="/sbin/scsi_id

--whitelisted

--replace-whitespace

--device=/dev/$name",RESULT=="36000c29f8b2dc4eebca722b4dfc81067",NAME="asm-ocr",OWNER="grid",GROUP="asmadmin",MODE="0660"

KERNEL=="sd*",BUS=="scsi",PROGRAM=="/sbin/scsi_id

--whitelisted

--replace-whitespace

--device=/dev/$name",RESULT=="36000c295414f5fedc1f1f1f51020ff5c",NAME="asm-data1",OWNER="grid",GROUP="asmadmin",MODE="0660"KERNEL=="sd*",BUS=="scsi",PROGRAM=="/sbin/scsi_id

--whitelisted

--replace-whitespace

--device=/dev/$name",RESULT=="36000c29c454604086994daf34fc234c0",NAME="asm-data2",OWNER="grid",GROUP="asmadmin",MODE="0660"KERNEL=="sd*",BUS=="scsi",PROGRAM=="/sbin/scsi_id

--whitelisted

--replace-whitespace

--device=/dev/$name",RESULT=="36000c2916e02e24e9d003be217e36874",NAME="asm-data3",OWNER="grid",GROUP="asmadmin",MODE="0660"KERNEL=="sd*",BUS=="scsi",PROGRAM=="/sbin/scsi_id

--whitelisted

--replace-whitespace

--device=/dev/$name",RESULT=="36000c29e0da143263385b92c6c481f1c",NAME="asm-fra1",OWNER="grid",GROUP="asmadmin",MODE="0660"KERNEL=="sd*",BUS=="scsi",PROGRAM=="/sbin/scsi_id

--whitelisted

--replace-whitespace

--device=/dev/$name",RESULT=="36000c2971474a34fc482bef846576cfa",NAME="asm-fra2",OWNER="grid",GROUP="asmadmin",MODE="0660"復制到其他節(jié)點:scp/etc/udev/rules.d/99-oracle-asmdevices.rulesrac2:/etc/udev/rules.d/3.啟動udev,使磁盤配置生效:#所有節(jié)點均執(zhí)行

[root@rac1:~]$/sbin/start_udev4.查看配置是否生效:#所有節(jié)點均執(zhí)行:[root@rac1:~]$ls-l/dev/asm*

如下結(jié)果表示正常:4.分區(qū):其中一個集群節(jié)點執(zhí)行,fdisk-l看不到磁盤需要重啟系統(tǒng)后啟動udev才可以看到。[root@rac1:~]fdisk/dev/sdbnp1w5.為了系統(tǒng)啟動時使udev自動生效,修改如下文件

vim/etc/rc.d/rc.local

將udev啟動加入到該文件中即可.

/sbin/start_udev4RAC主庫安裝Oraclegrid集群件grid安裝需要登錄到grid用戶下進行,絕大多數(shù)操作僅需在節(jié)點1上執(zhí)行即可。解壓安裝介質(zhì):#僅節(jié)點1執(zhí)行[grid@cheastrac01:~]$unzipp13390677_112040_Linux-x86-64_1of7.zip[grid@cheastrac01:~]$unzipp13390677_112040_Linux-x86-64_2of7.zip[grid@cheastrac01:~]$unzipp13390677_112040_Linux-x86-64_3of7.zip

在grid的rpm目錄下有一個cvuqdisk的rpm包,在所有節(jié)點上分別安裝:#所有節(jié)點均執(zhí)行(以root用戶安裝)[root@cheastrac01:~]rpm-ivh/home/grid/rpm/cvuqdisk-1.0.9-1.rpm5.1安裝前檢查【grid@rac1grid】./runcluvfy.shstage-precrsinst-nrac1,rac2-verbose檢測安裝包、網(wǎng)絡配置等,配置互信的時候就不會出現(xiàn)問題本項目沒有配置DNS服務,因此DNS相關檢查項會失敗,可以忽略。一般DNS沒有配置會報DNS的錯誤?!緂rid@rac1grid】./runcluvfy.shstage-posthwos-nrac1,rac2-verbose檢測共享磁盤配置是否通過5.2解壓及安裝使用grid用戶登錄安裝grid。使用xmanager登錄,解壓后進入安裝目錄,運行:$./runInstaller設置集群名稱和scan名稱,其中集群名稱隨意,scan名稱必須與/etc/hosts文件中scanip的映射名相同;不配置GNS點擊Add添加RacNode2主機及VirtualIPName,PublicHostname和VirtualHostname均與/etc/hosts中的映射相同。完成后點擊setup然后再點擊test看是否成功,或者也可以直接下一步。next會自動識別之前配置好的公網(wǎng)段和私網(wǎng)段,保持默認,下一步next選擇使用Oracle自動存儲管理方式管理數(shù)據(jù)庫磁盤:配置仲裁盤和Oracle集群注冊表磁盤組,本項目命名為OCR,因只分配了一個磁盤,故Reduandancy選擇External,點擊ChangeDiscoveryPath,更改磁盤搜索路徑,讓安裝程序搜索到為asm準備的磁盤選擇External就是沒有磁盤保護的意思,例如5個20G的磁盤就有100G空間使用,normal就只有50G空間使用,high就只有33.3G空間使用。底盤做了raid就選擇外部External,否則需要的磁盤很大。ausize的含義,oracle建議為4Next選擇為所有的ASM磁盤組管理賬號使用相同的密碼(本項目設置為Wyq123456)next安裝程序會自動識別ASM相關管理組,保持默認,下一步:安裝程序會根據(jù)當前用戶的環(huán)境變量自動識別Base和Grid目錄,保持默認,下一步:使用默認的Inventory目錄,下一步:根據(jù)提示信息安裝相應的軟件包并修改內(nèi)核參數(shù),完成后點擊CheckAgain確保成功根據(jù)安裝向?qū)崾荆詒oot用戶身份在所有節(jié)點上分別執(zhí)行上述兩個腳本,要一個節(jié)點一個節(jié)點地執(zhí)行,執(zhí)行orainstRoot.sh時的信息如下:[root@db1~]#/u01/grid/oraInventory/orainstRoot.sh[root@db1~]#/u01/grid/11.2.0/grid/root.sh腳本執(zhí)行完畢后點“OK”CRS-4124:OracleHighAvailabilityServicesstartupfailed.CRS-4000:CommandStartfailed,orcompletedwitherrors.ohasdfailedtostart:Inappropriateioctlfordeviceohasdfailedtostartat/u01/app/11.2.0/grid/crs/install/rootcrs.plline443.第一次安裝11gR2RAC的時候就遇到了這個的經(jīng)典問題,上網(wǎng)一查才知道這是個bug,解決辦法也很簡單,就是在執(zhí)行root.sh之前執(zhí)行以下命令/bin/ddif=/var/tmp/.oracle/npohasdof=/dev/nullbs=1024count=1如果出現(xiàn)/bin/dd:opening`/var/tmp/.oracle/npohasd':Nosuchfileordirectory的時候文件還沒生成就繼續(xù)執(zhí)行,直到能執(zhí)行為止,一般出現(xiàn)Addingdaemontoinittab這條信息的時候執(zhí)行dd命令。重新執(zhí)行root.sh之前別忘了刪除已執(zhí)行root.sh的配置:/u01/app/grid/11.2.0/crs/install/roothas.pl-deconfig-force-verbose另外還有一種解決方法就是更改文件權(quán)限chownroot:oinstall/var/tmp/.oracle/npohasd注:由于配置了/etc/hosts來解析SCAN,導致未走DNS來進行SCAN的解析,爆出此錯誤,可以考慮忽略掉,或者刪除/etc/hosts文件中的SCAN解析部分,并且再次通過nslookup驗證DNS的解析是否正常即可。pingscanip,如果可以ping通,忽略,跳過即可用root用戶在/etc/rc.d/rc.local文件中加入/bin/ddif=/var/tmp/.oracle/npohasdof=/dev/nullbs=1024count=1否則,重啟后無法啟動rac5.3安裝檢查關閉安裝界面,完成安裝。檢查集群狀態(tài):#所有節(jié)點均執(zhí)行(grid用戶)[grid@cheastrac01:~]$crsctlcheckcluster

[grid@cheastrac01:~]$srvctlstatusnodeapps

[grid@cheastrac01:~]$srvctlconfignodeapps5.4卸載grid手工方式卸載

1.停止has

2.刪除grid安裝軟件

rm-fr/u01/app/grid/*

rm-fr/u01/oraInventory/*rm-fr/u01/grid/*rm-fr/u01/app/11.2.0

rm-rf/usr/local/bin

3.阻止has啟動

rm/etc/init.cssd

rm/etc/init.crs

rm/etc/init.crsd

rm-fr/etc/rc.d/rc2.d/K19ohasd

rm-fr/etc/rc.d/rc2.d/S96ohasd

rm-fr/etc/ohasd

rm/etc/inittab.crs

cp/etc/inittab.orig/etc/inittab

4.刪除注冊項

rm-fr/etc/ora*

rm-rf/tmp/.oracle

rm-fr/opt/ORCLfmap

5.清除CRS所在磁盤信息

ddif=/dev/zeroof=/dev/sdb1bs=1024kcount=100

ddif=/dev/zeroof=/dev/sdd1bs=1024kcount=100卸載方法二:1、通過root用戶進入到grid的ORACLE_HOME[root@db01]#source/home/grid/.bash_profile

[root@db01]#cd$ORACLE_HOME/crs/install/

2、執(zhí)行如下兩個腳本(只在其中一個節(jié)點執(zhí)行,root用戶)

[root@db01]#./rootcrs.pl-verbose-deconfig-force

[root@db01]#./crsconfig_params

3、切換到grid用戶,執(zhí)行deinstall進行卸載,按照提示完成,完成后再去另一個節(jié)點按提示執(zhí)行相應腳本。[root@db01]#su-grid

[grid@db01]$./deinstall

4、用root刪除/etc/目錄下的oracle相關文件(兩節(jié)點執(zhí)行)[grid@db01]$exit

[root@db01]#rm-rf/etc/oraInst.loc

5、格式化ASM磁盤頭。

[root@db01]ddif=/dev/zerocount=10bs=512of=/dev/sde1

5RAC主庫配置ASM磁盤也可在數(shù)據(jù)庫安裝后進行,在建庫前配置好就可以。使用ASM配置OracleRAC集群通常需要創(chuàng)建三個ASM磁盤組:OCR磁盤組:自Oracle11.2版以后,votedisk(表決盤:記錄集群節(jié)點信息,提供仲裁防止腦裂)和ocr(oracle集群注冊表:記錄并維護整個集群的配置信息)已經(jīng)支持放置于同一個ASM磁盤組中。因此這里為votedisk和ocr提供一個磁盤組:OCR。FRA磁盤組:快速恢復區(qū),用于支持數(shù)據(jù)庫快速閃回,同時也是默認的歸檔日志存放位置。單獨創(chuàng)建一個磁盤組。DATA磁盤組:用于存放數(shù)據(jù)文件的磁盤組。在安裝GRID的時候,已經(jīng)創(chuàng)建了必要的OCR磁盤組,接下來需要使用ASM配置助手創(chuàng)建其他兩個磁盤組以便完成Oracle數(shù)據(jù)庫的創(chuàng)建。以grid用戶輸入以下命令開始配置:#僅在節(jié)點1執(zhí)行

[grid@cheastrac01:~]$asmca彈出配置窗口,分別按下圖創(chuàng)建FRA和DATA磁盤組:點擊Create來新建ASM磁盤組磁盤組創(chuàng)建完成,退出ASM配置助手。6RAC主庫安裝Oracle數(shù)據(jù)庫軟件集群框架GRID安裝完成并開啟后,剩下的所有操作均只需在節(jié)點1執(zhí)行即可,其余節(jié)點會自動完成配置同步。接下來登入節(jié)點1的oracle賬戶,開始oracle數(shù)據(jù)庫軟件的安裝。如同驗證grid先決條件一樣,先運行runcluvfy.sh驗證數(shù)據(jù)庫軟件的先決條件(如果按照之前的準備工作做下來,應該還是只有DNS檢查失敗,可以忽略):#僅節(jié)點1執(zhí)行[grid@cheastrac01:grid]./runcluvfy.shstage-predbinst-nrac1,rac2-verbose轉(zhuǎn)入解壓安裝文件后產(chǎn)生的database目錄,執(zhí)行runInstaller腳本開始安裝:#僅節(jié)點1執(zhí)行[oracle@cheastrac01:database]exportLANG=en_US[oracle@cheastrac01:database]./runInstaller接著就會彈出圖形安裝向?qū)Ы缑妫哼@里選擇Installdatabasessoftwareonly,數(shù)據(jù)庫稍后手動創(chuàng)建選擇只安裝數(shù)據(jù)庫軟件,安裝完后手動創(chuàng)建數(shù)據(jù)庫點擊SSHConnectivity,輸入oracle密碼后點擊Setup來配置oracle用戶的雙擊互信確保這里的路徑和/home/oracle/.bash_profile里設置的路徑一致需要按照程序包[root@rac1app]#/u01/oracle/product/11.2.0/dbhome_1/root.sh兩個節(jié)點都需要執(zhí)行完成后點擊確定,等待安裝完成即可7RAC主庫創(chuàng)建數(shù)據(jù)庫實例[oracle@rac1Disk1]$dbca12.進入配置助手歡迎頁面,選擇Oracle集群數(shù)據(jù)庫,Next。2.選擇創(chuàng)建數(shù)據(jù)庫,NEXT。3.選擇一般用途或事務處理NEXT。4.輸入實例名,權(quán)限節(jié)點,NEXT。5.默認,點擊next6.為所有用戶設置統(tǒng)一密碼,點擊next設置未wyq1234567.選擇ASM存儲方式,并選擇相應的磁盤組,點擊next注:如果此處無法找到“ASMDISKGROUP”,使用root用戶,則執(zhí)行以下操作,然后再次執(zhí)行“dbca”;[root@rac1~]#/u01/app/grid/product/11.2.0/crs_1/bin[root@rac1~]#chmod+soracle彈出ASM用戶密碼窗口,輸入在安裝grid時設置的密碼選擇閃回磁盤組,勾選歸檔,后續(xù)數(shù)據(jù)庫啟動后開啟也可以。生產(chǎn)庫才開,測試庫不開根據(jù)需要選擇是否需要安裝樣本schema(通常練習安裝,生產(chǎn)不安裝),下一步:使用自動內(nèi)存管理內(nèi)存配置:選擇典型配置,內(nèi)存占用配置為70%左右,啟用自動內(nèi)存管理;size配置:塊大小默認。最大并發(fā)進程數(shù)(關聯(lián)最大并發(fā)會話連接數(shù))通常設置為CPU核數(shù)的3倍,也可適當增減獲取邏輯核數(shù)cat/proc/cpuinfo|grep'modelname'|wc-l字符集需向開發(fā)索取。顯示概覽,默認不變,點擊next設置數(shù)據(jù)庫存儲相關參數(shù),保持默認即可點擊finish出現(xiàn)安裝概要點擊ok,開始安裝過程等待一段時間后,安裝結(jié)束,彈出如下界面配置完成,數(shù)據(jù)庫相關賬號密碼默認只啟用SYS和SYSTEM賬號,其他賬號被鎖定,如需解鎖/鎖定或者更改密碼的需要,可以打開賬號配置頁面進行配置。在OracleRAC中,配置完數(shù)據(jù)庫后會自動配置監(jiān)聽器(無論配置多少實例,GRID都會自動配置監(jiān)聽器),所以無需再進行監(jiān)聽器的配置。8RAC數(shù)據(jù)庫管理工作8.1RAC的啟停oraclerac默認會開機自啟動,如需維護時可使用以下命令:3.1關閉:crsctlstopcluster停止本節(jié)點集群服務crsctlstopcluster–all停止所有節(jié)點服務3.2開啟crsctlstartcluster開啟本節(jié)點集群服務crsctlstartcluster–all開啟所有節(jié)點服務注:以上命令需以root用戶執(zhí)行8.2RAC檢查運行狀況以grid用戶運行[grid@rac1~]$crsctlcheckclusterCRS-4537:ClusterReadyServicesisonlineCRS-4529:ClusterSynchronizationServicesisonlineCRS-4533:EventManagerisonlineDatabase檢查例狀態(tài)[oracle@rac1~]$srvctlstatusdatabase-dorclInstancerac1isrunningonnoderac1Instancerac2isrunningonnoderac2檢查節(jié)點應用狀態(tài)及配置[oracle@rac1~]$srvctlstatusnodeapps[oracle@rac1~]$srvctlconfignodeapps-a-g-s-l查看數(shù)據(jù)庫配置[oracle@rac1~]$srvctlconfigdatabase-dorcl-a檢查ASM狀態(tài)及配置[oracle@rac1~]$srvctlstatusasmASMisrunningonrac1,rac2[oracle@rac1~$srvctlconfigasm-aASMhome:/oracle/11.2.0/gridASMlistener:LISTENERASMisenabled.檢查TNS的狀態(tài)及配置[oracle@rac1~]$srvctlstatuslistenerListenerLISTENERisenabledListenerLISTENERisrunningonnode(s):rac1,rac2[oracle@rac1~]$srvctlconfiglistener-aName:LISTENERNetwork:1,Owner:gridHome:/oracle/11.2.0/gridonnode(s)rac2,rac1Endpoints:TCP:1521檢查SCAN的狀態(tài)及配置[oracle@rac1~]$srvctlstatusscanSCANVIPscan1isenabledSCANVIPscan1isrunningonnoderac1[oracle@rac1~]$srvctlconfigscanSCANname:rac-cluster-scan.rac.localdomain,Network:1///eth0SCANVIPname:scan1,IP:/rac-cluster-scan.rac.localdomain檢查VIP的狀態(tài)及配置[oracle@rac1~]$srvctlstatusvip-nrac1VIPrac1-vipisenabledVIPrac1-vipisrunningonnode:rac1[oracle@rac1~]$srvctlstatusvip-nrac2VIPrac2-vipisenabledVIPrac2-vipisrunningonnode:rac2[oracle@rac1~]$srvctlconfigvip-nrac1VIPexists.:rac1VIPexists.:/rac1-vip/4//eth0[oracle@rac1~]$srvctlconfigvip-nrac2VIPexists.:rac2VIPexists.:/rac2-vip/192.168.15//eth08.3測試驗證安裝后操作查看服務狀態(tài),在每個節(jié)點上,執(zhí)行crs_stat–t-v手動關閉crs在任意節(jié)點上執(zhí)行[oracle@db2~]$crs_stop–all手動啟動crs[oracle@db2~]$crs_stop–all備庫安裝實施文件系統(tǒng)存儲數(shù)據(jù)參照如下進行安裝,若是使用共享存儲,則參照第2、3、4、5、6章節(jié)進行安裝。9.1主機環(huán)境準備9.1.1操作系統(tǒng)確定安裝的操作系統(tǒng)版本與主庫一致9.1.2服務器內(nèi)存要求Swap大?。?/p>

當內(nèi)存為2.5GB-16GB時,Swap需要大于等于系統(tǒng)內(nèi)存。

當內(nèi)存大于16GB時,Swap等于16GB即可。配置方法如下:1、以下的操作都要在root用戶下進行,首先先建立一個分區(qū),采用如下命令創(chuàng)建512M的swap文件(1024*512MB=524288)。ddif=/dev/zeroof=/swapfile1bs=1024count=9279902、接著再把這個分區(qū)變成swap分區(qū)。/sbin/mkswap

/swapfile13、使用這個swap分區(qū)。使其成為有效狀態(tài)。/sbin/swapon

/swapfile14、設置系統(tǒng)自激活交換文件。編輯/etc/fstab文件,并增加如下第二行代碼。vi/etc/fstab/swapfile1

swap

swap

defaults

0

0你就會發(fā)現(xiàn)你的機器自動啟動以后swap空間也增大了。5、使用free-m查看swap大小。9.2網(wǎng)絡配置9.2.1配置IP#vi/etc/sysconfig/network-scripts/ifcfg-eth0DEVICE=eth0HWADDR=F0:92:1C:07:25:1CTYPE=EthernetUUID=0b08f4d3-7339-45bc-9a9a-e90e6280a449ONBOOT=yesNM_CONTROLLED=yes#BOOTPROTO=dhcpBOOTPROTO=STATICIPADDR=52NETMASK=GATEWAY=DNS1=0配置完成后重啟網(wǎng)絡服務:#servicenetworkrestart9.2.2配置主機名#vi/etc/sysconfig/networkNETWORKING=yesHOSTNAME=dg9.2.3配置/etc/hosts#vi/etc/hosts52dg9.3安裝依賴包Linux平臺下oraclerac依賴眾多軟件包,需要使用yum源進行安裝。1.搭建yum倉庫[root@localhost~]#mkdir/mnt/cdrom[root@localhost~]#df-hFilesystemSizeUsedAvailUse%Mountedon/dev/sda143G8.1G33G20%/tmpfs1014M01014M0%/dev/shm/dev/hdc2.8G2.8G0100%/media/EnterpriseLinuxdvd200909082.根據(jù)自己本機的目錄掛載[root@localhost~]#mount/dev/sr0/mnt/cdrommount:blockdevice/dev/hdciswrite-protected,mountingread-only[root@localhost~]#df-hFilesystemSizeUsedAvailUse%Mountedon/dev/sda143G8.1G33G20%/tmpfs1014M01014M0%/dev/shm/dev/hdc--根據(jù)自己本機的目錄2.8G2.8G0100%/media/EnterpriseLinuxdvd20090908/dev/hdc2.8G2.8G0100%/mnt/cdrom3.修改yum源文件中的獲取路徑[root@localhostcdrom]#cd/etc/yum.repos.d/[root@localhostyum.repos.d]#viserver.repo[server]name=RedHatEnterpriseLinuxbaseurl=file:///mnt/cdrom/Serverenabled=1gpgcheck=0保存退出x64包安裝:#所有節(jié)點均執(zhí)行yuminstall-ybinutils*yuminstall-ycompat-libcap1*yuminstall-ycompat-libstdc++-33*yuminstall-ygcc-4.4*yuminstall-ygcc-c++-4.4*yuminstall-yglibc-2.12*yuminstall-yglibc-devel-2.12*yuminstall-ylibgcc-4*yuminstall-ylibstdc++-4.4*yuminstall-ylibstdc++-devel-4.4*yuminstall-ylibaio-0.3.107-10*yuminstall-ylibaio-devel-0.3.107-10*yuminstall-ymake-3.81-23.el6*yuminstall-ysysstat-9.0.4-*yuminstall-yunixODBC-2.2.14-14*yuminstall-yunixODBC-devel-2.2.14*yuminstall-yelfutils-libelf-devel*x86包安裝:#所有節(jié)點均執(zhí)行yuminstall-ycompat-libstdc++-33-3.2.3-69.el6.i686yuminstall-yglibc-2.12-1.209.el6.i686yuminstall-yglibc-devel-2.12-1.209.el6.i686yuminstall-ylibgcc-4.4.7-18.el6.i686yuminstall-ylibstdc++-4.4.7-18.el6.i686yuminstall-ylibstdc++-devel-4.4.6-3.el6.i686yuminstall-ylibaio-0.3.107-10.el6.i686yuminstall-ylibaio-devel-0.3.107-10.el6.i686yuminstall-yunixODBC-2.2.14-14.el6.i686yuminstall-yunixODBC-devel-2.2.14-14.el6.i686pdksh安裝:RHEL6.9不提供pdksh包(有ksh包),需要單獨下載(/或centos5.6光盤)并使用rpm手動安裝:#所有節(jié)點均執(zhí)行rpm-ivhpdksh-5.2.14-37.el5_8.1.i386.rpm--nodeps--forcerpm-ivhpdksh-5.2.14-37.el5_8.1.x86_64.rpm--nodeps--force9.4修改內(nèi)核參數(shù)#vi/etc/sysctl.confkernel.shmmax=4398046511104kernel.shmall=1073741824kernel.shmmni=4096kernel.sem=25032000100128net.ipv4.ip_local_port_range=900065500net.core.rmem_default=4194304net.core.rmem_max=4194304net.core.wmem_default=262144net.core.wmem_max=1048576fs.aio-max-nr=1048576fs.file-max=6815744保存,并退出;[root@db1~]#執(zhí)行命令/sbin/sysctl-p注:上述參數(shù)在其它linux系統(tǒng)中可能需要調(diào)整,不同內(nèi)存也需要調(diào)整。64G服務器配置參考#Controlsthemaximumsharedsegmentsize,inbyteskernel.shmmax=68719476736#Controlsthemaximumnumberofsharedmemorysegments,inpageskernel.shmall=4294967296kernel.shmmni=4096kernel.sem=25032000100128fs.file-max=6815744net.ipv4.ip_local_port_range=900065500net.core.rmem_default=4194304net.core.wmem_default=262144net.core.rmem_max=4194304net.core.wmem_max=1048576fs.aio-max-nr=10485769.5修改oracle用戶限制#vi/etc/security/limits.conf末尾添加:#Oracle:oraclesoftnproc2047oraclehardnproc16384oraclesoftnofile1024oraclehardnofile65536oraclesoftstack102409.6修改/etc/pam.d/login#vi/etc/pam.d/login末尾添加:sessionrequired/lib/security/pam_limits.sosessionrequiredpam_limits.so9.7關閉防火墻在rac1和rac22個節(jié)點上分別執(zhí)行如下語句:[root@rac01~]#serviceiptablesstop[root@rac01~]#chkconfigiptablesoff[root@rac01~]#chkconfigiptables--list修改配置文件:#vi/etc/selinux/config#ThisfilecontrolsthestateofSELinuxonthesystem.#SELINUX=cantakeoneofthesethreevalues:#enforcing-SELinuxsecuritypolicyisenforced.#permissive-SELinuxprintswarningsinsteadofenforcing.#disabled-NoSELinuxpolicyisloaded.#SELINUX=enforcingSELINUX=disabled#SELINUXTYPE=cantakeoneofthesetwovalues:#targeted-Targetedprocessesareprotected,#mls-MultiLevelSecurityprotection.SELINUXTYPE=targeted9.8更改安裝所有者的ulimit設置vi/etc/profile末尾添加:if[/$USER="oracle"];thenif[/$SHELL="/bin/ksh"];thenulimit-p16384ulimit-n65536elseulimit-u16384-n65536fiumask022fi9.9添加用戶及創(chuàng)建安裝目錄1.檢查安裝目錄和數(shù)據(jù)庫文件存儲目錄的空間大小:df–h若空間不夠需先聯(lián)系存儲管理員添加后掛載2.創(chuàng)建安裝目錄注:Oraclelinux6.5中已經(jīng)默認創(chuàng)建有oracle用戶及oinstall、dba組。為了不影響我們規(guī)劃好的安裝,建議刪除后再重新建立。userdeloraclegroupdeloinstallgroupdeldbarm-rf/home/oracle1:創(chuàng)建相應組及用戶(注:以下請用root用戶操作,每個節(jié)點均要執(zhí)行)groupadd-g501oinstallgroupadd-g502dbauseradd-u502-goinstall-Gdbaoracle2:創(chuàng)建目錄及設置所有者mkdir/u02mkdir/u02/appmkdir/u02/app/oraclechown-Roracle:oinstall/u02

chmod-R775/u023:設置用戶密碼passwdoraclewyq19851215--9.10設置oracle用戶環(huán)境變量suoraclevi/home/oracle/.bash_profileexportORACLE_BASE=/u02/appexportORACLE_HOME=/u02/app/oracle/product/11.2.0/dbhome_1exportORACLE_SID=JSDBAexportLD_LIBRARY_PATH=$ORACLE_HOME/libexportNLS_DATE_FORMAT="yyyy-mm-ddHH24:MI:SS"exportTMP=/tmpexportTMPDIR=$TMPexportPATH=$PATH:$ORACLE_HOME/binOracle用戶執(zhí)行source.bash_profile9.11安裝Oracle數(shù)據(jù)庫軟件[root@db1oracle]#chown-Roracle.oinstall/home/oracle/database/[oracle@db1database]$/home/oracle/database/runInstaller9.12配置監(jiān)聽及本地網(wǎng)絡服務新開啟一個終端,輸入命令netca10.搭建DG[oracle@eric1~]$sqlplus

/as

sysdba

10.主庫強制forcelogging修改數(shù)據(jù)庫為強制記日志,這是必須的操作,主庫的每一步操作都得記錄到日志中去。

SQL>

alterdatabaseforcelogging;Databasealtered.SQL>

selectFORCE_LOGGINGfromv$database;FORCE_YES10.2開啟主庫的歸檔模式grid$srvctlstopdatabase-dCRRDW--節(jié)點1oracle$sqlplus/assysasmsql>archiveloglistsql>startupmountsql>alterdatabasearchivelogsql>alterdatabaseopensql>showparameterdb_recoversql>shutdownimmediategrid$srvctlstartdatabase-dCRRDW10.3主庫創(chuàng)建standbyredologSYS@brac1>selecta.thread#,a.group#,a.bytes/1024/1024,b.memberfromv$loga,v$logfilebwherea.group#=b.group#;THREAD#GROUP#A.BYTES/1024/1024MEMBER

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負責。
  • 6. 下載文件中如有侵權(quán)或不適當內(nèi)容,請與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

評論

0/150

提交評論