因子分析法目錄CONTENTS因子分析學(xué)生考試成績(jī)綜合評(píng)價(jià)問題的引入某高校數(shù)學(xué)系開展研究生的推薦免試工作，需要對(duì)學(xué)生綜合評(píng)價(jià)數(shù)據(jù):52名同學(xué)修過6門課的成績(jī)數(shù)學(xué)系學(xué)生考試科目數(shù)據(jù):52名同學(xué)修過6門課的成績(jī)閉卷科目:數(shù)學(xué)分析、高等代數(shù)、概率論(3門基礎(chǔ)課）開卷科目:微分幾何、抽象代數(shù)、數(shù)值分析學(xué)生序號(hào)數(shù)學(xué)分析高等代數(shù)概率論微分幾何抽象代數(shù)數(shù)值分析總分627164757068410526557676058359707370887969449問題的引入R=1.00000.81330.8347-0.3795-0.5612-0.50540.81331.00000.8188-0.2737-0.4474-0.35680.83470.81881.0000-0.2437-0.4382-0.4611-0.3795-0.2737-0.24371.00000.69160.5738-0.5612-0.4474-0.43820.69161.00000.6463-0.5054-0.3568-0.46110.57380.64631.0000可否用“公共因子”刻畫？公共因子：高度相關(guān)的變量很可能遵循的共同潛在結(jié)構(gòu)，這些公共因子通常是無法觀測(cè)的（如智力），也稱作“潛變量”。觀察相關(guān)系數(shù)矩陣：高度相關(guān)問

因子分析模型

其中，系數(shù)是第個(gè)變量在第個(gè)因子上的載荷，體現(xiàn)了該因子對(duì)此變量的解釋力因子分析模型其中假設(shè)滿足矩陣形式模型載荷矩陣正交性而且是無關(guān)的，各公共因子間無關(guān)元素形式模型：

因子分析模型矩陣形式模型載荷矩陣因此，載荷測(cè)度了第個(gè)變量在第個(gè)公共因子之間的關(guān)聯(lián)協(xié)方差矩陣的分解其元素形式其中，元素形式模型：

因子分析模型矩陣形式模型載荷矩陣協(xié)方差矩陣的分解其中，體現(xiàn)了共同性，指由m個(gè)公共因子貢獻(xiàn)的方差體現(xiàn)了唯一性或個(gè)體方差（特殊方差），指無法由公共因子貢獻(xiàn)的方差部分交叉項(xiàng)協(xié)方差：因子分析--載荷估計(jì)–主成分法–迭代主因子法–最大似然法(假設(shè)正態(tài))第一種方法對(duì)方差關(guān)注更多；后兩種方法關(guān)注如何使用公共因子的波動(dòng)來描述觀測(cè)性狀之間的相關(guān)性.常見的估計(jì)方法包括：估計(jì)和當(dāng)和被估計(jì)出來后，使用線性模型理論可得因子F的估計(jì)(稱為因子得分)

載荷估計(jì)方法對(duì)協(xié)方差矩陣正交分解：其中，為協(xié)方差矩陣的特征值載荷估計(jì)——主成分法如何估計(jì)載荷矩陣L？協(xié)方差矩陣能不能用前m列代替L？

這就是主成分法的思想。因子分析--載荷估計(jì)載荷估計(jì)——主成分法當(dāng)最后p-m個(gè)特征值很小的時(shí)候，可定義：則

，而

可以補(bǔ)全

的對(duì)角部分

，其中，在樣本層面，

可用樣本協(xié)方差矩陣

代替公共因子刻畫的部分，共同度個(gè)體方差總方差因子分析--載荷估計(jì)因子模型中，載荷矩陣估計(jì)的主成分解

其中，

的對(duì)角元素等于

，但是

的非對(duì)角元素通常不能由

完全復(fù)原。

因子分析--載荷估計(jì)總方差：

貢獻(xiàn)比例為：主成分法：方差貢獻(xiàn)第k列的系數(shù)平方和因子分析--載荷估計(jì)因子分析--因子得分估計(jì)因子得分因子模型：已知L，如何估計(jì)Fi？

同方差，采用最小二乘法（參考擬合）補(bǔ)充：?jiǎn)栴}簡(jiǎn)化求

，使得

最小因子分析--因子得分估計(jì)因子得分已知L，如何估計(jì)Fi？令：

求出上述結(jié)果用矩陣表示：使得：

最小因子分析--因子得分估計(jì)因子得分因子模型：已知L，估計(jì)Fi此處特殊因子

異方差，用加權(quán)最小二乘法，使最小求出對(duì)應(yīng)的

，即相應(yīng)的各樣本的因子得分。矩陣表示最小因子分析--因子得分估計(jì)因子得分已知L，估計(jì)Fi矩陣表示最小將已經(jīng)估計(jì)的參數(shù)

代入上式：因子得分：n*m的矩陣。每一行對(duì)應(yīng)著一個(gè)樣本的m個(gè)公共因子的得分因子模型

并不是唯一的，等價(jià)于因子分析--因子旋轉(zhuǎn)因子旋轉(zhuǎn)其中：滿足的任意正交矩陣。

所以因子及其載荷矩陣并不唯一，可按照任意正交矩陣T提供的方向旋轉(zhuǎn)因此，我們可以尋找使因子及載荷結(jié)構(gòu)更簡(jiǎn)單，解釋更清晰的旋轉(zhuǎn)方向T那么，怎么旋轉(zhuǎn)是一個(gè)最好的方向呢？因子分析--因子旋轉(zhuǎn)因子旋轉(zhuǎn)載荷矩陣L代表原始變量和公共因子之間的關(guān)系（協(xié)方差/相關(guān)系數(shù)）什么樣的L比較好呢？我們希望每個(gè)原始變量都由某個(gè)因子主要決定（對(duì)應(yīng)的載荷數(shù)值很大），而與其他因子關(guān)系不大（載荷數(shù)值接近0）因子分析--因子旋轉(zhuǎn)因子旋轉(zhuǎn)從幾何角度看，

的第j行的載荷構(gòu)成了原始變量Y在因子/載荷空間的坐標(biāo)因子旋轉(zhuǎn)的目標(biāo)，是讓坐標(biāo)軸靠近盡可能多的點(diǎn)因子分析--因子旋轉(zhuǎn)因子旋轉(zhuǎn)正交旋轉(zhuǎn)：原來垂直的坐標(biāo)軸經(jīng)過旋轉(zhuǎn)后仍然垂直斜交旋轉(zhuǎn)：旋轉(zhuǎn)后不要求軸保持垂直，更容易讓軸靠近更多的點(diǎn)。目錄CONTENTS因子分析學(xué)生考試成績(jī)綜合評(píng)價(jià)學(xué)生考試成績(jī)綜合評(píng)價(jià)1.求相關(guān)系數(shù)矩陣data=xlsread('cjdata.xlsx’)R=corrcoef(data)%數(shù)據(jù)的相關(guān)系數(shù)矩陣R=1.00000.81330.8347-0.3795-0.5612-0.50540.81331.00000.8188-0.2737-0.4474-0.35680.83470.81881.0000-0.2437-0.4382-0.4611-0.3795-0.2737-0.24371.00000.69160.5738-0.5612-0.4474-0.43820.69161.00000.6463-0.5054-0.3568-0.46110.57380.64631.0000

因此，有一個(gè)或多個(gè)共同因素(公共因子)在驅(qū)動(dòng)學(xué)生考試成績(jī)綜合評(píng)價(jià)1.求相關(guān)系數(shù)矩陣data=xlsread('cjdata.xlsx’)R=corrcoef(data)%數(shù)據(jù)的相關(guān)系數(shù)矩陣d=eig(R);d=sort(d,‘descend’)%計(jì)算R的所有特征值并降序排列g(shù)ongxian=d/6;%計(jì)算貢獻(xiàn)率d=3.70991.26040.43650.27580.17030.1470前2個(gè)公共因子的累積貢獻(xiàn)率為

學(xué)生考試成績(jī)綜合評(píng)價(jià)1.求相關(guān)系數(shù)矩陣[lambda,psi,T,stats,F]=factoran(data,2)lambda=0.8492-0.36280.8637-0.20930.8987-0.2043-0.10140.8073-0.30930.8196-0.31470.6686

其中，為的標(biāo)準(zhǔn)化，即

lambda因子載荷矩陣，第i行第j列元素是第i個(gè)變量第j個(gè)因子上的載荷，默認(rèn)用最大旋轉(zhuǎn)法計(jì)算psi:p個(gè)特殊方差的極大似然估計(jì)。F:得分矩陣，每一行對(duì)應(yīng)一個(gè)樣本的m個(gè)公共因子的得分。學(xué)生考試成績(jī)綜合評(píng)價(jià)1.求相關(guān)系數(shù)矩陣[lambda,psi,T,stats,F]=factoran(data,2)str=["數(shù)學(xué)分析";"高等代數(shù)";"概率論";"微分幾何";"抽象代數(shù)";"數(shù)值分析"];disp(['變量','因子f1','因子f2','特殊方差'])[str,lambda,psi]

學(xué)生考試成績(jī)綜合評(píng)價(jià)2.結(jié)果分析第一公共因子f1與前三門課分?jǐn)?shù)有強(qiáng)的正相關(guān)；前三門課是基礎(chǔ)課，閉卷考試，f1稱為“基礎(chǔ)課因子”第二公共因子f2與后三門課分?jǐn)?shù)有強(qiáng)的正相關(guān)；后三門課為開卷考試，f2稱為開閉卷因子f1,f2的方差貢獻(xiàn)率分別為：學(xué)生考試成績(jī)綜合評(píng)價(jià)2.結(jié)果分析構(gòu)造因子綜合得分：f1,f2的貢獻(xiàn)率占比defen=0.7464*F(:,1)+0.2536*F(:,2);[df_paixu,xidx]=sort(defen,'descend');%學(xué)生得分降序排序disp(['因子分析法得分','學(xué)生序號(hào)'])[df_paixu,xidx]學(xué)生考試成績(jī)綜合評(píng)價(jià)2.結(jié)果分析[xidx_paixu,xidx2]=sort(xidx);disp(['序號(hào)','總得分','排名'])yinzi=[[1:52]',defen,xidx2]學(xué)生考試成績(jī)綜合評(píng)價(jià)2.結(jié)果分析(主成分分析、因子分析結(jié)果比較)result=[zhuchengfen(:,1),zhuchengfen(:,4:5),yinzi(:,2:3)];jieguo(1,:)=["學(xué)生序號(hào)","主成分得分","主成分排名","因子分析得分","因子分析排名"];jieguo(2:53,:)=result;xlswrite('jieguo.xlsx',jieguo)%將結(jié)果數(shù)據(jù)存成excel表格學(xué)生考試成績(jī)綜合評(píng)價(jià)2.結(jié)果分析(主成分分析、因子分析結(jié)果比較)學(xué)生序號(hào)主成分得分主成分排名因子分析得分因子分析排名1-11.125238-0.563979392-15.41446-1.8105503-29.401550-0.7023964442.51578250.788681115-12.704740-0.99101648615.1993110.302905197-4.5122829-1.8215528-4.895831-0.9393246916.715770.531782141025.890431.21766611-32.459252-1.390324912-12.901741-1.816355113-10.7905360.7539281214-2.69498261.244825157.60056180.20212222162.91947240.99414681713.483513-0.632044018-13.150343-0.6422943197.9458817-0.0276525252015.98059-0.1710023121-10.91337-0.632782412216.227881.0778472338.839621.43571324-14.1493450.20901121258.41685151.5418612622.16874-0.1809923227-13.096242-01087122-0.3732293529-17.903347-0.4162543630-3.55637280.1553772431-5.6109133-0.956253473215.4362100.946346933-23.392349-0.548243834-13.7867440.3331991835-2.7987227-0.227553333614.689612-0.4635913737-5.6086732-0.1003752738-4.737300.1843242339-7.3663434-0.9072734540-22.805848-0.1633813041-29.751451-0.042777526426.71625190.23681720434.70576210.511064154439.55511.5071924519.466451.32722446-11.8005390.387504174717.772360.87304710486.1387220-0.31387534498.0144316-0.121888285011.7928140.53399813513.1446523-0.6400184252-8.11826350.44646216學(xué)生考試成績(jī)綜合評(píng)價(jià)2.結(jié)果分析(主成分分析、因子分析結(jié)果比較)result=[zhuchen