1、獨立成分分析ICA1.PCA用于數(shù)據(jù)降維，而且只對高斯分布的數(shù)據(jù)有效。對于非高斯分布的數(shù)據(jù)，需要采用ICA進行BSS。2. 經(jīng)典的雞尾酒會問題：假設在 party 中有 n 個人，他們可以同時說話，我們也在房間中一些角落里共放置 n 麥克風用來記錄聲音。宴會過后，我們從n 麥克風中得到了一組數(shù)據(jù)， i 表示采樣的時間順序，也就是說共得到了m 組采樣，每一組采樣都是n 維的。我們的目標是單單從這m 組采樣數(shù)據(jù)中分辨出每個人說話的信號。也就是說：有n 個信號源， ，每一維都是一個人的聲音信號，每個人發(fā)出的聲音信號獨立。A是一個未知的混合矩陣(mixing matrix) ，用來組合疊加信號s，那么

2、這里的X是一個矩陣，其由采樣數(shù)據(jù)構成。其中每個列向量是，A和 s都是未知的，x是已知的，我們要想辦法根據(jù)x來推出s。這個過程也稱作為盲信號分離。令，那么將 W 表示成其中，其實就是將寫成行向量形式。那么得到：3. 不確定性：由于 w 和 s都不確定，那么在沒有先驗知識的情況下，無法同時確定這兩個相關參數(shù)。比如上面的公式s=wx。當w 擴大兩倍時，s 只需要同時擴大兩倍即可，等式仍然滿足，因此無法得到唯一的s。同時如果將人的編號打亂，變成另外一個順序，如上圖的藍色節(jié)點的編號變?yōu)?,2,1，那么只需要調(diào)換A的列向量順序即可，因此也無法單獨確定s。這兩種情況稱為原信號不確定。還有一種ICA不適用的情

3、況，那就是信號不能是高斯分布的，或者至多只能有一個信號服從高斯分布。4. 密度概率及線性變換假設我們的隨機變量s 有概率密度函數(shù)(連續(xù)值是概率密度函數(shù)，離散值是概率)。 為了簡單，我們再假設s是實數(shù)， 還有一個隨機變量x=As， A和 x都是實數(shù)。令是 x 的概率密度，那么怎么求？公式如下：推導過程如下：5. 數(shù)據(jù)預處理一般情況下，所獲得的數(shù)據(jù)都具有相關性，所以通常都要求對數(shù)據(jù)進行初步的白化或球化處理，因為白化處理可去除各觀測信號之間的相關性，從而簡化了后續(xù)獨立分量的提取過程，而且， 通常情況下，數(shù)據(jù)的白化處理能大大增強算法的收斂性。6. FastICA算法FastICA算法以負熵最大作為一個

4、搜尋方向。由信息論理論可知，在所有等方差的隨機變量中，高斯變量的熵最大，因而我們可以利用熵來度量非高斯性，常用熵的修正形式，即負熵。 根據(jù)中心極限定理，若一隨機變量X由許多獨立的隨機變量 s之和組成，只要 si具有有限的均值和方差，則不論其服從何種分布，隨機變量 X較 s更接近高斯分布。換言之， si較X的非高斯性更強。在分離過程中，可通過對分離結果的非高斯性度量來表示分離結果間的相互獨立性，當非高斯性度量達到最大時，則表明已完成對各獨立分量的分離。7. FastICA算法的基本步驟ICA函數(shù)：function z = ICA(X)%去均值M,T = size(X);average = mea

5、n(X')' for i=1:MX(i,:)=X(i,:)-average(i)*ones(1,T); end %白化Cx=cov(X',1); %計算協(xié)方差矩陣eigvector, eigvalue = eig(Cx); W = eigvalue(-1/2)*eigvector' z = W*X;%迭代Maxcount = 10000;Critical = 0.00001;m = M;W = rand(m);for n = 1:mWP = W(:,n);%計算特征值和特征向量%白化矩陣%正交矩陣%最大迭代次數(shù)%判斷是否收斂%需要估計的分量的個數(shù)%初始權向量（任

6、意）Y = WP'*z;G = Y.3; %G為非線性函數(shù)，可取y3 等GG = 3*Y.2; %G的導數(shù)count = 0;LastWP = zeros(m, 1);W(:,n) = W(:,n) / norm(W(:,n);while abs(WP - LastWP)&abs(WP+LastWP)>Critical%迭代次數(shù)%上次迭代的值count = count + 1;LastWP = WP;% WP = 1/T * z * (LastWP'*z).3)'-3*LastWP;for i = 1:mWP(i)=mean(z(i,:).*(tanh(L

7、astWP)'*z)-(mean(1- (tanh(LastWP)'*z).2).*LastWP(i);endWPP = zeros(m, 1);for j = 1:n-1WPP = WPP+(WP'*W(:,j)*W(:,j);endWP = WP - WPP;WP = WP / (norm(WP);if count = Maxcountfprint('未找到相應的信號');return;endendW(:,n) = WP;endz = W'*z;主程序 信號生成及分離：N = 200; n = 1:N; %N 為采樣點數(shù)s1 = 2 * si

8、n(0.02 * pi * n);t = 1 : N; s2 = 2 * square(100 * t, 50);%方波信號a = linspace(1, -1, 25); s3 = 2 * a, a, a, a, a, a, a, a;鋸齒信號 %s4 = rand(1, N);%隨機噪聲S = s1; s2; s3; s4;%信號組成4 * NA = rand(4, 4);X = A * S; %觀察信號%源信號波形圖figure(1); subplot(4, 1, 1); plot(s1); axis(0 N -5, 5); title(源信號'');subplot(4,

9、 1, 2); plot(s2); axis(0 N -5, 5);subplot(4, 1, 3); plot(s3); axis(0 N -5, 5);subplot(4, 1, 4); plot(s4); xlabel('Time/ms');%混合信號波形圖figure(2); subplot(4, 1, 1); plot(X(1, :);title('混合信號');subplot(4, 1, 2); plot(X(2, :);subplot(4, 1, 3); plot(X(3, :); subplot(4, 1, 4); plot(X(4, :);z

10、= ICA(X);figure(3); subplot(4, 1, 1); plot(z(1, :); title('解混后的信號');subplot(4, 1, 2); plot(z(2, :);subplot(4, 1, 3); plot(z(3, :);subplot(4, 1, 4); plot(z(4, :); xlabel('Time/ms');運行結果：02040608010012014016018020020406080100120140160180200020406080100120140160180200源信號50-550-550-510.520406080140160Time/ms1802001001200混合信號50-502040608010012014016018020050-5020406080100120140160180