1、- -實驗一信息熵與圖像熵計算一、實驗?zāi)康?.復(fù)習(xí)的基本命令，熟悉下的基本函數(shù)。2復(fù)習(xí)信息熵基本定義能夠自學(xué)圖像熵定義和基本概念。二、實驗儀器、設(shè)備1.計算機一系統(tǒng)最低配置內(nèi)存、。2仿真軟件一等版本軟件。三、實驗內(nèi)容與原理（1）內(nèi)容：1能夠?qū)懗鲈创a，求信源的信息熵。2根據(jù)圖像熵基本知識，綜合設(shè)計出程序，求出給定圖像的圖像熵。（2）原理1中數(shù)據(jù)類型、矩陣運算、圖像文件輸入與輸出知識復(fù)習(xí)。2利用信息論中信息熵概念，求出任意一個離散信源的熵（平均自信息量）。自信息是一個隨機變量,它是指某一信源發(fā)出某一消息所含有的信息量。所發(fā)出的消息不同，它們所含有的信息量也就不同。任何一個消息的自信息量都代表不了

2、信源所包含的平均自信息量。不能作為整個信源的信息測度，因此定義自信息量的77（X）=1o.-J=-f鞏厲）10貯（億）數(shù)學(xué)期望為信源的平均自信息量：信息熵的意義：信源的信息熵是從整個信源的統(tǒng)計特性來考慮的。它是從平均意義上來表征信源的總體特性的。對于某特定的信源，其信息熵只有一個。不同的信源因統(tǒng)計特性不同，其熵也不同。3.學(xué)習(xí)圖像熵基本概念，能夠求出圖像一維熵和二維熵。圖像熵是一種特征的統(tǒng)計形式，它反映了圖像中平均信息量的多少。圖像的一維熵表示圖像中灰度分布的聚集特征所包含的信息量，令表示圖像中灰度值為的像素所占的比例，則定義灰度圖像的一元灰度熵為：255Hplogpii圖像的一維熵可以表示圖

3、像灰度分布的聚集特征，卻不能反映圖像灰度分布的空間特征，為了表征這種空間特征，可以在一維熵的基礎(chǔ)上引入能夠反映灰度分布空間特征的特征量來組成圖像的二維熵。選擇圖像的鄰域灰度均值作為灰度分布的空間特征量，與圖像的像素灰度組成特征二元組，記為，其中表示像素的灰度值，表示鄰域灰度Pf(i,j)/N2=上式能反應(yīng)某像素位置上的灰度值與其周圍像素灰度分布的綜合特征，其中為特征二元組出現(xiàn)的頻數(shù)，為圖像的尺度，定義離散的圖像二維熵為:255Hplogpijiji0構(gòu)造的圖像二維熵可以在圖像所包含信息量的前提下，突出反映圖像中像素位置的灰度信息和像素鄰域內(nèi)灰度分布的綜合特征.信息論實驗報告四、實驗步驟1求解信

4、息熵過程：1）輸入一個離散信源，并檢查該信源是否是完備集2）去除信源中符號分布概率為零的元素。3）根據(jù)平均信息量公式，求出離散信源的熵。2圖像熵計算過程：1）輸入一幅圖像，并將其轉(zhuǎn)換成灰度圖像。2）統(tǒng)計出圖像中每個灰度階象素概率。3）統(tǒng)計出圖像中相鄰兩象素的灰度階聯(lián)合分布矩陣4）根據(jù)圖像熵和二階熵公式，計算出一幅圖像的熵五實驗數(shù)據(jù)及結(jié)果分析程序如下：InformationTheoryexperimenttestingfile HYPERLINK mailto:,22/08/2007testingDiscreteShannonEntropydiscreteprobabilitiessetprob

5、Set=0.10.20.30.150.25;callCalEntropyfunctionH=CalEntropy(probSet);sprintf(ShannonEntropyis:%d,H)calculatetheImageentropyH1,H2=ImgEntropy(lena.jpg);結(jié)果如下：ok110%is:2.2282100tiIS=ordDBttecrensEIt:疋Sffi512汚；HUIEiieiet-itg.00001,error(Probablitiesdontsumto1.)endRemoveanyzeroprobabilities%zeroProbs=find(ar

6、rayeps);ifisempty(zeroProbs),array(zeroProbs)=;disp(Removedzeroornegativeprobabilities.)EndComputetheentropyH=-sum(array.*log2(array);%單位bit/symbol附2：圖像熵計算源代碼函數(shù)源程序ImgEntropy.mImageEntropycalculation% HYPERLINK mailto:,22/08/2007img:inputimagedataH1,H2:Output1&2orderentropyfunctionH1,H2=ImgEntropy(im

7、g)colorimagetransformationI=imread(img);img=rgb2gray(I);imview(I),imview(img);ix,iy=size(img);computeprobsforeachscalelevelinimageP1=imhist(img)/(ix*iy);temp=double(img);fortheindexofimagepiexltemp=temp,temp(:,1);correlationprobmatrixbetween0.255graylevelsCoefficientMat=zeros(256,256);forx=1:ixfory=

8、1:iyi=temp(x,y);j=temp(x,y+1);CoefficientMat(i+1,j+1)=CoefficientMat(i+1,j+1)+1;endendcomputetheprobofmatrixP2=CoefficientMat./(ix*iy);H1=0;H2=0;fori=1:256calculate1ordimageentropyifP1(i)=0H1=H1-P1(i)*log2(P1(i);endcompute2ordimageentropyforj=1:256ifP2(i,j)=0H2=H2-P2(i,j)*log2(P2(i,j);endendendH2=H2/2;%meanentropy/symbolsprintf(1ordimageentropyis:%d,H1)sprintf(2ordimageentropyis:%d,H2)函數(shù)調(diào)用實例test.mInformationTheoryexperimenttestingfile HYPERLINK mailto:,22/08/2007testingDiscreteShannonEntropydiscreteprobabilitiessetprobSet=0.10.