信息论霍夫曼、香农-费诺编码

信息论第二次作业

——数据压缩算法的实现

班别：1307011班

学号：13070110009

姓名：黄丹丹

一、实验目的：

通过该实验，利用香农编码-费诺编码和霍夫曼编码实现图像数据压缩。

二、实验原理：

1、香农-费诺编码

首先,将信源符号以概率递减的次序排列进来，将排列好的信源符号划分为两大组，使第组的概率和近于相同,并各赋于一个二元码符号”0”和”1”.然后，将每一大组的信源符号再分成两组，使同一组的两个小组的概率和近于相同，并又分别赋予一个二元码符号。依次下去，直至每一个小组只剩下一个信源符号为止。这样，信源符号所对应的码符号序列则为编得的码字。译码原理，按照编码的二叉树从树根开始，按译码序列进行逐个的向其叶子结点走，直到找到相应的信源符号为止。之后再把指示标记回调到树根，按照同样的方式进行下一序列的译码到序列结束。如果整个译码序列能够完整的译出则返回成功，否则则返回译码失败。

2、霍夫曼编码

霍夫曼编码属于码词长度可变的编码类，是霍夫曼在1952年提出的一种编码方法，即从下到上的编码方法。同其他码词长度可变的编码一样，可区别的不同码词的生成是基于不同符号出现的不同概率。生成霍夫曼编码算法基于一种称为“编码树”（coding tree）的技术。算法步骤如下：

（1）初始化，根据符号概率的大小按由大到小顺序对符号进行排序。

（2）把概率最小的两个符号组成一个新符号（节点），即新符号的概率等 于这两个符号概率之和。

（3）重复第2步，直到形成一个符号为止（树），其概率最后等于1。 （4）从编码树的根开始回溯到原始的符号，并将每一下分枝赋值为1，上 分枝赋值为0。

三、实验环境

matlab7.1

四、实验内容

1、对于给定的信源的概率分布，用香农-费诺编码实现图像压缩 2、对于给定的信源的概率分布，用霍夫曼编码实现图像压缩

五、实验过程

1.香农-费诺编码 编码1

function c=shannon(p)

%p=[0.2 0.15 0.15 0.1 0.1 0.1 0.1 0.1] %shannon(p)

[p,index]=sort(p) p=fliplr(p) n=length(p) pa=0

for i=2:n

pa(i)= pa(i-1)+p(i-1) end

k=ceil(-log2(p)) c=cell(1,n) for i=1:n c{i}=”

tmp=pa(i)

for j=1:k(i) tmp=tmp*2

if tmp>=1 tmp=tmp-1 c{i(j)='1' else

c{i}(j) = '0' end end end

c = fliplr(c) c(index)=c

编码2 clc; clear;

A=[0.4,0.3,0.1,0.09,0.07,0.04]; A=fliplr(sort(A));%降序排列 [m,n]=size(A); for i=1:n

B(i,1)=A(i);%生成B的第1列 end

%生成B第2列的元素 a=sum(B(:,1))/2; for k=1:n-1

if abs(sum(B(1:k,1))-a)<=abs(sum(B(1:k+1,1))-a) break;

end end

for i=1:n%生成B第2列的元素 if i<=k B(i,2)=0; else

B(i,2)=1; end end

%生成第一次编码的结果 END=B(:,2)'; END=sym(END);

%生成第3列及以后几列的各元素 j=3;

while (j~=0) p=1;

while(p<=n) x=B(p,j-1); for q=p:n if x==-1 break; else

if B(q,j-1)==x y=1;

continue; else y=0; break; end end end

if y==1 q=q+1; end

if q==p|q-p==1 B(p,j)=-1; else

if q-p==2 B(p,j)=0;

END(p)=[char(END(p)),'0']; B(q-1,j)=1;

END(q-1)=[char(END(q-1)),'1']; else

a=sum(B(p:q-1,1))/2;

for k=p:q-2

if abs(sum(B(p:k,1))-a)<=abs(sum(B(p:k+1,1))-a); break; end end

for i=p:q-1 if i<=k B(i,j)=0;

END(i)=[char(END(i)),'0']; else

B(i,j)=1;

END(i)=[char(END(i)),'1']; end end end end p=q; end

C=B(:,j);

D=find(C==-1); [e,f]=size(D); if e==n j=0; else j=j+1; end end B A END

for i=1:n

[u,v]=size(char(END(i))); L(i)=v; end

avlen=sum(L.*A)

2. 霍夫曼编码

function c=huffman(p) n=size(p,2) if n==1

c=cell(1,1) c{1}='' return

end

[p1,i1]=min(p)

index=[(1:i1-1),(i1+1:n)] p=p(index) n=n-1

[p2,i2]=min(p)

index2=[(1:i2-1),(i2+1:n)] p=p(index2);

i2=index(i2)

index=index(index2) p(n)=p1+p2 c=huffman(p)

c{n+1}=strcat(c{n},'1') c{n}=strcat(c{n},'0') index=[index,i1,i2] c(index)=c

end

[p1,i1]=min(p)

index=[(1:i1-1),(i1+1:n)] p=p(index) n=n-1

[p2,i2]=min(p)

index2=[(1:i2-1),(i2+1:n)] p=p(index2);

i2=index(i2)

index=index(index2) p(n)=p1+p2 c=huffman(p)

c{n+1}=strcat(c{n},'1') c{n}=strcat(c{n},'0') index=[index,i1,i2] c(index)=c

本文来源：https://www.bwwdw.com/article/hrvw.html