信源编码实验LabVIEW

《信息论与信源编码》实验报告

1、实验目的

(1) 理解信源编码的基本原理； (2) 熟练掌握Huffman编码的方法；

(3) 理解无失真信源编码和限失真编码方法在实际图像信源编码应用中的差异。

2、实验设备与软件

(1) PC计算机系统

(2) VC++6.0语言编程环境

(3) 基于VC++6.0的图像处理实验基本程序框架imageprocessing_S (4) 常用图像浏览编辑软件Acdsee和数据压缩软件winrar。 (5) 实验所需要的bmp格式图像（灰度图象若干幅）

3、实验内容与步骤

(1) 针对“图像1.bmp”、“图像2.bmp”和“图像3.bmp”进行灰度频率统计（即计算图像灰度直方图），在此基础上添加函数代码构造Huffman码表，针对图像数据进行Huffman编码，观察和分析不同图像信源的编码效率和压缩比。

(2) 利用图像处理软件Acdsee将“图像1.bmp”、“图像2.bmp”和“图像3.bmp”转换为质量因子为10、50、90的JPG格式图像（共生成9幅JPG图像），比较图像格式转换前后数据量的差异，比较不同品质因素对图像质量的影响；

(3) 数据压缩软件winrar将“图像1.bmp”、“图像2.b

《信息论与信源编码》实验报告

1、实验目的

(1) 理解信源编码的基本原理； (2) 熟练掌握Huffman编码的方法；

(3) 理解无失真信源编码和限失真编码方法在实际图像信源编码应用中的差异。

2、实验设备与软件

(1) PC计算机系统

(2) VC++6.0语言编程环境

(3) 基于VC++6.0的图像处理实验基本程序框架imageprocessing_S (4) 常用图像浏览编辑软件Acdsee和数据压缩软件winrar。 (5) 实验所需要的bmp格式图像（灰度图象若干幅）

3、实验内容与步骤

(1) 针对“图像1.bmp”、“图像2.bmp”和“图像3.bmp”进行灰度频率统计（即计算图像灰度直方图），在此基础上添加函数代码构造Huffman码表，针对图像数据进行Huffman编码，观察和分析不同图像信源的编码效率和压缩比。

(2) 利用图像处理软件Acdsee将“图像1.bmp”、“图像2.bmp”和“图像3.bmp”转换为质量因子为10、50、90的JPG格式图像（共生成9幅JPG图像），比较图像格式转换前后数据量的差异，比较不同品质因素对图像质量的影响；

(3) 数据压缩软件winrar将“图像1.bmp”、“图像2.b

南京工程学院备课笔记-信息论与编码-绪论、信源与信息熵

第1次课 第一章 绪论

简单介绍本课程

1. 教学重点和计划

1) 信源及信源熵：约8学时

2) 无失真信源及无失真信源编码：约8学时 3) 限失真信源及限失真信源编码：约8学时 4) 信道及信道容量、信道编码：约12学时 5) 密码学：约8学时参考书

1）信息论及信息处理，吴伟陵，人民邮电出版社

2）信息论—基础理论与应用，傅祖芸编著，电子工业出版社，2001 3）信息理论与编码，姜丹，钱玉美编著

4）信息论基础教程，李亦农编著，北京邮电大学出版社，2005

§1 信息的概念

信息这一概念是在人类社会互通情报的实践过程中产生的。信息在发展过程中主要经历了五次大的革命：

1、声音、手势及语言； 2、文字符号进入人类社会；

3、印刷术提供了新的信息活动手段：增大了信息的传播范围； 4、电磁波开始传播信息：加快了传播速度； 5、计算机与通信的完美结合。

推动信息革命和信息技术发展的三项技术：

? 微电子技术—信息技术的“细胞” ? 通信技术—信息技术的神经 ? 计算机技术—信息技术的大脑

信息科学是一门综合性学科，它是研究信息及其运动规律的科学。其内容包括：信息的本质及其度量

第四章 信源编码

一、 信源编码的作用

(1)把信源发出的模拟信号转换成以二进制为代表的数字式信息序列，完成模拟信号数字化。

(2)为了使传输更有效，把与传输内容无关的冗余信息去掉，完成信源的数据压缩。

二、 模拟信号数字化法方法 1．模拟调制

正弦波调制，调幅(AM)、调频(FM)和调相(PM)，采用的载波是正弦波，已调信号在时间上是连续的，它们均属于模拟调制。

脉冲调制，如脉冲幅度调制(PAM)、脉冲相位调制(PPM)和脉冲宽度调制(PWM)等，虽然已调波在时间上被取样离散化了，但各自的调制参数是按照信源的规律连续地变化，所以仍然属于模拟调制的范畴。

2．模拟信号数字化法方法

模拟信号数字化的方法有很多种：脉冲编码调制（Pulse Code Modulation ，缩写为PCM）、增量调制（Delta Modulation，缩写为DM或ΔM）、差分脉冲编码调制（缩写为DPCM）等。

脉冲编码调制(PCM)。其过程为抽样、量化、编码等，使已调波不但在时间上是离散的，且在幅度变化上用数字来体现，这便是模拟信号数字化。

4.1 抽样定理

一、抽样的概念

1．抽样的概念：抽样又可称为取样或者采样。

抽样定理是任何模拟信号数字化的理论基础。实质上，

第５章 有失真信源编码（信息率失真函数）

离散信源有失真编码 连续信源有失真编码

5.1信息率－失真函数的概念

在第２章我们证明了当输入随机变量的概率分布确定时，互信道是条件转移概率的下凸函数，即互信息必存在一个最小值。然而，在没有其它约束条件的情况下，这个最小值就是零。因为一方面互信息总是非负的，另一方面，当输入和输出随机变量相互独立时互信息等于零。所以研究一般情况下互信息的极小值问题没有什么意义。 无失真信源编码时，信源的熵是信息率所能达到的下限。在很多实际情况下，要做到完全没有失真是没有必要的，特别是对连续信源编码，由于信源的绝对熵无穷大，要达到无失真编码是不可能的。为此，我们有必要研究在满足某种失真准则下互信息的极小值问题，即信息率－失真函数。 首先看离散信源的情况。

设Ｘ和Ｙ是定义在相同取值域A?B?{a1,a2,?,an}上的离散型随机变量。失真函数d(x,y) 是

定义在A?B上的非负函数

d(x,y)?d(X?x,Y?y),x?A,y?B

例如，可定义

?0,i?jd(i,j)?d(ai,aj)????,i?j

（５.１.１）

其物理意义是当输入和输出相等时没有失真，当输入和输出不相等时失真是相同的。显然失真函数d

第一章：信源编码的概念（绪论）

1. 数据压缩的一个基本问题是“我们要压缩什么？”；你对此如何理解？

2. 你所了解的各类编码的目的是什么？请各举一例解释编码作用。

3. 你怎样理解信息率失真函数R(D)对于信源编码的指导作用？试举例。

4. 等概率信源还能否压缩？为什么？请举例说明。

5 你理解的联合编码的发展方向是什么？信源编码的发展趋势和进展有哪些？

第二章：无损信源编码

1.有二元独立序列，已知p0 0.9，p1 0.1，求这序列的符号熵。当用赫夫曼编码时，以三个二元符号合成一个新符号，求这种符号的平均代码长度和编码效率。设输入二元符号的速率是每秒100个，要求三分钟内溢出和取空的概率均小于0.01，求所需要的信道码率（bit/s）和存储器容量（比特数）。若信道码率已规定为50 bit/s，存储器容量将如何选择？

2.有二元平稳马氏链，已知P（0|0）=0.8，P（1|1）=0.7，求它的符号熵。用三个符号合成一个来编赫夫曼码，求这新符号的平均代码长度和编码效率。

3.对上题的信源进行游程编码。若“0”游程长度的截止值是16，“1”游程的截止值是8，求编码效率。这样的编码效率是否已达到最佳？为什么？

4.求三阶马氏链的“0”游程长度和“1”游程长度的条

2002 Copyright EE Lab508

第八章 限失真信源编码

8.1设信源X的概率分布P(X):{p(?1), p(?2), …,p(?r) },失真度为d (?i, ?j)≥0,其中 (i=1,2,…,r;j=1,2,…,s).试证明:

Dmin??p(ai){mind(ai,bj)}

i?1jr并写出取得Dmin的试验信道的传输概率选取的原则,其中

mind(ai,bj)?min{p(b1/ai),p(b2/ai),?,p(bS/ai))}

jj(证明详见:p468-p470)

8.2设信源X的概率分布P(X):{p(?1), p(?2), …,p(?r) },失真度为d(?i, ?j)≥0,其中 (i=1,2,…,r;j=1,2,…,s).试证明:

Dmax?min{?p(ai)d(ai,bj)}

ji?1r并写出取得Dmax的试验信道传递概率的选取原则. (证明详见:p477-p478)

8.5设二元信源X的信源空间为:

0 1 ?X [X?P]:?

1-??P(X) ? 令ω≤1/2,设信道输出符号集Y:{0,1},并选定汉明失真度.试求:

(1) Dmin,R(Dmin);

信源编码的基本理论研究与应用

【摘要】 【关键字】

前言

信息论的理论定义是由当代伟大的数学家美国贝尔实验室杰出的科学家香农在他1948 年的著名论文《通信的数学理论》所定义的，它为信息论奠定了理论基础。后来其他科学家，如哈特莱、维纳、朗格等人又对信息理论作出了更加深入的探讨。使得信息论到现在形成了一套比较完整的理论体系。

信息通过信道传输到信宿的过程即为通信，通信中的基本问题是如何快速、准确地传送信息。要做到既不失真又快速地通信，需要解决两个问题：一是不失真或允许一定的失真条件下，如何提高信息传输速度（如何用尽可能少的符号来传送信源信息）；二是在信道受到干扰的情况下，如何增加信号的抗干扰能力，同时又使得信息传输率最大（如何尽可能地提高信息传输的可靠性）。

实际的信源虽然多种多样，但可归纳为图像、语音、文字、数据等。其中图像、语音常表现为时间连续的随机波形，可通过采样变换成随机的时间序列。无论那种类型的信源，信源符号之间总存在相关性和分布的不均匀性，使得信源输出符号序列的统计特性，寻找合适的方法把信源输出符号序列变换为最短的码字序列。

信源编码的基本途径有两个，一是编码后使序列中的各个符号之间尽可能地互相独立，即解除相关性；二

毕业论文基本要求

1．毕业论文的撰写应结合专业学习，选取具有创新价值和实践意义的论题。

2．论文篇幅一般为8000字以上，最多不超过15000字。 3．论文应观点明确，中心突出，论据充分，数据可靠，层次分明，逻辑清楚，文字流畅，结构严谨。

4．论文字体规范按《本科生毕业论文写作规范》和“论文样板”执行。

5．论文应书写工整，标点正确，用用微机打印后，装订成册。

本科毕业论文（设计）诚信声明

本人郑重声明：所呈交的本科毕业论文（设计），是本人在指导老师的指导下，独立进行研究工作所取得的成果，成果不存在知识产权争议，除文中已经注明引用的内容外，本论文不含任何其他个人或集体已经发表或撰写过的作品成果。对本文的研究做出重要贡献的个人和集体均已在文中以明确方式标明。本人完全意识到本声明的法律结果由本人承担。

学生签名：

时间： 年 月 日

关于论文（设计）使用授权的说明

本人完全了解关于收集、保存、使用学位论文的规定，即： 1.按照学校要求提交学位论文的印刷本和电子版本；

2.学校有权保存学位论文的印刷本和电子版，并提供目录检索与阅览服务，在校园网上提供服务；

3.

毕业论文基本要求

1．毕业论文的撰写应结合专业学习，选取具有创新价值和实践意义的论题。

2．论文篇幅一般为8000字以上，最多不超过15000字。 3．论文应观点明确，中心突出，论据充分，数据可靠，层次分明，逻辑清楚，文字流畅，结构严谨。

4．论文字体规范按《本科生毕业论文写作规范》和“论文样板”执行。

5．论文应书写工整，标点正确，用用微机打印后，装订成册。

本科毕业论文（设计）诚信声明

本人郑重声明：所呈交的本科毕业论文（设计），是本人在指导老师的指导下，独立进行研究工作所取得的成果，成果不存在知识产权争议，除文中已经注明引用的内容外，本论文不含任何其他个人或集体已经发表或撰写过的作品成果。对本文的研究做出重要贡献的个人和集体均已在文中以明确方式标明。本人完全意识到本声明的法律结果由本人承担。

学生签名：

时间： 年 月 日

关于论文（设计）使用授权的说明

本人完全了解关于收集、保存、使用学位论文的规定，即： 1.按照学校要求提交学位论文的印刷本和电子版本；

2.学校有权保存学位论文的印刷本和电子版，并提供目录检索与阅览服务，在校园网上提供服务；

3.