信息编码样卷

考试内容和具体要求 第一章 绪论

考试内容：信息论研究的对象、目的和内容、信息论发展简史与信息科学。 具体要求：

1、掌握信息的概念与特征； 2、了解信息论的形成、发展及趋势；

3、掌握 信息，信号，消息，数据的关系与联系。 第二章 离散信源及其信息测度 考试内容：

信源的数学模型及分类 、离散信源的信息熵、信息熵的基本性质、信息熵的惟一性定理、离散无记忆的扩展信源、离散平稳信源、马尔可夫信源、信源冗余度与自然语言的熵、意义信息和加权熵。 具体要求：

１、掌握信源的描述和分类、理解信息的可度量性；理解信息度量的原则； ２、掌握离散信源熵和互信息；

3、掌握连续信源熵和互信息、离散序列信源的熵、冗余度； 4、了解联合熵和最大熵定理； 第三章 离散信道及其信道容量 考试内容：

信道的数学模型及分类 、平均互信息及平均条件互信息、平均互信息的特性、信道容量及其一般计算方法、离散无记忆扩展信道及其信道容量 、独立并联信道及其信道容量、 串联信道的互信息和数据处理定理、信源与信道。 具体要求：

1、掌握1-1码、唯一可译码的概念与关系； 2、熟练掌握即时码与前缀码的概念与关系； 3、理解码的分类方法、奇异码和非奇异码；

3、掌握定长编码定理，变长编码定理，最佳编码方法； 4、掌握香农编码方法，费诺编码方法，哈夫曼编码方法。 第四章 波形信源和波形信道

考试内容：连续信源和波形信源的信息测度、连续信源熵的性质及最大差熵定理、熵功率、 连续信道和波形信道的信息传输率、高斯加性波形信道的信道容量。 具体要求：

1、掌握平均失真和信息率失真函数； 2、掌握R(D)的定义域和单调性等性质；

3、掌握限失真信源编码定理，常用的信源编码方法简介，游程编码； 4、理解算术编码方法及具体实现方案。 第五章 无失真信源编码定理 考试内容：

编码器、等长码 、 渐近等分割性和e典型序列、等长信源编码定理、变长码 、 变长信源编码定理。 具体要求：

1、掌握信道模型和信道容量； 2、掌握有扰离散信道的编码定理；

3、掌握差错控制与信道编译码的基本原理；

4、掌握线性分组码，卷积码，网格编码调制与级联码简介； 第六章 有噪信道编码定理 考试内容：

错误概率和译码规则、错误概率与编码方法、联合e典型序列 、有噪信道编码定理、 联合信源信道编码定理。 具体要求：

1、了解译码规则和平均错误概率；汉明距离与编码原则；有噪离散信道编码定理；

2、掌握信道编码的基本思路、衡量标准和编码定理； 3、掌握最大后验概率、最大似然译码准则； 4、掌握平均错误概率与编码方法；

5、理解汉明距离与编码原则；有噪离散信道编码定理。 第七章 保真度准则下的信源编码

考试内容：失真度和平均失真度、信息率失真函数及其性质、信息率失真函数的参量表述及其计算、 二元信源和离散对称信源的r(d)函数、连续信源的信息率失真函数、 保真度准则下的信源编码定理、联合有失真信源信道编码定理。 具体要求：

1、了解信息率失真函数的参量表述及其计算。 2、理解香农第三编码定理及逆定理。 3、掌握信息率失真函数的定义和性质。

4、理解并掌握保真度准则及其信源编码的思想。 三、考试试题样题

信息论与编码考试样题

一．填空题（每空1分，共20分）

1．香农信息论的三个基本概念分别为____________、____________、____________。

2．对离散无记忆信源来说，当信源呈____________分布情况下，信源熵取最大值。

3．写出平均互信息的三种表达公式____________、____________、____________。

4．若连续信源输出的平均功率和均值被限定，则其输出信号幅度的概率密度函

数为____________时，信源具有最大熵值；若连续信源输出非负信号的均值受限，则其输出信号幅度呈____________分布时，信源具有最大熵值。 5．信道容量是为了解决通信的________问题，而信息率失真函数是为了解决通

信的________问题。

6．费诺编码比较适合于____________________________________的信源。 7．无记忆编码信道的每一个二元符号输出可以用多个比特表示，理想情况下为实数，此时的无记忆二进制信道又称为____________。

8．差错控制的4种基本方式是：____________、____________、____________、____________。

9．(n,k) 线性码能纠t个错误，并能发现l 个错误 (l>t)，码的最小距离为：____________________________________。

10．循环码码矢的 i 次循环移位等效于将码多项式乘____________后再模____________。

二．简答题（每小题5分，共30分）

1．分别说明平均符号熵与极限熵的物理含义并写出它们的数学表达式。 2．写出二进制均匀信道的数学表达式，并画出信道容量C与信道转移概率p的

曲线图。

3. 简述保真度准则下的信源编码定理及其物理意义。

4．在哈夫曼编码过程中，对缩减信源符号按概率由大到小的顺序重新排列时，应将合并后的新符号排在同概率大小信源符号的前面还是后面？并说明原因。 5．设某二元码为C={11100,01001,10010,00111},请问此码的最小码距是多少？码率R（假设码字等概率分布）为多少？此码能纠正几位码元错误？ 6．目前对卷积码有哪些描述方法？各从什么角度考虑的？ 三．计算题（每小题10分，共50分）

1．黑白气象传真图的消息只有黑色和白色两种，即信源X={黑,白}。设黑色出现的概率为P(黑)=0.4，白色的出现概率P(白)=0.6。 (1) 假设图上黑白消息出现前后没有关联，求熵H(X)；

(2) 假设消息前后有关联，其依赖关系为P(白/白)=0.8，P(黑/白)=0.2， P(白/黑)=0.3，P(黑/黑)=0.7，求此一阶马尔可夫信源的熵H2(X)；

(3) 分别求上述两种信源的剩余度，比较H(X)和H2(X)的大小，并说明其物理意

义。

2．设电话信号的信息率为5.6×104比特/秒，在一个噪声功率谱为N0=5×10-6mW/Hz、限频F、限输入功率P的高斯信道中传送，若F=4kHz, 问无差错传输所需的最小功率P是多少W? 若F趋于无穷大时，则P是多少瓦？ 3．有一个二元对称信道，其信道矩阵为

吧)设该信源以1500二元符号/秒的速度传输输入符号。现有一消息序列共有12000个二元符号，并设p(0)=p(1)=1/2，问从信息传输的角度来考虑，10秒钟内能否将这消息序列无失真地传递完？

。(此处原题有误，看题型

4．信源符号X有6种字母，概率为 (0.32, 0.22, 0.18, 0.16, 0.08, 0.04) (1)用香农编码编成二进变长码，计算其编码效率。 (2)用哈夫曼编码编成二进变长码，计算其编码效率。 5．已知(7,3)循环码的全部码字 0000000 0011101 0111010 1101001 1010011 0100111 1001110

(1) 写出该循环码的生成多项式g(x)和生成矩阵G； (2) 写出一致监督矩阵H。

本文来源：https://www.bwwdw.com/article/78qo.html