信息论与编码第三章曹雪虹习题答案
更新时间:2023-09-11 19:31:01 阅读量: 教育文库 文档下载
相信我,没错的!!!
第三章
?21??33??12???3.1 设二元对称信道的传递矩阵为?33?
(1) 若P(0) = 3/4, P(1) = 1/4,求H(X), H(X/Y), H(Y/X)和I(X;Y); (2) 求该信道的信道容量及其达到信道容量时的输入概率分布;
解: 1)
3311H(X)???p(xi)??(?log2??log2)?0.811 bit/symbol4444iH(Y/X)????p(xi)p(yj/xi)logp(yj/xi)ij322311111122 ??(?lg??lg??lg??lg)?log210433433433433 ?0.918 bit/symbol3211????0.583343433112p(y2)?p(x1y2)?p(x2y2)?p(x1)p(y2/x1)?p(x2)p(y2/x2)?????0.41674343H(Y)???p(yj)??(0.5833?log20.5833?0.4167?log20.4167)?0.980 bit/symbolp(y1)?p(x1y1)?p(x2y1)?p(x1)p(y1/x1)?p(x2)p(y1/x2)?jI(X;Y)?H(X)?H(X/Y)?H(Y)?H(Y/X)H(X/Y)?H(X)?H(Y)?H(Y/X)?0.811?0.980?0.918?0.749 bit/symbolI(X;Y)?H(X)?H(X/Y)??0.811?0.749?0.062 bit/symbol 2)
1122C?maxI(X;Y)?log2m?Hmi?log22?(lg?lg)?log210?0.082 bit/symbol33331其最佳输入分布为p(xi)?
23-2某信源发送端有2个符号,xi,i=1,2;p(xi)?a,每秒发出一个符号。接受端有3
?1/21/20?种符号yi,j=1,2,3,转移概率矩阵为P???。
1/21/41/4??(1) 计算接受端的平均不确定度;
没文化,真可怕!!!
相信我,没错的!!!
(2) 计算由于噪声产生的不确定度H(Y|X);
(3) 计算信道容量。
?1/21/20??
1/21/41/4??联合概率p(xi,yj)
解:P??X Y y1 y2 y3 0 x1 x2 则Y的概率分布为 Y a/2 (1?a)/2 y1 a/2 (1?a)/4 (1?a)/4 y2 y3 (1?a)/4 (1?a)/4 1/2 11+a41?a4(1)H(Y)?log2? log?log241?a41?a1116a1?a ?log2?log?log2241?a41?a1111a1?a ?log2?log16?log?log2441?a241?a311a1?a ?log2?log?log2241?a41?a取2为底
311a1?aH(Y)?(?log2?log)bit 22241?a41?a1a11?a11?a11?a1??alog?log?log? (2)H(Y|X)???log?log?222224444??23(1?a)??alog2?log2
23?a?log2
2取2为底
H(Y|X)?3?abit 211a1?a??a?c?maxI(X;Y)?max?H(Y)?H(Y|X)??max?log2?log?log?p(xi)p(xi)p(xi)41?a241?a??2a11a1?a?(ln2?ln?ln)241?a41?a 取e为底2?a112a11?aa11?ln2??ln?(??) 2241?a41?a41?a1?a1a11?aa2?ln2??ln? 22(1?a2)41?a41?a2没文化,真可怕!!!
相信我,没错的!!!
111?a ?ln2?ln241?a= 0
1?a1? 1?a43?a?
51311131?c??log2?log??log 92541?25454312531?log2?log?log 104162043153?log2?log?log2 10241015?log 24
3.3 在有扰离散信道上传输符号0和1,在传输过程中每100个符号发生一个错误,已知P(0)=P(1)=1/2,信源每秒内发出1000个符号,求此信道的信道容量。
解:
由题意可知该二元信道的转移概率矩阵为:
?0.990.01? P????0.010.99?为一个BSC信道
所以由BSC信道的信道容量计算公式得到:
C?logs?H(P)?log2??pilogi?121?0.92bit/signpi1Ct?C?1000C?920bit/sect
3.4 求图中信道的信道容量及其最佳的输入概率分布.并求当e=0和1/2时的信道
容量C的大小。
X 0
1 1-e
Y 0
1 1
e e 2
1-e
2
没文化,真可怕!!!
相信我,没错的!!!
00??1??,此信道为非奇异矩阵,又r=s,可利用方程组求解
e解: 信道矩阵P=01?e???e1-e??0?
?3j=1P(bj|ai)bj=?P(bj|ai)logP(bj|ai) (i=1,2,3)
j=13ìb1=0???í(1-e)b2+eb3=(1-e)log(1-e)+eloge ?????eb2+(1-e)b3=eloge+(1-e)log(1-e)解得b1=0
b2=b3=(1-e)log(1-e)+eloge
所以 C=log
?2j=log[20+2×2(1-e)log(1-e)+eloge]
b(1-e)j=log[1+21-H(e)]=log[1+2(1-e)ee]
ì11?1-C-C?P(b)=2b=2==1?(1-e)e1-H(e)?1+2(1-e)e1+2? ?ee?(1-e)e?b2-C?P(b)=2=í2?1+2(1-e)(1-e)ee???P(b3)=2b3-C=P(b2)??????3而 P(bj)=?P(ai)P(bj|ai) (j=1,2,3)
i=1ìP(b1)=P(a1)???得íP(b2)=P(a2)(1-e)+P(a3)e ?????P(b3)=P(a2)e+P(a3)(1-e)1所以 P(a1)=P(b1)=
1+2(1-e)(1-e)ee(1-e)eeeP(a2)=P(a3)=P(b2)=P(b3)= (1-e)e1+2(1-e)e当e=0时,此信道为一一对应信道,得
1 C=log3, P(a1)=P(a2)=P(a3)=
311当e=1/2时,得 C=log2, P(a1)=,P(a2)=P(a3)=
24
没文化,真可怕!!!
相信我,没错的!!!
3.5 求下列二个信道的信道容量,并加以比较 ?p??p??2???p??p??? (2)?(1)??p??p???p??p??2?????其中p+p=1
2?00?? 2???
解:
(1)此信道是准对称信道,信道矩阵中Y可划分成三个互不相交的子集 由于集列所组
成的矩阵??p???p???p????2???,??而这两个子矩阵满足对称性,因此可直接利用准对??p?????2??2称信道的信道容量公式进行计算。 C1=logr-H(p1’ p2’ p3’)-
?NklogMk
k?1其中r=2,N1=M1=1-2? N2=2? M2=4? 所以 C1=log2-H(p??,p-ε,2ε)-(1-2?)log(1-2?)-2?log4?
=log2+(p??)log(p??)+(p-ε)log(p-ε)+2εlog2ε-(1-2ε)log(1-2ε)-2εlog4ε =log2-2εlog2-(1-2ε)log(1-2ε)+(p??)log(p??)+(p-ε)log(p-ε) =(1-2ε)log2/(1-2ε)+(p??)log(p??)+(p-?)log(p-?) 输入等概率分布时达到信道容量。
(2)此信道也是准对称信道,也可采用上述两种方法之一来进行计算。先采用准对称信
道的信道容量公式进行计算,此信道矩阵中Y可划分成两个互不相交的子集,由子
集列所组成的矩阵为??p???p???2p????2??,??p?????00??这两矩阵为对称矩阵 其中?2??r=2,N1=M1=1-2? N2=M2=2?,所以 C=logr-H(p-?,p-ε,2ε,0)-
?NklogMk
k?1=log2+(p-?)log(p-?)+(p-ε)log(p-ε)+2εlog2ε-(1-2ε)log(1-2ε)-2εlog2ε =log2-(1-2ε)log(1-2ε)+( p-?)log(p-?)+(p-ε)log(p-ε) =(1-2ε)log2/(1-2ε)+2εlog2+(p-?)log(p-?)+(p-ε)log(p-ε) =C1+2εlog2
输入等概率分布(P(a1)=P(a2)=1/2)时达到此信道容量。比较此两信道容量,可得C2=C1+2εlog2
没文化,真可怕!!!
正在阅读:
信息论与编码第三章曹雪虹习题答案09-11
COF挠性基板用二层型挠性覆铜板特性与生产现状(中元咨询)09-25
泛亚稀有金属投资受托申报业务固定收益交易05-11
幼儿园如何有效开展科学小实验04-25
常用钢材重量换算表11-10
2010级文秘班外国文学复习提纲10-18
环监470号文件04-04
重大版英语三年级下册Unit 3《This is my father》(lesson 1)教02-26
中国铁矿床类型08-26
优秀共青团员事迹材料例文02-24
- exercise2
- 铅锌矿详查地质设计 - 图文
- 厨余垃圾、餐厨垃圾堆肥系统设计方案
- 陈明珠开题报告
- 化工原理精选例题
- 政府形象宣传册营销案例
- 小学一至三年级语文阅读专项练习题
- 2014.民诉 期末考试 复习题
- 巅峰智业 - 做好顶层设计对建设城市的重要意义
- (三起)冀教版三年级英语上册Unit4 Lesson24练习题及答案
- 2017年实心轮胎现状及发展趋势分析(目录)
- 基于GIS的农用地定级技术研究定稿
- 2017-2022年中国医疗保健市场调查与市场前景预测报告(目录) - 图文
- 作业
- OFDM技术仿真(MATLAB代码) - 图文
- Android工程师笔试题及答案
- 生命密码联合密码
- 空间地上权若干法律问题探究
- 江苏学业水平测试《机械基础》模拟试题
- 选课走班实施方案
- 信息论
- 习题
- 编码
- 答案
- 第三章
- 曹雪虹
- 光棍节
- 博林特西威变频器调试指南
- 班主任基本功竞赛笔试复习题(同名11005)
- 武汉蔡甸湖家渡科目三1号线考试流程 - 图文
- coreldraw试题
- 小学数学西师版四年级下册《平均数》教案1
- 厦门市湖里实验中学2014-2015学年9年级第一学期期中考试
- 地理中图版2012新版七年级下册《四大区域自然环境对生产和生活的影响》教案+2
- 委托出口代理合同
- 《管理沟通》作业答案
- 别让违规成为一种习惯
- 血液透析患者透析器过敏的防治
- 工会职责及职务说明书
- 备战中考语文之文言文古今异义词汇总
- ISPM 15标准
- 2019年坚果炒货市场现状与发展趋势预测报告 目录
- 一般过去式动词及句型变化规律
- 福建省惠安一中2017-2018学年上学期期中考试初二数学试卷
- 三维地理信息系统软件一套
- 案例分析题2道大题