信息论美学的含义

信息论美学简介

一、什么是信息论美学

十九世纪后半叶，德国心理学家费希纳（Fechner，Gustav Theodor，1801-1887）为科学美学竖立了第一块里程碑。费希纳认为，过去的美学都是“自上而下”的美学，而他的“实验美学”，则是“自下而上”的。他试图用实验心理学的方法来对审美现象进行统计研究。然而，由于审美现象的复杂性，他的研究结果离真正科学地解释审美现象仍有很大距离：因为参加测试的人们只是对简单的图形为反应才显示出某种规律，而这种测试只要涉及稍复杂一些的审美现象，费希纳的方法就无能为力了。于是，美学等待着现代科学为它送来更有效的研究工具。信息论是运用概率论与数理统计的方法研究信息、信息熵、通信系统、数据传输、密码学、数据压缩等问题的应用数学学科。信息论美学的概念体现出明显的使美学成为科学的意识。“信息论美学就是将信息概念、现代信息论观点和现代信息方法运用于美学理论和艺术实践中的新兴学科，是现代信息论、现代信息科学与美学的横向结合。”信息论美学的主要奠基人包括斯特拉斯堡大学教授、技术科学和语言学博士亚伯拉罕?莫尔斯(Abraham Moles，1920–1992)和联邦德国哲学家和美学家马赫?本泽(MaxBense)。

（一）、信

信息论美学简介

一、什么是信息论美学

十九世纪后半叶，德国心理学家费希纳（Fechner，Gustav Theodor，1801-1887）为科学美学竖立了第一块里程碑。费希纳认为，过去的美学都是“自上而下”的美学，而他的“实验美学”，则是“自下而上”的。他试图用实验心理学的方法来对审美现象进行统计研究。然而，由于审美现象的复杂性，他的研究结果离真正科学地解释审美现象仍有很大距离：因为参加测试的人们只是对简单的图形为反应才显示出某种规律，而这种测试只要涉及稍复杂一些的审美现象，费希纳的方法就无能为力了。于是，美学等待着现代科学为它送来更有效的研究工具。信息论是运用概率论与数理统计的方法研究信息、信息熵、通信系统、数据传输、密码学、数据压缩等问题的应用数学学科。信息论美学的概念体现出明显的使美学成为科学的意识。“信息论美学就是将信息概念、现代信息论观点和现代信息方法运用于美学理论和艺术实践中的新兴学科，是现代信息论、现代信息科学与美学的横向结合。”信息论美学的主要奠基人包括斯特拉斯堡大学教授、技术科学和语言学博士亚伯拉罕?莫尔斯(Abraham Moles，1920–1992)和联邦德国哲学家和美学家马赫?本泽(MaxBense)。

（一）、信

光纤通信复习 基本概念 考试题型： 填空 30 判断 30 名词解释 4*5

计算 3道 20分

第一章

1、 自信息和互信息 P6 公式 2、 信道 P9 概念

第二章

1、 离散平稳信源 P18概念 2、 离散无记忆信源 P19概念 3、 时齐马尔可夫信源 P20概念 4、 自信息 P22概念 5、 信息熵 P25概念

6、 信息熵的基本性质 P28

1) 对称性 2) 确定性 3) 非负性 4) 扩展性 5) 可加性 6) 强可加性 7) 递增性 8) 极值性 9) 上凸性

7、 联合熵 条件熵 P42公式 P43例题 8、 马尔克夫信源 P54公式 P55例题 9、 信源剩余度 P58

10、 熵的相对率 信源剩余度 P58 11、 课后作业：2、 4、 13、 21、

22

第三章

1、 有记忆信道 P73概念 2、 二元对称信道 BSC P74 3、 前向概率、 后向概率、 先验概率、 后验概率 P76 4、 条件熵 信道疑义度、 平均互信息 P77

5、 平均互信息、联合熵、信道疑义度、噪声熵计算公式 6、 损失熵 噪声熵 P79

7、 平均互信息的特性 P8

Harbin Institute of Technology

信

与 编 码 理实 验 报 告 设计题目： 循环码编、译码器实验 院 系： 电子与信息工程学院 班 级： 通信一班 姓 名： 周 蕾 学 号： 14S105045 序 号： 41 指导教师： 石硕 报告时间： 2014年12月20日

哈尔滨工业大学

论

息

一、设计题目、内容

（1）利用（7，4）系统循环码的生成多项式为：g(x)=x3+x+1，请设计该循环码的编码器；

（2）随机产生重量为0或1的八种错误图样中的一种，得到实际接收码字。

（3）根据接收到的码字进行译码，

（3.1）校验子多项式与错误图样多项式的对应关系表：

S(x) E(x) 0 0 1 1 x x x2 x2 x+1 x3 x2+x x4 x2+x+1 x5 x2+1 x6 （3.2）梅吉特译码电路：

1

二、设计工具

MATLAB的GUI界面。

实 验 报 告

课程名称 信息论与编码 实验项目

实验仪器

系 别

专 业 电子信息工程

班级/学号 电信1103/2011010550

学生姓名 实验日期

成 绩

指导教师

实验项目：霍夫曼编码、率失真函数的计算

实验项目性质：验证性实验

课程：《信息论与编码》

计划学时：4学时

一、实验目的

掌握使用计算机进行霍夫曼编码、计算率失真函数的方法。

二、实验内容

利用matlab语言编程实现霍夫曼编码、计算率失真函数。

三、实验原理

1．参照教材（焦瑞莉等编著《信息论基础教程》）第111页表4-8理解霍夫曼编码的过程

2．参照教材（焦瑞莉等编著《信息论基础教程》）第148页式（6-7）理解率失真函数的定义

四、实验方法与实验步骤

（一）参照教材第223页信源熵程序建立文件huffman.m

文件huffman.m的代码：

% huffman编码生成器 %

% 函数说明： %

% [W，L．q]=huffman(P)为huffman编码函数 %

% P为信源的概率矢量，W为编码返回的码字 %

% L为编码返回的平均码字长度，q为编码效率

实 验 报 告

课程名称 信息论与编码 实验项目

实验仪器

系 别

专 业 电子信息工程

班级/学号 电信1103/2011010550

学生姓名 实验日期

成 绩

指导教师

实验项目：霍夫曼编码、率失真函数的计算

实验项目性质：验证性实验

课程：《信息论与编码》

计划学时：4学时

一、实验目的

掌握使用计算机进行霍夫曼编码、计算率失真函数的方法。

二、实验内容

利用matlab语言编程实现霍夫曼编码、计算率失真函数。

三、实验原理

1．参照教材（焦瑞莉等编著《信息论基础教程》）第111页表4-8理解霍夫曼编码的过程

2．参照教材（焦瑞莉等编著《信息论基础教程》）第148页式（6-7）理解率失真函数的定义

四、实验方法与实验步骤

（一）参照教材第223页信源熵程序建立文件huffman.m

文件huffman.m的代码：

% huffman编码生成器 %

% 函数说明： %

% [W，L．q]=huffman(P)为huffman编码函数 %

% P为信源的概率矢量，W为编码返回的码字 %

% L为编码返回的平均码字长度，q为编码效率

图像熵的程序实现

实验报告

作者： 院系： 的专业：的

授指导老师：v 实验日期：

摘要

图像熵在图像分割，图片识别领域应用广泛。如果像素为统计独立的，图像的一维熵可以表示图像灰度分布的聚集特征。对于不是统计独立的情况，二维熵考虑了相邻像素之间的相关性及图像的空间分布特征，本报告通过C程序来实现图像一维熵和二维熵。

关键词：信息论；信息熵；图像熵

Abstract

Image entropy is widely used in image segmentation and image recognition. The one-dimensional entropy of the image can represent the aggregation of the gray distribution of the image if the pixels are statistically independent，For the case that is not statistically independent, the two-dimensional entropy takes into account the relation betw

程设计(论文) 武汉工程大学课

目录

目录 .......................................................................................................... I 摘要 ........................................................................................................ III 前言 ........................................................................................................ IV 1 1.1 1.2 1.3 1.4 2 2.1 2.2 3 3.1 3.2 3.3 3.4 3.5 3.6 3.7 3.8 4 4.1 4.2

课题背景 ............................................................................................. 1 背景

信息论习题集

第一章、 判断题 1、信息论主要研究目的是找到信息传输过程的共同规律，提高信息传输的可靠性、有效性、保密性和认证性，以达到信息传输系统的最优化。（√）

2、同一信息，可以采用不同的信号形式来载荷；同一信号形式可以表达不同形式的信息。（√）

3、通信中的可靠性是指使信源发出的消息准确不失真地在信道中传输；（√） 4、有效性是指用尽量短的时间和尽量少的设备来传送一定量的信息。（√）

5、保密性是指隐蔽和保护通信系统中传送的消息，使它只能被授权接收者获取，而不能被未授权者接收和理解。（√）

6、认证性是指接收者能正确判断所接收的消息的正确性，验证消息的完整性，而不是伪造的和被窜改的。（√）

7、在香农信息的定义中，信息的大小与事件发生的概率成正比，概率越大事件所包含的信息量越大。（×） 第二章 一、判断题

1、通信中获得的信息量等于通信过程中不确定性的消除或者减少量。（√）

2、离散信道的信道容量与信源的概率分布有关，与信道的统计特性也有关。（×） 3、连续信道的信道容量与信道带宽成正比，带宽越宽，信道容量越大。（×） 4、信源熵是信号符号集合中，所有符号的自信息的算术平均值。（×）

5、信源熵具有极值性，是信源概率分布P的下凸函数，

学院__________姓名__________学号__________任课老师 考场教室__________选课号/座位号__________

………密………封………线………以………内………答………题………无………效……

电子科技大学2013-2014学年第 二 学期期 末 考试 A 卷

课程名称： 信息论基础 考试形式： 一页开卷 考试日期：20 14年 6月 26日 考试时长：_120分钟 课程成绩构成：平时 30 %， 期中 0 %， 实验 0 %， 期末 70 % 本试卷试题由_三_部分构成，共_3_页。

题号 得分 得 分 一、填空题（共30分，共15空，每空2分）

一 二 三 合计 1、通信系统中信道传输信号，信号承载消息，消息所含能消除(不确定性)的内容是信息。

2、根据链式法则，两符号离散信源的联合熵H(X1X2)?H(X1)?(H)。

3、如果多符号离散信源对任意两个不同时间起点，其概率及直到N维的各维联合概率都相同，该信源是N维( )信源。

1?4、指数信源的概率密度函数p(x)?e?,0?x??，其绝对熵H(X)=( ) bit，相对熵Hc(X