基于神经网络的模式识别实验报告

基于粗糙集的神经网络在模式识别中的应

用

摘要：为解决神经网络在模式识别中存在的噪声问题，基于粗糙集的上、下近似和边界线集理论提出了一种对噪声样本进行处理的方法。该方法主要包括对处于下近似集内的含噪声属性值,将噪声消除后转换为理想状态下的属性值;对处于边界域内的含噪声属性值保持不变。当属性值处于边界域内属性的个数与全部属性数的比值达到某个确定的值时,就认为该样本受到噪声干扰过大,对其拒绝识别。通过实验对比表明,该方法能有效地降低BP网络模式识别的误识率。

关键词：粗糙集 神经网络 模式识别 中图分类号：TP18 文献标识码：A

Study on BP Network for Pattern Recognition Based on RS

Theory

Fan li meng

( School of Information Engineering, Hebei University of Technology, Tianjin 300401, China )

Abstract: In order to solve the noise problem of BP network for pattern recognition,propose

学号：2013483164专业：网络工程 姓名：周婷婷

Bayes分类器设计

【实验目的】

对模式识别有一个初步的理解，能够根据自己的设计对贝叶斯决策理论算法有一个深刻地认识，理解二类分类器的设计原理。 【实验原理】

Bayes分类器的基本思想是依据类别先验概率和条件概率密度，按照某种准则使分类结果从统计上讲是最佳的。换言之，根据类别先验概率和条件概率密度将模式空间划分成若干个子空间，在此基础上形成模式分类的判决规则。准则函数不同，所导出的判决规则就不同，分类结果也不同；使用哪种准则或方法应根据具体问题来确定。

【实验内容】

分别设计最小错误率的Bayes分类器和最小风险Bayes分类器，并对测试集进行分类，观察代价函数的设置对分类结果的影响；

【实验要求】

理解基于Bayes决策理论的随机模式分类的原理和方法，掌握基于最小错误率的贝叶斯决策和基于最小风险的贝叶斯决策，并能够对贝叶斯规则给出具体的实现。 【实验程序】

最小错误率贝叶斯决策

分类器设计

x=[-3.9847 -3.5549 -1.2401 -0.9780 -0.7932 -2.8531 -2.7605 -3.7287 -3.5414

第 34卷增刊 2

中南工业大学学报(自然科学版)J . C ENT . SO UT H UNI V. T ECH NOL.

2003年 7月

基于 BP神经网络和「ZZ集的模式 U Y识别算法及其 MatLab实现蒋良孝，蔡之华.刘钊

(中国地质大学计算机科学与技术系，湖北武汉 430074)摘要:提出了一种基于BP神经网络和 Fuzzy集的模式识别算法， MatLab系统环境下实现了并在这种算法.实践证明，运用该算法进行模式识别的准确率非常高， MatLab编程简捷明了，使用具有很强的实用性和较大的应用前景.关键词:模式识别; BP神经网络; Fuzzy集; MatLab中图分类号;TP301. 6

模式即对某一事物或其他一些感兴趣项目的定量或结构上的描述，它可以用一个标准激励或用取自标准激励和它们相互关系的属性组成的矢量来表示，一组具有公共特性的模式可以看作一个模式类.通过机器进行模式识别的主要问题就是如何采用更好的计算机处理技术自动地、人尽可能少介人把模式分到各自的类中.更广泛地说，模式识别就是将测量结果、激励或输人模式分配到有意义的类别中.目前，可以用于模式识别的算法很多，但大多数算法都存在分类准确率低的缺陷.为了提高模式识别的准确率，本文作

信息与通信工程学院

模式识别实验报告

班

级： 名： 号：

姓 学

日 期： 2011年12月 实验一、Bayes分类器设计

一、实验目的：

1.对模式识别有一个初步的理解

2.能够根据自己的设计对贝叶斯决策理论算法有一个深刻地认识 3.理解二类分类器的设计原理

二、实验条件：

matlab软件

三、实验原理：

最小风险贝叶斯决策可按下列步骤进行： 1)在已知

P(?i)，

P(X?i)，i=1,?，c及给出待识别的X的情况下，根据贝叶斯公式计

算出后验概率：

P(?iX)?

P(X?i)P(?i)?P(X?)P(?)iij?1c j=1,?，x

2)利用计算出的后验概率及决策表，按下面的公式计算出采取 R(aiX)?ai,i=1,?，a的条件风险

??(a,?ij?1cj)P(?jX),i=1,2,?,a

R(aiX),i=1,?，a进行比较，找出使其条件风险最小的

3)对(2)中得到的a个条件风险值决策则

ak，即Rakx?minRaix

i?1,?a????ak就是最小风险贝叶斯决策。

四、实验内容

假定某个局部区域细胞识别中

作业8

编程题实验报告

（一）实验内容：

实现多层前馈神经网络的反向传播学习算法。使用3.2节上机生成的数据集对神经网络进行训练和测试，观察层数增加和隐层数增加是否会造成过拟合。 （二）实验原理：

1）前向传播：

以单隐层神经网络为例（三层神经网络），则对于第k个输出节点，输出结果为：

在实验中采用的激励函数为logistic sigmoid function。 考虑每一层节点中的偏差项，所以，在上式中：

x0?1,wj0?b(l)

在实验中，就相应的需要注意矢量形式表达式中，矢量大小的调整。

2）BP算法：

a) 根据问题，合理选择输入节点，输出节点数，确定隐层数以及各隐层节点数； b) 给每层加权系数，随机赋值；

c) 由给定的各层加权系数，应用前向传播算法，计算得到每层节点输出值，并计算对于所有训练样本的均方误差；

d) 更新每层加权系数：

(l)

其中，?i(l)?(yi?di)?h'(ai(l)),?(l?1)??(?i?wji?h'(ai)，???j最后一层其它层

e) 重复c)，d）迭代过程，直至迭代步数大于预设值，或者每次迭代误差变化值小于预设值时，迭代结束，得到神经网络的各层加权系数。 （三）实验数据及程序：

1）实验数

作业8

编程题实验报告

（一）实验内容：

实现多层前馈神经网络的反向传播学习算法。使用3.2节上机生成的数据集对神经网络进行训练和测试，观察层数增加和隐层数增加是否会造成过拟合。 （二）实验原理：

1）前向传播：

以单隐层神经网络为例（三层神经网络），则对于第k个输出节点，输出结果为：

在实验中采用的激励函数为logistic sigmoid function。 考虑每一层节点中的偏差项，所以，在上式中：

x0?1,wj0?b(l)

在实验中，就相应的需要注意矢量形式表达式中，矢量大小的调整。

2）BP算法：

a) 根据问题，合理选择输入节点，输出节点数，确定隐层数以及各隐层节点数； b) 给每层加权系数，随机赋值；

c) 由给定的各层加权系数，应用前向传播算法，计算得到每层节点输出值，并计算对于所有训练样本的均方误差；

d) 更新每层加权系数：

(l)

其中，?i(l)?(yi?di)?h'(ai(l)),?(l?1)??(?i?wji?h'(ai)，???j最后一层其它层

e) 重复c)，d）迭代过程，直至迭代步数大于预设值，或者每次迭代误差变化值小于预设值时，迭代结束，得到神经网络的各层加权系数。 （三）实验数据及程序：

1）实验数

模式识别实验报告

姓名： 班级： 学号： 提交日期：

模式识别实验

实验一 线性分类器的设计

一、 实验目的：

掌握模式识别的基本概念，理解线性分类器的算法原理。 二、 实验要求

（1）学习和掌握线性分类器的算法原理；

（2）在MATLAB环境下编程实现三种线性分类器并能对提供的数据进行分类； （3） 对实现的线性分类器性能进行简单的评估（例如算法使用条件，算法效率及复杂度等）。 三、 算法原理介绍

（1）判别函数：是指由x的各个分量的线性组合而成的函数：

g(x)?wtx?w0w:权向量w0:阈值权若样本有c类，则存在c个判别函数，对具有g(x)?wtx?w0形式的判别函数的一个两类线性分类器来说，要求实现以下判定规则：

?g(x)?0,yi??1 ?g(x)?0,y??i2?方程g(x)=0定义了一个判定面，它把两个类的点分开来，这个平面被称为超平面，如

下图

模式识别实验报告（二）

专业： 学号：

姓名：XXXX 教师：

学院：

目录

1实验目的................................................ 1 2实验内容................................................ 1 3实验平台................................................ 1 4实验过程与结果分析............................ 1 4.1基于BP神经网络的分类器设计 .. 1 4.2基于SVM的分类器设计 ................ 4 4.3基于决策树的分类器设计 ............ 7 4.4三种分类器对比 ............................ 8 5.总结....................................................... 8

1) 1实验目的

通过实际编程操作，实现对课堂上所学习的BP神经网络、SVM支持向量机和决策树这三种方法的应用，加深理解，同时锻炼自己的动手实践能力。 2) 2实验内容

本次

《模式识别导论》期末大作业

2010-2011-2学期 第 3 组

学号 姓名 工作量(%) 08007204 李双 10 08007205 陈书瑜 35 08007218 王健勇 10 08007236 梁文卓 35 08007243 仲红月 10 I

《模式识别》大作业人脸识别方法一

---- 基于PCA和欧几里得距离判据的模板匹配分类器

一、 理论知识

1、主成分分析

主成分分析是把多个特征映射为少数几个综合特征的一种统计分析方法。在多特征的研究中，往往由于特征个数太多，且彼此之间存在着一定的相关性，因而使得所观测的数据在一定程度上有信息的重叠。当特征较多时，在高维空间中研究样本的分布规律就更麻烦。主成分分析采取一种降维的方法，找出几个综合因子来代表原来众多的特征，使这些综合因子尽可能地反映原来变量的信息，而且彼此之间互不相关，从而达到简化的目的。主成分的表示相当于把原来的特征进行坐标变换（乘以一个变换矩阵），得到相关性较小（严格来说是零）的综合因子。

1.1 问题的提出

一般来说，如果N个样品中的每个样品有n个特征x1,x2,?xn，经过主成分分析，将

它们综合成n综合变量，即

?y1?c11x1?c12x2

学院： 班级： 姓名： 学号：

2012年3月

实验一 Bayes分类器的设计

一、 实验目的：

1. 对模式识别有一个初步的理解，能够根据自己的设计对贝叶斯决策理论算法有一个深刻地认识；

2. 理解二类分类器的设计原理。

二、 实验条件：

1. PC微机一台和MATLAB软件。

三、 实验原理：

最小风险贝叶斯决策可按下列步骤进行：

1. 在已知P( i)，P(X| i)，i 1, ,c及给出待识别的X的情况下，根据贝叶斯公式计算出后验概率：

P(X| i)

P(X| i)P( i)

c

P(X| )P( )

j

j

j 1

j 1, ,c

2. 利用计算出的后验概率及决策表，按下式计算出采取 i决策的条件风险：

R( i|X) ( i, j)P( j|X)

j 1

c

i 1, ,a

3. 对2中得到的a个条件风险值R( i|X)（i 1, ,a）进行比较，找出使条件风险最小的决策 k，即：

R( k|X) miRn( k|X)

i 1, ,c

，

则 k就是最小风险贝叶斯决策。

四、 实验内容：

（以下例为模板，自己输入实验数据）

假定某个局部区域细胞识别中正常（ 1）和非正常（ 2）两类先验概率分别为： 正常状态：P( 1)=0.9； 异常状态：P( 2)=0.1。

现有一系列待观察