模式识别最新研究动态

神经网络在特征提取中的应用

于大永

（郑州大学 郑州 450001）

[摘要] 本文提出了一种对非平稳信号进行特征提取及模式识别的方法: 根据多数信号是非平稳的特点，采用基于小波包分解能量的方法对信号的各频带进行分解，得到信号在不同频带内的能量分布特性．仅根据能量谱并不能完全区分不同类型信号，通过对信号高阶统计特性的分析，提取出高阶谱特征频率，结合这两种方法提取出的特征作为神经网络的输入向量进行模式识别。

关键词:高阶谱、高阶统计量、小波包、神经网络、特征识别 1．概述

机械故障诊断是以机械学为基础的一门综合技术。机械故障诊断的关键是如何从机械故障振动信号中提取故障特征,信号分析和处理是特征提取最常用的方法。机械故障振动信号本质上是非高斯、非平稳信号,近年来,为满足对机器故障进行早期检测、诊断的需要,非高斯、非平稳信号处理方法在机械故障诊断领域受到了广泛的关注。如何确实有效地结合振动信号自身特点,创新性的应用非高斯、非平稳信号处理理论解决机械故障诊断中的信号降噪、故障特征提取等问题是当前机械故障诊断领域迫切需要研究的重点课题之一。基于此，本文提出了一种对非平稳信号进行特征提取及模式识别的方法: 根据信号是非平稳的特点，采用基于小波包分

神经网络在特征提取中的应用

于大永

（郑州大学 郑州 450001）

[摘要] 本文提出了一种对非平稳信号进行特征提取及模式识别的方法: 根据多数信号是非平稳的特点，采用基于小波包分解能量的方法对信号的各频带进行分解，得到信号在不同频带内的能量分布特性．仅根据能量谱并不能完全区分不同类型信号，通过对信号高阶统计特性的分析，提取出高阶谱特征频率，结合这两种方法提取出的特征作为神经网络的输入向量进行模式识别。

关键词:高阶谱、高阶统计量、小波包、神经网络、特征识别 1．概述

机械故障诊断是以机械学为基础的一门综合技术。机械故障诊断的关键是如何从机械故障振动信号中提取故障特征,信号分析和处理是特征提取最常用的方法。机械故障振动信号本质上是非高斯、非平稳信号,近年来,为满足对机器故障进行早期检测、诊断的需要,非高斯、非平稳信号处理方法在机械故障诊断领域受到了广泛的关注。如何确实有效地结合振动信号自身特点,创新性的应用非高斯、非平稳信号处理理论解决机械故障诊断中的信号降噪、故障特征提取等问题是当前机械故障诊断领域迫切需要研究的重点课题之一。基于此，本文提出了一种对非平稳信号进行特征提取及模式识别的方法: 根据信号是非平稳的特点，采用基于小波包分

研究生课程考试试卷（课程论文部分）

（2012 —— 2013 学年 一 学期）

论文题目：利用特征提取方法来识别指纹

学生学号： 学生姓名：

专业名称： 计算机应用技术 课程名称： 模式识别 评阅成绩的教师签名： 评阅成绩时间： 评阅成绩分数：

2011年9月制

1

目录

摘要 .................................................................................................................................................. 1 关键词 ......................................................................

2.6给出K-均值算法的程序框图，编写程序，自选一组分别属于三类的三维模式样本，

并对它们进行聚类分析。

迭代次数=1随机选取k个样本作为初始聚类中心聚类数目大于样本个数YN输入聚类数目k得到样本矩阵的大小开始输入样本矩阵绘制样本数据的散点图输入错误，要求重新输入k

判断前后两次聚类中心是否变化NY计算各聚类中心的新向量值迭代次数+1输出迭代次数，聚类中心，聚类结果按最短距离原则分配各点计算各点到聚类中心的距离结束MATLAB程序代码

clear all; clc;

data=input('请输入样本数据矩阵：'); X=data(:,1); Y=data(:,2); figure(1);

plot(X,Y,'r*','LineWidth',3); axis([0 9 0 8]) xlabel('x');ylabel('y'); hold on; grid on; m=size(data,1); n=size(data,2); counter=0;

k=input('请输入聚类数目：'); if k>m

disp('输入的聚类数目过大，请输入正确的k值'); k=input('请输入聚类数目：'

《模式识别》试题答案（A卷）
（2007年秋季学期，学历教育合训本科生，理论考核部分，120分钟）

一、填空与选择填空（本题答案写在此试卷上，30分）
1、影响层次聚类算法结果的主要因素有（ 计算模式距离的测度、（聚类准则、类间距离门限、预定的类别数目））。
2、欧式距离具有（ 1、2 ）；马式距离具有（ 1、2、3、4 ）。
（1）平移不变性（2）旋转不变性（3）尺度缩放不变性（4）不受量纲影响的特性
3、线性判别函数的正负和数值大小的几何意义是（正（负）表示样本点位于判别界面法向量指向的正（负）半空间中；绝对值正比于样本点到判别界面的距离。）。
4、感知器算法 1 。
（1）只适用于线性可分的情况；（2）线性可分、不可分都适用。
5、积累势函数法较之于H-K算法的优点是（该方法可用于非线性可分情况（也可用于线性可分情况） ）；位势函数K(x,xk)与积累位势函数K(x)的关系为（）。
6、在统计模式分类问题中，聂曼-皮尔逊判决准则主要用于（ 某一种判决错误较另一种判决错误更为重要）情况；最小最大判决准则主要用于（ 先验概率未知的）情况。
7、"特征个数越多越有利于分类"这种说法正确吗？（ 错误 ）。特征选择的主要目的是（从n个特征中选出最有利于分

简答题

1. 什么是模式与模式识别

模式识别: 模式识别是研究用计算机来实现人类模式识别能力的一门学科。 模式:模式是一些供模仿用的、完美无缺的标本。 2. 模式识别系统的组成

信息获取，预处理，特征提取和选取，分类器设计，分类决策 3. 什么是后验概率？

系统在某个具体的模式样本X条件下位于某种类型的概率。、 4. 确定线性分类器的主要步骤

采集训练样本，构成训练样本集。样本应该具有典型性

确定一个准则J=J(w,x)，能反映分类器性能，且存在权值w*使得分类器性能最优 设计求解w的最优算法，得到解向量w* 5. 样本集推断总体概率分布的方法？ 参数估计

监督参数估计：样本所属类别及类条件总体概率密度函数的形式已知，某些参数未知 非监督参数估计：已知总体概率密度函数形式但未知样本类别，要推断某些参数

非参数估计：已知样本类别，未知总体概率密度函数形式，要求直接推断概率密度函数本身

6. 近邻法的主要思想

作为一种分段线性判别函数的极端情况，将各类中全部样本都作为代表点，这样的决策方法就是近邻法的基本思想。 7. 什么是K近邻法？

他是最近邻法的推广，取未知样本x的k个近邻，看这k个近邻中多数属于哪一类，就把x归为哪一类。

一、 填空与选择填空（本题答案写在此试卷上，30分）

1、模式识别系统的基本构成单元包括： 模式采集 、 特征提取与选择 和 模式分类 。

2、统计模式识别中描述模式的方法一般使用 特真矢量 ；句法模式识别中模式描述方法一般有 串 、 树 、 网 。

3、聚类分析算法属于 （1） ；判别域代数界面方程法属于 （3） 。

（1）无监督分类 (2)有监督分类 （3）统计模式识别方法（4）句法模式识别方法 4、若描述模式的特征量为0-1二值特征量，则一般采用 （4） 进行相似性度量。 （1）距离测度 （2）模糊测度 （3）相似测度 （4）匹配测度 5、 下列函数可以作为聚类分析中的准则函数的有 （1）（3）（4） 。

（1） （2） (3)

(4)

6、Fisher线性判别函数的求解过程是将N维特征矢量投影在 （2） 中进行 。 （1）二维空间 （2）一维空间 （3）N-1维空间

7、下列判别域界面方程法中只适用于线性可分情况的算法有 （1） ；线性可分

模式识别

Iris数据分类

一、实验简述

Iris以鸢尾花的特征作为数据来源，数据集包含150个样本，分为3类，3类分别为setosa，versicolor，virginica，每类50个样本，每个样本包含4个属性，这些属性变量测量植物的花朵，像萼片和花瓣长度等。本实验通过贝叶斯判别原理对三类样本进行两两分类。假设样本的分布服从正态分布。

二、实验原理

1、贝叶斯判别原理

首先讨论两类情况。用ω1，ω2表示样本所属类别，假设先验概率P(ω1),P(ω2)已知。这个假设是合理的，因为如果先验概率未知，可以从训练特征向量中估算出来。如果N是训练样本的总数，其中有N1，N2个样本分别属于ω1，ω2，则相应的先验概率为P(ω1)=N1/N, P(ω2)=N2/N。

另外，假设类条件概率密度函数P(x|ωi),i=1,2,…,n,是已知的参数，用来描述每一类特征向量的分布情况。如果类条件概率密度函数是未知的，则可以从训练数据集中估算出来。概率密度函数P(x|ωi)也指相对也x的ωi的似然函数。特征向量假定为k维空间中的任何值，密度函数P(x|ωi)就变成的概率，可以表示为P(x|ωi)。

P(ωi|x) = P(x|ωi)P(ωi)/P

模式识别实验讲义

目 录

MATLAB 基础 ...................................... 1 实验一 感知器算法实验 ............................ 6 实验二 模式聚类算法实验 .......................... 8 实验三 图像识别实验 ............ 错误！未定义书签。1

MATLAB 基础

1．矩阵定义

由m行n列构成的数组称为(m×n)阶矩阵。

用\方括号定义矩阵，其中方括号内\逗号或\空格号分隔矩阵列数值， \分号或\回车键分隔矩阵行数值。 例：a=[a11 a12 a13;a21 a22 a23]或a=[a11,a12,a13;a21,a22,a23]定义了一个2*3阶矩阵a。 a＝

a11 a12 a13 a21 a22 a23

aij可以为数值、变量、表达式或字符串，如为数值与变量得先赋值，表达式和变量可以以任何组合形式出现，字符串须每一行中的字母个数相等 ，调用时缺省状态按行顺序取字母,如a(1)为第一行第一个字母。

下标引用：

单下标方式：a(1)= a11 a(4)= a22 （以列的方式排列a11 a

模式识别考试资料总复习

1.

第一部分

1.1. 模式、模式识别的概念

广义地说，存在于时间和空间中可观察的物体，如果我们可以区别它们是否相同或是否相似，都可以称之为模式。模式所指的不是事物本身，而是从事物获得的信息，因此，模式往往表现为具有时间和空间分布的信息。

狭义的定义：模式是对感兴趣的客体的定量的或结构的描述；模式类是具有某些共同特性的模式的集合。

模式的直观特性: ",可观察性 ",可区分性 ",相似性

模式识别：将未知的事物或现象与各种模式进行比较，看它与哪一类模式最接近，从而判断出该事物或现象属于哪一类.

模式识别是研究一些自动技术，依靠这些技术，计算机自动地(或者人进行少量干涉)把待识模式分到各自的模式类中去。 1.2. 模式识别的研究

目的：利用计算机对物理对象进行分类，在错误概率最小的条件下，使识别的结果尽量与客观物体相符合。

“识别”就是对客观事物按其物理特征来进行分类。 1.3. 监督、非监督分类式

监督分类----将输入的“模式”归入已知的类别中。

非监督分类-----将输入的“模式”归入未知的类别

1.4. 模式识别的方法

", 模板匹配法 ", 统计方法 ", 神经网络方法 ", 结构方法(句法方法