模式识别大作业设计分类器

模式识别大作业

学号：021151** 姓名：** 任课教师:张**

--fisher线性判别和近邻法

I. Fisher线性判别

A. fisher线性判别简述

在应用统计方法解决模式识别的问题时，一再碰到的问题之一是维数问题．在低维空间里解析上或计算上行得通的方法，在高维里往往行不通．因此，降低维数就成为处理实际问题的关键．

我们考虑把d维空间的样本投影到一条直线上，形成一维空间，即把维数压缩到一维．这样，必须找一个最好的，易于区分的投影线．这个投影变换就是我们求解的解向量w*．

B.fisher线性判别的降维和判别

1．线性投影与Fisher准则函数

各类在d维特征空间里的样本均值向量：

Mi?1nixk?Xi?xk，i?1,2 (1)

通过变换w映射到一维特征空间后，各类的平均值为：

mi?1niyk?Yi?yk，i?1,2 (2)

映射后，各类样本“类内离散度”定义为：

Si2?yk?Yi?(yk?mi)2，i?1,2 (3)

显然，我们希望在映射之后，两类的平均值之间的距离越大越好，而各类的样本类内离散度越小越好。因此，定义

我看的论文题目是

What Are We Looking For: Towards statistical modeling of saccadic eye movements and visual saliency 下面是从本论文中了解到的几点：

1.研究目标：通过统计分析的方法（建立一个基于统计方法的框架，模拟人眼扫视过程，进行视觉显著性分析），尝试揭示“图像的哪些部分吸引了视点”（这一问题同“什么属性吸引注意力相似，但更容易研究）。

2.基本思想：该文的基本假设（场景中具有超高斯性的部分，就是人眼视觉处理过程中尝试寻找的部分）从视觉注视点的统计分析得出。得出的基本假设为两点：a：显著性是非常稀疏的，也就是说大多数地方的显著值都是0，而只有图中的很小区域的显著值有很大的值；b：具有很大的显著值的区域的周围区域通常具有丰富结构信息。而超高斯(super-Gaussianity)分布刚好具有这两点特征。 具体分析过程如下：

通过分析人眼注视在自然图像的统计特性,我们发现人类的注意力是稀疏分布,通常部署位置和丰富的结构信息。作者首先直观的研究了两个眼注视数据集（图片上标有人眼注视点），发现了上面说到的两个有意思的现象：

1.显著性是稀疏的。2

人脸识别实验报告

---- 基于PCA和欧氏距离相似性测度 一、理论知识 1、PCA原理

主成分分析(PCA) 是一种基于代数特征的人脸识别方法,是一种基于全局特征的人脸识别方法,它基于K-L分解。基于主成分分析的人脸识别方法首次将人脸看作一个整体,特征提取由手工定义到利用统计学习自动获取是人脸识别方法的一个重要转变[1]。简单的说,它的

原理就是将一高维的向量,通过一个特殊的特征向量矩阵,投影到一个低维的向量空间中,表示为一个低维向量,并不会损失任何信息。即通过低维向量和特征向量矩阵,可以完全重构出所对应的原来高维向量。特征脸方法就是将包含人脸的图像区域看作是一种随机向量,因此,可以采用K-L变换获得其正交K-L基底。对应其中较大特征值的基底具有与人脸相似的形状,因此又称为特征脸。利用这些基底的线性组合可以描述、表达和逼近人脸图像,因此可以进行人脸识别与合成。识别过程就是将人脸图像映射到由特征脸张成的子空间上,比较其与己知人脸在特征空间中的位置,从而进行判别。

2、基于PCA的人脸识别方法

2.1 计算特征脸

设人脸图像f(x,y)为二维N×M灰度图像,用NM维向量R表示。人脸图像训练集为?Ri|i?1,2,...,P?,其中P为训练集中图

2.6给出K-均值算法的程序框图，编写程序，自选一组分别属于三类的三维模式样本，

并对它们进行聚类分析。

迭代次数=1随机选取k个样本作为初始聚类中心聚类数目大于样本个数YN输入聚类数目k得到样本矩阵的大小开始输入样本矩阵绘制样本数据的散点图输入错误，要求重新输入k

判断前后两次聚类中心是否变化NY计算各聚类中心的新向量值迭代次数+1输出迭代次数，聚类中心，聚类结果按最短距离原则分配各点计算各点到聚类中心的距离结束MATLAB程序代码

clear all; clc;

data=input('请输入样本数据矩阵：'); X=data(:,1); Y=data(:,2); figure(1);

plot(X,Y,'r*','LineWidth',3); axis([0 9 0 8]) xlabel('x');ylabel('y'); hold on; grid on; m=size(data,1); n=size(data,2); counter=0;

k=input('请输入聚类数目：'); if k>m

disp('输入的聚类数目过大，请输入正确的k值'); k=input('请输入聚类数目：'

《模式识别导论》期末大作业

2010-2011-2学期 第 3 组

学号 姓名 工作量(%) 08007204 李双 10 08007205 陈书瑜 35 08007218 王健勇 10 08007236 梁文卓 35 08007243 仲红月 10 I

《模式识别》大作业人脸识别方法一

---- 基于PCA和欧几里得距离判据的模板匹配分类器

一、 理论知识

1、主成分分析

主成分分析是把多个特征映射为少数几个综合特征的一种统计分析方法。在多特征的研究中，往往由于特征个数太多，且彼此之间存在着一定的相关性，因而使得所观测的数据在一定程度上有信息的重叠。当特征较多时，在高维空间中研究样本的分布规律就更麻烦。主成分分析采取一种降维的方法，找出几个综合因子来代表原来众多的特征，使这些综合因子尽可能地反映原来变量的信息，而且彼此之间互不相关，从而达到简化的目的。主成分的表示相当于把原来的特征进行坐标变换（乘以一个变换矩阵），得到相关性较小（严格来说是零）的综合因子。

1.1 问题的提出

一般来说，如果N个样品中的每个样品有n个特征x1,x2,?xn，经过主成分分析，将

它们综合成n综合变量，即

?y1?c11x1?c12x2

实验一 Bayes分类器设计

【实验目的】

对模式识别有一个初步的理解，能够根据自己的设计对贝叶斯决策理论算法有一个深刻地认识，理解二类分类器的设计原理。

【实验原理】

最小风险贝叶斯决策可按下列步骤进行：

(1)在已知P(?i)，P(X?i)，i=1,…，c及给出待识别的X的情况下，根据贝叶斯公式计算出后验概率： P(?iX)?P(X?i)P(?i)?P(X?)P(?)iij?1c j=1,…，x

(2)利用计算出的后验概率及决策表，按下面的公式计算出采取ai,i=1,…，a的条件风险

R(aiX)???(a,?ij?1cj)P(?jX),i=1,2,…,a

(3)对(2)中得到的a个条件风险值R(aiX),i=1,…，a进行比较，找出使其条件风险最小的决策ak，即

R?akx??minR?aix?

i?1,a则ak就是最小风险贝叶斯决策。

【实验内容】

假定某个局部区域细胞识别中正常（?1）和非正常（?2）两类先验概率分别为 正常状态：P（?1）=0.9； 异常状态：P（?2）=0.1。

现有一系列待观察的细胞，其观察值为x：

-3.9847 -3.5549 -1.2401 -0.9780 -0.

实验一 Bayes分类器设计

【实验目的】

对模式识别有一个初步的理解，能够根据自己的设计对贝叶斯决策理论算法有一个深刻地认识，理解二类分类器的设计原理。

【实验原理】

最小风险贝叶斯决策可按下列步骤进行：

(1)在已知P(?i)，P(X?i)，i=1,…，c及给出待识别的X的情况下，根据贝叶斯公式计算出后验概率： P(?iX)?P(X?i)P(?i)?P(X?)P(?)iij?1c j=1,…，x

(2)利用计算出的后验概率及决策表，按下面的公式计算出采取ai,i=1,…，a的条件风险

R(aiX)???(a,?ij?1cj)P(?jX),i=1,2,…,a

(3)对(2)中得到的a个条件风险值R(aiX),i=1,…，a进行比较，找出使其条件风险最小的决策ak，即

R?akx??minR?aix?

i?1,a则ak就是最小风险贝叶斯决策。

【实验内容】

假定某个局部区域细胞识别中正常（?1）和非正常（?2）两类先验概率分别为 正常状态：P（?1）=0.9； 异常状态：P（?2）=0.1。

现有一系列待观察的细胞，其观察值为x：

-3.9847 -3.5549 -1.2401 -0.9780 -0.

神经网络在特征提取中的应用

于大永

（郑州大学 郑州 450001）

[摘要] 本文提出了一种对非平稳信号进行特征提取及模式识别的方法: 根据多数信号是非平稳的特点，采用基于小波包分解能量的方法对信号的各频带进行分解，得到信号在不同频带内的能量分布特性．仅根据能量谱并不能完全区分不同类型信号，通过对信号高阶统计特性的分析，提取出高阶谱特征频率，结合这两种方法提取出的特征作为神经网络的输入向量进行模式识别。

关键词:高阶谱、高阶统计量、小波包、神经网络、特征识别 1．概述

机械故障诊断是以机械学为基础的一门综合技术。机械故障诊断的关键是如何从机械故障振动信号中提取故障特征,信号分析和处理是特征提取最常用的方法。机械故障振动信号本质上是非高斯、非平稳信号,近年来,为满足对机器故障进行早期检测、诊断的需要,非高斯、非平稳信号处理方法在机械故障诊断领域受到了广泛的关注。如何确实有效地结合振动信号自身特点,创新性的应用非高斯、非平稳信号处理理论解决机械故障诊断中的信号降噪、故障特征提取等问题是当前机械故障诊断领域迫切需要研究的重点课题之一。基于此，本文提出了一种对非平稳信号进行特征提取及模式识别的方法: 根据信号是非平稳的特点，采用基于小波包分

神经网络在特征提取中的应用

于大永

（郑州大学 郑州 450001）

[摘要] 本文提出了一种对非平稳信号进行特征提取及模式识别的方法: 根据多数信号是非平稳的特点，采用基于小波包分解能量的方法对信号的各频带进行分解，得到信号在不同频带内的能量分布特性．仅根据能量谱并不能完全区分不同类型信号，通过对信号高阶统计特性的分析，提取出高阶谱特征频率，结合这两种方法提取出的特征作为神经网络的输入向量进行模式识别。

关键词:高阶谱、高阶统计量、小波包、神经网络、特征识别 1．概述

机械故障诊断是以机械学为基础的一门综合技术。机械故障诊断的关键是如何从机械故障振动信号中提取故障特征,信号分析和处理是特征提取最常用的方法。机械故障振动信号本质上是非高斯、非平稳信号,近年来,为满足对机器故障进行早期检测、诊断的需要,非高斯、非平稳信号处理方法在机械故障诊断领域受到了广泛的关注。如何确实有效地结合振动信号自身特点,创新性的应用非高斯、非平稳信号处理理论解决机械故障诊断中的信号降噪、故障特征提取等问题是当前机械故障诊断领域迫切需要研究的重点课题之一。基于此，本文提出了一种对非平稳信号进行特征提取及模式识别的方法: 根据信号是非平稳的特点，采用基于小波包分

研究生课程考试试卷（课程论文部分）

（2012 —— 2013 学年 一 学期）

论文题目：利用特征提取方法来识别指纹

学生学号： 学生姓名：

专业名称： 计算机应用技术 课程名称： 模式识别 评阅成绩的教师签名： 评阅成绩时间： 评阅成绩分数：

2011年9月制

1

目录

摘要 .................................................................................................................................................. 1 关键词 ......................................................................