模式识别实验报告-2012年3月

学院： 班级： 姓名： 学号：

2012年3月

实验一 Bayes分类器的设计

一、 实验目的：

1. 对模式识别有一个初步的理解，能够根据自己的设计对贝叶斯决策理论算法有一个深刻地认识；

2. 理解二类分类器的设计原理。

二、 实验条件：

1. PC微机一台和MATLAB软件。

三、 实验原理：

最小风险贝叶斯决策可按下列步骤进行：

1. 在已知P( i)，P(X| i)，i 1, ,c及给出待识别的X的情况下，根据贝叶斯公式计算出后验概率：

P(X| i)

P(X| i)P( i)

c

P(X| )P( )

j

j

j 1

j 1, ,c

2. 利用计算出的后验概率及决策表，按下式计算出采取 i决策的条件风险：

R( i|X) ( i, j)P( j|X)

j 1

c

i 1, ,a

3. 对2中得到的a个条件风险值R( i|X)（i 1, ,a）进行比较，找出使条件风险最小的决策 k，即：

R( k|X) miRn( k|X)

i 1, ,c

，

则 k就是最小风险贝叶斯决策。

四、 实验内容：

（以下例为模板，自己输入实验数据）

假定某个局部区域细胞识别中正常（ 1）和非正常（ 2）两类先验概率分别为： 正常状态：P( 1)=0.9； 异常状态：P( 2)=0.1。

现有一系列待观察的细胞，其观察值为x：

-3.9847 -3.5549 -1.2401 -0.9780 -0.7932 -2.8531 -2.7605 -3.7287 -3.5414 -2.2692 -3.4549 -3.0752 -3.9934 2.8792 -0.9780 0.7932 1.1882 3.0682 -1.5799 -1.4885 -0.7431 -0.4221 -1.1186 4.2532

P(x| 1)P(x| 2)类条件概率分布正态分布分别为（-2，0.25）（2,4）。决策表为 11 0( 11

表示

( i, j)

的简写)， 12=6, 21=1， 22=0。

试对观察的结果进行分类。

五、 实验程序及结果：

试验程序和曲线如下，分类结果在运行后的主程序中：

模式识别实验

1 0.9 0.8 0.7 0.6 0.5 0.4 0.3 0.2 0.1 0 -4 第一类的后验概率 第二类的后验概率

将此图改为自己的实验结果！

-3

-2

-1

0

1

2

3

4

5

实验二 基于Fisher准则的线性分类器设计

一、 实验目的：

1. 进一步了解分类器的设计概念，能够根据自己的设计对线性分类器有更深刻地认识；

2. 理解Fisher准则方法确定最佳线性分界面方法的原理，以及拉格朗日乘子求解的原理。

二、 实验条件：

1. PC微机一台和MATLAB软件。

三、 实验原理：

设有一个集合包含N个d维样本x1,x2, ,xN，其中N1个属于 1类，N2个属于 2类。线性判别函数的一般形式可表示成g(x) WTx w0,其中W (w1, ,wd)T。 根据Fisher选择投影方向W的原则，即使原样本向量在该方向上的投影能兼顾类间分布尽可能分开，类内样本投影尽可能密集的要求，用以评价投影方向W的函数为：

WTSbW

JF(W) T

WSwW

1

W* SW(m1 m2)T

其中：

1Nimi xj i 1,2 xj为Ni类中的第j个样本

Nij 1

Sw为类内离散度，定义为：Sw

T

(x m)(x m) j1ji i 1j 1

2

Ni

Sb为类间离散度，定义为：Sb (m1 m2)(m1 m2)T

上面的公式是使用Fisher准则求最佳法线向量的解，我们称这种形式的运算

1

为线性变换，其中(m1 m2)是一个向量，SW是SW的逆矩阵，如(m1 m2)是d维， 1

和SW都是d×d维，得到的W*也是一个d维的向量。 SW

向量W*就是使Fisher准则函数JF(W)达极大值的解，也就是按Fisher准则将d维X空间投影到一维Y空间的最佳投影方向，该向量W*的各分量值是对原

d维特征向量求加权和的权值。

以上讨论了线性判别函数加权向量W的确定方法，并讨论了使Fisher准则函

数极大的d维向量W*的计算方法，但是判别函数中的另一项w0尚未确定，一般可采用以下几种方法确定w0如

w W*T(m1 m2)0 2

W*T或者w(N1m1 N2m2)

0 N

1 N2或当P( 1)与P( 2)已知时可用

w [W*T(m1 m2)ln[P( 1)/P( 2)]02 NN] 1 2 2当w0确定之后，则可按以下规则分类，

W*TX w0 x 1

W*TX w0 x 2

四、 实验内容：

（以下例为模板，自己输入实验数据）

已知有两类数据 1和 2二者的概率已知P( 1)=0.6， 1中数据点的坐标对应一一如下：

x1 =0.2331 1.5207 0.6499 0.7757 1.0524 1.1974

0.2908 0.2518 0.6682 0.5622 0.9023 0.1333

-0.5431 0.9407 -0.2126 0.0507 -0.0810 0.7315 0.3345 1.0650 -0.0247 0.1043 0.3122 0.6655 0.5838 1.1653 1.2653 0.8137 -0.3399 0.5152

0.7226 -0.2015 0.4070 -0.1717 -1.0573 -0.2099

y1 =2.3385 2.1946 1.6730 1.6365 1.7844 2.0155

2.0681 2.1213 2.4797 1.5118 1.9692 1.8340 1.8704 2.2948 1.7714 2.3939 1.5648 1.9329 2.2027 2.4568 1.7523 1.6991 2.4883 1.7259 2.0466 2.0226 2.3757 1.7987 2.0828 2.0798

P( 2)=0.4。

1.9449 2.3801 2.2373 2.1614 1.9235 2.2604

z1 =0.5338 0.8514 1.0831 0.4164 1.1176 0.5536 0.6071 0.4439 0.4928 0.5901 1.0927 1.0756 1.0072 0.4272 0.4353 0.9869 0.4841 1.0992 1.0299 0.7127 1.0124 0.4576 0.8544 1.1275 0.7705 0.4129 1.0085 0.7676 0.8418 0.8784 0.9751 0.7840 0.4158 1.0315 0.7533 0.9548

2数据点的对应的三维坐标为:

x2 =1.4010 1.2301 2.0814 1.1655 1.3740 1.1829

1.7632 1.9739 2.4152 2.5890 2.8472 1.9539 1.2500 1.2864 1.2614 2.0071 2.1831 1.7909 1.3322 1.1466 1.7087 1.5920 2.9353 1.4664 2.9313 1.8349 1.8340 2.5096 2.7198 2.3148 2.0353 2.6030 1.2327 2.1465 1.5673 2.9414

y2 =1.0298 0.9611 0.9154 1.4901 0.8200 0.9399

1.1405 1.0678 0.8050 1.2889 1.4601 1.4334 0.7091 1.2942 1.3744 0.9387 1.2266 1.1833 0.8798 0.5592 0.5150 0.9983 0.9120 0.7126 1.2833 1.1029 1.2680 0.7140 1.2446 1.3392 1.1808 0.5503 1.4708 1.1435 0.7679 1.1288 z2 =0.6210 1.3656 0.5498 0.6708 0.8932 1.4342 0.9508 0.7324 0.5784 1.4943 1.0915 0.7644 1.2159 1.3049 1.1408 0.9398 0.6197 0.6603 1.3928 1.4084 0.6909 0.8400 0.5381 1.3729 0.7731 0.7319 1.3439 0.8142 0.9586 0.7379

0.7548 0.7393 0.6739 0.8651 1.3699 1.1458

数据的样本点分布如下图：

根据所得结果判断（1，1.5，0.6）(1.2，1.0，0.55)，(2.0，0.9，0.68)，(1.2，1.5，0.89)，（0.23，2.33，1.43），属于哪个类别，并画出数据分类相应的结果图，要求画出其在W上的投影。

五、 实验程序及结果：

模式识别实验

模式识别实验

第一类 第二类

第一类 第二类 10

1.5

5

1

将这三个图改为自己的实验结果！0.5 2.5 2 1.5 1 0.5 0 1 0.5 1.5 2

0

-5 2.5 2 1.5 1 0.5 0 1 0.5 1.5 2

将平面改为透明后的图形

实验总结：

本文来源：https://www.bwwdw.com/article/56li.html