模式识别演示几何分类法.ppt

(判别函数法)
(一)几何分类的基本概念
一个模式经某种数学变换后,映射为一特征向量,并
表示为特征空间的一个点。同一类的点构成点集,表
示一类oi。不同类的点集(oi,i-1.,2,,n)总是互相有
不同程度的分离。若能通过几何的方法,找出一种不
依赖于条件概率密度的分离函数,把特征空间划分为
对应于不同类别的子空间,便可实现模式分类。因此
把这种分类方法称为几何分类法,把这种分离函数称
为判别函数。从而,几何分类法也通常称为判别函数
法(如图9中的二类线性判别)
Er〕-a:L+哪;-2+M1
图
二类惧式的线性判别
判别函数可以是线性的或非线性的。利
用已知类别的训练集,通过统计方法,
可以求得判别函数的具体形式和参数,
然后用来判别未知样本属何类别。这种
方法虽属统计分类方法,但无需依赖于
条件分布概率的知识,因此在一些场合
下,比基于贝叶斯公式的概率分类法简
单
(二)线性判别函数与分类方法
先看二类情况下的判别函数。
如前图9,对特征向量Ⅹ在二维平面上
存在一直线方程形式的线性判别函数:
g(X)=wx1+w2x2+W3=0(89)
式中X1、Ⅹ2分别为二维平面坐标变量,
W1、W2、W3为方程的参数。图中空心
点与实心点构成两个模式集(o1、O2)。
()
将某一未知类别的样本X代入g(X),如为
正值,则它属于o1类;如为负值,则属
于o,类
0,X
=0,不可判别
<∈02
要进行模式分类,就要确定判别函数的
形式及其参数
第二种:每两类之间都可
以分别用判别平面分隔开,
即用oio两分法(如图
11)
这时,对R类模式来说,有R(R
g23(X)=
2个判别平面。判别函数形式为
g:(X)=wx
如果X属于oi类,则
gn(X)>0,Vj≠
(x)=0812(X)=0
由可见,当R=3时,每条边界只能
划分两类,而不能把某一类与其它
两类分开。
第三种:存在R个判别
函数
若
2()8(3)=Qg(g)=g2()=0
图12
8(X)>9(X)
≠l
g1(R)-g3()=0
则判定X∈o
Ex]=0
r
线性判别函数
以上介绍了线性判别函数的基本形式。归纳起来,可
写成一般表达式
g(Ⅹ=WX+Wo
(96)
式中X为d维特征向量,W为权向量,有
=(x
,Wo
W是常数,称为阈值权