判别函数（七）势函数法

目的
用势函数的概念来确定判别函数和划分类别界面。
基本思想

假设要划分属于两种类别ω1和ω2的模式样本，这些样本可看成是分布在n维模式空间中的点xk。把属于ω1的点比拟为某种能源点，在点上，电位达到峰值。随着与该点距离的增大，电位分布迅速减小，即把样本xk附近空间x点上的电位分布，看成是一个势函数K(x, xk)。对于属于ω1的样本集群，其附近空间会形成一个“高地”，这些样本点所处的位置就是“山头”。同理，用电位的几何分布来看待属于ω2的模式样本，在其附近空间就形成“凹地”。只要在两类电位分布之间选择合适的等高线，就可以认为是模式分类的判别函数。

模式分类的判别函数可由分布在模式空间中的许多样本向量{xk, k=1,2,…且 }的势函数产生。任意一个样本所产生的势函数以K(x, xk)表征，则判别函数d(x)可由势函数序列K(x, x1)， K(x, x2)，…来构成，序列中的这些势函数相应于在训练过程中输入机器的训练模式样本x1，x2，…。在训练状态，模式样本逐个输入分类器，分类器就连续计算相应的势函数，在第k步迭代时的积累位势决定于在该步前所有的单独势函数的累加。以K(x)表示积累位势函数，若加入的训练样本xk+1是错误分类，则积累函数需要修改，若是正确分类，则不变。

从势函数可以看出，积累位势起着判别函数的作用，当xk+1属于ω1时，Kk(xk+1)>0；当xk+1属于ω2时，Kk(xk+1)<0，则积累位势不做任何修改就可用作判别函数。由于一个模式样本的错误分类可造成积累位势在训练时的变化，因此势函数算法提供了确定ω1和ω2两类判别函数的迭代过程。判别函数表达式：取d(x)=K(x)，则有：dk+1(x)= dk(x)+rk+1K(x, xk+1 )

判别函数产生逐步分析：
设初始势函数K0(x) = 0
第一步：加入第一个训练样本x1，则有

这里第一步积累势函数K1(x)描述了加入第一个样本时的边界划分。当样本属于ω1时，势函数为正；当样本属于ω2时，势函数为负。
第二步：加入第二个训练样本x2，则有
（i）若且K1(x2)>0，或且K1(x2)<0，则分类正确，此时K2(x) = K1(x)，即积累势函数不变。
（ii）若且K1(x2)<0，则

（iii）若且K1(x2)>0，则

以上（ii）、（iii）两种情况属于错分。假如x2处于K1(x)定义的边界的错误一侧，则当时，积累位势K2(x)要加K(x, x2)，当时，积累位势K2(x)要减K(x, x2)。
第K步：设Kk(x)为加入训练样本x1，x2，…，xk后的积累位势，则加入第(k+1)个样本时，Kk+1(x)决定如下：
（i）若且Kk(xk+1)>0，或且Kk(xk+1)<0，则分类正确，此时Kk+1(x) = Kk(x)，即积累位势不变。
（ii）若且Kk(xk+1)<0，则

（iii）若且Kk(xk+1)>0，则

因此，积累位势的迭代运算可写成：，rk+1为校正系数：

若从给定的训练样本集{x1, x2, …, xk, …}中去除不使积累位势发生变化的样本，即使Kj(xj+1)>0且，或Kj(xj+1)<0且的那些样本，则可得一简化的样本序列，它们完全是校正错误的样本。此时，上述迭代公式可归纳为：

其中

也就是说，由k+1个训练样本产生的积累位势，等于ω1类和ω2类两者中的校正错误样本的总位势之差。选择势函数的条件：一般来说，若两个n维向量x和xk的函数K(x, xk)同时满足下列三个条件，则可作为势函数。 K(x, xk)= K(xk, x)，并且当且仅当x=xk时达到最大值；当向量x与xk的距离趋于无穷时，K(x, xk)趋于零； K(x, xk)是光滑函数，且是x与xk之间距离的单调下降函数。

构成势函数的两种方式：

第一类势函数：可用对称的有限多项式展开，即：

其中{

}在模式定义域内为正交函数集。将这类势函数代入判别函数，有：

得迭代关系：

其中：

因此，积累位势可写成：，Ci可用迭代式求得。

第二类势函数：选择双变量x和xk的对称函数作为势函数，即K(x, xk) = K(xk, x)，并且它可展开成无穷级数，例如：

(a)

(b)

，α是正常数

(c)

用第二类势函数，当训练样本维数和数目都较高时，需要计算和存储的指数项较多。正因为势函数由许多新项组成，因此有很强的

分类能力。

判别函数（七）势函数法相关推荐

【模式识别与机器学习】——3.9势函数法：一种确定性的非线性分类方法
目的用势函数的概念来确定判别函数和划分类别界面. 基本思想假设要划分属于两种类别ω1和ω2的模式样本,这些样本可看成是分布在n维模式空间中的点xk. 把属于ω1的点比拟为某种能源点,在点上,电位达 ...
模式识别中利用二型势函数法求解非线性分类器的原理以及python代码实现
前言在学校的深度学习实验过程中,由于要求实现非线性分类器的势函数实验中给出的例程代码是matlab语言的(ps:自从电脑被偷了以后,新电脑没有装matlab),我便想到用python实现非线性分类器 ...
艾宾浩斯记忆表格excel_七天法表格(从下往上浏览，上面的是最近更新的。后改为五天表格)...
2020年9月10日更沉迷手机的同学买这个. 2020年8月23日更被湘潭大学录取了,就是专业不太好,大一努力转专业! 2020年7月24日更高三以来最好成绩呜呜呜,今年陕西高考一本线451分 ...
麦肯锡：解决问题的七步骤法
[麦肯锡:解决问题的七步骤法] ➊陈述问题,明确要解决的问题 ➋分解问题,利用逻辑树对问题进行分解 ➌淘汰非关键问题,使用漏斗法 ➍制定详细工作计划 ➎进行关键分析 ➏综合分析调查结果,并建立论证 ➐ ...
势函数法（一种确定性的非线性分类方法）
势函数的目的用势函数的概念来确定判别函数和划分类别界面. 基本思想 1.假设要划分属于两种类别ω1和ω2的模式样本,这些样本可看成是分布在n维模式空间中的点xkx_kxk. 2.把属于ω1的点比拟 ...
位势函数matlab,势函数分类的设计与SOM神经网络
第7题:势函数分类的设计与实现 1．势函数分类原理概述 1.1 势函数概念势函数法是利用势函数的概念确定非线性判别函数的方法.所谓势函数是由势能的概念引申而来的.比如,两类模式样本集在n维模式空间中 ...
实验二：势函数实验预习报告
实验目的用势函数的概念来确定判别函数和划分类别界面. 理论基础势函数法是非线性分类器中常用到的一种方法,它借用电场的概念,来解决模式分类问题.用势函数的概念来确定判别函数和划分类别界面.在势函数法 ...
四参数坐标转换c++_GPSRTK坐标转换及四参数、七参数适用条件
工程测量仪器已由经纬仪.全站仪过渡到GNSS(全球卫星导航系统),特别是公路行业,GPS-RTK作为GNSS的一种应用目前已十分普及.现阶段GPS-RTK以WGS-84 坐标系统为主流,所发布的星历参 ...
七参数坐标转换 matlab,利用三点法求解空间坐标系转换所需的七参数
同一个物体的点云在不同坐标系中的坐标表示不同,有时候需要将其进行转换到同一坐标系中进行处理,经典的方法为七参数法(7-parameters),用matlab实现如下: %PS.好久不用matlab了, ...

判别函数（七）势函数法

判别函数（七）势函数法相关推荐

最新文章

热门文章