支持向量机(Support Vector Machine,SVM)是Corinna Cortes和Vapnik等人在1995年首次提出的,对于小型样本集,非线性分类以及在高维空间的模式识别表现出了优于其他分类算法的特点,目前,随着研究者不断对SVM进行优化,使得SVM在函数拟合、图像检测与识别、机器学习等领域有着非常广泛的应用。本文是要解决复杂环境下的人脸检测,核心是判别图像中是人脸或者是非人脸,从本质上讲,这是一个简单的二分类问题。考虑到SVM在线性分类与非线性分类都有其自身的优势,本文的分类算法是基于SVM算法的基本思想。
在机器学习中,SVM是与相关的学习算法有关的监督学习模型,能够对样本集、模式识别进行分类和回归分析。支持向量机的工作原理是,给定一组训练样本,对每个样本进行标记,将这些样本分成两类,然后应用SVM训练算法对样本集建立一个模型,这个模型就是在非同类之间形成一个超平面函数,通过这个判别函数就可以判定新样本属于哪个类别。
这一节主要介绍设计线性SVM分类器的基本原理,通过对线性分类的认知,再扩展到高维不可分的情况。首先,我们定义训练集
|
|
(4-7)
|
这样的超平面不是唯一的,训练出来的分类函数可能收敛到任何一个可能的解,如图4-6,两个分类器都能对样本进行正确分类,但是使用其中的哪一个,需要进行综合的评估。
图 4-6 线性可分SVM
从图4-6(a)所示,两个分类函数都可以进行正确的分类,但是最终选择哪一个分类器?答案是明显的,我们会毫不犹豫的选择实线表示的分类器,理由是实线超平面对于两个类来说更均匀,使各自的样本具有更大的空间,这样可以保持更大的弹性,有更大的容错性。
通过上面的描述,对于分类器的选择,即选择与两类都有一定距离的超平面分类器,它是从Vapnik和Chervonkis[38]提供的数学公式演化而来。如何选择最终的超平面,首先就要对超平面进行量化,由图4-6(b)可知,控制超平面与两类的空间距离是由
点到平面的距离定义为等式(4-8),通过缩放
|
|
(4-8)
|
对于
1.存在一个间隔,使得
2.要求满足如下条件:
|
|
(4-9)
|
|
|
(4-10)
|
在(4-9)和(4-10)约束条件下,对每个特征向量
|
|
(4-11)
|
其中,约束条件为:
|
|
(4-12)
|
最小化(4-11),就可以保证分类器到两类的距离最大,这是满足一系列线性不等式条件的二次方程最优化问题。根据KKT条件,要让表达式(4-11)和(4-12)最小化的必要条件必须满足如下:
|
|
(4-13)
|
|
|
(4-14)
|
|
|
|
|
|
(4-15)
|
其中,
|
|
(4-16)
|
通过公式(4-13)和(4-14),最终得出:
|
|
(4-17)
|
需要注意的是,拉格朗日乘子只能大于等于0。因此,最优权重参数向量
|
|
(4-18)
|
最终得到的
|
|
(4-19)
|
在得到
本节主要对SVM做了详细介绍以及推理过程,由于SVM有众多优点,可以解决小样本情况下的机器学习,提高泛化性能,并且对于高维空间的特征向量具有很好的分类效果,同时SVM可以高维特征向量进行非线性的映射,解决非线性问题。但是,SVM同样存在其自身的缺陷,首先是对数据感的缺失,其次是对于非线性问题没有统一的解决方法,在解决此类问题时,需严谨的选择核函数来处理,增加了整体复杂性。本文属于典型的二分类问题,特征向量采用经典的HOG特征与LUV颜色特征的融合,通过融合之后的特征,在空间上属于高维性质,SVM对于解决此类问题具有较大的优势,因此,本文将采用SVM分类器作为基本分类器。
成品毕业设计 可以根据自己的要求 , 自行浏览选购, 可以参考是否符合自己要求,找到满意的成品毕业设计 , 直接发送成品编号联系发你网址的工作人员进行交易, 我们会从 QQ或者邮箱等方式发送毕业设计程序。
我们团队,可以根据用户的功能要求量 身定制毕业设计程序 (同样联系发你网址的 工作人员) , 需要用户提供详细的 , 功能要 求.开发技术要求(开发语言、开发工具、框 架等 ) .我们会根据用户毕业设计的难易程 度 ,工作量大小等,具体的给出一个报价,价格 协商一致过后,付下40%定金.我们开始开 发毕业设计, 做好过后先发送设计桌面演示录像 , 用户看后 满意付尾款, 我们再发程序源码压缩包.