Support Vector Machine(4):SMO算法
2024-10-07 14:02:39
经过上一篇的推导,我们的优化问题已经化为了如下等价形式:
我们在不考虑任何约束条件的情况下去想这个minimize的问题,可以将其抽象为:
SMO算法的思想是,每次迭代,只改变一个参数,而将n-1个参数固定住,循环往复只到达到我们期望。但在SVM的等式条件里,如果将n-1个参数都固定住了,也就相当于将n个参数都固定了,因为二者最终的加和为零,如下式:
So,我们优化两个参数,而固定住n-2个,我们这里选择前两个参数做优化。內积写为了K的形式得出如下等价式,其中将常量略去:
因为:
为了简化说明,我们记:
两侧同时乘以y1,得到:
将α1带回,即可得到α2的二项式:
对其求导置零,并且将下式带入(记为old),
可以得到:
至此,我们将新的α2带回,即可求出α1
循环往复,即可求得原始问题的最佳值。
最新文章
- EF:oracle的number类型映射为C#的boolean类型
- 【原】Github系列之三:开源iOS下 渐变颜色的进度条WGradientProgress
- 如何在Form++开源组态平台添加硬件采集接口
- java学习笔记--this 关键字的理解
- Unbuntu_14.04编译openjdk7
- 使用dedecms中常见错误提示及解决办法(一)
- tcpdump学习
- TFS服务器(微软源代码管理服务器)上彻底删除项目
- iPhone 6出现后,如何将一份设计稿支持多个尺寸?
- Jetty实战之 安装 运行 部署
- java创建目录与文件
- js判断元素滑动方向(上下左右)移动端
- 【NOIP2012】疫情传递
- 查看Linux下系统资源占用常用命令(top、free、uptime)
- MySQLSource-Flume
- 马士兵2string buffuer
- 关于sql链接超时的问题
- 《Linux内核分析》第四周:扒开系统调用的三层皮
- word如何让单页变横向
- jQuery动态的给页面中添加一条样式表的链接