机器学习6-支持向量机求解算法
2021-05-11 本文已影响0人
jiarf
上一讲中支持向量机的原问题转化为对偶问题
image.png
这一讲讲解如何求解这个对偶问题，同时基于对偶问题的支持向量机算法的同意流程
image.png
所以只需要知道核函数就会知道这个对偶问题的解了，会得到
image.png
更根据上面的式子
image.png
image.png
我们无需知道w的形式，可以通过核函数k（x1，x2）来算出
image.png
image.png
image.png
image.png
image.png
image.png
获得b之后，对于一个测试样本X，如何知道他的测试类别呢
image.png
image.png
image.png
image.png
这一结论被称为“核函数戏法”（kernel trick）
最后可以得到如下的判决标准
image.png
所以我们只知道核函数也可以知道对测试样本的判别
最后基于对偶问题的求解总结支持向量机训练和测试的流程，其中yi是标签只能取+1或者-1的值
image.png
接下来我们求解如下的优化问题，
image.png
求解ai再然后
image.png
一旦我们知道了
image.png
我们就完成了支持向量机的训练过程，
接下来是测试的过程
image.png
可以看到在这个过程中我们只用到了核函数
image.png
