机器学习|支持向量机(多类情况)
2021-07-05 本文已影响0人
jiarf
我们在之前讨论的问题都是二分类问题,比如
image.png
image.png
两类方法:
image.png
这里每一个向量机都是二分类问题
image.png
image.png
image.png
这种方法会导致训练样本不平衡的问题
image.png
右边的样本数远多于左边,这样可以采取第二种方法
image.png
对于某个测试样本X输入三个支持向量机中,分别获得对应的样本标签,
采用投票的方式获得最后结果,例如
image.png
这种投票机制的问题是有可能出现平票,例如
image.png
此时因为
image.png
image.png
image.png
image.png
image.png
image.png
k很大的话,造成的时间非常大
方法3:
image.png
但是这样做的前提条件是
image.png
比如我们可以通过
image.png
来解决差异显著,
image.png
![](https://img.haomeiwen.com/i24181854/5c49008f63ab0a7d.png)
![](https://img.haomeiwen.com/i24181854/74399664d9bd5081.png)
两类方法:
![](https://img.haomeiwen.com/i24181854/499616e594ec37ed.png)
![](https://img.haomeiwen.com/i24181854/373908022888912a.png)
![](https://img.haomeiwen.com/i24181854/e812c6a4541cc073.png)
![](https://img.haomeiwen.com/i24181854/4ad2d39abe8d9e13.png)
![](https://img.haomeiwen.com/i24181854/18b6f90ce222cd0e.png)
这种方法会导致训练样本不平衡的问题
![](https://img.haomeiwen.com/i24181854/aeec67b09de04ff8.png)
右边的样本数远多于左边,这样可以采取第二种方法
![](https://img.haomeiwen.com/i24181854/b64d33da9d176b7b.png)
![](https://img.haomeiwen.com/i24181854/52c599f1765c9644.png)
采用投票的方式获得最后结果,例如
![](https://img.haomeiwen.com/i24181854/824299ef55d678fc.png)
这种投票机制的问题是有可能出现平票,例如
![](https://img.haomeiwen.com/i24181854/ea5219903995b8fc.png)
此时因为
![](https://img.haomeiwen.com/i24181854/7a33048d6d38dc47.png)
![](https://img.haomeiwen.com/i24181854/a320f3f0b4e1ab76.png)
![](https://img.haomeiwen.com/i24181854/a8f6cd5a6a140537.png)
![](https://img.haomeiwen.com/i24181854/09d01e7f21581b5f.png)
![](https://img.haomeiwen.com/i24181854/66831f5fabb4f771.png)
![](https://img.haomeiwen.com/i24181854/ed81c5f245a0973c.png)
1的分数最高,所以此时结果为类别1,
![](https://img.haomeiwen.com/i24181854/c6955e851cee6ec3.png)
方法3:
![](https://img.haomeiwen.com/i24181854/537abda0e05d241d.png)
但是这样做的前提条件是
![](https://img.haomeiwen.com/i24181854/5fcabce3a298222f.png)
比如我们可以通过
![](https://img.haomeiwen.com/i24181854/7f9b01c9ba4bd5b9.png)
来解决差异显著,
总结
对于支持向量机这是最后一节课![](https://img.haomeiwen.com/i24181854/a6418aa9f747a3a0.png)
熟练掌握数学问题解决支持向量机分类问题