对偶 KKT

image.png
参考
1、零基础学SVM—Support Vector Machine(一)
2、优化问题中的对偶性理论

注意：
从最优解看待对偶和KKT
1、原始问题，转化成对偶问题，是为了更简单得到最优解
2、强对偶性，代表原始问题的最优解和对偶问题最优解相等
3、KKT，是满足强对偶性下，怎么求解最优解的一般公式

第一、二节中，从拉格朗日量出发，构造对偶函数，继而引入对偶问题和弱对偶性，然后讨论强对偶性的充分性条件，以及原问题与对偶问题间的联系。

弱对偶
强对偶
关系

第四节重点关注最优解满足的条件，包括松弛互补条件、KKT条件等。最后举了一个实例来说明KKT条件在凸优化问题中的作用。

KKT必要性
KKT必要性
KKT充分性