凸集

凸集的定义为：

如果集合C中任意2个元素连线上的点也在集合C中，则C为凸集。

如下图：

常见的凸集：n维实数空间；一些范数约束形式的集合；仿射子空间；凸集的交集；n维半正定矩阵集。

凸函数

凸函数的定义：函数任意两点连线上的值大于对应自变量处的函数值

示意图如下：

常见的凸函数：指数函数族；非负对数函数；仿射函数；二次函数；常见的范数函数；凸函数非负加权的和等。

凸优化问题

凸优化问题（OPT）的定义：

目标函数是凸函数，变量所属集合是凸集合的优化问题。

目标函数是凸函数，变量的约束函数是凸函数（不等式约束时），或者是仿射函数（等式约束时）。

论文中的定义如下：

常见的凸优化问题：

1.线性规划（LP）

2.二次优化（QP）

3.二次约束的二次规划（QCQP）

4.半正定规划（SDP）

参考资料：

http://cs229.stanford.edu/section/cs229-cvxopt.pdf

http://blog.csdn.net/sunmenggmail/article/details/13998255