Optimization Notes

正定矩阵与海森矩阵

2018-07-24  本文已影响0人  万灵灵万

Hermitian Matrix:

复共轭对称方阵,即A=A^H,也就是a_{ij}=\overline {a_{ji}}

正定矩阵:

Hermitian matrix中的一种。设M是一个n* n对称矩阵,若M是正定的,当且仅当对所有非零实系数的向量zz^{T}Mz > 0

等价条件:

Mx=\lambda x
x^{T}Mx=x^{T}\lambda x > 0
因此,正定矩阵的特征值\lambda_{i}也应大于0.

Hessian Matrix:

一个多变量实值函数的二阶偏导数组成的方阵。

是否为对称阵:

如果f函数在区域D 内的每个二阶导数都是连续函数(其混合偏导数求导顺序没区别),那么f的海森矩阵在D区域内为对称矩阵。

应用:

判断驻点(一阶导数为0的点)为局部极值点或鞍点
n维情况下:
H为在驻点(x_0,y_0)n*n维对称阵。

  • H为正定矩阵,则该点为局部极小值点。
  • H为负定矩阵,则该点为局部极大值点。
  • H=0,则需要更高阶信息进行判断。
笔记
上一篇下一篇

猜你喜欢

热点阅读