《深度学习》阅读笔记
2018-11-26 本文已影响0人
林子闲_5f12
chapter 2
2.4 线性相关和生成子空间
一组向量的生成子空间：原始向量线性组合后能到达的点的所组成的空间的集合
列向量的冗余称为线性相关，列向量线性相关的方阵称为奇异矩阵。
2.5 范数
范数常被用于衡量向量的大小。L2范数即机器学习中常用的MSE，但在原点处增长太缓慢。当0和非0元素间的差异非常重要时，使用L1范数。
衡量矩阵的大小：frobenius范数
2.6 特征分解
由矩阵的特征值定义可以推得
正定：所有特征值都是正值
2.7 SVD
每个实数矩阵都有SVD，但并不一定有特征值分解。
A = UDV⊤
:
