深度学习

线性代数的本质——笔记4

2019-06-23  本文已影响86人  WinterPrince

前言

之前我们讲到了二维空间、三维空间下的线性变换,以及二维空间转换到三维空间的变换,同时在知道了基变换的基础上,今天我们开始学习二维空间到一维空间的线性变换——点积。

1.点积的定义

代数定义

二维空间中存在\vec{x}=\begin{bmatrix} a\\b \end{bmatrix}\vec{z}=\begin{bmatrix} c\\d \end{bmatrix} 两个向量,则它们的点积为如下实数:
\vec{x}\cdot{\vec{z}}=a\times c+b\times d
可推广到任意高维空间。

几何定义

二维空间中存在\vec{x}=\begin{bmatrix} a\\b \end{bmatrix}\vec{z}=\begin{bmatrix} c\\d \end{bmatrix}两个向量,其夹角为\theta(0<=\theta<=\pi),则其点积定义为如下实数:
\vec{x}\cdot{\vec{z}}=|\vec{x}|\times |\vec{z}|\times \cos{\theta}
注意几何定义只在2维,3维空间中有效。

2.为什么可以这样定义?

我们仔细观察下点积代数定义的运算形式,发现它跟
\begin{bmatrix}a&b\end{bmatrix} \begin{bmatrix}c\\d\end{bmatrix}这两个矩阵相乘的结果一样。都是
a\times c+b\times d

这其中是否存在巧合呢?我们继续往下探索。

从之前的笔记中我们已经知道了矩阵相乘就是对基向量应用线性变换。上述非方阵间的矩阵乘法是把一个2维向量转换到1维空间,变成1维向量了,如下图所示。

2维空间到1维空间的转换

我们来重现这一过程,尝试从中挖掘出一些有用信息。

2.1从向量的变换说起

假定现在有一个二维到一维的线性转换A=\begin{bmatrix} x&y \end{bmatrix},我们并不知道其元素的具体值,用xy来替代。现在我们想计算出变换到一维空间中的基向量xy。已知二维空间中的任意一个单位向量\vec{u}=\begin{bmatrix} u_{x}\\u_{y} \end{bmatrix},其中
(\sqrt {u_{x}^2+u_{y}^2}=1)

如下图所示:

计算变换后的基向量

我们以\vec{u}所在的直线为变换后的一维数轴,则把原来二维空间下的基向量\vec{i}=\begin{bmatrix} 1\\0 \end{bmatrix}\vec{j}=\begin{bmatrix}0\\1\end{bmatrix}变换为一维数轴上的某个数。

利用对称性原理可以很容易得出变换后的基向量x=u_xy=u_y,也就是图中的\vec{i}\vec{j}

此时任意向量\vec{z}和单位向量\vec{u}做点积==对\vec{z}做线性变换AA'=='\vec{u}(数值相等)

几何定义此时就很形象了,如下图:


点积的几何定义

在线性变换的前提下,二维向量要转换为一维数轴上的一个数,自然需要向一维数轴上投影,投影后一维数轴上的长度自然就是向量的模长\times夹角的余弦值。

上述的\vec{u}是单位向量,有先天的限制。如果\vec{u}不是单位向量,而是二维空间的任意向量呢?如下图:

二维空间中的另一个u

图中把整个二维空间拉伸了3倍,依然是线性变换,则原来的单位向量\vec{u}扩大了三倍,方向不变,原来的单位基向量也变成了原来的3倍,即\vec{i}=3u_{x}\vec{j}=3u_{y}。然后再压缩为一维数轴,即这个变换为A=\begin{bmatrix} 3u_{x}&3u_{y}\end{bmatrix}

空间任意一个向量 \begin{bmatrix} x\\y \end{bmatrix} 与其点积的结果就是\begin{bmatrix} 3u_{x}& 3u_{y} \end{bmatrix} \begin{bmatrix} x\\y \end{bmatrix},相当于对\begin{bmatrix} x\\y \end{bmatrix}进行了一个线性变换。

2.2 总结

说了这么多,我们来总结一下。

二维空间中的任意一个向量\vec{u},想要变换到一维空间中时,都要经过一个线性变换A,而A中的元素(变换后的基向量)就是向量\vec{u}的坐标。由此我们有了以下结论:

n维空间中的任意一个向量,一定有一个线性变换与其对应,并且线性变换(矩阵)的值就是这个向量的坐标。

因此点积的本质就是对n维空间的向量应用一个线性变换从而得到一个数。

3.参考

主要内容来源于b站up主@3Blue1Brown线性代数的本质

码字不易,觉得有帮助的话还请点个喜欢哦~

上一篇下一篇

猜你喜欢

热点阅读