数量遗传或生统推荐系统遇到深度学习

线性代数的本质课程笔记-点积和叉积

2019-09-15  本文已影响0人  文哥的学习日记

1、点积

视频地址:https://www.bilibili.com/video/av6299284?from=search&seid=12903800853888635103

点积的标准观点

如果我们有两个维数相同的向量,他们的点积就是对应位置的数相乘,然后再相加:

从投影的角度看,要求两个向量v和w的点积,可以将向量w朝着过原点的向量v所在的直线进行投影,然后将w投影后的长度乘上向量v的长度(注意两个向量的的夹角)。

当两个向量的夹角小于90度时,点积后结果为正,如果两个向量垂直,点积结果为0,如果两个向量夹角大于90度,点积结果为负。

一个有趣的发现是,你把w投影到v上面,或者把v投影到w上面,结果是相同的。

但是你不觉得上面两个过程是完全不同的嘛?接下来就直观解释一下。

假设我们有两个长度完全相同的向量v和w,利用其对称性,无论将v投影到w上还是将w投影到v上,结果都是一样的:

如果我们把其中一个向量变为2倍,这种对称性被破坏了。假设我们把w投影到v上,此时投影的长度没变,但v的长度变为两倍,因此是原来结果的两倍。同样如果把v投影到w上,投影长度变为2倍,但w长度没变,所以结果也是原结果的两倍。所以对于两个向量的点积来说,无论选择哪个向量进行投影,结果都是一样的。

问题又来了,投影的思路和对位相乘再相加的思路,有什么联系呢?联想之前所学的线性变换过程,假设u是二维空间变换到一维空间后的基向量:

在第三讲中我们已经知道,一个2*2的矩阵,[[a,c],[b,d]]其实代表了一种线性变换,它把原来的[1,0]变换到[a,b]的位置,把原先空间中的[0,1]变换到[c,d]的位置。那么想要知道什么样的线性变换可以将二维空间中的基向量i和j变换到一维空间中的基向量u,只需要知道i和j变换后的位置即可。i和j变换后的位置,相当于对u所在的直线进行投影,利用对称性,可以得到相应的结果,如下图:

所以二维空间中的任意一个向量,通过上面的线性变换可以得到的一维向量。这个过程相当于对二维向量进行了投影。而根据矩阵乘法的计算方法,便可以将投影的计算方法和对位相乘再相加的方法联系起来。

上面的思路总结起来,就是无论何时你看到一个二维到一维的线性变换,那么应用这个线性变换和与这个向量点乘在计算上等价:

上面是数学中“对偶性”的一个有趣实例。

8、叉积

视频地址:
https://www.bilibili.com/video/av6341515/?spm_id_from=333.788.videocard.1
https://www.bilibili.com/video/av6371571/?spm_id_from=333.788.videocard.19

首先来看叉积的标准介绍。叉积是通过两个三维向量生成一个新的向量,新的向量满足下面三个条件:
1)垂直于这两个向量所张成的平面
2)其长度等于这两个向量所形成的四边形的面积
3)其方向满足右手定则

右手定则如下:

接下来看看叉积的具体计算,求行列式得到的是叉积后向量的长度,叉积得到的向量的坐标是下图中的三个“某些数”。

接下来,深入理解叉积的含义,我们通过线性变换的眼光来看叉积。我们首先定义一个三维到一维的线性变换:

先回顾一下行列式的定义,三维空间中,3 * 3矩阵的行列式是三个向量所形成的平行六面体的有向体积(绝对值是体积,但需要根据方向判定其正负号),但这并非真正的叉积,但很接近:

假设我们把第一个向量变为变量,输入一个向量(x,y,z),通过矩阵的行列式得到一个数,这个数就代表我们输入的向量与v和w所组成的平行六面体的有向体积:

为什么要这么定义呢?首先要指出的是,上面的函数是线性的。所以我们就可以将上面的行列式过程表示成一个变换过程:

同时,当线性变换是从多维到一维时,线性变换过程又可以表示为点积的形式:

即p的结果是:

所以,问题其实变换为了,找到一个向量p,使得p和某个向量(x,y,z)求点积的结果,等于对应的三维方阵行列式的值(即(x,y,z)和向量u、v所组成的平行六面体的有向体积)。

左边是一个点积,相当于把(x,y,z)向p上投影,然后投影长度和p的长度相乘:

而右边平行六面体的体积,可以拆解为底面积 * 高。底面积可以认为是v和w所组成的平行四边形的面积,高的话是(x,y,z)在垂直于v和w所张成的平面的方向上的分量的长度。

那么:

点积 = (x,y,z)在p上投影的长度 * p的长度
体积 = v和w所组成的平行四边形的面积 * (x,y,z)在垂直于v和w所张成的平面的方向上的分量的长度

根据二者相等,可以认为p的长度是v和w所组成的平行四边形的面积、p的方向垂直于v和w所张成的平面。这样我们的p就找到了,而p就是我们要找的叉积的结果,是不是很奇妙!

详细的过程还是推荐大家看一下视频,讲的真的非常好!

上一篇下一篇

猜你喜欢

热点阅读