卷积的理解
卷积
如何充分的理解卷积? 知乎卷积话题 其中解释的最好的是 palet的回答
卷积的公式
如何通俗易懂的理解这个公式呢?palet的回答 下面是对这个回答的自我总结。
对于 可以看做是
经过变换后的结果:
-
: 相当于对
轴进行了翻转
-
: 相当于
向左平移
个单位.
所以卷积的公式是计算 与 经过 翻转 再 **向左平移
** 个单位的 乘积 累加 的结果。
那么 经过这么一番操作究竟是为了做什么? 通过下面的例子来介绍。
一维卷积举例
假设 表示的是
时刻发生的信号,
是一个信号从产生经过
时间单位后的衰减系数。 注意
和
的
是不同的含义。 例如:
表示
时刻发生的信号,
表示经过
时间单位后衰减的结果,显然
是最大的, 因为
表示的是没有衰减。那么,看看在第5个时刻,
表示
时刻发生的信号, 在第
时刻的信号衰减因子
(因为 从
时刻发生,要经历
时间衰减), 第5时刻的信号强度就是
. 整理下就是
, 这个公式表示的含义就是: 从
时刻发生的信号, 经过了
个时间单位后的衰减系数是
,
时刻的信号强度就是
.
卷积示意图
当计算 的时候,
从
,
,
三个时刻发出了信号,
表示经过了几个时间单位,分别结果了
,
,
个时间单位, 所以有, 当
时刻的信号强度是将前面所有的信号加起来, 所以有
写成积分的形式就是
图像卷积举例
前面的卷积是一个参数的卷积而对于图像来说是空间上针对每一个点处的卷积,所以定义上就是二维的
对于图像来说是离散的表达方式。由于 是一个矩阵,比如
的矩阵, 那么对于
来说经过: 1. 沿
翻转,后再向左平移
个单位. 因为
是
的矩阵, 所以
, 所以对于
来说,仅仅计算的是也是
那一小块方阵。看看具体的例子:
那么就有
. 全部写下来就是:
很明确,但是回想在深度学习中的CNN,貌似没有进行翻转和平移?那是因为,在深度学习中 实际上是 是
经过翻转后的结果, 所以将
作为权重参数和直接使用
也就是 翻转后的结果是一回事,没有什么区别,为了简单就直接使用了
, 而实际上我们应该知道
是
翻转后的结果,这一本质。