卷积BP 计算中的核翻转

author:张一极

date:2025年05月05日18:00:45

正文

先考虑前向传播

考虑二维输入特征图 $X\in {\mathbb{R}}^{H\times W}$$X \in \mathbb{R}^{H \times W}$ 和卷积核 $K\in {\mathbb{R}}^{k_H\times k_W}$$K \in \mathbb{R}^{k_H \times k_W}$，输出特征图 $Y$$Y$ 由如下卷积操作定义：

假设没有 padding，stride 为 $1$$1$。

损失函数与目标

定义一个损失函数 $L(Y)$$L(Y)$，我们的目标是计算关于输入 $X$$X$ 和卷积核 $K$$K$ 的梯度，其中输入 $X$$X$的梯度用来计算上一层梯度（输入 X就是上一层的输出 Y，这一层的$\frac{\partial L}{\partial X}$$\frac{\partial L}{\partial X}$实际上是上一层的$\frac{\partial L}{\partial Y}$$\frac{\partial L}{\partial Y}$）：

记 $\frac{\partial L}{\partial Y(i,j)}=\delta (i,j)$$\frac{\partial L}{\partial Y(i,j)} = \delta(i,j)$ 为从上层网络反传下来的梯度。

对卷积核 $K$$K$ 的梯度

这实际上就是用 $\delta$$\delta$ 在 X 上滑动，只不过：

• 滑动的是 $\delta$$\delta$
• 累加的是每个窗口上 $\delta (i,j)\cdot X(i+m,j+n)$$\delta(i,j) \cdot X(i+m, j+n)$
• 输出是大小为 k x k 的矩阵（即 K 的梯度）

即：

其中 $\star$$\star$ 表示 有效卷积（valid convolution），即对 $\delta$$\delta$ 进行卷积操作以求导。

对输入 $X$$X$ 的梯度

每个 $X(i,j)$$X(i,j)$ 影响多个 $Y(i^{\prime },j^{\prime })$$Y(i', j')$，即所有的 i 和 j 都满足：

所以：

可以理解为将 $\delta$$\delta$ 与卷积核 $K$$K$ 做 full convolution，并且需要对 $K$$K$ 做旋转（翻转 180°）（关于翻转，见附录 1）：

其中 $K^{\text{flip}}(u,v)=K(k_H-1-u,k_W-1-v)$$K^{\text{flip}}(u,v) = K(k_H - 1 - u, k_W - 1 - v)$。

总结

对卷积核的梯度：${\displaystyle \frac{\partial L}{\partial K(m,n)}=\sum _{i,j}\delta (i,j)\cdot X(i+m,j+n)}$$\displaystyle \frac{\partial L}{\partial K(m,n)} = \sum_{i,j} \delta(i,j) \cdot X(i+m, j+n)$，这里的卷积为无翻转卷积。 对输入（上层输出）的梯度：${\displaystyle \frac{\partial L}{\partial X(i,j)}=\sum _{m,n}\delta (i-m,j-n)\cdot K(m,n)}$$\displaystyle \frac{\partial L}{\partial X(i,j)} = \sum_{m,n} \delta(i - m, j - n) \cdot K(m,n)$，即 $\delta$$\delta$ 与 $K$$K$ 旋转后做全卷积（包含卷积翻转）。

附录 1：关于翻转的理解

我们希望推导输入 $X(i,j)$$X(i,j)$ 的梯度：

其中： $\delta (i,j)=\frac{\partial L}{\partial Y(i,j)}$$\delta(i,j) = \frac{\partial L}{\partial Y(i,j)}$ 是输出特征图对损失的梯度。 $K(u,v)$$K(u,v)$ 是卷积核的参数。 $k\times k$$k \times k$ 是卷积核大小。

回忆标准的二维卷积定义（无翻转）：

也就是 $A$$A$ 和 $B$$B$ 做

而在反向传播中，我们看到：

在这个求和过程中，可以看成从最后一个元素开始，往上往左的滑动窗口，此时等同于从第一个元素开始同于往下往右滑动窗口，比如：$\delta (3,3)$$\delta(3,3)$与$K(0,0)$$K(0,0)$计算得到最后的梯度，$\delta (2,3)$$\delta(2,3)$与$K(1,0)$$K(1,0)$计算得到最后的梯度，以此类推，如果是正向滑动，那就是$\delta (3,3)$$\delta(3,3)$与$K(3,3)$$K(3,3)$计算得到最后的梯度，所以要翻转卷积核，这个式子实际上相当于：

其中 $\star$$\star$ 表示 有效卷积（valid convolution），$\tilde{K}$$\widetilde{K}$ 是 $K$$K$ 翻转 180° 后的版本，即：

也就是说，虽然看上去我们在用 $(i-u,j-v)$$(i - u, j - v)$ 做索引，但实际上这和用翻转的 $K$$K$ 卷积 $\delta$$\delta$ 是等价的。 在前向传播中：我们是将 $K$$K$ 滑动到输入 $X$$X$ 上做点积。 在反向传播中：我们希望知道每个输入 $X(i,j)$$X(i,j)$ 对损失 $L$$L$ 的影响是多少，所以我们将误差项 $\delta$$\delta$ 卷积上翻转的 $K$$K$。

因此，我们可以将输入梯度的计算写成卷积的形式：

其中： $\delta$$\delta$ 是来自上一层的梯度。 $\tilde{K}$$\widetilde{K}$ 是卷积核 $K$$K$ 翻转 180°。 $\ast$$\ast$ 表示标准二维卷积。

以上