矩阵求导的分子布局

• 求导结果行数与分子相同，叫分子布局（Jacobian形式）
• 求导结果行数与分母相同，叫分母布局

李沐课程里用的分子布局

分子布局矩阵求导时，把标量看成1x1的矩阵，向量看成nx1的矩阵，矩阵求导结果维度=（分子维度不变，分母维度转置），然后去掉1维的（keepdims=false）。

参考 §

• 矩阵的导数运算