矩阵向量求导

矩阵向量求导

  矩阵向量求导不过是一种方便的计算形式，用来保存一系列偏导结果的符号，具体形式如下(A(t)是矩阵，t是标量)：
$$A(t)=\left[\begin{array}{ccc}{a}_{11}(t)& a_{12}(t)& a_{13}(t)\\ a_{21}(t)& a_{22}(t)& a_{23}(t)\\ a_{31}(t)& a_{32}(t)& a_{33}(t)\end{array}\right]$$
$$\frac{\partial A(t)}{\partial t}=\left[\begin{array}{ccc}{a}_{11}^{\prime }(t)& a_{12}^{\prime }(t)& a_{13}^{\prime }(t)\\ a_{21}^{\prime }(t)& a_{22}^{\prime }(t)& a_{23}^{\prime }(t)\\ a_{31}^{\prime }(t)& a_{32}^{\prime }(t)& a_{33}^{\prime }(t)\end{array}\right]\text{\hspace{1em}(1)}$$
  这种矩阵向量求导直观来看就是把分散求导聚集起来，用一个符号一次性表示，没有什么复杂的地方，所以我在分类时把它分成了高等数学领域，这篇blog会介绍这种求导方式。$(1)$矩阵求导和下面的$(2)$微分方程并不一样(A是矩阵，u是向量)：
$$\frac{\partial u}{\partial t}=Au\text{\hspace{1em}(2)}$$
  $(2)$在矩阵论中用来求解微分方程，结果大体长这样：$u=e^{At}u(0)$。我们也比较容易区分这两种情况，$(1)$求导计算，$(2)$是微分方程，$(1)$中是对A求导，$(2)$中A是一个系数矩阵。关于$(2)$，我会写一个矩阵的专题单独介绍。

分类

  我们通过自变量和因变量来分类矩阵向量求导，自变量和因变量均可以是标量、向量或者矩阵，一共9种情况，见下图，但是向量与矩阵的两种情况，以及矩阵与矩阵的一种情况比较复杂，结果需要用张量(高维矩阵)表示，所以暂未讨论。

向量对标量求导

$$u(t)=[u_1(t),u_2(t),u_3(t)]$$

$$\frac{\partial u(t)}{\partial t}=[u_1^{\prime }(t),u_2^{\prime }(t),u_3^{\prime }(t)]$$
  或者
$$u(t)=[u_1(t),u_2(t),$$