ペケとジマの線形代数+ #8 行列の微分

2025年1月1日 23:56

登場人物

ペケ(聞き手)
理系，学部3年．
工学系の院試を控えている．

ジマ(話し手)
文系，ペケの先輩．
口が悪い．

ジマ：ペケくぅン．行列のスカラーでの微分を説明できるー？

ペケ：行列の線形性と微分の定義式から，

$$
\begin{aligned}
A'(x)
&=\lim_{h\rightarrow0}\frac{A(x+h)-A(x)}{h}\\
&=\lim_{h\rightarrow0}\frac{\big(a_{ij}(x+h)\big)_{m\times n}-\big(a_{ij}(x)\big)_{m\times n}}{h}\\
&=\lim_{h\rightarrow0}\frac{\big(a_{ij}(x+h)-a_{ij}(x)\big)_{m\times n}}{h}\\
&=\lim_{h\rightarrow0}\left(\frac{a_{ij}(x+h)-a_{ij}(x)}{h}\right)_{m\times n}\\
&=\left(\lim_{h\rightarrow0}\frac{a_{ij}(x+h)-a_{ij}(x)}{h}\right)_{m\times n}\\
&=\left(a_{ij}'\right)_{m\times n}\\
\end{aligned}
$$

という風に，各成分の微分になるんですか．

ジマ：Soー．行列式の微分は？

ペケ：さっきみたく成分を微分したヤツの行列式じゃないんスか？

ジマ：聞いてるくらいだから違うに決まってるだろカス！
めんどくさがらず計算してみろよなァー．

ペケ：$${n=2}$$のとき，チェーンルールより，

$$
\begin{aligned}
&\Big|\bm a_1 \ \ \bm a_2\Big|'\\
&=(a_{11}a_{22}-a_{12}a_{21})'\\
&=a_{11}'a_{22}+a_{11}a_{22}'-a_{12}'a_{21}-a_{12}a_{21}'\\
&=(a_{11}'a_{22}-a_{12}a_{21}')+(a_{11}a_{22}'-a_{12}'a_{21})\\
&=
\begin{vmatrix}
a_{11}'&a_{12}\\
a_{21}'&a_{22}
\end{vmatrix}
+\begin{vmatrix}
a_{11}&a_{12}'\\
a_{21}&a_{22}'
\end{vmatrix}\\
&=\Big|\bm a_1' \ \ \bm a_2\Big|+\Big|\bm a_1 \ \ \bm a_2'\Big|
\end{aligned}
$$

同様に$${n=3}$$のとき，$${n=2}$$の結果から，

$$
\begin{aligned}
&\Big|\bm a_1 \ \ \bm a_2 \ \ \bm a_3\Big|'\\
&=(a_{11}|\mathcal A_1|+a_{12}|\mathcal A_2|+a_{13}|\mathcal A_3|)'\\
&=a_{11}'|\mathcal A_1|+a_{12}'|\mathcal A_2|+a_{13}'|\mathcal A_3|\\
& \ \ \ \ +a_{11}|\mathcal A_1|'+a_{12}|\mathcal A_2|'+a_{13}|\mathcal A_3|'\\
&=\Big|\bm a_1' \ \ \bm a_2 \ \ \bm a_3\Big|\\
& \ \ \ \ +a_{11}|\mathcal A_1|'+a_{12}|\mathcal A_2|'+a_{13}|\mathcal A_3|'\\
&=\Big|\bm a_1' \ \ \bm a_2 \ \ \bm a_3\Big|
+\Big|\bm a_1 \ \ \bm a_2' \ \ \bm a_3\Big|
+\Big|\bm a_1 \ \ \bm a_2 \ \ \bm a_3'\Big|
\end{aligned}
$$

となるので，

$$
\begin{aligned}
\Big|\bm a_1 \ \ \cdots \ \ \bm a_n\Big|'
&=\sum_{i=1}^n\Big|\bm a_1 \ \ \cdots \ \ \bm a_i'\ \ \cdots\ \ \bm a_n\Big|
\end{aligned}
$$

が成り立ちそうですね．

ジマ：Soー．チェーンルールと行列式の定義の一つから，

$$
\begin{aligned}
&\Big|\bm a_1 \ \ \cdots \ \ \bm a_n\Big|'\\
&=\left(\sum_{i_1,\cdots,i_n=1}^n\varepsilon_{i_1\cdots i_n}a_1\cdots a_n\right)'\\
&=\sum_{i_1,\cdots,i_n=1}^n\varepsilon_{i_1\cdots i_n}(a_1'\cdots a_n+\cdots+a_1\cdots a_n')\\
&=\sum_{i_1,\cdots,i_n=1}^n\varepsilon_{i_1\cdots i_n}a_1'\cdots a_n\\
& \ \ \ \ +\cdots+\sum_{i_1,\cdots,i_n=1}^n\varepsilon_{i_1\cdots i_n}a_1\cdots a_n'\\
&=\sum_{j=1}^n\Big|\bm a_1 \ \ \cdots \ \ \bm a_j'\ \ \cdots\ \ \bm a_n\Big|
\end{aligned}
$$

と簡単に分かるな．

ペケ：あー確かに．行列式の微分は各列を微分したヤツらの和になるんですね．

ジマ：次も成り立つよなァー．

$$
\begin{aligned}
\frac{\det(A)'}{\det(A)}=\mathrm{tr}(A'A^{-1})
\end{aligned}
$$

ヤコビの公式というよォー．

ペケ：$${|A|'/|A|=\mathrm{tr}(A'/A)}$$と解釈すると，行列式の対数微分が行列の対数微分のトレースと等しいことを表しているように見えますね！
さっきの行列式の微分の公式を使うと，

$$
\begin{aligned}
\frac{|A|'}{|A|}
&=\frac{1}{|A|}\sum_{j=1}^n\Big|\bm a_1 \ \ \cdots \ \ \bm a_j'\ \ \cdots\ \ \bm a_n\Big| \\
&=\frac{1}{|A|}\sum_{j=1}^n\sum_{i=1}^n a_{ij}'\tilde a_{ij}\\

\end{aligned}
$$

．．．こっからどうやってトレースに持っていくんスかね？

ジマ：

$$
\begin{aligned}
&\frac{1}{|A|}\sum_{j=1}^n\sum_{i=1}^n a_{ij}'\tilde a_{ij}\\
&=\sum_{i=1}^n\sum_{j=1}^n a_{ij}'\frac{\tilde a_{ij}}{|A|}\\
\end{aligned}
$$

と解釈すれば，$${\tilde a_{ij}/|A|}$$は$${A^{-1}}$$の$${(j,i)}$$成分じゃねー？

ペケ：ということは，

$$
\begin{aligned}
&\sum_{i=1}^n\sum_{j=1}^n a_{ij}'\frac{\tilde a_{ij}}{|A|}\\
&=\sum_{i=1}^n\sum_{j=1}^n a_{ij}'a_{ji}^{-1}\\
\end{aligned}
$$

で，$${\sum_{k=1}^n a_{ik}'a_{kj}^{-1}}$$ってのは，$${A'A^{-1}}$$の$${(i,j)}$$成分だから，コレの対角和を考えると，

$$
\begin{aligned}
\frac{|A|'}{|A|}
&=\sum_{i=1}^n\sum_{j=1}^n a_{ij}'a_{ji}^{-1}\\
&=\sum_{i=1}^n(A'A^{-1})_{ii}\\
&=\mathrm{tr}(A'A^{-1})
\end{aligned}
$$

となるんすね．

ジマ：じゃ，最後に$${A\mapsto I+xA}$$として，$${x\rightarrow0}$$の極限を取ってみろ．

ペケ：はい．左辺は，

$$
\begin{aligned}
\lim_{x\rightarrow0}\frac{|I+xA|'}{|I+xA|}
&=\frac{|I+xA|'\Big|_{x=0}}{|I|}\\
&=|I+xA|'\Big|_{x=0}
\end{aligned}
$$

右辺は，

$$
\begin{aligned}
&\lim_{x\rightarrow0}\mathrm{tr}\left((I+xA)'(I+xA)^{-1}\right)\\
&=\mathrm{tr}\left(\lim_{x\rightarrow0}(A+xA')(I+xA)^{-1}\right)\\
&=\mathrm{tr}\left(AI^{-1}\right)\\
&=\mathrm{tr}\left(A\right)
\end{aligned}
$$

だから，$${|I+xA|'\Big|_{x=0}=\mathrm{tr}\left(A\right)}$$ですかね．
あれ，これって#1でやった公式じゃないですか．

ジマ：こういう示し方もあるんだNe～～．Soーー．