固有値問題
固有値問題とは、あるベクトルの線形変換が、元のベクトルのスカラー倍になるための条件を求める問題です。このスカラー倍の値を固有値と呼びます。
線型変換を $n\times n$ の正方行列 $A$ とすると、固有値 $\lambda$ とそれに対応する固有ベクトル ${\bf x}$ の関係は以下で表されます。
$$A{\bf x}=\lambda{\bf x} -①$$
これは単位行列 $I$ を使ってを書き換えると、
$$(A-\lambda I){\bf x}=0$$
この方程式が自明でない解をもつためには、以下の固有方程式が０である必要があります。
$$\Phi_A(\lambda)\equiv|A-\lambda I|=0$$
これは $n$ 次の代数方程式なので、重複を含めると $n$ 個の根が存在することになります。
$$\Phi_A(\lambda)=(\lambda-\lambda_1)(\lambda-\lambda_2)\cdots(\lambda-\lambda_n)=0$$
固有値
固有値について以下のことが成り立ちます。
- 行列 $A$ の行列式は、固有値の積で表される。
$$|A|=\lambda_1\lambda_2\cdots\lambda_n$$ - 行列 $A$ の対角成分の和（固有和）は、固有値の和で表される。
$$\mathrm{tr}A=\lambda_1+\lambda_2+\cdots+\lambda_n$$ - 逆行列 $A^{-1}$ が存在することと、行列式が０でない（$|A|\ne0$）ことと、全ての固有値が０でない（$\lambda_i\ne0$）ことは同値となる。
- 行列 $A$ が対象行列の場合、全ての固有値は実数になる。
１. を導く
行列式の性質より $|AB|=|BA|$ であるため、正則行列を $U$ とすると、
$$|U^{-1}AU|=|AUU^{-1}|=|A|$$
$A$ を対角化する行列を $U$ とすると、以上より対角化しても行列式は変わらないため、
$$|A|=|U^{-1}AU|=|\lambda I|=\lambda_1\lambda_2\cdots\lambda_n$$
２. を導く
固有和の性質として、$\mathrm{tr}(AB)=\mathrm{tr}(BA)$であるため、
$$\mathrm{tr}(U^{-1}AU)=\mathrm{tr}(AUU^{-1})=\mathrm{tr}A$$
$A$ を対角化する行列を $U$ とすると、以上より対角化しても固有和は変わらないため、
$$\mathrm{tr}A=\mathrm{tr}(U^{-1}AU)=\mathrm{tr}(\lambda I)=\lambda_1+\lambda_2+\cdots+\lambda_n$$
４. を導く
①の左から ${\bf x}$ の共役転置 ${\bf x}^*$ を掛けると、
$${\bf x}^*A{\bf x}={\bf x}^*\lambda{\bf x}=\lambda|x|^2 -(1)$$
①の共役転置を取り、右から ${\bf x}$ を掛けると、
$${\bf x}^*A={\bf x}^*\lambda^*$$$${\bf x}^*A{\bf x}={\bf x}^*\lambda^*{\bf x}=\lambda^*|x|^2 -(2)$$
(1) と (2) は等しいため、
$$(\lambda-\lambda^*)|x|^2=0$$
$|x|^2\ne0$ とすれば、$\lambda=\lambda^*$ が導かれます
固有ベクトル
固有ベクトルについて以下のことが成り立ちます。
- 行列 $A$ が実対称行列の場合、固有値は全て実数となり、その固有ベクトルは全て実数ベクトルとなる。
- 行列 $A$ が実対称行列の場合、異なる固有値に属する固有ベクトルは直交する。それらの固有ベクトルは、固有空間を作る。
- 各固有値に対応する大きさ１の固有ベクトルを ${\bf u}_i,$ とすると、このベクトルを並べた行列 $U=({\bf u}_1\cdots{\bf u}_n)$ は直交行列となる。
$$UU^t=U^tU＝I$$ - この直交行列 $U$ を用いて、行列 $A$ を対角化することができる。ここで、固有値 $\lambda_i$ を対角上に並べた行列を $\Lambda$ とする。
$$U^tAU=\Lambda$$
１. を導く
$A{\bf x}=\lambda{\bf x}$ として、左から ${\bf x}^{t*}$（転置複素共役）を掛けると、
$${\bf x}^{t*}A{\bf x}={\bf x}^{t*}(\lambda{\bf x})=\lambda{\bf x}^{t*}{\bf x}$$
この両辺の転置 ${\bf x}^tA^t{\bf x}^*=\lambda{\bf x}^t{\bf x}^*$ の複素共役をつくると、
$${\bf x}^{t*}A^{t*}{\bf x}={\bf x}^{t*}A{\bf x}=\lambda^*{\bf x}^{t*}{\bf x}$$
これらより、
$$\lambda{\bf x}^{t*}{\bf x}=\lambda^*{\bf x}^{t*}{\bf x}$$
${\bf x}\ne0$ であるから ${\bf x}^{t*}{\bf x}\gt0$ となり、$\lambda$ が実数（ $\lambda=\lambda^*$ ）であることが分かります。また、これより $A-\lambda I$ は実行列で $|A-\lambda I|=0$ であるから、以下の連立方程式を満たす実ベクトル ${\bf y}\ne0$ が存在します。
$$(A-\lambda I){\bf y}=0$$
２. を導く
$\lambda_1$ 、$\lambda_2$ を異なる固有値とすると、
$$A{\bf x}_1=\lambda_1{\bf x}_1$$$$A{\bf x}_2=\lambda_2{\bf x}_2$$
内積を取ると、
$$(A{\bf x}_1,{\bf x}_2)=\lambda_1({\bf x}_1,{\bf x}_2)$$
左辺を書き換えると、
$$(A{\bf x}_1,{\bf x}_2)=(A{\bf x}_1)^t{\bf x}_2={\bf x}_1^tA^t{\bf x}_2=({\bf x}_1,A{\bf x}_2)=\lambda_2({\bf x}_1,{\bf x}_2)$$
これらより、
$$\lambda_1({\bf x}_1,{\bf x}_2)=\lambda_2({\bf x}_1,{\bf x}_2)$$
$\lambda_1\ne\lambda_2$ で $({\bf x}_1,{\bf x}_2)=0$ あるから、これより ${\bf x}_1$ と ${\bf x}_2$ が直交することが分かります。
３. を導く
$n$ 個の固有ベクトル ${\bf x}_i$ で行列 $P=({\bf x}_1,\cdots,{\bf x}_n)$ を作ると、$i\ne j$ の場合 $({\bf x}_i,{\bf x}_j)=0$ であるから、
$$P^tP=\left(\begin{array}{ccc} ({\bf x}_1,{\bf x}_1) & \cdots & ({\bf x}_1,{\bf x}_n) \\
\vdots & \ddots & \vdots \\
({\bf x}_n,{\bf x}_1) & \cdots & ({\bf x}_n,{\bf x}_n) \end{array}\right)=\left(\begin{array}{ccc} |x_1|^2 & \cdots & 0 \\
\vdots & \ddots & \vdots \\
0 & \cdots & |x_n|^2 \end{array}\right)$$
これより大きさ１に規格化した固有ベクトル ${\bf u}_i$ で行列 $U=({\bf u}_1,\cdots,{\bf u}_n)$ を作ると、$U^tU=I$ より、$U$ は直交行列 $U^t=U^{-1}$ であることが分かります。
４. を導く
$n$ 個の固有値とそれに属する固有ベクトルについて、
$$A{\bf u}_1=\lambda_1{\bf u}_1$$$$\cdots$$$$A{\bf u}_n=\lambda_n{\bf u}_n$$
であるため、まとめて書くと、
$$A({\bf u}_1\cdots{\bf u}_n)=({\bf u}_1\cdots{\bf u}_n)
\begin{pmatrix}
\lambda_1 & & 0 \\
& \ddots & \\
0 & & \lambda_n
\end{pmatrix}=U\Lambda$$
この両辺の左から $U^{-1}$ を掛けると以下が得られます。
$$U^{-1}AU=\Lambda$$
