--- title: Classification of 2-by-2 matrices tags: Linear algebra GA: G-77TT93X4N1 --- # Classification of 2-by-2 matrices > Jordan normal form 給定一個 $2\times 2$ 矩陣 $A$, 他的特徵多項式是個二次多項式, 定義為 $$ \tag{1} p(\lambda) = \text{det}(A-\lambda I). $$ 並且我們知道其首項係數為 $1$, $p(\lambda) = \lambda^2 + \cdots$, 因此一定可以因式分解成為 $$ \tag{2} p(\lambda) = (\lambda - \lambda_1)(\lambda - \lambda_2). $$ ## Lemma 首先我們證明說如果兩個 eigenvector 相對應的 eigenvalue 不同, 那他們兩個組起來一定線性獨立. **Lemma:** If $Av_1=\lambda_1 v_1$ and $Av_2=\lambda_2 v_2$, $v_1\ne 0$, $v_2\ne 0$ and $\lambda_1\ne \lambda_2$, then $\{v_1, v_2\}$ is linearly independent. > pf: Assume $c_1 v_1 + c_2 v_2 = 0$, then $c_1 Av_1 + c_2 Av_2 = 0$. So we have > > $$ > \tag{3} > c_1 \lambda_1 v_1 + c_2\lambda_2 v_2=0. > $$ > > We also know that (multiplying the original equation by $\lambda_i$) > > $$ > \begin{align} > \tag{4}c_1 \lambda_1 v_1 + c_2\lambda_1 v_2 &=0.\\ > \tag{5}c_1 \lambda_2 v_1 + c_2\lambda_2 v_2 &=0. > \end{align} > $$ > > (3), (4) gives $c_2=0$ and (3), (5) gives $c_1=0$. Therefore $\{v_1, v_2\}$ is linearly independent. ## Two distinct real roots 若 $\lambda_1$ 以及 $\lambda_2$ 都是實數並且不一樣, 那可以找到相對應的 eigenvectors $\{v_1, v_2\}$ 他們是線性獨立的. 因此我們有 $$ \tag{6} A [v_1, v_2] = [v_1, v_2] \begin{bmatrix} \lambda_1 & \\ & \lambda_2 \end{bmatrix}. $$ 若我們定義 $V = [v_1, v_2]$, 那就有 $$ \tag{7} A = V \begin{bmatrix} \lambda_1 & \\ & \lambda_2 \end{bmatrix} V^{-1}. $$ ***Remark:*** 因爲 $V$ 是方陣, 並且他的 columns 線性獨立, 因此一定有 $V^{-1}$. ## Two complex roots ### 對角化 若有一個 eigenvalue 是複數. 由於 $A$ 是實係數矩陣, $p(\lambda)$ 就會是實係數多項式, 他的虛根就會成對, 也就是 $\lambda_2 = \bar{\lambda}_1$, 其中上面那一橫代表共軛 (complex conjugate). 而若 $Av_1 = \lambda_1 v_1$, 那我們直接對他取 complex conjugate 得到 $A\bar{v}_1 = \bar{\lambda}_1\bar{v}_1 = \lambda_2\bar{v}_1$. 所以我們知道 $v_2 = \bar{v}_1$. 不過不管怎樣我們都有兩個不一樣的 eigenvalue 以及線性獨立的 eigenvectors, 我們就可以把矩陣寫成 (6) 以及 (7) 這種樣子, 就把矩陣對角化了. 只不過這樣子寫的 $\lambda_i$ 以及 $v_i$ 都是複數的也許不是很安心, 不過整個乘起來一定會是實係數矩陣. ### Real Jordan form 對於複數 eigenvalue 而言他的 Jordan form 就是 (7) 的中間那個對角矩陣了. 不過我們還可以再把它寫成另一種形式, 便成實係數的矩陣相乘, 這就是所謂的 "real Jordan form". 這裡的英文字 "real" 指的是實數的意思. 我們把 eigenvalue 以及 eigenvector 的實部虛部分開, 記為 $$ \lambda_1 = a + ib, \quad v_1 = v + iw. $$ 那這樣, 根據 $Av_1 = \lambda_1 v_1$, 他的實部虛部兩個方程式寫出來就會是 $$ \begin{align} Av &= av - bw,\\ Aw &= bv + aw. \end{align} $$ 而這寫成矩陣的樣子就是 $$ \tag{8} A [v, w] = [v, w] \begin{bmatrix} a & b \\ -b & a \end{bmatrix}. $$ 若我們定義 $V = [v, w]$, 那就有 $$ \tag{9} A = V \begin{bmatrix} a & b \\ -b & a \end{bmatrix} V^{-1}. $$ ***Remark:*** 我們知道 $v+iw$ 以及 $v-iw$ 是線性獨立的, 這樣可以推得 $\{v, w\}$ 也是線性獨立. > pf: 我們用反證法. 假設 $\{v, w\}$ 線性相依, 那就會有 $w = cv$. > > 這樣子就會有 $v+iw = (1+ci)v$ 以及 $v-iw = (1-ci)v$, 也就是 $v+iw$ 以及 $v-iw$ 都變成 $v$ 的倍數, 他們線性相依了. > > 因此與 $\{v+iw, v-iw\}$ linearly independent 的命題矛盾. 所以 $\{v, w\}$ 一定也是線性獨立. ## Double root > $\lambda_1 = \lambda_2$. ### Two linear independent eigenvectors 在重根的情形, 若我們能找到兩個線性獨立的 eigenvector, 那就可以直接寫成 (6) 以及 (7) 的樣子, 對角化就沒有任何問題了. ### Only one linear independent eigenvectors 若我們無法找到兩個線性獨立的 eigenvector, 那就至少有一個 $v_1$ 使得 $Av_1 = \lambda_1 v_1$. 而另一個就要找 generalized eigenvector. 那這個 generalized eigenvector 要滿足 $$ \tag{10} (A - \lambda_1 I)w = v_1. $$ 找到了之後我們就可以把兩個方程式寫下來 $$ \begin{align} Av_1 &= \lambda_1 v_1,\\ Aw &= v_1 + \lambda_1 w. \end{align} $$ 而這寫成矩陣的樣子就是 $$ \tag{11} A [v_1, w] = [v_1, w] \begin{bmatrix} \lambda_1 & 1 \\ 0 & \lambda_1 \end{bmatrix}. $$ 若我們定義 $V = [v_1, w]$, 那就有 $$ \tag{12} A = V \begin{bmatrix} \lambda_1 & 1 \\ 0 & \lambda_1 \end{bmatrix} V^{-1}. $$ ***Remark:*** 我們證明一下 $\{v_1, w\}$ is linearly independent. > pf: Assume $c_1 v_1 + c_2 w = 0$, then $c_1 Av_1 + c_2 Aw = 0$. So we have > > $$ > \tag{13} > c_1 \lambda_1 v_1 + c_2(v_1 + \lambda_1 w)=0. > $$ > > We also know that (multiplying the original equation by $\lambda_1$) > > $$ > \tag{14} > c_1 \lambda_1 v_1 + c_2\lambda_1 w =0. > $$ > > (13) - (14) gives $c_2=0$, and then plug-in the result back to (14) gives $c_1=0$. Therefore, $\{v_1, w\}$ is linearly independent.