線性代數 - Existence of Jordan Basis (Part 0)

• 線性代數 - Existence of Jordan Basis (Part 0)
  • 推論：「母空間」是「推廣版特徵空間」的直和
  • 觀察：當空間的特徵多項式只有一個根時
    • 證明：特徵多項式
    • 證明：循環的第 m 個以後通通都是 0
  • 引理：尾巴合起來線性獨立的循環，合起來也線性獨立
    • 證明：不相交
    • 證明：線性獨立
    • Step 1：前提與目標
    • Step 2：目標的等價條件
    • Step 3：循環基底再送一次線運 = 砍掉第一個元素
    • Step 4：限制定義域後是 W 上的線運
    • Step 5：滿足歸納法假設的前提
    • Step 6：套用歸納法假設
    • Step 7：R 是 Null Space 中的線性獨立集
    • Step 8：Dimension Theorem

推論：「母空間」是「推廣版特徵空間」的直和

假定

$V$ 是一個有限維向量空間，

$T\in \mathbb{L}(V)$。若

$T$ 的特徵多項式

$f(t)$ 可以徹底分解。即：

$f$ 可以表為以下的形式：

$$f(t)=\prod _{i=1}^m(t-{\lambda }_i{)}^{n_i}$$

且

${\lambda }_1\dots {\lambda }_m$ 為相異的特徵值。則下列兩項敘述成立：

1. V 的分解：

   $V$ 可分解為
   $\ker (T-{\lambda }_{i}I{)}^{n_i}$ 的直和，即：
   
   $$\boxed{{\displaystyle V=\underset{i=1}{\overset{m}{⨁}}\ker (T-\lambda I{)}^{n_i}}}$$

2. 每個空間都是 T 不變的子空間：對於任意

   ${\lambda }_i$，若令：
   $$\boxed{{\displaystyle K_{{\lambda }_i}=\ker (T-{\lambda }_{i}I{)}^{n_i}}}$$

   則：

   $$\boxed{{\displaystyle T(K_{{\lambda }_i})\subseteq K_{{\lambda }_i}}}$$

只要令：

$$f_i(t)=(t-{\lambda }_i{)}^{n_i}$$

然後就發現可以套用上一個定理：

1. 所有

   $f_i(t)$ 的形式都是：
   
   $$f_i(t)=(t-{\lambda }_i{)}^{n_i}$$

   其中

   ${\lambda }_i$ 是相異的特徵值。所以
   $f_i$ 之間彼此沒有公因式。

2. Caley-Hamilton Theorem 知道：

   $f(T)$ 一定是零運算：
   $$f(T)=T_0$$

   所以

   $f$ 一定是個滅絕多項式。

因此，引理的條件都滿足了。套用上去就得證。

觀察：當空間的特徵多項式只有一個根時

假定

$V$ 是一個有限維向量空間，且

$T\in \mathbb{L}(V)$。假定：

1. 存在以下形式的多項式

   $f\in \mathbb{P}(F)$：
   $$f(t)=(t-\lambda {)}^n$$

   使得

   $T$ 帶入之後為零運算：
   $$f(T)=0$$

2. $C$ 是一個由
   $x\in V$ 跟
   $(T-\lambda I)$形成的循環子空間：
   $$C=Z(x,T-\lambda I)$$

3. $C$ 的維度是
   $m$：
   $$\dim (C)=m$$

則下列三項敘述成立：

1. T 限制在 C 上的特徵多項式：假定

   $T_C$ 為
   $T$ 限制在
   $T$ 上的特徵多項式，則
   $T_C$ 的特徵多項式為：
   $$f_C(t)=(t-\lambda {)}^{m_i}$$

2. 循環的前 m 個向量是基底：下面這個集合是

   $C$ 的基底：
   $$\gamma =\{(T-\lambda I{)}^i(x)\mid 0\le i<m\}$$

3. 循環的第 m 個以後通通都是 0：

   $$(T-\lambda I{)}^j(x)=0\mathrm{\forall }j\ge m$$

這裡面的第 2. 在之前討論 Caley-Hamilton 的時候已經討論過了，這邊只是列出來方便看。

證明：特徵多項式

假定

$T_C$ 是「

$T$ 的定義域限制在限制在

$C$ 上」的函數，且令

$f_C(t)$ 為「

$T_C$ 的特徵多項式」。則

$f_C(t)$ 必定具有以下的形式：

$$f_C(t)=(t-\lambda {)}^k$$

這是因為：

$T$ 限制在一個

$T$-invaroant 的子空間上 (也就是這邊的

$C$) 時，他的特徵多項式一定會是原來版本的因式 。所以：

$$f_C(t)\mid f(t)$$

而

$f(t)$ 就是

$(t-\lambda {)}^n$ 所以

$f_C$ 如果是他的因式，所以這就是在說：

$$f_C(t)\mid (t-\lambda {)}^n$$

因此，

$f_C$ 必定具有以下形式：

$$f_C(t)=(t-\lambda {)}^k$$

另外一方面，

$f_C$ 的維度要與所在空間的維度一樣多 。所以唯一的可能就是

$k$ 跟

$m$ 一樣：

$$k=m$$

所以，

$T_C$ 的特徵多項式

$f_C$ 就是：

$$\boxed{{\displaystyle f_C(t)=(t-\lambda {)}^m}}$$

證明：循環的第 m 個以後通通都是 0

這是用上面的結論配上 Caley-Hamilton 得來的。因為現在已經知道

$T_C$ 的特徵多項式

$f_C(t)$ 是：

$$f_C(t)=(t-\lambda {)}^m$$

所以由 Caley-Hamilton 定理知道：對於任意

$x\in C$，帶進下面這個東西之後，一定會是

$0$：

$$(T_C-\lambda I_C{)}^m(x)=0$$

其中，

$I_C$ 是限制在

$C$ 的單位運算。由限制定義域的定義知道：對於任意

$x\in C$，

$T_C$，帶進去限制前跟限制後的版本，結果是一樣的：

$$\begin{array}{rl}{T}_C(x)& =T(x)\\ I_C(x)& =I(x)\end{array}$$

所以對於任意

$x\in C$，可以把上面的結果掉換成限制前的函數：

$$(T-\lambda I{)}^m(x)=0$$

既然被送進

$(T-\lambda I)$

$m$ 次之後是

$0$，送進去任何比

$m$ 還要多次的結果，當然也還是

$0$。更精確地說：假定

$i=m+r$，其中

$r\ge 0$，則：

$$\begin{array}{rl}& (T-\lambda I{)}^{m+r}(x)\\ & =(T-\lambda I{)}^r\underset{0}{\underbrace{(T-\lambda I{)}^m(x)}}=0\end{array}$$

引理：尾巴合起來線性獨立的循環，合起來也線性獨立

假定

$V$ 是一個有限維向量空間，且

$T\in \mathbb{L}(V)$。假定：

$V$ 是某個推廣的特徵空間。即：

$$V=\ker (T-\lambda I{)}^n$$

且令：

1. $C_1\dots C_r$ 是由
   $x_1\dots x_r$ 形成的循環子空間，即：
   $$C_i=C(T-\lambda I,x_i)$$

2. ${\gamma }_i$ 是
   $C_i$ 的基底。其中
   ${\gamma }_i$ 具有以下形式：
   $${\gamma }_i=⟨(T-\lambda I{)}^j(x_i){⟩}_{j=0}^{m_i-1}$$

   且

   $m_i$ 是
   $C_i$ 的維度

3. $R$ 是每個
   ${\gamma }_1\dots {\gamma }_r$ 的「最後一個非零」元素形成的有序集合：
   $$R=⟨(T-\lambda I{)}^{m_i-1}(x_i){⟩}_{i=1}^r$$

假定

$R$ 是個線性獨立的集合，那麼下列兩項敘述成立：

1. 所有

   ${\gamma }_i$ 不相交：
   $$({\gamma }_i\cap {\gamma }_j)=\varphi \mathrm{\forall }i\ne j$$

2. 所有

   ${\gamma }_i$ 的聯集也線性獨立：
   $$\underset{i=1}{\overset{r}{⨆}}{\gamma }_i\text{ is L.I.}$$

證明：不相交

假定他們相交，也就是存在

$x$，使得：

$$x\in ({\gamma }_i\cap {\gamma }_j)$$

因為這時：

$$K=\ker (T-\lambda I{)}^n$$

所以，存在一個最小的

$\ell$，使得：

$$(T-\lambda I{)}^{\ell }(x)=0$$

這時候往前找一個：

$$\underset{x^{\prime }}{\underbrace{(T-\lambda I{)}^{\ell -1}(x)}}\ne 0$$

依照

${\gamma }_i$ 跟

${\gamma }_j$ 的定義，這個

$x^{\prime }$ 會同時在

${\beta }_i$ 跟

${\beta }_j$ 裡面。而且因為他滿足：

$$(T-\lambda I)(x^{\prime })=0$$

所以他會被

$R$ 收進去兩次：一次是在

${\gamma }_i$ 時，另外一次是

${\gamma }_j$ 時。這就表示

$R$ 這個線性獨立集中，有重複的元素，因此就矛盾了。

證明：線性獨立

對

$|\gamma |$ 做歸納。

$\gamma$ 是空集合顯然成立，因為空集合線性獨立，一堆空集合聯集起來還是空集合，所以也線性獨立。

假定

$|\gamma |$ 是

$1$，那這整個集合中根本只有一個向量，假定這個向量叫

$v$。這個

$v$ 必定來自某個

${\gamma }_i$，不失一般性假定他來自

${\gamma }_1$。既然整個

$\gamma$ 只有一個元素，所以那個元素必定來自

${\gamma }_1$。因此：

$$\gamma ={\gamma }_1=\{v\}$$

前提又說：

${\gamma }_1$ 是某個循環子空間的基底，也就是

$\{v\}$ 是某個循環子空間的基底。

${\gamma }_1$ 是基底，那就線性獨立。可是

$\gamma$ 跟

${\gamma }_1$ 一樣，所以

$\gamma$ 就線性獨立。

Step 1：前提與目標

現在考慮

$|\gamma |=n$ 的狀況。也就是已知：

1. 每個

   ${\gamma }_i$ 長得像下面這樣：
   $${\gamma }_i=⟨x_i,(T-\lambda I)(x_i)\dots (T-\lambda I{)}^{m_i-1}(x_i)⟩$$

2. 而且下面這個集合是線性獨立的：

   $$R=⟨(T-\lambda I{)}^{m_i-1}(x_i){⟩}_{i=1}^r$$

目標是要證明：所有的

${\gamma }_i$ 聯集起來，會是個線性獨立的集合。也就是下面這個集合是線性獨立的：

$$\gamma =\underset{i=1}{\overset{r}{⨆}}{\gamma }_i$$

Step 2：目標的等價條件

為了方便，令

$W$ 為

$\gamma$ span 出來的空間：

$$W=\mathrm{span}\gamma$$

現在的目標是這樣：如果可以證明

$W$ 的維度，跟

$\gamma$ 的數目一樣多，那麼

$\gamma$ 就一定是

$W$ 的基底。既然是基底，那麼就一定線性獨立，所以就證明完了。所以現在的目標就是：

$$\dim W=|\gamma |$$

不過，因為

$\gamma$ 可以展出

$W$，所以立刻就有：

$$\dim W\le |\gamma |$$

因此，現在只要可以再證明：

$$\boxed{{\displaystyle \dim W\ge |\gamma |}}$$

兩個合起來，就會有

$\dim W=|\gamma |$ 了。因此目標就是證明他。而證明的方法是用 Dimension Theorem，而那個線性運算是「把

$(T-\lambda I)$ 限制在

$W$ 上」

Step 3：循環基底再送一次線運 = 砍掉第一個元素

要限制在

$W$ 上之後仍然是個線性運算，就要先證明

$W$ 是

$(T-\lambda I)$-invariant。也就是要證明：

$$(T-\lambda I)(W)\subseteq W$$

這件事情可以從「每個

${\gamma }_i$ 都是循環基底」看出來。因為如果「每個

${\gamma }_i$ 都多送進

$(T-\lambda I)$ 一次得到的集合」能展出來的範圍，跟「把

${\gamma }_i$ 的第一個向量砍掉」一樣：

$$\begin{array}{rl}& (T-\lambda I)({\gamma }_i)=\\ & ⟨\underset{={\gamma }_i\setminus \{x_i\}}{\underbrace{(T-\lambda I)(x_i)\dots (T-\lambda I{)}^{m_i-1}(x_i)}},\underset{0}{\underbrace{(T-\lambda I{)}^{m_i}(x_i)}}⟩\end{array}$$

為了方便，就令「

${\gamma }_i$ 砍掉第一個元素」得到的集合叫做

${\gamma }_i^{\prime }$：

$${\gamma }_i^{\prime }={\gamma }_i\setminus \{x_i\}$$

Step 4：限制定義域後是 W 上的線運

由上面的觀察可以進一步得知：

$(T-\lambda I)(\gamma )$ 就是「

$\gamma$ 除掉所有的

$x_i$，再多一個

$0$」：

$$(T-\lambda I)(\gamma )=\underset{{\gamma }^{\prime }}{\overset{{\gamma }_i^{\prime }}{\underbrace{\underset{i=1}{\overset{r}{⨆}}\overbrace{{\gamma }_i\setminus \{x_i\}}}}}\cup \{0\}$$

為了方便，就令後面這個東西叫做

${\gamma }^{\prime }$：

$${\gamma }^{\prime }=\underset{i=1}{\overset{r}{⨆}}\stackrel{{\gamma }_i^{\prime }}{\overbrace{{\gamma }_i\setminus \{x_i\}}}$$

很顯然地，

${\gamma }^{\prime }$ 會被包在

$\gamma$ 中。所以，

$T(\gamma )$ 其實就是下面這個東西：

$$(T-\lambda I)(\gamma )=\underset{\subset \gamma }{\underbrace{{\gamma }^{\prime }}}\cup \{0\}$$

既然如此，

$(T-\lambda I)(\gamma )$ 展出來的範圍，就會被包含在

$\gamma$ 展出來的範圍裡面：

$$\text{span }(T-\lambda I)(\gamma )\subseteq \text{span }\gamma$$

接下來 利用 span 跟線性轉換可以互換的性質，把上式的 span 跟

$(T-\lambda I)$ 對調。就會發現

$W$ 是

$(T-\lambda I)$-invariant：

$$(T-\lambda I)(\underset{W}{\underbrace{\mathrm{span}(\gamma ))}}\subseteq \underset{W}{\underbrace{\mathrm{span}\gamma }}$$

因此，現在就可以放心的把

$(T-\lambda I)$ 限制在

$W$ 上，值域也不會跑出

$W$。換句話說：「

$(T-\lambda I)$ 限制在

$W$ 上得到的線性轉換，會是個

$W$ 上的線性運算」。

Step 5：滿足歸納法假設的前提

因為

${\gamma }^{\prime }$ 的數目比

$\gamma$ 小了，所以接下來的目標是對

${\gamma }^{\prime }$ 使用歸納法假設，說他是個線性獨立的集合。在這之前，要先確認他滿足前提：

1. 循環子空間：剛剛是找

   $x_1\dots x_r$ 用
   $(T-\lambda I)$ 生成的每個循環子空間。現在則是在
   $W$ 上，找：
   $$(T-\lambda I)(x_1)\dots (T-\lambda I)(x_r)$$

   用

   $(T-\lambda I{)}_W$ 生出的循環子空間。令這些
   $W$ 上的循環子空間為
   $C_i^{\prime }$：
   $$C_i^{\prime }=C((T-\lambda I{)}_W,(T-\lambda I)(x_i))$$

2. 循環子空間的基底：每一個

   $C_i^{\prime }$ 的基底都是：
   $${\gamma }_i^{\prime }=({\gamma }_i\setminus x_i)$$

3. 每個

   ${\gamma }_i^{\prime }$ 「最後一個元素」形成的集合：假定這個集合叫做
   $R^{\prime }$。因為
   ${\gamma }_i^{\prime }$ 是
   ${\gamma }_i$ 砍掉第一個元素得到的集合，所以要麻 1)
   ${\gamma }_i^{\prime }$ 變成空的，沒有「最後一個」元素; 要麻就是 2)
   ${\gamma }_i^{\prime }$ 還有剩東西，這就表示被砍掉的不是最後一個元素。所以「所有
   ${\gamma }^{\prime }$ 最後一個元素形成的集合」
   $R^{\prime }$ 就會是個
   $R$ 的子集：
   $$R^{\prime }\subseteq R$$

最後，

${\gamma }^{\prime }$ 是

$\gamma$ 砍掉

$x_1\dots x_r$ 的結果，所以

${\gamma }^{\prime }$ 中的元素數目就會嚴格地比

$\gamma$ 小：

$$|{\gamma }^{\prime }|<|\gamma |$$

因此，就可以套用歸納法的假設了。

Step 6：套用歸納法假設

套用歸納法假設，知道

${\gamma }^{\prime }$ 中的元素通通線性獨立。而且前面也推論：

${\gamma }^{\prime }$ 可以展出

$(T-\lambda I)(W)$。由限制定義域的定義知道：這個空間跟

$(T-\lambda I{)}_W(W)$ 根本一樣：

$$(T-\lambda I)(W)=(T-\lambda I{)}_W(W)$$

既然

${\gamma }^{\prime }$ 線性獨立，又可以展出所在的空間，因此他就是

$(T-\lambda I{)}_W(W)$ 的基底。所以就知道：

$(T-\lambda I{)}_W(W)$ 的維度就是

${\gamma }^{\prime }$ 的數量，也就是：

$$\underset{=|{\gamma }^{\prime }|}{\underbrace{\dim (T-\lambda I{)}_W(W)}}=|\gamma |-r(1)$$

Step 7：R 是 Null Space 中的線性獨立集

看完

$(T-\lambda I{)}_W$ 的值域，接下來看看他的 null space。而這跟

$R$ 有關，因為

1. $R$ 中的元素通通在
   $W$ 中：因為
   $R$ 的元素都是
   ${\gamma }_i$ 中找來的，而每個
   ${\gamma }_i$ 都包含在
   $W$，也就是
   $\text{span }\gamma$ 中。
2. $R$ 中的元素通通線性獨立：這是前提。
3. $R$ 中的元素，都會滿足「再丟進一次
   $(T-\lambda I{)}_W$ 就會變成
   $0$」：這也是前提。
4. $R$ 中有
   $r$ 個元素：因為
   $R$ 是從每個
   $C_i$ 的循環基底
   ${\gamma }_i$ 各找一個元素出來，所以
   $C_1\dots C_r$ 就會湊到
   $r$ 個元素。

綜合上述四點：

$R$ 這個線性獨立的集合，會在

$(T-\lambda I{)}_W$ 的 null space 中 ：

$$R\subseteq \ker (T-\lambda I{)}_W$$

所以，

$(T-\lambda I{)}_W$ 的 nullity 不少於

$R$ 的數目多。也就是：

$$\dim (\ker T-\lambda I{)}_W\ge r(2)$$

Step 8：Dimension Theorem

對

$(T-\lambda I{)}_W$ 用上 dimension theorem，就會發現

$\gamma$ 中的元素數目不多於

$W$ 的維度：

$$\stackrel{\dim (W)}{\overbrace{\underset{(2)\Rightarrow \ge r}{\underbrace{\dim (\ker T-\lambda I{)}_W}}+\underset{(1)\Rightarrow =|\gamma |-r}{\underbrace{\dim (T-\lambda I{)}_W(W)}}}}\ge |\gamma |$$

因此就證明了目標：

$$\boxed{{\displaystyle \dim W\ge |\gamma |}}$$