# 線性代數 - Existence of Jordan Basis (Part 0)

[TOC]

## 推論：「母空間」是「推廣版特徵空間」的直和

:::danger

假定 $V$ 是一個有限維向量空間，$T \in \mathbb L(V)$。若 $T$ 的特徵多項式 $f(t)$ 可以徹底分解。即：$f$ 可以表為以下的形式：

$$
f(t) = \prod_{i = 1}^m (t - \lambda_i)^{n_i}
$$

且 $\lambda_1 \dots \lambda_m$ 為相異的特徵值。則下列兩項敘述成立：

1. **V 的分解**：$V$ 可分解為 $\ker (T - \lambda_i I)^{n_i}$ 的直和，即：
$$
\boxed{V = \bigoplus_{i = 1}^{m}\ker (T - \lambda I)^{n_i}}
$$

2. **每個空間都是 T 不變的子空間**：對於任意 $\lambda_i$，若令：

$$
\boxed{K_{\lambda_i} = \ker (T - \lambda_i I)^{n_i}}
$$

則：

$$
\boxed{T(K_{\lambda_i}) \subseteq K_{\lambda_i}}
$$

:::

只要令：

$$
f_i(t) = (t - \lambda_i)^{n_i}
$$

然後就發現可以套用上一個定理：

1. 所有 $f_i(t)$ 的形式都是：
$$
f_i(t) = (t - \lambda_i)^{n_i}$$

其中 $\lambda_i$ 是相異的特徵值。所以 $f_i$ 之間彼此沒有公因式。

2. *Caley-Hamilton Theorem* 知道：$f(T)$ 一定是零運算：

$$
f(T) = T_0
$$

所以 $f$ 一定是個滅絕多項式。

因此，引理的條件都滿足了。套用上去就得證。

## 觀察：當空間的特徵多項式只有一個根時

:::danger

假定 $V$ 是一個有限維向量空間，且 $T \in \mathbb L(V)$。假定：

1. 存在以下形式的多項式 $f \in \mathbb P(F)$：

$$
f(t) = (t - \lambda)^n
$$

使得 $T$ 帶入之後為零運算：

$$
f(T) = 0
$$

1. $C$ 是一個由 $x \in V$ 跟 $(T - \lambda I)$形成的循環子空間：

$$
C = Z(x, T - \lambda I)
$$

2. $C$ 的維度是 $m$：

$$
\dim(C) = m
$$

則下列三項敘述成立：

1. **T 限制在 C 上的特徵多項式**：假定 $T_C$ 為 $T$ 限制在 $T$ 上的特徵多項式，則 $T_C$ 的特徵多項式為：

$$
f_C(t) = (t - \lambda)^{m_i}
$$

2. **循環的前 m 個向量是基底**：下面這個集合是 $C$ 的基底：

$$
\gamma = \{(T - \lambda I)^i(x) \mid 0 \leq i < m \}
$$

3. **循環的第 m 個以後通通都是 0**：

$$
(T - \lambda I)^j(x) = 0 \quad \forall j \geq m
$$

:::

這裡面的第 2. 在之前討論 *Caley-Hamilton* 的時候已經討論過了，這邊只是列出來方便看。

### 證明：特徵多項式

假定 $T_C$ 是「$T$ 的定義域限制在限制在 $C$ 上」的函數，且令 $f_C(t)$ 為「$T_C$ 的特徵多項式」。則 $f_C(t)$ 必定具有以下的形式：

$$
f_{C}(t) = (t - \lambda)^{k}
$$

這是因為：==$T$ 限制在一個 $T$*-invaroant* 的子空間上 (也就是這邊的 $C$) 時，他的特徵多項式一定會是原來版本的因式== 。所以：

$$
f_{C}(t) \mid f(t)
$$

而 $f(t)$ 就是 $(t - \lambda)^{n}$ 所以 $f_{C}$ 如果是他的因式，所以這就是在說：

$$
f_C(t) \mid (t - \lambda)^{n}
$$

因此，$f_C$ 必定具有以下形式：

$$
f_{C}(t) = (t - \lambda)^{k}
$$

另外一方面，==$f_C$ 的維度要與所在空間的維度一樣多== 。所以唯一的可能就是 $k$ 跟 $m$ 一樣：

$$
k = m
$$

所以，$T_{C}$ 的特徵多項式 $f_C$ 就是：

$$
\boxed{f_{C}(t) = (t - \lambda)^{m}}
$$

### 證明：循環的第 m 個以後通通都是 0

這是用上面的結論配上 *Caley-Hamilton* 得來的。因為現在已經知道 $T_C$ 的特徵多項式 $f_C(t)$ 是：

$$
f_C(t) = (t - \lambda)^m
$$

所以由 *Caley-Hamilton* 定理知道：對於任意 $x \in C$，帶進下面這個東西之後，一定會是 $0$：

$$
(T_C - \lambda I_C)^{m}(x) = 0
$$

其中，$I_C$ 是限制在 $C$ 的單位運算。由限制定義域的定義知道：對於任意 $x \in C$，$T_C$，帶進去限制前跟限制後的版本，結果是一樣的：

$$
\begin{align}
T_C(x) &= T(x)
\newline
I_C(x) &= I(x)
\end{align}
$$

所以對於任意 $x \in C$，可以把上面的結果掉換成限制前的函數：

$$
(T - \lambda I)^m(x) = 0
$$

既然被送進 $(T - \lambda I)$ $m$ 次之後是 $0$，送進去任何比 $m$ 還要多次的結果，當然也還是 $0$。更精確地說：假定 $i = m + r$，其中 $r \geq 0$，則：

$$
\begin{align}
&(T - \lambda I)^{m + r}(x)
\newline
&= (T - \lambda I)^r\underbrace{(T - \lambda I)^m(x)}_{0} = 0
\end{align}
$$

## 引理：尾巴合起來線性獨立的循環，合起來也線性獨立

:::danger

假定 $V$ 是一個有限維向量空間，且 $T \in \mathbb L(V)$。假定：$V$ 是某個推廣的特徵空間。即：

$$
V = \ker (T - \lambda I)^n
$$

且令：

1. $C_1 \dots C_r$ 是由 $x_1 \dots x_r$ 形成的循環子空間，即：

$$
C_i = C(T - \lambda I, x_i)
$$

2. $\gamma_i$ 是 $C_i$ 的基底。其中 $\gamma_i$ 具有以下形式：

$$
\gamma_i = \langle (T - \lambda I)^j(x_i)\rangle_{j = 0}^{m_i - 1}
$$

且 $m_i$ 是 $C_i$ 的維度

3. $R$ 是每個 $\gamma_1 \dots \gamma_r$ 的「最後一個非零」元素形成的有序集合：

$$
R = \langle (T - \lambda I)^{m_i - 1}(x_i)\rangle_{i = 1}^{r}
$$

假定 $R$ 是個線性獨立的集合，那麼下列兩項敘述成立：

1. **所有 $\gamma_i$ 不相交**：

$$
(\gamma_i \cap \gamma_j) = \phi \quad \forall i \neq j
$$

2. **所有 $\gamma_i$ 的聯集也線性獨立**：

$$
\bigsqcup_{i = 1}^{r} \gamma_i \text{ is L.I.}
$$

:::

### 證明：不相交

假定他們相交，也就是存在 $x$，使得：

$$
x \in (\gamma_i \cap \gamma_j)
$$

因為這時：

$$
K = \ker (T - \lambda I)^{n}
$$

所以，存在一個最小的 $\ell$，使得：

$$
(T - \lambda I)^{\ell}(x) = 0
$$

這時候往前找一個：

$$
\underbrace{(T - \lambda I)^{\ell - 1}(x)}_{x'} \neq 0
$$

依照 $\gamma_i$ 跟 $\gamma_j$ 的定義，這個 $x'$ 會同時在 $\beta_i$ 跟 $\beta_j$ 裡面。而且因為他滿足：

$$
(T - \lambda I)(x') = 0
$$

所以他會被 $R$ 收進去兩次：一次是在 $\gamma_i$ 時，另外一次是 $\gamma_j$ 時。這就表示 $R$ 這個線性獨立集中，有重複的元素，因此就矛盾了。

### 證明：線性獨立

對 $|\gamma|$ 做歸納。$\gamma$ 是空集合顯然成立，因為空集合線性獨立，一堆空集合聯集起來還是空集合，所以也線性獨立。

假定 $|\gamma|$ 是 $1$，那這整個集合中根本只有一個向量，假定這個向量叫 $v$。這個 $v$ 必定來自某個 $\gamma_i$，不失一般性假定他來自 $\gamma_1$。既然整個 $\gamma$ 只有一個元素，所以那個元素必定來自 $\gamma_1$。因此：

$$
\gamma = \gamma_1 = \{v\}
$$

前提又說： $\gamma_1$ 是某個循環子空間的基底，也就是 $\{v\}$ 是某個循環子空間的基底。 $\gamma_1$ 是基底，那就線性獨立。可是 $\gamma$ 跟 $\gamma_1$ 一樣，所以 $\gamma$ 就線性獨立。

### Step 1：前提與目標

現在考慮 $|\gamma| = n$ 的狀況。也就是已知：

1. 每個 $\gamma_i$ 長得像下面這樣：

$$
\gamma_i = \langle x_i, (T - \lambda I)(x_i) \dots (T - \lambda I)^{m_i - 1}(x_i)\rangle
$$

2. 而且下面這個集合是線性獨立的：

$$
R = \langle (T - \lambda I)^{m_i - 1}(x_i)\rangle_{i = 1}^r
$$

目標是要證明：所有的 $\gamma_i$ 聯集起來，會是個線性獨立的集合。也就是下面這個集合是線性獨立的：

$$
\gamma = \bigsqcup_{i = 1}^r \gamma_i
$$

### Step 2：目標的等價條件

為了方便，令 $W$ 為 $\gamma$ *span* 出來的空間：

$$
W = \operatorname{span} \gamma
$$

現在的目標是這樣：如果可以證明 $W$ 的維度，跟 $\gamma$ 的數目一樣多，那麼 $\gamma$ 就一定是 $W$ 的基底。既然是基底，那麼就一定線性獨立，所以就證明完了。所以現在的目標就是：

$$
\dim W = |\gamma|
$$

不過，因為 $\gamma$ 可以展出 $W$，所以立刻就有：

$$
\dim W \leq |\gamma|
$$

因此，現在只要可以再證明：

$$
\boxed{\dim W \geq |\gamma|}
$$

兩個合起來，就會有 $\dim W = |\gamma|$ 了。因此目標就是證明他。而證明的方法是用 *Dimension Theorem*，而那個線性運算是「把 $(T - \lambda I)$ 限制在 $W$ 上」

### Step 3：循環基底再送一次線運 = 砍掉第一個元素

要限制在 $W$ 上之後仍然是個線性運算，就要先證明 $W$ 是 $(T - \lambda I)$*-invariant*。也就是要證明：

$$
(T - \lambda I)(W) \subseteq W
$$

這件事情可以從「每個 $\gamma_i$ 都是循環基底」看出來。因為如果「每個 $\gamma_i$ 都多送進 $(T - \lambda I)$ 一次得到的集合」能展出來的範圍，跟「把 $\gamma_i$ 的第一個向量砍掉」一樣：

$$
\begin{align}
&(T - \lambda I)(\gamma_i) =
\newline
&\langle \underbrace{(T - \lambda I)(x_i) \dots (T - \lambda I)^{m_i - 1}(x_i)}_{=\gamma_i \setminus \{x_i\}}, \underbrace{(T - \lambda I)^{m_i}(x_i)}_{0}\rangle
\end{align}
$$

為了方便，就令「$\gamma_i$ 砍掉第一個元素」得到的集合叫做 $\gamma'_i$：

$$
\gamma'_i = \gamma_i \setminus \{x_i\}
$$

### Step 4：限制定義域後是 W 上的線運

由上面的觀察可以進一步得知：$(T - \lambda I)(\gamma)$ 就是「$\gamma$ 除掉所有的 $x_i$，再多一個 $0$」：

$$
(T - \lambda I)(\gamma) = \underbrace{\bigsqcup_{i = 1}^r \overbrace{\gamma_i \setminus \{x_i\}}}^{\gamma_i'}_{\gamma'}\cup \{0\}
$$

為了方便，就令後面這個東西叫做 $\gamma'$：

$$
\gamma' = \bigsqcup_{i = 1}^r \overbrace{\gamma_i \setminus \{x_i\}}^{\gamma_i'}
$$

很顯然地，$\gamma'$ 會被包在 $\gamma$ 中。所以，$T(\gamma)$ 其實就是下面這個東西：

$$
(T - \lambda I)(\gamma) = \underbrace{\gamma'}_{\subset \gamma} \cup \{0\}
$$

既然如此，$(T - \lambda I)(\gamma)$ 展出來的範圍，就會被包含在 $\gamma$ 展出來的範圍裡面：

$$
\text{span }(T - \lambda I)(\gamma) \subseteq \text{span }\gamma
$$

接下來 ==利用 *span* 跟線性轉換可以互換的性質==，把上式的 *span* 跟 $(T - \lambda I)$ 對調。就會發現 $W$ 是 $(T - \lambda I)$*-invariant*：

$$
(T - \lambda I)(\underbrace{\operatorname{span}(\gamma))}_{W} \subseteq \underbrace{\operatorname{span} \gamma}_{W}
$$

因此，現在就可以放心的把 $(T - \lambda I)$ 限制在 $W$ 上，值域也不會跑出 $W$。換句話說：「$(T - \lambda I)$ 限制在 $W$ 上得到的線性轉換，會是個 $W$ 上的線性運算」。

### Step 5：滿足歸納法假設的前提

因為 $\gamma'$ 的數目比 $\gamma$ 小了，所以接下來的目標是對 $\gamma'$ 使用歸納法假設，說他是個線性獨立的集合。在這之前，要先確認他滿足前提：

1. 循環子空間：剛剛是找 $x_1 \dots x_r$ 用 $(T - \lambda I)$ 生成的每個循環子空間。現在則是在 $W$ 上，找：

$$
(T - \lambda I)(x_1) \dots (T - \lambda I)(x_r)
$$

用 $(T - \lambda I)_W$ 生出的循環子空間。令這些 $W$ 上的循環子空間為 $C_i'$：

$$
C_i' = C((T - \lambda I)_W, (T - \lambda I)(x_i))
$$

2. 循環子空間的基底：每一個 $C_i'$ 的基底都是：

$$
\gamma_i' = (\gamma_i \setminus x_i)
$$

3. 每個 $\gamma'_i$ 「最後一個元素」形成的集合：假定這個集合叫做 $R'$。因為 $\gamma_i'$ 是 $\gamma_i$ 砍掉第一個元素得到的集合，所以要麻 1) $\gamma'_i$ 變成空的，沒有「最後一個」元素; 要麻就是 2) $\gamma_i'$ 還有剩東西，這就表示被砍掉的不是最後一個元素。所以「所有 $\gamma'$ 最後一個元素形成的集合」 $R'$ 就會是個 $R$ 的子集：

$$
R' \subseteq R
$$

最後，$\gamma'$ 是 $\gamma$ 砍掉 $x_1 \dots x_r$ 的結果，所以 $\gamma'$ 中的元素數目就會嚴格地比 $\gamma$ 小：

$$
|\gamma'| < |\gamma|
$$

因此，就可以套用歸納法的假設了。

### Step 6：套用歸納法假設

套用歸納法假設，知道 $\gamma'$ 中的元素通通線性獨立。而且前面也推論： $\gamma'$ 可以展出 $(T - \lambda I)(W)$。由限制定義域的定義知道：這個空間跟 $(T - \lambda I)_W(W)$ 根本一樣：

$$
(T - \lambda I)(W) = (T - \lambda I)_W(W)
$$

既然 $\gamma'$ 線性獨立，又可以展出所在的空間，因此他就是 $(T - \lambda I)_W(W)$ 的基底。所以就知道：$(T - \lambda I)_W(W)$ 的維度就是 $\gamma'$ 的數量，也就是：

$$
\underbrace{\dim(T - \lambda I)_W(W)}_{= |\gamma'|} = |\gamma| - r \quad (1)
$$

### Step 7：R 是 Null Space 中的線性獨立集

看完 $(T - \lambda I)_W$ 的值域，接下來看看他的 *null space*。而這跟 $R$ 有關，因為
1. **$R$ 中的元素通通在 $W$ 中**：因為 $R$ 的元素都是 $\gamma_i$ 中找來的，而每個 $\gamma_i$ 都包含在 $W$，也就是 $\text{span }\gamma$ 中。
2. **$R$ 中的元素通通線性獨立**：這是前提。
3. **$R$ 中的元素，都會滿足「再丟進一次 $(T - \lambda I)_W$ 就會變成 $0$」**：這也是前提。
4. **$R$ 中有 $r$ 個元素**：因為 $R$ 是從每個 $C_i$ 的循環基底 $\gamma_i$ 各找一個元素出來，所以 $C_1 \dots C_r$ 就會湊到 $r$ 個元素。

綜合上述四點： ==$R$ 這個線性獨立的集合，會在 $(T - \lambda I)_W$ 的 *null space* 中== ：

$$
R \subseteq \ker (T - \lambda I)_W
$$

所以，$(T - \lambda I)_W$ 的 *nullity* 不少於 $R$ 的數目多。也就是：

$$
\dim (\ker T - \lambda I)_W \geq r \quad (2)
$$

### Step 8：Dimension Theorem

對 $(T - \lambda I)_W$ 用上 *dimension theorem*，就會發現 $\gamma$ 中的元素數目不多於 $W$ 的維度：

$$
\overbrace{\underbrace{\dim (\ker T - \lambda I)_W}_{(2) \Rightarrow \geq r} + \underbrace{\dim(T - \lambda I)_W(W)}_{(1)\Rightarrow =|\gamma| - r}}^{\dim(W)} \geq |\gamma|
$$

因此就證明了目標：

$$
\boxed{\dim W \geq |\gamma|}
$$