# 矩陣的位階

之前有提到過，將函數值域的維度定為 rank，中文就是位階。

而矩陣是個線轉，所以我們也可以定義他的位階；怒階也順便：

$$
\displaylines{
rank(A)\overset{\text{def}}{=}rank(L_A)\\
nullity(A)\overset{\text{def}}{=}nullity(L_A)\\
}
$$

而如果 $A\in F^{m\times n}$，可知 $L_A\in \mathbb{L}(F^{n},F^{m})$，根據[維度定理](https://hackmd.io/yg0t0qP1QWmjzjadqWrDsA?view#%E7%B6%AD%E5%BA%A6%E5%AE%9A%E7%90%86)：

$$
rank(A)+nullity(A)=n
$$

## 滿階

如果 $A\in F^{n\times n}$，且 $rank(A)=n$，則此時會稱 $A$ 為「滿階方陣 full rank」。

## 可逆↔滿階

如果 $A\in F^{n\times n}$，「可逆」若且唯若「滿階」。

- [可逆左乘的反線轉](https://hackmd.io/QuO8LVnhTt-YGwyxm0dROA?view#%E5%8F%AF%E9%80%86%E5%B7%A6%E4%B9%98%E7%9A%84%E5%8F%8D%E7%B7%9A%E8%BD%89)
- [同維線轉觀察](https://hackmd.io/gvgtEBfIQfSDb7mDkIaN_Q#%E5%90%8C%E7%B6%AD%E7%B7%9A%E8%BD%89%E8%A7%80%E5%AF%9F)

$$
\begin{align}
A可逆&\Leftrightarrow L_A 可逆\text{ 可逆左乘的反線轉}\\
&\Leftrightarrow L_A 一對一\text{ 左到右很明顯，右到左是同維線轉觀察}\\
&\Leftrightarrow nullity(L_A)=0\text{ 怒空僅零}\\
&\Leftrightarrow rank(L_A)=n\text{ 維度定理}\\
&\Leftrightarrow rank(A)=n\text{ 定義}\\
\end{align}
$$

## 可逆則矩陣乘法保階

如果 $A\in F^{n\times n},B\in F^{m\times m}$ 是兩個可逆矩陣，則對於所有 $C\in F^{n\times m}$：

$$
rank(A\times C)=rank(C)=rank(C\times B)
$$

### 證明

因為 $A\in F^{n\times n},B\in F^{m\times m}$ 是兩個可逆矩陣。

- $L_A$ 是可逆的，因此可知 $L_A$ 具有一對一性質
- 所以根據怒空僅零，$N(L_AL_C)=N(L_C)$
- 因為 $L_A$ 只會唯一把 0 送到 0，而 $N(L_C)$ 的成員都可以得到 0

$$
\begin{align}
rank(A\times C)&=rank(L_{A\times C})\\
&=rank(L_AL_C)\\
&=n - dim(N(L_AL_C))\text{ 合成保線轉 + 維度定理}\\
&=n - dim(N(L_C))\\
&=rank(L_C)=rank(C)
\end{align}
$$

- $L_B$ 是可逆的，因此可知 $L_B$ 具有 onto 性質
- 可知 $L_B(F^{n})=F^{n}$

$$
\begin{align}
rank(C\times B)&=rank(L_{C\times B})\\
&=rank(L_CL_B)\\
&=dim(L_C(L_B(F^{n})))\\
&=dim(L_C(F^{n}))\\
&=rank(L_C)=rank(C)
\end{align}
$$

# 線轉矩陣的位階

對於一個線性轉換 $T\in \mathbb{L}(V,W)$，定義對應基底分別為 $\beta$ 跟 $\gamma$，則：

$$
rank(T)=rank([T]_{\beta}^{\gamma})
$$

令 $A=[T]_{\beta}^{\gamma},\ n=dim(V)$：

$$
\begin{align}
rank(T)&=dim(T(V))\text{ 根據定義}\\
&=dim(\phi_{\gamma}(T(V)))\text{ 座標函數是個同構，總之保維度}\\
&=dim(L_A\phi_{\beta}(V))\text{ 線轉矩陣定理}\\
&=dim(L_A(F^{n}))\text{ 座標函數具有 onto 性質}\\
&=rank(A)
\end{align}
$$

# 矩陣位階=行空維度

對於 $A\in F^{m\times n}$：

$$
rank(A)=dim(span(\{A_1,...,A_n\}))
$$

$span(\{A_1,...,A_n\})$ 是由 $A$ 的直行所構成的空間，簡稱直行空間

### 證明

令 $F^{n}$ 的標準基底為 $\beta$。

$$
\begin{align}
rank(A)&=dim(L_A(F^{n}))\text{ 根據定義}\\
&=dim(L_A(span(\beta)))\text{ 根據定義}\\
&=dim(span(L_A(\beta)))\text{ 值空觀察}\\
&=dim(span(\{A_1,...,A_n\}))\text{ 標準基底的緣故}\\
\end{align}
$$

:::warning
這樣一來，我們就可以不用大費周章地真的去先找出某個矩陣 $A$ 對應的線轉是誰，然後再去看他的維度，而是直接去看 $A$ 的 column 中，哪幾個可以組成線性獨立的最大子集。
:::

---

# 高斯消去法

目的是為了解「線性方程組」，又叫做「線性系統」。

這個方法可以達到「快速」且「正確」兩大功效。

## 基本 row 運算 / row 左乘

首先從基本的開始，先介紹基本列運算。

- 交換：交換兩個 row：

$$
\begin{pmatrix}
0 & 1 & 0\\
1 & 0 & 0\\
0 & 0 & 1\\
\end{pmatrix}\times
\begin{pmatrix}
2 & 3 & 1 & 6\\
4 & 9 & 8 & 3\\
7 & 4 & 7 & 2\\
\end{pmatrix}
$$

將一二列交換。

- 伸縮：將某個 row 乘上非零常數

$$
\begin{pmatrix}
1 & 0 & 0\\
0 & 1 & 0\\
0 & 0 & -2\\
\end{pmatrix}\times
\begin{pmatrix}
2 & 3 & 1 & 6\\
4 & 9 & 8 & 3\\
7 & 4 & 7 & 2\\
\end{pmatrix}
$$

將第三列乘上 -2 倍。

- 跳加：將某個 row 乘上非零常數後，加到另一個 row

$$
\begin{pmatrix}
1 & 0 & -1\\
0 & 1 & 0\\
0 & 0 & 1\\
\end{pmatrix}\times
\begin{pmatrix}
2 & 3 & 1 & 6\\
4 & 9 & 8 & 3\\
7 & 4 & 7 & 2\\
\end{pmatrix}
$$

將第三列乘上 -1 後加到第一列。

:::warning
稍微更改原本 $I$ 的順序，就可以達成這三個效果。
對於每個這種左乘矩陣，可以根據行空觀察得知他們都滿階，因此可逆。
:::

## 觀察

如果我有一系列的 row 運算要操作，可以想像有一堆左乘；此時將這些左乘先全都乘起來變成一個大的轉換 $T$，則根據結合律我們可以知道：

$$
T(B)=T(I\times B)=A_T\times(I\times B)=...=T(I)\times B
$$

並且由於 $T(I)$ 是由一系列可逆矩陣左乘 $I$，上面的可逆則乘法保階告訴我們，最終的結果依舊是滿階，也就可逆。

## Echelon form

簡單來說就是階梯化，例如：

$$
\begin{pmatrix}
1 & 1 & 2 & 1 & 0\\
0 & 1 & 1 & 2 & 1\\
0 & 0 & 0 & 1 & 2\\
0 & 0 & 0 & 0 & 0\\
\end{pmatrix}
$$

## Reduced echelon form

將 Echelon form 中，每個 row 的「首項」上方都清成 0，例如上面的例子就會變成：

$$
\begin{pmatrix}
1 & 0 & 1 & 0 & 1\\
0 & 1 & 1 & 0 & -3\\
0 & 0 & 0 & 1 & 2\\
0 & 0 & 0 & 0 & 0\\
\end{pmatrix}
$$

:::info
上面最後得到 Reduced echelon form，就是做完完整的高斯消去法。
:::

:::warning
搭配上面的直行空間觀察，直覺上來說，有幾個階梯，就有多少階，像上面有三階。
:::

## 判斷可逆

如果對某個**方陣** $C$ 做高斯消去後得到 $A$，可以知道「$C$ 可逆」若且唯若「$A$ 是單位方陣」。

:::warning
所以消去好 $C$ 之後如果得到的不是單位方陣，代表 $C$ 不可逆
:::

### 右到左

如果 $A$ 是單位方陣，則 $C$ 可逆。

寫出來的話就是：

$$
T_p\times ...\times T_{(1)}\times C = A = I
$$

首先左手邊根據可逆成法保位階得知 $rank(C)=rank(I)$，所以得知滿階，則可逆。

### 左到右

如果 $C$ 可逆，則 $I$ 是單位方陣。

首先使用高斯消去將 $C$ 進行一系列操作後得到 Reduced echelon form 的 $A$，此時如果有某個 row 全都是 0，或者說階梯沒有都在對角線上，例如：

$$
\begin{pmatrix}
1 & 0 & 1 & 0 \\
0 & 1 & 1 & 0 \\
0 & 0 & 0 & 1 \\
0 & 0 & 0 & 0 \\
\end{pmatrix}
$$

當我們使用行空觀察，來找 column 的線性獨立子集，可以發現從左邊數來第 3 個 column，是個冗員，因此線性獨立子集數量不滿 4 只有 3 個。

但是 $A$ 理論上會被保階，應該要是滿階，每個 column 都要用到，所以就可以知道，不可以有 row 都是 0，也因此可以知道那個階梯是個完整的階梯，也就是 $I$。

## 高斯消去算反方陣

用高斯消去法把可逆方陣 $C$ 轉成單位方陣的相同過程會把 $I_n$ 轉 成 $C^{−1}$

$$
A_p\times ...\times A_{(1)}\times C = I\\
\Rightarrow A_p\times ...\times A_{(1)}\times I = C^{-1} \\
$$

# 線性方程組

一個「系統 $E$」，就是一堆的線性方程式：

$$
\displaylines{
a_{11}x_1+...+a_{1n}x_n=b_1\\
\vdots\\
a_{m1}x_1+...+a_{mn}x_n=b_m\\
}
$$

那些 $x$ 是我們想知道的未知數；我們可以把 $x$ 跟那些細數分離開來變成：

$$
\displaylines{
E：A\times x=b\ 或\ E：L_A(x)=b\\
x\in F^{n},b\in F^{m}\\
A=
\begin{pmatrix}
a_{11} & \cdots & a_{1n}\\
\vdots & \ddots & \vdots \\
a_{m1} & \cdots & a_{mn}\\
\end{pmatrix}\in F^{m\times n}
}
$$

$A$ 叫做「係數矩陣」。

## 解集合

我們把那些滿足 $L_A(s)=b$ 的 $x$ 蒐集起來，就構成了解集合：

$$
S(E)\overset{\text{def}}{=}\{s\in F^{n}：L_A(s)=b\}
$$

- 所以如果 $S(E)\ne \varnothing$，可以知道 $b\in L_A(F^{n})$
- $S(E)$ 未必是 $F^n$ 的子空間
- 例如像 0 不一定是解

## 增廣係數矩陣

因為那個 $b$ 也是個常數值，所以我們把它合併到係數矩陣裡面，就形成了增廣係數矩陣：

$$
(A\ |\ b)\in F^{m\times (n+1)}
$$

也就是把它貼在右邊。

$$
\left (
\begin{matrix}
a_{11} & \cdots & a_{1n}\\
\vdots & \ddots & \vdots\\
a_{m1} & \cdots & a_{mn}\\
\end{matrix}
\middle|
\begin{matrix}
b_1\\
\vdots\\
b_m\\
\end{matrix}
\right )
$$

>原來要使用 middle 還要同時使用 left 跟 right

## 增廣觀察

令 $E：Ax+b$ 是個系統，則：

$$
S(E)\ne \varnothing\ \Leftrightarrow\ \text{rank}(A)=\text{rank}(A|b)
$$

### 證明

令 $\beta$ 是 $F^n$ 的標準基底：

$$
L_A(F^n)=L_A(span(\beta))=span(L_A(\beta))=span(\{A_1,...A_n\})
$$

:::warning
可以發現 $A$ 的值空間等於 $A$ 的直行空間。
或者可以這樣想，$Ax=x_1A_1+x_2A_2+...$，這不就是以 column 作為向量的線性組合嗎
:::

如果存在解，則 $b\in L_A(F^n)=span(\{A_1,...,A_n\})$

對於 $rank(A\ |\ b)$，之前的直行空間觀察告訴我們，$A\ |\ b$ 的直行空間的維度就是 rank。

不過 $b\in L_A(F^n)=span(\{A_1,...,A_n\})$，$A\ |\ b$ 的直行空間其實就等於 $A$ 的直行空間：

$$
rank(A\ |\ b)=rank(A)
$$
> $span(\{A_1,...,A_n,b\})=span(\{A_1,...,A_n\})$

因為 $b$ 在 $A\ |\ b$ 的 column 們當中是個冗員。

總結來說：

$$
\begin{align}
S(E)\ne \varnothing& \Leftrightarrow b\in L_A(F^n)\\
& \Leftrightarrow b\in L_A(span(\{A_1,...A_n\}))\\
& \Leftrightarrow rank(A\ |\ b)=rank(A)\\
\end{align}
$$

### 用途

所以如果改對增廣矩陣做高斯消去，可以「**快速的判斷有沒有解**」。

因為對於有解的情型：

$$
\left (
\begin{matrix}
1 & 1 & 1 & 1 & -3 \\
0 & 1 & -1 & 2 & -3 \\
0 & 0 & 0 & 1 & -2 \\
0 & 0 & 0 & 0 & 0 \\
\end{matrix}
\middle|
\begin{matrix}
6 \\
5 \\
2 \\
0 \\
\end{matrix}
\right )
$$

此時很清楚的知道 $rank(A)=rank(A|b)$。

對於無解的情形：

$$
\left (
\begin{matrix}
1 & 1 & 1 & 1 & -3 \\
0 & 1 & -1 & 2 & -3 \\
0 & 0 & 0 & 1 & -2 \\
0 & 0 & 0 & 0 & 0 \\
\end{matrix}
\middle|
\begin{matrix}
6 \\
5 \\
2 \\
1 \\
\end{matrix}
\right )
$$

也就是 $rank(A)\ne rank(A|b)$。

---

# 齊次 & 非齊次

對於一個系統 $E：A\times x=b$。

- $b=0_{F^m}$ 就是齊次 homogeneous
- 可以發現「是齊次」若且唯若「有全零解」
- 反之就是非齊次
- 非齊次未必有解
- 在代數上，齊次方程式的定義是，如果 s 是一個解，則 s 的純量倍也是解

## 齊次觀察

對任何的齊次系統 $E_H：A\times x=0_{F^m}$，**$S(E_H)$ 是 $F^{m}$ 的子空間**，並且：

$$
dim(S(E_H))=nullity(A)=dim(N(L_A))
$$

> $E$ 多了個下標。
>打 ${F^m}$ 好麻煩，下面都直接打 0。

### 證明

其實就是根據定義而已。因為齊次系統的解代表說：

$$
L_A(s)=0
$$

所以可以知道解空間就是怒空間：

$$
S(E_H)=N(L_A)
$$

### 用途

既然他跟怒空間扯上關係，那麼就是要用維度定理啦。

例如下面是某個齊次系統的係數矩陣：

$$
\begin{pmatrix}
0 & 2 & 2 & 4 & 2 \\
0 & 4 & 4 & 8 & 4 \\
8 & 2 & 10 & 0 & 2 \\
6 & 3 & 9 & 2 & 1 \\
\end{pmatrix}\rightarrow
\begin{pmatrix}
1 & 1 & 2 & 1 & 0\\
0 & 1 & 1 & 2 & 1\\
0 & 0 & 0 & 1 & 2\\
0 & 0 & 0 & 0 & 0\\
\end{pmatrix}
$$

從右邊可以知道 rank 是 3，而矩陣本身是 $4\times 5$，所以可以知道定義域的維度是 5，接著根據維度定理可以知道，解空間的維度是 2。

也就是說，存在兩個非零向量 $\beta_1,\beta_2\in S(E_H)\subseteq \mathbb{R}^5$ 他們構成了一個基底，解空間就可以他們倆個的線性組合表示：

$$
S(E_H)=\{c\beta_1+d\beta_2\ |\ c,d\in \mathbb{R}\}
$$

### 齊次小推

如果係數矩陣 $A\in F^{m\times n}$，並且 $m<n$，則系統至少有一個非零解。

首先 $A$ 定義域的維度是 $n$，而 $A$ 的 rank，根據直行空間觀察，就是看線性獨立的 column 有幾個，但是可知最多就 m 個(或者說階梯最多就 m 階)，因此根據維度定理可以知道：

$$
dim(S(E_H))=nullity(A)=n-rank(A)\ge n-m\ge 1
$$

:::warning
換句話說，只要方程式數量比未知數少，則齊次系統一定有非零解
:::

---

# 齊解空間

對於任何系統 $E：A\times x=b$，他可能是個非其次系統，但如果此時我們不解這個系統，反而去解有相同係數矩陣的齊次系統：

$$
E_H：A\times x = 0
$$

此時我們將這樣特殊的解蒐集起來，叫做齊解空間：

$$
S_H(E)\overset{\text{def}}{=} S(E_H)
$$

- 如果 b 等於 0，那就是上面討論的齊次系統了
- $S_H(E)=S(E_H)=S(E)$
- 並且可以知道是 $F^n$ 的子空間

## 解集合定理

對於任何**有解的**系統：

$$
\displaylines{
S(E)=\{s\}+S_H(E)\\
\forall s\in S(E)
}
$$

也就是把任意一個 $S(E)$ 的人拿去跟齊解空間的人相加得到和集，就會是解空間了。
$\{s\}+S_H(E)$ 是兩個集合的「和集」。

### 證明

令 $E：A\times x = b,A\in F^{m\times n}$，以及某一個解 $s\in F^n$，以及任何其他解 $r\in F^n$：

$$
\begin{align}
A \times r = b &\Leftrightarrow A \times (r-s)=0\\
&\Leftrightarrow (r-s)\in S_H(E)\\
&\Leftrightarrow r\in \{s\} + S_H(E)\\
\end{align}
$$

## 解集合定理 + 齊次觀察

上面齊次觀察告訴我們，某個齊次系統的解空間，就是係數矩陣的怒空間；令其基底為 $\beta$。

此時搭配解集合定理，這個則是告訴我們對於任何的系統，對他所有的解來說，$S(E)=\{s\}+S_H(E)$。
而這個右手邊的 $S_H(E)$ 是個齊次系統，如果我們改成以基底表示，就會得到：

$$
S(E)=\{s\}+span(\beta)
$$

## 係數方陣觀察

如果某個系統的係數矩陣 $A$ 是個方陣，則「$A$ 可逆」若且唯若「$|S(E)|=1$ / 解只有一個」

### 左到右

如果 $A$ 可逆，對於某一個解 $s$：

$$
\displaylines{
A\times s = b \Leftrightarrow s = A^{-1}\times b\\
\Rightarrow S(E)=\{A^{-1}\times b\}
}
$$

因為反矩陣唯一，所以可以知道 $|S(E)|=1$。

### 右到左

令 $A\in F^{n\times n}$，$s$ 是那個唯一的解，根據解集合定理

$$
S(E)=\{s\}+S_H(E)
$$

但是因為只有一個解，所以可以知道 $S_H(E)=\{0\}$，因此可以知道 $A$ 的怒空間維度就是 0，再知道 $A$ 的直空間維度是 n，再知道 $A$ 滿階，最後知道 $A$ 可逆。

## 係數方陣小推

我們把係數方陣觀察中的「系統」限定在齊次系統，可以發現：

- $E_H：A\times x=0$ 存在一個以上的非零解，若且唯若 $rank(A)<n$
- 左到右是因為，如果怒空間不只有 0，則怒空間維度大於 0，因此 $rank(A)<n$
- 右到左是因為怒空間維度大於 0，代表怒空間不只有 0。
- 或者也可以用上面的結論，因為解大於 1 個，所以 $A$ 不可逆，因此不滿階
- $E_H：A\times x=0$ 只有零解，若且唯若 $rank(A)=n$
- 這個其實可以從多個角度去看
- 如果是從線性轉換 $L_A$ 的角度來看，怒空僅零代表是線對轉，搭配同維線轉觀察可知是也是雙轉，因此可逆
- 或者直接用上面的結論，「$A$ 可逆」若且唯若「$|S(E)|=1$ / 解只有一個」，而唯一解是那個零解。

## 解集合與⿑解空間不變

對於兩個系統，如果存在某個可逆矩陣 $C$，並且：

$$
C\times(A\ |\ b)=(A^{\prime}\ |\ b^{\prime})
$$

則：

$$
\displaylines{
S(E)=S(E^{\prime})\\
S_H(E)=S_H(E^{\prime})\\
}
$$

### 證明

$$
C\times(A\ |\ b)=(A^{\prime}\ |\ b^{\prime})
$$

這一行其實是在說，$C\times A = A^{\prime}$ 跟 $C\times b = b^{\prime}$，此時對於 $E$ 的某個解 $s$：

$$
\displaylines{
A\times s = b \Leftrightarrow C \times A \times s = C \times b \Leftrightarrow A^{\prime} \times s = b^{\prime}
}
$$

$E_H$ 的同理。

# 高斯消去法實戰

先得到 Reduced echelon form：

$$
\left (
\begin{matrix}
1 & 0 & 2 & 0 & -2 \\
0 & 1 & -1 & 0 & 1 \\
0 & 0 & 0 & 1 & -2 \\
0 & 0 & 0 & 0 & 0 \\
\end{matrix}
\middle|
\begin{matrix}
3 \\
1 \\
2 \\
0 \\
\end{matrix}
\right )
$$

所以可以得到：

$$
\begin{align}
x_1+2x_3-2x_5&=3\\
x_2-x_3+x_5&=1\\
x_4-2x_5&=2\\
\end{align}
$$

移項可得：

$$
\begin{align}
x_1&=3-2x_3 + 2x_5\\
x_2&=1 + x_3 - x_5\\
x_4&=2 + 2x_5\\
\end{align}
$$

也就是只要任意的 $x_3$ 跟 $x_5$ 套進去，就可以得到一個解了。

接著，我們補上一些東西：

$$
\begin{align}
x_1&=3-2c + 2d\\
x_2&=1 + c - d\\
x_3&=c\\
x_4&=2 + 2d\\
x_5&=d\\
\end{align}
$$

所以可以知道：

$$
x=
\begin{pmatrix}
x_1\\x_2\\x_3\\x_4\\x_5\\
\end{pmatrix}=
\begin{pmatrix}
3-2c + 2d\\1 + c - d\\c\\2 + 2d\\d\\\end{pmatrix}=
c\begin{pmatrix}
-2\\1\\1\\0\\0\\\end{pmatrix}+
d\begin{pmatrix}
2\\-1\\0\\2\\1\\\end{pmatrix}+
\begin{pmatrix}
3\\1\\0\\2\\0\\\end{pmatrix}=c\beta_1+d\beta_2+s
$$

而這個東西其實可以很快地從高斯消去結束後得到：

$$
\left (
\begin{matrix}
\color{red}{1} & 0 & \color{blue}{2} & 0 & \color{purple}{-2} \\
0 & \color{orange}{1} & \color{blue}{-1} & 0 & \color{purple}{1} \\
0 & 0 & \color{blue}0 & \color{green}{1} & \color{purple}{-2} \\
0 & 0 & 0 & 0 & 0 \\
\end{matrix}
\middle|
\begin{matrix}
\color{brown}3 \\
\color{brown}1 \\
\color{brown}2 \\
0 \\
\end{matrix}
\right )
$$

藍色跟紫色的就是那兩個基底在 $x_1$ 到 $x_5$ 的係數，但是哪個係數是誰，就看該 row 的 1 是第幾個，例如紅色的是第一個，則藍色的 2 跟紫色的 -2 就是代表 $x_1$ 的係數；但是第三個 1 跟 第五個 1 都不見了，所以要自己補：

$$
\begin{matrix}
x_1\\x_2\\x_3\\x_4\\x_5\\\end{matrix}\ \ \ \
c\begin{pmatrix}
\color{blue}{-2}\\\color{blue}1\\1\\\color{blue}0\\0\\\end{pmatrix}+
d\begin{pmatrix}
\color{purple}2\\\color{purple}{-1}\\0\\\color{purple}2\\1\\\end{pmatrix}+
\begin{pmatrix}
\color{brown}3\\\color{brown}1\\0\\\color{brown}2\\0\\\end{pmatrix}
$$

而 $c$ 的 $x_3=1,x_5=0$，$d$ 的 $x_3=0,x_5=1$，$s$ 這個解的 $x_3=0,x_5=0$

:::warning
可以發現：
- $\beta_1$ 跟 $\beta_2$ 分別持有第 3 個跟第 5 個位置的 1，所以 $\{\beta_1,\beta_2\}$ 確實不冗
1. $\underbrace{L_A(\beta_1+s)}_{c=1,d=0}=\underbrace{L_A(\beta_2+s)}_{c=0,d=1}=\underbrace{L_A(s)}_{c=0,d=0}$
2. 再根據線轉的特性 $L_A(\beta_1+s)=L_A(\beta_1)+L_A(s)$
3. 可以知道 $L_A(\beta_1)=L_A(\beta_2)=0$，所以確實 $\{\beta_1,\beta_2\}\subseteq N(L_A)$ 他們倆個確實是怒空間的基底
:::

---

# 基本行運算

想當然，有基本列運算就有行運算，兩者其實很像，只不過一個左乘一個右乘。
由於基本行運算是右乘，所以可以搭配以 cloumn 做線性組合的思維來看。

- 交換：交換兩個 col：

$$
\begin{pmatrix}
2 & 3 & 1 & 6\\
4 & 9 & 8 & 3\\
7 & 4 & 7 & 2\\
\end{pmatrix}\times
\begin{pmatrix}
1 & 0 & 0 & 0\\
0 & 0 & 0 & 1\\
0 & 0 & 1 & 0\\
0 & 1 & 0 & 0\\
\end{pmatrix}
$$

將二四行交換。

- 伸縮：將某個 col 乘上非零常數

$$
\begin{pmatrix}
2 & 3 & 1 & 6\\
4 & 9 & 8 & 3\\
7 & 4 & 7 & 2\\
\end{pmatrix}\times
\begin{pmatrix}
1 & 0 & 0 & 0\\
0 & 1 & 0 & 0\\
0 & 0 & 3 & 0\\
0 & 0 & 0 & 1\\
\end{pmatrix}
$$

將第三行乘上 3 倍。

- 跳加：將某個 col 乘上非零常數後，加到另一個 col

$$
\begin{pmatrix}
2 & 3 & 1 & 6\\
4 & 9 & 8 & 3\\
7 & 4 & 7 & 2\\
\end{pmatrix}\times
\begin{pmatrix}
1 & 0 & 0 & 3\\
0 & 1 & 0 & 0\\
0 & 0 & 1 & 0\\
0 & 0 & 0 & 1\\
\end{pmatrix}
$$

將第一行乘以 3 後加到第四行。

:::warning
稍微更改原本 $I$ 的順序，就可以達成這三個效果。
對於每個這種右乘矩陣，可以根據行空觀察得知他們都滿階，因此可逆。
:::

## 以 row 做線性組合

回顧之前的[以 column 做線性組合](https://hackmd.io/QuO8LVnhTt-YGwyxm0dROA?view#%E7%9F%A9%E9%99%A3%E7%9B%B4%E8%A1%8C%E7%9A%84%E7%B7%9A%E6%80%A7%E7%B5%84%E5%90%88)。

$A\in F^{m\times n},\ x\in F^{n}$

$$
A\times x=x_1A_1+x_2A_2+...+x_nA_n
$$

如果我給另一個 $y\in F^{1\times m}$，則

$$
\displaylines{
y \times A=y_1A_1+y_2A_2+...+y_nA_n\\
(y_1,y_2,...,y_m)\times
\begin{pmatrix}
\dots &A_1 &\dots\\
&\vdots & \\
\dots &A_m &\dots\\
\end{pmatrix}
}
$$

要注意，**這裡的 $A_1$ 是 row 不是 col**，可以發現右乘矩陣 $A$ 就是**以 $y$ 作為係數，對 $A$ 的 row 做線性組合**

而左乘有提到過：

$$
C_{j}=A\times B_{j}
$$

換到這裡右乘可以知道有：

$$
C_{j}=A_{j}\times B
$$

一樣要注意，這時的 $C_{j}$ 是指 $C$ 的第 $j$ row。

:::warning
也可以用矩陣乘法得知：
$$
\begin{align}
C_j&=e_j^{T}\times C\\
&=(e_j^{T}\times A)\times B\\
&=A_j \times B
\end{align}
$$
一樣要注意，這時的 $C_{j}$ 是指 $C$ 的第 $j$ row，但 $e_j\in F^{m}$，所以才需要先經過轉置。
:::

---

# 對角線矩陣

當我們叫一個矩陣 $D_r\in F^{m\times n}$ 為「$r$ 階對角線矩陣」時：

$$
\displaylines{
D_r\overset{\text{def}}{=}
\begin{pmatrix}
I_r & O_1\\
O_2 & O_3\\
\end{pmatrix}\\
I_r\in F^{r\times r},O_1 \in F^{r\times (n-r)},O_2 \in F^{(m-r)\times n},O_3 \in F^{(m-r)\times (n-r)}
}
$$

## 位階

如果將某個矩陣 $C\in F^{m\times n}$ 經過那六個基本運算，轉換成對角線矩陣 $D_r\in F^{m\times n}$，則：

$$
rank(C)=r
$$

因為那六個操作都是可逆矩陣，所以一波高端操作後的 $D_r$ 是保位階的。

## 三明治觀察

令 $C\in F^{m\times n}$，則：

- 「$rank(C)=r$」若且唯若「存在兩個反矩陣 $A\in F^{m\times m},B\in F^{n\times n},A\times C \times B=D_r$」
- 右到左是根據可逆保階
- 左到右就是我們上面的六個基本運算操作

## 轉置保位階

令 $C\in F^{m\times n}$，則：

$$
rank(C)=rank(C^T)
$$

也就是說：

- $C$ 的直行空間的維度，等於 $C^{T}$ 的直行空間的維度
- 也就等於 $C$ 的橫列空間的維度
- 所以直行空間的維度跟橫列空間的維度，都是 $C$ 的位階

### 證明

令 $rank(C)=r$ ，則根據三明治觀察，存在左右兩個反矩陣使得：

$$
A\times C \times B=D_r
$$

所以可以知道：

$$
(A\times C \times B)=B^T\times C^T \times A^T=D_r^T
$$

- $B^T\times C^T \times A^T$ 的部分轉置保可逆，可逆保位階。
- 所以可知 $rank(C^T)=rank(D_r^T)$，最後使用行空觀察可知 $rank(D_r^T)=r$

---

# 不升階觀察

令 $U,V,W$ 是三個有限維的向量空間並有共同純量場，令 $T_1\in \mathbb{L}(U,V),T_2\in \mathbb{L}(V,W)$，則：

$$
rank(T_2T_1)\le min\{rank(T_2),rank(T_1)\}
$$

所以如果換成矩陣的話，令 $B\in F^{m\times l},A\in F^{l\times n}$

$$
rank(B\times A)\le min\{rank(B),rank(A)\}
$$

## 證明

$$
\begin{align}
&T_1(U)\subseteq V \Rightarrow T_2(T_1(U))\subseteq T_2(V)\\
\Rightarrow\ rank(T_2T_1)&=dim(T_2(T_1(U)))\le dim(T_2(V))=rank(T_2)\\
\Rightarrow\ rank(B\times A)&=rank(L_BL_A)\le rank(L_B)=rank(B)\\
\Rightarrow\ rank(B\times A)&=rank(A^T\times B^T)\le rank(A^T)=rank(A)\\
\Rightarrow\ rank(T_2T_1)&=rank([T_2T_1]_{\alpha}^{\gamma})=rank([T_2]_{\beta}^{\gamma}\times [T_1]_{\alpha}^{\beta})\le rank([T_1]_{\alpha}^{\beta})=rank(T_1)
\end{align}
$$

第 4 個箭頭中用到了很上面講到的線轉矩陣的位階。