# 線性獨立

This work by Jephian Lin is licensed under a [Creative Commons Attribution 4.0 International License](http://creativecommons.org/licenses/by/4.0/).
{%hackmd 5xqeIJ7VRCGBfLtfMi0_IQ %}
```python
from lingeo import random_good_matrix, random_int_list, kernel_matrix
```
## Main idea
Let $S = \{{\bf u}_1,\ldots,{\bf u}_k\}$ be a set of finite many vectors.
We say $S$ is **linearly independent** if the only coefficients $c_1,\ldots, c_k\in\mathbb{R}$ satisfying
$$c_1{\bf u}_1 + \cdots + c_k{\bf u}_k = {\bf 0}
$$
is $c_1 = \cdots = c_k = 0$.
(A infinite set of vectors is linearly independent if any finite subsut of it is linearly independent.)
The following are equivalent:
1. $S$ is linearly independent.
2. For any vector ${\bf u}\in S$, ${\bf u}\notin\operatorname{span}(S\setminus\{{\bf u}\})$.
3. For any vector ${\bf u}\in S$, $\operatorname{span}(S\setminus\{{\bf u}\})\subsetneq\operatorname{span}(S)$.
Therefore, intuitively, $S$ is linearly independent means every vector in it is important.
There are other equivalent conditions that is easier to check.
Let $S$ be a set of vectors and $A$ the matrix whose columns are vectors in $S$.
The following are equivalent:
1. $S$ is linearly independent.
2. The representation of any linear combination of $S$ is unique.
That is, if ${\bf b} = c_1{\bf u}_1 + \cdots + c_k{\bf u}_k = d_1{\bf u}_1 + \cdots + d_k{\bf u}_k$, then $c_1 = d_1$, $\ldots$, and $c_k = d_k$.
3. For any ${\bf b}\in\operatorname{Col}(A)$, the solution to $A{\bf x} = {\bf b}$ is unique.
4. $\operatorname{ker}(A) = \{{\bf 0}\}$.
## Side stories
- unique representation of polynomials
- interpolation
## Experiments
##### Exercise 1
執行下方程式碼。
矩陣 $\left[\begin{array}{c|c} R & {\bf r} \end{array}\right]$ 是 $\left[\begin{array}{c|c} A & {\bf b} \end{array}\right]$ 的最簡階梯形式矩陣。
令 ${\bf u}_1,\ldots,{\bf u}_5$ 為 $A$ 的各行向量。
```python
### code
set_random_seed(0)
print_ans = False
m,n,r = 3,5,2
A = random_good_matrix(m,n,r)
v = vector(random_int_list(5))
b = A * v
Ab = A.augment(b, subdivide=True)
Rr = Ab.rref()
print("[ A | b ] =")
show(Ab)
print("[ R | r ] =")
show(Rr)
if print_ans:
c = kernel_matrix(A).transpose()[0]
print("{} u1 + {} u2 + {} u3 + {} u4 + {} u5 = 0".format(*c))
print("b = {} u1 + {} u2 + {} u3 + {} u4 + {} u5".format(*v))
print("b = {} u1 + {} u2 + {} u3 + {} u4 + {} u5".format(*(v+c)))
for i in range(5):
if c[i] != 0:
first = i
break
print("u%s = -( "%(i+1) +
" + ".join("%s u%s"%(c[i]/c[first], i+1) for i in range(5) if i != first) + " )")
```
$Ans:$
藉由 `seed = 0`得到
$$ \left[\begin{array}{c|c} A & b \end{array}\right] = \left[\begin{array}{ccccc|c}
1 & -3 & 18 & 5 & -14 & 57 \\
3 & -8 & 49 & 15 & -39 & 150 \\
-8 & 20 & -124 & -40 & 100 & -372
\end{array}\right].
$$
以及
$$ \left[\begin{array}{c|c} R & r \end{array}\right] = \left[\begin{array}{ccccc|c}
1 & 0 & 3 & 5 & -5 & -6 \\
0 & 1 & -5 & 0 & 3 & -21 \\
0 & 0 & 0 & 0 & 0 & 0
\end{array}\right].
$$
##### Exercise 1(a)
找一群不是全為 $0$ 的數字 $c_1,\ldots,c_5$﹐
使得 $c_1{\bf u}_1 + \cdots + c_5{\bf u}_5 = {\bf 0}$。
$Ans:$
有數字 $c_1 = -3,c_2 = 5,c_3 = 1,c_4= 0,c_5 = 0$
可以使 $-3{\bf u}_1 + 5{\bf u}_2 + 1{\bf u}_3 + 0{\bf u}_4 + 0{\bf u}_5 = {\bf 0}$。
##### Exercise 1(b)
已知 ${\bf b} \in \operatorname{Col}(A)$。
找兩群相對應數字不完全一樣的數字 $c_1,\ldots,c_5$ 和 $d_1,\ldots,d_5$﹐
使得 $c_1{\bf u}_1 + \cdots + c_5{\bf u}_5 = d_1{\bf u}_1 + \cdots + d_5{\bf u}_5$。
:::warning
- [x] 可是 $\bb \neq 5\bu_1$
:::
$Ans:$
設 ${\bf b}=c_1{\bf u}_1 + \cdots + c_5{\bf u}_5 = d_1{\bf u}_1 + \cdots + d_5{\bf u}_5$
則可以找到 ${\bf b}= -6{\bf u}_1 + -21{\bf u}_2 + 0{\bf u}_3 + 0{\bf u}_4 + 0{\bf u}_5 = -1{\bf u}_1 + -21{\bf u}_2 + 0{\bf u}_3 + -1{\bf u}_4 + 0{\bf u}_5$
##### Exercise 1(c)
將 $A$ 的其中一個行向量寫成其它行向量的線性組合。
:::warning
- [x] 是不是應該跟 1(a) 相呼應一下
:::
$Ans:$
${\bf u}_3 = 3{\bf u}_1 + (-5){\bf u}_2 + 0{\bf u}_4 + 0{\bf u}_5.$
## Exercises
##### Exercise 2
執行以下程式碼。
令 $S = \{ {\bf u}_1, {\bf u}_2, {\bf u}_3 \}$ 為矩陣 $A$ 的各行向量。
問 $S$ 是否線性獨立。
若是﹐將 ${\bf b}$ 寫成 $S$ 的線性組合。
若否﹐找到一個 $S$ 中的向量將其寫成其它向量的線性組合。
```python
### code
set_random_seed(0)
print_ans = False
ind = choice([True, False])
m,n,r = 5,3,3 if ind else 2
A = random_good_matrix(m,n,r)
print("A =")
show(A)
v = vector(random_int_list(3))
b = A * v
print("b =", b)
if print_ans:
print("Linearly independent?", ind)
if ind:
print("b = " + " + ".join("%s u%s"%(v[i], i+1) for i in range(3)))
else:
c = kernel_matrix(A).transpose()[0]
for i in range(3):
if c[i] != 0:
first = i
break
print("u%s = -( "%(i+1) +
" + ".join("%s u%s"%(c[i]/c[first], i+1) for i in range(3) if i != first) + " )")
```
:::warning
- [x] 標點
- [x] 你們的說明只解釋了 $\bu_3$ 不能被 $\bu_1$ 和 $\bu_2$ 寫成線性組合,沒有解釋為什麼 $\bu_1$ 不能、或是 $\bu_2$ 不能。應該要算一下 $[A|\bb]$ 的 rref?
:::
$Ans:$
藉由 `seed = 0`得到
$$A = \begin{bmatrix}
1 & -5 & 0 \\
-3 & 16 & 3 \\
12 & -63 & -8 \\
-50 & 264 & 38 \\
-28 & 147 & 20 \\
\end{bmatrix}$$
與 ${\bf b} = (12 , -45 , 169 , -718 , -397)$,
則經過列運算可以得到 $\left[\begin{array}{c|c} A & \bb \end{array}\right]$ 的最簡階梯式
$$\left[\begin{array}{c|c} R & \br \end{array}\right] = \begin{bmatrix}
1 & 0 & 0 & -3 \\
0 & 1 & 0 & -3 \\
0 & 0 & 1 & -2 \\
0 & 0 & 0 & 0 \\
0 & 0 & 0 & 0 \\
\end{bmatrix}$$
,則我們可以從最簡階梯式知道 $\bu_1 , \bu_2 , \bu_3$ 無法互相寫成彼此的線性組合,故 $S$ 為線性獨立。
而 $\bb = -3\bu_1 - 3\bu_2 + -2\bu_3$。
<!--
經由代數運算,可知${a_1},{a_2}$無實數解,
由於 ${\bf u}_1 , {\bf u}_2 , {\bf u}_3$ 無法互相寫成彼此的線性組合,故 $S$ 為線性獨立。
而 ${\bf b} = -3{\bf u}_1 + -3{\bf u}_2 + -2{\bf u}_3$。
-->
##### Exercise 3
以下的例子說明了多項式也有類似地「表示法唯一」的性質。
(有沒有辦法把多項式寫成向量的樣子?)
##### Exercise 3(a)
證明一個二次多項式 $f(x)$ 如果可以寫成 $c_0 + c_1(x-1) + c_2(x-1)^2$ 的樣子。
則 $c_0,c_1,c_2$ 的選擇唯一。
$Ans:$
設 $f(x)$ 可以被寫為 $c_0 + c_1(x-1) + c_2(x-1)^2$ 與 $d_0 + d_1(x-1) + d_2(x-1)^2$ 兩種形式,則這兩種形式的展開式分別為 $c_2 x^2 + (c_1-2c_2)x + (c_2-c_1+c_0)$ 與 $d_2 x^2 + (d_1-2d_2)x + (d_2-d_1+d_0)$,又因為 $f(x)$ 的展開式只有一種,所以可以得到 $c_2 = d_2$,$c_1-2c_2 = d_1-2d_2$,與 $c_2-c_1+c_0 = d_2-d_1+d_0$,最後就可以得到 $c_2 = d_2$,$c_1 = d_1$,$c_0 = d_0$,與假設有兩種形式矛盾。所以假設錯誤,$f(x)$ 只有一種表示法,即 $c_0,c_1,c_2$ 的選擇唯一。
##### Exercise 3(b)
令
$$\begin{aligned}
f_1(x) &= \frac{(x-2)(x-3)}{(1-2)(1-3)}, \\
f_2(x) &= \frac{(x-1)(x-3)}{(2-1)(2-3)}, \\
f_3(x) &= \frac{(x-1)(x-2)}{(3-1)(3-2)}. \\
\end{aligned}
$$
證明一個二次多項式 $f(x)$ 如果可以寫成 $c_1f_1(x) + c_2f_2(x) + c_3f_3(x)$ 的樣子。
則 $c_1,c_2,c_3$ 的選擇唯一。
:::warning
- [x] 因為 $f(x)=y$ 中 $x$ 所對應的 $y$ 有唯一解, <-- 這句可以刪掉,一個 $x$ 對到一個 $y$ 是函數的基本性質。
:::
$Ans:$
因 $f(x)$ 可以寫成 $c_1f_1(x) + c_2f_2(x) + c_3f_3(x)$ 的形式,那麼就可以得到 $f(1)=c_1$,$f(2)=c_2$,以及 $f(3)=c_3$。故這種表示方法唯一,即 $c_1,c_2,c_3$ 的選擇唯一。
##### Exercise 4
證明以下敘述等價:
1. $S$ is linearly independent.
2. For any vector ${\bf u}\in S$, ${\bf u}\notin\operatorname{span}(S\setminus\{{\bf u}\})$.
3. For any vector ${\bf u}\in S$, $\operatorname{span}(S\setminus\{{\bf u}\})\subsetneq\operatorname{span}(S)$.
$Ans:$
<!--
$1. \rightarrow 2. \rightarrow 3. \rightarrow 1.$
$S$ 為線性獨立,代表任意在 $S$ 裡面的向量無法寫為其他在 $S$ 裡面的向量的線性組合,且少了任意在 $S$ 裡面的向量 $\bu$ 都會使 $\vspan(S)$ 改變。換句話說,$\vspan(S \setminus \{{\bf u}\})$ 在加上 $\bu$ 後會變為 $\vspan(S)$,且兩者為不同空間 $(\vspan(S \setminus \{{\bf u}\}) \neq \vspan(S))$。既然 $\vspan(S \setminus \{{\bf u}\})$ 加上 $\bu$ 後會改變,那就代表 $\bu$ 無法寫為 $\vspan(S \setminus \{{\bf u}\})$ 的其中一種線性組合,因此 $\bu$ 與 $\vspan(S \setminus \{{\bf u}\})$ 裡面的向量為線性獨立,故 $\bu \notin \vspan(S \setminus \{{\bf u}\})$。另外,因為 $\vspan(S \setminus \{{\bf u}\})$ 的所有元素都在 $\vspan(S)$ 中,所以 $\vspan(S \setminus \{{\bf u}\}) \subseteq \vspan(S)$,把這個敘述跟 $\vspan(S \setminus \{{\bf u}\}) \neq \vspan(S)$ 結合就可以得到 $\vspan(S \setminus \{{\bf u}\}) \subsetneq \vspan(S)$。而 $\vspan(S \setminus \{{\bf u}\}) \subsetneq \vspan(S)$ 這個條件也告訴我們任何一個在 $S$ 裡面的 $\bu$ 被減去後都會影響到 $\vspan(S)$,也就是說對於任何一個在 $S$ 裡面的 $\bu$ 都不會是其他向量的線性組合,故由這些向量集合而成的 $S$ 為線性獨立。故得證以上條件互相等價。
-->
$1. \implies 2.$
($S$ 為線性獨立,代表 $S$ 裡面的任意向量 $\bu_i$ 無法寫成其他在 $S$ 裡面的向量的線性組合。)
因 $S$ 線性獨立,故 ${\bf 0} \notin S$。
設 ${\bf u} \in S$ 且 ${\bf u} \in \operatorname {span}(S\setminus\{{\bf u}\})$,故 ${\bf u}$ 可以寫成 $c_1{\bf u}_1 + \ldots + c_k{\bf u}_k$,其中 $c_1,\ldots,c_k \in \mathbb R$ 且 ${\bf u}_1,\ldots,{\bf u}_k \in \vspan(S\setminus{\{\bu}\}) \in \vspan(S)$,那麼 $-\bu + c_1\bu_1 + \ldots +c_k\bu_k = \bzero$。與 $S$ 為線性獨立矛盾,故得證。
:::warning
- [x] ${\bf u}\in S$, ${\bf u}\notin\operatorname{span}(S\setminus\{{\bf u}\})$. --> 假設對任何 $\bu\in S$ 都有 $\bu\notin\vspan(S\setminus\{\bu\})$。
- [x] $u_1,\ldots,u_k \in \mathbb R$ <-- 是 $c_i$ 吧?
:::
$2. \implies 1.$
假設對任何 $\bu\in S$ 都有 $\bu\notin\vspan(S\setminus\{\bu\})$,
即 ${\bf u}$ 無法以 $S\setminus\{{\bf u}\}$ 中元素的線性組合而成。
設 $S$ 非線性獨立,即有不全為零的 $c_1,\ldots,c_k$,使得 $c\bu + c_1\bu_1 + \ldots +c_k\bu_k = \bzero$,其中 $c_1,\ldots,c_k \in \mathbb R$。
則經過移項後可以得到 $\bu = \frac{-c_1}{c}\bu_1 + \ldots + \frac{-c_k}{c}\bu_k$,也就是 ${\bf u}\in\operatorname{span}(S\setminus\{{\bf u}\})$。
此與原條件矛盾,故得證。
:::warning
- [x] $S$ 為線性獨立,明顯地我們有 $\vspan(S\setminus{\{\bu}\}) \subseteq \vspan(S)$。因此此題即證明「不存在 $\bu$ 使得 $\vspan(S\setminus{\{\bu}\}) = \vspan(S)$」。--> 明顯地我們有 $\vspan(S\setminus{\{\bu}\}) \subseteq \vspan(S)$。因此此題即證明「假設 $S$ 為線性獨立,則不存在 $\bu$ 使得 $\vspan(S\setminus{\{\bu}\}) = \vspan(S)$」。
- [ ] 中間段的論證沒必要用一般的 $\bv$,直接說明 $\bu\in\vspan(S\setminus\{\bu\})$ 就好。
:::
$1. \implies 3.$
($S$ 為線性獨立,代表 $S$ 裡面的任意向量 $\bu_i$ 無法寫成其他在 $S$ 裡面的向量的線性組合。)
明顯地我們有 $\vspan(S\setminus{\{\bu}\}) \subseteq \vspan(S)$。
因此此題即證明「假設 $S$ 為線性獨立,則不存在 $\bu$ 使得 $\vspan(S\setminus{\{\bu}\}) = \vspan(S)$」。
假設存在 $\bu$ 使得 $\vspan(S\setminus{\{\bu}\}) = \vspan(S)$。
那麼 $\bu$ 可以寫成 $b_1\bu_1 + \cdots + b_k\bu_k$,其中 $b_1,\ldots,b_k \in \mathbb R$ 且 $\bu_1,\ldots,\bu_k\in S\setminus\{\bu\}$,也就是
$$
-\bu + b_1\bu_1 + \cdots + b_k\bu_k = \bzero,
$$
與 $S$ 線性獨立的條件矛盾。故假設不成立。
將 $\vspan(S\setminus{\{\bu}\}) \neq \vspan(S)$ 與 $\vspan(S\setminus{\{\bu}\}) \subseteq \vspan(S)$ 合併可以得到 $\vspan(S\setminus{\{\bu}\}) \subsetneq \vspan(S)$,故得證。
<!--
假設我們可以刪去一個 $S$ 中的 $\bu$ 使得 $\vspan(S\setminus{\{\bu}\}) = \vspan(S)$,那麼我們可以得到每一個在 $\vspan(S\setminus{\{\bu}\})$ 中的 $\bv$ 都在 $\vspan(S)$ 中,因此我們可以將 $\bv$ 寫成 $a_1\bu_1 + \ldots + a_k\bu_k$ 與 $b_0\bu + b_1\bu_1 + \ldots + a_k\bu_k$,其中 $a_1,\ldots,a_k$ 與 $b_0,\ldots,b_k \in \mathbb R$。那麼我們取適當的 $\bv$ 使得 $b \neq 0$,則經過移項後可以得到 $\bu = \frac{a_1-b_1}{b_0}\bu_1 + \ldots + \frac{a_k-b_k}{b_0}\bu_k$,與 $S$ 線性獨立的條件矛盾,故假設不成立,$\vspan(S\setminus{\{\bu}\}) \neq \vspan(S)$,將這個條件與 $\vspan(S\setminus{\{\bu}\}) \subseteq \vspan(S)$ 結合可以得到 $\vspan(S\setminus{\{\bu}\}) \subsetneq \vspan(S)$。
-->
:::warning
- [x] 有 $\vspan(S\setminus{\{\bu}\}) \subsetneq \vspan(S)$。 --> 假設對任何 $\bu\in S$ 都有 $\vspan(S\setminus{\{\bu}\}) \subsetneq \vspan(S)$。
- [x] 假設 $S$ 非線性獨立,$S$ 中有 $\bu,\bu_1,\ldots,\bu_k$,則 $\bu$ 可以寫成 $c_1\bu_1 + ... + c_k\bu_k$,其中 $c_1,\ldots,c_k \in \mathbb R$。--> 假設 $S$ 非線性獨立,$S$ 中有 $\bu_1,\ldots,\bu_k$ 及不會為零的 $c_1,\ldots,c_k \in \mathbb R$ 使得 $c_1\bu_1 + ... + c_k\bu_k = \bzero$。不失一般性,假設 $c_1 \neq 0$,則 $\bu_1$ 可以寫成 $\bu_2,\ldots, \bu_k$ 的線性組合。(想一下後面要怎麼改)
:::
$3. \implies 1.$
<!--$\vspan(S \setminus \{{\bf u}\}) \subsetneq \vspan(S)$ 這個條件告訴我們任何一個在 $S$ 裡面的 $\bu$ 被減去後都會影響到 $\vspan(S)$,也就是說對於任何一個在 $S$ 裡面的 $\bu$ 都不會是其他向量的線性組合,故由這些向量集合而成的 $S$ 為線性獨立。-->
假設對於任何的 $\bu \in S$ 都有 $\vspan(S\setminus{\{\bu}\}) \subsetneq \vspan(S)$。
假設 $S$ 非線性獨立,$S$ 中有 $\bu_1,\ldots,\bu_k$ 及不全為零的 $c_1,\ldots,c_k \in \mathbb R$ 使得 $c_1\bu_1 + \ldots + c_k\bu_k = \bzero$。不失一般性,假設 $c_1 \neq 0$,則 $\bu_1$ 可以寫成 $\bu_2,\ldots, \bu_k$ 的線性組合。即 $\bu_1 = \frac{-c_2}{c_1}\bu_2 + \cdots + \frac{-c_k}{c_1}\bu_k$。既然任何在 $S$ 中能被 $\bu_1$ 表示出來的向量也能夠被其他向量創造,那麼 $\bu_1$ 去掉後的空間跟原本的空間是一樣的,即 $\vspan(S\setminus{\{\bu}\}) = \vspan(S)$,與 $\vspan(S\setminus{\{\bu}\}) \subsetneq \vspan(S)$ 的條件不合,故 $S$ 線性獨立。
##### Exercise 5
令 $S = \{\bu_1, \ldots, \bu_k\}$ 為一群向量、
而 $A$ 為以 $S$ 中向量為行向量的矩陣。
證明以下敘述等價:
1. $S$ is linearly independent.
2. The representation of any linear combination of $S$ is unique.
That is, if ${\bf b} = c_1{\bf u}_1 + \cdots + c_k{\bf u}_k = d_1{\bf u}_1 + \cdots + d_k{\bf u}_k$, then $c_1 = d_1$, $\ldots$, and $c_k = d_k$.
3. For any ${\bf b}\in\operatorname{Col}(A)$, the solution to $A{\bf x} = {\bf b}$ is unique.
4. $\operatorname{ker}(A) = \{{\bf 0}\}$.
<!--
$S$ 為線性獨立,代表任意在 $S$ 裡面的向量 $\bu_i$ 無法寫為其他在 $S$ 裡面的向量的線性組合。假設 $S$ 中向量 $(\bu_1,\ldots,\bu_k)$ 為 $A$ 之行向量,即 $\Col(A) = \vspan(S)$。設 $\bb$ 可寫為 $c_1\bu_1 + \ldots + c_k\bu_k$ 與 $d_1\bu_1 + \ldots + d_k\bu_k$,其中 $(c_1, \ldots, c_k),(d_1, \ldots, d_k) \in \mathbb R$ 且其中至少某些項 $c_i \neq d_i, c_j \neq d_j$,則將兩式相減,得到 $(d_1\bu_1 + \ldots + d_k\bu_k) - (c_1\bu_1 + \ldots + c_k\bu_k) = \bb -\bb = \bzero$,化簡得 $(d_i - c_i)\bu_i + (d_j - c_j)\bu_j = \bzero$,即 $(d_i - c_i)\bu_i = -(d_j - c_j)\bu_j$,然而這與原本 $S$ 為線性獨立的條件矛盾,故此假設錯誤, $\bb$ 的線性組合表示法唯一。設 $A\bx = \bb$ 中,$\bx=(x_1,\ldots,x_k)$,其中 $x_k \in \mathbb R$。則 $x_1\bu_1 + \ldots + x_k\bu_k = \bb$,前述所證得 $\bb$ 的線性組合表示法是唯一的,推得解 $x_1,\ldots,x_k$ 是唯一的。因為 $\ker(A)$ 即是 $A\bx = \bzero$ 的解集合,推得 $x_1\bu_1 + \ldots + x_k\bu_k = \bzero$ ,進而得知 $\bu_k = \frac{1}{x_k}(x_1\bu_1 + \ldots + x_{k-1}\bu_{k-1}), x_k \neq 0$,但因為 $S$ 為線性獨立,所以 $\bu_k$ 無法寫成這種形式,因此 $x_k = 0$。同理,$x_1,\ldots,x_{k-1} = 0$。故解 $=(x_1, \ldots, x_k) = \{{\bf 0}\}$ 為唯一解。因此,$\ker(A) = \{{\bf 0}\}$。
-->
:::warning
- [x] $(d_i - c_i)\bu_i = -(d_j - c_j)\bu_j.$ --> ??? 你怎麼知道 $i,j$ 以外的其它項 $c_k = d_k$?請改成:
$$
?? + \cdots + ?? = \bzero,
$$
其中 ?? 不全為零。
- [x] 換以... 那段 --> 反之,假設任意 $\bb \in \vspan(S)$ 都有唯一表示法。假設 $S$ 非線性獨立,則存在 ??? 使得
$$
?? + \cdots + ?? = \bzero = 0\bu_1 + \cdots + 0\bu_k.
$$
所以 $\bzero\in\vspan(S)$ 有兩種表示法,矛盾。(原本的說明沒有講清楚兩個表示法是怎麼找到的。)
:::
$1. \iff 2.$
($S$ 為線性獨立,代表 $S$ 裡面的任意向量 ${\bf u}_i$ 無法寫成其他在 $S$ 裡面的向量的線性組合。)
現以 $S$ 為線性獨立。若存在一向量 $\bb \in \vspan(S)$,假設 $\bb$ 可以寫成兩種形式 $$\bb = c_1\bu_1 + \cdots + c_k\bu_k = d_1\bu_1 + \cdots + d_k\bu_k$$,其中 $c_1, \ldots, c_k,d_1, \ldots, d_k \in \mathbb R$ 且其中至少某些項 $c_i \neq d_i$。
則將兩式相減,得到
$$(d_1\bu_1 + \cdots + d_k\bu_k) - (c_1\bu_1 + \cdots + c_k\bu_k) = \bb -\bb = \bzero,$$
即
$$(d_1 - c_1)\bu_1 + \cdots + (d_k - c_k)\bu_k = \bzero。0
$$
其中 $(d_i - c_i)$ 不全為零。
然而這與原本 $S$ 為線性獨立的條件矛盾,故此假設不成立,$\bb$ 的線性組合表示法唯一。
反之,假設任意 $\bb \in \vspan(S)$ 都有唯一表示法。假設 $S$ 非線性獨立,則存在 $c_1,\ldots,c_k \in \mathbb R$,其中 $c_1,\ldots,c_k$ 不全為零,使得
$$
c_1\bu_1 + \cdots + c_k\bu_k = \bzero = 0\bu_1 + \cdots + 0\bu_k.
$$
所以 $\bzero\in\vspan(S)$ 有兩種表示法,矛盾。
:::warning
- [x] 一樣,怎麼知道 $c_k = d_k$
第一段
我們設定有 $A = \begin{bmatrix} {\bf u}_1 & \ldots & {\bf u}_k \end{bmatrix}$ 為一矩陣,則 $\Col(A) = \vspan(S)$ 且
$$
\ker(A) = \{(x_1,\ldots,x_k): x_1\bu_1 + \cdots + x_k\bu_k = \bzero\}.
$$
假設有一向量 $\bb \in \vspan(S)$,且 $A\bx = \bb$ 至少有兩組解 $(c_1,\ldots,c_k)$ 與 $(d_1,\ldots,d_k)$。
那麼
$$
\begin{aligned}
\bb &= c_1\bu_1 + \ldots + c_k\bu_k \\
&= d_1\bu_1 + \ldots + d_k\bu_k,
\end{aligned}
$$
,其中 $(c_1, \ldots, c_k),(d_1, \ldots, d_k) \in \mathbb R$ 且其中至少某些項 $c_i \neq d_i$。
則將兩式相減,得到
$$
??? + \cdots + ??? = \bzero,$$
其中 ??? 不全為零。
然而這與原本 $S$ 為線性獨立的條件矛盾,故此假設不成立,$A\bx = \bb$ 有唯一解。
- [x] 第二段一樣關鍵的兩種解法沒講清楚。參考以下:
假設對任何 $\bb\in\Col(A)$,方程式 $A\bx = \bb$ 都有唯一解。
假設 $S$ 非線性獨立,則存在 ??? 使得
$$
?? + \cdots + ?? = \bzero = 0\bu_1 + \cdots + 0\bu_k.
$$
所以 $?\in\Col(A)$ 所對應的 $A\bx = ?$ 有兩相異解,矛盾。
- [x] $1\iff 4$ 的部份用同樣的框架修改。
:::
$1. \iff 3.$
我們設定有 $A = \begin{bmatrix} {\bf u}_1 & \ldots & {\bf u}_k \end{bmatrix}$ 為一矩陣,則 $\Col(A) = \vspan(S)$ 且
$$
\ker(A) = \{(x_1,\ldots,x_k): x_1\bu_1 + \cdots + x_k\bu_k = \bzero\}.
$$
假設有一向量 $\bb \in \vspan(S)$,且 $A\bx = \bb$ 至少有兩組解 $(c_1,\ldots,c_k)$ 與 $(d_1,\ldots,d_k)$。
那麼
$$
\begin{aligned}
\bb &= c_1\bu_1 + \ldots + c_k\bu_k \\
&= d_1\bu_1 + \ldots + d_k\bu_k,
\end{aligned}
$$
其中 $(c_1, \ldots, c_k),(d_1, \ldots, d_k) \in \mathbb R$ 且其中至少某些項 $c_i \neq d_i$。
則將兩式相減,得到
$$
(d_1 - c_1)\bu_1 + \cdots + (d_k - c_k)\bu_k = \bzero,$$
其中 $(c_i-d_i)$ 不全為零。
然而這與原本 $S$ 為線性獨立的條件矛盾,故此假設不成立,$A\bx = \bb$ 有唯一解。
假設對任何 $\bb\in\Col(A)$,方程式 $A\bx = \bb$ 都有唯一解。
假設 $S$ 非線性獨立,則存在 $c_1,\ldots,c_k \in \mathbb R$,其中 $c_1,\ldots,c_k$ 不全為零,使得
$$
c_1\bu_1 + \cdots + c_k\bu_k = \bzero = 0\bu_1 + \cdots + 0\bu_k。
$$
所以 $\bzero\in\Col(A)$ 所對應的 $A\bx = \bzero$ 有兩相異解,矛盾。故假設不成立,$S$ 為線性獨立。
$1. \iff 4.$
我們設定有 $A = \begin{bmatrix} {\bf u}_1 & \ldots & {\bf u}_k \end{bmatrix}$ 為一矩陣,則 $\Col(A) = \vspan(S)$ 且
$$
\ker(A) = \{(x_1,\ldots,x_k): x_1\bu_1 + \cdots + x_k\bu_k = \bzero\}.
$$
那麼明顯的 $\bzero \in \vspan(S)$,假設 $A\bx = \bzero$ 至少有兩組解 $(c_1,\ldots,c_k)$ 與 $(d_1,\ldots,d_k)$。
那麼
$$
\begin{aligned}
\bzero &= c_1\bu_1 + \ldots + c_k\bu_k \\
&= d_1\bu_1 + \ldots + d_k\bu_k,
\end{aligned}
$$
,其中 $(c_1, \ldots, c_k),(d_1, \ldots, d_k) \in \mathbb R$ 且其中至少某些項 $c_i \neq d_i$。
則將兩式相減,得到
$$
(d_1 - c_1)\bu_1 + \cdots + (d_k - c_k)\bu_k = \bzero,$$
其中 $(c_i-d_i)$ 不全為零。
然而這與原本 $S$ 為線性獨立的條件矛盾,故此假設不成立,$\ker(A) = {\{\bzero}\}$ 有唯一零解。
假設 $\ker(A) = {\{\bzero}\}$ 有唯一零解。
假設 $S$ 非線性獨立,則存在 $c_1,\ldots,c_k \in \mathbb R$,其中 $c_1,\ldots,c_k$ 不全為零,使得
$$
c_1\bu_1 + \cdots + c_k\bu_k = \bzero = 0\bu_1 + \cdots + 0\bu_k。
$$
所以 $\ker(A)$ 有非零解,矛盾。故假設不成立,$S$ 為線性獨立。
##### Exercise 6(a)
若 $A$ 是一個 $2\times 2$ 的矩陣且 $\det(A) \neq 0$。
證明 $A$ 的行向量所形成的集合是線性獨立的。
:::info
證明沒問題。
補充一下,實際上兩個方向都是對的,而且是對任何大小的矩陣都是對的,也就是:
令 $A$ 為一 $n\times n$ 矩陣。則「$\det(A) \neq 0$」和「$A$ 的行向量集合是線性獨立的」等價。
:::
:::warning
- [x] 行列式值沒有絕對值
:::
$Ans:$
設 $A = \begin{bmatrix}
a_1 & a_2 \\
b_1 & b_2
\end{bmatrix}$,$\bu_1 = (a_1,b_1) , \bu_2 = (a_2,b_2)$,又設 $\bu_1,\bu_2$ 非線性獨立,則 $\bu_2$ 可以寫成 $x\bu_1$,其中 $x \in \mathbb R$。進而推得 $a_2 = xa_1 , b_2 = xb_1$。而 $\det(A)$ 的值為
$$a_1b_2 - a_2b_1 = a_1xb_1-xa_1b_1 = 0.
$$
藉由否逆命題證得若 $\bu_1,\bu_2$ 非線性獨立,則 $\det(A) = 0$。換句話說,若 $\det(A) \neq 0$,則 $\bu_1,\bu_2$ 線性獨立。
##### Exercise 6(b)
若 $A$ 是一個 $3\times 3$ 的矩陣且 $\det(A) \neq 0$。
證明 $A$ 的行向量所形成的集合是線性獨立的。
:::warning
- [x] $\bu_3$ 不見得可以寫成另兩個的線性組合喔,想一下
$$A = \begin{bmatrix}
1 & 1 & 1 \\
1 & 1 & 2 \\
1 & 1 & 3 \\
\end{bmatrix}
$$
可以把
則 $\bu_3$ 可以寫成 $x\bu_1+y\bu_2$
換成
則其中一個向量可以寫成其它向量的線性組合,不失一般性,我們假設 $\bu_3$ 可以寫成 $x\bu_1+y\bu_2$
- [x] 行列式值沒有絕對值
:::
$Ans:$
設
$$A = \begin{bmatrix}
a_1 & a_2 & a_3 \\
b_1 & b_2 & b_3 \\
c_1 & c_2 & c_3
\end{bmatrix},
$$
$\bu_1 = (a_1,b_1,c_1) , \bu_2 = (a_2,b_2,c_2), \bu_3 = (a_2,b_2,c_3)$。
假設 $\bu_1,\bu_2,\bu_3$ 非線性獨立,則其中一個向量可以寫成其它向量的線性組合,不失一般性,我們假設 $\bu_3$ 可以寫成 $x\bu_1+y\bu_2$,其中 $x,y \in \mathbb R$。
進而推得 $a_3 = xa_1+ya_2 , b_3 = xb_1+yb_2 , c_3 = xc_1+yc_2$。
而 $\det(A)$ 的值為
$$a_1b_2c_3 + a_2b_3c_1 + a_3b_1c_2 - a_3b_2c_1 - a_2b_1c_3 - a_1b_3c_2 =$$
$$a_1b_2(xc_1+yc_2) + a_2(xb_1+yb_2)c_1 + (xa_1+ya_2)b_1c_2 - (xa_1+ya_2)b_2c_1 - a_2b_1(xc_1+yc_2) - a_1(xb_1+yb_2)c_2 = $$
$$xa_1b_2c_1+ya_1b_2c_2+xa_2b_1c_1+ya_2b_2c_1+xa_1b_1c_2+ya_2b_1c_2-$$
$$(xa_1b_2c_1+ya_1b_2c_2+xa_2b_1c_1+ya_2b_2c_1+xa_1b_1c_2+ya_2b_1c_2)=0
$$
藉由否逆命題證得若 $\bu_1,\bu_2,\bu_3$ 非線性獨立,則 $\det(A) = 0$。換句話說,若 $\det(A) \neq 0$,則 $\bu_1,\bu_2,\bu_3$ 線性獨立。
:::info
整體來說算清楚,證明的論述還可以改進。
目前分數:6/5
:::