# 李宏毅_Linear Algebra Lecture 20: Column Space, Null Space, Row Space
###### tags: `Hung-yi Lee` `NTU` `Linear Algebra Lecture`
[課程撥放清單](https://www.youtube.com/playlist?list=PLJV_el3uVTsNmr39gwbyV-0KjULUsN7fW)
## Linear Algebra Lecture 20: Column Space, Null Space, Row Space
[課程連結](https://www.youtube.com/watch?v=aW0JVmpIxas&list=PLJV_el3uVTsNmr39gwbyV-0KjULUsN7fW&index=20)

### Three Associated Subspaces

課程主要說明三個著名的subspace，分別為Column Sapce、Null Space、Row Space。

假設A是一個mxn的Matrix：
* Col A
* A的column space一定是落在R^m^裡面。如果將A視為一個function，那它的A的column space就是所有的column linear combination之後所成的集合，也就是A的linear transform的range
* 假設藍色圈是domain，綠色為co-domain，將doamin內的東西對應到co-domain所成的集合就是range，也就是A的column space
* Null A
* Ax=0所成的集合，就是Null Space，而A是一個mxn的Matrix，那x就會是一個n維的vector，因此，Null A一定會落在R^n^裡面
* 假設藍色圈是input domain，綠色為co-domain。在co-domain上，那些input domain可以產生zero vector的成員，就是A的Null Space，而且一定包含zero vector
* Row A
* 將Row做Span，而每一個row都是n維向量，因此它一定落在R^n^裡面，等同於Col A^T^

後續將說明如何計算上面三個subspace的basis與dimension。
### Col A

* Basis
* Column Space的basis就是pivot column
* Dimension
* Column Space的dimension就是pivot column的數目，而這個數目也等於Matrix的Rank
### Rank A(revisit)

Rank代表的意義。
### Null A

* Basis
* A的Null Space就是Ax=0這個homogeneous system of linear equation的解所成的集合
* 找出這個system of linear equation的parameteric representation就找出A的Null Space的Basis
* 與free variable相乘的vector就是Null Space的Basis
* Dimension
* Null Space的Dimension就是free variable的數目，這也是Nullity的數目，也就是n - Rank A(n就是矩陣維度mxn中的n)
* Dim(Null A) + Dim(Col A) = n(n就是矩陣維度mxn中的n)
### Row A

* Basis
* 當A做完RREF之後，其nonzero的row A就是basis
* 先前課程提過，將A做Span與將R做Span所得的vector set是一樣的，只是比較難從A一眼看出，因此先做RREF之後就可以比較快得到
* Dimension
* 也就是做完RREF之後的nonzero row的數目，也就是Rank A

### Rank A(revisit)

Rank代表的意義。

很神奇的是，兩個不同的subspace(Col A, Row A)卻有相同的dimension，都是Rank A
### Rank A = Rank A^T^

* Proof
* Rank A = Dim(Col A) 且 Rank A = Dim(Row A) = Dim(Col A^T^) = Rank A^T^

### Dimension Theorem

* range就是將domain投影到co-domain所成的集合，是一個subspace，可以計算出它的dimension
* null space就是domain上有一群vector，投影到co-domain上之後會是zero vector，這也是一個subapce，也可以計算它的dimension

兩個supbapce的dimension相加會等於domain的dimension，這讓人感到訝異的是，range是在另一個vector space，但domain的dimension卻會等於range + null space的dimension。

但仔細想一下，range等於A的column space，而range的dimension為A的column space的dimension，也就是Rank A。而null space的dimension就是Null A的dimension，也就是n - Rank A，兩者相加，當然就是等於n，也就是column的數目，也就是input domain的dimension。
### Summary

總結說明，假設A是一個mxn的matrix，那它的三個subspace就會是如上圖的關係。