# 李宏毅_Linear Algebra Lecture 34: General Vectors (Part I)
###### tags: `Hung-yi Lee` `NTU` `Linear Algebra Lecture`
[課程撥放清單](https://www.youtube.com/playlist?list=PLJV_el3uVTsNmr39gwbyV-0KjULUsN7fW)
## Linear Algebra Lecture 34: General Vectors (Part I)
[課程連結](https://www.youtube.com/watch?v=o4dPfMkz_lw&list=PLJV_el3uVTsNmr39gwbyV-0KjULUsN7fW&index=35)

### Introduction

很多的事情都可以視為vectors，一個函數也可以視為vector。至今為此我們所學到的多數觀念，Linear combination、Span、Basis、Orthogonal…等，都可以直接以更廣義的vector來應用。

### Are they vectors?

* matrix可以視為vector，只要將它拉直
* 線性轉換也可以是vector，因為它的背後就是matrix，而matrix可以視為vector
* polynomial也可以是vector

### Are they vectors?

* 函數也可以是vector，舉例來說，$f(t)=e^t$，只要它是無窮多的元素所組成

### What is a vector?

如果你有一堆的object，它們集合起來形成一個vector space，那它們就可以稱為vector，其中vector space的條件如下：
* 定義兩個operator，"addition"(加)、"scalar multiplication"(乘)
* 假設u、v、w都屬於V，a、b為scalars。而u、v相加或au都一定是落於V裡面
* u + v = v + u、(u + v) + w = u + (v + w)
* V存在zero vector，且u + 0 = u
* V存在-u，且-u + u = 0
* 1u = u、(ab)u = a(bu)、a(u + v) = au + av、(a + b)u = au + bu

### Objects in Different Vector Spaces

相同的object可以屬於不同的vector space。假設空間中只有一個橫軸($R^1$)，就三個元素，但這三個元素也可以視為是一個更大空間($R^2$)中的元素。

### Objects in Different Vector Spaces

另外的案例來看，假設有三個function，$f(t), g(t), h(t)$，皆為polynomials且degree小於等於2，分別以vector來表示三個function：
1. $f(t)=1 \rightarrow \begin{bmatrix} 1\\0\\0 \end{bmatrix}$
2. $g(t)=t + 1 \rightarrow \begin{bmatrix} 1\\1\\0 \end{bmatrix}$
3. $h(t)=t^2 + t + 1 \rightarrow \begin{bmatrix} 1\\1\\1 \end{bmatrix}$

三個function可以自己構成一個vector space，也可以是三個function共同構成一個vector sapce，當$f, g, h$是所有function所構成的vector space的成員的時候，那以向量來表示三個function將會是無窮長的向量，但如果是degree小於等於2所形成的vector space，那表示$f, g, h$的時候長度就會是有限的，也就是3。
### Review: Subspace

快速覆習Subspace：
* 包含zero vertor
* 當$u, v$都在subspace-$V$的時候，那$u+w$也在落在$V$裡面
* 當$u$落在subspace-$V$，且$c$是一個scalar，那$cu$也會落在$V$裡面

### Are they subspaces?

下面幾種狀況是否為subspaces?
1. 所有的函數都會經過$t_0$這個點，且該值為0，這些函數合起來為一個subspace
2. 所有對角線皆為零(trace)的矩陣所形成的集合起來也是一個subspace
3. 所有滿足$\begin{bmatrix}a & a+b \\ b & 0 \end{bmatrix}$的2x2矩陣所形成的集合也是一個subspace
4. 所有的連續函數所形成的集合也是一個subspace
5. 所有n次方的polynomials所形成的集合，這並不會是一個subspace，因為兩個成員相加是可能落在其它地方的，舉例來說，一個是3倍的n次方，一個是-3倍的n次方相加變成零
6. 所有n次方的polynomials，且degree小於等於n所形成的集合，這就會是一個subspace

稍後的討論中，以$P$代表所有polynomials的集合，而$P_n$為degree小於等於n的polynomials
### Linear Combination and Span

Linear Combination and Span與先前課程所提都是一樣，只是單純的對象不一樣而以，舉例上簡報為例：
* 有三個matrix的集合-$S$要執行linear combination，就單純的將三個matrix分別乘上某一個sclar，相加即可
* 對$S$做Span，也就是對$S$內的成員做linear combination，上面我們已經知道，其結果為$\begin{bmatrix}a & b \\ c & -a\end{bmatrix}$，唯一會變的就是$a, b, c$這幾個數值會變動，而其特色就是對角線值為0，也就是trace為0。
### Linear Combination and Span

假設我們有一個Polynomials set，$S=\left\{1, x, x^2, x^3 \right\}$，我們可以將這個set做linear combination來得到一個新的Polynomial，像是將$S$各別乘上$1, 3, -1, 0$就可以得到$f(x)=2+3x-x^2+0x^3$。而將$S$做Span得到的結果就會是$P_3$，也就是所有degree小於等於3的所有Polynomials所形成的集合

### Linear transformation

function(transformation、operation)-$T$為linear function，只要它滿足下面兩個條件：
* T(u + v) = T(u) + T(v)
* T(cu) = cT(u)

transpose是一個function，但它是一個matrix，這種情況下它仍然是一個linear function。
### Linear transformation

事實上，微分與積分也都是linear function，可以將它們視為function的function，也就是微、積分本身是一個function，輸入為一個function，輸出則微分output function，而積分output為數值。

### Null Space and Range

Null Space：
* 所有帶入某一個function之後所得的輸出為0的那些vector所形成的集合
* matrix transpose的null space就是那些matrix帶入transpose這個matrix之後，輸出的結果為zero matrix，而且只有zero matrix在經過transpose之後才會是zero matrix

Range：
* T的所有output所形成的集合，就是Range
* matrix transpose的Range說的就是，假設input為mxn，output為nxm，那Range說的就是所有的nxm的matrix所形成的集合
### One-to-one and Onto

假設$U$是一個transpose function，即$U(A)=A^T$：
* 它是one-to-one
* 它是onto

假設$D$是一個微分函數，即$D(f)=f'$：
* 它不是one-to-one
* 它不是onto
* 每次的微分，其指數就會減一，舉例來說$x^3$微分之後為$x^2$，但co-domain是三次方，二次的無法佔滿三次，因此它不是onto

### Isomorphism(同構)

Isomorphism，同構，意味著兩個東西有同樣的架構。

### Isomorphism

線性代數所指的Isomorphism：
* 假設我們有兩個vector space，$V, W$，然後有一個linear transformation function-$T$，其功用為輸入input domain-$V$，輸出co-domain-$W$，如果這個linear transformation function為one-to-one與onto，那我們就稱$W, V$為Isomorphism
* 如果$T$為one-to-one與onto，這意味著它是invertible，也意味著每一個input domain都會在co-domain上有一個另一種形態的存在

舉例來說，假設$U$是一個transpose function，即$U(A)=A^T$，而它們的input-$\mathcal{M}_{mxn}$與output-$\mathcal{M}_{nxm}$為Isomorphism，因為上面已經提過，這個transpose function是one-to-one且為onto。

舉例來說，$\mathcal{P}_2 \rightarrow \mathcal{R}^3$，$\mathcal{P}_2$是所有degree=2的polynomial的集合，兩者之間也是Isomorpohism

### Basis

有一個subspace-V，找出一個vector set，而且這個vector set為linearly independent，在Span之後可以變成subspace-V，那這個vector set就稱為subspace-V的basis

### Independent

假設有一個$\mathcal{P}_2$的subset-$S=\left\{x^2 - 3x + 2, 3x^2 - 5x, 2x - 3 \right\}$，我們想知道，這個subset-$S$是否為independent：
* 如果找出一組非0解讓三者執行lineaer combination之後為0，那它們就不是independent
* 從範例看的到，乘上一組係數之後得到結果為0，因此它們不是independent

假設有一個2x2 matrics的subset-$S = \left\{ \begin\{bmatrix}1 & 0 \\ 0 & -1 \end{bmatrix}, \begin\{bmatrix}0 & 1 \\ 0 & 0 \end{bmatrix} \begin\{bmatrix} 0 & 0 \\ 1 & 0\end{bmatrix} \right\}$，我們想知道它們是否為independent：
* 範例來看，除非係數為0，不然沒有得到zero vector，因此為independent

### Independent

更多範例說明。

### Basis

範例說明Basis。

第一個範例，所有2x2matrix的basis，這可以有很多個，給出的是其中一個，因為有4個元素，因此其dim=4。

第二個範例，$\mathcal{P}$，所有polynomial所形成的集合，那basis就會有無窮多個，最多最多為無窮大次方的元素集合，其dim=inf，因為這個basis有無窮多個且最多為無窮大次方的元素。