---
# System prepended metadata

title: '李宏毅_Linear Algebra Lecture 16: Invertible'
tags: [NTU, Hung-yi Lee, Linear Algebra Lecture]

---

# 李宏毅_Linear Algebra Lecture 16: Invertible
###### tags:  `Hung-yi Lee` `NTU` `Linear Algebra Lecture`
[課程撥放清單](https://www.youtube.com/playlist?list=PLJV_el3uVTsNmr39gwbyV-0KjULUsN7fW)
## Linear Algebra Lecture 16: Invertible
[課程連結](https://www.youtube.com/watch?v=d43mGvCnuBU&list=PLJV_el3uVTsNmr39gwbyV-0KjULUsN7fW&index=16)

課程說明什麼樣的Matrix它有Inverse
### Invertible
![](https://i.imgur.com/dV9IR4P.png)

當滿足條件：
1. $AB=I$
2. $BA=I$

那$B$就是$A$的inverse，即$B=A^{-1}$，而$A$就是invertible。

以圖示來看的話，可以直觀瞭解，每一個matrix都是一個linear function，左圖來看，$v$經過$A$會得到$Av$，當$Av$再經過$A^{-1}$就會還原為$v$，右圖也是一樣的道理。圖示清楚的告訴我們，$AA^{-1}=I$
### Summary
![](https://i.imgur.com/rg0nQuO.png)

這邊說明，當$A$是一個nxn的matrix，並且它是invertible的話，它一定滿足這十個陳述。

### Review: One-to-one
![](https://i.imgur.com/4BeIA82.png)

在理解invertible的定理之後先複習。

One-to-one：
* 當input domain與co-domain之間的object是一對一的關係時，即為one-to-one
* 當co-domain比input domain還要小，那就不可能是one-to-one。這非常直觀，因為你沒有辦法讓3維空間的東西投影像2維空間上是保持one-to-one
* 如果矮胖型的matrix(n<m)就不可能是one-to-one
* 即使反過來，也就是m>n或者co-domain的空間比input domain還要大，也不見得滿足one-to-one。直觀來看，2維空間上的多筆資料可能投影到3維空間上的同一個點
* 如果matrix是one-to-one，那這個matrix的column就會是independent

這意味著codomain上的每一個vector $b$最多就只會有一個解，要注意的是，最多一個解並不等同於會有一個解。

注意看簡報上的圖示，紅色區為range，如果$b$是落在這區域內才會有解，如果是落在range外那就不會有解，因此，正確的陳述應該是最多一個解，而不是會有一個解。
### Review: Onto
![](https://i.imgur.com/2wHEjXE.png)

Onto：
* range = co-domain，也就是將input domain的每一個object投影到co-domain，而且可以將co-domain塞滿
* onto的情況下會永遠有解
* 如果co-domain是比較大的情況，那它就不可能是onto，這非常直觀，因為2維空間再怎麼樣都塞不滿3維空間
* 如果matrix是高瘦型的(n>m)，那也不可能是onto
* 反過來說也不見得成立，因為可能3維空間中的點只是2維空間中的一個點，沒有塞滿就不是onto
* 如果matrix是onto，那這個matrix的rank就會是row的數量
### Invertible
![](https://i.imgur.com/wWjH0M6.png)

當一個Matrix是invertible，這意味著它既是Onto，也是one-to-one：
* one-to-one：當matrix投射到co-domain之後一定可以還原為原來的matrix，這意味著這個matrix為one-to-one，投射的過去也還原的回來
* Onto：如果不是onto則代表它的range是小於co-domain，這時候就有可能存在著一個vector是不存在於range內，這時候是無法還原為原來的matrix
### One-to-one and onto
![](https://i.imgur.com/x8FuMiM.png)

如果一個function同時是one-to-one也是onto：
1. input domain與co-domain會有相同的大小
2. matrix為正方形
    * 這種情況下，只要是onto就一定是one-to-one，反之亦然，要嘛同時成立，要嘛同時不成立
### Invertible
![](https://i.imgur.com/r6KRJGJ.png)

假設A是一個nxn的matrix：
* 只要onto或one-to-one其中一個成立，那就是invertible
    * 滿足onto
        * 對於co-domain R^n^裡面的每一個vector b都一定找的到一個solution，那就是onto，也就是invertible
        * A的column可以span整個R^n^
        * A的RREF沒有zero row，也就是A的rank等於row的數目
    * 滿足one-to-one
        * A的column為linear independent
        * A的rank等於column的數目
            * rank：可以找到多少independent的數目
        * A的nullity為零
            *  nullity=column-rank
        * Ax=0的唯一解是zero vector
        * 其RREF為I~n~

### Invertible
![](https://i.imgur.com/U1TtT10.png)

要瞭解一個Matrix是否為invertible，最簡單的方法就是確認這個matrix的RREF是否為identity matrix。
### Summary
![](https://i.imgur.com/RO38U1C.png)

上面清單是上課的課本對於invertible的陳述。
### Invertible
![](https://i.imgur.com/ZHpndxa.png)

如果A是一個nxn的matrix，且為invertible，並且我們找的到matrix B與A相乘是identity，即BA=I~n~，從左邊推論到右邊，很顯然的B是A的inverse，即B=A^-1^，但從右邊推論到左邊，BA=I~n~並不代表AB=I~n~

證明的說明，如果是ivertible的matrix，其Ax=0的唯一解就是zero vector。因此只要能夠從藍色的敘述推導到綠色方塊的敘述，那就可以證明從藍色方塊推論到紅色方塊的敘述。也就是從BA=I~n~推導到Av=0。

以反證法來推論，假設一個錯誤的結論，再看會不會造成矛盾：
* $Av=0$，假設找的到一個$v \neq 0$，而可以讓$Av=0$，而$BA=I_n$是成立的話，那就會造成矛盾
    * $BA=I_n$的兩邊同乘$v$，即$BAv=I_nv$
    * $Av=0$，因此$BAv$為zero vector
    * $I_nv=v$，但是我們剛才的假設是$v \neq 0$，但式子告訴我們$v=0$，造成矛盾，因此確定藍色方塊的敘述是可以推導到綠色方塊的敘述

這是稍早的summary中的第9個敘述的證明。
### Invertible
![](https://i.imgur.com/v4wYxuo.png)

這邊說明的是summary中第10個敘述的證明。如果A是invertible(紅色方塊敘述)，它跟存在一個matrix C，而AC=I~n~是等價的(藍色方塊敘述)。

從紅色方塊的敘述推論到藍色方塊的敘述是非常直觀的，這就是invertible的定義。反過來推論的話，一樣的，如果一個matrix是invertible，那對所有的b而言，其Ax=b是consistent，也就是一定有解(綠色方塊)。

我們要從藍色方塊的敘述推論到綠色方塊，就可以證明：
* $AC=I_n$，左右同時$b$，即$ACb = I_nb$
* $ACb = I_nb$即$ACb = b$，將$Cb$以$x$取代，即$Ax=b$，這意味著它的解就是$Cb$
