# Chapter 1 Matrices and Systems of Equations
[TOC]
## 1.1 Systems of Linear Equations

### quations


- **Consistent**：一致的，Ax = b 有解
- **Inconsistent**: if its solution set is **empty** (no solution)
- 

- Overdetermined：等式量 > 未知數量
- Coefficient matrix：係數矩陣 ，[A]
- Argument matrix：增廣矩陣，[A|b]
- Homogeneous linear system：齊次線性系統，Ax = 0
- Trivial solution：顯然解，Ax = 0 中的0這個解 (因為顯然有0這個解)
- Equivalent：兩系統有相同的Solution set 稱為 (在Matrix版本中稱row equivalent)
###### Rank(A)
- **運算至 rref 時非零列的個數**
- 幾何意義為這個線性系統的**獨立方程式**個數
- A : m x n , rank(A) <= min { m , n }
- rank( A ) != rank( [ A|b ] ) ，則 Ax = b 無解
- rank( A ) = rank( [ A|b ] ) = n ，則 Ax = b 具唯一解
- rank( A ) = rank( [ A|b ] ) < n ，則 Ax = b 具無限多解，其中n - rank(A)為自由變數個數

## 1.2 Row Echelon Form
- **R**ow **e**chelon **f**orm (Gaussian elimination)
pivot(首非零項)皆為1
所有非零列在所有全零列的上面
首項係數所在的column，在首項係數下的元素皆為0
- **R**educe **R**ow **E**chelon **F**orm (Gauss - Jordan reduction)
是**row echelon form**
首項係數是該行唯一非零列
- 每個矩陣A皆列等價於唯一的rref
- pivot column對應的變數為首項變數，nonpivot column對應的變數為自由變數

## 1.3 Matrix Algebra
相較於傳統數系，矩陣運算性質並不好，以下列出幾個不成立的性質
- AB = BA 未必成立，即矩陣乘法不具交換性
- An = O，未必保證A = O (ex : 嚴格上/下三角矩陣)
- A2 = A，未必保證A = I or O (3. 4. ex : 投影矩陣)
- A != O , B != O，未必保證 AB != O!

- AB = AC 且 A != O，未必保證 B = C，即矩陣乘法不具消去性

- 未知矩陣X滿足方程式Xn = A (A為已知)，未必保證具有n個解，不滿足代數基本定理

- (A + B)2 = A2 + 2AB + B2未必成立，即二項式定理未必成立!

###### Algebraic Rule for Transpose
- **row to colum / colum to row**

- (AT)T = A
- (aA + bB)T = aAT + bBT (線性組合轉置次序可交換)
- (AB)T = BTAT

###### 對稱相關的矩陣
- symmetric matrix：A^T = A
- skew-symmetric matrix：A^T = - A
- Hermitian matrix：A^H = A
- skew-Hermitian matrix：AH = - A
###### Algebraic Rule for inverse
- Def : BA = AB = I, 則B為A^-1 (invertible, nonsingular)

- (A-1)-1 = A
- (AB)-1 = B-1A-1

- (AT)-1 = (A-1)T
- 跡數trace：對角線相加
tr(AB) = tr(BA)

## 1.4 Elementary Matrix
- identity matrix透過以下3種"Elementary Row/Column Opirations"(基本列/行運算)
-->結果為E

1. TYPE 1 : 兩列交換

2. TYPE 2 : 一列乘非零倍

3. TYPE 3 : 一列乘某倍加到另一列

- row equivalent ：B 可在有限的row operation內獲得
[Lec12 線性代數(一) 第三章 Elementary Matrix Operations and Systems of Linear Equations](https://youtu.be/aQOyG366V3M?si=IR7LvraF3rthFIxH&t=750)
- identity matrix的大小取決A的row/column數
- 如果是做row operation->E乘在A的左側，可得B；
反之，做coluimn operation->E乘在A的右側，可得B
- 口訣：對row作用，E的操作在A的左側；對column作用，E在A的右側
- E 是 invertible,nonsingular 且 E^-1 也是同類型的單位矩陣

## 1.5 ALU - decomposition
- **LU分解：只用E3操作(一列乘某倍加到另一列)**
- 非每個矩陣都可LU分解，若A不需經列交換可列運算至列梯形形式，則A可做LU分解
- LDU分解：把對角項拆給D，L和U的對角項都變為1
- PTLU分解：使LU分解可以使用列交換P
- P為Permutation matrix 排列矩陣，每行每列恰一項為1其餘為0
P^-1 = P^T