# Function Space - Stone-Weiestrass Theorem

這是 *Weiestrass Theorem* 的加強版：只要==一個函數的集合滿足 *Stone-Weiestrass* 的條件，那他就自動在 $C^0([a, b], \mathbb R)$ *dense*==。而這些條件跟下面三個定義有關：

## Function Algebra

:::warning
**Def (Function Algebra)**
假定 $\mathcal A$ 是個函數的集合，且任意 $f, g \in \mathcal A$, $c \in \mathbb R$，有：
++**1. 加法封閉：**++
$$
f + g \in \mathcal A
$$
++**2. 係數積封閉：**++
$$
cf \in \mathcal A
$$
++**3. 函數相乘封閉：**++
$$
f \cdot g \in \mathcal A
$$
則稱 $\mathcal A$ 是一個 *function algebra*
:::

### 閉包保 Function Algebra

:::danger
假定 $\mathcal A \subset C^0(M, \mathbb R)$ 是個 *function algebra*，則：
$$
\bar{\mathcal A} \text{ is also a function algebra}
$$
:::

這個本質是極限可以交換。比如說：

假定 $f, g \in \bar{\mathcal A}$，$c \in \mathbb R$，表示存在 $\{f_n\} \subset \mathcal A$ 及 $\{g_n\} \subset \mathcal A$，使得 $f_n \to f$ 及 $g_n \to g$，也就是 $n$ 夠大時：

$$
\begin{align}
|f_n - f| &< \epsilon\newline
|g_n - g| &< \epsilon
\end{align}
$$

因此：

$$
|(f_n +g_n) - (f + g)| \leq |f_n - f| + |g_n - g| < 2\epsilon
$$

因此，$\{f_n + g_n\} \to f + g$。但因為 $\bar{\mathcal A}$ *closed*，且 因為兩個序列都在 $\mathcal A$ 裡面，所以 $\{f_n + g_n\} \in \mathcal A$。又因為 $\bar{\mathcal A}$ *closed*，所以收斂到的函數 $f + g \in \bar{\mathcal A}$。

類似地：

$$
|f_n - f| < \epsilon \Rightarrow |cf_n - cf| < |c|\epsilon
$$

因此 $cf_n \to cf$。又 $\mathcal A$ 是 *function algebra*，且 $\{f_n\} \subset \mathcal A$，所以 $\{cf_n\}\subset {\mathcal A}$，所以他收斂到的函數 $cf$ 就會在 $\bar{\mathcal A}$ 中。

### 取絕對值在閉包中

:::danger
假定 $\mathcal A \subset C^0(M, \mathbb R)$ 是個 *function algebra*，且 $M$ 是個 *compact metric space*。則：
$$
f \in \bar{\mathcal A} \Rightarrow |f| \in \bar{\mathcal A}
$$
其中，$|f|$ 的意思是：$|f(x)|$ $\forall x \in [a, b]$
:::

因為 $M$ *compact*，$f$ 是連續的實函數，所以作用在 $M$ 之後的值域 $f(M)$ 有界，即：

$$
\|f\| = U < \infty
$$

令：

$$
g(y):[-U, U] \to \mathbb R\text{ where }g(y) = |y|
$$

因為「取絕對值」這個函數是連續的，所以由 *Weiestrass Theorem*，存在可以跟 $g(y)$ 任意接近的多項式。換句話說：對於任意 $\epsilon$，存在多項式 $p(y)$：

$$
p(y) = \sum_{i = 0}^{n}a_ix^i
$$

使得 $p(y)$ 跟 $y$ 任意接近：

$$
|p(y) - |y|| < \epsilon
$$

進一步觀察：

$$
|p(0) - |0|| = |a_0| < \epsilon \Rightarrow |a_0| < \epsilon
$$

令：

$$
q(y) = \sum_{i = 1}^{n}a_ix^i
$$

因此：

$$
\begin{align}
|q(y) - |y|| &= |p(y) - a_0 - |y|| \newline
&\leq |p(y) - |y|| + |a_0| < 2\epsilon
\end{align}
$$

把 $f(x)$ 丟進 $y$：

$$
|q(f(x)) - |f(x)|| = |q(f(x)) - (\text{abs}\circ f)(x)| < 2\epsilon
$$

因此，現在敘述就可以換成：對於任意 $\epsilon$，都存在函數 $(q\circ f)$，使得 $(q\circ f)$ 跟 $(\text{abs}\circ f)$ 任意接近。其中，$q$ 是一個多項式。這e個事實揭露了兩件事：

1. 「$q$ 是一個多項式」：$f \in \bar {\mathcal A}$，且 $\bar{\mathcal{A}}$ 又是 *function algebra*，由 *function algebra* 的性質易證明：若 $f$ 在一個 *function algebra* 裡，$q$ 是多項式，則 $q \circ f$ 也會在 *function algebra* 裡面。即：
$$
(q\circ f) \in \bar{\mathcal A}
$$
2. 「任意取 $\epsilon$，都可以找到 $h = (q\circ f) \in \bar{\mathcal A}$，使得 $h$ 跟 $|f|$ 任意接近」。換句話說：任意取 $|f|$ 為中心的 $\epsilon$*-ball*，都會包到一個 $\bar{\mathcal A}$ 中的元素。這表示：$|f|$ 這函數，是集合 $\bar{\mathcal A}$ 中的一個 *cluster point*。因此：
$$
|f| \in \bar{\bar{\mathcal A}} = \bar{\mathcal A}
$$

由此得證。

> 雖然 $\mathcal A \subset C^0(M, \mathbb R)$ 未必表示 $\bar{\mathcal A} \subset C^0(M, \mathbb R)$，不過這邊至少知道 $f \in \mathcal A$，則 $|f| \in \bar{\mathcal A}$ (剛剛的證明) 且 $f \in C^0(M, \mathbb R)$(因為 $f$ 跟絕對值都是連續的，合成之後也連續)
>

### 最大/最小在閉包中

:::danger
假定 $\mathcal A \subset C^0(M, \mathbb R)$ 是個 *function algebra*，且：

$$
f_1 \dots f_n \in \bar{\mathcal A}
$$

則：

$$
\begin{align}
f_{max} = \max\{f_1 \dots f_n\} \in \bar{\mathcal A}\newline
f_{min} = \min\{f_1 \dots f_n\} \in \bar{\mathcal A}
\end{align}
$$
:::

這邊 $\max\{f_1 \dots f_n\}$ 是一個函數，意思是對於任意 $x$，挑出帶進這個集合的所有函數之後，最大的那個值：

$$
\max\{f_1 \dots f_n\}(x) = \max\{f_1(x)\dots f_n(x)\}
$$

而 $\min\{f_1 \dots f_n\}$ 也是類似的定義方式。對於任意 $x$：

$$
\min\{f_1 \dots f_n\}(x) = \min\{f_1(x)\dots f_n(x)\}
$$

僅證明兩個函數的版本就好。也就是：

$$
\begin{align}
\{f, &g\}\subset \bar{\mathcal A} \Rightarrow \newline
&\max\{f, g\}, \min\{f, g\} \in \bar{\mathcal A}
\end{align}
$$

即可。這很容易，因為套用上面的性質：

$$
\begin{align}
\max\{f, g\} &= \frac {f + g + |f - g|}{2} \in \bar{\mathcal A}\newline
\min\{f, g\} &= \frac {f + g - |f - g|}{2} \in \bar{\mathcal A}
\end{align}
$$

> 類似地，由 $\min \{f, g\}$ 跟 $\max\{f, g\}$ 表成 $f, g$ 跟兩者相減後取絕對值的函數之後，可發現 $\min \{f, g\}$ 跟 $\max\{f, g\}$ 仍然是連續的。

## Vanishes Nowhere

:::warning
假定函數的集合 $\mathcal A$ 滿足：
$$
\forall p \in M.\exists f \in \mathcal A.f(p)\neq 0
$$
則稱 $\mathcal A$ *vanishes nowhere*
:::

這個要求其實是很簡單的要求：包一個不是零函數的常數函數進去 $\mathcal A$，那就達成了。

## Separate Two Points

:::warning
假定對於任意 $p, q \in M$ 且 $p\neq q$，都存在 $f \in \mathcal A$，使得：
$$
f(p) \neq f(q)
$$
則稱 $\mathcal A$ *separates two points*
:::

這個條件跟 *vanishes nowhere* 合起來會有一個更好的結論：

## Lemma

:::danger
假定滿足上面 3 個條件，則：對於任意 $p_1 \neq p_2 \in M$，$c_1, c_2 \in \mathbb R$，都存在 $f \in \mathcal A$，使得：
$$
\begin{align}
f(p_1) &= c_1 \newline
f(p_2) &= c_2
\end{align}
$$
:::

首先，因為 $\mathcal A$ *vanishes nowhere*，因此存在 $g_1, g_2 \in \mathcal A$，使得：

$$
\begin{align}
g_1(p_1) & \neq 0 \newline
g_2(p_2) & \neq 0
\end{align}
$$

令：

$$
G = (g_1\cdot g_1) + (g_2 \cdot g_2)
$$

則易發現：$G(p_1) > 0$，且 $G(p_2) > 0$。

另外一方面，因為 $\mathcal A$ *separates two points*，所以也 *separates* $p_1$ 與 $p_2$。換句話說，存在 $h \in \mathcal A$，使得：

$$
h(p_1) \neq h(p_2)
$$

接著考慮某個 $G$ 跟 $h$ 的線性組合，可以組出某個滿足要求的函數。也就是令：

$$
f = a(G) + b(G\cdot h)
$$

把 $p_1$ 與 $p_2$ 聯立帶進去聯立：

$$
\begin{cases}
f(p_1) = c_1 = a(G(p_1)) + b(G(p_1)\cdot h(p_1)) \newline
f(p_2) = c_2 = a(G(p_2)) + b(G(p_2)\cdot h(p_2))
\end{cases}
$$

計算判別式，可發現因為 $h$ *separate two points*，以及 $G(p_1), G(p_2) > 0$ 的關係，所以判別式不為 0：

$$
\begin{align}
G(p_1)&(G(p_2)\cdot h(p_2)) - (G(p_1)\cdot h(p_1))G(p_2)\newline
&=G(p_1)G(p_2)(h(p_2) - h(p_1)) \neq 0
\end{align}
$$

因此，$a, b$ 必定有解。由此得證這樣的 $f$ 可以透過 $G$ 與 $h$ 構造出來。

## Stone-Weiestrass Theorem

:::danger
假定 $\mathcal A \subset C^0(M, \mathbb R)$，其中 $M$ 是一個 *compact metric space*。若 $\mathcal A$ 滿足以下性質：

**++Function Algebra++**
$$
\mathcal A \text{ is } \mathbf{function\ algebra}
$$
**++Vanishes Nowhere++**
$$
\mathcal A \mathbf{\ vanishes\ nowhere}
$$
**++Separate Two Points++**

$$
\mathcal A \mathbf{\ separate\ two\ points\ }
$$

則：
$$
\mathcal A \mathbf{\ dense}\text{ in }C^0(M, \mathbb R)
$$
:::

*function algebra* 性質大多都跟 $\bar {\mathcal A}$ 有關。所以與其直接證明 $\mathcal A$ 在 $M$ 裡面 *dense*，不如先證明 $\bar{\mathcal A}$ 在 $M$ 裡面 *dense*。因為 $\mathcal A$ 在 $\bar{\mathcal A}$ 中 *dense*，而 $\bar{\mathcal A}$ 在 $M$ 裡面 *dense*，所以 $\mathcal A$ 就在 $M$ 中 *dense*。

因為目標是 *dense*，也就是說：給定任意一個 $F \in C^0(M, \mathbb R)$ 之後，目標是在以 $F$ 為中心，任意小的 $\epsilon$ 內，找到一個 $G \in \bar{\mathcal A}$。

換句話說：任意 $F \in C^0(M, \mathbb R)$，給定 $\epsilon > 0$，要找一個 $G \in \bar{\mathcal A}$，使得：

$$
|G(x) - F(x)| < \epsilon \quad \forall x \in M
$$

這個條件更進一步，可以改寫成：

$$
\begin{align}
|G(x) &- F(x)| < \epsilon\newline
\iff &F(x) - \epsilon < G(x) < F(x) + \epsilon \newline
\iff &G(x) - F(x) + \epsilon > 0 \text{ and } \newline
&F(x) - G(x) + \epsilon > 0
\end{align}
$$

接下來的計劃是：

1. 用某些方法構造出一堆滿足 $G(x) - F(x) + \epsilon > 0$ 的 $G$。
2. 從這些滿足 $G(x) - F(x) + \epsilon > 0$ 的 $G$ 中，用某種不會讓他們失去前一個條件的狀況下，構造出滿足 $F(x) - G(x) + \epsilon > 0$ 的 $G$。

對於每一個 $p, q \in M$，定義 $G_{pq}$ 為：

$$
G_{pq}(x)=
\begin{cases}
f, \text{a function in $\mathcal A$ gauranteed by lemma}& \text{if }q \neq p
\newline
\quad \text{ such that } f(p) = F(p),f(q) = F(q)
\newline\newline
g , \text{ a function in $\mathcal A$ constructed in } & \text{if } p=q
\newline
\quad p\neq q \text{ case such that } g(p) = F(p)
\end{cases}
$$

> $p = q$ 的狀況就是：隨便挑一個 $p\neq q$ 裡面的一個函數出來，當作 $G_{pp}$。
> [color=grey]

### Stage 1 : Fix P, Iterate Over Q

固定 $p$，對於 $G_{pq}$ 進行篩選。因為目標是構造滿足 $G - F + \epsilon > 0$ 的函數 $G$，為了方便就令：

$$
\tilde{G}_{pq} = G_{pq} - F + \epsilon
$$

這樣構造出來的 $\tilde{G}_{pq}$ 有一個特點：對於任意 $q\in M$，有：

$$
\tilde{G}_{pq}(q) = G_{pq}(q) - F(q) + \epsilon = F(q) - F(q) + \epsilon > 0
$$

因此，存在一個 $q$ 的 *open neighborhood* $U_q$，使得：

$$
\tilde{G}_{pq}(x) = G_{pq}(x) - F(x) + \epsilon > 0 \quad \forall x \in U_q
$$

對於所有 $q \in M$ 都去找出 $\tilde G_{pq}$，然後對應去找出這樣的 $U_q$。因為對些 $U_q$，每一個 $q$ 都被包在 $U_q$ 中，所以這所有的 $U_q$ 構成一個 $M$ 的 *conver*。又因為 $M$ *compact*，所以這個 *cover* 給定之後，存在 *finite subsover*：

$$
\{U_{q_1}, U_{q_2} \dots U_{q_m}\}
$$

接著去看看這些被挑選出來的 *open neighborhood* 對應的 $G_{pq}$ 們。令他們對應的 $G_{pq}$ 為：

$$
\{G_{pq_1}, G_{pq_2} \dots G_{pq_m}\}
$$

並且令：

$$
G_p = \max\{G_{pq_1}, G_{pq_2} \dots G_{pq_m}\}
$$

因為任意 $G_{pq} \in \mathcal A$，所以由「最大/最小在閉包中」， 可知 $G_p \in \bar{\mathcal A}$。除此之外，$G_p$ 也是連續的^[最大/最小在閉包裡面最後面的註解]。

### Stage 2 : Iterate Over P

對於任意 $p \in M$，都可以用 Stage 1 的方法，構造出一個 $G_p$，且這個 $G_p$ 滿足：

$$
G_p(x) - F(x) + \epsilon > 0
$$

Stage 2 的目標，就是用上面的方法再來一次。對於任意 $p \in M$，構造出 $G_p$ 之後，這個 $G_p$ 都有：

$$
F(p) - G_p(p) + \epsilon = F(p) - F(p) + \epsilon > 0
$$

令：

$$
\tilde G = F - G_p + \epsilon
$$

因為 $F$ 連續(定理一開始的假設)、$G_p$ 連續(因為是連續函數取最大/最小值得到的)，所以存在一個 $p$ 的 *open neighborhood* $W_p$ ，使得：

$$
\tilde G(x) = F(x) - F(x) + \epsilon > 0 \quad \forall x \in W_p
$$

因為 $p\in W_p$，所以這所有的 $W_p$ 構成了一個 $M$ 的 *open cover*。又因為 $M$ *compact*，所以存在一個 *finite subcover*：

$$
\{W_{p_1} \dots W_{p_n}\}
$$

這時，找出 $W_{p_1} \dots \{W_{p_n}\}$ 對應的 $\{G_{p_1} \dots G_{p_n}\}$，並且令：

$$
G = \min \{G_{p_1} \dots G_{p_n}\}
$$

這樣一來：

1. $G$ 連續，且 $G \in \bar{\mathcal A}$：因為 $G_{p}$ 連續，且 $G_p \in \bar{\mathcal A}$。取連續函數的最大最小值也連續，所以整個就連續; 取有限個連續函數的最大最小值後，函數仍然在 *function algebra* 的閉包中，所以也在 $\bar{\mathcal A}$ 中。
2. $G$ 滿足 $F(x) - G(x) + \epsilon > 0$：因為任何 $x$ 一定屬於某一個 $W_{p_i}$; 而這個開區間對應的 $G_{p_i}$ 會滿足 $G_{p_i}(x) > 0 \quad \forall x \in W_x$)
3. $G$ 也滿足 $G(x) - F(x) + \epsilon > 0$(因為 $G$ 從 $G_p$ 來; Stage 1 的 $G_p$ 有這個性質了)。