Function Space - Arzela-Ascoli Theorem

實數中，有界的數列存在收斂子序列。那麼函數空間是不是也有類似的性質？會，但是這個函數的序列必須滿足一些條件。

Equicontinuous

Def (Equicontinuous)
假定：

E = {f : f is a function}

是個函數的集合。並且這個集合中的函數滿足：

\begin{aligned} \forall & ϵ > 0. \exists δ > 0. \\ \forall f \in E . | x - y | < δ \Rightarrow | f (x) - f (y) | < ϵ \end{aligned}

那麼就稱這個集合是 equicontinuous

直覺的看法是：同一個

y

附近，一個函數的

δ

可以給

E

裡面的所有其他函數用。

而很明顯 equicontinuous 是一個比函數各自連續還要嚴的條件：假定

E

是一個 equicontinuous 的函數集合，那麼裡面的所有函數都會均勻連續。

Lemme (有限的連續函集必等度連續)
假定：

E = {f_{1} \dots f_{M}} \subset C^{0} [a, b]

則

E

必定 equicontinuous

因為裡面每個函數都連續，所以對於任意

y \in [a, b]

，都存在

δ_{i}

使得：

| x - y | < δ \Rightarrow | f_{i} (x) - f_{i} (i) | < ϵ \forall i = 1 \dots M

那取：

δ = min ({δ_{i}}_{i = 1}^{M})

這個

δ

就可以達成 eqicontinuous 了。

Arzela-Ascoli Propogation Theorem

Thm (Arzela-Ascoli Propogation Theorem)
假定

{g_{j}}

是 equicontinuous，

Q \subset [a, b]

，且：

\forall d \in Q . {g_{j} (d)} converges

則

{g_{j}}

均勻收斂。

這個函數序列只在一個 dense 可數集上逐點收斂，為什麼這樣就保證能夠在整個區間上均勻收斂？這是因為有 equicontinuous 的關係。

因為 equicontinuous 保證 continuous，所以這坨數列都是連續函數。連續函數的空間是完備的，所以目標就是

{g_{j}}

Cauchy。當

m, n

都夠大時：

| g_{m} (x) - g_{n} (x) | < small

雖然沒有
$g_{m} (x)$ 跟
$g_{n} (x)$ 的距離，但現在有一個 countable dense subset。既然 dense，那麼任意小的區間，都會包到這個集合裡面的元素，隨便抓一個
$d$ 好了。而函數序列又在這些元素上收斂，因此就可以用 countable dense subset 中的點做跳板，先從
$g_{m} (x)$ 到
$g_{m} (d)$ ，再從
$g_{m} (d)$ 到
$g_{n} (d)$ ，然後用 equicontinuous 走到
$g_{n} (x)$ 。

給定

ϵ > 0

。對於任意

x

，

| t - x | < δ

時，有：

| g_{i} (t) - g_{i} (x) | < ϵ \forall i

因為這個序列 equicontinuous，這樣一個每個函數都通用的

δ

必定存在。接著，因為

Q

在

[a, b]

中 dense，所以存在

d \in Q

，使得

d \in [x - δ, x + δ]

。接著把這個

d

當作橋樑：

$g_{m} (x)$ 離
$g_{m} (d)$ 很近：

因為剛剛就是拿保證連續的
$δ$ 去造
$[x - δ, x + δ]$ 這個集合找到
$d$ 的。

$| g_{m} (x) - g_{m} (d) | < ϵ$
$g_{m} (d)$ 跟
$g_{n} (d)$ 可以很近：

因為
${g_{j} (d)}$ 收斂，所以他 Cauchy。因此存在
$N$ ，使得
$m, n > N$ 時：

$| g_{m} (d) - g_{n} (d) | < ϵ$
$g_{n} (d)$ 跟
$g_{n} (x)$ 很近：

因為 equicontinuous，所以給
$g_{m}$ 用的
$δ$ 在這邊也可以給
$g_{n}$ 用。因此：

$| g_{n} (d) - g_{n} (x) | < ϵ$

因此，套用三角不等式：

\begin{aligned} | g_{m} (x) - g_{n} (x) | & \leq \underset{< ϵ}{\underset{⏟}{| g_{m} (x) - g_{m} (d) |}} + \underset{< ϵ}{\underset{⏟}{| g_{m} (d) - g_{n} (d) |}} + \underset{< ϵ}{\underset{⏟}{| g_{n} (d) - g_{n} (x) |}} \\ < 3 ϵ \end{aligned}

因為對於任意

x

，在上述的

m, n

及

δ

的狀況下，都會成立。因此

ϵ

是一個

| g_{m} (x) - g_{n} (x) |_{x \in [a, b]}

的上界，故：

| g_{m} - g_{n} | = sup_{x \in [a, b]} | g_{m} (x) - g_{n} (x) | < 3 ϵ

所以

{g_{j}}

均勻收斂。更進一步，因為均勻收斂保連續，所以這個收斂到的函數也是連續的。

Arzela-Ascoli Theorem

Thm (Arzela-Ascoli Theorem)
假定一個有界的函數數列

{f_{n}}

equicontinuous，則這個函數序列存在

(C^{0} [a, b], d_{s u p})

上面的收斂子序列。

這個證明是有點建構性的。建構這個收斂的函數子序列的過程如下：

首先，選定一個

[a, b]

上 dense 的可數集

Q

(比如：令

Q

為 [a, b] 中所有的有理數)。因為

Q

可數，故可令：

Q = {d_{i}}_{i = 1}^{\infty}

接下來會要構造一堆序列。這邊上標
$j$ 表示第
$j$ 序列。所以
${f_{k}^{j}}$ 就表示「第
$j$ 個數列」

令：

{f_{n}}^{(i)} = {\begin{cases} {f_{n}} & if j = 0 \\ {f_{n_{j}}}^{(i - 1)} where {f_{n_{j}}}^{(i - 1)} is a convergence subsequence \\ of {f_{n} (d_{i})}^{(i - 1)} gauranteed by Bolzano–Weierstrass Theorem & otherwise \end{cases}

雖然看起來有點難懂。不過大致是照下面這個過程建構出這堆數列：

把
$d_{1}$ 到
${f_{n}}$ 中，那麼將會形成一個數列：

${f_{n} (d_{i})}$

因為
${f_{n}}$ 中所有的函數都是有界的，所以這個帶進去之後，形成的實數上的數列也是有界的，因此存在收斂子序列。即存在子序列
${f_{n_{j}} (d_{1})}$ ，使得：

${f_{n_{j}} (d_{1})} \subset {f_{n} (d_{1})}$
且

${f_{n}}^{(1)} := {f_{n_{j}}} \subset {f_{n}} converges at d_{1}$

這時，把
$d_{2}$ 帶進
${f_{n}}^{(1)}$ 中。因此又形成了一個有界的數列：

${f_{n} (d_{2})}^{(1)}$

再度利用有界數列存在收斂子序列，可以從這個數列中再一次挑出收斂子序列。令這個有界子序列叫做
${f_{n}}^{(2)}$

${f_{n}}^{(2)} := {f_{n_{j}} (d_{2})}^{(1)} \subset {f_{k} (d_{2})}^{(1)}$

且這時
${f_{n}}^{(2)}$ 有：

${f_{n}}^{(2)} \subset {f_{k}}^{(1)} \subset {f_{n}} converges at d_{1}, d_{2}$

一直重複上述的過程。做到第
$k$ 步時，就會得到
${f_{n}}^{(k)}$ ，且
${f_{n}}^{(k)}$ 既有以下性質：

${f_{n}}^{(k)} \subset \dots {f_{n}}^{(1)} \subset {f_{n}}^{(0)} = {f_{n}} converges at d_{1}, d_{2}, \dots d_{k}$
這個構造序列的方式可知：上標大的函數，屬於所有上標比他小的子序列。這個觀察接下來會用到。

接著把「第

i

個子序列的第

i

個函數」抓出來湊成一個新的函數的數列：

{g_{i}} = {f_{i}^{(i)}} = {f_{1}^{(1)}, f_{2}^{(2)}, f_{3}^{(3)}, \dots}

接下來宣稱：

{g_{i}}

可以在任意的

d_{m} \in Q

收斂。這樣一來就可以用 Arzela-Ascoli Propogation Theorem 讓他均勻收斂。

對於任意的

d_{m} \in Q

，只要把

{g_{i}}

前

m

項砍掉。「上標大的函數，屬於所有上標比他小的子序列」。故，對於

{g_{i}}

有：

{g_{j}}_{j = m}^{\infty} = {f_{m}^{(m)}, f_{m + 1}^{(m + 1)}, f_{m + 2}^{(m + 2)} \dots} \subset {f_{k}^{(m)}} conv. at d_{1}, d_{2} \dots d_{m}

因此，

{g_{i}}_{i = m}^{\infty}

在

d_{1}

d_{2}

…

d_{m}

都收斂。但砍掉前面有限項，不影響原數列的斂散性。故

{g_{j}}

在

Q

中每一點逐點收斂。

進一步由 Arzela-Ascoli Propogation Theorem，

{g_{i}}

在

Q \subset [a, b]

逐點收斂，且

Q

在

[a, b]

中 dense，因此

{g_{i}}

均勻收斂的序列。而由前面知道

{g_{i}} \subset {f_{n}}

，所以他就是

{f_{n}}

的收斂子序列。由此得證。

Heine-Borel in Function Space

Thm (Heine-Borel Theorem)
假定：

E \subset C^{0} ([a, b], R)

則：

\begin{aligned} E is bounded, closed and equicontinuous \\ ⟺ E is compact \end{aligned}

「

\Rightarrow

」大致上就是上面那個定理的證明，只有一個細節是這個收斂子序列會不會收斂到

E

裡面，不過前提給了

E

是 closed，所以這個問題就解決了。

「

\Leftarrow

」的證明利用「compact 且母空間完備，則 closed 且 totally bounded」。所以 closed 跟 bounded 就解決了。

剩下 equicontinuous，這個需要借助 totally bounded 的定義，也就是「給定任意

ϵ

，都存在有限個

f_{i} \in E

，使得以這些元素為中心的

ϵ

-ball 包住這個集合」，也就是：

\forall ϵ . \exists f_{1} \dots f_{N} \in E . E \subset ⋃_{i = 1}^{N} B (f_{i}, ϵ)

換句話說，給定一個

f \in E

，那麼存在一個

f_{k}

f_{k} \in A := {f_{1} \dots f_{N}}

使得：

| f - f_{k} | < ϵ

另外一方面，因為

A

是有限的連續函數的集合，所以必定 equicontinuous。因此當

ϵ

給定之後，取

A

equicontinuous 保證的那個

δ

。那麼當

| x - y | < δ

時，有：

\begin{aligned} | f (x) - f (y) | & \leq | f (x) - f_{k} (x) | + | f_{k} (x) - f_{k} (y) | + | f_{k} (y) - f (y) | \\ \leq | f - f_{k} | + | f_{k} (x) - f_{k} (y) | + | f - f_{k} | < 3 ϵ \end{aligned}

因此，這個

δ

對於任意

f \in E

都能使

| f (x) - f (y) | < 3 ϵ

。由此得證

E

是 equicontinuous 的。