Banach Space - Inverse Function Theorem

Thn (Inverse Function Theorem)

$E,F$ 是一個 Banach space，

$u\subseteq E$ 是一個開集，

$f:E\to F\in C^1(u)$。

若在

$x_0\in E$，以及一個開集

$U_0$，使得：

$$Df(x_0)\mathbf{bijective}\text{ on }{U}_0$$

則存在

$x_0$ 的鄰域

$U\subseteq E$，使得

$f$ 在

$U$ 上的 restriction 是

$C^1$-isomorphism，即 1-1 onto 且

$f$ 與

$f^{-1}$ 均為

$C^1$

$$\begin{array}{r}{f}_U:U\to f(U){\mathbf{C}}^{\mathbf{1}}\mathbf{isomorphism}\end{array}$$

更進一步，對於任意

$x\in U$，有：

$$[D\left(f_U^{-1}\right)(x)]=[[D{f}_U(x){]}^{-1}]$$

Step 1：問題轉化

因為已經知道

$Df(x_0)\in \mathbb{L}(E,F)$ 了，又加上前提知道是 bijective，這兩個條件加起來也就是在說：

$Df(x_0)$ 是個

$C^0$-isomorphism 。所以如果把操縱對象從

$f$ 改成

$$\tilde{f}=([Df(x_0){]}^{-1}\circ f)$$

並不會影響局部的微分性。這是因為

$\mathbb{L}(E,A)$ 對某個點的微分不管微分幾次都是自己，所以合成之後可不可微分，取決於

$f$ 可不可微分。而且操作的範圍就變成一個：

$$\tilde{f}:E\to E$$

的函數了。

順帶一提，之所以會「

$\mathbb{L}(E,A)$ 對某個點的微分不管微分幾次都是自己」，這是因為對於任意

$T\in \mathbb{L}(E,F)$，所以

$T$ 線性，因此：

$$T(x+h)-T(x)=T(h)$$

所以，把自己帶進微分定義中：

$$\frac{\Vert T(x+h)-T(x)-T(h){\Vert }_F}{\Vert h{\Vert }_E}=0$$

取極限前都是

$0$ 了，取極限之後就更不用說。所以

$T$ 自己就是滿足微分定義那個

$\mathbb{L}(E,F)$，因此自己就是自己的微分。

這樣看起來似乎

1. 線性就可以微分
2. 可微分又表示連續

那似乎就避開了 bounded 的限制嗎？其實沒有。這是因為：

1. 微分定義中，「在某點微分結果是個 bounded 函數」。如果
   $T$ 不 bounded linear，那就不是滿足微分定義的微分了。
2. 可微分推到連續的步驟，也要用到微分結果是 bounded 的性質。

這樣的轉換，除了不影響

$f$ 的微分性，以及

$E=F$ 之外，另外一個好事是：

$$D\tilde{f}(x_0)=I$$

這可以用微分 chain rule 看：

$$\begin{array}{rl}[D\tilde{f}(x_0)]& =D([Df(x_0){]}^{-1}f(x)){|}_{x=x_0}\\ & =[Df(x_0){]}^{-1}(Df(x)){|}_{x=x_0}\\ & =[Df(x_0){]}^{-1}[Df(x_0)]\\ & =I\end{array}$$

或是直接用定義。因為

$f$ 在

$x_0$ 可微分，所以有：

$$\begin{array}{rl}Df(x_0{)}^{-1}(f(x_0+h)-f(x_0))& =Df(x_0{)}^{-1}([Df(x_0)](h)+\varphi (h))\\ & =h+Df(x_0{)}^{-1}(\varphi (h))\\ & =I(h)+\tilde{\varphi }(h)\end{array}$$

其中：

$$\underset{\Vert h{\Vert }_E\to 0}{lim}\frac{\Vert \varphi (h){\Vert }_F}{\Vert h{\Vert }_E}=0$$

可以證明：若

$T\in \mathbb{L}(E,F)$，且

$T$ 可逆，那麼

$T^{-1}\in \mathbb{L}(E,F)$。首先，線性轉換若可逆，則其逆轉換也是線性的。更進一步，這個逆轉換

$T^{-1}$ 也有界。因為：

$$\frac{\Vert T(x){\Vert }_F}{\Vert x{\Vert }_E}<c\Rightarrow \frac{\Vert x{\Vert }_E}{\Vert T(x){\Vert }_F}=\frac{\Vert T^{-1}(y){\Vert }_E}{\Vert y{\Vert }_F}<\frac{1}{c}$$

綜合以上的結論，可以進一步宣稱：

$$\underset{\Vert h{\Vert }_E\to 0}{lim}\frac{\tilde{\varphi }(h)}{\Vert h{\Vert }_E}=0$$

這是因為：

$$\begin{array}{rl}\underset{\Vert h{\Vert }_E\to 0}{lim}\frac{\tilde{\varphi }(h)}{\Vert h{\Vert }_E}& =\underset{\Vert h{\Vert }_E\to 0}{lim}\frac{Df(x_0{)}^{-1}(\Vert h{\Vert }_E\varphi (h))}{\Vert h{\Vert }_E}\\ & =Df(x_0{)}^{-1}(\underset{\Vert h{\Vert }_E\to 0}{lim}\frac{\varphi (h)}{\Vert h{\Vert }_E})\\ & =Df(x_0{)}^{-1}(0)\\ & =0\end{array}$$

因此，他的微分就是

$I$。

除此之外，還可以把這個函數從

$x_0$ 平移回原點。所以就更近一步簡化成：只要會做「

$f:E\to E$,

$f(0)=0$,

$Df(0)=I$,

$x_0=0$」 的狀況，那麼就會做原來命題的狀況。

Step 2：造 Contraction Map

用 MVT inequaity 造 contraction map。

考慮：

$$g(x)=x-f(x)$$

這樣一來，

$g^{\prime }(0)=0$，且

$Dg(0)=0$。既然

$Df\in C^0$，

$Dg=Df+\mathbb{I}$ 也是

$C^0$，所以也在

$0$ 連續。因此存在

$r>0$，使得微分的 norm 變成一個比 1 小的數，比如說

$1/2$：

$$\begin{array}{rl}\mathrm{\exists }& r>0.\mathrm{\forall }x\in B(0,r).\\ & \Vert Dg(x)-Dg(0){\Vert }_L=\Vert Dg(x){\Vert }_L\le \frac{1}{2}\end{array}$$

這樣就可以用 MVT 造出一個局部的 contraction map。因為只要取原點為圓心，比上面的

$r$ 更小的半徑，比如半徑

$r/2$ 的球。那麼在這個比較小的球裡面，就有：

$$\Vert g(x)-\underset{0}{\underbrace{g(0)}}\Vert \le \underset{<1/2}{\underbrace{(\underset{x\in \overline{ox}}{sup}\Vert Dg(x){\Vert }_L)}}\underset{\le r/2}{\underbrace{\Vert x\Vert }}$$

因為

$g(0)=0$，

$\Vert Dg(x){\Vert }_L<1/2$，故對於任意

$\Vert x\Vert \le r/2$，有：

$$\Vert g(x)\Vert \le \frac{1}{2}\Vert x\Vert \le \frac{r}{4}$$

也就是說：

$$g\left(\overline{B}(0,\frac{r}{2})\right)\subseteq \overline{B}(0,\frac{r}{4})$$

既然會把半徑是

$r/2$ 的球射進半徑

$r/4$ 的球裡面，這樣造出來的

$g$ 就是一個 contraction map。除此之外，上面還有推導出在這個半徑

$r/2$ 上面，有：

$$\Vert Dg(x){\Vert }_L\le \frac{1}{2}$$

Step 3：Banach Contraction Theorem

宣稱：

$$\mathrm{\forall }y\in \overline{B}(0,\frac{r}{4}).\mathrm{\exists }!x\in \overline{B}(0,\frac{r}{2}).f(x)=y$$

這是因為：對於任意這樣的

$y$，考慮：

$$\begin{array}{rl}{g}_y& =g(x)+y\\ & =(x-f(x))+y\end{array}$$

首先，任何一個這樣造出來的

$g_y$ 都是一個 contraction map。因為

$$\begin{array}{rl}\Vert g_y(x_1)-g_y(x_2)\Vert & =\Vert (g(x_1)+y)-(g(x_2)+y)\Vert \\ & =\Vert g(x_1)-g(x_2)\Vert \\ & \le \Vert Dg(0){\Vert }_L\Vert x_1-x_2\Vert \\ & \le \frac{1}{2}\Vert x_1-x_2\Vert \end{array}$$

除了這之外，還要確認這件事情成立的範圍。因為 現在的 contraction 性質只在一個局部範圍內出現，而不是整個空間。所以要進一步確認 contract 的結果會不會往外飄。 稍微統整一下上面

$x$ 跟

$y$ 的條件：

1. $y$ 在半徑
   $r/4$ 的球裡，所以
   
   $$\Vert y\Vert <r/4$$
2. 在
   $\Vert x\Vert <r/2$ 的狀況下，有
   
   $$\Vert g(x)\Vert \le r/4$$

所以，對於任意

$\Vert x\Vert <r/2$ 的

$x$，有：

$$\Vert g_y(x)\Vert \le \Vert g(x)\Vert +\Vert y\Vert \le \frac{r}{4}+\frac{r}{4}=\frac{r}{2}$$

也就是說：

$$g_y\left(\overline{B}(0,\frac{r}{2})\right)\subset \overline{B}(0,\frac{r}{2})$$

所以，上述 contraction 成立的範圍，是在半徑

$r/2$ 的「閉」球上。因此，若將

$g_y$ 定義在

$\overline{B}(0,r/2)$ 這個閉球上：

$$g_y:\overline{B}(0,\frac{r}{2})\to \overline{B}(0,\frac{r}{2})$$

在這個狀況下，

$g_y$ 仍然定義在一個完備的集合上，因為完備空間的閉集仍然是完備的。所以這樣一來就湊齊了 Banach Contraction Theorem 的條件：

$\overline{B}(0,r/2)$ 完備、

$g_y$ 是 contraction map。因此就存在唯一的

$x_0$，使得：

$$\begin{array}{rl}{g}_y(x_0)=x_0& \Rightarrow x_0-f(x_0)+y=x_0\\ & \Rightarrow f(x_0)=y\end{array}$$

Step 4：構造反函數

上面證明出了這樣的命題：

$$\mathrm{\forall }y\in \overline{B}(0,\frac{r}{4}).\mathrm{\exists }!x\in \overline{B}(0,\frac{r}{2}).f(x)=y$$

言下之意， 任何

$y\in \overline{B}(0,r/4)$ 當中，都存在唯一的

$x\in \overline{B}(0,r/2)$，使得

$f(x)=y$。因此，把這樣的

$x$ 都收集起來，假定形成的集合叫做

$X$。由上面結果知道，

$X\subset \overline{B}(0,r/2)$。所以就令：

$$\begin{array}{rl}U& =X\cap \overline{B}(0,\frac{r}{2})\\ V& =\overline{B}(0,\frac{r}{4})\end{array}$$

這樣一來：

$$f_U:U\to V$$

就會是一個 1-1 onto 的函數了。

Step 5：局部反函數連續

更進一步宣稱：這樣夠造出來的

$f_U$ 是連續的：

$${\left(f_U\right)}^{-1}\mathbf{continuous}$$

因為

$U$ 在

$\overline{B}(0,r/2)$ 中。由Step 2 的步驟知道：在

$\overline{B}(0,r/2)$ 中，有：

$$\Vert Dg(x){\Vert }_L\le \frac{1}{2}$$

對於任意

$y_1,y_2\in U$，假定

$x_1,x_2$ 是

$U$ 中使得

$f(x_1)=y_1$ 及

$f(x_2)=y_2$ 的唯一元素。套用 MVT，有：

$$\begin{array}{rl}\Vert g(x_1)-g(x_2)\Vert & \le \Vert Dg(0){\Vert }_L\Vert x_1-x_2\Vert \\ & \le \frac{1}{2}\Vert x_1-x_2\Vert \end{array}$$

所以，計算

$\Vert f^{-1}(y_1)-f^{-1}(y_2)\Vert$：

$$\begin{array}{rl}& \Vert f^{-1}(y_1)-f^{-1}(y_2)\Vert \\ & =\Vert x_1-x_2\Vert \\ & =\Vert (\underset{g(x_1)}{\underbrace{x_1-f(x_1)}}+f(x_2))-(\underset{g(x_2)}{\underbrace{x_2-f(x_2)}}+f(x_2))\Vert \\ & =\Vert g(x_1)-g(x_2)+f(x_1)-f(x_2))\Vert \\ & \le \Vert g(x_1)-g(x_2)\Vert +\Vert f(x_1)-f(x_2)\Vert \\ & \le \frac{1}{2}\Vert x_1-x_2\Vert +\Vert y_1-y_2\Vert \end{array}$$

把最下面的

$(1/2)\Vert x_1-x_2\Vert$ 往左移項，就會有：

$$\frac{1}{2}\Vert x_1-x_2\Vert =\frac{1}{2}\Vert f^{-1}(y_1)-f^{-1}(y_2)\Vert \le \Vert y_1-y_2\Vert$$

換句話說，

$f^{-1}$ 在

$U$ 的範圍內 Lipschitz。因為上面那坨東西就是：

$$\Vert f^{-1}(y_1)-f^{-1}(y_2)\Vert \le 2\Vert y_1-y_2\Vert$$

由此得證

$f^{-1}$ 在

$U$ 上連續。

Step 6：微分的局部反函數存在

宣稱：在

$U$ 上面的任意

$x$，有：

$$[Df(x){]}^{-1}\mathbf{exists}\text{ and }\mathbf{bonded}$$

首先考慮

$g$ 的可微分性。

$Dg(x_0)\in \mathbb{L}(E,E)$，而

$\mathbb{L}(E,E)$ 搭配

$\Vert \cdot {\Vert }_L$ 之後，是一個有單位元

$I$ 的 Banach space。因此：

$$Df:E\to \mathbb{L}(E,F)$$

以及：

$$Dg:E\to \mathbb{L}(E,F)$$

也是 Banach space 之間的轉換。而更進一步，對於

$x\in U$，有：

$$Df(x)=I-Dg(x)$$

其中：

$$\Vert Dg(x){\Vert }_L\le \frac{1}{2}$$

而在介紹 Banach space 提到：若有一個元素具備

$\mathbb{1}-a$ 的形式，其中

$\Vert a\Vert <1$，那麼這個元素就可逆。因此，

$Df(x)$ 作為一個在

$\mathbb{L}(E,E)$ 中的元素也是可逆的。也就是：

$$\mathrm{\forall }x\in U.[Df{]}^{-1}\mathbf{exists}$$

更進一步，如果這樣形式的元素存在，

$[Df(x){]}^{-1}$ 有以下形式：

$$\begin{array}{rl}& (\mathbb{1}-a{)}^{-1}=\sum _{i=0}^{\mathrm{\infty }}{a}^i\\ & \Rightarrow [Df(x){]}^{-1}=[I-Dg(x){]}^{-1}=\sum _{i=1}^{\mathrm{\infty }}[Dg(x){]}^i\end{array}$$

由上面這個形式又可以觀察到：只要

$x\in U$，那麼被

$Df$ 生出來的

$Df(x)$ ，他的反元素

$[Df(x){]}^{-1}$ 都還是 bounded 的。因為：

$$\begin{array}{rl}\Vert [Df(x){]}^{-1}{\Vert }_L& \le \sum _{i=0}^{\mathrm{\infty }}{(\Vert [Dg(x)]{\Vert }_L)}^i\\ & \le \sum _{i=0}^{\mathrm{\infty }}{\left(\frac{1}{2}\right)}^i\\ & =2\end{array}$$

除了 bounded 之外，還是線性的。這是因為

$Df(x)\in \mathbb{L}(E,E)$，所以是線性的。而線性轉換的逆轉換也是線性的。

Step 7：微分的局部反函數 = 反函數局部的微分

最後要證明的命題是：

$$\mathrm{\forall }x\in U.[D{f}^{-1}(x)]=[Df(x){]}^{-1}$$

直接把

$[Df(x){]}^{-1}$ 塞進去定義說他滿足微分定義。任選

$y\in V$，考慮：

$$\begin{array}{rl}& (f^{-1}(y^{\prime })-f^{-1}(y))-[Df(x){]}^{-1}(y^{\prime }-y)\\ & =(x^{\prime }-x)-\underset{\mathrm{對}\mathrm{這}\mathrm{串}\mathrm{動}\mathrm{手}}{\underbrace{[Df(x){]}^{-1}(f(x^{\prime })-f(x))}}\end{array}$$

利用

$f$ 可微分，能夠把

$f(y^{\prime })-f(y)$ 寫成：

$$\begin{array}{rl}f(x^{\prime })-f(x)& =[Df(x)](x^{\prime }-x)+\Vert x^{\prime }-x\Vert \varphi (x^{\prime }-x)\\ [Df(x){]}^{-1}(f(x^{\prime })-f(x))& =\underset{\mathrm{帶}\mathrm{回}\mathrm{去}\mathrm{會}\mathrm{被}\mathrm{消}\mathrm{掉}}{\underbrace{(x^{\prime }-x)}}+[Df(x){]}^{-1}\Vert x^{\prime }-x\Vert \varphi (x^{\prime }-x)\end{array}$$

其中：

$$\varphi (x^{\prime }-x)\to 0\text{ as }\Vert x^{\prime }-x\Vert \to 0$$

帶回原式，得到：

$$\begin{array}{rl}& (f^{-1}(y^{\prime })-f^{-1}(y))-[Df(x){]}^{-1}(y^{\prime }-y)\\ & =[Df(x){]}^{-1}(\Vert x^{\prime }-x\Vert \varphi (x^{\prime }-x))\\ & \to [Df(x){]}^{-1}(0)=0\text{ as }{x}^{\prime }\to x\end{array}$$

所以就證明了：

$$[Df(x){]}^{-1}=[D{f}^{-1}(x)]$$