Banach Space - Derivative (Part 1)

巴拿赫空間的微分跟多變數微積分的定義是比較相近的：

定義

Def (微分)
假定

$E,F$ 是

$\mathbb{R}$ 上的 Banach space，函數

$f:u\to F$，其中

$u\in E$ 是個開集。若對於某個

$x\in E$，存在

$\mathbf{T}\in \mathbb{L}(E,F)$，使得：

$$\underset{\Vert h\Vert \to 0}{lim}\frac{\Vert f(x+h)-f(x)-\mathbf{T}(h){\Vert }_F}{\Vert h{\Vert }_E}=0$$

則稱

$f$ 在

$x$ 是可微分的。並且稱

$T$ 是

$f$ 在

$x$ 的微分。

這邊要注意的事情是：一個

$x$ 就會給出一個

$\mathbf{T}\in \mathbb{L}(E,F)$，所以這個

$\mathbf{T}$ 是會隨

$x$ 而變的。此外，這邊要求可微定義下保證的

$x$ 所對應的微分

$\mathbf{T}$ 必須要在

$\mathbb{L}(E,F)$ 裡，也就是說：除了線性之外，還必須要連續，或等價地說，「bounded linear」(那個

$\mathbb{L}(E,F)$ 的等價條件)。

另外一個可能比較好操作的定義方式是把微分型移項，並且寫成：

$$f(x+h)-f(x)-\mathbf{T}(h)=\Vert h{\Vert }_E\varphi (h)$$

其中，

$\varphi (h)$ 必須要滿足：

$$\underset{\Vert h\Vert \to 0}{lim}\Vert \varphi (h){\Vert }_F=0$$

所以上面的定義就改寫成：

Def (微分)
若存在

$T\in \mathbb{L}(E,F)$，使得：

$$f(x+h)-f(x)-\mathbf{T}(h)=\varphi (h)$$

其中：

$$\underset{\Vert h\Vert \to 0}{lim}\frac{\Vert \varphi (h){\Vert }_F}{\Vert h{\Vert }_E}=0$$

則稱

$f$ 是可微分的。

因為 Banach Space 本身就是一種 metric space (而且還完備，所以就更強了)。所以在 metric space 中會出現的性質，在 Banach spcae 上也會出現。比如：

微分的性質

Thm (微分的性質)
假定

$E,F$ 是

$\mathbb{R}$ 上的 Banach space。

$f:u\to F$，其中

$u\in E$ 是個開集。假定

$f$ 是可微分的，則：

1. 微分保連續

$$\begin{array}{r}f\mathbf{defferentiable}\Rightarrow f\mathbf{continuous}\end{array}$$

2. 微分唯一：
假定

$T_1,T_2$ 均滿足微分定義，則：

$$T_1=T_2$$

因為具有唯一性，所以就用

$(Dfx)$ 這個符號，表示

$f$ 在

$x$ 處的微分。

連續：因為可微，所以依照可微的定義，對於任意

$ϵ>0$，有：

$$\frac{\Vert f(x+h)-f(x)-\mathbf{T}(h){\Vert }_F}{\Vert h{\Vert }_E}<ϵ$$

因為在意的是

$\Vert h{\Vert }_E\to 0$ 的時候，所以當

$\Vert h{\Vert }_E$ 夠小，比如說

$\Vert h{\Vert }_E<1$ 時：

$$\Vert f(x+h)-f(x)-\mathbf{T}(h){\Vert }_F<\Vert h{\Vert }_E\cdot ϵ<ϵ$$

更進一步，因為

$\mathbf{T}\in \mathbb{L}(E,F)$，利用

$\mathbb{L}(E,F)$ 的等價條件，存在

$C\ge 0$，使得對於任意

$x$：

$$\Vert \mathbf{T}(h){\Vert }_F\le C\Vert h{\Vert }_E$$

因此，當

$\Vert h{\Vert }_E\to 0$，

$\Vert \mathbf{T}(h){\Vert }_F\to 0$，所以當

$\Vert h{\Vert }_E$ 夠小時，比如說取

$\Vert h{\Vert }_E=ϵ/C$ 時，就有：

$$\Vert \mathbf{T}(h)\Vert \le ϵ$$

所以就有：

$$\begin{array}{rl}\Vert f(x+h)-f(x){\Vert }_F& =\Vert f(x+h)-f(x)-\mathbf{T}(h)+\mathbf{T}(h){\Vert }_E\\ & \le \Vert f(x+h)-f(x)-\mathbf{T}(h){\Vert }_F+\Vert \mathbf{T}(h){\Vert }_E\\ & <ϵ+ϵ\end{array}$$

唯一：目標是

$T_1=T_2$，或是說

$T_1-T_2=0$，或是

$\Vert T_1-T_2\Vert =0$。這邊的

$\Vert T_1-T_2\Vert$ 是函數的長度。而在 Banach space 中，這個函數的長度是定義成：

$$\underset{x\ne 0}{sup}\frac{\Vert (T_1-T_2)(x){\Vert }_F}{\Vert x{\Vert }_E}$$

觀察

$sup$ 裡面的東西：

$$\frac{\Vert (T_1-T_2)(x)\Vert }{\Vert x{\Vert }_E}=\frac{\Vert T_1(x)-T_2(x)\Vert }{\Vert x{\Vert }_E}$$

把裡面的東西加一項再減一項

$f(x+h)-f(x)$，然後用三角不等式拆開：

$$\begin{array}{rl}\frac{\Vert T_1(h)-T_2(h){\Vert }_F}{\Vert h{\Vert }_E}& \le \frac{\Vert f(x+h)-f(x)-T_1(h){\Vert }_F}{\Vert x{\Vert }_E}+\frac{\Vert f(x+h)-f(x)-T_2(h){\Vert }_F}{\Vert x{\Vert }_E}\\ & <ϵ+ϵ\end{array}$$

最後面的

$ϵ+ϵ$ 是因為

$T_1$,

$T_2$ 是滿足

$f$ 微分定義的連續線性函數，也就是說：當

$\Vert h{\Vert }_E$ 夠接近

$0$ 時，有：

$$\frac{\Vert f(x+h)-f(x)-T_1(h){\Vert }_F}{\Vert h{\Vert }_E}<ϵ$$

及：

$$\frac{\Vert f(x+h)-f(x)-T_2(h){\Vert }_F}{\Vert h{\Vert }_E}<ϵ$$

現在，假定存在

$x\in E$，使得：

$$T_1(x)\ne T_2(x)\Rightarrow T_1(x)-T_2(x)\ne 0\Rightarrow \Vert T_1(x)-T_2(x){\Vert }_E>0$$

更進一步，這個

$x\ne 0$，因為

$T_1-T_2\in \mathbb{L}(E,F)$，所以

$(T_1-T_2)(0)$ 必定是

$0$。這表示：

$\Vert T_1(x)-T_2(x){\Vert }_L\ge 0$，因為：

$$\begin{array}{rl}\Vert T_1(x)-T_2(x){\Vert }_E>0& \Rightarrow \frac{\Vert T_1(x)-T_2(x){\Vert }_E}{\Vert x{\Vert }_E}=c>0\end{array}$$

這個

$c>0$ 就是矛盾的點。因為對這個

$c$，前面的結論知道：當

$\Vert h\Vert$ 夠小時，有辦法：

$$\frac{\Vert T_1(h)-T_2(h){\Vert }_F}{\Vert h{\Vert }_E}<c$$

但如果把這個

$x$ 長度調成比

$\delta$ 小，比如令長度是

$\delta /2$：

$$h=\frac{\delta }{2}\frac{x}{\Vert x{\Vert }_E}$$

這時：

$$\frac{\Vert T_1(h)-T_2(h){\Vert }_F}{\Vert h{\Vert }_E}=\frac{\Vert T_1(x)-T_2(x){\Vert }_F}{\Vert x{\Vert }_E}=c$$

但前面才說這坨東西比

$c$ 小。所以就矛盾了。

另外一個沒有上，但我認為有用的性質是：

$\mathbb{L}(E,F)$ 的線性轉換的微分是自己。因為對於任意

$h$，有：

$$\frac{\Vert T(x+h)-T(x)-T(h){\Vert }_F}{\Vert h{\Vert }_E}=\frac{\Vert T(h)-T(h){\Vert }_F}{\Vert h{\Vert }_E}=0$$

加上

$T$ 自己又是

$\mathbb{L}(E,F)$，所以自己就是滿足微分定義的那個

$\mathbb{L}(E,F)$。

方向導數

Def (方向導數)

假定

$E,F$ 是

$\mathbb{R}$ 上的 Banach space，

$\hat{v}\in E$ 是一個單位向量，

$f:E\to F$。則

$f$ 在

$x$ 上沿

$\hat{v}$ 的方向導數定義為：

$$\underset{t\to 0}{lim}\frac{f(x+t\hat{v})-f(x)}{t}$$

跟初等微積分的直覺類似，所有方向導數存在，未必保證微分存在。但某一點微分存在，就可以保證該點任何方向的方向導數都存在：

Thm (方向導數與微分)

假定

$E,F$ 是

$\mathbb{R}$ 上的 Banach space，

$\hat{v}\in E$ 是一個單位向量，

$f:E\to F$。若

$f$ 在

$x$ 是可微分的，則：

$$\underset{t\to 0}{lim}\frac{f(x+t\hat{v})-f(x)}{t}=(Df(x))(v)$$

因為

$f$ 在

$x$ 可微分，也就是說，

$\Vert h{\Vert }_E<\delta$ 的時候：

$$\frac{\Vert f(x+h)-f(x)+(Df(x))(h){\Vert }_F}{\Vert h{\Vert }_E}<ϵ$$

既然任意

$\Vert h{\Vert }_E\to 0$ 的

$h$ 都對，那就把

$h$ 用

$t\hat{v}$ 取代，其中

$t\to 0$。所以：

$$\frac{\Vert f(x+t\hat{v})-f(x)+(Df(x))(t\hat{v}){\Vert }_F}{\Vert t\hat{v}{\Vert }_E}<ϵ$$

因為：

$$\Vert t\hat{v}{\Vert }_E=|t|\Vert \hat{v}\Vert =|t|\cdot 1=|t|$$

所以帶回分母，然後絕對值整坨拉進去，就會發現：

$$\begin{array}{rl}& \frac{\Vert f(x+t\hat{v})-f(x)+(Df(x))(t\hat{v}){\Vert }_F}{\Vert t\hat{v}{\Vert }_E}\\ & =\frac{\Vert f(x+t\hat{v})-f(x)-(Df(x))(t\hat{v}){\Vert }_F}{|t|}\\ & ={\Vert \frac{f(x+t\hat{v})-f(x)-(Df(x))(t\hat{v})}{t}\Vert }_F\\ & ={\Vert \frac{f(x+t\hat{v})-f(x)}{t}-\frac{(Df(x))(t\hat{v})}{t}\Vert }_F<ϵ\end{array}$$

然後利用

$(Df(x))\in \mathbb{L}(E,F)$，所以：

$$\frac{(Df(x))(t\hat{v})}{t}=\frac{t\cdot ((Df(x))(\hat{v}))}{t}(Df(x)(\hat{v}))$$

帶回上式，得到：

$$\begin{array}{rl}& {\Vert \frac{f(x+t\hat{v})-f(x)}{t}-\frac{(Df(x))(t\hat{v})}{t}\Vert }_F\\ & ={\Vert \frac{f(x+t\hat{v})-f(x)}{t}-(Df(x))(\hat{v})\Vert }_F<ϵ\end{array}$$

也就是：

$$\underset{t\to 0}{lim}\frac{f(x+t\hat{v})-f(x)}{t}=(Df(x))(\hat{v})$$