# Banach Space - Derivative (Part 1)

巴拿赫空間的微分跟多變數微積分的定義是比較相近的：

## 定義

:::warning
**Def (微分)**
假定 $E, F$ 是 $\mathbb R$ 上的 *Banach space*，函數 $f : u \to F$，其中 $u \in E$ 是個開集。若對於某個 $x \in E$，存在 $\mathbf T \in \mathbb L(E, F)$，使得：

$$
\lim_{\|h\| \to 0} \frac {\|f(x + h) - f(x) -
\mathbf T(h) \|_F}{\|h\|_E} = 0
$$

則稱 $f$ 在 $x$ 是可微分的。並且稱 $T$ 是 $f$ 在 $x$ 的微分。
:::

這邊要注意的事情是：==一個 $x$ 就會給出一個 $\mathbf T \in \mathbb L(E, F)$，所以這個 $\mathbf T$ 是會隨 $x$ 而變的==。此外，這邊要求可微定義下保證的 $x$ 所對應的微分 $\mathbf T$ 必須要在 $\mathbb L(E, F)$ 裡，也就是說：除了線性之外，還必須要連續，或等價地說，「*bounded linear*」(那個 $\mathbb L(E, F)$ 的等價條件)。

另外一個可能比較好操作的定義方式是把微分型移項，並且寫成：

$$
{f(x + h) - f(x) -
\mathbf T (h)} = \|h\|_E\phi(h)
$$

其中，$\phi(h)$ 必須要滿足：

$$
\lim_{\|h\| \to 0} {\|\phi(h)\|_F} = 0
$$

所以上面的定義就改寫成：

:::warning
**Def (微分)**
若存在 $T \in \mathbb L(E, F)$，使得：

$$
f(x + h) - f(x) - \mathbf T (h) = \phi(h)
$$

其中：

$$
\lim_{\|h\| \to 0} \frac {\|\phi(h)\|_F}{\|h\|_E} = 0
$$

則稱 $f$ 是可微分的。
:::

因為 *Banach Space* 本身就是一種 *metric space* (而且還完備，所以就更強了)。所以在 *metric space* 中會出現的性質，在 *Banach spcae* 上也會出現。比如：

## 微分的性質

:::danger
**Thm (微分的性質)**
假定 $E, F$ 是 $\mathbb R$ 上的 *Banach space*。 $f : u \to F$，其中 $u \in E$ 是個開集。假定 $f$ 是可微分的，則：

++**1. 微分保連續**++

$$
\begin{align}
f \ \mathbf {defferentiable} \Rightarrow f\ \mathbf{continuous}
\end{align}
$$

++**2. 微分唯一：**++
假定 $T_1, T_2$ 均滿足微分定義，則：

$$
T_1 = T_2
$$

因為具有唯一性，所以就用 $(Dfx)$ 這個符號，表示 $f$ 在 $x$ 處的微分。

:::

==連續==：因為可微，所以依照可微的定義，對於任意 $\epsilon > 0$，有：

$$
\frac {\|f(x + h) - f(x) -
\mathbf T (h) \|_F}{\|h\|_E} < \epsilon
$$

因為在意的是 $\|h\|_E \to 0$ 的時候，所以當 $\|h\|_E$ 夠小，比如說 $\|h\|_E < 1$ 時：

$$
\|f(x + h) - f(x) - \mathbf T (h) \|_F < \|h\|_E \cdot \epsilon < \epsilon
$$

更進一步，因為 $\mathbf T \in \mathbb L(E, F)$，利用 $\mathbb L(E, F)$ 的等價條件，存在 $C \geq 0$，使得對於任意 $x$：

$$
{\|\mathbf T(h)\|_F} \leq C {\|h\|_E}
$$

因此，當 $\|h\|_E \to 0$，${\|\mathbf T(h)\|_F} \to 0$，所以當 $\|h\|_E$ 夠小時，比如說取 $\|h\|_E = \epsilon / C$ 時，就有：

$$
\|\mathbf T(h)\| \leq \epsilon
$$

所以就有：

$$
\begin{align}
\|f(x + h) - f(x)\|_F &= \|f(x + h) - f(x) - \mathbf T(h) + \mathbf T(h)\|_E
\newline
&\leq \|f(x + h) - f(x) - \mathbf T(h)\|_F + \|\mathbf T(h)\|_E
\newline
&< \epsilon + \epsilon
\end{align}
$$

==唯一==：目標是 $T_1 = T_2$，或是說 $T_1 - T_2 = 0$，或是 $\|T_1 - T_2\| = 0$。這邊的 $\|T_1 - T_2\|$ 是函數的長度。而在 *Banach space* 中，這個函數的長度是定義成：

$$
\sup_{x\neq 0} \frac {\|(T_1 - T_2)(x)\|_F}{\|x\|_E}
$$

觀察 $\sup$ 裡面的東西：

$$
\frac {\|(T_1 - T_2)(x)\|}{\|x\|_E} = \frac {\|T_1(x) - T_2(x)\|}{\|x\|_E}
$$

把裡面的東西加一項再減一項 $f(x + h) - f(x)$，然後用三角不等式拆開：

$$
\begin{align}
\frac {\|T_1(h) - T_2(h)\|_F}{\|h\|_E} &\leq \frac {\|f(x + h) - f(x) - T_1(h)\|_F}{\|x\|_E} + \frac {\|f(x + h) - f(x) - T_2(h)\|_F}{\|x\|_E}\newline
& < \epsilon + \epsilon
\end{align}
$$

> 最後面的 $\epsilon + \epsilon$ 是因為 $T_1$, $T_2$ 是滿足 $f$ 微分定義的連續線性函數，也就是說：當 $\|h\|_E$ 夠接近 $0$ 時，有：
>
> $$
> \frac {\|f(x + h) - f(x) -
> T_1 (h) \|_F}{\|h\|_E} < \epsilon
> $$
>
> 及：
>
> $$
> \frac {\|f(x + h) - f(x) -
> T_2 (h) \|_F}{\|h\|_E} < \epsilon
> $$

現在，假定存在 $x \in E$，使得：

$$
T_1(x) \neq T_2(x) \Rightarrow T_1(x) - T_2(x) \neq 0 \Rightarrow \|T_1(x) - T_2(x)\|_E > 0
$$

更進一步，這個 $x\neq 0$，因為 $T_1- T_2 \in \mathbb L(E, F)$，所以 $(T_1 - T_2)(0)$ 必定是 $0$。這表示：$\|T_1(x) - T_2(x)\|_L \geq 0$，因為：

$$
\begin{align}
\|T_1(x) - T_2(x)\|_E > 0 &\Rightarrow \frac {\|T_1(x) - T_2(x)\|_E}{\|x\|_E} = c > 0\newline
\end{align}
$$

這個 $c > 0$ 就是矛盾的點。因為對這個 $c$，前面的結論知道：當 $\|h\|$ 夠小時，有辦法：

$$
\frac {\|T_1(h) - T_2(h)\|_F}{\|h\|_E} < c
$$

但如果把這個 $x$ 長度調成比 $\delta$ 小，比如令長度是 $\delta / 2$：

$$
h = \frac {\delta}{2} \frac {x}{\|x\|_E}
$$

這時：

$$
\frac {\|T_1(h) - T_2(h)\|_F}{\|h\|_E} = \frac {\|T_1(x) - T_2(x)\|_F}{\|x\|_E} = c
$$

但前面才說這坨東西比 $c$ 小。所以就矛盾了。

> 另外一個沒有上，但我認為有用的性質是： $\mathbb L(E, F)$ 的線性轉換的微分是自己。因為對於任意 $h$，有：
>
> $$
> \frac {\|T(x + h) - T(x) - T(h)\|_F}{\|h\|_E} = \frac {\|T(h) - T(h)\|_F}{\|h\|_E} = 0
> $$
>
> 加上 $T$ 自己又是 $\mathbb L(E, F)$，所以自己就是滿足微分定義的那個 $\mathbb L(E, F)$。

## 方向導數

:::warning
**Def (方向導數)**

假定 $E, F$ 是 $\mathbb R$ 上的 *Banach space*，$\hat v \in E$ 是一個單位向量，$f : E \to F$。則 $f$ 在 $x$ 上沿 $\hat v$ 的方向導數定義為：

$$
\lim_{t \to 0}\frac {f(x + t\hat v) - f(x)}{t}
$$

:::

跟初等微積分的直覺類似，所有方向導數存在，未必保證微分存在。但某一點微分存在，就可以保證該點任何方向的方向導數都存在：

:::danger
**Thm (方向導數與微分)**

假定 $E, F$ 是 $\mathbb R$ 上的 *Banach space*，$\hat v \in E$ 是一個單位向量，$f : E \to F$。若 $f$ 在 $x$ 是可微分的，則：

$$
\lim_{t \to 0}\frac {f(x + t\hat v) - f(x)}{t} = (Df(x))(v)
$$

:::

因為 $f$ 在 $x$ 可微分，也就是說，$\|h\|_E < \delta$ 的時候：

$$
\frac {\|f(x + h) - f(x) + (Df(x))(h)\|_F}{\|h\|_E} < \epsilon
$$

既然任意 $\|h\|_E \to 0$ 的 $h$ 都對，那就把 $h$ 用 $t \hat v$ 取代，其中 $t \to 0$。所以：

$$
\frac {\|f(x + t\hat v) - f(x) + (Df(x))(t\hat v)\|_F}{\|t\hat v\|_E} < \epsilon
$$

因為：

$$
\|t\hat v\|_E = |t| \|\hat v\| = |t| \cdot 1 = |t|
$$

所以帶回分母，然後絕對值整坨拉進去，就會發現：

$$
\begin{align}
&\frac {\|f(x + t\hat v) - f(x) + (Df(x))(t\hat v)\|_F}{\|t\hat v\|_E} \newline
&=\frac {\|f(x + t\hat v) - f(x) - (Df(x))(t\hat v)\|_F}{|t|}
\newline
&=\left\| \frac {f(x + t\hat v) - f(x) - (Df(x))(t\hat v)}{t}\right\|_F
\newline
&= \left\| \frac {f(x + t\hat v) - f(x)}{t} -\frac {(Df(x))(t\hat v)}{t}\right\|_F < \epsilon\newline
\end{align}
$$

然後利用 $(Df(x)) \in \mathbb L(E, F)$，所以：

$$
\frac {(Df(x))(t\hat v)}{t} = \frac {t\cdot ((Df(x))(\hat v))}{t} (Df(x)(\hat v))
$$

帶回上式，得到：

$$
\begin{align}
&\left\| \frac {f(x + t\hat v) - f(x)}{t} -\frac {(Df(x))(t\hat v)}{t}\right\|_F\newline
&= \left\| \frac {f(x + t\hat v) - f(x)}{t} - (Df(x))(\hat v)\right\|_F < \epsilon
\end{align}
$$

也就是：

$$
\lim_{t \to 0}\frac {f(x + t\hat v) - f(x)}{t} = (Df(x))(\hat v)
$$