---
# System prepended metadata

title: 探討最簡泛函之極值問題
tags: [Optimization theory]

---

# 探討最簡泛函之極值問題

## 泛函
　　**泛函(函數的函數)** 本身是將函數的概念作推廣。函數的定義域通常是實(複)數域，而泛函的定義域可以是函數類別(可針對隱函數)，其值域為數值。**$\Gamma$為函數$y(x)$的泛函，記作$\Gamma=\Gamma[y(x)]$。**
  
- 若泛函的定義域依賴多個未知函數，且每個函數又依賴多維變量。可記作:
<center> 

$\Gamma=\Gamma[y_1(x_1,x_2,...,x_n),...,y_n(x_1,...,x_n)]$

</center>

- ==**最簡泛函(最簡單的積分型泛函)**==
    - 針對於一維函數$y(x)$,可表示為 $\Gamma[y(x)]=\int^{x_1}_{x_0} F(x,y(x),y'(x))dx$
    - 針對於二維函數$u(x,y)$,可表示為$\Gamma[u(x,y)]=\iint F(x,y,u,u_{x},u_{y})dxdy$
    
## 變分

變分是將微分概念推廣，使變分可以處理泛函。==**為了求泛函極值就是透過變分法(一階變分為0)。**== 我們知道函數的導數為0，則該處必為極值。那麼考慮泛函的極值問題，便可引用類似概念。

- **函數變分**
    - 對於任意$x\in[x_0,x_1]$，$\delta y=y_1(x)-y(x)$稱函數$y_1(x)$在$y(x)$的變分。
    


<ul><ul><ul><ul>

<img width=20%
src=https://i.imgur.com/RmHsV16.png alt="aaa" title="aa" />$\quad$ ，**可知$\delta y(x_1)=\delta y(x_0)=0$**

</ul></ul></ul></ul>

<ul>

- ==函數變分$\delta y$== 是2個不同函數在固定其自變量之下的差為 $y_1(x)-y(x)$;
其計算結果是不歸屬於$y_1$和$y$。
- ==函數增量$\triangle y$== 是由$x+\triangle x$，使得函數$y(x)$得到相對的變化量，為$\triangle y=y(x+\triangle x)-y(x)$;
其計算結果是封閉於$y$之中。

- 若$y_1(x)$和$y(x)$可導，則$\delta y'=y_1'(x)-y'(x)=[y_1-y]'=(\delta y)'$，可知變分與導術這兩個運算次序可交換。
</ul>

- **泛函變分**
    我們可以透過函數增量以及函數微分的關係，來推衍泛函增量與泛函變分。
:::success
**函數微分與增量之關係:**
<ul>

微分就是當自變量的變化極其微小時，用來線性近似因變量的變化。也就是線性描述對函數的局部變化。

函數的微分與自變量的微分之比值即為該函數的導數 $\Longleftrightarrow \frac{dy}{dx}=f'(x)$

因此，**函數增量$\triangle y(x)$等於函數微分$\frac{dy}{dx}$(線性主要部分)+無窮小量。**
    
</ul>
:::

從以上，可知 ==**泛函增量$\triangle\Gamma$為泛函變分(線性主要部分)+無窮小量。**==

:::info


**泛函變分之定義**: 對於泛函$\Gamma[y(x)]$而言，其泛函增量$\triangle\Gamma=\Gamma(y+\delta y)-\Gamma(y)$。透過泰勒一階展開可表示為$\triangle\Gamma=T[y,\delta y]+\beta[y,\delta y]$。

<ul>

- $T[y,\delta y]$是**線性主要部分**: 固定$y$，$T$是$\delta y$的線性泛函。需滿足線性條件，$T[y,c\delta y]=cT[y,\delta y]$; $T[y,\delta y_1+\delta y_2]=T[y,\delta y_1]+T[y, \delta y_2]$.

- $\beta[y,\delta y]$是無窮小量，需滿足 $max \ |\delta y| \rightarrow0$，則有$\frac{\beta[y,\delta y]}{max |\delta y|}\rightarrow0$

</ul>

則$T[y,\delta y]$，稱為泛函變分$\delta\Gamma$。

:::

[補充]二維泰勒展開式:
:::spoiler
$f(x,y)=f(x_0,y_0)+[f_x(x_0,y_0)(x-x_0)+f_y(x_0,y_0)(y-y_0)]+...+\frac{f_x^{(n)}(x_0,y_0)}{n!}(x-x_0)^n]+\frac{f_y^{(n)}(x_0,y_0)}{n!}(y-y_0)^n]$

:::

## 最簡泛函之極值問題，等價於求解Euler-Lagrange Equation

預備定理以導出歐拉-拉格朗日方程式。

::: info
變分學引理:
<ul>

如果$y=f(x)$在$[x_0,x_1]$連續，同時$\int^{x_1}_{x_0}f(x)\eta(x)dx=0$成立。
若$\eta(x)$具備三個性質:**(1)** $\eta(x)$有連續導數;**(2)** $\eta(x_0)=\eta(x_1)=0$; **(3)** $|\eta(x)|<\epsilon$, $\epsilon$為任意正數。

</ul>

則$f(x)$在$[a,b]$上恆為0.
:::

考慮最簡泛函的極值問題，可透過類似函數極值的概念來推衍。

==**泛函$\Gamma[y]$取極小值的涵義是:$\Gamma[y+\delta y]\geq \Gamma[y]$，其中$|\delta y|<\epsilon$。**==


假定**所考慮的函數皆會通過固定的兩端點(==邊界條件==)**：
<center>

$y(x_0)=a;y(x_1)=b$，而有$\delta y(x_0)=\delta y(x_1)=0$。

</center>

接下來考慮泛函的差值:
<center>

$\Gamma[y+\delta y]-\Gamma[y]=\int^{x_1}_{x_0} F(x,y+\delta y,(y+\delta y)')dx-\int^{x_1}_{x_0} F(x,y,y')dx$

</center>

透過泰勒一階展開：
<center>

$F(x,y+\delta y,(y+\delta y)')\approx F(x,y,y')+\frac{\partial F}{\partial y}\delta y+\frac{\partial F}{\partial y'}(\delta y)'$

</center>

以此簡化泛函之差，可得$\delta \Gamma[y]$。即為$\Gamma[y]$的一階變分： 
<center>

$\Gamma[y+\delta y]-\Gamma[y] \approx\int^{x_1}_{x_0} [\frac{\partial F}{\partial y}\delta y+\frac{\partial F}{\partial y'}(\delta y)']dx=\delta \Gamma[y]$

</center>



仿照函數求極值之必要條件，可知 ==**泛函$\Gamma[y]$取極值的必要條件為泛函的一階變分為0**==.
<center>

$\delta\Gamma[y]=\int^{x_1}_{x_0} [\frac{\partial F}{\partial y}\delta y+\frac{\partial F}{\partial y'}(\delta y)']dx=\int^{x_1}_{x_0}\frac{\partial F}{\partial y}\delta y\cdot dx+[\frac{\partial F}{\partial y'}\delta y|^{x_1}_{x_0}-\int^{x_1}_{x_0}\delta y\cdot\frac{d}{dx} (\frac{\partial F}{\partial y'}) dx]$

$\implies \delta\Gamma[y]=\int^{x_1}_{x_0}\delta y [\frac{\partial F}{\partial y}-\frac{d}{dx}(\frac{\partial F}{\partial y'})]dx=0$

</center>

透過變分學引理可得出**歐拉-拉格朗日方程式**:
<ul>

- 一維函數$y(x)$： $\frac{\partial F}{\partial y}-\frac{d}{dx}\frac{\partial F}{\partial y'}=0$ 
- 二維函數$u(x,y)$： $\frac{\partial F}{\partial u}-\frac{d}{dx}\frac{\partial F}{\partial u_x}-\frac{d}{dy}\frac{\partial F}{\partial u_y}=0$ 

</ul>

==**歐拉-拉格朗日方程式＋邊界條件(固定兩端點，其函數變分為０)是求解最簡泛函的必要條件。**==


## Reference
1. 圖像處理中的數學修練，左飛


###### tags: `Optimization theory`