# 研究ノート

\begin{align}
Q(\alpha) = (K\alpha - s)^{H}(K\alpha - s) + \lambda \alpha^H K \alpha
\end{align}
ここに$\alpha = (K+\lambda I)^{-1}s$を代入すると,

\begin{align}
(K(K+\lambda I)^{-1}s- s)^{H}(K(K+\lambda I)^{-1}s - s) + \lambda ((K+\lambda I)^{-1}s)^H K (K+\lambda I)^{-1}s
\end{align}

- 第一項について,
$$K(K+\lambda I)^{-1}=(I+\lambda K^{-1})^{-1} = I - (\frac1\lambda K + I)^{-1}$$なので（二つ目の等式でwoodburyの公式を用いた）,
\begin{align}
(K(K+\lambda I)^{-1}s- s)^{H}(K(K+\lambda I)^{-1}s - s) = s^H (\frac1\lambda K + I)^{-1} (\frac1\lambda K + I)^{-1} s
\end{align}

- 第二項について,
\begin{align}
\lambda ((K+\lambda I)^{-1}s)^H K (K+\lambda I)^{-1}s &=& \lambda s^H (K+\lambda I)^{-1}\left\{ I - (\frac1\lambda K + I)^{-1} \right\} s \\
&=& s^H (\frac1\lambda K + I)^{-1} \left\{ I - (\frac1\lambda K + I)^{-1} \right\} s
\end{align}

よって, $Q(\alpha)$は,
\begin{align}
Q(\alpha) = \lambda s^H ( K + \lambda I)^{-1}s
\end{align}
となる.

$K= \sum \gamma_d K^{(d)}$のとき,
\begin{align}
\frac{\partial Q}{\partial \gamma_d} = -\lambda s^H ( K + \lambda I)^{-1} K^{(d)} ( K + \lambda I)^{-1}s
\end{align}
となる. ただし, 一般に$a\in \mathbb{R}$に関して,
\begin{align}
\frac{\partial A^{-1}}{\partial a}=-A^{-1} \frac{\partial A}{\partial a} A^{-1}
\end{align}
であることを用いた.

---
### ガウス過程を用いたモデル.
\begin{align}
s | f, \lambda \sim \mathcal{N}(\sum_d f_d, \sigma^{2} I_N)\\
f | \gamma \sim \prod_d \mathcal{N}(0, \gamma_d^{-1}K_d) \\
\gamma \sim \prod_d \mathcal{N}^{-1}(\omega, \chi, \phi)
\end{align}
これを用いて, $\gamma$を推定するために変分推論を用いる. 平均場近似を用いる. すなわち, 事後分布を以下のようになると仮定.
\begin{align}
q(f, \gamma) = q(f)\prod_d q(\gamma_d)
\end{align}
すると,
$q(f) = \mathcal{N}(\mu,\Sigma), q(\gamma) = \prod_d \mathcal{N}^{-1}(\omega_d, \chi_d, \phi_d)$となり,
\begin{align}
\begin{array}{l}
\boldsymbol{\mu}=\tau \boldsymbol{\Sigma} \mathbf{M}^{\top} \mathbf{s}, \quad \boldsymbol{\Sigma}=\left(\overline{\mathbf{K}}^{-1}+\tau \mathbf{M}^{\top} \mathbf{M}\right)^{-1}, \quad \omega_{p}=\omega+N / 2, \quad \chi_{p}=\chi, \quad \phi_{p}=\phi+\left\langle\mathbf{f}_{p}^{\top} \mathbf{K}_{p}^{-1} \mathbf{f}_{p}\right\rangle \\
\text { where } \overline{\mathbf{K}}=\operatorname{diag}\left\{\left\langle\gamma_{1}\right\rangle^{-1} \mathbf{K}_{1}, \ldots,\left\langle\gamma_{P}\right\rangle^{-1} \mathbf{K}_{P}\right\}
\end{array}
\end{align}
となる.

一般化逆ガウス分布とは,
\begin{align}
x \sim \mathcal{N}^{-1}(\omega, \chi, \phi)=\frac{\chi^{-\omega}(\sqrt{\chi \phi})^{\omega}}{2 K_{\omega}(\sqrt{\chi \phi})} x^{\omega-1} e^{-\frac{1}{2}\left(\chi x^{-1}+\phi x\right)}
\end{align}
- $\phi = 0, \omega < 0$の時, 逆ガンマ分布

---
### 直接$\beta, \eta$を最適化できる. 前までは, どうせ凸にならないから上手くいきそうにないなと考えていたが...
元の問題は
\begin{align}
\min_{\beta, \eta} \min_{\alpha} Q(\alpha)
\end{align}
という問題であり, 内側が陽に解けるので代入すると,
\begin{align}
\min_{\beta, \eta} \lambda s^H ( K + \lambda I)^{-1}s
\end{align}
となるが, 先ほどと同様にすると
\begin{align}
\frac{\partial Q}{\partial \gamma_d} = -\lambda s^H ( K + \lambda I)^{-1} \frac{\partial K}{\partial \theta} ( K + \lambda I)^{-1}s
\end{align}
となり, 音圧のみを考慮する場合,
\begin{align}
K = \frac{1}{C(\beta)}j_0(((kr+i\beta \eta)\cdot (kr+i\beta \eta))^{1/2})
\end{align}
$\frac{\partial K_{i,j}}{\partial \beta}, \frac{\partial K_{i,j}}{\partial \eta}$が計算可能. よって, 勾配ベースの最適化アルゴリズムを適応することが可能.
- 問題点
- (毎イテレーションごとに$K$を計算し, 逆行列計算をする必要があること.)

### ガウス過程のハイパーパラメータを最適化しようみたいなのは既存研究あり.

### 競技場の音場推定について
競技場での音場推定をしようと思った時にどうすればいいのか（内部音場, 外部音場）
- [マイク](https://www.ntt.co.jp/journal/1505/files/jn201505065.pdf)
-