# 小西・北川 情報量基準 4章 注釈 ### p. 73 (4.21)式 $\delta_x$を点$x$に確率1を持つデルタ関数として、$(1-\epsilon)G + \epsilon \delta_x$ という表記が出てくる。しかし、デルタ関数は密度関数であって、積分された分布関数Gと同じカテゴリーに属するのは整合性から言えば(4.2)式で定義されるI(x;a)であり、これを用いて$(1-\epsilon)G + \epsilon I_x$とでも書くべきである。あるいは密度関数を用いて$(1-\epsilon) g + \epsilon \delta_x$ でもよいが、どちらかに統一すべき。この本の流儀では統計的汎関数は分布関数を引数に取るので、$(1-\epsilon)G + \epsilon I_x$の方が適当だろう。https://myweb.uiowa.edu/pbreheny/uk/teaching/621/notes/8-28.pdf などにも同様の記法があるが、この資料では p.16で$\delta_x$はデルタ関数ではなく階段関数を表すと定義されているので整合性がある(\delta_xがデルタ関数でない、というのも統計以外の慣習からは気持ち悪さがあるが)。 ### p. 87 (4.81)式 この式は直前の(4.80)式を微分して得られたものであり、(4.80)では$\psi$はp次元縦ベクトルとして扱われているので、(4.81)でもそうなっていなければならない。しかし(4.81)をよく見ると第1項では$\psi$は縦ベクトルであるが、第2項では$\psi^\prime$と転置されて横ベクトルになっており、これは正しくない。正しくは$\psi$ではなくその分母の$\theta$が$\theta^\prime$になっているべきである。 (正) $$ \begin{array}{l} \int {\boldsymbol \psi}\left(y, \boldsymbol{T}_{M}(G)\right) d\left\{\delta_{x}(y)-G(y)\right\} \\ \quad+\left.\int \frac{\partial {\boldsymbol \psi}\left(y, \boldsymbol{T}_{M}(G)\right)}{\partial \boldsymbol{\theta}^{\prime}} d G(y) \cdot \frac{\partial}{\partial \varepsilon}\left\{\boldsymbol{T}_{M}\left((1-\varepsilon) G+\varepsilon \delta_{x}\right)\right\}\right|_{\varepsilon=0}=\mathbf{0} \end{array} $$ ### p. 87 (4.82)式の次のRの定義 したがってこの式も分子ではなく分母に転置がつくべきであり、行列全体としては転置を取ったものが正しい。 (正) $${\boldsymbol R}(\psi, G)=-\left.\int \frac{\partial {\boldsymbol \psi}(x, \theta)}{\partial {\boldsymbol \theta}^{\prime}}\right|_{\theta=T_{M}(G)} d G(x)$$ 同様に、 ### p. 88 (4.88)式 これもその上の(4.87)式を微分して得られているのだから、いきなり第1項だけ$\psi$に転置がつくのはおかしい。 (正) $$ \int \frac{\partial {\boldsymbol \psi}(x, \boldsymbol{\theta})}{\partial \boldsymbol{\theta}^{\prime}} d F_{\boldsymbol{\theta}}(x) +\int {\boldsymbol \psi}(x, \boldsymbol{\theta}) \frac{\partial \log f(x \mid \boldsymbol{\theta})}{\partial \boldsymbol{\theta}^{\prime}} d F_{\boldsymbol{\theta}}(x)=\mathbf{0} $$ ### p. 88 例7 文中で$\phi(x)$を標準正規分布の密度関数としているが、実際に検算してみると正しくは $$ \phi(x) = \frac{1}{\sqrt{2\pi \sigma^2}} \exp(-\frac{x^2}{2}) $$ と置くと全ての計算が合う。なおこの$\phi(x)$はあくまで後の計算結果をコンパクトに表記するために便宜的に導入しているにすぎないので、通常の正規分布や標準正規分布と一致していなくても問題はない。これを用いて、 ### p. 89 l7 (正) $$ \begin{aligned} \boldsymbol{T}_{\boldsymbol{\theta}}^{(1)}\left(x ; F_{\boldsymbol{\theta}}\right) &=\left(T_{\mu}^{(1)}\left(x ; F_{\boldsymbol{\theta}}\right), T_{\sigma}^{(1)}\left(x ; F_{\boldsymbol{\theta}}\right)\right)^{\prime} \\ &=\left(\frac{\operatorname{sign}(x-\mu)}{2 \phi(0)}, \frac{\operatorname{sign}(|x-\mu|-c \sigma)}{4 c \phi(c)}\right)^{\prime} \end{aligned} $$ (第二成分の分母が$\psi(c)$ではなく$\phi(c)$となる) ### p. 89 (4.90)式 両辺で添字$i$が整合性が取れていないが右辺は$\mu_m$がd次元ベクトルの場合を考えてその第i成分に関する式を書こうとしたものと思われる。ここでは$d=1$なのでベクトルの成分を表す添字$i$は不要。添字$i$はデータのインデックス$1\ldots n$を表すと理解する。 (正) $$ \hat{\mu}_{m}=\operatorname{med}\left(\{x_{i}\}\right), \quad \hat{\sigma}_{m}=\frac{1}{c} \operatorname{med}\left\{\left|x_{i}-\operatorname{med}\left(\{x_{j}\}\right)\right|\right\} $$
×
Sign in
Email
Password
Forgot password
or
By clicking below, you agree to our
terms of service
.
Sign in via Facebook
Sign in via Twitter
Sign in via GitHub
Sign in via Dropbox
Sign in with Wallet
Wallet (
)
Connect another wallet
New to HackMD?
Sign up