---
# System prepended metadata

title: Pruning論文mtg 2020/3/28
tags: [研究]

---

# Pruning論文mtg 2020/3/28

###### tags: `研究`

## 論文構成案
- Introduction
- Materials and Methods
    - Controllability
    - Synaptic pruning rule
    - neural mass model
- Results
    - neural mass modelでの実験結果
    - 線形モデル時の理論説明
- Discussion
    - なぜmodal controllabiltyを計算しなかったのかの説明
    - 極大になるcoupling lengthの値の考察
    - Deep learning界隈で流行ってるpruning系の研究に触れる？
    - and more ...

## 方針
* 結果は基本的にポスターの物を使う。
* スタートとなるモデルとしてErdos-RenyiとStochastic block modelを使う。
* （猿のDTIデータとかも）https://www.nitrc.org/projects/rmdtitemplate/
* こういう図を作る
![](https://i.imgur.com/uNL3V7k.jpg)

![](https://i.imgur.com/EYiexdG.png)



## メモ
相関係数の平均の求め方（z-transformation)
$r_i$を試行$i$における相関係数とした時、$N$回の試行に関する平均の相関係数$\bar{r}$は
$z_i = \frac{1}{2}\log\frac{1+r_i}{1-r_i}=\tanh^{-1}(r_i)$
として$z_i$に関して平均を求めた後、逆変換
${\bar r}=\tanh(\bar z)$
によって求める（https://github.com/tripdancer0916/network-pruning/blob/2511736f0236904506ab4aab07bda0b59080a7a1/calc_correlation.py#L92 ）
参照：https://link.springer.com/content/pdf/10.3758/BF03334037.pdf

## Neural Mass Modelの結果


## 線形モデルの解析
neural mass modelは非線形なダイナミクスを仮定しているが、structural connectivityの効果を入れた簡単なモデルとして、以下のようにrandom gaussian noiseに駆動される線形ダイナミクスを考えることができる。
$\dot x = -x + Ax + R$
(ただし、$R$はrandom gaussian noise)
このダイナミクスの定常状態を考えると、
$x=Ax+R$
が成り立ち、この時$x$の共分散は$Q=(E-A)^{-1}$として次のように解析的に求められる。
$\langle xx^{\mathrm T}\rangle = \langle QRR^{\mathrm T}Q^{\mathrm T}\rangle=QQ^{\mathrm T}$
ここで、
$Q=\frac{1}{E-A} = E+A+A^2+\cdots=\sum_{\tau=0}^\infty A^{\tau}$
一方、controllable gramianは$W_i=\sum_{\tau=0}^\infty A^{\tau}e_ie_i^{\mathrm T}(A^{\tau})^{\mathrm T}$のトレースであり、$\sum_{\tau=0}^\infty A^{\tau}$の大きいedge=共分散が大きいedge＝相関が大きいedgeを切った場合、controllable gramianに与える影響は大きいことが予想される。実際以下のようにbinary networkからedgeを取り除いたときのcontrollabilityの変化とそのedgeのcorrelationは逆相関の関係にあることが分かる。
![](https://i.imgur.com/ib10xb6.png)

## 梶原
* 