---
# System prepended metadata

title: Progress 2020/4/8
tags: [研究]

---

# Progress 2020/4/8

###### tags: `研究`

![](https://i.imgur.com/PFURZNT.jpg)

自分のモチベーションとしては「**赤の軸を見つけたい**」

その前に、ノイズが制約として上手く機能しているのかを調べる必要がある。


## Accuracyの比較
* `45.cfg`：$\sigma_{neu}^{train}=0$
* `50.cfg`：$\sigma_{neu}^{train}=0.05$
* `55.cfg`：$\sigma_{neu}^{train}=0.1$
の各モデルについて、$\sigma_{neu}^{test}$を変えながら正答率を測定した。
![](https://i.imgur.com/BP8BIz2.png)

→学習時にノイズを加えることが内部ノイズに対する頑健性の向上に寄与していることを確認できた。
しかし、ノイズ0の時も精度に差が出てしまっていたため「頑健性の向上」以外のファクターが効いてしまっている可能性がある。できればこの差はなくすように学習させたい。
また、`50.cfg`と`55.cfg`の差が今回の測定では見えなかったが、情報処理的な違いがあるのかについても調べる必要がある。

## neural dynamicsはどのような挙動を示すのか
### `45.cfg`: $\sigma_{neu}^{train}=0$
最初の信号が出力され終わったタイミング（$t=15$）
![](https://i.imgur.com/MsV6mBU.png)
2つめの信号が入力される直前（$t=45$）
![](https://i.imgur.com/HSx5Pcp.png)
記憶期間における移動（$t=15\sim 45$）
![](https://i.imgur.com/H7rEgbC.png)

### `50.cfg`: $\sigma_{neu}^{train}=0.05$
最初の信号が出力され終わったタイミング（$t=15$）
![](https://i.imgur.com/WGDyG1R.png)

2つめの信号が入力される直前（$t=45$）
![](https://i.imgur.com/I8TfjGD.png)

記憶期間における移動（$t=15\sim 45$）
![](https://i.imgur.com/2zVIXmv.png)

### 仮説：ノイズありで学習させたモデルの方が「移動量」が大きい？
![](https://i.imgur.com/9SbMZIF.png)

残念ながら、モデル間のvariabilityの方が大きいという結果。多分最初の概念図でいうと青の矢印に対応。

### 「各時刻ごとの周波数と相関するニューロン」のplot

* `45_3.cfg`
![](https://i.imgur.com/5Qi26KU.png)

* `45_4.cfg`
![](https://i.imgur.com/gshZTpP.png)
→これも青の矢印に対応（？）

### 頑健性に対応する特徴量をどのように抜き出すか？
* そもそもあまり頑健性に違いがないという可能性も。工夫の必要あり？
* $t=15\sim 45$に沿って保存量があるはず。それを抜き出せば固定点周りの線形安定性解析に対応する結果が得られる・・？
