# プロ研　貫井
## 先行研究テーマ　XAIについて
精読する予定のもの
https://www.hindawi.com/journals/misy/2022/8167821/

### 動機
実社会にAIを普及させようとするときに、「AIの分析、判断の根拠がわからない」という壁にぶつかる(ex. 医療、自動運転).
とくに、ディープラーニングでは根拠をあきらかにするのが難しい
- [ ] なぜディープラーニングは難しい？

## XAIについて
機械学習モデルを会食可能なものにするには
・解釈可能なモデルを用いる
・モデル非依存の手法を用いる: 入力を変えたときにどのように出力が変化するかを計算する
の2通りある。

#### 解釈可能性とは？
数学的な定義はない
・人間が決断の要因を理解できる度合
・人間がモデルの結果を一貫して予測できる程度

#### なぜ解釈可能性が必要？
説明可能であることの必要性は、問題の不完全な定式化によって生じるのです
・学習データに内在するバイアスをそのままモデル荷反映させないためのバイアス検出をするデバッグツールになりうる。

#### アルゴリズムの透明性
アルゴリズムがどのようにデータからモデルを学習させるか、どのような関係性を見出せるか

### モデル非依存な手法
モデル固有な解釈手法よりも大きな柔軟性を持っている
課題解決のために用いられるモデルは1種類ではないことが多いため、モデル非依存な手法であるとそれらを比較しやすい

#### Partial Dependence Plot (PDP)
1つまたは2つの特徴量が機械学習モデルの予測結果に及ぼす周辺効果を調べる
回帰に関するpartial dependence関数は以下のように定義される
$\hat{f}_{x_s}(x_s)=E_{x_c}[\hat{f}(x_s,x_c)]=\int\hat{f}(x_s,x_c)d\mathbb{P}(x_c)$
$x_s$は予測に対する影響を知りたい特徴量
$x_c$は$\hat{f}$に与するその他の特徴量を表す

この手法は、集合Cの特徴量の分布に対してモデルの出力を周辺化できる
これにより、集合Sの中のある特徴量と予測結果との関係を表現することができる
$\hat{f}_{x_s}$は学習データの平均としてあらわされる(モンテカルロ法)
$\hat{f}_{x_s}(x_s)=\frac{1}{n}\sum_{i=1}^n\hat{f}(x_s,x_c^{(i)})$

PDPは、集合Sの中の特徴量が集合Cの中の特徴量に創刊していないという仮定の下成り立っている

#### Individual Conditional Expectation (ICE)
ある特徴量が変化したときのインスタンスの予測がどのように変化するかを一本の線で可視化する手法
PDPは個々のインスタンスではなく全体の平均に対して可視化していた。

https://hacarus.github.io/interpretable-ml-book-ja/

ーーーーーーーーーーーーーーーーーーーーーーーーーーーーー

## 例
以下の論文から注目されているXAIの研究についてまとめる
https://arxiv.org/pdf/2202.06466v1.pdf

### 評価観点
・有効性
効率性、満足度、信頼性を包含する
"利用者がより正確で迅速な意思決定を行うために、説明が有用であるかどうか[Balog and Radlinski, 2020]"、あるいは "利用者が説明により満足しているかどうか[Xian, 2021]"を評価する

・透明性
「説明がレコメンダーの内部動作原理を明らかにできるかどうか」を評価する

・説得力
"説明によって利用者のアイテムに対するインタラクション確率を高めることができるかどうか[佃, 2020; Balog and Radlinski, 2020; Musto et al., 2019]"を評価する

・精査可能性
説明が推薦結果と正確に対応できるか？を評価する

### 評価方法
・

### EXAMHEL
進化型自己組織化マップ(ESOM)の一種
自己組織化マップとは、教師なし学習の１手法で、分類のルール　　　　を教えていないにも関わらず、データを与えると、データの特性を反映したマップを生成する。

- [ ] 自己組織化マップくわしく

EXAMHALはパスとノードに年齢の概念を導入し、活性度=活性値/年齢が閾値以下のノードとパスを削除することで、安定したオンライン学習を実現している

https://qiita.com/mhrt-tech-biz-blog/items/d8af266e25d48bc20e0b