# 5.2 Individual Conditional Expectation (ICE)
## ICE 簡介
* 變數代換的時候，把所有的觀測結果攤開看，即為ICE，PDP 是ICE 結果取平均
* 若變數交互作用較強，ICE比PDP更適合觀察
* 多線圖的概念也可以用在不同演算法的比較
## Centered ICE Plot
* 透過平移讓基準點(anchor point)一致，可直接看出每條線的差異
* 通常以最大或最小值為錨點(基準點)
## Derivative ICE Plot
* 可以看出feature value在哪個範圍發生變化
* 如果關注的feature與其他feature沒有interaction，則所有instance的偏微分結果應該要一樣；若不同則表示有interaction
* 可搭配偏微分的standard deviation去看資料異質的區域
* d-ICE計算時間久，不實用
圖參考1：https://arxiv.org/pdf/1309.6392.pdf
圖參考2：https://medium.com/the-die-is-forecast/shining-a-light-on-the-black-box-of-machine-learning-2b49fe471cee
## ICE優點
* 比PDP更容易了解
* 可看出異質關係
## ICE缺點
* 一次只能看一個feature
* 假設feature間獨立
* 樣本數太多時圖會擁擠混亂，解法：
-- 線條取透明度
-- 取sample畫圖
* 不容易看出平均，解法：
-- 將PDP疊畫在上方

## 參考程式
* https://medium.com/sherry-ai/xai-%E5%A6%82%E4%BD%95%E5%B0%8D%E9%9B%86%E6%88%90%E6%A8%B9%E9%80%B2%E8%A1%8C%E8%A7%A3%E9%87%8B-dd2aa0b58a19
* http://savvastjortjoglou.com/intrepretable-machine-learning-nfl-combine.html

###### tags: `重點摘要`