Permutation Importanceについて調べてみたので、分かったことについて以下にまとめる
調べて理解できたこと
- 「ある特徴量がどれだけモデルの予測精度向上に寄与しているのか」を解釈したもの
- ある特徴量をランダムに並べ替えて、どの程度モデルの誤差へ影響があるかを計算したもの
- ランダムに特徴を並べ替えて予測した誤差を元々の予測結果の誤差の精度の差
- 注意点
- 相関の高い特徴が含まれる場合はどちらかの特徴が評価されないことが起こる
- 全体への影響は小さいが局所的な影響が強い特徴が小さく評価される