視覚的説明が可能なAttention Mapの解釈方法の提案

カテゴリ: 部門大会

論文No: TC11-2-3

グループ名: 【C】2024年電気学会電子・情報・システム部門大会

発行日: 2024/08/28

タイトル(英語): Proposal of an Interpretation Method for Attention Map with Visual Explanation

著者名: 加藤 駿弥（愛知県立大学）,小林 邦和（愛知県立大学）

著者名(英語): Shunya Kato (Aichi Prefectural University),Kunikazu Kobayashi (Aichi Prefectural University)

キーワード: Attention Map|視覚的説明|説明可能なAI|深層学習|VisionTransformerCIFAR-10|Attention Map|Visual Explanation|Explainable AI|Deep Learning|VisionTransformerCIFAR-10

要約(日本語): 本研究は解釈が人任せになっているAttention Mapによる視覚的説明を客観的に解釈する方法を提案することで，Attention Mapによる説明を改善することを目的としている．具体的な方法としては，まず画像分類モデルから生成したAttention Mapを複数の正方形領域に分割し，各領域を輝度値の統計量と閾値でマスクするかどうかを決定することでマスク画像を生成する．このような処理を画像の分割数，輝度値の統計量と閾値を様々に変えて行い，複数のパターンのマスク画像を生成する．次に各パターンでマスク画像と原画像を重ね合わせた画像を再度画像分類モデルに入力し，画像の正解ラベルの確率値を計算する．最後に各パターンをその確率値とマスクされた割合で比較する．以上の方法によりAttention Mapの定量的解析から重要な領域を特定することで，Attention Mapの客観的な解釈が可能となる．