研究 / XAI / 医用画像
医用画像のための 説明可能AI。
モデルの予測だけで終わらせず、どこを見て判断したかまで検討するための研究です。
背景
医用画像AIでは、性能指標だけではモデルの判断を十分に理解できません。説明可能性を、検証可能な実装と評価へつなげます。
研究課題
- 01モデルはどの領域を根拠にしているか
- 02手法ごとに説明領域はどう異なるか
- 03説明生成時間にどの程度差があるか
- 04入力変化に対して説明は安定しているか
手法
SHAPLIMEGRAD-CAM
実験
- — Dataset: chest X-ray images
- — Model: DenseNet121
- — Preprocessing: image normalization and resizing
- — Evaluation: classification performance, explanation region, generation time
限界
- 01
症例数とデータ分布の制約
- 02
医学的な評価には専門家との検討が必要
- 03
説明手法の評価基準は継続して整理する必要がある