予測精度と強く関連するAIの判断根拠を推定する新手法

当社の河野圭祐と沓名拓郎がデンソーと共同で行った研究がNEURAL NETWORKSに掲載されました。

現在、画像認識をはじめとする人工知能（AI）の活用が進んでいますが、AIが「なぜその判断をしたのか」を人が理解するのは難しいままです。特に深層学習（DNN）が新しい画像に対しても高い精度を出す理由は、まだ十分に解明されていません。
従来の研究で、DNNが「画像のどの部分を根拠にして判断しているのか」を推定する方法がいくつか提案されていますが、予測精度と高い関連を持つような根拠の特定は難しいという課題がありました。

本研究では、DNNと画像が与えられたもとで「その予測を維持できる画像中の最小限の領域」をMinimal Sufficient View（MSV）として定義し、その推定アルゴリズムを提案しました。たとえば「猫」と予測された画像に適用すると、目・耳・顔の縞模様などがそれぞれMSVとして推定されます。そして、こうした証拠（MSV）の数が多いほど、DNNの予測精度が高いことを実験で明らかにしました。

この方法は正解ラベルなしでも使えるため、評価用データを用意せずに優秀なDNNを選ぶことが可能になります。これにより、より信頼性と説明性の高いAIの開発につながると期待されます。

タイトル: Minimal sufficient views: A DNN model making predictions with more evidence has higher accuracy
著者: Kawano, K., Kutsuna, T., Sano, K.
掲載誌: Neural Networks
掲載日: 2025年5月28日
https://doi.org/10.1016/j.neunet.2025.107610