発明情報

背景

　ディープニューラルネットワーク（DNN）は深層学習の学習方法のひとつで、人間の認知機能を模倣し、AIに複雑な判断を行わせることが可能な手法です。
　DNNは内部構造が複雑であり、その判断結果の根拠を説明することが難しいという課題があります。近年、AIの判断結果が重大な影響を及ぼす分野（医療、自動運転など）や、判断根拠の説明が求められる分野（法律・金融分野など）へもDNNの応用が広がっており、合理的な解釈を可能とする「説明可能なAI（Explainable AI、XAI）」技術への需要が高まっています。

発明概要と利点

発明者らは、複数のサンプリング手法を組み合わせた、説明可能性の向上手法「BORex」を開発しました。本発明により、少ない推論回数・短い計算時間で、精度の高いヒートマップ（DNNが画像の「どこを見て判断したか」という重要度を表すマップ）を生成することが可能になります。

推定精度の向上と推論にかかる時間は、トレードオフの関係にあります。本発明では、複数の手法を組み合わせることでそれぞれの手法の欠点を補い、精度と計算時間の両方を向上させることが可能にしました。

被写体が移動していく動画にも応用できるため、自動運転などの分野でも有用な技術です。