【最新発明情報】BORex －機械学習モデルの判断根拠の説明を高速・高精度で生成する手法－
深層学習等による画像分類の判断根拠の説明を生成する手法です。
医療、法律分野や自動運転などにおける機械学習モデルの信頼性向上に貢献します。
背景
ディープニューラルネットワーク（DNN）は深層学習の学習方法のひとつで、人間の認知機能を模倣し、AIに複雑な判断を行わせることが可能な手法です。DNNは内部構造が複雑であり、その判断結果の根拠を説明することが難しいという課題があります。近年、AIの判断結果が重大な影響を及ぼす分野（医療、
自動運転など）や、判断根拠の説明が求められる分野（法律・金融分野など）へもDNNの応用が広がっており、合理的な解釈を可能とする「説明可能なAI（Explainable AI、XAI）」技術への需要が高まっています。
発明概要と利点
発明者らは、複数のサンプリング手法を組み合わせた、説明可能性の向上手法「BORex」を開発しました。本発明により、少ない推論回数・短い計算時間で、精度の高いヒートマップ（DNNが画像の「どこを見て判断したか」という重要度を表すマップ）を生成することが可能になります。
- 従来法よりも少ない推論回数・短い計算時間で高クオリティの説明を生成
推定精度の向上と推論にかかる時間は、トレードオフの関係にあります。本発明では、複数の手法を組み合わせることでそれぞれの手法の欠点を補い、精度と計算時間の両方を向上させることが可能にしました。 - 動画への応用も可能
被写体が移動していく動画にも応用できるため、自動運転などの分野でも有用な技術です。
図１. 従来手法との比較
ヒートマップはAIの判断の注目ポイントを表す（青→赤の順で重要度が高くなる）。F値は機械学習の予測結果の評価尺度の一つ（再現率（recall）と適合率（precision）の調和平均）で、同一の画像に対して複数手法を比較した場合、F値が高い方が精度が高い手法であると言える。
従来手法A、B、本発明の結果を比較すると、どの画像でも本発明のF値が最も高いという結果が得られた。
研究段階
- 既存の画像認識データセットを用いて、比較的短時間で精度の高い計算結果が得られることを確認した（図）。
- テキストや数値データに本技術を適用可能か検討中。
適応分野
- AIの判断根拠説明が重要となる分野（医療分野など）
- 画像サイズが大きい分野（天文、航空宇宙など）
- 短時間で高精度なヒートマップが必要となる分野（自動運転、動画など）
- DNNによる推論に時間のかかる分野
希望の連携形態
- 実施許諾契約
- ソフトウェア使用許諾契約
- オプション契約（技術検討のためのF/S）
※本発明は京都大学から特許出願中です。
ライセンス契約を受けていただき 本発明の実用化を目指していただける企業様を募集しています。ぜひ、お問い合わせください。
AI技術の適応分野の拡大に伴い、「AIはなぜそう判断したのか」を説明する技術の重要性は増しています。医療や自動運転などの分野において、本発明を活用していただける企業様を求めています。
京都大学産学連携担当（株式会社ＴＬＯ京都）担当：田中 悠和より
記事をシェア
