医療AIに“見ていないのに診断する”問題

医療分野で活用が進むAIについて、重要な課題が指摘されています。
スタンフォード大学の研究チームは、医療AIが画像を与えられていないにもかかわらず、あたかも画像を見たかのように診断や説明を行う現象を確認しました。
この現象は「ミラージュ推論」と呼ばれています。
実験では、胸部X線やMRIなどの画像に関する質問をAIに与えた際、画像がない場合でも多くのAIが「画像がありません」とは答えず、架空の画像内容を前提に診断を行いました。
特に医療分野では、より深刻な診断結果に偏る傾向も見られました。
さらに問題なのは、こうしたAIが既存のテストで高い評価を得てしまう点です。
画像を見ていなくても、問題文から推測することで正答率が高くなる場合があり、AIの実力が正しく評価されていない可能性が示されました。
研究チームはこの課題に対し、「B-Clean」と呼ばれる新たな評価手法を提案しています。
これは、画像な…