医療AIに“見ていないのに診断する”問題

医療分野で活用が進むAIについて、重要な課題が指摘されています。

スタンフォード大学の研究チームは、医療AIが画像を与えられていないにもかかわらず、あたかも画像を見たかのように診断や説明を行う現象を確認しました。この現象は「ミラージュ推論」と呼ばれています。

実験では、胸部X線やMRIなどの画像に関する質問をAIに与えた際、画像がない場合でも多くのAIが「画像がありません」とは答えず、架空の画像内容を前提に診断を行いました。特に医療分野では、より深刻な診断結果に偏る傾向も見られました。

さらに問題なのは、こうしたAIが既存のテストで高い評価を得てしまう点です。画像を見ていなくても、問題文から推測することで正答率が高くなる場合があり、AIの実力が正しく評価されていない可能性が示されました。

研究チームはこの課題に対し、「B-Clean」と呼ばれる新たな評価手法を提案しています。これは、画像なしでは解けない問題だけを残すことで、AIが本当に画像を理解しているかを評価する方法です。

今回の研究は査読前ではあるものの、医療AIの信頼性や安全性を考える上で重要な示唆を与えています。今後はAIの出力を過信せず、人間による確認や評価基準の見直しがより重要になると考えられます。

詳しい内容は元記事をご覧ください