医療AIに“見ていないのに診断する”問題

医療AIが診断に必要な画像を与えられていなくても、それらしい診断を出す可能性があることが研究で示されました。「ミラージュ推論」と呼ばれるこの現象は、AIが存在しない情報を前提に説明を行うもので、医療現場での安全性や評価方法の見直しが求められています。

医療分野で活用が進むAIについて、重要な課題が指摘されています。 スタンフォード大学の研究チームは、医療AIが画像を与えられていないにもかかわらず、あたかも画像を見たかのように診断や説明を行う現象を確認しました。この現象は「ミラージュ推論」と呼ばれています。 実験では、胸部X線やMRIなどの画像に関する質問をAIに与えた際、画像がない場合でも多くのAIが「画像がありません」とは答えず、架空の画像内容を前提に診断を行いました。特に医療分野では、より深刻な診断結果に偏る傾向も見られました。 さらに問題なのは、こうしたAIが既存のテストで高い評価を得てしまう点です。画像を見ていなくても、問題文から推測することで正答率が高くなる場合があり、AIの実力が正しく評価されていない可能性が示されました。 研究チームはこの課題に対し、「B-Clean」と呼ばれる新たな評価手法を提案しています。これは、画像なしでは解けない問題だけを残すことで、AI…

この先の本文と音声は、olneアプリで

記事を最後まで読む、音声で聞く、気になる記事を保存する。パーキンソン病と向き合う日々の情報を、アプリの中でまとめて受け取れます。

全文を読む音声で聞く