AIの説明を信じすぎる？医療診断で見えた「諸刃の剣」

医療AIが「なぜその診断をしたのか」を説明することは、利用者の判断にどのような影響を与えるのでしょうか。米国を中心とする研究グループは、一般市民623人とプライマリケア医153人を対象に、メラノーマと母斑の皮膚画像を判定する実験を行いました。研究成果は「Nature Medicine」に報告されています。

一般市民では、AIによる支援を受けることで判定の正確性が69.7％から75.8％へ向上しました。しかし、大規模言語モデルによる診断理由の説明を追加すると、AIが正しい場合には判断を助ける一方、AIが間違っている場合には正確性が低下しました。説明された画像所見を信じ、AIの誤りに追従する「自動化バイアス」がみられたためです。医師ではこの影響が比較的小さく、説明から利益を得る傾向が示されました。

パーキンソン病を直接扱った研究ではありませんが、今後AIによる診断支援や症状評価が神経疾患でも広がれば、患者や家族にとって重要な問題になります。AIが詳しい理由を示すと説得力が増しますが、「説明がもっともらしい」ことは「医学的に正しい」ことを保証しません。

医療AIは専門家に代わって最終判断を下す存在ではなく、情報を整理し判断を支える道具として使うことが重要です。患者向けサービスでも、AIの回答だけで治療や服薬を変更せず、疑問があれば医療者に確認する姿勢が安心につながります。

詳しい内容は元記事をご覧ください