正しいAI助言を無視すると、読影成績は落ちる
頭部CTの出血判定を125人・50例で試したクロスオーバー試験。正しい助言を捨てる「過小信頼」は、誤った助言に従う「過剰信頼」より成績への影響が大きかった。説明付きAIは迷いによる取りこぼしを減らしたが、読影時間は短くならなかった。
この記事の3ポイント
- 正しいAI助言を無視すると、成績が下がる。 125人・50例の頭部CT実験。助言の8割が正しいため、症例数で見ると過小信頼の影響が過剰信頼より大きい。
- 説明付きAIは、迷いによる取りこぼしを減らす。 成績（OR 1.84）と自信が上がり、難しい出血症例で効いた。読影時間は短くならなかった。
- AIを疑って拒否する例には、説明付きでも効かない。 過小信頼の理由は迷いだけではない。賛成か反対かだけを求める画面は、誤クリックも招く。
頭部CTの出血判定で、正しいAIの助言を無視すると成績が落ちる。当たり前のように聞こえるが、過小信頼と過剰信頼を同じ土俵で比べた研究は少ない。独UCLなどのグループが、125人を対象にした無作為化クロスオーバー試験でその大きさを測った。Lancet Digital Healthに2026年10月23日付で公開された。
試験の設計
2023年2月16日から8月10日まで、10か国から125人が参加した。放射線科医50人（経験の平均7.85年）と、非放射線科医・医学生ら75人（同0.17年）である。
症例は頭部CT 50例。出血あり25例、なし25例で、難易度は易10例・中20例・難20例。参加者は同じ50例を、3回のセッションに分けて読む。条件は、AIの助言なし、AIの予測だけ、予測と出血位置の枠（バウンディングボックス）付きの3つ。順番はランダムに割り当て、セッションの間は14日以上あけた。
AI助言の80%は正しく、20%は誤り。誤りの症例は、出血を見落とす偽陰性と、出血なしを出血ありとする偽陽性が半々になるよう調整した。111人が3回すべてを完了している。
過小信頼と過剰信頼
過剰信頼、つまり誤った助言に従ってしまう割合は27〜58%。過小信頼、つまり正しい助言を捨ててしまう割合は11〜21%だった。割合だけを見ると、過剰信頼のほうが多い。
しかし、助言の80%は正しい。そのため、症例の数で数えると過小信頼のほうが多く発生する。過小信頼を取り除いた場合の成績改善幅から、過剰信頼を取り除いた場合の改善幅を引いた差は、専門家の基本助言で5ポイント、説明付きで4ポイント、非専門家の基本助言で5ポイント。非専門家の説明付きだけは-1ポイントで、過剰信頼の影響がわずかに上回った。
過小信頼は、出血がある症例と、難しい症例で目立った。説明付きAIは、出血ありでAIも出血ありと答えた症例の過小信頼を大きく減らし、出血なしでAIが出血ありと誤った症例の過剰信頼はわずかに増やした。
説明付きAIが減らせたもの、減らせないもの
AIなしの成績は、非専門家が63%、専門家が83%。正しい助言を受けると、どちらの群も成績は上がる。ただし、専門家が有意に恩恵を受けたのは説明付きの助言だけだった。非専門家は基本助言でも上がっている。
正しい説明付き助言は、AIなしに比べて成績を上げ（OR 1.84、95%信頼区間1.49〜2.28、p<0.0001）、自信も上げた（b=0.15、0.09〜0.22、p<0.0001）。難しい出血症例で効果が大きい。一方、読影時間は短縮しなかった（b=-1.81、-3.78〜0.16、p=0.071）。正しい基本助言は全体では時間を短くしたが、それは専門家が中心で、非専門家では出血ありの症例でむしろ長くなった。
非専門家の思考発話からは、過小信頼の4つの型が見えた。医学的な不確実性で助言や枠を確かめられない、AIを信じない・システムの誤りを疑う・別の説明を見つける、過去に誤りを見たと感じてAIを無視する、出血なしの症例で「出血なし」に同意しながら誤って出血をクリックする、の4つである。過小信頼した症例では、読影時間が長く、自信が低かった。
説明付きAIは、1つ目の「迷い」による取りこぼしを強く減らした。しかし、AIを信じない・別の説明を探す型と、過去の誤りからAIを無視する型には効かなかった。
眼の動きを見ると、専門家が正しい説明付き助言を拒否した出血症例では、出血部への注視が最も多く、同時に他の領域にも注視が多かった。迷いながら見て、最後に拒否した形である。正しい基本助言を拒否した場合は、出血部への注視が非常に少なく、他の領域への注視が多かった。
出血部に一度も注視しなかった割合は、正しい基本助言で38%（17/45）、誤った基本助言で67%（18/27）。説明付きでは、正しい場合が3%（1/37）、誤った場合が65%（13/20）だった。
現場で見るべきこと
AIの精度が上がるほど、正しい助言の割合は増える。すると、過小信頼の頻度も影響も大きくなる。研究グループは、過剰信頼だけを問題にするのではなく、正しい助言に乗るための方策が必要だと書いている。
説明付きAIは万能ではない。読影時間を延ばす可能性があり、AIを疑って拒否する例には効かない。AIに賛成か反対かだけを求める画面は、誤クリックによる過小信頼を生みやすいとして、研究グループは使いやすさの検証を求めている。
日本で導入を考えるなら、AIの助言を「読むか読まないか」の二択にしないことだ。候補を消す操作や無視した理由を記録し、後から振り返れるようにする。AIを外した判断が正しかったのか、単に見落としたのかを分けて検証したい。
この研究の限界
ウェブ上の実験で、AI助言の精度を80%に固定し、単一の画像課題を二者択一で判断した。実際のAIは精度も誤り方も変動し、レポート作成や複数の所見をまとめる作業は含まない。
難しい症例と出血ありの症例を実際より多く集めており、実臨床の有病率とは違う。2週間以上の間隔を置いても、難しい症例の記憶が残りうる。専門家は経験の浅い放射線科医が多く、思考発話や眼追跡の参加が行動に影響しうることも否定できない。
研究メモ：Lancet Digital Healthに2026年10月23日付でオンライン公開。無作為化クロスオーバー試験。資金はVolkswagen Foundation、Forum for Interdisciplinary Research、ドイツ連邦教育研究省。利益相反は論文に開示されている。データはOSFで公開されている。
出典
- [1]
- [2]
- [3]
※画像はGPT Image 2.5で生成したイメージです。