オンタリオ州の監査、医師用 AI ノートテイクが事実と異なる情報を生成していることを発見

近年、多くの過労状態にある医師たちは、患者との会話、診断、ケアの決定を構造化されたノートに変換して健康記録に記録するための支援として、いわゆる AI 医療書記（AI medical scribes）を利用するようになりました。しかし、オンタリオ州監査官による最近の監査では、州政府が推奨する AI 書記が、不正確で不完全な情報や、架空の情報（ハルシネーション）を定期的に生成しており、「患者の健康結果に潜在的に影響を与える可能性のある、不適切または有害な治療計画につながる恐れがある」と指摘されています。

オンタリオ州における人工知能の使用に関する最近の報告書において、監査官は、州政府が医療提供者による購入のために承認し事前資格を与えた 20 の AI 書記ベンダーに対して実施された、2 つの模擬患者-医師会話の転写テストをレビューしました。そのすべての 20 ベンダーで、少なくとも 1 つの単純なテストにおいて精度または完全性に何らかの問題が見られ、9 ベンダーが患者情報を架空のものとして生成し（ハルシネーション）、12 ベンダーが情報を誤って記録し、17 ベンダーが議論されたメンタルヘルス問題に関する重要な詳細を見落としていました。

報告書において、監査官は、これらの要約に含まれる複数の懸念すべき誤りの具体例を指摘しており、これらは患者のその後の治療に直接的かつ悪影響を及ぼす可能性があります。具体的には、AI 書記が血液検査や療法のための存在しない紹介状をでっち上げたり、処方薬の名前を誤って書き写したり、シミュレーションされた会話で議論された精神保健上の「重要な詳細」を見落としたりする事態が含まれます。

記事全文を読む

コメント