カナダ・オンタリオ州で承認され、医療現場に導入された診療記録作成AIの監査で、20システムのうち12システムが実際の処方と異なる薬剤名を記録していたことが分かった。録音にない治療計画を記載した例も確認され、審査基準や運用時の安全対策の不備が浮き彫りになった。

オンラインメディアのGigazineが18日（現地時間）、オンタリオ州監査総長室の報告を基に伝えた。州政府のAIシステムを点検した結果、医療機関向けのAI記録ツールで重大な誤りが繰り返し確認されたという。

対象となったのは、医師と患者の会話を録音し、診療メモを自動作成する「AIスクリーブ」だ。監査では、承認済みの20システムに模擬診療の音声を用いた検証を実施し、出力内容を比較した。

その結果、12システムで別の薬剤名が記録され、9システムでは音声に含まれていない治療計画が記載されていた。さらに17システムは、患者のメンタルヘルスに関する重要な情報を適切に反映できていなかった。

診療メモの自動化は、医療従事者の入力負担を減らす目的で導入が進む。一方で、薬剤名や症状、治療方針といった基本情報に誤りがあれば、記録上のミスにとどまらず、実際の診療に影響を及ぼす恐れがある。

監査報告書は、システムそのものだけでなく、導入前の審査手法にも問題があったと指摘した。オンタリオ州の評価では、事業者が州内に拠点を持つかどうかが総合得点の30%を占めていた一方、診療メモの正確性は4%、バイアス対応は2%、脅威、リスク、個人情報保護に関する評価もそれぞれ2%にとどまっていた。

報告書は、こうした不適切な配点によって、不正確な医療記録を作成したり、機微な健康情報を十分に保護できなかったりするAIツールが選定される可能性があると警告した。

運用面の安全策も十分ではなかった。オンタリオ州の医療IT支援組織OntarioMDは、AIが生成したメモを医師が手動で確認するよう推奨してきたが、承認済みシステムには医師の最終確認を必須とする機能が備わっていなかった。

今回の監査は、承認済みAIシステムを模擬診療の音声で検証したものだ。それでも、医療用AIが基本的な診療情報を誤る可能性があること、また導入前審査と導入後の検証体制がそうした問題を十分に見極められていなかったことは明確になった。

オンタリオ州保健省の報道官は、AIスクリーブのプログラムには5000人超の医師が参加しており、現時点でこの技術に関連する患者被害の報告は確認されていないと説明した。

今回の監査結果は、医療AIの導入でスピードよりも検証体制を優先すべきだという課題を示している。AIスクリーブは事務負担の軽減に寄与する一方、薬剤名や治療計画、メンタルヘルス情報の誤記が診療判断に直結しかねないためだ。導入前の正確性評価やバイアス、個人情報保護の検証に加え、実運用では医師の最終確認を担保する仕組みが不可欠だといえそうだ。