「AI診断支援の導入自体は現場も前向きなのですが、誤診が起きたときに誰が責任を取るのかを整理できず、稟議が止まっています」——事務長や法務担当の方から届く相談で、もっとも多い形です。精度も費用対効果も検討済みで、それでも決裁が下りない。止まっているのは技術評価ではなく責任評価、というケースが目立ちます。
前回はAI画像診断の導入判断を4軸で整理し、最後に責任分界の論点に触れました。本記事はその続きとして、現行法上の原則、過失の評価が分かれる境目、ベンダー側の責任が問われうる領域、医療機関が打てる3つの手を、順に分解します。
「責任」はひとつの塊ではない
稟議で問われる「責任」は、性質の異なる3つの層が混ざった言葉です。層を分けないまま議論すると、法務は法令の話を、事務長は賠償の話を、院長は説明責任の話をして、噛み合わないまま時間が過ぎます。
| 層 | 主な根拠 | 誰が誰に対して | 典型的な場面 |
|---|---|---|---|
| 民事の賠償 | 診療契約上の債務不履行、不法行為（民法709条） | 患者 → 医療機関・医師 | 誤診・見落としによる健康被害 |
| 行政・免許 | 医師法、医療法、薬機法 | 行政 → 医師・医療機関・製造販売業者 | 無診察治療、承認された使用目的からの逸脱 |
| 契約 | ベンダーとの個別契約 | 医療機関 → ベンダー | 性能の未達、既知不具合の未告知 |
稟議書で答えるべきは「AIの責任は誰にあるか」という抽象論ではなく、3層それぞれで自院がどこまで負うのかです。以下、順に見ていきます。
出発点：最終判断の責任は医師にあるという原則
医師法は、医師でなければ医業をなしてはならないと定めています（第17条）。厚生労働省は2018年12月、AIを用いた診断・治療等の支援を行うプログラムの利用と医師法第17条の関係について通知を発出しており、AIの支援を受けて診断等を行う場合でも最終的な判断の責任は医師が負う、という整理が示されています。
この原則は2026年時点でも動いていません。国内で承認・認証を受けているAI医療機器プログラムの多くが「医師の診断を支援する」位置づけである以上、法制度と製品設計が同じ前提に立っている、と読めます。
「AIが言ったから」は構成として成立しにくい
「AIが陰性と判定したので追加検査を行わなかった」という説明は、単独では医師の判断義務を果たした根拠になりにくい構造です。医師を介さずAIが処方まで完結する仕組みが海外で議論になった際も、日本では医師法上そもそも成立しない、という整理が確認されています。
承認された使用目的の範囲
プログラム医療機器の承認・認証は、使用目的とセットになっています。承認された使用目的の外側で使った場合は、その運用を選んだ医療機関側の問題として評価されやすい。院内規程の対象範囲を「どの装置・どの検査で使うか」まで書き下ろす意味は、ここにあります。
過失の評価は「出力をどう扱ったか」で変わる
原則が動かないことと、責任の重さが一定であることは別です。医師の過失をどう評価するかは、AIの出力をどう扱ったかによって振れます。盲信も無視も、それぞれ別の形で問題になり得ます。
| AI出力への対応 | 現場で起きやすい形 | 事後に問われること |
|---|---|---|
| 陰性を信頼して打ち切る | 追加検査・問診を省略した | 医師自身の診察・確認をどこまで行ったか |
| 陽性を信頼して踏み込む | 侵襲的検査に進んだ | 適応判断の根拠を示せるか |
| 記録を残さず退ける | 「見たが違うと思った」で終わる | 判断の過程を再現できるか |
| 根拠を記録して退ける | 臨床所見・既往と併記して記載 | 判断が説明可能な形で残っている |
上3行と最下行の違いは、判断の質そのものではなく、判断の過程が残っているかどうかです。医療者の実感としては「当然そう判断した」ことでも、数年後の紛争の場面で残っているのは記録だけになります。
記録がなければ、どちらの主張も立たない
記録の欠落は、医療機関にとって二重に不利に働きます。医師側が「AIの指摘を検討したうえで退けた」と述べても裏づけがなく、逆にベンダーへ「この症例で性能が出ていない」と主張しようにも入出力を再現できない。事実関係を示せない側がリスクを引き受ける構図になりがちです。
「使わなかったこと」が問われる可能性
将来の論点として、あるツールがその領域で標準的に用いられる状況になった場合に、使用しなかったこと自体が争点化する可能性が指摘されています。ただし現時点で、AI診断支援の不使用を過失と認定した確立した判例は限られ、今後の蓄積を待つ領域です。
ベンダー側の責任が問われうる3つの領域
医師に最終判断の責任があることは、ベンダーが何も負わないことを意味しません。問われうる領域は、性質の異なる3つに整理できます。
薬機法上の性能と表示
承認・認証を受けたプログラム医療機器は、性能や使用目的が承認内容に紐づいています。承認時に示された性能を満たさない場合や、添付文書・表示の記載と実際の挙動が乖離する場合は、製造販売業者側の問題として整理される余地があります。選定段階で承認区分と使用目的の記載を確認し、自院の運用想定と照合しておくのが実務的です。
契約上の保証と免責
AI関連の契約には、出力の正確性を保証しない旨の条項が置かれることが一般的です。それ自体は珍しい設計ではありませんが、賠償上限とセットでそのまま受け入れると、医療機関側が実質的に全リスクを負う構造になります。経済産業省が2025年2月に公表した「AIの利用・開発に関する契約チェックリスト」は、この分界を条項単位で点検する整理として使えます。
既知の不具合の告知
特定条件下で誤判定が生じることをベンダー側が把握しながら利用施設に周知しなかった場合、その告知の在り方は事後に問われる余地があります。不具合情報の通知対象・期限・連絡経路を契約に書き込んでおくと、発生時の整理が早くなります。
| 主体 | 主に問われる根拠 | 問われやすい場面 | 実務上の限界 |
|---|---|---|---|
| 医師 | 診察・判断に関する義務、不法行為 | 出力の扱い、確認の省略 | AIの出力を理由とする免責は成立しにくい |
| 医療機関 | 診療契約上の債務、安全管理体制 | 院内規程の不備、教育・機器管理の不足 | 個々の医師の判断と切り離して論じにくい |
| ベンダー | 薬機法上の製造販売業者としての義務、契約上の保証・告知 | 承認内容との乖離、既知不具合の未告知 | 免責条項と賠償上限で範囲が限定されやすい |
なお、ソフトウェアに製造物責任法が及ぶかは、同法の「製造物」が動産とされている関係で議論があり、単体のプログラムへの適用は確立していません。ベンダー側の責任は、製造物責任よりも契約条項と薬機法上の義務を軸に組み立てる方が現実的です。
医療機関が打てる手は「規程・記録・契約」の3点
法制度の側は当面大きく動かないという前提に立つと、医療機関がコントロールできる変数は限られます。実務で効くのは次の3つです。
院内規程で決めておくこと
| 決めること | なぜ確認するか |
|---|---|
| 対象範囲（どの装置・どの検査で使うか） | 承認された使用目的から外れた運用を防ぐ |
| AI出力の位置づけ（参考情報であること） | 医師の判断義務を運用上も明示する |
| 出力と所見が異なる場合の手順 | 判断が属人化し、施設として説明できなくなるのを防ぐ |
| 記録の方法（どこに何を残すか） | 事後の説明と立証の材料になる |
| 精度モニタリングと見直しの頻度 | 自院の症例分布での性能のずれを検知する |
| インシデント時の連絡経路（院内・ベンダー） | 初動の遅れが被害と紛争の双方を拡大させる |
最初から完成形を目指さず、運用開始後に現場から上がった例外を追記していく前提で走らせた方が、規程は形骸化しにくくなります。
記録に何を残すか
対象は、AIに渡した入力データ、出力内容、出力を得た日時、使用したソフトウェアのバージョン、医師の判断、判断が出力と異なる場合はその理由。バージョンが分からないと、数年後に「そのとき何が起きたか」を再現できず、ベンダーとの事実確認そのものが成立しません。生成AIを併用している場合は、入力データの範囲と同意の状態も記録の対象になります。
契約で確認する条項
| 条項 | 確認すること | 欠けると起きること |
|---|---|---|
| 使用目的と性能の表明保証 | 承認された使用目的、性能に関する保証の範囲 | 想定外の運用が医療機関側の過失として評価されやすい |
| 責任分界と賠償上限 | 上限額の水準、除外事由の範囲 | 賠償が生じても実質的に回収できない |
| 不具合の通知義務 | 通知の対象・期限・連絡経路 | 既知の問題を知らないまま運用が続く |
| ログの保存と開示 | 保存期間、医療機関への開示手続 | 事故発生時に入出力を再現できない |
| モデル更新の扱い | 更新の事前通知、性能変化時の再検証 | 挙動が変わったことに気づけない |
| 入力データの二次利用 | 学習利用の可否と制限 | 個人情報保護法・3省2ガイドライン上の論点に発展する |
このうちログの保存・開示とモデル更新の扱いは、標準契約書に含まれないことが多く、追記交渉の対象になりやすい項目です。委託先監督の観点からの確認事項は下記記事に整理しています。
事故が起きた後に求められるもの
有害事象が生じた場合、医療機関は患者・家族への説明、院内の検証、ベンダーとの事実確認を、ほぼ同時に求められます。予期しなかった死亡等に該当すれば医療事故調査制度に基づく対応も加わります。いずれも起点は同じで、何が入力され、何が出力され、医師が何を根拠に判断したかの再現です。
記録とログが揃っていない施設は、この事実関係そのものを示せません。結果として、責任の範囲を切り分ける議論の土台がないまま、医療機関が全体を引き受ける形になりやすい。責任分界は契約書だけで決まるのではなく、事後に何を示せるかで実質的に決まる側面があります。
AIBTRUSTの取り組み
AIBTRUSTの ヘルスインタビュー は、AI利用の履歴と患者同意の履歴を改ざん不能な形で保全する構成を採っています。いつ・誰の・どのデータが・どのAI処理に用いられ、その時点でどの範囲の同意を得ていたかが時系列で残るため、前節の「事後に何を示せるか」に直接効きます。
診断支援AIそのものを提供する製品ではありませんが、問診データや同意状態を構造化して電子カルテ側へ渡す基盤として、AI関連の記録要件を院内運用に組み込む用途で使われています。
よくある質問
Q. AIが提示した所見に従って診断し、後から誤りだったとき、医師は責任を免れますか？
現行制度では、AIの支援を受けた場合でも最終的な判断の責任は医師が負う、という整理が示されています。「AIが陰性と出した」ことは、単独では免責の根拠になりにくいと考えられます。ただし、出力をどう検討しなぜその判断に至ったかが記録に残っていれば、過失の評価は変わり得ます。記録の有無が実務上の分かれ目です。
Q. ベンダーに責任を負わせる契約は結べますか？
無制限に転嫁する契約は現実的ではありません。多くのAI関連契約には出力の正確性を保証しない条項と賠償上限が置かれ、そのまま受け入れると医療機関側がほぼ全リスクを負う構造になります。交渉の余地が出やすいのは、免責の全面撤廃ではなく、性能に関する表明保証の範囲、既知不具合の通知義務、ログの開示手続といった個別条項です。
Q. AIを使わなかったことが、逆に過失と評価されることはありますか？
現時点で、AI診断支援の不使用を過失と認定した確立した判例は限られます。ただし、あるツールがその領域で標準的に用いられる状況になれば、使用の有無やAIの指摘を検討したかどうかが争点化する可能性は指摘されています。導入済みの施設では「使ったが退けた」理由を残す運用を先に整えておくと、将来の変化に耐えやすくなります。
Q. 院内規程はどこまで細かく書けばよいですか？
対象範囲・AI出力の位置づけ・出力と所見が異なる場合の手順・記録の方法・インシデント時の連絡経路の5点が揃っていれば、稟議の説明としては成立するケースが多く見られます。運用開始後に現場から出た例外を追記していく前提で走らせた方が、規程が形骸化しにくい傾向があります。
まとめ
AI診断支援をめぐる責任は、「医師かベンダーか」の二択で考えると答えが出ません。最終的な医療判断の責任が医師にあるという原則は動いていない一方、過失の評価はAIの出力をどう扱ったかで振れ、ベンダー側にも薬機法上の義務と契約上の保証という別軸の責任があります。
稟議を前に進めるうえで着手しやすいのは、契約交渉よりも記録の設計です。導入予定のツールについて「入力・出力・バージョン・医師の判断理由」を既存の電子カルテとログでどこまで残せるか、棚卸しから始めてみてください。ここが埋まると、院内規程に書くべき項目とベンダーに追記を求めるべき条項が見えてきます。
自院での責任分界の整理やAI利用ログの設計についてのご相談は、医療機関向けのお問い合わせ からご連絡ください。