月曜の朝礼で、リハ科の新人が悪気なく報告しました。「昨日、担当患者さんの経過が複雑だったので、カルテの内容をスマホのChatGPTに貼り付けて要約してもらったんです。すごく分かりやすくなって」——科内が一瞬静まります。患者名は消したのか。生年月日は。入力した情報はどこのサーバーに送られ、何に使われるのか。誰も答えられません。そして気づきます。この施設には、AIの利用について「やってよいこと・いけないこと」を定めた文書が1枚もないことに。

これは特殊な失敗譚ではありません。生成AIは導入手続きを経ずに、個人のスマートフォンから業務に入り込みます。禁止を明文化していない施設では「使ってよいのか分からないまま、各自がこっそり使う」状態が既に始まっており、それは最悪の状態です——リスクは放置され、活用の知見は共有されず、インシデントが起きたとき誰も自分の行為を説明できません。本記事は、このAIクラスタの「まとめ役」として、①なぜ院内ルールが要るか、②実物を確認できた公的ガイドライン5件の整理、③実在論文6本のレビュー、④そのまま使える院内ルールの章立てテンプレート、⑤個人情報保護の実務、⑥限界、の順に、リハビリテーション部門・治療院がAI利用のルールを自作するための材料を一式そろえます。

なぜ院内ルールが要るか——4つのインシデント想定

ルール作りの出発点は、抽象的な倫理原則ではなく「うちで実際に起こりうる事故」の列挙です。当サイトのAIクラスタで扱ってきた論点を、インシデントの形に翻訳すると4類型になります。

図1 院内ルールがないと起こる4類型のインシデント想定

類型①：個人情報の流出型。 冒頭のシーンです。患者の氏名・病歴・画像を外部の生成AIサービスに入力する行為は、サービスの規約によっては入力内容がAIの学習に使われ、施設の外に出て戻せなくなります。書類作成へのAI活用（ChatGPT・生成AIの臨床実務の記事参照）が広がるほど、この入口は増えます。

類型②：誤情報の混入型。 AIの出力する「もっともらしい誤り」が、チェックなしに文書へ流れ込む事故です。文献の捏造（AI時代の論文の読み方の記事で見たとおり、GPT-3.5の引用の55%が実在しませんでした）、症例報告への不正確な記述の混入（生成AI×症例報告の記事）、臨床推論への誤誘導（LLM×臨床推論の記事）は、いずれもこの類型です。

類型③：判断の丸投げ型。 AIの評価・予測を人間の確認なしに臨床判断へ直結させる事故です。転倒リスクのスクリーニング（AI転倒予測の記事）や動作分析（スマホAI動作分析の記事）はあくまで支援ツールであり、出力の見落とし型エラーは常に残ります。「AIがそう言ったから」は、事故調査で通用する説明にはなりません。

類型④：患者との信頼毀損型。 AIを使っていることを患者に伏せたまま問題が起き、後から発覚する事故です。後述のとおり、患者はAI利用そのものより「知らされていなかったこと」「人間の関与がなかったこと」に強く反応します。患者向けアプリへの対応（患者向けAIセルフケアアプリの記事）を含め、開示と同意の方針はルール化が必要です。

公的ガイドラインの整理——実物を確認できた5件

「医療AIのガイドラインはまだ無いから作れない」は誤解です。院内ルールの参照先になる公的文書は既に階層をなして存在します。以下の5件は、本記事の執筆にあたり発行主体のサイトで実物または公式発表を確認できたものだけを挙げています（確認日：2026年9月）。

図2 公的ガイドラインの階層マップ——国際・国・業界・職能団体

①WHO「保健のためのAIの倫理とガバナンス：大規模マルチモーダルモデルに関するガイダンス」（2024年1月）。 生成AI（LMM）に特化した国際指針で、診断・臨床ケア、患者主導の利用、事務作業、教育、研究という5つの応用領域ごとにリスクを整理し、開発者・提供者・導入者・政府に向けた40超の勧告を示します。院内ルールの観点では「患者主導の利用」——患者が自分でAIに相談する場面——を正面から扱っている点が貴重で、療法士が患者のAI利用に関与する際の枠組み（前掲の患者向けAIアプリの記事）と直結します。

②厚生労働省「医療情報システムの安全管理に関するガイドライン 第6.0版」（2023年5月）。 医療情報を扱うすべての医療機関等が対象の、国内の基幹ガイドラインです。経営層・企画管理・システム運用の役割別4分冊構成で、義務としての性格が最も強い文書です。生成AIそのものを主題とした文書ではありませんが、医療情報を外部サービスに預ける際の考え方の土台がここにあり、付随するQ&A（2025年5月公表分）では、生成AIのプロンプトに医療情報を入力する場合の論点——入力情報がAIの学習等に保存されないことの契約上の担保——が明示的に扱われています。院内ルールの個人情報条項は、実質的にこのガイドラインへの適合として書くことになります。

③総務省・経済産業省「AI事業者ガイドライン」（第1.0版2024年4月、第1.2版2026年3月）。 医療に限らない分野横断のソフトローで、AIに関わる主体を開発者・提供者・利用者に分けて責務を整理します。医療機関・治療院は多くの場合「AI利用者」に該当し、利用者の責務（適正利用、入力データへの配慮、関係者への説明等）のリストは、院内ルールの目次の下書きとしてそのまま機能します。

④日本医師会・AIの臨床利用に関する検討委員会 答申「AIに関する臨床的課題と生命倫理について」（2026年4月）。 職能団体側の最新見解で、医療AIを利用するか否かにかかわらず最終責任は医師が負うこと、人間の尊厳に直結する領域ではAIの出力に結論を委ねないことを明確にしています。責任の所在という院内ルールの核心部分について、国内の職能団体が示した基準線として参照できます。リハ専門職の文脈に置き換えれば「AIを使っても、評価と介入の最終責任は有資格者にある」という条項の根拠です。

⑤医療AIプラットフォーム技術研究組合（HAIP）「医療・ヘルスケア分野における生成AI利用ガイドライン 第2版」（2025年7月）。 医療機関・薬局等で生成AIを使う人と開発者に向けた業界ガイドラインで、医療現場の8つの想定ユースケースごとにリスクと対策例を整理し、第2版では著作権・プライバシーのリスク表記と医師法・薬機法など関連法規との関係が明確化されました。「ユースケース別にリスクを書く」という構成自体が、院内ルール別表の作り方のお手本になります。

なお、リハビリテーション関連の職能団体（理学療法士・作業療法士・言語聴覚士の各協会）による生成AI利用の包括的なガイドラインは、本記事の確認時点では見つけられませんでした。存在しないことを確認するのも整理のうちです——現時点では上記5件を土台に、各施設が自前のルールを組む必要があります。

論文の選び方——選定基準の明示

本記事の6本は次の基準で選びました。①PubMed（E-utilities API）で書誌情報とアブストラクトを取得し、記事中の記述を原文と照合できた実在論文であること。②医療AIの倫理・責任・ガバナンスの制度設計に使える知見（バイアスの実測、患者の受容性、説明可能性、ガバナンスモデル、生成AI規制、倫理論点の網羅）を扱うこと。③システマティックレビューと影響力の大きい原著・提言を優先し、生成AI以後の2023〜2024年文献と、バイアス・説明可能性・ガバナンスの基盤文献（2019〜2021年）を組み合わせたこと。④当サイト既刊のAIクラスタで扱った文献（診療判断のバイアスを扱ったZack 2024、臨床意思決定の限界を扱ったHager 2024等）と重複しないこと。各論文には「研究の限界」を必ず1文添えます。

図3 エビデンス整理マップ——6論文と院内ルールの対応

エビデンスレビュー——実在論文6本を1本ずつ読む

論文1：Obermeyer et al. 2019（Science）——現実に稼働していたアルゴリズムの人種バイアス、是正で支援対象17.7%→46.5%

何を調べたか。 米国の医療システムで数百万人規模に実際に使われていた商用の患者リスク予測アルゴリズムを解剖し、人種バイアスの有無と発生機序を検証した研究です。

何が分かったか。 同じリスクスコアの黒人患者は白人患者より実際には有意に重症で、このバイアスを是正すると、追加支援を受けるべき黒人患者の割合は17.7%から46.5%へ増えると推計されました。原因はアルゴリズムが「健康状態」の代理指標として「医療費」を予測していたことです。医療アクセスの格差ゆえに黒人患者には医療費が使われておらず、「費用が低い＝健康」という学習が系統的な過小評価を生みました。

臨床でどう使うか。 院内ルールに「AIの公平性」の条項を置く根拠となる、バイアス研究の金字塔です。教訓は「悪意あるデータ」ではなく便利な代理指標の選択がバイアスを生むこと。リハ領域でも、例えば「リハ実施量」を「回復可能性」の代理にした予測は、実施量が少なかった集団（高齢・独居・認知症合併など）を系統的に過小評価しえます。導入前に「このAIは何を予測している建て付けで、それは本当に知りたいものか」を1度問う——それだけで防げる事故があります。

研究の限界。 単一の商用アルゴリズムと特定の医療システムのデータでの検証であり、すべての医療AIが同型のバイアスを持つことを示すものではありません。

論文2：Young et al. 2021（The Lancet Digital Health）——患者の態度は「おおむね肯定的、ただし人間の監督を求める」

何を調べたか。 臨床AIに対する患者・一般市民の態度を調べた研究23本（2,590本から選定）の混合手法システマティックレビューです。

何が分かったか。 患者・市民の態度は全体として肯定的である一方、多くの留保がつき、一貫して「人間による監督」が望まれていました。論点はAIの概念理解、受容性、人間との関係、開発と導入、強みと便益、弱みとリスクの6テーマに整理され、含まれた研究の74%は実在のAIでなく仮想的なAIへの態度を尋ねたものでした。

臨床でどう使うか。 「AIを使うと患者に嫌がられるのでは」という漠然とした不安への、データに基づく答えです。患者が拒むのはAIそのものではなく、人間の関与が消えること——だとすれば、院内ルールに置くべきは「AI利用の隠匿」ではなく「開示と人間の関与の保証」です。「当院では文書作成等にAIを活用することがありますが、内容はすべて有資格者が確認しています」という掲示・説明文の形にすれば、患者の受容性の知見をそのまま運用に翻訳できます。

研究の限界。 対象研究の多くが仮想シナリオへの態度調査で選択バイアスの懸念もあり、生成AI普及後の患者の態度を直接示すものではありません。

論文3：Amann et al. 2020（BMC Medical Informatics and Decision Making）——説明可能性を欠くAIは医療倫理の4原則を脅かす

何を調べたか。 臨床意思決定支援システムを題材に、AIの説明可能性（explainability）の要否を技術・法・医療・患者の4視点から分析し、Beauchamp & Childressの医療倫理4原則（自律尊重・善行・無危害・正義）で倫理評価した学際研究です。

何が分かったか。 法的視点ではインフォームドコンセント・医療機器としての認証・責任（liability）が説明可能性と結びつく論点として特定され、結論として説明可能性を省いた臨床意思決定支援は医療の中核的な倫理的価値への脅威になりうると評価されました。

臨床でどう使うか。 院内ルールで「使ってよいAI」の基準を作るときの1軸です。あるAIツールの出力について、患者に「なぜこの判定になったのか」を担当者が一言も説明できないなら、そのツールは同意取得の観点で使いどころが限られます。実務的には、導入検討時のチェック項目に「出力の根拠（判断材料・確信度・限界）が利用者に提示されるか」を入れ、根拠が見えないツールは参考情報の位置づけに格下げして使うという運用が現実解です。

研究の限界。 概念分析に基づく規範的研究であり、説明可能性の提示が実際の臨床アウトカムや患者の理解を改善するかを実証したものではありません。

論文4：Reddy et al. 2020（Journal of the American Medical Informatics Association）——「倫理の議論」を「ガバナンスの手順」に変換するモデル

何を調べたか。 医療AIの倫理的・規制的懸念（バイアス、透明性の欠如、プライバシー、安全性と責任）に対し、議論にとどまらず実務的にどう統治するかのガバナンスモデルを提案した論文です。

何が分かったか。 著者らは、公平性・透明性・信頼性・説明責任といった原則を、導入の各段階（開発・導入・運用）での具体的な統治プロセスに割り付けるモデルを示し、医療AIには倫理原則の宣言だけでなく、誰が・いつ・何を審査するかの手続きが必要だと論じました。

臨床でどう使うか。 院内ルール作りの設計思想そのものです。「AIは倫理的に使いましょう」という標語は行動を変えません。変えるのは手続きです——新しいAIツールは誰に申請するのか、承認の基準は何か、導入後は誰がいつ見直すのか。本記事のテンプレート（後述）が「禁止事項の列挙」でなく「申請・承認・記録・見直しの手順」を骨格にしているのは、この論文の教えに沿っています。小さな治療院なら「審査委員会」は不要で、管理者1名と相談窓口1つを決めるだけでもガバナンスは成立します。

研究の限界。 提案型の論文であり、このガバナンスモデルの導入が実際に事故や倫理的問題を減らすかは検証されていません。

論文5：Meskó & Topol 2023（npj Digital Medicine）——LLMは「既存の医療AI規制の枠」からはみ出している

何を調べたか。 医療における大規模言語モデル（LLM）・生成AIについて、既存の医療AI規制との違いを整理し、規制当局に求めるべき実務的推奨をまとめた提言論文です。

何が分かったか。 著者らは、LLMが従来の（規制済みの）医療AIとは訓練のされ方も用途の広がり方も異なること——文書作成から患者の質問応答まで用途が事実上無限で、出力の信頼性が変動すること——を指摘し、安全性・倫理・プライバシー保護を確保する規制的監督なしにLLMを患者ケアの文脈に置くべきでないと論じました。

臨床でどう使うか。 「国の規制が固まるまで様子見でよいか」への答えは否、という論拠です。LLMは規制の空白のまま、既に現場のスマートフォンの中にあります。規制が追いつくまでの空白を埋めるのが院内ルールの役割であり、特にLLMについては「医療機器として承認されたAI」と「汎用の生成AI」を院内ルール上で別カテゴリとして扱うことが実務の要点になります。前者は添付文書と承認範囲に従い、後者は用途を限定し出力の全件確認を義務づける——この二層構造は本記事のテンプレートにも組み込んでいます。

研究の限界。 規制のあり方に関する提言・視点論文であり、推奨される規制枠組みの有効性を実証したものではありません。

論文6：Haltaufderheide & Ranisch 2024（npj Digital Medicine）——医療LLM倫理の系統的レビュー、繰り返し現れる懸念は5つ

何を調べたか。 医療・ヘルスケアにおけるLLM（ChatGPT等）の応用と倫理的論点を扱った文献796件から53件を抽出し、メタ集約的に統合したシステマティックレビューです。

何が分かったか。 LLMの利点はデータ分析・情報提供・意思決定支援・情報アクセスの向上に整理される一方、倫理的懸念として公平性・バイアス・無危害・透明性・プライバシーの5つが繰り返し出現し、特有の懸念として「有害な、あるいは説得力があるが不正確な内容を生成する傾向」が特定されました。著者らは、漠然と倫理指針を求めるのではなく、用途ごとに「どこまでの人間の監督があれば許容できるか」を定義する方向に議論を組み替えるべきだと提言しています。

臨床でどう使うか。 院内ルールの粒度を決めてくれる研究です。「生成AI使用可/不可」の二択ルールは、この論文の言う用途の多様性を無視しています。実務では用途別の監督水準表を作ります——例えば、研修資料の下書き（事後確認でよい）、患者向け説明文の下書き（有資格者の全文確認が必須）、評価・診断への示唆（参考情報にとどめ記録には書かない）、患者データの入力（原則禁止・例外は管理者承認）。「監督の水準」を用途ごとに宣言することが、そのまま院内ルールの本文になります。

研究の限界。 急速に動く分野の2024年時点のレビューであり、対象文献の多くが実証研究でなく論説・探索的研究であるため、懸念の頻度は実害の頻度を意味しません。

院内ルールのテンプレート——7章構成と例文

ここからは実装です。上記のガイドライン5件と論文6本、そして当サイトのAIクラスタ9本の知見を集約し、リハビリテーション部門・治療院向けの院内ルール（AI利用規程）の章立てを示します。A4で2〜3枚、7章あれば足ります。

図4 医療倫理4原則×AIの課題——論文が示した対応関係

第1章 目的と基本方針。 例文：「本規程は、当院におけるAI（人工知能）ツールの利用について、患者の安全と個人情報を守りながら業務の質を高めるための基準を定める。当院はAIの利用を一律に禁止せず、用途に応じた条件のもとで活用する」。禁止規程ではなく活用規程として書くことが、隠れ利用を防ぐ最初の設計です。

第2章 対象と分類。 AIを2カテゴリに分けます。（A）医療機器として承認されたAI・院として契約導入したAI、（B）汎用の生成AI（ChatGPT等）。Aは製品の添付文書・契約範囲に従い、Bは本規程の用途別ルール（第4章）に従う——Meskó & Topol 2023の指摘どおり、この2つを同じ枠で縛らないことが肝心です。

第3章 責任の所在。 例文：「AIの出力を利用したか否かにかかわらず、評価・介入・文書の最終責任は担当の有資格者が負う。『AIの出力に従った』ことは判断の根拠として扱わない」。日本医師会答申（2026年4月）の「最終責任は医師」の枠組みを、自施設の職種に翻訳した条項です。

第4章 用途別の利用基準（監督水準表）。 規程の心臓部です。用途を列挙し、それぞれに監督水準を割り当てます。①文書の下書き・翻訳・要約＝利用可、ただし有資格者が全文確認のうえ使用。②文献検索・情報収集＝利用可、ただし引用は原文照合を必須とする（AI要約の限界の記事の実務フローを別表として添付するのが有効です）。③評価・予測ツールの利用＝承認済みツールのみ、出力は参考情報とし単独で判断に用いない。④患者データの生成AIへの入力＝原則禁止、匿名化のうえでの利用は管理者の事前承認制。⑤患者への直接応答をAIに行わせること＝禁止。

第5章 患者への開示と同意。 例文：「当院がAIを補助的に利用する場合があることを院内掲示等で開示する。患者の求めがあれば、利用の内容と人間による確認体制を説明する」。Young 2021が示した「人間の監督があれば受容される」という知見の運用形です。

第6章 申請・承認・記録。 新しいAIツールを業務に使いたい職員は管理者に申請し、管理者は（1）個人情報の扱い（第7章基準）、（2）出力根拠の提示の有無（Amann 2020の説明可能性）、（3）バイアスの想定（Obermeyer 2019の「何の代理指標か」の問い）、を確認して承認します。承認したツールと用途は一覧表で管理し、年1回見直します。Reddy 2020の言う「手続きとしてのガバナンス」の最小実装です。

第7章 個人情報の取り扱い。 次節のとおり、厚労省ガイドライン第6.0版への適合として書きます。

図5 院内ルール7章テンプレートと運用サイクル

個人情報保護の実務——最低限この3つ

第1に、「入力は提供である」を全職員の共通認識にすること。生成AIのプロンプトに書いた内容は、外部事業者のサーバーに送信されます。厚労省の医療情報システム安全管理ガイドライン第6.0版に付随するQ&A（2025年5月）でも、生成AIへの医療情報の入力について「入力情報がAIの学習等のために保存されないことが契約等で担保されているか」が論点として明示されています。逆に言えば、その担保のない無料の個人アカウントに患者情報を入力する行為は、外部への無断提供と同じ構造です。

第2に、匿名化の基準を具体化すること。「個人情報は消して使う」では運用できません。氏名・生年月日・住所・患者番号の削除は当然として、稀な疾患名と年齢と地域の組み合わせのように、組み合わせで個人が特定されうる情報（症例の特定可能性）まで含めて、入力前チェックリストを1枚作ります。症例報告での考え方（生成AI×症例報告の記事）がそのまま流用できます。

第3に、業務利用のアカウントを分離すること。個人の私用アカウントでの業務利用を認めると、退職後もログが個人の手元に残り、施設は管理できません。業務で生成AIを使うなら、施設管理のアカウント（学習利用をオフにできる法人向けプラン等）に限定し、私用アカウントの業務利用を第4章の禁止事項に明記します。

限界と注意点——この知見で「言えないこと」

  • 本記事のテンプレートは法的助言ではありません。 規程の整備にあたっては、施設の法務・顧問弁護士・所属団体の確認を経てください。特に医療広告・医師法・薬機法との関係は施設形態で異なります。
  • ガイドラインは動きます。 本記事で確認した5件は2026年9月時点の版であり、いずれも改定が続く文書です。院内ルールに「参照ガイドラインの版」を書き、年1回の見直しで追随してください。
  • 「ルールを作れば安全」ではありません。 Reddy 2020のガバナンスモデルもHaltaufderheide 2024の監督水準論も、その導入が実際にインシデントを減らすかの実証はこれからです。ルールは事故をゼロにする装置ではなく、事故のときに原因を辿れて、平時に活用を萎縮させない装置です。
  • 患者の受容性データは生成AI以前のものが中心です。 Young 2021の対象研究の多くは仮想的なAIへの態度であり、生成AIが日常化した現在の患者の期待と不安は、より速く変化している可能性があります。
  • バイアスの検出は施設単位では困難です。 Obermeyer 2019型の監査には大規模データと解析力が要ります。施設でできるのは「何の代理指標か」を問う入口の確認までで、公平性の本格的な検証は開発者・規制側の責務として要求していく必要があります。
  • リハ専門職に特化した公的指針は未整備です。 本記事の枠組みは医師向け・医療全般向け文書からの翻訳であり、職能団体の指針が出た時点で置き換えるべき暫定版です。

まとめと「明日からの3ステップ」

図6 まとめ：AI院内ルール作りの4か条

要点を4つに圧縮します。第1に、ルールがない状態は中立ではなく「各自がこっそり使う」最悪の状態であり、インシデント4類型（流出・誤情報・丸投げ・信頼毀損）への備えとして規程が要ります。第2に、参照すべき公的文書は既に存在します——WHO（2024）・厚労省第6.0版（2023）・AI事業者ガイドライン（2024）・日本医師会答申（2026）・HAIP第2版（2025）の5件で、院内ルールはその施設版翻訳として書けます。第3に、研究知見は条項に変換できます——バイアスは「何の代理指標か」の確認（Obermeyer 2019）、患者の受容は「開示と人間の関与」（Young 2021）、説明可能性は導入審査の1軸（Amann 2020）、ガバナンスは手続き（Reddy 2020）、LLMは別カテゴリ管理（Meskó & Topol 2023）、監督水準の用途別宣言（Haltaufderheide 2024）。第4に、責任の条項は一行です——AIを使っても、最終責任は有資格者が負う。

明日からの3ステップを提案します。

  1. 実態調査を1週間だけやる。 「業務でAIを使ったことがあるか・何に使ったか」を、責めない前提で科内に聞いてください。隠れ利用の把握が、規程の用途別基準（第4章）の材料になります。
  2. 暫定ルールを1枚出す。 完成版を待たず、「患者情報を生成AIに入力しない・AI出力は確認してから使う・使ったら管理者に共有する」の3行を今週掲示してください。最悪の状態を先に止めるのが優先です。
  3. 7章テンプレートで初版を作り、日付と見直し時期を入れる。 本記事の章立てを叩き台に1〜2か月で初版を作り、「2027年◯月に見直す」と明記してください。完璧な規程より、更新される規程が施設を守ります。

よくある質問

小さな治療院でも、ここまでの規程が本当に必要ですか

規模に応じて薄くしてよいのは分量であって、論点ではありません。スタッフ3名の治療院でも、患者情報を生成AIに入力する事故は病院と同じ重さで起こります。最小構成は、①患者情報を入力しない、②AI出力は確認してから使う、③新しい使い方は院長（管理者）に相談する、の3項目を文書化し全員で共有すること——A4半分で書けます。むしろ小規模施設は意思決定が速いぶん、「管理者1名＋相談の習慣」というガバナンスの核を明日から動かせます。規程の厚さではなく、相談経路が生きているかが安全性を決めます。

AIの利用を患者に毎回説明して、同意書を取るべきでしょうか

用途によります。文書の下書きや文献検索のような業務補助での利用は、個別の同意書ではなく、院内掲示やウェブサイトでの包括的な開示（「当院はAIを補助的に利用することがあり、内容は有資格者が確認しています」）が現実的な水準です。一方、患者のデータを承認済みAIツールで解析して評価に使う場合や、患者にAIアプリの利用を処方的に勧める場合は、その場での説明が必要になります。判断の軸はYoung 2021の知見どおり「患者が後から知ったときに、隠されていたと感じるか」です。感じるであろう用途は先に説明する——この基準で個別条項を作れば、過剰な同意手続きで診療を止めずに済みます。

職員が私用スマホの無料ChatGPTを業務に使うのは、禁止すべきですか

「患者情報・施設の非公開情報を入力する用途」は明確に禁止すべきです。無料の個人アカウントでは入力内容が学習に利用される設定が既定の場合があり、学習利用の停止や履歴管理を施設が担保できません（厚労省ガイドラインQ&Aの論点である「学習に保存されないことの契約上の担保」を、私用アカウントでは施設が確認できないためです）。一方、個人情報を含まない用途——一般的な文献の検索補助、公開情報の要約、文章表現の推敲——まで一律禁止にすると、隠れ利用に戻るだけです。実務は「私用アカウントは個人情報ゼロの用途のみ・業務データは施設管理アカウントのみ」の二段構えが現実的です。あわせて、業務での便利な使い方が見つかったら共有する文化を作ると、禁止と活用が両立します。

AIが原因で患者に不利益が出た場合、責任は誰が負うのですか

現行の枠組みでは、汎用の生成AIを業務の参考に使った結果の臨床判断については、判断した有資格者と施設が責任を負うと考えるのが安全です。日本医師会の2026年答申も、AI利用の有無にかかわらず最終責任は医師にあるとしています。医療機器として承認されたAIについては、承認された使用方法の範囲内での機器の欠陥であれば製造販売業者の責任が問われる余地がありますが、承認範囲外の使い方をすれば利用者側の責任が重くなります。つまり実務上の教訓は2つ——①院内ルールに「AI出力は参考情報であり最終判断は有資格者」と明記して運用の実態もそう保つこと、②承認済みツールは承認範囲内で使うこと。責任の分配は今後の法整備・判例で動く領域なので、規程の年次見直しの際に最新状況を確認してください。

出典

公的ガイドライン（発行主体の公式サイトで実物・公式発表を確認済み）

  • World Health Organization. Ethics and governance of artificial intelligence for health: Guidance on large multi-modal models. 2024年1月.（WHO公式ページ）
  • 厚生労働省. 医療情報システムの安全管理に関するガイドライン 第6.0版. 2023年5月（令和5年5月）.（本体PDF）※生成AIへの入力に関する論点は同ガイドラインQ&A（2025年5月公表分）による。
  • 総務省・経済産業省. AI事業者ガイドライン（第1.0版）. 2024年4月19日（第1.2版：2026年3月）.（経済産業省発表）
  • 日本医師会 AIの臨床利用に関する検討委員会（プロジェクト委員会）答申. AIに関する臨床的課題と生命倫理について. 2026年4月.（答申PDF）
  • 医療AIプラットフォーム技術研究組合（HAIP）. 医療・ヘルスケア分野における生成AI利用ガイドライン 第2版. 2025年7月11日.（発行announcement）

実在論文（すべてPubMed E-utilities APIで書誌・抄録を取得し記述を照合済み）

  1. Obermeyer Z, Powers B, Vogeli C, Mullainathan S. Dissecting racial bias in an algorithm used to manage the health of populations. Science. 2019;366(6464):447-453. DOI: 10.1126/science.aax2342（PubMed: 31649194）
  2. Young AT, Amara D, Bhattacharya A, Wei ML. Patient and general public attitudes towards clinical artificial intelligence: a mixed methods systematic review. The Lancet Digital Health. 2021;3(9):e599-e611. DOI: 10.1016/S2589-7500(21)00132-1（PubMed: 34446266）
  3. Amann J, Blasimme A, Vayena E, Frey D, Madai VI. Explainability for artificial intelligence in healthcare: a multidisciplinary perspective. BMC Medical Informatics and Decision Making. 2020;20(1):310. DOI: 10.1186/s12911-020-01332-6（PubMed: 33256715）
  4. Reddy S, Allan S, Coghlan S, Cooper P. A governance model for the application of AI in health care. Journal of the American Medical Informatics Association. 2020;27(3):491-497. DOI: 10.1093/jamia/ocz192（PubMed: 31682262）
  5. Meskó B, Topol EJ. The imperative for regulatory oversight of large language models (or generative AI) in healthcare. npj Digital Medicine. 2023;6(1):120. DOI: 10.1038/s41746-023-00873-0（PubMed: 37414860）
  6. Haltaufderheide J, Ranisch R. The ethics of ChatGPT in medicine and healthcare: a systematic review on Large Language Models (LLMs). npj Digital Medicine. 2024;7(1):183. DOI: 10.1038/s41746-024-01157-x（PubMed: 38977771）

※本記事は医療従事者向けの教育・情報提供を目的としたもので、法的助言ではありません。院内規程の整備・運用は、最新のガイドライン・法令と、各施設の顧問専門家の確認のもとで行ってください。