生成AIの禁忌——外科医が解説する「診療で入れていい情報・いけない情報」
先日、医師がChatGPTに検査結果を貼り付けて鑑別を考えるという投稿をXで見ました。悪意はまったくないはずです。ただ、どこまでがOKでどこからがリスクとなるか知っていますか？
その一線を知るだけで、これからのAIの使い方が大きく変わります。
この記事では、診療でAIを使う際に押さえておくべき基本的な線引きと、今日から使えるツールの選び方を整理します。
生成AIは「答えを知っている」わけではない——仕組み、説明できますか？
生成AIがどう動いているかを一言で表すと、「次に来る確率の高い単語（トークン）を選び続けるシステム」です。インターネット上の文章・書籍・論文など、莫大なテキストデータを学習して、文脈に合わせた「それらしい続き」を生成する。
だから自然に会話ができ、医学的な質問にも流暢に答えてくれますが、それは「知っているから」ではなく「それらしい言葉を選んでいるから」です。この仕組みがいわゆるハルシネーション（Hallucination＝幻覚）を生みます。「嘘をつく」より「自信を持って間違える」という表現の方が正確です。
これは実際にみなさん体験したことがあると思います。英語論文の検索をChatGPTに依頼したとき、タイトルも著者名も雑誌名もすべて「それらしい」論文が返ってきたけど、実在しなかった。これがハルシネーションです。
患者情報をAIに入れていいか——法律・規約・プライバシーの整理
結論から言うと、患者の個人情報を一般的なクラウドAI（ChatGPT、Claude）に入力することは、個人情報保護法の観点から原則として避けるべきです。ただ、グレーゾーンも存在し、「法的解釈がまだ定まっていない部分がある」というのが正直なところです。
このような現状で、自分が実践している判断の出発点は「この情報を読んだ人が患者を特定できるか」と一秒だけ考える習慣をつけることです。
入力していい範囲：
一般的な医学知識・ガイドラインの確認
匿名化が完全にできている教育的な疑問
文献の翻訳・英語文章の校正（患者情報を含まないもの）
研究のアイデア整理・文章の構成検討
入力してはいけない範囲：
氏名・患者ID・生年月日などの識別子
特定の患者の検査値・バイタル・症状の組み合わせ
画像データ（CT・内視鏡など）
汎用AI3種の実力——ChatGPT・Gemini・Claude、医師が使うならどれか
どのAIを使えばいいか、と聞かれることが増えました。2025〜2026年時点での印象を整理します（性能・料金は随時更新されるため、最新情報は各社サイトをご確認ください）。
3モデルの中でClaudeが最も自然な日本語を出力するという評価が多数派だと感じています。日本語の要約や文章作成には、自分も最もよく使います。
Geminiについては「日本語が上手」という印象を持つ方も多いですが、これはGeminiの長文処理の速さや情報の網羅性が「上手」に見える影響かもしれません。長い文書を要約させるシーンではGeminiが便利です。
まず1つだけ選ぶなら、日本語の文章作成が多い医師にはClaudeが使い勝手が良いと感じています。ただ正直大きな差はなく、モデルの更新に伴って優劣は日々変わります。どれか1つを正しい使い方で扱えることが一番重要だと思います。
→2026/8/7 追記
現時点では、ChatGPT 、Claude の2強だと思います！これらはChatGPT work、Claude Coworkで簡単にエージェント機能を使えるのも魅力的です。
正直これら2つに大きな差はないので（もちろん得意なことはそれぞれありますが）、周りに使っている人が多い方、気になる方、を使うので十分と思います。
医療特化AIの使い方——汎用AIが直接使えない場面の選択肢
汎用AIが直接使えない場面では、医療専用に設計されたAIという選択肢があります。汎用AIとは異なり、文献引用付きで回答してくれるのが大きな特徴です。
MedGen
日本語ガイドライン・添付文書の確認に使いやすい医療特化AIです。日本語での医学情報検索に強みがあります。アプリはなく、ブラウザからログインして使います。
紹介コード: S1XQ3D4I
OpenEvidence
医療専門家向けに設計されたAIです。Mayo Clinic監修で、NEJMも協力しています。医師は全員無料で使えます（登録時に医師免許のアップロードが必要。職員証でも登録できたという例もあります）。
論文・ガイドラインをソースに、引用付きで回答してくれます。日本語で質問しても日本語で回答してくれます。ただし英語文献・海外ガイドライン中心のため、日本の保険診療上の制約や日本語ガイドラインには限界があります。
ただし、どちらのツールも「引用付き＝事実確認済み」ではないことは強調しておきたい点です。引用の実在確認・内容の妥当性判断は自分で行う必要があります。
自分の使い方は主に「専門外のことをざっくり知りたいとき」です。自分の専門領域ではガイドラインとキー論文を読むことで対応できますが、完全に専門外の領域では、これらのツールが手軽な出発点になります。日常診療のサポートとしては、日本語特化のMedGenの方が参考になりやすい印象です。
（文献検索をより深く掘り下げたい方は、前回の記事「外科医の文献検索が、AIで一変した話」もあわせて読んでみてください。https://note.com/yokubari_dr884/n/nd709ae05fefa）
自分のPCだけで動くAI——ローカルLLMと院内AIの話
少し話は変わります。
今までの話から、カルテに生成AIが導入されることはないのかというと、それは違います。今までお話ししたAIはクラウドに情報をアップロードして情報を処理するというものでした。
それと対照的に、ローカルLLM（大規模言語モデル：生成AIの中で特にテキストの理解と生成に特化したAIモデル）とは、インターネットに接続せず、自分のPCの中だけで動くAIです。入力した情報が外部のサーバーに送られません。
最近、電子カルテにも生成AIが導入されているケースが増えてきました。主に2つのタイプがあります。
ローカルLLM型：院内サーバーで完結し、患者情報が外部に出ない
暗号化クラウド型：データを暗号化して外部に送信する。データ処理委託契約の観点が必要になる
電子カルテで生成AIを使っているから、自分のPCでも生成AIに患者情報を入れていいというのは大きな間違いです。
今日から実践できる行動リスト——3つのレベルで始める
難しいことを一度に全部変える必要はありません。
今すぐできること：
生成AIに何か診療に関することを聞くときは、「この情報を読んだ人が患者を特定できるか」と1秒だけ考える習慣をつける。これで生成AIを使うリスクが大きく減ります。
今週中にできること：
MedGen、OpenEvidenceを使ってみて、直近の診療で気になった疑問を1つ入力してみる。AIを使って、自分の日常業務のどの部分が「検証可能なタスク」かを考えてみるのも、使い方の解像度を上げるのに有効です。
来月取り組むこと：
さらにAIを活用したい場合は、チャット型AIから一歩進んでClaude Code、Codexなどの自律型AIエージェントを使ってみるのがいいかもしれません。
（こちらについては今後また執筆予定です。）
「使う・使わない」ではなく「どう使うか」の時代
AIは外来診療の場にも、研究の場にも、すでに入り込んでいます。「使わない」という選択は、現実的には機会損失になりつつある。「とりあえず何にでも使ってみる」は情報セキュリティ上のリスクを積み重ねることになる。
その中間にある「仕組みを理解して使う」——何をどのAIに入れてよいか判断できること——が、これからの医師に求められるリテラシーだと感じています。
あなたが今週1つだけ変えるとしたら、何にしますか。「入力前に一秒確認する」だけでも、十分な第一歩です。一緒に始めましょう。
紹介コード:S1XQ3D4I
タグ: #医療AI #外科医 #ChatGPT活用 #AI医療 #医師のAI活用 #OpenEvidence #MedGen #医療DX