医師の代わりにAIが「あなたは薬局へ」と言う時代が来た

イギリスのNHS（国民保健サービス）が、AIで患者を振り分けるアプリを導入する。

軽症なら薬局へ。重症なら緊急治療室へ。AIが症状を分析し、患者を適切な窓口に案内する。対象は今後1年で約20万人。予算は10億ポンド（約1,900億円）の医療改革パッケージの一部だ。

一方、オーストラリアでは別の問題が起きている。医師が診察中の会話をAIに記録・要約させる「AIスクリプト」が急速に広がり、政府がプライバシー問題に警鐘を鳴らし始めた。

この2つのニュース、一見バラバラに見える。だが根っこは同じだ。

「AIに任せていい判断と、任せてはいけない判断の境界線はどこか？」

そしてその境界線は、倫理や哲学ではなく、結局コストで引かれる。

—

NHSの狙い：「振り分け」のコストが高すぎる問題

まず、NHSがなぜAI振り分けに踏み切ったのか。背景を数字で見る。

NHSの救急外来（A&E）には年間約2,500万人が訪れる。そのうち、本来は薬局やGP（かかりつけ医）で対応できる軽症患者が相当数含まれている。救急外来の1回あたりのコストは平均200〜400ポンド（約3.8万〜7.6万円）。薬局で済むなら数十ポンドで終わる。

つまり、「どこに行くべきか」の判断を間違えるだけで、1人あたり数万円のコストが無駄になる。20万人規模なら、年間数十億円の差が出る計算だ。

これまでこの「振り分け」は、電話相談サービス（NHS 111）のオペレーターや、患者自身の判断に委ねられていた。しかし電話は繋がらない、患者は不安だから救急に行く。結果、救急がパンクする。

AIアプリがやることは、実はシンプルだ。症状をヒアリングし、緊急度を判定し、適切な窓口を案内する。医師が診断するわけではない。「交通整理」をAIに任せるという話だ。

ここがポイントになる。AIに任せているのは「診断」ではなく「振り分け」。判断の重さが違う。

振り分けを間違えても、その先に人間の医師がいる。セーフティネットがある。だからAIに任せられる。コスト削減効果が明確で、リスクが限定的。この条件が揃ったとき、「任せていい判断」になる。

—

オーストラリアの問題：AIが診察室の会話を全部聞いている

一方、オーストラリアで起きていることは性質が違う。

医師がAIスクリプトを使って、患者との会話をリアルタイムで記録・要約させている。医師にとってのメリットは大きい。診察後のカルテ記入は医師の業務時間の大きな割合を占める。これがAIで自動化されれば、1日あたり1〜2時間は浮く。医師1人の時給を考えれば、年間で数百万円分の生産性向上だ。

しかし、問題はここからだ。

患者は「医師と話している」つもりでいる。ところが実際には、その会話はAIが聞いている。音声データはどこに保存されるのか。誰がアクセスできるのか。AIが要約する過程で、文脈が歪められないか。

オーストラリアの医療規制当局が懸念しているのは、まさにこの点だ。患者の同意プロセスが曖昧なまま、AIスクリプトが導入されているケースが報告されている。

NHSの振り分けAIと決定的に違うのは、「失敗したときのリカバリーが効かない」ということだ。

振り分けの間違いは、次の窓口で修正できる。しかし、一度漏洩した個人の医療情報は取り戻せない。診察室で話した精神疾患の悩み、性に関する相談、家庭内暴力の告白——これらがAIを経由してどこかに記録される。そのリスクの重さは、コスト削減効果とは比較にならない。

—

「任せていい判断」の条件を整理する

この2つの事例を並べると、AIに任せていい判断の条件が見えてくる。

1. 失敗時にリカバリーが効くか

NHSの振り分け → 後段に人間の医師がいる。リカバリー可能。
AIスクリプト → 漏洩した情報は戻せない。リカバリー不可能。

2. コスト削減効果が明確か

NHSの振り分け → 救急外来1回あたり数万円の差。規模で効く。
AIスクリプト → 医師の時間削減。効果はあるが、リスクとの天秤が難しい。

3. 判断の「重さ」が限定的か

NHSの振り分け → 「どこに行くか」の案内。最終判断は人間。
AIスクリプト → 医療記録そのものの生成。記録が間違えば診断にも影響する。

この3条件を満たすとき、AIに任せる合理性が生まれる。逆に言えば、1つでも欠けると「任せてはいけない領域」に踏み込むリスクがある。

—

中小企業にとっての教訓：「交通整理」から始めろ

この構造、実は医療に限った話ではない。

地方の中小企業がAIを導入するとき、まったく同じ問いにぶつかる。「どこまでAIに任せていいのか？」

答えはシンプルだ。まず「交通整理」から任せろ。

問い合わせの振り分け、見積もり依頼の一次対応、社内の情報検索。これらは失敗してもリカバリーが効く。後ろに人間がいる。そしてコスト削減効果が明確に出る。

例えば、電話対応に月40時間かけている会社がある。AIチャットボットで一次振り分けを自動化すれば、半分の20時間は浮く。時給換算で月10万円以上。年間120万円。中小企業にとって、この金額は無視できない。

一方、「顧客への最終提案をAIに書かせる」「クレーム対応の判断をAIに委ねる」——これはNHSの振り分けではなく、オーストラリアのAIスクリプトに近い。失敗したときのダメージが大きく、リカバリーが効きにくい。ここは人間が握るべきだ。

—

境界線は「倫理」ではなく「構造」で引く

「AIに何を任せるか」を倫理の問題として議論すると、結論が出ない。人によって線引きが違うからだ。

しかし、コスト構造で考えれば判断できる。

• そのタスクのコストはいくらか？
• AIに任せたらいくらになるか？
• 失敗したときの損失はいくらか？

この3つの数字を出せば、任せるべきかどうかは自ずと決まる。

NHSは、振り分けコストと救急外来コストの差額を見て、AIに任せる判断をした。オーストラリアの医師は、カルテ記入の時間コストを見てAIスクリプトを導入した。だが後者は、「失敗コスト（プライバシー漏洩）」の見積もりが甘かった。

結局、AIに任せていい判断かどうかは、「削減できるコスト」と「失敗したときのコスト」の比較で決まる。前者が圧倒的に大きく、後者が限定的なら、迷わず任せる。逆なら、人間が握る。

これは大企業も中小企業も、医療も製造業も、同じ原則だ。

—

で、結局どうすればいいのか

1. まず自社の「交通整理」業務を洗い出す。 問い合わせ対応、振り分け、一次スクリーニング。失敗してもリカバリーが効く業務。
2. そのコストを数字で出す。 月何時間、いくらかかっているか。
3. AIに置き換えた場合のコストを見積もる。 今なら月数千円〜数万円のツールで対応できるものも多い。
4. 失敗コストを見積もる。 振り分けミスの影響範囲は？ リカバリーは効くか？
5. 削減コストが失敗コストを大きく上回るなら、今日から始める。

NHSは20万人規模でこれをやろうとしている。地方の中小企業なら、まず10人、100人の対応から始めればいい。規模は小さくても、構造は同じだ。

AIに任せていい判断と、任せてはいけない判断。その境界線は、哲学の本ではなく、Excelの上に引かれる。

—