月500ドルのクラウド請求書が、ある日突然1億ドルになったら？

冗談ではない。実際にAWSで起きたことだ。

数セントが数十億ドルに化けた

Amazon Web Services（AWS）で請求エラーが発生し、顧客の請求額が数セントから数十億ドルに跳ね上がる事態が起きた。原因はシステム上のバグだ。AIや自動化された課金エンジンが複雑に絡み合うクラウドインフラにおいて、一つのエラーが天文学的な数字を生み出した。

AWSは問題を認め、影響を受けた顧客への返金対応を進めている。大企業であれば「異常値だ」と気づいて問い合わせる体力がある。だが、中小企業はどうか。

月々のクラウド利用料が500ドルの会社に、ある朝1億ドルの請求書が届く。自動引き落としになっていたら？ 銀行口座が凍結される。給与が払えない。取引先への支払いが止まる。「返金します」と言われても、その間に会社が潰れたら意味がない。

ここで考えるべきは「AWSがミスをした」という表面的な話ではない。クラウドの課金がブラックボックスになっている構造そのものだ。

従来のオンプレミス環境なら、サーバーを買った時点でコストは確定する。100万円のサーバーを買えば、それ以上の請求は来ない。だがクラウドは「従量課金」だ。使った分だけ払う仕組みは柔軟だが、裏を返せば「何が起きるかわからない」ということでもある。

AWSの料金体系は数百ページに及ぶ。正直、エンジニアでも全容を把握するのは困難だ。中小企業の経営者が理解するのは、ほぼ不可能と言っていい。

米国政府がAIで保険の承認・却下を始めた

もう一つ、見逃せないニュースがある。米国政府が医療保険の事前承認プロセスにAIを導入する試行プログラムを開始した。

医師が「この患者にはこの治療が必要だ」と判断しても、保険会社が承認しなければ患者は治療を受けられない。この承認プロセスに時間がかかりすぎる問題を、AIで解決しようという試みだ。

狙いはシンプルだ。明らかに承認すべきケース——例えば標準的な検査や一般的な処方——をAIが即座に承認する。人間の審査員が1件30分かけていた作業を、AIなら数秒で処理できる。コストは劇的に下がる。年間数千万件の事前承認リクエストのうち、7〜8割はAIで自動処理できるとされている。

問題は残りの2〜3割だ。そして、AIが「却下」と判断したケースの中に、本来承認されるべきものが含まれていたとき、何が起きるか。

実際、米国の大手保険会社UnitedHealthcareでは、AIを使った保険請求の自動却下が問題になった。AIが却下した請求のうち、人間がレビューすれば承認されるべきだったケースが相当数あったと報じられている。患者は必要な治療を受けられず、医師は承認を得るために膨大な事務作業に追われた。

AIが「No」と言った瞬間、患者の命に関わる判断が下される。その判断が間違っていたとき、誰が責任を取るのか。AIを開発した企業か、導入した保険会社か、承認した政府か。

本質は「AIが間違えたときのコスト」が見えていないこと

AWSの請求エラーも、AIによる保険判定も、根っこは同じだ。

「AIや自動化システムが間違えたとき、その損害は誰が負担するのか」が決まっていない。

これは大企業の話だと思うかもしれない。だが、中小企業こそ直撃する問題だ。理由は3つある。

1. バッファがない
大企業なら数百万円の誤請求が来ても、経理部門が対応し、法務が交渉し、キャッシュフローで耐えられる。中小企業は1回の誤請求で資金ショートする。月商500万円の会社に5,000万円の請求が来たら、それだけで終わりだ。

2. 交渉力がない
AWSに電話して「請求がおかしい」と言っても、対応に数日から数週間かかる。大口顧客なら専任の担当者がつくが、月500ドルの顧客は後回しにされる。これは構造的な問題だ。

3. 代替手段がない
クラウドに業務システムを載せている中小企業が、請求トラブルでサービスを止められたら、業務そのものが止まる。オンプレミスに戻す体力もない。ベンダーロックインの典型だ。

じゃあ、中小企業はどうすればいいのか

「怖いからクラウドを使うな」は答えにならない。クラウドのコストメリットは圧倒的だ。自社でサーバーを持てば初期費用300万円、運用に年間100万円かかるところが、クラウドなら月5,000円から始められる。この構造は変わらない。

問題は「使い方」だ。具体的に3つ、今日からできることがある。

① 請求アラートを設定する（所要時間：10分）

AWSにもGCPにもAzureにも、請求額が一定額を超えたらアラートを飛ばす機能がある。月の予算を設定し、50%、80%、100%で通知が来るようにする。これだけで「気づいたら100倍の請求が来ていた」は防げる。設定は10分で終わる。やっていない会社は今すぐやるべきだ。

② 利用上限を設定する

クラウドサービスによっては、利用額の上限を設定できる。上限に達したらサービスが止まるリスクはあるが、数十億ドルの請求書が届くよりはマシだ。「止まる」と「潰れる」なら、止まるほうを選ぶべきだ。

③ 契約書の「請求エラー時の対応」を確認する

ほとんどの中小企業は、クラウドサービスの利用規約を読んでいない。読む必要がある。特に確認すべきは以下の3点だ。

• 誤請求が発生した場合の返金ポリシー
• 返金までの期間
• 誤請求による間接損害（資金ショート等）の補償有無

多くの場合、間接損害は補償されない。つまり「返金はするけど、それで会社が潰れても知りません」ということだ。この事実を知った上で、リスクをどう管理するかを考える必要がある。

AIの判断を「信じすぎない」仕組みをつくる

AIを業務に導入する中小企業が増えている。見積書の自動作成、問い合わせの自動応答、在庫の自動発注。どれもコストを劇的に下げる。人件費月30万円の作業が、AIなら月3,000円で回る世界だ。

だが、AIは間違える。これは技術的な限界ではなく、確率の問題だ。精度99%のAIでも、100回に1回は間違える。月に1,000件処理すれば、10件は間違える。その10件が「取引先への請求額」や「患者への保険判定」だったとき、何が起きるか。

必要なのは「AIが間違えた前提」で仕組みを設計することだ。

• 一定額以上の処理は人間が最終確認する
• AIの判断結果をログに残し、定期的にサンプルチェックする
• 「AIが間違えたとき」の対応フローを事前に決めておく

これは属人化の排除と同じ発想だ。「ベテラン社員がいるから大丈夫」が危険なのと同じで、「AIが賢いから大丈夫」も危険だ。仕組みで担保する。

「AIが間違えたときの請求書」は、構造的に弱い側に届く

AWSの請求エラーで最もダメージを受けるのは、大企業ではなく中小企業だ。AIの保険判定で最も困るのは、代替手段を持たない患者だ。

テクノロジーのエラーコストは、構造的に「交渉力のない側」「バッファのない側」に集中する。これは今に始まった話ではないが、AIと自動化の普及によって、エラーの規模とスピードが桁違いになっている。

人間が間違えれば、せいぜい1件のミスだ。AIが間違えれば、同じミスが数千件、数万件に一瞬で波及する。しかもそのミスに気づくのは、請求書が届いてからだ。

中小企業の経営者に伝えたいのは、「AIを使うな」ではない。「AIが間違えたとき、自分の会社がどうなるかを先に考えておけ」ということだ。

アラートを設定する。上限を決める。契約書を読む。チェック体制をつくる。どれも地味な作業だが、これが「AIが間違えたときの請求書」から会社を守る唯一の方法だ。

テクノロジーは使い倒すべきだ。ただし、壊れたときの備えなしに使うのは、シートベルトなしで高速道路を走るのと同じだ。

—