結論から言う。「使わないリスク」はもう「暴走リスク」を超えた

GPT-5.6がファイルを全削除した。米上院がエージェントAI規制法案を出した。AIエージェントをコンテナに閉じ込めろという議論が本格化している。

これだけ聞くと「やっぱりAIは怖い、うちはまだ早い」と思うかもしれない。

だが、ちょっと待ってほしい。

本当に怖いのは、AIエージェントが暴走することじゃない。競合がAIエージェントを使い倒している横で、自分たちが何もしていないことだ。

この記事では、暴走コストと放置コストを月額ベースで並べて比較する。そのうえで、中小企業が月5万円以下で組める「最小安全構成」を具体的に設計する。

—

GPT-5.6ファイル全削除事故——何が起きて、いくら吹き飛んだのか

まず事実を整理する。GPT-5.6を使ったAIエージェントが、指示の解釈を誤り、作業対象外のファイルまで全削除した。報告されている被害額は、ある企業で約300万円。復旧作業、業務停止、顧客対応を含めた総コストだ。

300万円。中小企業にとっては致命的な数字に見える。

だが、この数字だけ見て「だからAIは危険だ」と結論づけるのは、交通事故があるから車に乗るなと言うのと同じだ。

問題は「事故が起きたかどうか」ではなく、「事故が起きる構成で使っていたかどうか」だ。

この事故のケースでは、エージェントにファイルシステムへのフルアクセス権限が与えられていた。バックアップも取られていなかった。つまり、ブレーキもシートベルトもない車で高速道路に乗ったようなものだ。

暴走が起きたのではない。暴走できる構成で放置していたのだ。

—

暴走コスト vs 放置コスト——月額で並べてみる

ここからが本題。数字で比較する。

暴走コスト（AIを使って事故が起きた場合）

事故発生率5%は高めに見積もっている。適切な権限管理とコンテナ化を行えば、この確率は1%以下に落ちる。つまり月額数千円レベルのリスクだ。

放置コスト（AIを使わずに現状維持した場合）

中小企業の現場で、見積書作成、問い合わせ対応、データ入力、レポート作成——こうした業務にAIエージェントを入れれば、月50万円分の人的リソースが浮くケースはざらにある。逆に言えば、使わないことで毎月50万円以上を垂れ流している。

暴走コスト：月1〜4万円。放置コスト：月50〜130万円。

10倍以上の差がある。どちらが怖いかは明白だ。

—

米上院のエージェントAI規制法案——中小企業にとって何が変わるのか

米上院で提出されたエージェントAI規制法案のポイントは3つ。

1. エージェントの行動ログの保存義務——何をやったか記録しろ
2. 人間による承認フローの義務化——重要操作は人間が確認しろ
3. 損害発生時の責任の明確化——誰が責任を取るか決めておけ

これ、実は中小企業にとっては追い風だ。

なぜか。大企業は複雑なシステム連携があるから、ログ保存も承認フローも実装コストが高い。一方、中小企業はシステムがシンプルだ。エージェントの動作範囲が狭いから、規制対応のコストも低い。

規制が厳しくなればなるほど、「小さくてシンプルな構成」が有利になる。これは中小企業だからこそ勝てる構造だ。

法案が成立すれば、日本でも類似の規制が出てくる可能性が高い。先に「規制対応済みの構成」を作っておけば、後から慌てるコストがゼロになる。

—

保険という選択肢——月5万円で300万円の事故をカバーできるか

AIエージェント関連のサイバー保険が出始めている。月額3〜5万円で、データ漏洩・誤操作による損害を500万円までカバーするプランが複数ある。

月5万円の保険料で、300万円の暴走事故をカバーできる。年間60万円の保険料に対して、1回の事故で300万円が補填される。事故が2年に1回起きても元が取れる計算だ。

ただし、保険はあくまで最後の砦だ。保険があるから安全構成は不要、とはならない。保険会社も、最低限のセキュリティ対策を講じていない企業には保険を出さない。

セキュリティ（技術的対策）× 規制（ルール対応）× 保険（金銭的バックアップ）。この三角形が揃って初めて、AIエージェントを「安全に暴れさせる」ことができる。

—

中小企業の「最小安全構成」——月5万円で組める現実的なセットアップ

理屈はわかった。で、結局どうすればいいのか。

以下が、月5万円以下で組める最小安全構成だ。

1. 権限を絞る（コスト：0円）

AIエージェントに渡す権限は「読み取り専用」をデフォルトにする。書き込み・削除が必要な場合は、対象フォルダを1つだけ指定する。

GPT-5.6の事故は、フルアクセス権限を与えていたから起きた。権限を絞るだけで、暴走の被害範囲は劇的に縮小する。設定変更だけだからコストはゼロ。

2. コンテナで隔離する（コスト：月0〜5,000円）

DockerでAIエージェントの実行環境を隔離する。エージェントが何をやらかしても、コンテナの外には影響しない。

Docker自体は無料。クラウドで動かす場合でも月数千円で済む。これだけで「ホストシステムが巻き添えを食う」リスクがゼロになる。

3. 行動ログを残す（コスト：月0〜3,000円）

エージェントの全操作をログに記録する。何をいつ実行したか、すべて残す。無料のログ管理ツール（Grafana Lokiなど）で十分対応可能。

米上院の規制法案が求めているのもこれだ。先に対応しておけば、規制が来ても慌てない。

4. 重要操作に人間の承認を挟む（コスト：0円）

「ファイル削除」「外部送信」「大量データ更新」——こうした操作の前に、Slackやメールで人間に確認を飛ばす。承認が来るまでエージェントは待機する。

実装はn8nやMake（旧Integromat）のようなノーコードツールで30分あれば組める。

5. 日次バックアップ（コスト：月500〜2,000円）

エージェントがアクセスするデータは毎日バックアップを取る。Google DriveやS3で十分。月数百円から対応可能。

仮にエージェントが全削除しても、昨日の状態に戻せる。300万円の損失が、復旧作業の数時間に変わる。

合計コスト

月1万円以下。 ここにサイバー保険の月5万円を足しても、合計月6万円以下。

放置コスト月50〜130万円と比べれば、誤差みたいな金額だ。

—

「まず1つ、勝手に動くやつを作れ」

最後に、具体的な一歩を提案する。

いきなり全業務にAIエージェントを入れる必要はない。まず1つ、「勝手に終わっている」業務を作ってみてほしい。

例えば、毎朝の売上レポート作成。問い合わせメールの一次分類。請求書のデータ入力。

こうした定型業務を1つ、AIエージェントに任せる。上記の最小安全構成で囲んで、1週間動かしてみる。

朝出社したら、もうレポートができている。メールが分類されている。データが入力されている。

その「勝手に終わっている」体験が、次の判断を変える。

暴走が怖いから使わない、ではない。暴走しない構成で使い倒す。 それが、月6万円で月50万円以上の価値を生む中小企業のAI戦略だ。

暴走コストと放置コスト、どっちが高いか。もう答えは出ている。

—