「AI入れました」の次に来る、もっと難しい判断

AIを導入する話は山ほどある。だが「AIをやめる」話はほとんど表に出てこない。

やめる判断のほうが、はるかに難しいからだ。導入時には「効率化」「コスト削減」という大義名分がある。しかし撤退には「失敗を認める」という痛みが伴う。だから企業はズルズルと使い続け、被害が拡大する。

ここ数週間で、その「やめる判断」を実際に下した事例が3つ同時に出てきた。フォード、Godot、トリップアドバイザー。業界もスケールもバラバラだが、共通するのは「AIが出す結果を人間がチェックしきれなくなった」という構造だ。

中小企業にとって、これは他人事じゃない。むしろ大企業より深刻だ。なぜなら、やり直すリソースがないから。

—

フォード：5億ドルのAIカメラを捨てて、年7000万ドルで人を戻した

フォードは製造ラインのデザインチェックや品質検査にAIカメラを数百台導入していた。投資額は約5億ドル（約750億円）。しかし現場で起きたのは、不具合の連鎖だった。

AIカメラが「問題なし」と判定した部品に欠陥があった。逆に、問題ないものを「不良」と弾いてラインを止めた。どちらも致命的だ。前者は品質事故に直結し、後者は生産効率を破壊する。

フォードの判断は明快だった。「グレイビアード」と呼ばれるベテランエンジニアを再雇用する。 年間コストは約7000万ドル（約105億円）。5億ドルの投資を事実上損切りし、年7000万ドルの人件費に切り替えた。

ここで注目すべきは数字の構造だ。AIカメラの5億ドルは初期投資に加え、保守・チューニング・誤判定対応のコストが雪だるま式に膨らんでいた。一方、ベテランエンジニアの7000万ドルは「判断の質」に対する直接投資だ。経験に基づく暗黙知——「この音はおかしい」「この光沢は塗装ムラの兆候」——は、現時点のAIカメラでは再現できない。

中小企業に置き換えるとこうなる。仮に検品工程にAIカメラを300万円で導入したとする。しかし誤判定のたびにラインが止まり、その対応に月20万円の人件費がかかっているなら、1年で240万円。2年目には導入コストを超える。「AIのほうが安い」は、運用コストを入れた瞬間に逆転することがある。

—

Godot：「AIで書いたコードは受け取らない」という品質宣言

オープンソースのゲームエンジンGodotが、AI生成コードの寄稿（プルリクエスト）を受け付けないと明言した。

理由はシンプルだ。AIでコードを書いた開発者が、そのコードの挙動を説明できない。 レビューで「なぜこの処理を入れたのか」と聞くと答えられない。バグが出ても原因を追えない。つまり、コードの「責任者」がいない状態になる。

オープンソースプロジェクトにとって、これは存亡に関わる問題だ。世界中の開発者が寄稿するコードの品質を担保するには、「書いた人間が理解している」ことが最低条件になる。AIが生成したコードは一見動くが、エッジケースで予期しない挙動をしたり、セキュリティホールを含んでいたりする。そしてそれを発見するのは、コードを理解している人間だけだ。

これは中小企業のシステム開発でも同じ構造が起きている。ChatGPTやCopilotでコードを生成し、「動いたからOK」で本番に投入する。最初は問題ない。だが半年後にバグが出たとき、誰もそのコードを読めない。修正に外注を呼ぶと、ゼロから読み解くので費用は新規開発と変わらない。

AIでコードを書くコストは劇的に下がった。だが「AIが書いたコードを保守するコスト」は下がっていない。 ここを見落とすと、短期の開発費削減が長期の保守費爆発に変わる。

中小企業がAIコード生成を使うなら、最低限のルールがいる。「AIが書いたコードには、人間がレビューコメントを付けて、なぜこの実装にしたかを記録する」。これだけで保守コストは激減する。やることは簡単だが、やらないと後で数百万円の差になる。

—

トリップアドバイザー：AIが「食中毒ホテル」を「清潔」と要約した

トリップアドバイザーが導入したAIレビュー要約機能で、深刻な事実の隠蔽が起きていた。

調査で明らかになった具体例はこうだ。

• 食中毒で訴訟を起こされているホテルが「スポットレス（非の打ちどころがない清潔さ）」と要約された
• スタッフによる性的嫌がらせの報告があるリゾートが「フレンドリーなサービス」と評価された

なぜこうなるか。AIの要約は「多数派の意見」を拾う。100件のレビューのうち95件が「きれいだった」と書いていれば、5件の「食中毒になった」は統計的ノイズとして消される。だが消費者にとって、その5件こそが最も重要な情報だ。

多数決で平均を出すのがAIの要約。しかし、ビジネスにおいて致命的なのは常に「外れ値」のほうだ。

これは中小企業の顧客レビュー管理でもそのまま当てはまる。Googleマップの口コミをAIで要約して社内共有している会社が増えている。だがAIは「おおむね好評」と要約する裏で、1件の深刻なクレームを見落とす。その1件が保健所案件だったら？ SNSで拡散されたら？

口コミやレビューの要約にAIを使うこと自体は効率的だ。ただし「ネガティブなレビューだけは原文のまま人間が読む」というルールを1つ加えるだけで、リスクは大幅に下がる。コストはほぼゼロ。仕組みの問題であって、技術の問題ではない。

—

「AIを引っ込める」判断基準を数字で持て

3つの事例に共通するのは、AIの出力を人間が検証できなくなった瞬間に破綻が始まるという構造だ。

では中小企業は、どこで「引っ込める」判断をすればいいのか。以下の3つの数字を毎月チェックすることを提案する。

① AIの出力を人間が修正している時間（月あたり）
導入前にその業務にかかっていた時間と比較する。修正時間が元の作業時間の50%を超えたら赤信号。AIが仕事を減らすどころか、「AIの尻拭い」という新しい仕事を生んでいる。

② AIの誤判定・誤出力による損失額（月あたり）
誤出力をそのまま出してしまった場合の損害（クレーム対応、手戻り、信用毀損）を金額換算する。これがAI導入で削減できたコストを上回ったら、即座に撤退を検討すべきだ。

③ 「AIがなかったら」の代替コスト
人間がやった場合の月額コストを常に把握しておく。フォードの例で言えば、AI維持コストが年間1億ドルを超えていたのに対し、人間に戻せば7000万ドルで済んだ。この比較ができていたから、撤退判断が速かった。

この3つの数字を持っていれば、「やめどき」は感覚ではなく数字で判断できる。

—

中小企業だからこそ「やめる判断」が速い、という武器

大企業がAI撤退に苦しむのは、意思決定の階層が深く、「導入を推進した部署のメンツ」が絡むからだ。フォードですら判断に時間がかかった。

中小企業は違う。社長が「これダメだな」と思ったら来週やめられる。稟議も役員会もいらない。この意思決定の速さは、AI時代における中小企業の最大の武器だ。

AIは「入れる」より「引っ込める」ほうが難しい。だからこそ、最初から「撤退基準」を決めてから導入する。月次で3つの数字をチェックする。基準を超えたらやめる。シンプルだが、これをやっている中小企業はほとんどない。

逆に言えば、これをやるだけで「AIに振り回される会社」と「AIを使いこなす会社」の差がつく。

技術の話ではない。経営判断の話だ。

—

で、結局どうすればいいのか

1. AIを入れるときに「やめる基準」を数字で決めろ。 修正時間、損失額、代替コスト。この3つ。
2. AIの出力は「人間が検証できる範囲」に限定しろ。 検証できないなら入れるな。
3. ネガティブ情報（クレーム、不良、バグ）はAIに任せるな。 ここだけは人間が原文を見ろ。
4. 月次で数字を見て、ダメなら来月やめろ。 中小企業の意思決定の速さは、大企業にない武器だ。

AIを使うのは手段であって目的じゃない。「入れる勇気」より「引っ込める勇気」のほうが、経営者の力量が出る。

—