16万人が受けた入試で、5.8万人が再試験。削減したはずの監督コストは、その何倍にもなって返ってきた。

「AIに任せればコストが下がる」——この言葉を疑わずに使っていないだろうか。

メキシコ最大の大学UNAMで起きた事件は、その問いを突きつける。そして、これは大学だけの話ではない。中小企業が「AIで人件費を削ろう」と考えるとき、まったく同じ構造の罠が待っている。

—

何が起きたのか——数字で見るUNAMの惨事

2025年夏、UNAMは入試を初めて完全リモートで実施した。受験者は約16万人。試験監督にはAI監視ソフトウェアを導入し、人間の試験監督を置かなかった。

結果はこうだ。

• 100点以上の高得点者の割合：16.3%（例年平均は3.5%）
• 再試験の対象者：約58,000人
• 不正が疑われるスコア異常：例年の約4.7倍

つまり、AIは不正を「防ぐ」どころか、不正を「見逃した」。あるいは、不正をする側がAI監視の穴を突いた。どちらにせよ、結果は同じだ。試験の信頼性は崩壊し、58,000人分の再試験という膨大なコストが発生した。

ここで考えてほしい。16万人規模の試験を対面で実施する場合、試験会場の確保、監督員の人件費、運営スタッフの手配——ざっくり見積もっても数千万円から億単位のコストがかかる。リモート＋AI監視にすれば、その大部分をカットできる。だから導入した。ロジックとしては正しい。

だが、58,000人の再試験にかかるコストはいくらか。会場の再手配、問題の再作成、採点、通知、受験者への対応——削ったはずのコストが、倍以上になって返ってきた可能性が高い。しかも「UNAMの入試は信用できない」という評判コストは、金額に換算できない。

コスト削減の計算式に「失敗したときのコスト」を入れていたか。 ここが分かれ目だ。

—

なぜAI監視は破られたのか——構造的な問題

AI監視ソフトの仕組みは、大まかにこうだ。カメラで受験者の顔や視線を追跡し、画面の切り替えや不審な動きを検知する。異常があればフラグを立てる。

問題は、このフラグの精度と、フラグが立った後の対応だ。

対面の試験監督なら、「あの受験者、さっきからスマホを膝の上に置いている気がする」という曖昧な違和感を拾える。隣の監督員に目配せして、2人で注視する。人間の監視は精度が低いように見えて、文脈を読む力がある。

AI監視は、定義されたパターンに合致するかどうかしか判定できない。カメラの死角にスマホを置く、別デバイスで検索する、画面共有で第三者に解かせる——こうした「想定外の不正パターン」に対して、AIは驚くほど無力だ。

さらに厄介なのは、AI監視を突破する方法がネット上で共有されるスピードだ。一人が穴を見つければ、数時間で数万人に広がる。対面試験なら会場ごとにローカルな対応ができるが、リモート＋AI監視は「一つの穴が全体を崩す」構造になっている。

スケールするのは効率だけじゃない。脆弱性もスケールする。

—

別の現場でも起きている——AI経由の詐欺という「想定外コスト」

似た構造の問題は、金融の現場でも起きている。

イギリスのMetro Bankで、AIチャットボット「Claude」を悪用した詐欺が発覚した。詐欺師が顧客の口座から無断で資金を引き出し、AIサービスのクレジット購入に充てていた。被害額は14,000ポンド、日本円で約270万円。

ここで注目すべきは、詐欺師がAIの「ガードレール（安全装置）」を回避して悪用した点だ。セキュリティ研究者の調査では、AIのガードレール回避は高度なハッキング技術がなくても可能で、いわゆる「スクリプトキディ」——つまりネットでツールを拾ってきて使うレベルの人間でも突破できるケースがあると報告されている。

これはAIそのものが悪いという話ではない。AIを導入したことで、新しい攻撃面（アタックサーフェス）が生まれたという話だ。人間の窓口担当者なら「この取引、おかしくないですか」と声をかけられた場面で、AIは淡々と処理を通してしまう。

—

中小企業にとって、これは他人事か

「うちは大学でも銀行でもないから関係ない」——そう思うかもしれない。だが、構造は同じだ。

中小企業がAIを導入するとき、最もよくあるパターンは「人件費の削減」だ。

• 問い合わせ対応をAIチャットボットに置き換える
• 検品作業をAI画像認識に任せる
• 経理処理をAI-OCR＋自動仕訳に切り替える

どれも正しい方向だ。実際に月30万円の人件費が月3万円のツール代になるケースはいくらでもある。

ただし、「人がやっていたこと」をAIに置き換えるとき、人が無意識にやっていた「判断」まで一緒に消えていないか。 ここを確認しているかどうかで、結果がまるで変わる。

例えば、問い合わせ対応。人間のオペレーターは「この人、怒っているな」と感じたら上司にエスカレーションする。AIチャットボットはテンプレート通りに返す。クレームが炎上して、SNSに晒されて、対応コストが跳ね上がる——これは実際に起きている話だ。

検品も同じだ。ベテランの検品担当者は「いつもと微妙に色が違う」という感覚で不良を見つける。AI画像認識は学習データにないパターンの不良を見逃す。出荷後にクレームが来て、リコール対応に数百万円——削った人件費の何年分だろうか。

—

じゃあ、どうすればいいのか

「AIは危ないからやめよう」ではない。それは思考停止だ。

ポイントは3つ。

1. 「AIに任せる領域」と「人が残る領域」を分ける

AIが得意なのは、パターンが明確で、大量に繰り返す作業だ。データ入力、定型文の生成、画像の一次分類。ここはどんどん任せていい。

一方、例外処理、文脈判断、「なんかおかしい」という違和感——これは人間が持つべき領域だ。UNAMの事例で言えば、AI監視＋人間のスポットチェックという組み合わせなら、結果は違っていた可能性が高い。

2. 「失敗コスト」を計算に入れる

AI導入のROI計算で、ほとんどの企業が見落としているのが「AIが間違えたときのコスト」だ。

• チャットボットが誤案内した場合の顧客離脱コスト
• AI検品が見逃した不良品のクレーム対応コスト
• AIが処理を通してしまった不正取引の損害額

これを「導入コスト＋運用コスト」に加えて初めて、本当のROIが出る。削減額だけ見て導入を決めるのは、保険なしで車を走らせるようなものだ。

3. 小さく始めて、穴を見つけてから広げる

これは中小企業の最大の強みだ。UNAMは16万人に一気に展開して失敗した。大企業は「全社導入」を前提にするから、失敗もスケールする。

中小企業なら、まず10件の問い合わせでAIチャットボットを試す。100個の検品でAI画像認識を試す。そこで「AIが見逃すパターン」を洗い出し、人間のチェックポイントを設計してから、範囲を広げる。

小さく失敗できることが、中小企業の構造的な優位性だ。 これを使わない手はない。

—

「人の目」のコストは、本当に高いのか

UNAMの事件に戻ろう。

58,000人の再試験。問題の再作成。会場の再手配。大学の信頼失墜。——これらすべてのコストを足したとき、「人間の試験監督を雇っていた方が安かった」という結論になる可能性は極めて高い。

AIで置き換えられるコストと、人間にしか担えないコスト。この2つを混同すると、削減したはずのコストが何倍にもなって返ってくる。

中小企業の経営者に伝えたいのは、こういうことだ。

AIは「人の代わり」ではなく、「人の判断力を増幅する道具」として使え。

月5万円のAIツールで、月30万円分の定型作業を自動化する。浮いた25万円分の人間の時間を、AIが苦手な例外処理や顧客対応に集中させる。これが、中小企業におけるAI活用の正解に最も近い形だ。

「全部AIに任せれば安くなる」は幻想だ。安くなるのは、AIに任せていい部分だけ。その線引きを間違えたとき、コストは削減されるのではなく、移動するだけだ。しかも、たいてい悪い方向に。

UNAMの58,000人は、その授業料を払った。あなたの会社は、払わなくて済むようにしたい。

—