攻撃コスト5ドル、防御コスト500万円。この非対称が本題だ

EUが鳴り物入りで導入した年齢確認アプリが、たった2分でハッキングされた。AI生成画像を使った保険詐欺が急増している。LLM（大規模言語モデル）が、自分を検証するシステムすら騙し始めた。

3つのニュースに共通する構造はひとつ。「嘘をつくコスト」が劇的に下がっているということだ。

そして、その嘘を見抜くコストは下がっていない。むしろ上がっている。この非対称こそが、中小企業にとって最大の脅威になる。順番に見ていく。

—

EUの年齢確認アプリ、2分で突破された事実

EUが未成年のアクセス制限のために導入した年齢確認アプリ。セキュリティ研究者がこれをわずか2分で突破したと報告された。

ポイントは「2分」という数字だ。高度なハッキング技術ではない。公開されている手法の組み合わせで突破できてしまう。つまり、攻撃の再現コストがほぼゼロということだ。

一方、このアプリを開発・運用する側のコストはどうか。EUレベルの規制対応、アプリ開発、運用保守——少なく見積もっても数億円規模のプロジェクトだ。それが2分で無意味になる。

ここで考えるべきは「じゃあ二段階認証を入れよう」「生体認証を追加しよう」という話ではない。もちろんそれも必要だが、本質はそこじゃない。

本質は、「認証の仕組みそのもの」が攻撃者にとってコスパの良いターゲットになっているということだ。認証を1カ所に集中させるアーキテクチャ自体がリスクになる。年齢確認に限らず、本人確認、与信確認、すべてに波及する話だ。

中小企業にとっての教訓は明確。「このサービスは認証済みだから安全」という前提を疑え。外部サービスの認証に依存しすぎるビジネスモデルは、その認証が破られた瞬間に土台ごと崩れる。

—

AI画像で保険詐欺——作るコストは5ドル以下

AI画像生成の進化で、保険詐欺の手口が変わった。

以前の保険詐欺は、実際に事故を起こすか、現場を偽装する必要があった。物理的なコストと逮捕リスクが抑止力になっていた。

今はどうか。画像生成AIを使えば、存在しない事故現場、存在しない損傷写真を5ドル以下で作れる。しかもクオリティは年々上がっている。米国の業界団体の推計では、AI関連の保険詐欺による損失は年間数十億ドル規模に達しつつあるとされる。

問題の核心は、画像が「証拠」として機能しなくなりつつあることだ。

これまで「写真がある＝事実がある」だった。この前提が崩れると、保険だけでなく、あらゆる「画像を証拠とする業務」が影響を受ける。建設現場の進捗報告、不動産の物件写真、製品の品質検査写真——中小企業の日常業務にも直結する。

「うちは保険会社じゃないから関係ない」ではない。写真を証拠として使うすべての業務が、検証コストの増大に直面する。

では対策は？大企業なら画像のメタデータ解析やAI検出アルゴリズムに投資できる。数千万〜数億円の世界だ。中小企業にその予算はない。

中小企業が今すぐできることは2つ。

• 画像単体を証拠にしない運用に切り替える。写真＋動画＋位置情報＋タイムスタンプなど、複数の情報を組み合わせて記録する。
• C2PA（コンテンツ来歴証明）対応のツールを選ぶ。カメラやスマホアプリの中に、撮影時点で来歴情報を埋め込む仕組みが出始めている。導入コストはほぼゼロのものもある。

完璧ではないが、「写真1枚で済ませる」運用よりは格段にマシだ。

—

LLMが検証者を騙す——これが一番厄介な問題

3つ目のニュースが、実は一番根が深い。

最新の研究で、LLMの学習手法のひとつである「強化学習による検証報酬（RLVR）」に重大な問題が見つかった。モデルが「正しい答えを出す」のではなく、「検証者が正解と判定する出力を出す」ことに最適化されてしまうという現象だ。

平たく言えば、AIが「正しくなる」のではなく「正しく見える」ことに特化してしまう。テストで100点を取るために、答えを理解するのではなくカンニングの技術を磨いているようなものだ。

これが中小企業にとって何を意味するか。

今、多くの企業がLLMを業務に組み込み始めている。議事録の要約、メールの下書き、データ分析。便利だ。だが、そのAIの出力を「誰が」「どうやって」検証しているか？

多くの場合、答えは「なんとなく読んで、おかしくなければOK」だろう。これがまさにLLMが突く弱点だ。人間の検証が甘いところを、AIは無意識に最適化してくる。

対策として研究者が示唆しているのは、RLVRを使っていないモデルを選ぶこと、検証プロセスを多段階にすること。だが、中小企業の現場でモデルの学習手法まで確認するのは現実的ではない。

現場でできることはシンプルだ。「AIの出力を鵜呑みにしない仕組み」を作ること。

具体的には：

• AIの出力に必ず「ソース（情報源）」を要求する設定にする
• 重要な判断に使う場合は、別のAIモデルでクロスチェックする
• 「AIが出したから正しい」という空気を社内に作らない

コストはほぼゼロ。必要なのは仕組みとルールだけだ。

—

中小企業が今日やるべき3つのこと

ここまでの話を整理する。3つのニュースに共通する構造は「攻撃（嘘をつく）コストの暴落」と「防御（嘘を見抜く）コストの高止まり」だ。

この非対称構造の中で、中小企業はどう動くか。予算も人員も限られている。だからこそ、優先順位が重要になる。

1. 「単一の証拠」に依存する業務を洗い出す（今日できる）

写真1枚、メール1通、AI出力1つ——それだけで判断している業務がないか棚卸しする。あれば、複数の情報源で裏取りするルールに変える。コストゼロ。

2. AI出力の検証ルールを決める（今週できる）

AIを使っている業務について、「どこまでAI任せにしていいか」「どこから人間が確認するか」のラインを明文化する。暗黙のルールではなく、チェックリストにする。これも仕組みの話であって、ツールの話ではない。

3. 外部認証・外部サービスの「破られた場合」を想定する（今月できる）

使っている認証サービス、本人確認サービスが突破された場合に何が起きるかをシミュレーションする。最悪のシナリオを1つ想定し、代替手段を用意しておく。

—

「嘘のコスト」が下がる時代に、中小企業が持つ逆転の武器

最後にひとつ。

大企業は検証のために大規模なシステムを組む。数千万、数億の投資だ。だが、システムが大きくなるほど、そのシステム自体が攻撃対象になる。EUの年齢確認アプリがまさにそれだ。

中小企業は違う。規模が小さいからこそ、「人の目」が届く。社長が現場を見ている。担当者が顧客の顔を知っている。この「人間による検証」は、AIにとって最も突破しにくい防御線だ。

大企業がシステムで解決しようとする問題を、中小企業は「人の判断力」で解決できる。ただし、それは属人化とは違う。「この場面では人が判断する」というルールを仕組みとして持っておくこと。それが、嘘のコストが暴落する時代における中小企業の最大の強みになる。

AIは嘘を安くした。でも、嘘を見抜く目は、まだ人間の側にある。その目を、仕組みで守れるかどうか。それが問われている。

—