電話1本、1500円。それで御社の500万円が消える

AIが詐欺師になった。しかも、人間の詐欺師と同じくらい「うまい」。

イリノイ大学の研究チームが2024年に発表した論文によれば、AI音声エージェントによるフィッシング（ビッシング）の成功率は、人間の詐欺師とほぼ同等だった。GPT-4ベースのAIエージェントが銀行口座の認証情報を騙し取るシナリオで、成功率は約36%。人間の熟練詐欺師と統計的に有意な差がなかった。

そして、このAIエージェントを1回動かすコストはわずか0.75ドル（約110円）だ。

人間の詐欺師を雇えば、時給換算で数千円。訓練も必要だし、スケールしない。AIなら1000件の電話を同時にかけられる。コストは合計で10万円程度。1件でも成功すれば、数百万円が手に入る。

攻撃のコストが100分の1になったとき、何が起きるか。答えは単純だ。攻撃の数が100倍になる。そして、そのターゲットの中心にいるのは、セキュリティ専任者がいない中小企業だ。

「社長の声」はもうコピーできる

少し具体的に想像してほしい。

金曜の夕方、経理担当者の電話が鳴る。相手は取引先の社長——に聞こえる声だ。「急ぎで振込を頼みたい。月曜では間に合わない。今日中に処理してくれ」。声のトーン、話し方の癖、すべてが本物そっくりだ。

実際、2024年に香港で起きた事件では、AIによるディープフェイク音声・映像を使ったビデオ会議で、企業の財務担当者が約38億円を送金してしまった。これは大企業の事例だが、構造は中小企業でも同じだ。むしろ、承認プロセスが属人化している中小企業のほうが危ない。

現在の音声合成技術は、3秒の音声サンプルがあれば声をクローンできる。YouTubeの挨拶動画、セミナーの登壇映像、SNSに上げた音声メッセージ。社長の声のサンプルは、すでにネット上にある可能性が高い。

中小企業の「電話1本」で消える金額を試算する

具体的な数字で考えてみよう。

日本の中小企業（従業員50人規模、年商5億円）を想定する。

被害シナリオ①：振込詐欺

• 1回の不正送金額：300万〜500万円（月次の仕入れ支払い規模）
• 発覚までの平均時間：2〜5営業日
• 回収率：ほぼ0%（海外口座に転送された場合）
• 年商比：約1%

被害シナリオ②：認証情報の窃取からの連鎖被害

• 銀行口座の認証情報が漏洩 → 口座残高の不正送金
• 想定被害額：1000万〜3000万円
• 加えて、取引先への二次被害、信用毀損
• 年商比：2〜6%

被害シナリオ③：ランサムウェアへの誘導

• 音声フィッシングで管理者権限を取得 → システム暗号化
• 身代金要求額の中央値（中小企業向け）：約500万〜1500万円
• 業務停止による逸失利益：1日あたり100万〜200万円 × 復旧まで5〜10日
• 合計想定被害：2000万〜3500万円
• 年商比：4〜7%

どのシナリオでも、年商の1〜7%が一瞬で消える。複合的に起きれば10%に届く。従業員50人の会社にとって、5000万円の損失は致命的だ。資金繰りが詰まれば、そのまま倒産もあり得る。

そして攻撃者のコストは、1件あたり数百円から数千円。この非対称性が、問題の本質だ。

もうひとつの罠——AI過信による判断ミス

音声フィッシングだけではない。AIが社内に入り込むことで生まれる別のリスクがある。

カリフォルニア大学バークレー校の2024年の研究では、AIアシスタントの助言を受けた被験者の意思決定精度が、助言なしの場合と比べて3倍悪化した。にもかかわらず、本人の自信は2倍に上昇していた。

これは「AIが間違える」という問題ではない。「AIが間違えたとき、人間が気づけなくなる」という問題だ。

中小企業の現場で起きうるシナリオを考えてみる。

• AIチャットボットが「この取引先は信用リスクが低い」と判定 → 与信審査を省略 → 500万円の焦げ付き
• AIが「この候補者は適性が高い」と評価 → 面接を簡略化 → ミスマッチ採用 → 採用コスト＋退職コストで200万円の損失
• AIが生成した契約書ドラフトの条項ミスを見逃す → 訴訟リスク

AIを使うなという話ではない。AIの出力を「正解」として扱う運用が危険だという話だ。AIは下書きを作る道具であって、最終判断を委ねる相手ではない。

防御コストは「思ったより安い」——だが、やっていない

では、どう守るか。

中小企業にとって現実的な対策と、そのコスト感を整理する。

① コールバック認証の徹底（コスト：0円）
「振込依頼の電話が来たら、一度切って、登録済みの番号にかけ直す」。これだけで音声フィッシングの大半は防げる。コストはゼロ。必要なのはルールの徹底だけだ。社内に紙1枚貼ればいい。

② 振込の二重承認プロセス（コスト：0円〜月額数千円）
一定金額以上の振込は、必ず2人以上の承認を必要とする。ネットバンキングの設定で対応できる場合も多い。属人化した経理フローが最大のリスクだ。

③ 従業員向けフィッシング訓練（コスト：年間10万〜30万円）
模擬フィッシングメールや模擬電話を使った訓練サービスがある。月額1万円前後から利用可能。四半期に1回やるだけで、クリック率（引っかかる率）は平均で60%低下するというデータがある。

④ AI出力のダブルチェック体制（コスト：0円）
AIの出力を最終判断にしない。必ず人間がレビューする。これをルール化するだけでいい。「AIが言ったから正しい」を社内の禁句にする。

⑤ 音声認証・合言葉の導入（コスト：0円）
社内で「電話での振込指示には合言葉を使う」というルールを設ける。ローテクだが、AI音声クローンには極めて有効だ。

合計で年間10万〜30万円。仮に500万円の被害を1件防げれば、ROIは15倍〜50倍だ。

問題は、コストではない。「うちは大丈夫だろう」という正常性バイアスだ。

中小企業「だからこそ」できる防御がある

ここで逆転の視点を持ちたい。

大企業は、数千人の従業員にセキュリティポリシーを浸透させるのに苦労する。部門間の調整に何ヶ月もかかる。ツール導入に稟議が3段階ある。

中小企業は違う。社長が朝礼で「今日から振込電話はかけ直しルールにする」と言えば、その日から変わる。50人なら全員の顔が見える。「この声、本当に社長か？」と疑える距離感がある。

意思決定の速さ、組織の小ささ、顔が見える関係性。これは中小企業の構造的な強みだ。セキュリティにおいても、この強みは活きる。

大企業が数千万円かけてゼロトラストアーキテクチャを構築している間に、中小企業は0円のルール変更で同等以上の防御効果を得られる。

で、結局どうすればいいのか

3つだけやればいい。明日からできる。

1. 「電話での振込指示は、かけ直して確認」を全社ルールにする。今日。

2. 一定額以上の送金は2人承認を必須にする。今週中。

3. 四半期に1回、模擬フィッシング訓練を入れる。今月中に業者を探す。

AI音声フィッシングの成功率が人間と同等になった世界で、「電話の声を信じる」という習慣は、もはや脆弱性だ。

攻撃のコストは110円。防御のコストも0円から始められる。

問題は技術ではない。「まだ大丈夫」と思っている、その1秒が一番高くつく。

—