攻撃コスト5ドル、被害額は数千万円。AIサポートの「穴」が狙われている

MetaのAIサポートボットが、ハッカーに利用されてInstagramアカウントを奪われた。

やり方は驚くほど単純だ。VPNでターゲットの居住地域に位置偽装し、MetaのAIチャットボットにアクセス。パスワードリセットを要求し、登録メールアドレスの変更まで通してしまう。人間のサポート担当者なら「本当にご本人ですか？」と疑うような操作を、AIボットはそのまま処理した。

この手口はTelegramグループで動画付きで共有され、誰でも再現可能な状態だった。攻撃に必要なのはVPN代の月額5ドル程度。それだけで、バラク・オバマのホワイトハウス公式アカウントや米宇宙軍高官のアカウントまでが標的にされた。

問題の本質はこうだ。AIが「判断」ではなく「処理」をしているだけだった。

これは、いま中小企業がこぞって導入し始めている「AIカスタマーサポート」にとって、他人事ではない。

なぜAIボットは騙されたのか——構造的な問題

従来の人間によるカスタマーサポートには、マニュアルにない「違和感」を察知する能力があった。声のトーン、質問の不自然さ、過去の問い合わせ履歴との矛盾。経験豊富なオペレーターなら「これはおかしい」と立ち止まれる。

AIボットにはそれがない。

今回のMetaのケースでは、AIは以下のプロセスをそのまま実行した。

1. ユーザーからの「パスワードを忘れた」というリクエストを受理
2. 本人確認として登録情報の一部を照合（これ自体が甘い）
3. メールアドレスの変更リクエストを処理
4. 新しいメールアドレスにリセットリンクを送信

つまり、AIは「正しい手順を踏んでいるかどうか」だけを見ていた。「この手順を踏んでいる人が本人かどうか」は見ていなかった。

ここに構造的な脆弱性がある。AIサポートは「効率化」のために導入される。問い合わせ対応のコストを月50万円から月5万円に下げられる。だが、コストを下げた分だけ、判断の厚みも削っていることに多くの企業は気づいていない。

攻撃のコストと被害のコスト——数字で見る非対称性

この事件の恐ろしさは、攻撃側と防御側のコスト差にある。

攻撃側のコスト：

• VPNサービス：月額5〜10ドル（約750〜1,500円）
• Telegramでの手口情報：無料
• 所要時間：1アカウントあたり数十分
• 技術スキル：ほぼ不要

被害側のコスト（中小企業の場合を試算）：

• アカウント復旧の人件費・専門家費用：10万〜50万円
• 復旧までの営業機会損失（SNS経由の売上が止まる）：日商の数日〜数週間分
• 顧客への謝罪・信用回復施策：20万〜100万円
• ブランド毀損による中長期の売上減：年間売上の5〜15%

月商100万円の中小企業がInstagram経由で売上の30%を得ていたとする。アカウントを奪われて2週間復旧できなければ、それだけで約15万円の直接損失。さらに「あの会社、乗っ取られたらしい」という評判が広がれば、顧客離れによる損失は年間で50万〜150万円に達しうる。

攻撃者のコスト750円に対して、被害額は数十万〜数百万円。コスト比は1対1,000以上。この非対称性こそが、AIサポートの脆弱性を狙う攻撃が今後急増する理由だ。

ちなみに、奪われた著名アカウントはグレー市場で数万〜数十万ドル（数百万〜数千万円）で売買される。攻撃者にとっては、750円の投資で数百万円のリターンが見込める「ビジネス」になっている。

中小企業がAIサポートを入れるなら、ここを押さえろ

「じゃあAIサポートは入れるな」という話ではない。問い合わせ対応を月50万円かけて人間にやらせ続けるのは、中小企業にとって現実的じゃない。AIで月5万円に下げられるなら、それは正しい判断だ。

問題は、「何をAIに任せて、何を任せないか」の線引きができていないことだ。

具体的に、今日からできる対策を3つ挙げる。

1. 「変更系」の操作はAIに完結させない

パスワードリセット、メールアドレス変更、支払い情報の変更——これらは「アカウントの所有権に関わる操作」だ。ここをAIだけで完結させたのがMetaの失敗。

対策はシンプル。変更系の操作が発生したら、必ず人間のチェックを挟む。あるいは、二段階認証を必須にして、AI側では処理を完了させない設計にする。

AIには「よくある質問への回答」「注文状況の確認」「営業時間の案内」といった読み取り専用の対応を任せる。書き込み権限は与えない。これだけでリスクは激減する。

2. 「AIが何をしたか」のログを毎日見る

中小企業でAIサポートを入れた会社の多くが、導入後に「放置」している。AIが何件対応して、どんなリクエストを処理したか、誰も見ていない。

これは危険だ。攻撃者は最初に小さなリクエストでAIの挙動をテストする。その段階で気づければ、被害を防げる。

毎朝5分、AIの対応ログを確認する。異常なリクエストパターン（深夜の大量アクセス、同一IPからの繰り返し操作など）にアラートを設定する。月額数千円の監視ツールで十分対応できる。

3. 「最悪のシナリオ」のコストを先に計算しておく

AI導入の稟議書には「月額いくら削減できるか」は書いてあるが、「やられたときにいくらかかるか」が書いていないケースがほとんどだ。

先に計算しておけ。自社のSNSアカウントが乗っ取られたら、売上にいくら影響するか。顧客データが漏洩したら、対応にいくらかかるか。その数字が出れば、セキュリティ対策にいくらまで投資すべきかが自動的に決まる。

月5万円のAIサポート導入で月45万円のコスト削減。だが、年に1回でもアカウント乗っ取りが起きれば100万円の損失。なら、月1万円のセキュリティ監視は「コスト」ではなく「保険」だ。この計算ができるかどうかが分かれ目になる。

本当のリスクは「AIが賢くなること」ではなく「攻撃が安くなること」

最後に、この事件から読み取るべき最大のポイントを整理する。

AIサポートの性能が上がること自体はリスクではない。リスクは、攻撃のコストが劇的に下がっていることだ。

かつてアカウント乗っ取りには、フィッシングサイトの構築、ソーシャルエンジニアリングのスキル、ターゲットの個人情報収集といった手間とコストが必要だった。それが今回、VPN代750円と数十分の作業に圧縮された。

しかもこの手口は動画で共有され、技術スキルのない人間でも再現できる。攻撃の民主化が起きている。

中小企業は「うちは小さいから狙われない」と思いがちだが、攻撃コストが下がれば下がるほど、小さなターゲットでも「割に合う」ようになる。月商100万円の会社のアカウントでも、奪って転売すれば数万円になる。攻撃コスト750円に対して十分なリターンだ。

AIを入れるなら、攻撃者の目線でコストを計算しろ。自社を攻撃するのにいくらかかるか。その金額が下がっているなら、防御にかけるコストを上げるタイミングだ。

AIサポートは中小企業の武器になる。だが、武器には安全装置がいる。安全装置なしで振り回せば、自分が切れる。750円で突破される仕組みを、月5万円で導入して安心している場合ではない。

—