一度AIに渡したデータは二度と返ってこない——中小企業が知るべき「不可逆リスク」の正体

あなたの会社のノウハウ、顧客リスト、過去の提案書。それをAIに食わせた瞬間、もう取り返せない。

これは脅しではない。LLM（大規模言語モデル）の仕組み上、学習に使われたデータを「削除してください」と言っても、モデルの重みに溶け込んだ情報をピンポイントで消す技術は現時点で確立されていない。GDPRの「忘れられる権利」ですら、LLMに対しては実効性が疑問視されている。

そして今、この「不可逆リスク」がもっと生々しい形で表面化している。希少本がAIの訓練データとして物理的に切り刻まれているという話だ。

—

希少本が「スキャン素材」として買い漁られている

2024年後半から、古書市場で異変が起きている。米国の古書ディーラーの間では、特定ジャンルの希少本——特に専門的な技術書、地域史、絶版の学術書——の需要が急増したと報告されている。買い手の目的は「読むこと」ではない。スキャンしてAIの訓練データにすることだ。

1冊数万円から数十万円の希少本が、背表紙を裁断され、高速スキャナに通される。デジタル化されたテキストはOCR処理を経てLLMの訓練コーパスに組み込まれる。著作権が切れている古い書籍だけでなく、著作権が残っている書籍も含まれているとされる。

なぜ希少本なのか。理由は単純だ。インターネット上に存在しないデータだから。

GPT-4やClaude、Geminiといった主要LLMは、すでにWeb上の公開データをほぼ食い尽くしている。The Atlantic誌の調査によれば、主要LLMの訓練に使われたWebデータは推定数兆トークンに達し、「学習に使える良質な英語テキストは2026年頃に枯渇する」という研究もある（Epoch AI、2022年）。

だからこそ、Webに載っていない希少本や専門資料が「次のデータ源」として狙われている。Books3というデータセットには約19万冊の書籍が含まれていたことが判明し、著作権者の許諾なしに使われていた。これは氷山の一角だ。

—

「データを渡す」とは何が起きているのか

ここで、中小企業の経営者に問いたい。

あなたの会社は、すでにAIにデータを渡していないか？

ChatGPTに自社の提案書を貼り付けて「要約して」と頼んだことはないか。社内の営業マニュアルをAIに読ませて「改善点を出して」と指示したことはないか。顧客からの問い合わせメールをそのままAIに投げて「返信案を作って」とやっていないか。

OpenAIの利用規約（2024年時点）では、API経由のデータはモデル学習に使わないと明記されている。だが、無料版のChatGPTでは、設定でオプトアウトしない限り、入力データがモデル改善に使われる可能性がある。

ここで整理しよう。リスクは大きく3つある。

1. 学習データへの取り込みリスク
無料版やオプトアウトしていない状態で入力したデータは、モデルの学習データに使われる可能性がある。一度学習されたら、取り消しは事実上不可能だ。

2. ログ保存・流出リスク
API経由であっても、入力データはサーバー上に一定期間ログとして保存される。OpenAIの場合、不正利用監視のため最大30日間保持される。その間にセキュリティインシデントが起きれば、データは外部に漏れる。

3. 出力経由の間接漏洩リスク
あなたが入力したデータそのものが他のユーザーへの回答に直接出ることは考えにくい。だが、学習に使われた場合、類似の質問に対して「あなたのノウハウに似た回答」が生成される可能性はゼロではない。

Samsungが2023年にChatGPTへの社内データ入力を禁止したのは有名な話だ。半導体の設計データやソースコードが入力されていたことが発覚し、全社的に利用を制限した。大企業ですらこの有様だ。

—

中小企業にとって「本当に怖い」のは何か

大企業には法務部門がある。情報セキュリティの専任チームがある。問題が起きたときに対処するリソースがある。

中小企業にはない。

だからこそ、中小企業にとってのAIデータリスクは「起きたら終わり」になりかねない。具体的に何が怖いのか。

① 競争優位の源泉が溶ける

従業員30人の製造業が、20年かけて蓄積した加工ノウハウ。それがAIの学習データに取り込まれたら、競合他社がAIに聞くだけで類似のノウハウを手に入れられる可能性がある。20年分の蓄積が、月額2,000円のサブスクで誰でもアクセスできるものになる。

② 取引先との信頼崩壊

顧客の発注データや仕様書をAIに投げていたことが取引先に知られたら？「御社は機密情報の管理ができない会社だ」と判断され、取引停止になるリスクがある。中小企業にとって、大口取引先1社を失うことは致命傷だ。

③ 法的リスクの顕在化

2024年以降、EUのAI規制法（AI Act）が段階的に施行されている。日本でも個人情報保護法の改正議論が進んでおり、AIへのデータ提供に関する規制が強化される方向だ。「知らなかった」では済まない時代が来ている。

—

で、結局どうすればいいのか

抽象的な「気をつけましょう」では意味がない。中小企業が今日からできる具体策を5つ挙げる。

1. AIに渡すデータを「3段階」に分類する

• Green（渡してOK）: 公開情報、一般的な文章の校正、公開済みの製品情報
• Yellow（加工してから渡す）: 社内マニュアル、業務フロー → 固有名詞・数値を伏せてから投入
• Red（絶対に渡さない）: 顧客データ、取引先の機密情報、独自の技術ノウハウ、未公開の財務情報

この分類表をA4一枚で作り、社内に貼る。それだけで事故は激減する。コストはゼロだ。

2. API経由で使い、オプトアウトを確認する

ChatGPTを使うなら、無料版ではなくAPI経由（またはChatGPT Teamプラン以上）を使う。月額1人あたり約4,000円（Team版の場合）。この投資で「入力データが学習に使われない」保証が得られる。年間約5万円で情報漏洩リスクを大幅に下げられるなら、安い保険だ。

3. ローカルLLMという選択肢を知る

データを外部に出したくないなら、自社サーバーやPC上で動くオープンソースのLLMを使う手がある。Meta社のLlama 3やMistralなどは無料で利用可能だ。性能はGPT-4には劣るが、議事録の要約や定型文の生成程度なら十分実用的。初期構築にかかるコストは、外部に依頼しても20〜50万円程度。自社の技術者がいれば実質ゼロで始められる。

4. 契約書の「データ条項」を必ず確認する

AIサービスを導入する際、利用規約の中に「ユーザーが入力したデータの取り扱い」に関する条項が必ずある。確認すべきポイントは3つだけだ。

• 入力データはモデルの学習に使われるか？
• データの保存期間は何日か？
• 解約後、データは削除されるか？

この3点が明記されていないサービスは使わない。それだけでいい。

5. 「AIに食わせたデータ一覧」を記録する

どの部署が、いつ、何のデータを、どのAIサービスに入力したか。これをスプレッドシート1枚で記録する。完璧なログ管理は不要だ。「何を渡したか分からない」状態が一番危険なのだから、ざっくりでも記録があるだけで、問題発生時の対応速度がまったく違う。

—

希少本の話から中小企業が学ぶべきこと

希少本がAIに切り刻まれている——この話の本質は「一度渡したら戻らない」という不可逆性にある。

物理的な本は裁断されたら元に戻らない。デジタルデータも、LLMに学習されたら元に戻らない。構造は同じだ。

違うのは、希少本の所有者は「売る」という意思決定をしている点だ。一方、中小企業の多くは「渡している自覚すらない」。ChatGPTに貼り付けた瞬間に、データは自社の管理を離れている。その認識があるかないかで、5年後の競争力は大きく変わる。

AIは使うべきだ。中小企業こそ、AIによるコスト削減の恩恵は大きい。月5万円の業務が自動化で5,000円になる世界は、大企業より中小企業に有利に働く。

だが、「何を渡して、何を渡さないか」の線引きができない企業は、AIに食われる側になる。

希少本と同じように。

—

今後の注目ポイント

• 2025年後半: EUのAI Act本格施行。日本企業にも影響が及ぶ可能性
• 訓練データの透明性要求: 主要LLM提供企業に対し、訓練データの開示を求める動きが各国で加速
• 「機械学習からの除外権」の法制化: 著作権者が自作品のAI学習利用を拒否できる権利の議論が日本でも本格化
• ローカルLLMの性能向上: オープンソースモデルの性能がGPT-4レベルに近づきつつあり、「データを外に出さない」選択肢が現実的に

中小企業にとって、AIは道具だ。道具に自分の手の内を全部見せる必要はない。渡すものを選べ。選ぶ基準を今日、決めろ。

—