結論から言う。AIエージェントの「記憶」、放置していないか？

AIエージェントを業務に組み込む中小企業が増えている。顧客対応、社内問い合わせ、営業支援——便利だ。だが、ひとつ聞きたい。

そのエージェントが「何を覚えているか」、最後に確認したのはいつだ？

エージェントの記憶（メモリ）は、使えば使うほど膨らむ。そして膨らんだ記憶は、3つの地雷を抱える。メモリ汚染、情報漏洩、コスト爆発。どれも「気づいたときには手遅れ」になりやすい。

特に中小企業は専任のセキュリティ担当がいないケースがほとんどだ。だからこそ、週10分の点検で地雷を踏む前に見つける仕組みが必要になる。順番に見ていこう。

—

地雷①：メモリ汚染——他人の情報で「誤作動」する

AIエージェントは過去の対話を記憶してパーソナライズする。これが強みであり、同時に最大の弱点だ。

記憶が長期化すると、外部から注入された悪意ある情報や、別ユーザーのデータが混入するリスクが跳ね上がる。研究事例では、エージェントがログイン時に参照した資格情報のうち84.7%が、本来の所有者とは別のユーザーのものだったというデータが報告されている。さらに、汚染された記憶に基づいて最大43%の確率で他人のアカウントに変更を加えてしまうケースも確認された。

これは大企業のセキュリティ事故の話ではない。むしろ、ユーザー管理が緩い中小企業のほうが起きやすい。社員5人で1つのエージェントを共有していたら、AさんのログインIDをBさんの文脈で使ってしまう——そんな事故が現実に起きうる。

対策はシンプル

資格情報に「所有者名」を紐づけて記録する。たったこれだけで、不正使用の確率が92%から1%に激減したという実験結果がある。コストはゼロ。プロンプトの設計やメモリの記録フォーマットを少し変えるだけだ。

「記憶させるなら、誰のものかも一緒に記憶させる」——これを鉄則にしてほしい。

—

地雷②：情報漏洩——「覚えてしまった」が致命傷になる

メモリ汚染の延長線上に、情報漏洩がある。

エージェントがAさんとの会話で得た顧客情報を、Bさんとの会話で出してしまう。意図的な攻撃がなくても、記憶の境界が曖昧なだけで漏洩は起きる。

中小企業にとって、これは信用の問題だ。大企業なら「システム障害でした」で済むかもしれない。だが地方の中小企業は、顧客との関係が近い分、一度の漏洩で取引先を丸ごと失うリスクがある。

コスト面も深刻だ。情報漏洩が発生した場合、調査・通知・補償・法的対応を合わせると、中小企業でも数百万円の出費は覚悟しなければならない。個人情報保護法の改正で、漏洩時の報告義務も厳格化されている。「知らなかった」は通用しない。

中小企業がまずやるべきこと

• エージェントのメモリに個人情報や機密情報が残っていないかを週次で確認する
• ユーザーごとにセッションを分離できるか、使っているツールの仕様を確認する
• 「このエージェントに何を覚えさせていいか」のルールを、A4一枚でいいから明文化する

高度なセキュリティツールは不要だ。まず「何を覚えさせているか把握する」だけで、リスクは大幅に下がる。

—

地雷③：コスト爆発——記憶が膨らむほど、請求書も膨らむ

見落とされがちだが、記憶にはコストがかかる。

AIエージェントの多くは、過去の会話履歴をコンテキストとしてAPIに送信する。記憶が増えれば、毎回送信するトークン数が増える。トークン数が増えれば、API利用料が増える。単純な話だ。

具体的に計算してみよう。GPT-4クラスのAPIを使っている場合、入力トークンの単価はおおよそ1,000トークンあたり数円。1回の問い合わせで過去の記憶を含めて5,000トークン送っていたものが、半年後に記憶が膨らんで20,000トークンになったら、1回あたりのコストは4倍だ。月に1,000回使えば、月額数千円だったものが数万円になる。年間で見れば数十万円の差が出る。

中小企業の月額IT予算が5万〜10万円だとすると、「気づいたらAIの記憶だけで予算の半分を食っていた」という事態は十分にありうる。

コストを抑える3つの方法

1. 記憶の有効期限を設定する：30日以上前の会話は自動で削除、またはアーカイブする
2. 記憶を要約・圧縮する：全文を保持するのではなく、要点だけを残す仕組みにする
3. トークン消費量を月次でモニタリングする：API管理画面で使用量の推移を確認する。増加傾向が見えたら即対応

どれも特別な技術は要らない。設定変更とルール化だけで対応できる。

—

週10分の点検チェックリスト

ここまで読んで「やばいかも」と思った人へ。週に10分、以下の3項目だけ確認してほしい。

① 記憶の所有者チェック（3分）

• エージェントが保持している資格情報やユーザー情報に、所有者名が紐づいているか
• 別ユーザーの情報が混入していないか
• 不審な情報が記録されていないか

② 機密情報の残留チェック（3分）

• 顧客の個人情報（氏名・連絡先・取引内容）がメモリに残っていないか
• 社内の機密情報（売上データ・契約条件等）が記憶されていないか
• 不要な情報があれば即削除

③ コストの異常値チェック（4分）

• 今週のAPI利用料（トークン消費量）を確認
• 前週比で20%以上増加していたら原因を調査
• 記憶の肥大化が原因なら、古い記憶の削除・圧縮を実施

この3つを毎週月曜の朝にやる。10分で終わる。これだけで「気づいたら地雷を踏んでいた」という事態はほぼ防げる。

—

「記憶の管理」は、中小企業こそ先にやるべき

大企業はセキュリティチームがいる。専用の監視ツールがある。予算もある。だから多少の記憶肥大やメモリ汚染は、システムで吸収できる。

中小企業にはそれがない。だからこそ「仕組みで防ぐ」しかない。

逆に言えば、中小企業は意思決定が速い。「来週からこのチェックリストを回す」と決めれば、来週から回せる。大企業が稟議を通している間に、もう運用が始まっている。これは中小企業の武器だ。

AIエージェントの導入は「入れて終わり」ではない。記憶の管理こそが、AIを安全に・安く・長く使い続けるための本丸だ。

週10分。まずは来週の月曜日から始めてほしい。

—