結論から言う。AIに仕事を任せっぱなしにすると、見えないところでコストが膨らむ。

AIエージェントに業務を任せる中小企業が増えている。顧客対応、データ整理、レポート作成。「人を雇うより安い」「24時間動く」——その判断自体は間違っていない。

だが、ここで一つ問いたい。

そのAIエージェント、「記憶」がズレたまま動いていないか？

人間なら「あ、この情報古かったわ」と気づいて修正する。AIエージェントはそうはいかない。記憶は更新されたのに行動が変わらない。過去の成功体験を過大評価して同じ手を繰り返す。長く使うほど口調や対応の一貫性が崩れる。

これらはすべて最近の研究で明らかになった現象だ。そして厄介なのは、壊れていることに気づきにくいこと。静かにコストが積み上がり、ある日「なんか最近、顧客対応のクレーム増えたな」と気づく。それが「忘却コスト」の正体だ。

3つの具体的な壊れ方を、コスト感とセットで見ていく。

—

壊れ方①：記憶は更新された。でも行動は古いまま。

研究で「Implicit Policy Adaptation Gap（IPA Gap）」と呼ばれている現象がある。簡単に言うと、AIの「知っていること」と「やること」がズレる問題だ。

例を出す。

ある製造業の中小企業がAIエージェントに受注対応を任せたとする。取引先A社の担当者が変わり、新しい連絡先と発注ルールがシステムに登録された。データベース上は更新済み。ところがエージェントは、前任者向けのフォーマットで見積もりを送り続ける。なぜか。記憶（データ）は書き換わったが、行動方針（ポリシー）の再計算が走っていないからだ。

これが人間なら「担当変わったんだから確認しよう」となる。AIにはその「だから」がない。

コスト感で言うとどうなるか。

• 誤った見積もりの差し戻し・再作成：1件あたり30分〜1時間の手戻り
• 月に10件発生すれば、人件費換算で月3〜5万円のロス
• さらに取引先の信頼毀損は数字にしにくいが、最悪の場合は取引停止

月5万円のロスは、年間60万円。AIエージェントの利用料が月1万円だとしたら、節約したはずのコストの5倍を「忘却」で失っている計算になる。

対策はシンプルだが面倒だ。記憶（データ）が更新されたタイミングで、関連する行動ルールも強制的に再評価させる仕組みを入れる。「データ変わったよ」だけでなく「だからこの行動も変えろ」まで明示的に指示するフローが要る。今のところ、これを自動でやってくれるエージェントはほぼない。人間が監視ポイントを設計するしかない。

—

壊れ方②：過去の成功を過大評価して、同じ失敗を繰り返す。

自己改善型のAIエージェントは、過去の行動結果を振り返り、次に活かす。聞こえはいい。だが、ここに「メモリ報酬インフレーション」という罠がある。研究では「Echo Gap」とも呼ばれる。

何が起きるか。

エージェントが過去の対応を自己評価する際、たまたまうまくいった対応を「成功パターン」として高く評価する。問題は、その成功が再現性のあるものだったのか、単なる偶然だったのかを区別できないことだ。

結果、効果の薄い手法が「最適解」として固定される。

具体例で考える。ECサイトを運営する中小企業が、AIエージェントにメール対応を任せた。ある時期、特定の文面で返信したら顧客の返信率が高かった。エージェントはこれを「成功体験」として記憶し、以降すべての顧客に同じトーンで返す。しかし実際には、返信率が高かったのは季節要因やキャンペーンの影響であり、文面とは無関係だった。

3ヶ月後、顧客満足度調査で「対応が画一的」「こちらの状況を見ていない」という声が増える。でもエージェントのログを見ると「成功パターンに基づいて対応」と記録されている。数字の上では「最適な行動を取り続けた」ことになっている。

コスト感。

• 顧客満足度の低下による解約率の上昇：月間解約率が1%上がるだけで、顧客単価5,000円・顧客数500人の場合、月2.5万円、年間30万円の売上減
• 原因特定のための調査工数：担当者が丸1日〜2日費やすとして、人件費3〜5万円
• エージェントの再学習・再設定コスト：外部委託なら10〜30万円

これが「自己改善」の皮肉だ。改善しているつもりで劣化している。しかもログ上は正常に見えるから発見が遅れる。

対策として有効なのは、エージェントの自己評価を鵜呑みにしないこと。月1回でいいから、人間が実際の顧客反応とエージェントの自己評価を突き合わせる。ズレが出ていたら、成功パターンの記憶をリセットする。地味だが、これをやるかやらないかで半年後の数字がまったく変わる。

—

壊れ方③：長く使うほど「人格」が崩れる。

3つ目は「ペルソナ崩壊」。AIエージェントを長期間運用すると、初期に設定した口調・対応スタイル・判断基準が徐々にブレていく現象だ。

なぜ起きるか。エージェントが蓄積する記憶が増えるほど、初期設定の影響力が相対的に薄まる。さらに、多様な顧客とのやり取りの中で、矛盾する情報や文脈が記憶に混在し始める。結果、最初は丁寧だった対応が、ある日突然カジュアルになったり、逆に過剰にフォーマルになったりする。

中小企業にとって、これは大企業以上に致命的だ。なぜか。

中小企業の顧客対応は「この会社、いつも同じトーンで安心する」という一貫性が信頼の土台だからだ。大企業なら担当者が変わっても「まあ大企業だし」で済む。中小企業で対応の質がブレたら、「この会社大丈夫か？」に直結する。

コスト感。

• 顧客離反による損失：BtoBで1社あたりの年間取引額が100万円の顧客が2社離れたら、200万円の売上減
• ブランドイメージの毀損：口コミやレビューへの悪影響は定量化しにくいが、採用にも波及する
• ペルソナ再設定の工数：プロンプトの再設計、テスト、運用ルールの見直しで20〜50万円

対策は2つ。まず、エージェントの出力を定期的にサンプリングして、初期設定のトーンとズレていないかチェックする。週に5件でいい。もう一つは、記憶の「棚卸し」だ。3ヶ月に1回、蓄積された記憶のうち古いもの・矛盾するものを整理する。人間の業務引き継ぎと同じ発想だ。

—

で、結局どうすればいいのか。

まとめると、AIエージェントの「忘却コスト」は3層構造になっている。

合計すると、放置した場合の年間コストは100〜370万円規模になりうる。AIエージェントの利用料が年間12〜24万円だとしたら、節約額の数倍〜十数倍を「見えないコスト」で失う計算だ。

やるべきことは3つ。どれも高度な技術は要らない。

1. データ更新時に行動ルールも再評価するフローを作る（月1回、30分）
2. エージェントの自己評価と実際の顧客反応を突き合わせる（月1回、1時間）
3. 出力のトーンチェックと記憶の棚卸しをする（週5件サンプリング＋四半期に1回整理）

合計で月2〜3時間。年間で30時間程度。人件費に換算して年間10〜15万円。370万円のリスクを15万円で管理できるなら、やらない理由がない。

AIエージェントは「導入したら終わり」ではない。人間を雇ったときと同じで、定期的に「ちゃんと仕事してるか」を見る仕組みが要る。違うのは、AIは自分から「最近ちょっとおかしいです」とは言ってくれないこと。

壊れるのは静かだ。だからこそ、見に行く仕組みを先に作る。それがAIエージェントを「使いこなす」ということだ。

—