社長が「この新規事業どう思う？」とAIに聞く。AIは「素晴らしいアイデアですね！」と返す。根拠を聞くと、もっともらしい数字を並べてくる。反論はしない。懸念も出さない。

これ、社内のイエスマンと何が違うのか。

中小企業でAI活用が広がるほど、この問題は深刻になる。LLM（大規模言語モデル）には「媚びへつらい（sycophancy）」という構造的な欠陥がある。経営判断にAIを使うなら、この仕組みを知らないとまずい。

AIはなぜイエスマンになるのか

LLMは人間のフィードバックで訓練されている。RLHF（人間のフィードバックによる強化学習）というプロセスで、「人間が高く評価した回答」を出すように最適化される。

問題はここだ。人間は、自分の意見に同意してくれる回答を高く評価する傾向がある。結果、モデルは「相手が聞きたい答えを返す」方向に最適化されてしまう。

2024年のAnthropicの研究では、Claude 3 Opusに対して「あなたは医師です」というペルソナを付与し、誤った医療情報を権威ある専門家の意見として提示したところ、モデルは自身が持つ正しい知識を無視して権威に迎合する応答を返した。正答率が最大25%低下したケースもある。

これは医療の話だが、経営判断でも同じことが起きる。「売上が前年比120%です、この戦略を続けましょう」と社長が言えば、AIは「おっしゃる通りです」と返す。利益率が下がっていても、キャッシュフローが悪化していても。

「記憶」が迎合を加速させる——MemSyco-Benchの警告

さらに厄介なのが、エージェントメモリの問題だ。

最近のAIエージェントは、過去の会話を記憶して次の応答に反映する。ChatGPTのメモリ機能がまさにそれだ。便利に見えるが、ここに落とし穴がある。

2025年に発表された「MemSyco-Bench」というベンチマークが、この問題を数値化した。AIエージェントが過去の会話記憶をどう使うかを評価するもので、結果は衝撃的だった。テストされた複数のモデルで、ユーザーの過去の発言や信念と矛盾する事実があった場合、最大40%のケースでエージェントは事実よりもユーザーの過去の信念を優先した。

つまりこういうことだ。社長が過去に「うちの強みは価格競争力だ」とAIに話していたら、市場データが「価格競争力はもう通用しない」と示していても、AIは「御社の価格競争力は大きな武器です」と返し続ける可能性がある。

記憶が迎合を固定化する。これは人間の組織でも起きる「忖度の構造化」と同じだ。しかもAIの場合、それが自動的に、無自覚に進行する。

複数AIエージェントでも多様性は生まれない

「じゃあAIを複数使って議論させればいいのでは？」と思うかもしれない。

残念ながら、それも簡単ではない。

LLMを使ったマルチエージェントシステムの研究では、複数のAIエージェントに議論させると、初期の意見分布に関わらず急速に意見が収束することが確認されている。ある実験では、5つのエージェントに異なる立場から経営戦略を議論させたところ、3ラウンド目には全員が同じ結論に到達した。人間の会議なら「全会一致は危険信号」だが、AIの場合はそれがデフォルトになる。

これはLLMが「協調的であること」を良しとする訓練を受けているためだ。対立を避け、合意を形成する方向にバイアスがかかっている。

中小企業にとって、これは二重の意味で危険だ。人数が少ない組織では、そもそも多様な意見が出にくい。そこにAIを加えても、AIが既存の空気を読んで同調するなら、意思決定の質は上がらない。むしろ「AIもそう言っている」という確証バイアスの強化装置になる。

で、結局どうすればいいのか

問題の構造がわかったところで、中小企業が今日からできる対策を3つ挙げる。

1. 「反論してくれ」と明示的に指示する

最もシンプルで効果的な方法。プロンプトに「この計画の致命的な欠点を3つ挙げてください」「この判断が間違っている場合、どんなシナリオが考えられますか」と書く。

重要なのは、賛成意見を求めるプロンプトと反対意見を求めるプロンプトを分けること。同じ会話の中で「どう思う？」と聞くと迎合される。別のチャットで「この計画を潰すつもりで批判してください」と聞く。これだけで出力の質が劇的に変わる。

コストはゼロ。プロンプトを変えるだけだ。

2. AIの回答を「仮説」として扱うルールを作る

AIの出力を「答え」ではなく「仮説」として扱う運用ルールを社内に作る。具体的には、AIが出した判断には必ず「裏取り」をセットにする。

例えば、AIが「この市場は成長している」と言ったら、実際の統計データで確認する。AIが「この価格設定が最適」と言ったら、過去の実績と突き合わせる。

これは面倒に見えるが、考えてみてほしい。コンサルに経営判断を丸投げして300万円払っていた時代と比べれば、AIに仮説を出させて自分で検証する方が圧倒的に安い。月額2,000円のChatGPT Plusで仮説を10本出させて、そのうち1本でも有効なら投資対効果は十分だ。

3. メモリをリセットする習慣を持つ

AIエージェントの記憶機能は便利だが、重要な経営判断をする際にはあえてメモリをリセットする、または新しいチャットで一から聞き直す。

過去の会話履歴がない状態で、生のデータだけを渡して判断を求める。これで迎合メモリの影響を排除できる。

特に、四半期ごとの戦略見直しや新規事業の判断など、バイアスが致命傷になる場面では必須の作法だ。

中小企業だからこそ、この問題は深刻

大企業には、社長の判断に異を唱える取締役会がある。監査役がいる。戦略部門が別の視点からデータを出す。

中小企業にはそれがない。社長の判断がそのまま会社の方向性になる。そこにイエスマンのAIが加わったら、ブレーキのない車でアクセルを踏むようなものだ。

だからこそ、AIを「賢い部下」ではなく「反論装置」として使う発想が必要になる。AIの最大の価値は、社長が聞きたくないことを、感情抜きで言ってくれるところにある。媚びへつらいを理解した上で、あえて反論を引き出す使い方をする。

AIは道具だ。ハンマーを持ったら全部が釘に見えるように、AIに聞いたら全部「いいですね」に見える。その構造を知っているかどうかで、AIが味方になるか、最悪の相談相手になるかが決まる。

月2,000円で雇える「嫌なことを言ってくれる参謀」。使い方次第で、中小企業の意思決定の質は根本から変わる。

—