結論から言う。AIに聞いて「安心した」なら、それが一番ヤバい。

AIに相談して、答えが返ってきて、「なるほど、そうか」と納得する。この体験そのものが罠だ。

MITスローン経営大学院などの研究チームが2025年に発表した論文（Intelligent Machines, Unintended Consequences）が示したデータは衝撃的だった。AIの助言を受けた人は、正確性が最大3倍悪化した。にもかかわらず、自信は約2倍に上昇した。

間違っているのに、自信だけは増す。これは「ちょっとミスが増える」という話ではない。意思決定の構造そのものが壊れるという話だ。

中小企業の経営者にとって、これは他人事じゃない。

—

何が起きているのか——「正確性↓ × 自信↑」の恐怖

この研究では、被験者にさまざまな判断タスクを課し、AI助言ありとなしで比較した。結果はこうだ。

• AI助言なし：正答率は平均的だが、自信も相応。「わからない」と認められる。
• AI助言あり：正答率が大幅に低下。しかし「自分は正しい」と感じる度合いが跳ね上がる。

なぜこうなるか。AIの回答は、もっともらしい。文法は正しく、構造は論理的で、自信に満ちたトーンで書かれている。人間はこの「もっともらしさ」に引きずられる。自分で考える前に「答えが出た」と感じてしまう。

さらに厄介なのが、AIを使った人は「わからない」と言えなくなるという現象だ。同研究では、AI助言を受けたグループは、自分の知識が不十分な領域でも「知らない」と認める割合が有意に低下した。AIが答えをくれたから、自分も知っている気になる。これを研究チームは「知識の錯覚（illusion of knowledge）」と呼んでいる。

経営の現場で考えてみてほしい。

「この市場に参入すべきか？」とChatGPTに聞く。もっともらしい分析が返ってくる。市場規模の数字、競合の名前、参入障壁の整理。読んだ瞬間に「なるほど、いけるな」と思う。しかしその数字は正確か？ その競合分析は最新か？ そもそも自社の強みと照らし合わせた判断になっているか？

AIが出した「答えっぽいもの」が、検証のプロセスを丸ごと吹き飛ばす。これが本質的なリスクだ。

—

Stack Overflowが教えてくれること——「聞く場所」が消えると何が起きるか

この構造をもっとわかりやすく見せてくれる事例がある。Stack Overflowの衰退だ。

Stack Overflowは、プログラマーが技術的な疑問を投稿し、他のプログラマーが回答するQ&Aサイトだった。ピーク時には月間数千万のアクセスを誇り、ソフトウェア開発のインフラと呼べる存在だった。

しかし2023年以降、トラフィックは急落。SimilarWebのデータによれば、2023年4月から2024年にかけて訪問数は約50%減少した。2024年5月には大規模レイオフも実施されている。

原因は明確だ。ChatGPTやGitHub Copilotに聞けば、コードの答えが即座に返ってくる。Stack Overflowに質問を投稿して、回答を待って、議論を読む——その手間が不要になった。

だがここで考えたいのは、「便利になった」の裏側だ。

Stack Overflowには、質問と回答だけでなく「なぜその答えになるのか」「この方法にはどんなリスクがあるか」「別のアプローチはないか」という議論があった。投票で良い回答が上に来る仕組みがあり、間違った回答には指摘が入った。つまり知識の検証プロセスがコミュニティに埋め込まれていた。

AIにはこれがない。AIは「最もそれっぽい回答」を生成する。反論も検証もない。そして人間は、反論がない答えを「正しい」と思いやすい。

質問する場所が消えたのではない。「間違いを指摘してもらえる場所」が消えたのだ。

これは開発者の世界だけの話ではない。中小企業の経営判断でもまったく同じことが起きている。

—

中小企業の経営者にとって、なぜこれが致命的なのか

大企業には、判断を検証する仕組みがある。経営企画部がデータを精査し、法務がリスクを洗い出し、取締役会で議論する。たとえ社長がAIの出力を鵜呑みにしても、どこかでブレーキがかかる可能性がある。

中小企業にはそれがない。

従業員10人の会社で、社長が「ChatGPTに聞いたらこう言ってた」と言えば、それが最終判断になる。反論できる人がいない。検証するリソースもない。意思決定者が一人で、その一人がAIに過信している状態は、ブレーキのない車と同じだ。

しかも中小企業の意思決定は、一発の判断ミスが致命傷になる。

新規事業に500万円投じる判断。取引先を切り替える判断。値上げするかどうかの判断。大企業なら失敗しても次がある。中小企業には「次」がないことがある。

だからこそ、「AIに聞いて安心した」で終わる経営者が一番危ない。

—

じゃあ、どうすればいいのか

「AIを使うな」とは言わない。そんなのは現実的じゃない。AIは使い方次第で強烈な武器になる。問題は使い方だ。

1. AIは「答え」ではなく「問いの壁打ち相手」として使う

AIに「この市場に参入すべきか？」と聞くのではなく、「この市場に参入する場合のリスクを10個挙げろ」と聞く。「うちの強みは何か？」ではなく、「この事業計画の穴を5つ指摘しろ」と聞く。

答えを求めるのではなく、自分の判断を壊しにかかる相手として使う。これだけで精度は劇的に変わる。

2. AIの出力には必ず「裏取り」をセットにする

AIが出してきた数字、事例、分析。そのまま信じない。最低限、一次ソースを確認する。市場規模の数字なら元データはどこか。競合情報なら最終更新はいつか。AIの出力を「仮説」として扱い、検証を前提にするルールを社内に作る。

これはコストの話でもある。AIが出した情報をそのまま使って500万の投資判断を誤るのと、2時間かけて裏取りするのと、どちらが安いか。答えは明白だ。

3. 「わからない」と言える文化を守る

研究が示した最も怖い現象は、AIを使うと「わからない」と言えなくなることだ。これは個人の問題ではなく、組織の文化の問題になる。

社長が「AIに聞いたから大丈夫」と言い始めたら、社員は誰も反論しなくなる。「それ、本当に合ってますか？」と言える空気を意図的に作る。これが最大の防御線だ。

4. 判断の記録を残す

「なぜその判断をしたか」「AIの出力をどう使ったか」「何を検証して、何を検証しなかったか」を記録する。大げさな仕組みは不要だ。Googleスプレッドシートに1行書くだけでいい。

これをやるだけで、後から振り返って「AIに引きずられた判断」と「自分で考えた判断」の精度の差が見えるようになる。

—

AIは「考える力」を奪いにくる。意図せず、静かに。

AIの本当のリスクは、間違った答えを出すことではない。間違った答えを「正しい」と思わせることだ。

正確性が3倍悪化して、自信が2倍になる。この組み合わせは、個人の判断ミスでは済まない。組織の意思決定基盤そのものを蝕む。

Stack Overflowの衰退は、便利さの裏で「検証の場」が失われることの具体例だ。同じことが、中小企業の経営判断の現場で、今まさに起きている。

AIを使うなとは言わない。むしろ使い倒せばいい。ただし、AIが出した答えに「安心した」瞬間こそ、一番疑うべきタイミングだ。

中小企業の経営者は、大企業のような検証チームを持てない。だからこそ、自分自身が最後の検証者であることを忘れてはいけない。

AIに聞くのは構わない。でも、最後に決めるのは自分だ。その覚悟があるかどうかが、これからの経営の分かれ目になる。

—