あなたの会社、AIの出力で意思決定していないか

衝撃的な事実がある。多くの企業が業務効率化の切り札として使っているMicrosoft Copilot。その利用規約に「娯楽目的」という文言が明記されている。

つまり、Microsoftは自社のAIツールが生成する情報について、業務上の正確性を保証していない。Copilotが出した数字で経営判断をして損害が出ても、Microsoftは責任を取らない。そういう契約になっている。

「まさか」と思うだろう。だが、これはMicrosoftに限った話ではない。主要なAIサービスの利用規約を読めば、ほぼすべてに同様の免責条項が含まれている。OpenAIのChatGPTも、GoogleのGeminiも、業務利用における出力の正確性は保証していない。

中小企業の現場では、すでにAIの出力を「参考」ではなく「根拠」として使い始めている。見積書の作成、契約書のレビュー、市場分析、採用判断。AIが出した答えを、そのまま意思決定に使っていないか。もしそうなら、あなたの会社は今、法的リスクの上に座っている。

「娯楽目的」の本当の意味

MicrosoftがCopilotを「娯楽目的」と位置づけた背景には、明確なビジネス上の計算がある。

AIが生成する情報には、必ず一定の確率で誤りが含まれる。大規模言語モデルの「幻覚（ハルシネーション）」問題は、2025年現在も完全には解決されていない。最新の研究でも、主要なLLMの事実正確性は85〜95%程度とされている。つまり、5〜15%の確率で間違った情報を、もっともらしい文章で出力する。

この5〜15%のエラー率を前提にすると、AIの出力に対して「業務利用に適する」と保証することは、AI提供企業にとって巨大な訴訟リスクになる。だから免責する。「娯楽目的」という表現は、法的防衛の最大公約数なのだ。

問題は、ユーザー側がこの事実を認識していないことだ。ある調査によれば、中小企業の経営者の約6割が、利用しているAIサービスの利用規約を「読んだことがない」と回答している。自社がどんなリスクを負っているのか、把握すらしていない。

EU AI法が変えるゲームのルール

2024年に成立したEUのAI法（AI Act）は、この状況に大きな変化をもたらす。

EU AI法は、AIシステムをリスクレベルで4段階に分類する。「許容できないリスク」「高リスク」「限定リスク」「最小リスク」だ。高リスクに分類されるAIシステムには、透明性の確保、リスク評価の実施、人間による監視体制の構築が義務づけられる。

高リスクに該当するのは、たとえば以下のような用途だ。

「うちはEUでビジネスしていないから関係ない」と思うかもしれない。だが、EU AI法の影響は日本企業にも及ぶ。EU域内にサービスを提供する企業、EU域内のデータを扱う企業は対象になる。そしてGDPRがそうだったように、EU AI法は世界の規制のベンチマークになる可能性が高い。日本でも同様の規制が議論され始めている。

「AIが間違えた」は言い訳にならない

具体的なリスクシナリオを考えてみよう。

シナリオ1：AIが作成した見積書の数字が間違っていた。
Copilotに過去の取引データを読み込ませ、新規案件の見積書を作成させた。AIが出した金額をそのまま顧客に提示したところ、原価計算に誤りがあり、100万円の赤字案件になった。この損害は誰が負担するのか。Microsoftではない。利用規約で免責されている。自社だ。

シナリオ2：AIがレビューした契約書に重大な見落としがあった。
取引先から送られてきた契約書をAIにレビューさせた。「問題ありません」とAIが回答したため、そのまま締結した。後日、不利な条項が含まれていたことが判明し、数百万円の損害が発生した。AIの判断を信じた自社の責任だ。

シナリオ3：AIを使った採用スクリーニングが差別的だった。
応募者のレジュメをAIに評価させ、スクリーニングに活用した。後日、特定の属性の応募者が不当に低評価されていたことが発覚。EU AI法の下では、高リスクAIシステムとして厳格な規制対象となり、違反した場合は最大3,500万ユーロ（約56億円）または全世界売上高の7%の制裁金が科される可能性がある。

いずれのシナリオでも、「AIが間違えた」は法的に通用しない。AIを使う判断をしたのは人間であり、AIの出力を検証せずに使った責任は、使った側にある。

中小企業が今すぐやるべき5つの自衛策

危機感を煽るだけでは意味がない。具体的な対策を示す。

1. 利用規約を読め。
自社が使っているAIサービスの利用規約を、少なくとも「免責事項」と「利用目的の制限」のセクションだけでも確認する。30分で終わる。この30分が、数百万円の損害を防ぐ可能性がある。

2. AIの出力を「下書き」として扱うルールを作れ。
社内ルールとして、「AIの出力は必ず人間が確認・承認してから使用する」を明文化する。特に、金額が絡む文書、法的文書、対外的なコミュニケーションについては、AIの出力をそのまま使うことを禁止する。

3. AI利用の記録を残せ。
どの業務で、どのAIツールを、どのように使ったか。記録を残しておくことで、問題が発生した際の原因究明と責任の所在の明確化が可能になる。Excelの簡易ログで十分だ。

4. 高リスク業務を洗い出せ。
自社の業務の中で、AIの出力ミスが重大な損害につながる業務を特定する。採用、契約、財務、安全管理。これらの業務では、AIの利用ルールをより厳格にする。

5. 年1回、AI利用方針を見直せ。
AI技術も法規制も、急速に変化している。年1回、自社のAI利用方針を見直す機会を設ける。外部の専門家に相談するのが理想だが、まずは社内で「AIの使い方、このままでいいのか」を議論する場を持つだけでもいい。

「便利だから使う」の先にあるもの

AIは間違いなく便利だ。中小企業の生産性を劇的に向上させるポテンシャルがある。私自身、AIの活用を強く推進している立場だ。

だからこそ言う。便利さに目を奪われて、リスクを見ないのは危険だ。

Microsoftが「娯楽目的」と書いているのは、彼らが不誠実だからではない。現時点のAI技術の限界を、彼ら自身が最もよく理解しているからだ。その限界を理解した上で使うのと、知らずに使うのでは、結果がまったく違う。

AIの出力に責任を持つのは、AIでもAIベンダーでもない。使う側の人間だ。この原則は、技術がどれだけ進化しても変わらない。

利用規約を読む。出力を検証する。記録を残す。地味な作業だが、これができる企業とできない企業で、3年後の明暗は分かれる。

あなたの会社のAI活用、本当にこのままでいいのか。

—