KVキャッシュが1/8になった。で、何が変わるのか

結論から言う。

DeepSeek-V4.1-Flashの登場で、長文コンテキストを扱うAPIコストが従来の1/4〜1/8に落ちた。これは「ちょっと安くなった」という話ではない。月20万円かかっていたAPI利用料が月2〜5万円のレンジに入ってくるという話だ。

中小企業がAIを使えるかどうかは、結局「月いくらで回せるか」に尽きる。その壁がまた一段、下がった。

今回は3つの技術ニュースを束ねて、「月5万円AI」で何が組めるようになったのかを具体的に考える。

• DeepSeek-V4.1-FlashのKVキャッシュ圧縮（APIコスト激減）
• ローカルLLM向けオープンソースエージェントハーネスの選定基準（自前で動かす基盤）
• 小型言語モデル（SLM）による脅威ハンティング（専門タスクの自動化事例）

一つずつ見ていく。

—

1. DeepSeek-V4.1-Flash——KVキャッシュ890バイト/トークンの衝撃

DeepSeek-V4.1-Flashは552Bパラメータを持つMixture-of-Experts（MoE）モデルで、最大100万トークンのコンテキストを扱える。ここまでは「すごいですね」で終わる。

本当に注目すべきはKVキャッシュのフットプリントが890バイト/トークンまで圧縮されたことだ。前世代のDeepSeek-V4-Flashと比べて約1/4。さらに「SWA Bounded Replay」という推論最適化を組み合わせると、永続的なKVキャッシュは約1/8にまで縮む。

これが何を意味するか。

KVキャッシュはLLM推論時にGPUメモリを食う最大の要因だ。キャッシュが小さくなれば、同じGPUでさばけるリクエスト数が増える。APIプロバイダのコストが下がり、利用料金も下がる。つまり「同じ予算で、より長い文脈を、より多く処理できる」ということだ。

具体的なコスト感で言えば、100万トークンのコンテキストを使った問い合わせ対応を月に数千回回す場合、従来なら月15〜20万円クラスのAPI費用がかかっていた。V4.1-Flashの圧縮効率なら、同等の処理が月3〜5万円のレンジに収まる可能性がある。

300万円の業務システムが30万円になった時代があった。今度は月20万円のAI運用費が月5万円になる番だ。

このコスト構造の変化は、地方の中小企業にとって決定的に重要だ。「AIは大企業のもの」という前提が、また一つ崩れる。

—

2. ローカルLLM×エージェントハーネス——「自前で動かす」の現実解

APIコストが下がったとはいえ、クラウドAPIに依存し続けるリスクもある。料金改定、レート制限、データの外部送信。特に顧客データを扱う中小企業にとって、「データを外に出したくない」は切実な問題だ。

そこで出てくるのがローカルLLM＋エージェントハーネスという構成だ。

エージェントハーネスとは、LLMにツール呼び出し・タスク分解・メモリ管理などの「手足」を与えるフレームワークのこと。2026年時点でオープンソースのものが11種類ランキングされている。

選定で見るべき4つの基準

1. OSI承認ライセンスか——商用利用で地雷を踏まないために必須
2. ドキュメントの充実度——エンジニアが1人しかいない中小企業では、ドキュメントがないフレームワークは使えない
3. メンテナンス頻度——最終コミットが3ヶ月以上前のものは避ける
4. 安全性の管理——ツール呼び出しの権限制御、サンドボックス実行の有無

特にローカルモデルを使う場合、コンテキストウィンドウが小さく、ツール呼び出しの精度が低い。だからこそハーネス側の設計品質が成否を分ける。クラウドAPIの大型モデルなら力技で通るプロンプトも、ローカルの7B〜14Bモデルでは通らない。ハーネスがタスクを適切に分割し、コンテキストを管理してくれないと、まともに動かない。

実務的なTipsを一つ。Ollamaでローカルモデルを動かす場合、デフォルトのコンテキスト長では足りないことが多い。以下の一行で64,000トークンまで拡張できる。

“`
/set parameter num_ctx 64000
“`

たったこれだけで、エージェントが保持できる情報量が数倍になる。「動かしてみたけど精度が出ない」という相談の半分は、このコンテキスト長の設定不足だったりする。

月5万円で組めるローカル構成の一例

これで「社内FAQ自動応答」「日報の自動要約」「見積書のドラフト生成」くらいは十分に回る。大企業が数百万円かけて構築するシステムの、機能の7割を月3〜4万円で持てる。

中小企業だからこそ、全社員が使うわけではない。10人が使うなら、この規模で十分だ。

—

3. 小型言語モデルで専門タスクを自動化する——脅威ハンティングの事例

3つ目のニュースは、小型言語モデル（SLM）を使ったセキュリティ分野の自動化事例だ。

セキュリティオペレーションセンター（SOC）では、脅威ハンティングにKusto Query Language（KQL）というクエリ言語を使う。問題は、KQLを正確に書ける人材が圧倒的に少ないこと。これがセキュリティチームのスケーリングのボトルネックになっている。

ここでSLMの出番だ。自然言語で「過去24時間に不審なログイン試行があったユーザーを一覧にして」と入力すると、SLMが正確なKQLクエリに変換する。

手法のポイントは2つ。

1. エラーフィードバック付きプロンプト——生成したKQLを実行し、エラーが出たら自動で修正を繰り返す
2. LoRAファインチューニング——KQL特化の軽量アダプタを小型モデルに載せ、汎用LLMより高精度に変換する

MicrosoftのNL2KQL Defender Evaluationデータセットで検証した結果、この二段階アプローチはGPT-4クラスの大型モデルに迫る精度を、1/10以下のコストで実現している。

この事例がなぜ中小企業にとって重要か。

セキュリティに限らず「専門知識がないと書けないクエリやコード」は、あらゆる業種に存在するからだ。

• 製造業の品質管理データベースへのSQLクエリ
• 会計ソフトのAPI連携スクリプト
• ECサイトの在庫管理ロジック

これらを「自然言語→専門コード」に変換する仕組みは、小型モデル＋LoRAファインチューニングで十分に構築できる。しかも学習データは自社の過去クエリログだけでいい。数百件もあれば精度は実用レベルに達する。

属人化の塊だった専門タスクが、仕組みで回るようになる。これは「人を増やす」より構造的に強い。

—

で、結局どうすればいいのか

3つのニュースを束ねると、見えてくる構成パターンはこうだ。

「ローカルの小型モデルで日常タスクを回し、難しい判断だけDeepSeek-V4.1-FlashのAPIに投げる。エージェントハーネスがその振り分けを自動でやる。」

この構成なら月5万円以内で回る。しかもデータは基本ローカルに留まる。

今すぐやるべきことは3つ。

1. 自社の「繰り返しタスク」を棚卸しする——日報まとめ、問い合わせ対応、データ集計。まずは一つ選ぶ
2. ローカルLLM＋エージェントハーネスを1台で試す——Ollamaで14Bモデルを動かし、コンテキスト長を64Kに設定。まず動かす
3. APIコストを月次で計測する——「思ったより使ってない」か「思ったより高い」か、数字で判断する

技術の進化を待つ必要はない。部品はもう揃っている。

「月5万円で、何を自動化するか」——問われているのは技術ではなく、経営判断だ。

—