ローカルLLM全盛期の到来：Gemma 4からQwen3.8-Flash-Nextまで、PCで動かせるAIの現在地

2022年10月9日2026年10月18日

📖 この記事は約 13 分で読めます。

概要

ローカルLLMは「手元のPCで実用になる」段階に入っています。GoogleのGemma 4は4GB台のメモリから、OpenAIのgpt-oss-20bは16GB級のメモリで動きます。さらに、推論環境「Strata」を使うと、125Bパラメータの大型モデルQwen3.8-Flash-Nextが12GBのゲーミングGPUでも動くと報告されています。本記事では、ローカルLLMの主要モデル、商用AIとの違い、競争できる領域、活用方法、使える範囲、必要なマシンの目安を、2026年現在で確認できた情報をもとに整理します。

管理人

本記事の読者層は以下の方を想定しています。

本記事の読者層

ローカルLLMに興味はあるが、どのモデルを選べばよいか迷っている人
手持ちのPCやゲーミングPCで、どこまでAIが動くかを知りたい人
商用AIとの使い分けや、コストとデータの扱いを比較したい人

ローカルLLMはなぜ今が全盛期と言えるのか

ローカルLLMとは、クラウドのAPIを使わず、自分のPCやサーバー上でAIモデルを動かして使う方法です。モデルの重み(学習済みのデータ)が公開されている「オープンウェイトモデル」を、Ollama、LM Studio、llama.cppなどの実行環境に読み込ませて使います。

今が全盛期と言える理由は、確認できた事実から3つ挙げられます。

1つ目は、選べるモデルが一気に増えたことです。GoogleはGemma 4を2026年4月2日に公開しました。公開時はE2B、E4B、26B MoE、31B Denseの4サイズで、現在は12Bを加えた5サイズがそろっています。OpenAIのgpt-oss、AlibabaのQwen3.8など、主要な開発元が個人のPCで動かせるサイズのモデルを出しています。

2つ目は、モデルを軽くする技術が進んだことです。Gemma 4の26B A4Bは、総パラメータが25.2Bでも、1つの単語を処理するときに動くのは3.8B分だけのMoE(Mixture of Experts)構造です。これに「量子化」という圧縮を組み合わせ、必要なメモリを大きく減らしています。

3つ目は、実行環境が整ったことです。Ollamaでは「ollama run gemma4」の1行でGemma 4が動きます。後述するStrataは、ワンクリックのインストーラーでローカルサーバーを立て、OpenAI互換とAnthropic互換のAPIを提供します。

ローカルLLMのモデル一覧(2026年10月時点)

主要なモデルを、PCで動かす観点で整理しました。メモリの数値は、モデルの重みだけの目安です。実際には、長い文章を扱うための作業用メモリ(KVキャッシュ)が別に必要です。

モデル	提供元	規模	メモリの目安	特徴
Gemma 4 E2B / E4B	Google	実効2.3B / 4.5B	4ビットで約2.9GB / 4.5GB	128K文脈、画像・音声入力
Gemma 4 12B	Google	11.95B(Dense)	4ビットで約6.7GB	256K文脈、画像・音声入力
Gemma 4 26B A4B	Google	総25.2B・活性3.8B(MoE)	4ビットで約14.4GB	256K文脈、1回に動くのは3.8B分
Gemma 4 31B	Google	30.7B(Dense)	4ビットで約17.5GB	Gemma 4の最上位、画像入力
Qwen3.8-27B	Alibaba	27B	ファイル約18GB	Apache 2.0、画像対応
gpt-oss-20b / 120b	OpenAI	総約21B / 約117B(MoE)	約14GB / 約65GB	Apache 2.0
Qwen3.8-Flash-Next	Alibaba(Qwen)	125B(MoE)	ダウンロード約70GB	Strataで一般的なPCに対応

Gemma 4のライセンスは、複数の解説記事でApache 2.0とされています。ただし、モデルごとに利用条件が異なるため、商用で使う場合は各モデルの公開ページで最新の条件を確認してください。Qwen3.8には、2.4兆パラメータ(活性95B)の「Qwen3.8-Max」もあります。こちらは独自ライセンスで、個人のPCで動かす規模ではありません。

商用AIとローカルLLMの違い

商用AIは、事業者のサーバーで動く最上位のモデルを、インターネット経由で使います。ローカルLLMは、自分のマシンの中でモデルを動かします。一般的な傾向を表にまとめました。

項目	商用AI(クラウド)	ローカルLLM
性能の上限	事業者の最上位モデルを使える	手元のハードで動く範囲に限られる
データの扱い	入力は事業者のサーバーに送られる	PCの中で完結する
費用	利用量に応じた課金や月額	初期にハードが必要で、以後は主に電気代
通信	常に必要	オフラインでも使える
更新	事業者側で自動更新される	モデルと実行環境を自分で更新する
運用	不要	インストールやメモリ管理、不具合対応が必要

データの扱いについては、Strataの公式ページが、入力した内容はPCの外に出ないと説明しています。一方、商用AIの扱いは、契約や設定によって異なります。

ローカルLLMが商用AIと競争できる領域

ローカルLLMが競争しやすいのは、次の場面です。

機密性の高いデータを扱う作業:社内資料や個人情報を、外部に送らずに処理できます
大量の処理や常時稼働:従量課金ではなく、ハードの固定費で回せます
オフラインや低遅延が必要な作業:通信の往復がなく、利用上限もありません
アプリへの組み込みやカスタマイズ:モデルや設定を自分で選べます

一般に挙げられる強みは以上です。一方で、競争しにくい領域もあります。最難関の推論、非常に長い資料の一括処理、最新情報の検索との連携、運用の手間がない手軽さは、商用AIが優位になりやすい部分です。商用の最上位モデルとの性能差は、評価条件によって変わります。本記事では優劣を断定しません。自分の業務データで両方を試して比べるのが確実です。

ローカルLLMの活用方法

確認できた範囲で、具体的な使い方を紹介します。

文章の下書き・要約・校正:Gemma 4 E4Bは、ノートPCで始めやすいサイズとして紹介されています。まず軽いモデルで試すのが現実的です
コーディング補助:StrataはAnthropic互換APIとOpenAI Responses APIを提供します。そのため、Claude CodeやCodex CLIなどのコーディングエージェントを、ローカルのモデルにつなげられます
画像の読み取り:Gemma 4の各モデルや、Strataの画像入力オプションで、画像を含む質問ができます
長い資料の要約・社内文書の検索:256K文脈のGemma 4 26B A4Bや31Bが候補になります
他のアプリとの連携:Strataでは、OpenAI互換のプロバイダーとして「http://127.0.0.1:8080/v1」を登録すれば、対応アプリから使えます

ローカルLLMはどこまで使えるのか

Strataの公式ページに記載された数値と注意点から、使える範囲を整理します。数値は開発側の測定です。

コード作成:Strataの「Coder」版は、完全版のSWE-bench Verifiedスコアの91%に達すると、作者側が報告しています
速度:RTX 5070(12GB)の環境で、回答の出力が毎秒53〜94トークンです。Strataの公式ページは、毎秒60トークンを読む速度より速い水準と説明しています
日本語:Coder版は、中国語や日本語などのCJK文字に弱いと明記されています。日本語中心で使う場合は、Q2_0、IQ2_XS、IQ3_Sを選ぶよう案内されています
待ち時間:最初の長い入力の処理に、30,000トークンあたり約1分かかります。起動直後の1〜3分は、PCが重くなります
同時処理:既定では1つの依頼ずつ処理します
メモリ不足の影響:RAMにすべてが載らない場合は、SSDから読み込みながら動かします。UD-Q4_K_XLを64GBのPCで動かすと、毎秒7〜8.5トークンです

日常的な文章作業やコーディング補助は、実用の範囲に入っています。一方で、最高難度の推論や、日本語の品質が重要な業務では、商用AIとの併用が現実的です。

ローカルLLMに必要なマシンの目安

ポイント

ローカルLLMのマシン選びは「VRAM」と「RAM」で決まります

モデルの重みと文脈用のメモリが収まるかが、最初の条件です
MoE型のモデルは、RAMを併用して大型モデルを動かせます
ストレージはSSDを選び、空き容量は80GB程度を見込みます(Strataの場合)

メモリ量ごとの目安を表にまとめました。

マシンの構成	動かせるモデルの例	備考
VRAM 4〜8GB、RAM 16GB	Gemma 4 E2B・E4B	4ビットで2.9〜4.5GB
VRAM 12〜16GB	Gemma 4 12B・26B A4B、gpt-oss-20b	26B A4Bは4ビットで約14.4GB
VRAM 24GB	Gemma 4 31B、Qwen3.8-27B	31Bは4ビットで約17.5GB。文脈込みでは25GB以上を見込む資料もあります
VRAM 12GB以上、RAM 32〜64GB	Qwen3.8-Flash-Next(Strata)	RAM 32GBはCoder版、64GBは主要サイズが動作
Ryzen AI Max+、RAM 128GB	Qwen3.8-Flash-Next(Strata)	v0.1.40で実験的に対応

Strataが対応するグラフィックカードは、NVIDIAのGeForce RTX 20/30/40/50シリーズと、AMDのRadeon RX 7900 XT/XTX、RX 9070 XTなどで、12GB以上のVRAMが条件です。OSはWindows 10/11またはLinuxです。Apple Silicon搭載のMac(M1〜M5)にも、実験的な対応があります。

技術の発展で、Qwen3.8-Flash-NextがPCで動く時代に

最後に、最も大きな変化を紹介します。Qwen3.8-Flash-Nextは125Bパラメータで、本来はサーバー向けの規模のモデルです。Strata(MITライセンス)を使うと、一般的なゲーミングPCで動かせます。

仕組みは、MoEの性質を利用したものです。このモデルは24,576個の小さな専門家(エキスパート)で構成され、1つの単語の処理に使うのは10個だけです。Strataは、よく使われるエキスパートをグラフィックカードに置き、全エキスパートをRAMに保持します。さらに、小さなモデルが次の単語を先に予想し、大きなモデルがまとめて検証する方式で、1.6〜1.8倍の高速化を図っています。

Strataの公式ページに載った測定値は、次のとおりです。

RTX 5070(12GB)、Ryzen 5 7600、RAM 64GB:Q2_0で出力が毎秒94トークン、入力の処理が毎秒2,650トークン
RX 9070 XT(16GB)、Ryzen 9 3900X、RAM 47GB:Q2_0で出力が毎秒60トークン、入力の処理が毎秒1,160トークン

開発は活発に進んでいます。PC Watchの報道によると、10月4日公開のv0.1.39で、複数リクエストの同時処理や、旧世代のGeForce・Intel Arcへの実験的な対応が加わりました。10月6日のv0.1.40では、Ryzen AI Max+への実験的な対応が追加されています。

ただし、測定値は開発側のものです。海外メディアは、第三者による再現が確認されれば、125B級モデルを動かす条件が、データセンターのGPUから1,000ドル未満のゲーミングカードに下がる可能性を指摘しています。また、Strataのサイズは圧縮の度合いの違いで、小さいサイズほど速く、大きいサイズほど少し賢いと説明されています。Q2_0は、最も速いサイズとして案内されています。自分の用途で品質を確認したうえで、導入を判断してください。