StrataとOllama・LM Studio・llama.cppの違い｜Strataに替える意味があるのはどんな人か

初めて選ぶ場合は「4つのエンジンは何が違うか」まで読めば判断できる。使ったソフトのバージョン、測定に使った PC の構成と測り方、測っていないことは「確かめた範囲と、確かめていないこと」にまとめた。

Strataに替える意味がある人と、今のままでよい人

決め手はどのモデルを動かしたいかで、Strata が動かすモデルは公式の対応表の3系統に限られるため、ほかのモデルを使っているなら今のエンジンのままでよく、Strata は替えるものではなく足すものになる。足すとは、今のエンジンを残したまま Strata も入れて、使うモデルによって切り替えることだ。同じ GPU に両方のモデルを同時に載せる使い方は、Strata の資料の前提に合わない。その理由は、つなぎ方の節で書く。

Strata は、大きな言語モデルを自分の PC で動かすオープンソース（MIT ライセンス）のソフトで、公式の README は、無料でアカウントは要らず、デスクトップアプリとしてもコード用のツールからも使えると書く。リリース 0.2.13 の公式の対応表に載っているモデルは、Qwen3.8-Flash-Next、Qwen3.6-35B-A3B、DeepSeek V4.1-Flash の3系統だ。MIT ライセンスは Strata 本体のもので、動かすモデルにはそれぞれのライセンスがある。Qwen の公式のモデルカードによると、Qwen3.8-Flash-Next は言語モデルの本体が 125B（1250億）のパラメータを持ち、1回の計算で使うのはそのうち約 6B という大きなモデルだ。これとは別に、検索表（n-gram 埋め込み）が 51B、先を下書きする層（MTP）が 4B ある。Ollama のタグ名の 125b-a6b も、本体のこの大きさを表している。名前の似た Qwen3.8-27B とは、大きさがまったく違う。Strata は、この大きさのモデルを VRAM（GPUに載っている専用のメモリ）の少ない PC で動かすためのエンジンだ。そのために、仕事を GPU・メインメモリ（RAM）・SSD に分ける。

Ollama・LM Studio・llama.cpp は、GGUF 形式で配られている多くのモデルを動かす汎用のエンジンだ。llama.cpp は、パソコン上でLLMを動かすオープンソースのソフトを指す。GGUF は、llama.cpp や Ollama で使われる、モデルの重みなどを保存するファイルの形式だ。

手元の使い方に近い行を探せば、Strata をどうするかが決まる。

「足す意味がある」は、Qwen3.8-Flash-Next を VRAM 12GB〜16GB の GPU 1枚で動かす場合の話で、決め手はメインメモリの量になる。Strata では、モデルを作っている小さな部品であるエキスパートが、ダウンロードしたファイルの中からメインメモリに載る。公式の MODELS.md は、メインメモリが「エキスパートの大きさ＋OS やほかのアプリの分として約10GB」以上あれば収まるとしている。推奨の配布のエキスパートの大きさは、Q2_0 で 34GB、IQ2_XS で 35.5GB、IQ3_XXS で 43GB、IQ3_S で 50GB だ。同じ資料は、メインメモリ 64GB ならこの4つのどの大きさも収まり、48GB なら Q2_0 と IQ2_XS が収まると書く。ただしこのうち IQ3_S には、ほかのアプリをあまり開いていないときという条件が付く。公式の DETAILS.md は、IQ3_XXS と IQ3_S で約260K トークン（モデルが文章を扱う、文字のかたまりの単位）の文脈を使うと 64GB の PC はメモリの限界に近づくとして、128K までを勧めている。公式の DETAILS.md は、48GB については「収まるかもしれない」という書き方をしている。MODELS.md には、メインメモリ 47GB の PC では Q2_0 がセットアップのメモリの見積もりを上回る扱いになり、モデルを指定して入れたうえで測った、という注記もある。48GB は余裕のある下限ではなく、境目の値だ。VRAM の大きいカードにすると速くなるが、メインメモリが足りない PC 用の動かし方を除いて、必要なメインメモリは減らないとも書く。ISTA-DASLab の配布については、メインメモリ 32GB と VRAM 12GB〜16GB のカードの PC で動くのは、コード用の Coder だとしている。これは Strata 全体の下限ではなく、メモリの少ない PC 用には別の配布の Gyro-S もある。これらは開発者の説明で、検証環境で確かめたのはメインメモリ 96GB の場合だけだ。64GB と 48GB の PC では試していない。メインメモリが足りず、エキスパートの一部を SSD から読む構成では、開発者の測定の1例で llama.cpp との差が小さく、その数字は速さの節に載せた。

ローカルLLM用の PC 全体の選び方は、別の記事「ローカルLLM用のPCの選び方」で扱っている。

4つのエンジンは何が違うか

表で見比べられるのは、動かせるモデルの広さと、Qwen3.8-Flash-Next がどの大きさで配られているかだ。ほかのツールからつなぐ API の形式は、4つとも OpenAI と Anthropic の形式を持つ。VRAM に載りきらないモデルの載せ方と速さの違いは、あとの節で扱う。

Strata は、対応するモデルを絞ったかわりに、そのモデルを少ない VRAM で動かすことに作りを寄せたソフトだ。中身は、GPU とやり取りして計算する部分であるエンジンと、そのアプリでできている。公式の説明の HOW_IT_WORKS.md は、Qwen3.8-Flash-Next のようなモデルは通常は数百GB の GPU メモリを持つサーバーで動かすもので、Strata は GPU・メインメモリ・SSD という PC 全体に仕事を分けて、VRAM 12GB〜24GB のカードで動かすと書く。同じ説明は、Strata が llama.cpp（ggml）の部品を一部使って作られていると書く。

Ollama と llama.cpp は、オープンソース（MIT ライセンス）で公開されている。LM Studio のアプリは、オープンソースとしては公開されていない。Ollama は ollama run などのコマンドでモデルを取ってきて動かし、公式のライブラリにはモデルが名前とタグで並ぶ。公式のドキュメントによると、Ollama は NVIDIA・AMD の GPU と Apple の Metal に対応する。llama.cpp は画面のアプリではなく、llama-server を起動すると API でほかのツールから使える。GPU に載せる量などは、起動時の指定で自分で決める。LM Studio の公式のドキュメントは、macOS・Windows・Linux で使え、llama.cpp を使ってモデルを動かすと書く。

LM Studio は中で llama.cpp を使うが、入っている llama.cpp のバージョンと GPU への載せ方の設定は、検証環境で使ったものと同じとは限らない。そのため、速さの節に載せた llama.cpp の値は、LM Studio の速さの目安にはならない。この記事では LM Studio を動かしていない。

Strata の入れ方と最初の起動は、別の記事「Strataの使い方とインストール」で詳しく書いた。

Qwen3.8-Flash-Nextの配布ファイルの大きさ

Ollama の公式ライブラリ (MLX の表示が無いタグ) と、LM Studio のモデルのページが挙げる lmstudio-community の配布は Q4 以上だけで、Q2 のような小さい量子化は ISTA-DASLab や Unsloth の配布から取ることになる。量子化は、モデルの重みを少ないビット数で表し、ファイルと必要なメモリを小さくすることを指す。Q4_K_M のような名前は GGUF 形式の量子化の種類を表し、Q の後の数字は量子化の細かさの目安で、同じ配布元の同じ方式なら、小さいほどファイルが小さくなる。重みごとに違う形式を混ぜる配布もあるので、配布元をまたいで比べるときは、名前ではなく実際のファイルの大きさを見る。

Strata の既定の推奨である ISTA-DASLab の配布は、量子化ごとに2本のファイルに分かれている。1本目はメインメモリと VRAM に載る部分で、Q2_0 では 37.6GB ある。2本目は 28.8GB の検索表（n-gram 埋め込み）で、どの量子化でも同じ大きさだ。この2本目は SSD に置いたまま、必要な行だけを読む。GGUF 2本の合計は Q2_0 で 66.4GB になる。これは導入のときにダウンロードする全体の量ではなく、最初の起動で別に取得する MTP 用の層 (約6GB) などを含まない。追加で取得するファイルは、構成とバージョンで変わる。37.6GB も1本目のファイルの大きさで、動かしているときのメモリの使用量そのものではない。文脈を保持する分や MTP の層、作業用の領域が別に加わる。大きさは、どれも10進の GB で書いている。

配布元ごとに、公式に用意された最も小さいファイルがどこまで小さいかを見比べられる。

公式に用意された最も小さいものは、ISTA-DASLab が合計 66.4GB、Ollama の公式ライブラリが 120GB、LM Studio のページの配布元が約119GB だ。ISTA-DASLab と Unsloth の合計は検索表を含む。ここで比べているのはダウンロードするファイルの大きさで、動かすのに必要なメモリの量ではない。Strata の配布は、合計と、メインメモリと VRAM に載る分を分けて書ける。Ollama と LM Studio の側で、120GB や約119GB のうちどれだけがメモリに載るかは、この記事では確かめていない。

Ollama と LM Studio の公式の品揃え

Ollama の公式ライブラリの qwen3.8-flash-next のタグは6つある。そのうち3つは MLX の表示が付いたタグだ。MLX は Apple が作った機械学習の枠組みで、LM Studio の公式ドキュメントは Apple Silicon の Mac で使えるものとして挙げている。MLX の表示が付いたタグは、105GB の 125b-a6b-nvfp4 と 125b-mlx、360GB のものが1つになる。それ以外で最も小さいのは 125b-a6b-q4_K_M の 120GB で、125b-a6b-q8_0 が 189GB、125b-a6b-bf16 が 355GB と続く。MLX の表示が付いたタグが Windows と NVIDIA の GPU で使えるかは、確かめていない。

LM Studio の公式のモデルのページ (qwen/qwen3.8-flash-next) は、最小のシステムメモリを 96GB と表示し、配布元に lmstudio-community の GGUF を挙げる。その配布で最も小さいのは Q4_K_M で、3本のファイルの合計は約119GB になる。この記事では Ollama のどのタグも LM Studio の配布も動かしていない。ISTA-DASLab のモデルカードは、Ollama では ollama run に Hugging Face のリポジトリを指定する方法を、LM Studio ではリポジトリの名前で検索してファイルを選ぶ方法を載せている。ただし 2026年11月13日に確かめたところ、Hugging Face は、このリポジトリには分割された GGUF しかなく、Ollama からの直接の取得にはまだ対応していないと返した。ファイルをダウンロードして手元でまとめ、ollama create で取り込む方法を案内している。Ollama や LM Studio にこうした小さい GGUF を読み込ませて動くか、どれだけの速さとメモリになるかは、この記事では試していない。

Unsloth の品揃えと llama.cpp

Unsloth の配布には、合計 66.4GB の UD-IQ1_S から 111.3GB の UD-Q4_K_XL、188.2GB の Q8_0 まで多くの量子化がある。llama.cpp は、Unsloth のファイルも ISTA-DASLab のファイルも直接読める。検証環境で llama.cpp b11218 を使って動かしたのは、ISTA-DASLab の Q2_0 と Unsloth の UD-IQ3_XXS の2つだけだ。

同じくらいの量子化どうしで比べると、GGUF の合計は配布元でほとんど変わらない。ISTA-DASLab の Q2_0 は2本で 66.4GB、Unsloth の UD-Q2_0 は 70.5GB だ。ただし量子化の方式は配布元で違うので、同じ名前でも中身が同じとは限らない。エンジンごとの違いは、公式に用意されている最も小さいファイルがどこまでかと、そのファイルをメモリにどう載せるかにある。小さいファイルが使えること自体は Strata だけの話ではなく、llama.cpp も同じ大きさのファイルを読める。

さらに小さい配布と、量子化の度合い

Strata が選べる Qwen3.8-Flash-Next の配布は、ISTA-DASLab だけではない。MODELS.md は、既定の推奨を ISTA-DASLab としたうえで、さらに小さい agentionai の Gyro-S を、メモリの少ない PC 用の最も小さい選択肢として載せ、質は下がると書く。Gyro-S はダウンロードが 58.5GB、モデルに使うメモリが 27.6GB とされている。同じ資料の表は、ISTA-DASLab の4つの質を、Q2_0 が good、IQ2_XS が better、IQ3_XXS が great、IQ3_S が best と分けている。この記事の速さの比較に使ったのは ISTA-DASLab の Q2_0 で、Gyro-S は比較に入れていない。

推奨で最も小さい Q2_0 は2ビット台の量子化で、Ollama の公式ライブラリや lmstudio-community の Q4 とは量子化の度合いが違う。答えの質の違いは、この記事では測っていない。

メインメモリと VRAM の量からどのモデルを選ぶかは、別の記事「Strataで動かせるモデルと必要なメモリ」で詳しく比べている。

VRAMに載りきらないモデルの扱い方の違い

Strata は、専用の載せ方を持つ。llama.cpp は、どの部分を GPU とメインメモリのどちらに置くかを、起動時の指定で決める。Ollama は公式の FAQ のとおり、モデルの一部を GPU に、残りをメインメモリに載せる。載せ方の違いは Strata と llama.cpp の速さの差の理由の候補の1つで、モデルに入っている、先を下書きする小さな層（MTP）の有無や、長い入力のまとめ読みも重なっている。どれがどれだけ差に寄与したかは、分けていない。

Strataの載せ方

Strata の公式の説明によると、Qwen3.8-Flash-Next は MoE（Mixture of Expertsの略で、入力ごとに一部の重みだけを使って計算する構造のモデル）だ。中身は 24,576 個の小さなエキスパートの集まりだとしている。公式の QUANTS.md によると、エキスパートは48ある層のそれぞれに512個ずつ入っている。Qwen のモデルカードによると、1トークンの計算では各層で10個を選んで使い、どの計算でも使う共有のエキスパートが別に1つある。24,576 個は、選んで使う側の数だ。公式の説明では、仕事は GPU・メインメモリ・SSD に分かれる。

• GPU: 毎回必ず通る部分を計算し、よく呼ばれるエキスパート数千個を VRAM に置く。どれを置くかは、使っているあいだに入れ替わる。
• メインメモリ: すべてのエキスパートを持つ。GPU に無いエキスパートが要るときは、CPU が GPU と同時に計算する。
• SSD: 大きな検索表を持ち、1語につき数行だけ読む。

同じ説明は、VRAM が 1GB 増えると、GPU に置けるエキスパートが約700個増えるとしている。

答えを書くときは、MTP が先のトークンを最大3つ下書きし、本体がまとめて確かめる。公式の説明は、すべての語を本体が決めるので答えの質は同じで、1.6〜1.8倍早く出るとしている。この1.6〜1.8倍は Strata の開発者の値で、この記事では MTP の有無による差を測っていない。長い入力は、決まった数のトークンずつまとめて読む。検証環境で使った Strata 0.1.31 の起動ログでは、この単位は 8,192 トークンだった。現在の資料では PC の構成で変わり、上限が 32,768 トークンの構成もある。

メインメモリにエキスパートが載りきらない PC では、GPU に載せた分をメインメモリには重ねて持たない。GPU に無い分のうち、よく使われるものをメインメモリに入るだけ置き、入りきらない分は SSD 上のモデルのファイルから読む動かし方になる。公式の MODELS.md は、VRAM の小さいカードではこの動かし方がかなり遅いと書く。

llama.cppの載せ方

llama.cpp の llama-server の README には、エキスパートの置き場所や GPU に載せる量を決める指定が載っている。どれを使うかは、使う人が選ぶ。

このうち --n-cpu-moe・--moe-cache-mib・draft-mtp は、検証環境の測定では使っていない。--moe-cache-mib を使った llama.cpp との比較は測っていない。

OllamaとLM Studioの載せ方

Ollama の公式の FAQ は、どこに載ったかを ollama ps の Processor の列で確かめられると説明する。列が「100% GPU」ならすべて GPU に載り、「48%/52% CPU/GPU」なら GPU とメインメモリの両方に載っている。LM Studio は、llama.cpp を使ってモデルを動かす。Ollama と LM Studio で Qwen3.8-Flash-Next を動かしたときの載り方と速さは、この記事では測っていない。

VRAM に収まらないモデルをメインメモリへ逃がす方法の基本は、別の記事「VRAMに収まらない大型LLMをRAMオフロードで動かす方法」にまとめている。

素のllama.cppと比べた速さ

検証環境のメインメモリ 96GB の PC で、同じ Q2_0 の GGUF を Strata 0.1.31 と素の llama.cpp b11218 の llama-server で動かし、2026年10月1日〜2日に比べた。RTX 5060 Ti 16GB の1枚では、答えを書く速さが llama.cpp のおよそ4〜6倍だった。約32K トークンの入力で最初の文字が出るまでは、Strata の 22.3秒に対して llama.cpp が 221.9〜287.6秒かかった。RTX 5080 16GB の1枚でも、答えを書く速さはおよそ3.5〜5.0倍だった。

答えを書く速さは tok/s（1秒あたりに処理するトークンの数）で表す。入力 約1K・約4K・約32K トークンのあとに、思考なしで 256 トークンを生成し、各3回の中央値をとった。速さは API の応答から測り、出力のトークン数から1を引いた数を、最初の出力が届いてから終わりまでの時間で割っている。倍率は、丸める前の中央値どうしで出した。実際の入力は、約1K が 998〜1,129、約4K が 4,173〜4,680、約32K が 31,584〜31,709 トークンだった。RTX 5060 Ti は OCuLink（PCI Expressの信号をケーブルで外へ引き出し、外付けのGPUをつなぐのに使われる接続規格）の外付けで、PCIe 4.0 x4 でつないでいる。

RTX 5080 の Strata は、エンジンを起動し直して2回測った。表の値は1回目で、2回目は 112 / 107 / 96 tok/s、最初の文字まで 10.2秒と速かった。1回目は読み込みのあとの VRAM の空きが 196MiB で、空きが少ないという警告がログに出ていた。2回目は空きが 288MiB で、警告は出ていない。これが速さの違いの原因かどうかは、切り分けていない。llama.cpp の2通りの設定では、どちらの GPU でも --fit に任せたほうが速かった。

この差は、当時のバージョンどうしを比べた結果だ。Strata は MTP を有効にして測り、llama.cpp 側は、読ませた GGUF に MTP の層が入っていないため MTP なしで測った。Strata は、MTP 用の部品を GGUF とは別に持っている。llama.cpp で試した載せ方は、エキスパートの重みを -ot ですべて CPU に置く設定と、GPU に載せる量を --fit に任せる設定の2通りだけで、指定を詰めた結果ではない。差のうちどれだけが MTP によるもので、どれだけが載せ方や長い入力のまとめ読みによるものかは分けていない。現在の llama.cpp の README には MTP の下書きを選ぶ指定の draft-mtp と、GPU 側のキャッシュを確保する --moe-cache-mib があり、Strata も 0.2.13 まで更新が続いているが、現在のバージョンどうしでは測っていない。新しいビルドに替えるだけで、同じ GGUF で MTP が使えるかも確かめていない。およそ4〜6倍という差は検証環境の RTX 5060 Ti で出た値で、ほかの PC やほかの GPU で同じになるかは分からない。

エキスパートの一部をSSDから読む構成では差が小さい (開発者の測定)

Strata の開発者は、別の PC で llama.cpp と比べた測定を docs/QUANTS.md に公開している。モデルは Unsloth の UD-Q4_K_XL で、すべてのエキスパートがメインメモリに載る構成と、載りきらない構成の2つがある。

2つの構成で、Strata と llama.cpp の開きがどう変わるかを見比べられる。

すべてのエキスパートがメインメモリに載る構成では開きが大きく、SSD から読む構成では答えを書く速さがほぼ並ぶ。2つの行は GPU も CPU も設定も違うので、メインメモリの量だけで差が決まったとは言えない。SSD から読む構成は1台の PC の1例だ。2つの行のうち、1行目は短い物語とコードの2種類の課題の値だ。1行目の PC は、カードの電力を 225W に抑えた設定で、CPU は EPYC 7452、メインメモリは8チャンネルの DDR4-2400 だ。Strata は文脈 40K トークン、MTP ありで、2回続けた要求の2回目の値とされている。llama.cpp はコミット 8bb3cf0d2 で測られている。資料は llama.cpp の設定を -ngl 99（-ngl は、モデルの層のうちいくつを GPU に載せるかを決める指定）と --n-cpu-moe 38-48 と書いていて、表の比較相手の値がこのうちどの設定で出たものかは分からない。2行目の PC の CPU は Xeon E5-2643 v3 だ。どちらの行も、Strata と llama.cpp の条件がどこまでそろっているかは、資料からは確かめられない。どちらの行も開発者の測定で、検証環境の値でも GeForce の値でもない。

2行目は、ファイルが 111.3GB の UD-Q4_K_XL を、メインメモリ 62GB の PC で動かした場合の話だ。エキスパートのうち 39GiB をメインメモリに置き、残りを SSD から読む設定で、資料はこの構成の速さが SSD の読み出し (この PC では毎秒 2.1GB) で決まるとしている。メインメモリに載りきる小さい量子化の話ではなく、Q2_0 をメインメモリ 48GB の PC で動かしたときの llama.cpp との差は、この資料にもこの記事にも無い。

VRAM 12GB のカードについても、Strata の開発者が docs/DETAILS.md に測定を載せている。RTX 5070 12GB・Ryzen 5 7600・メインメモリ 64GB の Windows の PC で、ISTA-DASLab の Q2_0 の答えを書く速さは、入力 1K・4K・32K トークンで 87.3・93.0・81.8 tok/s だった。条件はエンジン 0.1.26、MTP 有効、生成 256 トークンとされている。この開発者の測定は Strata の値だけを載せたもので、llama.cpp と比べた値ではない。検証環境でも、VRAM 12GB のカードでの llama.cpp との比較は測っていない。

2枚の GPU・ほかの量子化・Qwen3.8-27B との比較まで含めた測定の全体は、別の記事「Strataで125BのQwen3.8-Flash-NextをVRAM 12GB・16GBで実測」に載せている。

コード用のツールやほかのアプリからのつなぎ方

Strata は PC の中で API を待ち受け、既定のつなぎ先は http://127.0.0.1:8080 だ。対応する形式は、OpenAI の Chat Completions の /v1/chat/completions と Responses の /v1/responses、Anthropic の Messages の /v1/messages になる。公式の README は、Claude Code・Codex CLI・OpenCode などのツールを挙げ、strata connect を実行するとツールごとの設定の手順が表示されると書く。

Ollama・LM Studio・llama.cpp の llama-server も、OpenAI の形式と Anthropic の Messages の形式の API を PC の中で待ち受ける。Ollama の公式ドキュメントは、Anthropic の Messages API の一部に対応すると書く。LM Studio の公式ドキュメントは、Anthropic 互換のエンドポイントとして /v1/messages を載せている。llama.cpp の README も Anthropic 互換の /v1/messages を載せ、ツールを使うには --jinja が要るとしている (同じ README の指定の表では、--jinja は既定で有効)。OpenAI と Anthropic の形式の API は4つのエンジンがどれも持っていて、Strata だけの特徴ではない。

そのため、これらの形式でつないでいたツールは、つなぎ先を Strata に設定できる。ただし変えるのが URL だけとは限らず、認証やモデルの名前、ツールの利用などの設定が要る場合がある。公式の DETAILS.md によると、OpenAI の形式のアプリは、つなぎ先の末尾に /v1 を付ける。API キーに何を入れてもよいのは、Strata の側で API キーを設定していないときだ。Claude Code は ANTHROPIC_BASE_URL に /v1 を付けないつなぎ先を設定し、ANTHROPIC_AUTH_TOKEN には任意の値か、Strata に設定した API キーを入れる。ANTHROPIC_MODEL に入れるモデルの名前は、Claude Code が知っている Claude のモデル名のままにする (Strata は名前を見ない)。Ollama 独自の API だけを使うツールは、この話に含まない。この記事ではツールを実際につないでおらず、つないだあとの使い心地はモデルとツールの組み合わせで変わる。

同じ資料は、複数のモデルのサーバーを1つの入口にまとめる llama-swap の後ろで Strata を動かす手順を載せていて、この手順にはソースから入れた Strata が要る。docs/DETAILS.md には、GPU をほかのプログラムと分け合うための任意の設定として、一定の時間リクエストが無いとモデルを降ろす --idle-unload、VRAM に空きがあるときだけ読み込む --min-free-vram-mib、読み込む前にコマンドを実行する --before-load が載っていて、どれも既定は off だ。検証環境は Ollama を入れたままの PC で、Strata の測定中は Ollama にモデルを載せておらず、同じ GPU に Ollama のモデルと Strata を同時に載せたときの動きは測っていない。

Claude Code・Codex・OpenCode を実際に Strata につないだ結果は、別の記事「Claude Code・Codex・OpenCodeをStrataのローカルLLMにつないで比較」で比べた。

確かめた範囲と、確かめていないこと

公式の資料を確かめたのは2026年11月13日で、そのときの各ソフトのバージョンは以下だった。

• Strata: リリース 0.2.13（2026年11月9日）。アプリと Terminal が 0.2.13、Control とエンジンが 0.1.59。同じ日の追補として、Linux のアプリで Intel Arc を使う場合の修正 0.2.13.1 (Control は 0.1.59.1) がある。対応する環境は、main ブランチの docs/CAPABILITIES.md で確かめた
• Ollama: 0.40.16（2026年11月9日）
• llama.cpp: 配布のビルドが b12329（2026年11月12日）。指定の説明は、このビルドのタグの README で確かめた。手元の測定に使った b11218 とは別のビルドだ
• Ollama のタグ一覧、LM Studio のモデルのページ、Hugging Face のファイル一覧も同じ日に見た

どれも更新が速く、タグの品揃えや必要なメモリの表示は変わることがある。

手元の測定は、Intel Core i7-14700F・メインメモリ 96GB・Windows 11 の検証環境で行い、GPU はそれぞれ1枚で使った。

• GPU: RTX 5080 16GB は PCIe 5.0 x16 で、画面表示を兼ねる。RTX 5060 Ti 16GB は OCuLink の外付けで、PCIe 4.0 x4
• ソフト: Strata 0.1.31 と llama.cpp b11218
• モデル: ISTA-DASLab の Qwen3.8-Flash-Next の Q2_0
• コンテキスト長（モデルが一度に扱える文脈の長さで、入力と出力を合わせたトークンで数える）は、どちらも 65,536
• KVキャッシュ（それまでの文脈から計算した途中の結果を保存しておき、同じ計算を繰り返さずに済むようにする仕組みで、文脈が長いほど大きくなる）は、どちらも 8bit
• llama.cpp は、同時に4つの要求を受ける既定の設定で動いていた (ログの表示は n_slots = 4)。Strata は KV キャッシュのうち 32,768 セルぶんを VRAM に、残りをメインメモリ (約0.77GiB) に置く設定だった。この違いが速さにどう影響したかは評価していない
• GPU が使われていたことは、約20秒おきの nvidia-smi の記録とエンジンのログで確かめた
• llama.cpp のログには、--load-mode none を検討するようにという性能の警告が出ていた。この指定では測っていない
• Strata の設定: MTP を有効にし、--kv-resident 32768、expert-cache と prefill は auto
• llama.cpp に共通で付けた指定: -c 65536、-ctk q8_0、-ctv q8_0、-fa on、-lm mmap、--lazy-mode on
• llama.cpp の1つ目の設定: -ngl 99 と -ot でエキスパートの重みをすべて CPU に置き、--fit を off にした
• llama.cpp の2つ目の設定: -ngl も -ot も付けずに、--fit に任せた
• ベンチ: Strata のリポジトリに入っているスクリプトで、コード系の入力を約1K・4K・32K トークンの長さで作り、思考なし・温度0で 256 トークンを生成し、各長さ3回の中央値をとった。設定ごとにエンジンを起動し、その中で各長さを続けて3回測っている。要求のあいだでモデルは降ろさず、OS のキャッシュも消していない。入力の先頭は回ごとに違う
• Strata の Q2_0 を起動すると、OS が示す空きメモリは、GPU 1枚の4回の起動で 33.3〜35.4GiB 減った。OS 全体の空きの差で、モデルだけの使用量でも、必要なメインメモリの下限でもない

本記事の速さの値は2026年10月1日〜2日に、上記の検証環境で Strata 0.1.31 と llama.cpp b11218 を使って計測したもの。公式の資料は2026年11月13日に確かめた

検証環境の詳しい構成は、検証環境のページに載せている。

この記事で測っていないことは、以下にまとめた。

• 現在のバージョンどうし (Strata 0.2.13 と llama.cpp の新しいビルド) の比較
• MTP を使った llama.cpp との比較
• --n-cpu-moe・--moe-cache-mib・--load-mode none などほかの指定
• Ollama と LM Studio で Qwen3.8-Flash-Next を動かしたときの速さとメモリ
• メインメモリ 64GB と 48GB の PC
• ISTA-DASLab などの小さい GGUF を Ollama や LM Studio で動かすこと
• VRAM 12GB のカードでの llama.cpp との比較
• Linux
• 答えの質の比較

まとめ

• 動かしたいモデルが Strata の対応する3系統に無ければ、今のエンジンのままでよい。
• Qwen3.8-Flash-Next を VRAM 12GB〜16GB の GPU 1枚で動かしたいが、Ollama の公式ライブラリの MLX の表示が無いタグや、lmstudio-community の配布 (どちらも Q4 以上) が手元のメモリに対して大きいなら、先に ISTA-DASLab などの小さい GGUF を今のエンジンで読む手がある (ISTA-DASLab の配布は、2026年11月13日の時点で Ollama からは直接取得できず、ファイルを自分でダウンロードして取り込むことになる。この記事では試していない)。Strata を足す意味は、同じファイルを専用の載せ方で動かして比べられることにある。決め手はメインメモリの量で、公式の目安では 64GB なら推奨の配布のどの大きさも収まり、48GB は Q2_0 と IQ2_XS の境目になる。IQ3_XXS と IQ3_S は、64GB では文脈を 128K までにするよう勧められている。この記事で確かめたのは 96GB の PC だけだ。推奨の配布で最も小さい Q2_0 は2ビット台の量子化で、Q4 との答えの質の違いは測っていない。
• llama.cpp は同じ GGUF を読める。検証環境 (メインメモリ 96GB、VRAM 16GB のカード1枚) で当時のバージョンどうしを、Strata は MTP あり・llama.cpp は MTP なしで測ると Strata のほうが大きく速かったが、現在のバージョンどうしでは測っていない。開発者の測定では、エキスパートの一部を SSD から読む構成の1例で差が小さかった。
• OpenAI と Anthropic の形式の API は4つとも持っているので、これらの形式でつないでいたツールは、つなぎ先を Strata に設定できる。認証やモデルの名前などの設定が要る場合がある (この記事では実際につないでいない)。ただし、Strata を足すとは今のエンジンと切り替えて使うことで、同じ GPU にほかのエンジンのモデルを載せたまま Strata を同時に動かす使い方は、Strata の前提に合わない。

よくある質問

Ollamaで落としたモデルをStrataで使えますか

Strata が対応する3系統のモデルでなければ、使えない。対応するモデルについては、公式の MODELS.md が手持ちのファイルを使う方法として、strata launch の Model の手順にある「Use model files I already have」と、strata models import でフォルダか .gguf を指定する方法を挙げている。--plan を付けると、何も変えずに結果だけを表示する。Ollama が保存した Qwen3.8-Flash-Next のファイルを strata models import に渡して取り込めるかは、試していない。Ollama の公式ライブラリの Qwen3.8-Flash-Next は Q4 以上で、Strata の推奨の配布とは別のファイルになる。

MacやRadeonでもStrataは使えますか

公式の対応表には GeForce のほか Radeon と Apple silicon の Mac も載っているが、モデルによって使える組み合わせが変わる。リリース 0.2.13 の対応表では、Qwen3.8-Flash-Next は Windows と Linux の NVIDIA の GPU、Windows と Linux の AMD の Radeon RX 6000・7000・9000 系と Ryzen AI Max (README は RX 6800 / 6900 を experimental としている)、Linux のみの Intel Arc の A シリーズと B シリーズ、M1 以降で macOS 15 以降の Apple silicon の Mac に対応とされている。Qwen3.6-35B-A3B は NVIDIA と AMD に対応し、Intel Arc と Mac では動かないとされている。この記事で速さを測ったのは Windows の RTX 5080 と RTX 5060 Ti で、検証環境ではほかに、VRAM 12GB の RTX 4070 SUPER でも Strata を動かした。2026年10月3日に Strata 0.1.31 と 0.1.35 で Q2_0 を、10月29日に Strata 0.2.3.1 で ISTA-DASLab の IQ3_S と agentionai の Gyro-S を測っている。このカードで測っていないのは、llama.cpp との比較だ。Radeon・Intel Arc・Mac では試していない。

Strataを入れたらOllamaやLM Studioは消すべきですか

消す必要はない。Strata が動かすのは対応する3系統のモデルだけなので、ほかのモデルは今のエンジンで動かし続けることになる。検証環境も Windows 11 で Ollama を入れたままの PC で、Strata を測るあいだは Ollama にモデルを載せていなかった。気を付けるのは同じ GPU の VRAM の取り合いで、Strata の資料はカードのメモリを Strata だけで使うことを前提にしている。LM Studio を入れた PC では試しておらず、同じ GPU に両方のモデルを同時に載せたときの動きも測っていない。

参考資料

• Strata README (Niko1221/Strata, GitHub)
• Strata docs/CAPABILITIES.md
• Strata docs/MODELS.md
• Strata docs/HOW_IT_WORKS.md
• Strata docs/QUANTS.md
• Strata docs/DETAILS.md
• Strata docs/LLAMA_SWAP.md
• Strata v0.2.13 のリリース (GitHub)
• Ollama: qwen3.8-flash-next のタグ一覧
• Ollama v0.40.16 のリリース (GitHub)
• Ollama Docs: FAQ
• LM Studio Docs
• LM Studio: qwen/qwen3.8-flash-next
• llama.cpp tools/server/README.md
• ISTA-DASLab/Qwen3.8-Flash-Next-GSQ-RCO-GGUF (Hugging Face)
• unsloth/Qwen3.8-Flash-Next-GGUF (Hugging Face)
• lmstudio-community/Qwen3.8-Flash-Next-GGUF (Hugging Face)
• Ollama Docs: Anthropic compatibility
• LM Studio Docs: Anthropic Compatibility Endpoints
• Qwen/Qwen3.8-Flash-Next (Hugging Face)