Strataのアップデートで変わったこと｜VRAM 12GB・16GBのGeForceは更新すべきか

この記事は2026年10月18日時点で公開されている Strata 0.1.45 までのリリースノートをもとにしている。

Strataはほぼ毎日更新されている｜12GB・16GBのGeForceで大きく変わった点

Strata は、VRAM に収まらない大きな MoE のモデルを、よく使う部分だけ GPU に置き、残りをメインメモリから読んで動かす推論エンジンだ。GitHub のリリース一覧では、2026年9月24日の 0.1.0 から10月17日の 0.1.45 まで、修正バージョン (0.1.40.1 など) を含めて52のバージョンが公開されている。日付はリリース一覧の公開日 (UTC) で、2026年10月18日に一覧を確かめた時点で、公開されているバージョンで最も新しいのは 0.1.45 だ。

この52のバージョンのうち、VRAM 12GB・16GB の GeForce で使う人に関わる大きな変化は、バージョン番号順ではなく中身ごとにまとめると次のとおり。

• 0.1.0: 最初のバージョンから、Windows 向けに RTX 30・40・50 シリーズで動く完成済みのエンジンが配られていた。リリースノートによると、コンパイラや CUDA Toolkit は要らず、NVIDIA のドライバー 580 以上があればよい。
• 0.1.16: Coder が加わった。Qwen3.8-Flash-Next からエキスパート (MoE のモデルの中で、トークンごとに一部だけが使われる部品) の半分を取り除き、コード・ツールの呼び出し・画像に要るものを残したモデルで、公式は 0.1.16 の時点でメインメモリ 32GB で動くと書いていた。同じバージョンで Strata は MIT ライセンスのオープンソースになった。32GB の PC で Coder が起動するようになったのは、リリースノートによると 0.1.26 からだ。
• 0.1.26: メインメモリの少ない PC 向けの仕組みが入った。リリースノートによると、それまではモデルのエキスパートを全部メインメモリへ写していて、メインメモリ 32GB の PC では Coder でも起動しなかった。新しい仕組みでは Coder のエンジンが確保するメモリが下がり、この仕組みでの出力は通常の動き方と同じとされている。ただし GPU が小さいとエキスパートの多くを SSD から読むので、ずっと遅くなる。同じバージョンで入った先読み (MTP) の一括処理では、まれに出力が 0.1.25 と違うことがある。
• 0.1.35: メインメモリ 32GB の Windows の PC で、GPU に載らないエキスパートをメインメモリに置く動き方 (0.1.30 で入った) が働いていなかった問題が直った。メインメモリに全部が入らないときも、よく使うものから入る分だけ置くようになった。
• 0.1.17 と 0.1.39: 0.1.17 から Claude Code を Strata につなげるようになった。リリースノートによると、ANTHROPIC_BASE_URL を Strata のアドレスにし、ANTHROPIC_MODEL には Claude Code が知っている Claude のモデル名を入れる (Strata は名前を見ない)。0.1.39 では OpenAI の Responses API (/v1/responses) に対応し、Codex CLI が Strata で動くようになった。つなぐ設定と、Claude Code・Codex CLI・OpenCode を使い比べた結果は、3つのコーディングエージェントを Strata につないだ記事にある。
• 0.1.41 と 0.1.42: NVIDIA の GPU 1枚で速くなる既定が入った。その代わり計算結果がわずかに変わり、出力の文章が途中から前のバージョンと違ってくることもある。
• 0.1.44: Strata が Qwen3.8-Flash-Next 以外のモデルとして Qwen3.6-35B-A3B にも対応し、同じ strata のプログラムで2つのモデルを動かせるようになった。

当サイトの RTX 5080 と RTX 5060 Ti では、0.1.41 から 0.1.45 に上げると生成が速くなった。この間には 0.1.42 の NVIDIA 向けの既定や、0.1.45 のサンプリングの既定の追加などが入っていて、どの変更で速くなったかは分けていない。測った条件と数字は「当サイトで測ったバージョンと、測っていないこと」にある。

更新の手順と上げる前に確かめる点は「更新の仕方と、上げる前に見ること」に、バージョンごとの細かい変化は「バージョンごとの変更点の一覧」にまとめた。

更新の仕方と、上げる前に見ること

今の Strata の更新は、git で入れた場合は UPDATE.bat (Linux は update.sh) で行う。公式の導入手順 (docs/INSTALL.md) によると、zip で入れた場合は新しい zip を展開して START-HERE.bat を実行する。モデルのファイルは Strata のフォルダの隣の Strata-data にあるので、落とし直さずに済む。どちらの場合も、動いているエンジンは入れ替えられないので、実行する前にモデルの窓を閉じる。git で入れた 0.1.40 以前からは、先に一度だけ手作業が要る (下の警告を参照)。0.1.36 で入った UPDATE.bat は、リリースノートによると、モデルを起動せずに Strata を更新する。git で入れた場合は新しいファイルを取り込み、zip で入れた場合は新しい zip を落とすよう案内したうえで、Python のパッケージ・エンジン・各モデルの設定を更新して止まる。0.1.45 のリリースノートも、更新は UPDATE.bat で行い、setup がエンジンを入れ替えると書いている。

UPDATE.bat は、各モデルの設定ファイルを作り直さない (0.1.45 の setup のコードでは、設定ファイルにある古い指定の一部を今の既定に直すだけだ)。設定ファイルが作り直されるのは、--setup で setup をやり直したときと、新しい zip を別のフォルダに展開して前の設定を引き継いだときだ。公式の導入手順によると、このとき設定ファイルの args に手で足したエンジンの指定は残らない。ただし 0.1.45 の setup のコードでは、どのエキスパートを先に VRAM に置くかを決めるファイル (エキスパートのプロファイル) の指定だけは引き継がれる (--expert-profile は指したファイルが今もあるとき、--expert-profile-save は新しい設定に同じ指定が無いとき)。env に自分で書いた項目と sampling ブロックは残り、前のファイルは strata-<モデル>.json.bak として残る。ただし Unsloth の量子化の設定ファイルでは、STRATA_ROUTE_TAIL_SKIP (下の「NVIDIA の既定を戻す指定の表」にある項目) は setup が書く項目として扱われ、自分で書いた値は残らない。

UPDATE.bat が入る前の 0.1.35 以前から START-HERE.bat で起動している場合、0.1.3 から START-HERE.bat は起動のたびにエンジンを確かめて入れ替えるが、リリースノートによると、Strata 自体の新しいファイルは git pull か取り直しで先に用意する。zip で入れたなら新しい zip を展開して START-HERE.bat を実行し、git で入れたなら次の警告の手順で新しい履歴へ移す。

git fetch origin
git branch pre-cleanup-backup
git checkout -B main origin/main

上げる先のバージョンを選ぶときの手がかりとして、公開のあとで問題が見つかり、次のバージョンで直ったバージョンの主なものを「問題が見つかったバージョンの表」にまとめた。

0.1.44 には、setup をやり直したときの問題もあった。リリースノートによると、0.1.44 で setup をやり直すと、入れていたモデルのサイズが新しい既定の IQ3_S に切り替わることがあった。IQ3_S は IQ3_XXS より約10〜15%遅く、メインメモリを約7GB多く使う。0.1.44.1 からは、setup をやり直しても入れているサイズが保たれる。0.1.44 の setup のやり直しでは、設定ファイルの env に自分で書いた STRATA_ROUTE_TAIL_SKIP なども消えていた。この値が消える問題も 0.1.44.1 で直り、残るようになった (Unsloth の量子化の設定ファイルを除く)。モデルのサイズが切り替わってしまった場合、元が IQ3_XXS だったなら次のコマンドで戻る。別のサイズを入れていたなら、--model にそのサイズの名前を書く。

START-HERE.bat --setup --model IQ3_XXS

このコマンドの2つの指定が何をするかは、「IQ3_XXS に戻すコマンドの指定」の表のとおり。

更新したあとの手元の速さは、0.1.43 で入った BENCH.bat (Linux は bench.sh) で確かめられる。0.1.43 のリリースノートによると、短いチャット、4K と 16K の入力、5回のやり取りのエージェント作業という決まった項目を、自分の環境で3〜10分ほどで測る。

更新で出力が少し変わるバージョンと、元に戻す設定

多くのバージョンのリリースノートは、出力が前のバージョンと同じことを公式が確かめたと書いている。一方で、速くするために計算の仕方や既定を変え、その代わり出力が変わることがあるバージョンもある。そのうち主なものと、元の出力に戻す設定は「出力が変わるバージョンの表」のとおり。表の 0.1.45 の行だけは速さのための変更ではなく、質問で指定の無いサンプリングの項目にモデルカードが勧める値を入れる変更で、戻し方も env ではなく質問のサンプリングの指定になる。0.1.44 の Unsloth の量子化と 0.1.45 の Qwen3.6-35B-A3B の変化は、「バージョンごとの変更点の表」と「0.1.45で変わったこと」に書いた。

0.1.42 の既定の効き方は、構成によって違う。公式が RTX 5070 の Windows の PC (Ryzen 5 7600) で Q2_0 を setup の設定のまま3回ずつ交互に測ったところ、生成は毎秒77.0トークンから85.6トークンになり (+11.2%。リリースノートは、この伸びを順位の低いエキスパートを飛ばす既定によるものとしている)、入力の読み込みは 16K で毎秒2,778トークンから2,820トークンと、ほとんど変わらなかった。

リリースノートによると、エキスパートのほとんどを VRAM に載せる構成では、この既定の効き目は無い。効き目の例として公式は、RTX 3060 12GB の IQ3_XXS で、PCIe 越しに読む割合を測って決める既定により、生成が毎秒47.7トークンから62.1トークンになった (+30.0%) ことを挙げている。この例の OS は、リリースノートの該当の行に書かれていない。

Windows の VRAM 12GB のカードについて 0.1.42 のリリースノートが挙げる数字は、上の RTX 5070 の +11.2% だ。

NVIDIA で 0.1.40 系の出力にそろえるには、モデルの設定ファイル (strata-<モデル>.json) の env に、「NVIDIA の既定を戻す指定の表」の3つを書く。0.1.41 で入った STRATA_PREFILL_CPU_SHARE の設定も、この3つに含まれている。

これらは、前のバージョンと結果を比べたい、同じ出力を再現したいといった場面のときだけ使う設定だ。3つを書くと 0.1.41 で入った CPU の手伝いも止まるので、戻る先は 0.1.40 系の出力になる。0.1.42 のリリースノートはこの組み合わせの出力を「0.1.41 の出力」と書く。その 0.1.41 は CPU の手伝いを止めた状態で、0.1.41 のリリースノートによるとその状態は 0.1.40 系と同じ出力になる。元の出力に戻るのは、Qwen3.8-Flash-Next のこれまでの量子化 (Q2_0・IQ3_XXS・IQ3_S など) と Coder だ。Unsloth の量子化は setup が出力を変える別の設定を env に書き、Qwen3.6-35B-A3B は 0.1.44 から対応したモデルなので、どちらも 0.1.40 系と比べられない。また同じバージョンでも、会話の続きや起動し直した直後は、温度0の出力が変わることがある。リリースノートの書き方では、値を文字列にして次のように書く。すでに env がある設定ファイルでは、その中に3行を足す (env を2つ書くと、前の env は読まれない)。

"env": {
  "STRATA_ROUTE_TAIL_SKIP": "0",
  "STRATA_PCIE_FRAC_DEFAULT": "old",
  "STRATA_PREFILL_CPU_SHARE": "0"
}

ただし 0.1.45 は、質問が指定していないサンプリングの項目に、モデルカードが勧める値を入れる (「当サイトで測ったバージョンと、測っていないこと」を参照)。思考なしの質問では、temperature だけを指定しても presence_penalty にはモデルカードが勧める値が入る (0.1.45 のコードは、質問が指定しなかった項目を1つずつモデルカードが勧める値で埋める)。そのため、env に書く3つだけでは 0.1.40 系と同じ出力にならない。0.1.40 系の既定は、設定ファイルに sampling ブロックが無い状態だ。これにそろえるには、質問で temperature 0 と presence_penalty 0 も指定する。温度0では毎回いちばん確率の高い候補を選ぶので、top_p と top_k は結果に影響しない。temperature と presence_penalty の指定は設定ファイルの sampling ブロックに書いてもよいが、Web 画面の Sampling の設定を「Use for other apps too」でほかのアプリにも使わせていると、Web 画面の設定のほうが優先される。戻す設定に、この2つ (温度と presence_penalty) の指定を足した出力が 0.1.40 系と一致するかは、当サイトでは確かめていない。

Strataで動かせるモデルと、メインメモリの目安

0.1.44 からは、Qwen3.8-Flash-Next のこれまでの量子化に加えて、Unsloth の量子化・NVFP4・別のモデルの Qwen3.6-35B-A3B が setup から選べる。モデルごとの対応したバージョンと、メインメモリの目安や公式の注意は「Strataで選べるモデルの表」のとおり (主なものだけで、Q2_0 や IQ3_XXS などのこれまでの量子化は省いた)。

どれを選ぶかは、公式の setup がメインメモリの量に合わせて勧めるので、まず setup の推奨から始めればよい。

量子化ごとの出力の近さについては、0.1.44 のリリースノートが、公式の測定で Q8_0 と同じ次のトークンを選んだ割合を4,995か所で示しており、UD-Q6_K_XL が94.6%、UD-Q4_K_XL が93.1%、UD-IQ4_XS が88.9%、IQ3_S が87.7%、IQ3_XXS が84.5%、Q2_0 が80.6% だった。これは公式の測定で、当サイトでは量子化ごとの出力の質を全部は比べていない。

Strata の導入と起動の仕方、量子化ごとの速さ、Qwen3.8-27B との比較は、当サイトが Strata 0.1.31 (一部 0.1.35、IQ3_S の1枚の速さは 0.1.39〜0.1.41) で測ったQwen3.8-Flash-Next を VRAM 12GB・16GB で実測した記事にある。

0.2 系で動かせるモデル (Gyro・Coder・DeepSeek V4.1-Flash など) を、メインメモリの量と VRAM 12GB・16GB から今どれを選ぶかは「Strataで動かせるモデルと必要なメモリ」にまとめた。

0.1.45で変わったこと（2026年10月17日公開）

0.1.45 の中心は Qwen3.6-35B-A3B の更新だ。リリースノートによると、Qwen3.8-Flash-Next の出力は 0.1.44.1 と同じで、公式が試した GPU の機械 (CUDA の sm_60 と sm_86、AMD の gfx1201、Intel A750、Mac M4) の一致の確認でバイト単位で同じだった。試した機械に RTX 40・50 シリーズは含まれていない。ただし、質問が指定していないサンプリングの項目にモデルカードの値を入れる既定は、公式の docs/DETAILS.md によると 0.1.45 から入った (「当サイトで測ったバージョンと、測っていないこと」を参照)。Qwen3.6-35B-A3B がどんなモデルかは、MoE 型でマルチモーダルなこのモデルの仕組みとローカルでの動かし方を扱ったQwen3.6-35B-A3B の解説記事にある。

0.1.45 で Qwen3.6-35B-A3B に入った変化は、画像を読めるようになったこと、複数のリクエストを同時に処理できるようになったこと、速くなったことの3つだ。

速さについて、リリースノートの見出しは「最大 40% 速い」と書くが、どの値を指すかは書いていない。速さの項に数字として並ぶのは、32GB の Radeon AI PRO R9700 で Qwen3.6-35B-A3B の UD-Q4_K_XL を動かした場合の生成の毎秒83.2トークンから117.8トークン (1.42倍) や、4K の入力の読み込みの毎秒3,453トークンから6,220トークン (1.80倍) などだ。同じ公式の測定で、VRAM に載りきらずメインメモリと組み合わせて動かす RTX 3060 12GB では、生成が +2%、入力の読み込みが +3% だった。

同時に処理できるリクエストは最大8本になった。リリースノートによると、全エキスパートが VRAM に載らないカードでは、同時に処理する枠がエキスパートの VRAM を使うので、1本だけのときは4〜11%遅くなり、先読みありで1本ずつ処理する場合と比べて同時処理の合計の速さは1.0〜1.15倍にとどまる。これは公式の RTX 3060 12GB・RTX A4000 16GB・Tesla P100 16GB の例で、setup は 16GB なら文脈 32K で2本、12GB なら 8K で4本 (32K では無し) を勧める。公式は、複数の利用者やエージェントを同時に動かすときに意味があり、1つのチャットには効かないと書いている。

画像は、setup が Qwen3.6 で「画像を使うか」を聞き、使うなら画像用のファイル (mmproj、0.9GB) を落として --vision を設定に書く。また 0.1.45 からは、VRAM 24GB 未満の NVIDIA のカードで setup に画像を使うと答えると、画像は CPU で読むのが既定になった。リリースノートによると、1枚に4〜6秒かかり、最大300トークンで読み (--vision-tokens 1024 でより細かく読める)、GPU からは何も取らない。GPU で読む方式 (--vision gpu) はエキスパートに使える VRAM を約1.4GB取り、公式の Linux の測定では 16GB のカードで生成の速さが3〜5%落ちた。Windows の RTX 4080 SUPER で35〜60%落ちたという報告は、公式では再現できなかった。すでに作ってある設定は、この変更では書き換えられない。

Qwen3.6-35B-A3B の入力を読む区切りも既定で大きくなり、長い入力では前の区切りのときと出力がわずかに違う。区切りより短い入力は変わらず、--prefill 512 で前の区切りに戻る。

バージョンごとの変更点の一覧

「バージョンごとの変更点の表」は、Strata 公式のリリースノート (0.1.0〜0.1.45) から、VRAM 12GB・16GB の GeForce と Windows で使う人に関わる変更だけを選んだ一覧で、当サイトの測定ではない。修正バージョン (0.1.40.3 など) の多くと、AMD・Intel・Mac・複数 GPU だけに関わる変更は省き、公開日は GitHub のリリース一覧の日付 (UTC) で書いた。表の数字は公式の測定で、その多くは開発側の RTX 5070 12GB の PC で測られたものなので、手元の GPU では変わる。

日本語で長い文書を扱う場合に関わるのは、0.1.27 と 0.1.13 の変化だ。0.1.27 では中国語・日本語・韓国語を出力するときの生成の速さが上がり、公式が開発側の PC で RTX 5070・Q2_0・温度0で測ったところ、日本語の出力が毎秒63トークンから72トークンになった。0.1.13 では長い入力を読む速さ (最初の文字が出るまで) が約2倍になり、公式の RTX 5070 12GB・メインメモリ 64GB の測定では、Q2_0 で 32K トークンの入力を読む速さが 0.1.12 の毎秒572トークンから1,290トークンになった。生成の速さは変わらない。

リリースノートの速さの数字を読むときの注意

リリースノートの速さの数字は開発側の手元の PC で測られた値で、測った GPU・OS・モデルの量子化がバージョンごとに違う。NVIDIA の数字の多くは、開発側の RTX 5070 12GB の PC (Windows・Ryzen 5 7600・メインメモリ 64GB) で測られている。0.1.40 のリリースノートには、開発側の手元には RTX 5070 が1枚あり、2枚目のカードは無いと書かれている。

リリースノートには、Linux の RTX 3060 12GB・RTX A4000 16GB・Tesla P100 16GB で測った数字も多い。0.1.40.2 の表では、RTX 3060 12GB は Linux、RTX 5070 12GB は Windows と書き分けている。

Linux だけで起きた変化もある。0.1.43 で Linux の NVIDIA で既定にした処理は、デスクトップの GPU で生成を遅くし (RTX 5070 Ti で -21%、RTX 5060 Ti で -19% という報告)、0.1.43.1 ですべての機械で既定から外された。リリースノートによると、Windows ではこの処理は初めから既定ではなく、影響は無かった。

そのため、「バージョンごとの変更点の表」の数字は、バージョンの間で何が変わったかの手がかりにはなるが、手元の GPU での速さを予想する材料にはならない。手元での速さは BENCH.bat で確かめられる。

当サイトで測ったバージョンと、測っていないこと

当サイトの Strata の記事とこのページが測ったバージョンは「当サイトの記事が測ったバージョンの表」のとおり。測った範囲 (0.1.31 と 0.1.35、0.1.39〜0.1.41) では、バージョンによる速さの差は言えなかったが、0.1.41 と 0.1.45 を比べると、生成の速さに差が出た (0.1.45 の側にはサンプリングの既定の違いも入っている)。

当サイトが2026年10月3日に Strata 0.1.31 と 0.1.35 を同じ夜に交互に起動して Q2_0 を測ったところ (各長さ3回の中央値)、32K の入力の読み込みは RTX 5080 で毎秒3,151トークン (0.1.31) と3,199トークン (0.1.35)、RTX 5060 Ti で毎秒1,412トークンと1,415トークンで、ほとんど同じだった。生成は同じバージョンでも起動し直すと2割ほど違い、バージョンによる速さの差は言えなかった。

2026年10月6日と9日に、RTX 5080 1枚で IQ3_S を文脈の上限 262,144 トークンにして Strata 0.1.39・0.1.40・0.1.41 で測った表でも、同じバージョンでも起動し直すと生成が大きく揺れるため、バージョンによる速さの差は言えなかった。

0.1.41 と 0.1.45 の速さ（2026年10月18日に測定）

2026年10月18日に、RTX 5080 と RTX 5060 Ti (どちらも VRAM 16GB) を1枚ずつ使い、Qwen3.8-Flash-Next の IQ3_S を Strata 0.1.41 と 0.1.45 で交互に3回ずつ起動して測った。PC は Windows 11・i7-14700F・メインメモリ 96GB で、文脈の上限は 65,536 トークン、KV は int8、MTP あり、思考なし、出力の上限は 256 トークン (実際に生成した長さは入力の長さとバージョンで違う)。設定ファイルの指定は両方のバージョンで同じにし、ほかは各バージョンの既定のままにした。使う GPU は設定ファイルで1枚だけ指定し、起動のたびに、エンジンのログに出た GPU の名前と、もう1枚の VRAM の使用量が増えていないことを確かめた。起動の前には nvidia-smi で、そのカードを使うほかのプロセスが無いこと、止めたあとは、プロセスが終わって VRAM が起動前とほぼ同じ量に戻ったことを確かめてから、次を起動した。

質問は、Strata のリポジトリのソースコードと文書を入力の長さまでつなげ、最後のファイルが何をするかの説明と改善案1つの差分を英語で求めるもので、温度0で送った。速さは Strata のエンジンが報告した値を使った。各起動で入力の長さごとに3回ずつ測り、その中央値を起動1回の値にした。この3回の質問の中身は同じではない。会話の続きとして読み込みが省かれないよう毎回の頭に別々の識別子を入れ、長さも前の回のトークン数から合わせ直している。そのため、各長さの1回目は 1K で約1,000トークン、4K で約4,670トークンと、2回目以降とずれる。質問の作り方と元にしたファイルは、どちらのバージョンでも同じだ。結果は「0.1.41 と 0.1.45 の生成の速さの表」のとおり。

表の値は3回の起動の中央値で、かっこ内は3回のうち最も遅い値と最も速い値。どちらの GPU でもどの長さでも、3回の組のすべてで 0.1.45 のほうが生成が速く、0.1.41 の最も速い値は 0.1.45 の最も遅い値より低かった。一方、入力の読み込みはバージョンでほとんど変わらず、32K の入力の読み込みは RTX 5080 で毎秒3,439トークン (0.1.41) と3,502トークン (0.1.45)、RTX 5060 Ti で毎秒1,113トークンと1,117トークンで、同じバージョンを起動し直したときの揺れの範囲に入っていた。

RTX 5060 Ti の 0.1.45 の1回目の起動は測定まで進まなかったので、取り直した。RTX 5060 Ti の 0.1.41 の1回目と、取り直した 0.1.45 の1回目は、測っている間に PC で別の重い処理が動いていたという検知が出たまま集計に入れている。この2回を除いても、0.1.45 のほうが生成が速く、入力の読み込みはほとんど変わらないという結論は同じだった。

当サイトの RTX 5060 Ti は OCuLink でつないでいて、Strata が測った PCIe の速さは毎秒7.0GB だった (RTX 5080 は毎秒43〜47GB で、1回だけ約32GB)。ふつうのスロットに挿したカードとは、PCIe 越しに読む分の遅さが違う。そのため、ふつうのスロットに挿した RTX 5060 Ti では、生成の値も上げたときの伸びも、この測定と同じとは限らない。

0.1.45 は、質問が指定していないサンプリングの項目に、モデルカードが勧める値を入れる (Qwen3.8-Flash-Next で思考なしなら top_p 0.8・top_k 20・presence_penalty 1.5 など)。公式の docs/DETAILS.md は、この既定を 0.1.45 からのものとして書いている。当サイトの測定は質問で温度0だけを指定したので、0.1.45 では presence_penalty などにモデルカードの値が入る条件だった。0.1.41 にはこの既定が無いので、同じ質問でも出力が変わる。この違いのうち presence_penalty を除くため、RTX 5080 で両方のバージョンの presence_penalty を 0 にそろえ、もう一度3回ずつ交互に起動して測った。生成は 1K で毎秒76.7トークンから94.1トークン、4K で75.3トークンから87.3トークン、32K で69.4トークンから97.9トークンだった。1K と 32K では3組すべてで 0.1.45 のほうが速かった。4K は1回目の組で 0.1.41 のほうが速く、両方のバージョンの値の範囲が重なるので、そろえた条件では差を言えない。RTX 5060 Ti では presence_penalty をそろえた測定をしていない。そろえても出力の文章はバージョンで違い、1K の入力で生成した長さは 0.1.41 が256トークン、0.1.45 が99トークンだった。生成の速さには、この文章の違いの影響も入っている。「0.1.41 と 0.1.45 の生成の速さの表」は既定のまま比べたもので、0.1.45 の側にはサンプリングの既定の違いも入っている。

0.1.45 のログでは、0.1.42 で入った NVIDIA 向けの2つの既定 (VRAM に無い順位の低いエキスパートを、読み込みも計算もせずに飛ばす既定と、PCIe 越しに読む割合を CPU を測って決め直す既定) が働いていて、生成のときに PCIe 越しに読んだエキスパートの割合は 0.1.41 より少なかった。0.1.42〜0.1.44 は測っていないので、どのバージョンの変更でどれだけ速くなったかは分けていない。0.1.43 では、Windows で、メインメモリに入りきらないエキスパートを生成中に GGUF のファイルから読む構成の生成が速くなった。当サイトの測定は両方のバージョンとも、起動時にエキスパートを全部メインメモリへ読み込む構成 (ログでは 46.84GiB) だったので、この修正は当てはまらない。

当サイトでまだ測っていないことは次の6つだ。

• 0.1.40 以前から 0.1.45 に上げた場合 (比べたのは 0.1.41 と 0.1.45)
• ふつうのスロットに挿した RTX 5060 Ti と、メインメモリが 96GB より少ない PC
• 0.1.42〜0.1.44 は測っていないので、0.1.41 から 0.1.45 までのどのバージョンで生成が速くなったかは分けていない
• VRAM 12GB のカード、IQ3_S 以外の量子化 (Q2_0 など)、2枚を一緒に使う構成は、0.1.45 では測っていない
• Qwen3.6-35B-A3B を Strata で動かしてはいない
• 0.1.45 の画像と同時リクエストは試していない

これらを測ったら、このページと各記事に結果を足す。

まとめ

Strata はほぼ毎日バージョンが出ていて、VRAM 12GB・16GB の GeForce で使う人に関わる主な変化は、NVIDIA の既定を変えた 0.1.41〜0.1.42 と、モデルを増やした 0.1.44 だ。当サイトの RTX 5080 と RTX 5060 Ti では、0.1.41 から 0.1.45 に上げると Qwen3.8-Flash-Next の生成が速くなり、入力の読み込みはほとんど変わらなかった。ただし 0.1.45 の側にはサンプリングの既定の違いも入っていて、presence_penalty をそろえて測り直した RTX 5080 では、入力が 4K のときの差は言えなかった。どのバージョンの変更で速くなったかも分けていない。0.1.45 の中心は Qwen3.6-35B-A3B の更新で、Qwen3.8-Flash-Next の出力は 0.1.44.1 と同じとリリースノートに書かれている (公式が試した機械に RTX 40・50 は含まれない)。ただし 0.1.45 からは、質問が指定していないサンプリングの項目にモデルカードの値が入る。更新は、git で入れたなら UPDATE.bat、zip なら新しい zip を展開して START-HERE.bat を使い、git で入れた 0.1.40 以前からは先に一度だけ手作業が要る。0.1.45 で Qwen3.8-Flash-Next の出力を 0.1.40 系とそろえたいときは、「更新で出力が少し変わるバージョンと、元に戻す設定」に挙げた戻す設定に加えて、temperature 0 と presence_penalty 0 の指定も要る。

• 0.1.41 で Qwen3.8-Flash-Next の IQ3_S を VRAM 16GB のカードで動かしているなら、当サイトの RTX 5080 と OCuLink の RTX 5060 Ti (Windows、メインメモリ 96GB) では 0.1.45 の生成が速かった。0.1.45 の側にはサンプリングの既定の違いも入っていて、どのバージョンの変更によるかは分けていない。
• VRAM 12GB のカードでの 0.1.45 は、当サイトでは測っていない。リリースノートの数字は開発側の構成での値で、手元の速さの予想には使えないので、上げたら BENCH.bat で手元の速さを確かめる。
• 0.1.42〜0.1.44.1 で Qwen3.8-Flash-Next を使っているなら、0.1.45 の中心は Qwen3.6-35B-A3B の更新で、Flash-Next の出力は 0.1.44.1 と同じとリリースノートは書く。ただし 0.1.45 からは、質問が指定していないサンプリングの項目にモデルカードの値が入る。
• Qwen3.6-35B-A3B を使いたいなら、0.1.45 の Qwen3.6 は Windows の実機で公式も当サイトも試していない。

参考資料

• Strata (GitHub)
• Strata のリリース一覧 (GitHub)
• Strata v0.1.45 のリリースノート
• Strata v0.1.44.1 のリリースノート
• Strata v0.1.44 のリリースノート
• Strata v0.1.43.1 のリリースノート
• Strata v0.1.43 のリリースノート
• Strata v0.1.42 のリリースノート
• Strata v0.1.41 のリリースノート
• Strata v0.1.40.2 のリリースノート
• Strata v0.1.40.1 のリリースノート
• Strata v0.1.39 のリリースノート
• Strata v0.1.38 のリリースノート
• Strata v0.1.36 のリリースノート
• Strata v0.1.26 のリリースノート
• Strata v0.1.3 のリリースノート
• Strata の導入手順 docs/INSTALL.md (GitHub)
• Strata の詳しい説明 docs/DETAILS.md (GitHub)
• Strata v0.1.45 の serve/server.py (GitHub)
• Strata v0.1.45 の setup.py (GitHub)