AI動画生成

MiniMax H3 Turbo LoRA(step600 EMA)とは|ComfyUIの置き場所・推奨ステップ数と速さをRTX 5080/5060 Tiで実測

MiniMax H3のTurbo LoRA(ComfyUI変換版 v4 step600 EMA)の置き場所と推奨ステップ数を整理し、RTX 5080・5060 Tiで総時間と画質を実測。配布元の約5倍はサンプリング部分の話で、RTX 5080の総時間では条件しだいで1.47〜4.18倍。ライセンスの地域制限も確認する。
GPU・グラフィックボード

AI推論でメモリ帯域はどこに効くか|プロンプト処理と生成で詰まる場所が入れ替わる仕組み

AI推論で「メモリ帯域が効く」と言われるのはトークン生成の側です。一般的な単一〜小バッチでは、十分な長さのプロンプト処理は演算性能が、生成はメモリ帯域が先に上限を作ります。RTX 5080 と RTX 5060 Ti の比較に加え、同じカードでメモリクロックだけを下げた対照実験の実測値も載せています。
AI動画生成

MiniMax H3をVRAM 16GBで動かす|ComfyUIでの導入手順とRTX 5080・5060 Ti実測

MiniMax H3をVRAM 16GBのRTX 5080・5060 Tiで実測。864×480・2.33秒が約66秒、1344×768の8秒動画は約21分30秒(0.37.1では約20分)。ComfyUIでの導入手順とノード構成、PyTorchの版で逆転するFP8とINT8の速度差、ComfyUIプロセスのメモリが0.31.1で約44GiB、0.37.1で約13〜24GiB(解像度と長さによる)だった点までまとめた。
GPU・グラフィックボード

GPUのコア数はAI性能にどこまで効くか|演算精度とメモリ帯域で変わる速度の出方

CUDAコア数が多いGPUほどAIが速いとは限りません。RTX 5080がRTX 4090に迫った実測を起点に、コア数・演算精度・メモリ帯域のどれがどのフェーズの速度を決めるのかを公式仕様と自前計測で切り分けます。VRAM容量は速度の目盛りではなく、載るか否かのゲートとして扱います。
ローカルLLM

ローカルLLMの学習ツールでVRAMはどれだけ変わるか|Unsloth・LLaMA-Factory・素のTRLを同じ重みで実測

同じ重み・同じLoRA構成でUnsloth・LLaMA-Factory・素のTRLを実測比較。8BのQLoRAでピークVRAMは8.30/10.55/11.11 GiBと開いた。RTX 5080と5060 Tiでの速度差、2枚構成、Windows導入の可否まで実機で検証。
GPU・グラフィックボード

NightRunとは?OSを入れずにローカルLLMを起動するUEFIアプリ|Raspberry Pi 5とx86 PC対応

NightRunとは、OSを起動せずローカルLLMだけを直接立ち上げるUEFIアプリケーション。NightRunは、USBメモリやmicroSDカードから起動して、Linuxカーネルもスケジューラもネットワークスタックも持たないまま、いきなりLLMのチャット画面まで到達する実験的なオープンソースプロジェクトです。
GPU・グラフィックボード

AI用PCでCPUはどこまで重要か|ローカルLLM・画像生成でGPUに予算を回す構成判断

AI用PCのCPUは、OSやモデル読み込み、前処理、GPUへの命令投入を担う土台役です。ローカルLLM・画像生成でCPUが効く場面と、GPU・VRAMへ予算を優先すべき構成判断を解説します。
AI音楽・音声

ローカルLLM常駐中にWhisperで文字起こしを回すと何が詰まるか|VRAMは足りてもGPU計算の取り合いで遅くなる

ローカルLLMを常駐させたままWhisperで文字起こしを同時に回すと、VRAMは足りてもGPU計算の取り合いで両方が遅くなる仕組みを、RTX 5080の単体実測とGPUの時分割から整理。画像生成との詰まり方の違い、KVキャッシュ、turboとint8、GPU分離、確認の手順まで解説する。
GPU・グラフィックボード

ローカルLLMを2枚のGPUのVRAMプールで動かす|OCuLink接続の帯域ボトルネックを見極める

1枚に載らないローカルLLMを2枚のGPUで動かすとき、OCuLink接続では分割方式で速度が変わる。RTX 5080+5060 Ti(OCuLink)の実測では、単一生成でテンソル並列がレイヤー分割より速い場面があり、プロンプト処理では逆に遅かった。実機ベンチをもとに分割方式の選び方を解説する。
GPU・グラフィックボード

ローカルLLM常駐時のVRAM配分|他のAI作業と同時に回すと重みとKVキャッシュで詰まる

ローカルLLMのVRAM配分とは、重み・KVキャッシュ・一時確保の3枠に容量を割り振る設計。それなのに、常駐させたまま画像生成を回した瞬間に生成が始まらなくなる。この症状の原因は「VRAMが足りない」ではなく「配分を決めていない」ことにあります。