マルチGPU

GPU・グラフィックボード

生成AI用グラボの選び方|画像生成・動画生成・LLMの用途別にVRAMは何GBあれば足りるか

画像生成・動画生成・LLMをPCで動かすとき、グラボのVRAMは何GBあればよいか。12GBと16GBの実機で、SDXL・Flux.1 Dev・動画生成・14B〜35B級のLLMがどこまで動いたかを用途別に比べ、選ぶ手順と電源の目安を示す。
Strata

Strataで2枚目のGPUをどう使うか|層を分ける方式と補助キャッシュの違いをRTX 5080+5060 Tiで検証

Strata で2枚目の GPU を使う3つの方法の違いを整理し、RTX 5080 に OCuLink 外付けの RTX 5060 Ti を足して 0.1.39〜0.1.41 で測った。試した構成では入力の読み込みがどれも1枚より遅かった。起動ログで見えた割り当てと、確かめる手順を載せている。
GPU・グラフィックボード

Nemotron 3 Embed 8Bを16GB×2枚で動かす|NVLinkの無いRTX 5080+5060 Tiではテンソル並列よりパイプライン並列が速かった

VRAM 16GB 1枚では実用にならなかった埋め込みモデル Nemotron-3-Embed-8B-BF16 を、RTX 5080 と OCuLink 外付けの RTX 5060 Ti の2枚で vLLM に載せて実測。テンソル並列・パイプライン並列・CPUオフロードの速さと起動の仕方をまとめた。
ComfyUI

ComfyUIで使うGPUを指定する|v0.34以降のWindowsは既定で1枚しか使わない

ComfyUIはv0.34以降のWindowsで、GPUを指定しないと1枚しか見えない。警告も出ない。見えている枚数の数え方、2枚とも見せる3通りの書き方、見せても1本の生成は速くならないこと、ComfyUIを2つ起動して枚数を配ったときの実測をまとめた。