Unsloth VRAM

ローカルAI環境

ローカルLLMの学習ツールでVRAMはどれだけ変わるか|Unsloth・LLaMA-Factory・素のTRLを同じ重みで実測

同じ重み・同じLoRA構成でUnsloth・LLaMA-Factory・素のTRLを実測比較。8BのQLoRAでピークVRAMは8.30/10.55/11.11 GiBと開いた。RTX 5080と5060 Tiでの速度差、2枚構成、Windows導入の可否まで実機で検証。