ローカルLLM LFM2.5-24B-A2BはVRAM 16GBで動くか|文脈長ごとの使用量と速さ、Ollamaでの読み込み、Qwen3.6-35B-A3Bとの違い
LFM2.5-24B-A2BをVRAM 16GBのRTX 5060 Ti・5080で実測。文脈の長さごとのVRAM使用量、入力の処理と生成の速さ、Ollamaでの読み込み、Claude Codeでの作業結果を、16GBに載りきらないQwen3.6-35B-A3Bと比べた。
ローカルLLM
ローカルAI環境
ローカルAI環境
GPU・グラフィックボード
PC構成