2枚目 GPU

GPU・グラフィックボード

GPUがSSDを直接読む仕組み|cuFileオープンソース化とローカルAIでモデルロードが速くなる条件

cuFileとは、GPUがストレージを直接読み書きするAPIである。「GPUがSSDを直接読む」と聞けば、ローカルLLMの起動が速くなるのでは、と期待したくなるところ。この記事の要点 cuFileはCPUのシステムメモリを介さずGPUメモリとストレージを直結させるAPI。
GPU・グラフィックボード

AI用PCのマザーボードとPCIeレーンの選び方|2枚目のGPU・OCuLink eGPUで「帯域が足りない」を避ける構成

AI用PCで2枚目GPUやeGPUを足すときのマザーボード・PCIeレーンの選び方。AM5とIntel Core Ultra 200Sのレーン数、M.2との共有でGPUスロットが遅くなる罠、チップセット連結・BIOS設定、OCuLink(PCIe 4.0 x4)でも推論は帯域が足りることを実測で解説する。