ASUS UGen300はローカルLLMに使えるか｜Hailo-10H搭載USBアクセラレータで動くモデルの範囲

UGen300とは、Hailo-10Hを載せたASUSのAIアクセラレータ。USB外付け型（UGen300-USB-8G）とM.2モジュール型（UGen300-M2-8G）があり、この記事は前者を扱う。

AI処理性能40 TOPS（INT4）、消費電力2.5W（標準時）、大きさは105×50×18mm。この3つの数字が同じ製品のスペック表に並んでいます。ASUSが販売を開始したUGen300 USB AI Accelerator（型番UGen300-USB-8G）は、GPUを増設せずにUSB Type-Cポート1本でAI推論を外付けする製品。価格は299.99ドル。
ただし数字の大きさと、実際に動かせるモデルの規模には落差があります。2026年8月時点でHailoが公開しているHailo-10H向けLLMは、最大でも1.7B級。これはハードウェアの上限ではなく、Raspberry Piの公式ドキュメントは同じHailo-10H＋8GB構成について「最大約60億パラメータのLLM／VLMを実行できる」と案内しています。つまり上限を決めているのは容量ではなくモデルの供給側で、この点が購入判断のほぼすべてを決めます。

この記事の要点

40 TOPs（INT4）と20 TOPs（INT8）は別々の性能ではなく同一チップの精度違いの理論上限で、実効速度はメモリ帯域やモデル構造で変わる
容量計算より先に効くのはモデル供給。Hailo-10Hは任意のGGUFを読み込めず、Hailoがコンパイル済みで配布するモデルだけが動く。2026年8月時点の公開LLMは7本すべて1B〜1.7B級で、7B/8Bクラスは一覧に無い（ハード上限ではなく供給側の制約。Raspberry Pi公式は同構成で最大約6Bと案内）
現行の公開LLMの速度はHailo公表値で7本およそ4.8〜9.9 tokens/sec（最大のQwen3-1.7B-Instructが4.78、Llama3.2-1Bが9.89。コンテキスト長2048の条件）。40 TOPSという表記のLLMでの着地点はこの水準
消費電力2.5W（標準時）・ファンレス・299.99ドル。速度で選ぶ装置ではなく、1B〜2B級の処理を止めずに回すためにGPUを空ける置き場所

ASUS UGen300とは｜Hailo-10Hと8GB LPDDR4を積んだUSBドングル
8GBより先に効くのは「何を動かせるか」｜LLMはHailo提供のモデルだけ
USB 3.1 Gen2（10Gbps）接続というトレードオフ
Raspberry Pi AI HAT+ 2との違い｜基板実装型と挿すだけの外付け型
2.5Wという消費電力が意味するもの
299.99ドルをどう評価するか｜構成別のAI用途ガイドライン
まとめ
よくある質問
参考資料

ASUS UGen300とは｜Hailo-10Hと8GB LPDDR4を積んだUSBドングル

まず製品の実体から。UGen300は、イスラエルのHailo社が開発したAIアクセラレータチップ「Hailo-10H」（AI推論の演算だけを専門に処理する半導体のこと）に、8GBのLPDDR4メモリを組み合わせ、USB Type-Cケーブルで接続できる筐体に収めたものです。ASUS公式の仕様ページに載っているインターフェースはUSB 3.1 Gen2 Type-C（10Gbps）。電源もこのUSB-Cポートから供給され別途ACアダプタが要らない点は、CNX Softwareの報道によります。

処理性能はASUS公式仕様で40 TOPs（INT4）、20 TOPs（INT8）と記載されています。TOPS（Tera Operations Per Second＝1秒あたり1兆回の演算）はAIチップの性能表記として広く使われる単位。ただしこの数字の読み方には注意が必要です。

INT4、INT8というのは演算の精度を指します。INT8は整数8ビット、INT4は整数4ビット。ビット数を半分に落とせば同じ回路で倍の数をさばけるため、INT4の値がINT8の倍になる。つまり40 TOPSと20 TOPSは別々の性能ではなく、同じチップを違う精度で回したときの理論上限値です。

TOPSはあくまで演算器の理論上限であり、実際の推論速度を保証する数値ではありません。メモリ帯域、モデルの構造、ソフトウェア側の最適化で実効性能は大きく変わります。TOPSが2倍のチップが実アプリで2倍速くなるとは限らない点は、NPU搭載PCを選ぶときにも共通する落とし穴。

対応OSはWindows、Linux、Android。ただし公式ページの脚注では、Androidサポートは現時点でB2B顧客向けの提供に限られ、一般への展開は今後のリリースで予定と案内されています。ホスト側のCPUアーキテクチャはx86とArmの両方に対応します。フレームワークはKeras、TensorFlow、TensorFlow Lite、PyTorch、ONNXが公式仕様に列挙されており、ビジョン系と生成AI系の双方に対応し、ASUSの製品ページでは150本以上の事前学習済みモデルが利用できるとされています（同じページの仕様欄やプレスリリース、M.2版ページでは100本以上と表記が割れています）。冷却はファンレスで、内部に大型のヒートシンクを持つ構造。重量はASUS公式仕様で150g（CNX Softwareの報道では145g）。

8GBより先に効くのは「何を動かせるか」｜LLMはHailo提供のモデルだけ

このカテゴリの製品では、TOPSやメモリ容量より先に確かめるべきことがあります。Hailo-10Hは、手元のGGUFファイルを自由に読み込める装置ではありません。LLMについてはHailoがコンパイルして配布したモデルが基本で、独自LLMを一から変換する手順は公開されていません。llama.cppやOllamaで好きなモデルを引っ張ってくる感覚とは、前提が違います。
例外はLoRAです。Raspberry Piの公式資料によれば、対応済みLLMに対するLoRAベースのファインチューニングは可能で、Hailo Dataflow Compilerでアダプタをコンパイルして動かせます。ベースモデルは選べないが、その上への追加学習は載せられる、という位置づけです。
ただしこの制約はLLMの話です。ビジョン系はHailoのDataflow CompilerでONNX／TFLiteから変換する経路が公式に用意されており、自前のネットワークを載せられます。

Hailo公式のGenAIモデル一覧で、Hailo-10H向けに提供されているLLMは次の7本です。

Qwen3-1.7B-Instruct
Qwen2-1.5B-Instruct
Qwen2.5-1.5B-Instruct
Qwen2.5-Coder-1.5B-Instruct
Llama3.2-1B-Instruct
DeepSeek-R1-Distill-Qwen-1.5B
Qwen2-1.5B-Instruct-Function-Calling-v1

最大がQwen3-1.7B-Instruct。7Bも8Bも、リストに存在しません。VLMはQwen3-VL-2B-InstructとQwen2-VL-2B-Instructの2本、音声認識はWhisperのTiny／Base／Smallが揃っています。

ただしこれは現時点で公開されているモデルの話で、チップが1.7Bまでしか扱えないという意味ではありません。同じHailo-10Hと8GBを積むRaspberry Pi AI HAT+ 2の公式ドキュメントは「最大約60億パラメータのLLM／VLMを実行できる」と説明しており、公式ニュースでも、同クラスのエッジLLMは一般に1〜7B級と説明されています。今後モデルが追加されれば、実際に動く規模の上限は変わります。

速度もHailoが公表しています。最大のQwen3-1.7B-Instructで4.78 tokens/sec、最初のトークンまで0.62秒。いずれもコンテキスト長2048・A8W4量子化という条件での値です。より小さいLlama3.2-1B-Instructでは9.89 tokens/secと公表されており、7本の幅はおよそ4.8〜9.9 tokens/sec。現行の公開LLMで見るかぎり、40 TOPSという表記の実際の着地点は4.8〜9.9 tokens/secです。

「8GBあるから7Bクラスが載る」という計算は、この製品には当てはまりません。一般的な4ビット量子化のLLM（llama.cpp系のQ4_K_Mなど）なら7B級の重みファイルが8GB未満に収まる例はあります。ただしHailo-10HはGGUFをそのまま実行する仕組みではなく、Hailo側はたとえばQwen3-1.7BにA8W4という別の量子化を使っています。ファイルサイズの計算だけで対応可否は判断できませんし、そもそも7Bクラスのコンパイル済みモデルが公開されていません。容量ではなくモデル供給が上限を決めています。

ではメモリ8GBは何のためにあるのか。ASUSはプレスリリースでこう説明しています。

8GB LPDDR4 dedicated memory for stable AI computations and large model executions（安定したAI計算と大きなモデルの実行のための8GB LPDDR4専用メモリ）

ASUS 公式プレスリリース「ASUS Announces UGen300 USB AI Accelerator」2026年4月1日（URLは記事末尾の参考資料に記載）

ここで強調されている「dedicated（専用）」がポイント。近年のCPUに内蔵されるNPU（Neural Processing Unit＝AI処理専用の演算ユニット）は、多くの場合システムRAMをCPUやGPUと共有します。AIモデルを載せた分だけ、ブラウザやエディタが使えるメモリが減る。対してUGen300は自前で8GB LPDDR4（4266 MT/s）を抱えているため、モデルの重みでホストPC側のRAMやVRAMを削られずに済みます。

提供されている1B〜2B級のモデルなら、重み自体は数GBに収まります。8GBという容量が効くのは、そこにKVキャッシュ（対話の文脈を保持するための作業領域）やランタイムの作業メモリを積み増しても、ホストPCのRAMを削らずに常駐させられる点です。ASUSが案内している「150本以上（資料により100本以上）の事前学習済みモデル」という数字も、内訳の大半はHailoが以前から強かったビジョン系のネットワークで、LLMが150本あるという意味ではありません。

USB 3.1 Gen2（10Gbps）接続というトレードオフ

10Gbpsという帯域をバイトに直すと理論上は約1.25GB/秒。実効値はプロトコルのオーバーヘッド分だけ下がります。PCIe接続の拡張カードやマザーボード直結のGPUと比べれば、これはかなり細い管です。接続が細くなったときに何から先に詰まるかは、OCuLink接続で外付けGPUの帯域ボトルネックを実測した記事で扱っています。

細い管でも成立する理由があります。推論そのものをアクセラレータ側へオフロードする設計なので、モデルの重みを毎回USB経由で送り込む構成にはなりません。テキストのやり取りが主であれば1.25GB/秒は十分すぎる帯域です。そもそも8GBを超えるモデルを持ち込む手段が用意されていないため、重みをホストと往復させる運用は想定されていません。USB接続の帯域が効いてくるのは、映像や音声のように入力データ自体が大きいワークロードのほうです。

USB機器として正しく認識されているかを確認するだけなら、Linux側では標準コマンドで足ります。

lsusb

参考資料に挙げたCNX Softwareの記事では、Hailo-10HはLLMを劇的に速くする「アクセラレータ」というより、処理をホストから引き取る「オフローダー」として捉えるべきだと指摘されています。CPUとGPUを空けたまま、低電力でAI処理を回し続ける。この見方は、後述する消費電力の話と地続きです。

一方でビジョン系（物体検出、画像分類、姿勢推定など）のワークロードは、Hailo系チップが元々得意としてきた領域。カメラ映像をリアルタイムに処理する用途では速度面のメリットが期待できますが、当サイトでは未検証です。

Raspberry Pi AI HAT+ 2との違い｜基板実装型と挿すだけの外付け型

同じHailo-10Hを採用した製品として、Raspberry Pi向けの拡張ボード「AI HAT+ 2」が先行しています。チップが同じなら何が違うのか。接続方式と使える相手が違います。

AI HAT+ 2はPCIe接続の基板で、Raspberry Piの上に重ねて実装する形式。物理的に相手が限定されます。対してUGen300は105×50×18mmの独立した筐体で、USB Type-Cケーブル1本。Windows/Linux/Android、x86/Armという幅の広さは、この接続方式から来ています。手元のミニPCでもノートPCでも、対応OSであればポートが空いている限り挿せる。

同じAIチップでも、PCIe実装型はホストと一体で組む前提、USB外付け型は既存機材に後付けする前提。「どのチップか」より「どう接続するか」で使い勝手が決まる場面は、AIアクセラレータ選びでは頻繁に起こります。

トレードオフとして、USB接続はPCIeより帯域が細く、遅延も乗ります。前述のとおりモデルが載り切っていれば実害は小さいものの、ホストとの通信量が多い設計では差が出る。PCIe接続を前提にするなら、ASUS自身が同じHailo-10Hと8GBをM.2モジュール（UGen300-M2-8G）としても出しており、海外報道ではUSB版299.99ドルに対し259.99ドルとされています。Raspberry Pi 5に載せるならAI HAT+ 2、既存のPCへ後付けして複数の機材で使い回すならUSB版、という三択で見るほうが実態に近い。

なお、ASUSの製品ページにはWindows向けドライバの提供時期を2026年5月中旬見込みとする脚注が、本記事の確認時点（2026年8月）も残っています。一方でASUSのサポートページには2026年7月22日付でWindows 11向けのUGen Utility 2.4.1.9が公開されており、製品ページの脚注とサポートページの情報に差がある状態です。Windowsで使う予定なら、製品ページの脚注だけで判断せずサポートページ側もあわせて確認してください。

2.5Wという消費電力が意味するもの

スペック表で見落とされがちですが、この製品の性格を決めているのは消費電力です。ASUS公式仕様では消費電力2.5 Watts（Typical／標準時）とされています。USB-Cポートからの5V給電で完結する点はCNX Softwareの報道によります。

24時間動かし続けた場合の電力量は、2.5W×24時間×365日で約21.9kWh/年。電気料金を1kWhあたり31円とすれば年間700円弱の計算になります。ファンレス構造なのでファンの動作音は出ません。玄関のカメラ映像を常時解析する、店舗の入退店を数える、音声コマンドを待ち受ける——こうした「止めない用途」で電力とファン寿命を気にせず置けるのが、この2.5Wの意味です。

比較として、GPUでローカル推論を回す場合の電力を見てみます。当サイトの検証環境（RTX 5080単体、Ollama 0.32.3、think=false統一、各3回計測の中央値、計測日2026-07-30）では、Gemma 4 12B（Ollama: gemma4:12b）の生成時に75.9 tokens/sec、GPU全体のVRAM使用量9740MiB（9.51GiB、デスクトップ描画分を含む値）、そのときのボード消費電力は255Wでした。速度の直接比較は当サイトでは行えていませんが、電力は2桁違う。

GPUの255Wは推論中のピーク付近の値で、常時この電力を消費するわけではありません。逆にUGen300の2.5Wも標準時の値であり、負荷条件によって変動します。電力の比較は「同じ仕事をさせたときの総消費」で見ないと実態を外します。なお2.5WはASUSが製品仕様として掲げるTypical値であり、当サイトの実測ではありません。年間電力量はメーカー公称値からの試算として見てください。

用途が「速く終わらせる」ことなら電力あたりの効率よりも絶対速度が効いてきます。用途が「ずっと動かし続ける」ことなら、話は逆。UGen300が想定しているのは後者の置き場所です。

299.99ドルをどう評価するか｜構成別のAI用途ガイドライン

価格は299.99ドル。海外の技術メディアの報道では、ASUSのオンラインストアおよびNeweggでの販売が確認されています。1ドル150円換算ならおよそ4万5,000円相当。日本国内での正式な販売価格については、本記事執筆時点で確認できていません。

比較対象としてまず挙げるべきは、同じHailo-10Hと8GBを積むRaspberry Pi AI HAT+ 2です。2026年1月15日に130ドルで発売され、現在の公式購入ページでは200ドルです（2026年8月時点。LPDDR4の価格高騰に伴う改定）。チップもメモリ容量も同じで、差額はおよそ100ドル。Raspberry Pi 5を既に持っているなら、この差は無視できません。UGen300の299.99ドルは、Raspberry Piに縛られずWindows・Linuxのx86／Arm機にそのまま挿せる汎用性への上乗せと見るのが妥当です。

GPUと比べる場合は、比較対象を何に置くかで話が変わります。TOPSとVRAM/メモリ容量は別の軸なので、単純な性能比較はできません。以下は「その構成で現実的に何をやるか」で並べた目安です。

構成	動くAIソフト・用途の目安	備考
USB AIアクセラレータ（40 TOPS INT4 / 専用メモリ8GB）	ビジョン推論（物体検出・分類）、Whisperによる音声認識、1B〜1.7B級のLLMと2B級のVLM（いずれもHailo提供のコンパイル済みモデルに限る）	消費電力2.5W（標準時）。ファンレス。Qwen3-1.7Bで4.78 tok/s（Hailo公表値）
VRAM 8GBのGPU	7Bクラスの量子化LLM、SD 1.5クラスの画像生成	RTX 5060 8GB等。12Bクラス以上は設定調整が前提
VRAM 12GBのGPU	8Bクラスの量子化LLMが快適、SDXLの画像生成	RTX 5070、中古のRTX 3060 12GB等
VRAM 16GBのGPU	12B〜14Bクラスの量子化LLM、MoE型なら30B級も量子化次第で収まる、SDXL・動画生成ワークフロー	RTX 5060 Ti 16GB。MoEの実例は当サイト実測のqwen3-coder:30b（Ollama既定タグ）で15.6GiB。dense型の32B級は4ビット量子化でも20GB前後を要し収まらない。GPU実測は下記参照
VRAM 32GBのGPU	より大型のモデルを単体で常駐	RTX 5090。TDP 575W

GPU側の行に挙げた実測として、当サイトの検証環境（RTX 5080単体、num_ctx記録分は8192、think=false、計測日2026-07-30）ではQwen3 14B（Ollama: qwen3:14b）が73.1 tokens/sec、Phi-4 14B（Ollama: phi4:14b）が74.3 tokens/secを記録しました。この計測表にUGen300は含まれていないため、両者の速度を直接並べることはできません。ここで比べられるのは「同じ予算で何を得るか」という点だけです。

4万5,000円相当という金額は、AI用途で選ばれるミドル〜ハイエンドGPUを1枚買い足すより安く収まります（同価格帯以下のGPUも存在するので、GPU全般より安いという話ではありません）。ただしGPUは1枚で画像生成もLLMもゲームもこなす汎用装置で、UGen300は推論に特化した外付け装置です。すでにGPU搭載のPCを持っていて、そこにさらに常時稼働のAI処理を足したい——という状況なら、GPUを占有せずに済む選択肢として筋が通ります。逆に「これからローカルAIを始めたい」段階なら、VRAM 16GBのGPUを1枚積むほうが用途の幅は広い。

製品名	ASUS UGen300 USB AI Accelerator（UGen300-USB-8G）
チップセット	Hailo-10H
AI性能	40 TOPs（INT4）／20 TOPs（INT8）
メモリ	LPDDR4 8GB（4266 MT/s）
インターフェース	USB 3.1 Gen2 Type-C（10Gbps）
消費電力	2.5W（標準時）
サイズ／重量	105×50×18mm／150g（ASUS公式仕様。CNX Softwareの報道では145g）
対応OS／ホスト	Windows・Linux・Android（AndroidはB2B顧客向け提供）／x86・Arm
対応フレームワーク	Keras、TensorFlow、TensorFlow Lite、PyTorch、ONNX
参考価格	299.99ドル（2026年8月時点、海外報道による）

まとめ

買う前に確かめるのは、容量ではなくモデル供給です。動かしたいLLMがHailoのGenAIモデル一覧に載っているか。2026年8月時点の最大はQwen3-1.7B-Instructで、速度はHailo公表値で4.78 tokens/sec。いま7Bや8Bを動かす前提でいるなら、この製品は選択肢に入りません。ただしこれはチップの限界ではなく供給側の事情で、Raspberry Piの公式資料は同じHailo-10H＋8GBで最大約6Bまでと案内しています。モデルが追加されれば状況は変わるので、購入前にHailoのGenAIモデル一覧を見るのが確実です。

逆に、用途が1B〜2B級で足りるなら評価は変わります。物体検出や画像分類といったビジョン系はHailo系チップが元々得意としてきた領域（当サイトでは未検証）。Whisperによる音声認識も揃っています。こうした処理を2.5W（標準時）・ファンレスで、GPUを占有せずに回し続けられる点がこの製品の中身です。

当サイトの検証環境では、RTX 5080でGemma 4 12Bが75.9 tokens/secを出しますが、そのときのボード消費電力は255Wでした。速度と電力のどちらを取るかという話に見えて、実際には動かせるモデルの規模がそもそも違う——40 TOPSという数字だけでは見えないのは、この部分です。上の構成別の表で、自分の使い方がどの行に近いかを確かめてみてください。

よくある質問

Q. 別途ACアダプタや外部電源は必要ですか？

不要です。ASUS公式仕様では消費電力2.5W（Typical／標準時）とされています。USB-Cポートからの5V給電で完結する点と、ファンレスで内部に大型ヒートシンクを備える構造は、CNX Softwareの報道によります。ケーブル1本で完結するため、電源タップの空きを気にせず設置できます。

Q. ノートPCやミニPCでも使えますか？

公式仕様では対応OSがWindows・Linux・Android、ホスト側のCPUアーキテクチャはx86とArmの両方。ただしAndroidは公式ページの脚注でB2B顧客向けの提供とされているため、Android機での利用を前提にするなら事前確認が要ります。接続にはUSB 3.1 Gen2（10Gbps）対応のType-Cポートが要ります。Type-Cはコネクタの形状を指すだけなので、形が合っても規格が満たないことがある点は確認してください。給電もそのポートから取ります。ただし本体は105×50×18mm・150g（ASUS公式仕様）の外付け機器なので、持ち歩く場合はその分だけ荷物が増える点は考慮に入れてください。

Q. LLMはどれくらいの速度で動きますか？

チップベンダーのHailoが公表しています。Hailo-10H向けの最大モデルQwen3-1.7B-Instructで4.78 tokens/sec、最初のトークンまで0.62秒。ただしこれはHailoがHailo-10Hとして公表している値で、ASUSがUGen300という製品として出している数値ではありません。当サイトの計測表にもUGen300は含まれていないため、GPUの実測値と横並びで比べることはできません。

Q. 8GBに収まらないモデルも動かせますか？

手元のモデルファイルを持ち込んで動かす、という使い方はできません。実行できるのはHailoがコンパイルして配布したモデルで、2026年8月時点のHailo-10H向けLLMは最大がQwen3-1.7B-Instructです。ただしこれは容量の限界ではなく、Raspberry Piの公式資料は同じHailo-10H＋8GB構成について最大約6BまでのLLM／VLMを実行できると案内しています。対応済みモデルに対するLoRAアダプタであれば、Hailo Dataflow Compilerでコンパイルして載せられます。

Q. 日本で購入できますか？

ASUS公式の製品ページにはASUS Storeと販売代理店を経由した購入導線が用意されています。日本でも2026年1月のCES発表時にPC Watch等が報じていますが、その記事に国内の発売時期や価格の案内はなく、本記事執筆時点でも国内価格は確認できていません。価格として確認できるのは海外報道のASUSオンラインストアおよびNeweggでの299.99ドルで、1ドル150円換算ならおよそ4万5,000円相当。実際の入手可否は公式サイトの製品ページで対象地域の取扱いを確認してください。

参考資料

アフィリエイトについて
当サイトはAmazonアソシエイト・プログラムの参加者です。Amazonのアソシエイトとして、当サイトは適格販売により収入を得ています。本記事には各種アフィリエイトリンク（広告）を含み、リンク経由で購入されると当サイトに紹介料が入ります。読者の購入価格は変わりません。