DGX Spark
DGX Sparkは、このサイトで扱う34のオープンモデルのうち34モデルを、Q4_K_M・8kコンテキストで動かせます（2026年10月16日に計算）。最大のモデルはMistral Small 4 119B (MoE)で、必要量は72.5GB、生成速度は約51トークン/秒です。
- メモリ
- 128GB（ユニファイドメモリ）
- GPU用
- 126GB
- メモリ帯域幅
- 273GB/s
- ボード電力
- 140W
- 発売
- 2025年
- 入手方法
- 新品で販売中
DGX Sparkで動くモデルの一覧
DGX Spark（128GB）がGPUで使えるメモリは126GB（128GBのユニファイドメモリのうち、NVIDIAの文書から求めた量。下の出典を参照）で、メモリ帯域幅は273GB/sです。以下のモデルはすべて、多くの人が実際に使う設定であるQ4_K_M・8kコンテキストでの値です。5%の安全マージンを差し引くと、使えるのは119.7GBです。何が読み込めるかはメモリが、どれだけ速く応答するかは帯域幅が決めます。どちらも明示した計算式による推定値で、LLM VRAM計算ツールで計算の過程を確かめられます。
このGPUでは、119.7GB以下なら収まり、107.1GBを超えると「ぎりぎり」です。読み込めても会話に使える余裕はほとんどなく、同じ128GBでデスクトップ環境も動かしていると収まらなくなることがあります。トークン/秒は、メモリ帯域幅から求めたシングルストリームの推定値です。≤の付いた数値は上限で、実際のランタイムはこれを大きく下回ります。
計算・2026年10月16日実際に動かすならこのモデル
Nemotron 3.5 Bolt 74B-A9B (MoE)が、このGPUを最も有効に使えるモデルです。使うのは126GBのうち45.9GBで、生成速度は推定37トークン/秒（チャットなら快適）、コンテキストにはまだ131,072トークン分の余裕があります。MoE（Mixture of Experts）モデルなので、74.9Bのパラメータはすべてメモリに置かれますが、トークンごとに読むのは9Bだけです。サイズの割に速いのはそのためです。
ベンチマークは引用していないため、選び方を説明します。モデルはサイズで比べ、MoEモデルは総パラメータとアクティブパラメータの幾何平均で数えます（経験則で、測定ではありません）。メモリに余裕を持って収まり、25トークン/秒以上で応答する最も大きいクラスを選び、その中で最も新しい汎用モデルを選んでいます。コーディングや推論に特化したモデルは上の一覧には載せていますが、標準ではおすすめしていません。
このGPUが保持できる最大のモデルはMistral Small 4 119B (MoE)で、必要量は72.5GBです。131,072トークンのコンテキストを確保できます。MoEモデルで、トークンごとに読むパラメータは6.5Bだけなので、2つのうち速いのはこちらで、推定51トークン/秒です。その代わり、トークンごとにすべての重みを読む密（dense）モデルの深さはありません。
パラメータ数より品質を重視するなら、Llama 3.3 70BがQ8_0で約81GBに収まります。Q8はほぼ劣化がなく、Q8の小さなモデルは、Q3に押し込んだ大きなモデルに勝つことがよくあります。
実際に収まるコンテキスト長
よく聞かれるのはモデルのサイズですが、実際に効いてくるのはコンテキストです。KVキャッシュは会話の長さに比例して大きくなるため、余裕を持って読み込めたモデルでも、長い文書の途中でメモリが尽きることがあります。126GBで使えるコンテキストは、重みを載せた残りの分だけです。同じモデルが動く2つのGPUでも、使い心地がまったく違うことがあるのはそのためです。以下は、Q4_K_Mの重みで、このGPUが保持できる最大のコンテキストです。
| モデル | 最大コンテキスト長（FP16のKV） | Q8のKVキャッシュ |
|---|---|---|
| Nemotron 3.5 Bolt 74B-A9B (MoE) | 131,072トークン | 131,072トークン |
| Llama 3.3 70B | 131,072トークン | 131,072トークン |
| Qwen3 32B | 40,960トークン・モデルの上限 | 40,960トークン・モデルの上限 |
| Gemma 4 31B | 131,072トークン | 131,072トークン |
この表のモデルはすべてFP16の時点で上限に達しているため、KVキャッシュを量子化しても得るものはありません。上限は128kトークン、またはそれより小さければモデル自身のネイティブのコンテキスト長で、後者は「モデルの上限」と表示しています。それを超える空きメモリは何の役にも立ちません。サイズの割にはるかに多くのコンテキストを保持できる行は、ハイブリッド構成、スライディングウィンドウ、MLA（Multi-head Latent Attention）のモデルで、標準的なTransformerのほんの一部しかキャッシュしません。計算の過程は各モデルのページにあります。
このGPUの限界
この一覧に届かないモデルはありません。扱っているモデルはすべてQ4_K_M・8kコンテキストで収まるため、突き当たる限界はパラメータ数ではなく、コンテキスト長とバッチサイズです。
購入かレンタルか
買う理由は速さではなく、小さな筐体でのCUDAと容量です。24GBに収まるモデルなら、中古の3090のほうが速く生成します。大きなモデルをたまに試すだけなら、その時間だけ大きなGPUを借りるほうが、毎日ゆっくり動かすマシンを買うより安く済みます。
小売価格は変動し、今日書いた数字はひと月もたたずに古くなるため、このページには載せていません。実際に検討している価格を、電気料金と実際の月間使用時間とあわせて購入とレンタルの比較ツールに入れてください。このGPUが負荷時に140Wを使うことは、ツールにすでに入っています。所有するほうが安くなる月がわかり、そうならない場合はそれがわかります。決め手になるのは、価格よりも月間の使用時間であることがはるかに多いです。
率直な評価
GPUと共有できる128GBを積んだ、NVIDIAの小型Linuxマシンです。大きなモデルも収まりますが、メモリを読む速さはRTX 4090の約4分の1です。
コンシューマー向けのGPUには収まらないモデルを保持でき、MacやAMDのマシンでは動かないCUDAも動きます。弱点は273GB/sという帯域幅です。70Bの密（dense）モデルは余裕を持って収まりますが、生成は非常に遅くなります。このマシンに向いているのは、パラメータは多くても1トークンごとに読むのは数十億だけのMoEモデルです。速いマシンではなく、メモリの多いCUDAの開発機と考えてください。
得意なこと
- 128GBのユニファイドメモリでCUDAが動きます。vLLMからTensorRT-LLMまで、NVIDIAのソフトウェアスタックがデータセンター向けGPUと同じように動きます。
- Blackwell世代なので、FP4の重み形式がネイティブで動きます。
- 150mmの小さな筐体に240Wの電源で、机に置けるほど静かです。
向かないこと
- 273GB/sのため、30Bを超える密（dense）モデルは、どれだけ余裕を持って収まっても生成が遅くなります。
- DGX OSで動くArmのLinuxマシンです。ツールにはARM64版のビルドが必要で、Windowsのソフトウェアは動きません。
- nvidia-smiはメモリ使用量を「Not Supported」と表示し、cudaMemGetInfoは実際より少なく報告するため、メモリがないように見えますが、実際にはあります。
よくある誤解：NVIDIAがうたう「up to 200 billion parameters」（訳：最大2,000億パラメータ）は、データシート自身の脚注にあるとおり、4ビットの重みが前提です。Q8では、同じメモリに収まるのはその約半分です。
ほかの選択肢との比較
- RTX Spark：102GB・300GB/s・最適なモデルはNemotron 3.5 Bolt 74B-A9B (MoE)、約40トークン/秒。WindowsのノートPCやミニPC向けのNVIDIAのチップで、最大128GBをGPUと共有して300GB/sで読み出し、CUDAが動きます。
- Ryzen AI Max+ 395：96GB・256GB/s・最適なモデルはNemotron 3.5 Bolt 74B-A9B (MoE)、約34トークン/秒。WindowsではGPUに最大96GBを割り当てられ、x86で大きなMoEモデルを動かす道になる、ノートPCとミニPC向けのAMDの128GBのチップです。
- MacBook Pro M5 Max：96GB・614GB/s・最適なモデルはNemotron 3.5 Bolt 74B-A9B (MoE)、約82トークン/秒。40コアGPUの構成を選べば、大きなモデルが収まり614GB/sで読み出せる、Appleの128GBのノートPCです。
ユニファイドメモリのマシンは、DGX Spark・Strix Halo・Mac Studioの比較（英語）で、同じモデルを使って直接比べています。
Ghost CoreからRTX PRO 6000のワークステーションまで、ほかのパーソナルAIコンピューターとの比較はパーソナルAIコンピューターの比較（英語）にあります。
全39種類のGPUはGPU一覧で並べて比較しています。同じ数値をモデルの側から見た表はモデルの適合表（英語）にあります。表を読む代わりに特定の組み合わせを確かめるなら、ローカルLLM動作チェッカーを使ってください。
よくある質問
- DGX Sparkで70Bのモデルは動く？
- 動きます。Llama 3.3 70BはQ4_K_M・8kコンテキストで約45.8GBが必要で、このGPUが使える126GBに収まります。生成速度は推定5トークン/秒で、体感は「対話には遅すぎる」です。
- DGX Sparkで動かすのに最適なモデルは？
- Nemotron 3.5 Bolt 74B-A9B (MoE)です。Q4_K_M・8kコンテキストでは、使える126GBのうち約45.9GBを使い、生成速度は推定37トークン/秒で、体感は「チャットなら快適」です。サイズより品質を重視するなら、Llama 3.3 70BがQ8で約81GBに収まります。
- DGX Sparkの生成速度は何トークン/秒？
- モデルのサイズ次第です。トークンを生成するたびに、アクティブな重みをすべてメモリから読み出すからです。273GB/s・効率70%で、このGPUは8BのモデルをQ4で推定41トークン/秒で生成します。保持できる最大のモデルのMistral Small 4 119B (MoE)では約51トークン/秒です。人が文章を読む速さは毎秒5〜8語ほどなので、25を超えれば一瞬に感じます。41は273GB/sから求めた上限で、実測ではありません。数値が大きいほど、実際のランタイムはこれを大きく下回ります。
- ローカルLLMに126GBで足りる？
- このサイトで扱う34モデルのうち34モデルが、Q4_K_M・8kコンテキストで動きます。最大で119Bパラメータまでです。本当の試金石はモデルの一覧ではなくコンテキストです。このGPUでNemotron 3.5 Bolt 74B-A9B (MoE)を動かすと、メモリが尽きるまでに約131,072トークンを保持できます。
- ローカルモデルにはDGX SparkとRTX Sparkのどちら？
- このGPUのほうが多く保持できます（126GB対102GB）が、Q4_K_M・8kコンテキストではどちらも34モデルすべてが動くため、増えたメモリはより長いコンテキストと高い精度に使われます。速度では、RTX Sparkのほうが速く、300GB/s対273GB/sです。チャットの速さを決めるのは帯域幅です。
- DGX Sparkの128GBのうち、GPUが使えるのはどれくらい？
- NVIDIAは数値を公表していません。GPUはメモリ全体をArm CPUおよびDGX OSと共有し、そこから画面表示用に2GB（BIOSで4GBも選べます）が確保されるため、モデルが使えるのはシステムが空けている分です。このサイトでは126GBを前提とし、OS用に5%の余裕を残しています。nvidia-smiで判断しないでください。このマシンではメモリ使用量が「Not Supported」と表示されます。
- ローカルLLMにはDGX SparkとMac Studioのどちら？
- SparkはCUDAが動くので、ファインチューニングの大半や多くの画像・動画ツールを含む、NVIDIA専用の半分のエコシステムが使えます。Mac Studio M5 Ultraはメモリを1,200GB/sで読み出し（Sparkは273GB/s）、最大512GBまで載るため、CUDAはないものの、生成が速く、より多くを保持できます。大きなモデルとのチャットならMac、NVIDIAのハードウェア上での開発やファインチューニングならSparkです。
- メモリ：重み（パラメータ数 × パラメータあたりのバイト数）＋KVキャッシュ（標準的なTransformerでは2 × レイヤー数 × KVヘッド数 × ヘッド次元 × コンテキスト長 × バイト数。スライディングウィンドウ、ハイブリッド構成、MLAのモデルは実際のキャッシュのとおりに計算）＋ランタイム0.5GB＋重みの4%。導出の詳細はLLM VRAM計算ツールにあります。
- 速度：70% × メモリ帯域幅 ÷ アクティブな重みのバイト数。シングルストリーム、バッチ処理なし、プロンプト処理は含みません。実測ではなく上限です。≤の付いた数値（34個中5個）は、トークンごとに読む重みがごく少ないため、実際のランタイムが数値を最も大きく下回る箇所です。詳しくは生成速度（トークン/秒）推定ツールをご覧ください。
- GPUの仕様（メーカーの数値）：128GB、273GB/s、140W。NVIDIAによるこのマシンの公式ページを参照してください。ユニファイドメモリ：NVIDIAはGPUの取り分を公表していません。GPUは128GBのうちOSが空けている分を使え、そこから画面表示用に2GBが確保されます。このページの数値は126GBを使っています。OSの分は、すべての判定で残している5%の余裕から出るため、最大のモデルはデスクトップのセッションなしで動かしてください。出典：NVIDIAのDGX Sparkリリースノート（画面表示用に確保される2GB）。
- モデルのアーキテクチャの値は、各モデルが公開しているconfigから取っています。それぞれの値が何を変えるかは、LLMのセルフホストのガイド（英語）で説明しています。