RTX Spark
RTX Sparkは、このサイトで扱う34のオープンモデルのうち34モデルを、Q4_K_M・8kコンテキストで動かせます（2026年10月16日に計算）。最大のモデルはMistral Small 4 119B (MoE)で、必要量は72.5GB、生成速度は約56トークン/秒です。
- メモリ
- 128GB（ユニファイドメモリ）
- GPU用
- 102GB
- メモリ帯域幅
- 300GB/s
- 発売
- 2026年
- 入手方法
- 新品で販売中
RTX Sparkで動くモデルの一覧
RTX Spark（128GB）がGPUで使えるメモリは102GB（128GBのユニファイドメモリのうち、NVIDIAの文書から求めた量。下の出典を参照）で、メモリ帯域幅は300GB/sです。以下のモデルはすべて、多くの人が実際に使う設定であるQ4_K_M・8kコンテキストでの値です。5%の安全マージンを差し引くと、使えるのは96.9GBです。何が読み込めるかはメモリが、どれだけ速く応答するかは帯域幅が決めます。どちらも明示した計算式による推定値で、LLM VRAM計算ツールで計算の過程を確かめられます。
このGPUでは、96.9GB以下なら収まり、86.7GBを超えると「ぎりぎり」です。読み込めても会話に使える余裕はほとんどなく、同じ128GBでデスクトップ環境も動かしていると収まらなくなることがあります。トークン/秒は、メモリ帯域幅から求めたシングルストリームの推定値です。≤の付いた数値は上限で、実際のランタイムはこれを大きく下回ります。
計算・2026年10月16日実際に動かすならこのモデル
Nemotron 3.5 Bolt 74B-A9B (MoE)が、このGPUを最も有効に使えるモデルです。使うのは102GBのうち45.9GBで、生成速度は推定40トークン/秒（チャットなら快適）、コンテキストにはまだ131,072トークン分の余裕があります。MoE（Mixture of Experts）モデルなので、74.9Bのパラメータはすべてメモリに置かれますが、トークンごとに読むのは9Bだけです。サイズの割に速いのはそのためです。
ベンチマークは引用していないため、選び方を説明します。モデルはサイズで比べ、MoEモデルは総パラメータとアクティブパラメータの幾何平均で数えます（経験則で、測定ではありません）。メモリに余裕を持って収まり、25トークン/秒以上で応答する最も大きいクラスを選び、その中で最も新しい汎用モデルを選んでいます。コーディングや推論に特化したモデルは上の一覧には載せていますが、標準ではおすすめしていません。
このGPUが保持できる最大のモデルはMistral Small 4 119B (MoE)で、必要量は72.5GBです。131,072トークンのコンテキストを確保できます。MoEモデルで、トークンごとに読むパラメータは6.5Bだけなので、2つのうち速いのはこちらで、推定56トークン/秒です。その代わり、トークンごとにすべての重みを読む密（dense）モデルの深さはありません。
パラメータ数より品質を重視するなら、Llama 3.3 70BがQ8_0で約81GBに収まります。Q8はほぼ劣化がなく、Q8の小さなモデルは、Q3に押し込んだ大きなモデルに勝つことがよくあります。
実際に収まるコンテキスト長
よく聞かれるのはモデルのサイズですが、実際に効いてくるのはコンテキストです。KVキャッシュは会話の長さに比例して大きくなるため、余裕を持って読み込めたモデルでも、長い文書の途中でメモリが尽きることがあります。102GBで使えるコンテキストは、重みを載せた残りの分だけです。同じモデルが動く2つのGPUでも、使い心地がまったく違うことがあるのはそのためです。以下は、Q4_K_Mの重みで、このGPUが保持できる最大のコンテキストです。
| モデル | 最大コンテキスト長（FP16のKV） | Q8のKVキャッシュ |
|---|---|---|
| Nemotron 3.5 Bolt 74B-A9B (MoE) | 131,072トークン | 131,072トークン |
| Llama 3.3 70B | 131,072トークン | 131,072トークン |
| Qwen3 32B | 40,960トークン・モデルの上限 | 40,960トークン・モデルの上限 |
| Gemma 4 31B | 131,072トークン | 131,072トークン |
この表のモデルはすべてFP16の時点で上限に達しているため、KVキャッシュを量子化しても得るものはありません。上限は128kトークン、またはそれより小さければモデル自身のネイティブのコンテキスト長で、後者は「モデルの上限」と表示しています。それを超える空きメモリは何の役にも立ちません。サイズの割にはるかに多くのコンテキストを保持できる行は、ハイブリッド構成、スライディングウィンドウ、MLA（Multi-head Latent Attention）のモデルで、標準的なTransformerのほんの一部しかキャッシュしません。計算の過程は各モデルのページにあります。
このGPUの限界
この一覧に届かないモデルはありません。扱っているモデルはすべてQ4_K_M・8kコンテキストで収まるため、突き当たる限界はパラメータ数ではなく、コンテキスト長とバッチサイズです。
購入かレンタルか
買うなら、速さのためではなく、大きなモデルも保持できるCUDAのノートPCとして買いましょう。24GBに収まるモデルなら、デスクトップのRTX 3090のほうが速く生成します。ここで重要なのは128GBの構成なので、購入する機種のメモリを確認してください。大きなモデルがたまに必要なだけなら、その時間だけ大きなGPUを借りるほうが、毎日ゆっくり動かすマシンを買うより安く済みます。
小売価格は変動し、今日書いた数字はひと月もたたずに古くなるため、このページには載せていません。実際に検討している価格を、電気料金と実際の月間使用時間とあわせて購入とレンタルの比較ツールに入れてください。所有するほうが安くなる月がわかり、そうならない場合はそれがわかります。決め手になるのは、価格よりも月間の使用時間であることがはるかに多いです。
率直な評価
WindowsのノートPCやミニPC向けのNVIDIAのチップで、最大128GBをGPUと共有して300GB/sで読み出し、CUDAが動きます。
DGX Sparkの考え方をWindowsのノートPCに持ち込んだもので、BlackwellのGPUとArmのCPUが最大128GBを共有し、CUDAがネイティブで動きます。NVIDIAの開発者ガイドによると、メモリは256ビットのバスで300GB/sです。これはDGX Sparkの273GB/sをわずかに上回り、M5 Maxの614GB/sの約半分なので、大きなモデルは収まりますが、生成は遅くなります。向いているのは、1トークンごとに数十億のパラメータしか読まないMoEモデルです。128GBのうちGPUが使える量は、NVIDIAが容量を示していない予約領域で決まるため、このサイトでは、NVIDIAのルールで保証される102GBを前提にしています。
得意なこと
- ノートPCで最大128GBをGPUと共有でき、CUDAがネイティブで動くため、NVIDIAのソフトウェアスタックがデスクトップ向けGPUと同じように動きます。
- 300GB/sで、同じ256ビット幅のDGX Sparkの273GB/sをわずかに上回ります。
- Blackwell世代なので、FP4の重み形式がネイティブで動きます。
向かないこと
- 300GB/sはM5 Maxの約半分、RTX 4090の3分の1未満で、30Bを超える密（dense）モデルは、どれだけ余裕を持って収まっても生成が遅くなります。
- OSはArm版Windows 11で、x86のアプリケーションはエミュレーションで動きます。NVIDIAのガイドは、ネイティブのArm版ビルドのほうが性能が良いとしています。
- 128GBに届くのは最上位のチップだけで、GPUの小さい版は64GBまでです。多くのノートPCは、それより少ないメモリで出荷されます。
よくある誤解：WindowsはGPUの予約領域だけを専用メモリとして数えます。またNVIDIAのガイドによると、NVMLのメモリの問い合わせが報告するのもその領域だけで、GPUが同じく割り当てに使う共有領域は含まれません。そのため128GBのマシンでも、GPUのメモリが、モデルが実際に使える量よりはるかに少ないように見えることがあります。
ほかの選択肢との比較
- DGX Spark：126GB・273GB/s・最適なモデルはNemotron 3.5 Bolt 74B-A9B (MoE)、約37トークン/秒。GPUと共有できる128GBを積んだ、NVIDIAの小型Linuxマシンです。大きなモデルも収まりますが、メモリを読む速さはRTX 4090の約4分の1です。
- MacBook Pro M5 Max：96GB・614GB/s・最適なモデルはNemotron 3.5 Bolt 74B-A9B (MoE)、約82トークン/秒。40コアGPUの構成を選べば、大きなモデルが収まり614GB/sで読み出せる、Appleの128GBのノートPCです。
- Ryzen AI Max+ 395：96GB・256GB/s・最適なモデルはNemotron 3.5 Bolt 74B-A9B (MoE)、約34トークン/秒。WindowsではGPUに最大96GBを割り当てられ、x86で大きなMoEモデルを動かす道になる、ノートPCとミニPC向けのAMDの128GBのチップです。
Ghost CoreからRTX PRO 6000のワークステーションまで、ほかのパーソナルAIコンピューターとの比較はパーソナルAIコンピューターの比較（英語）にあります。
全39種類のGPUはGPU一覧で並べて比較しています。同じ数値をモデルの側から見た表はモデルの適合表（英語）にあります。表を読む代わりに特定の組み合わせを確かめるなら、ローカルLLM動作チェッカーを使ってください。
よくある質問
- RTX Sparkで70Bのモデルは動く？
- 動きます。Llama 3.3 70BはQ4_K_M・8kコンテキストで約45.8GBが必要で、このGPUが使える102GBに収まります。生成速度は推定5トークン/秒で、体感は「遅い（バッチ処理なら十分）」です。
- RTX Sparkで動かすのに最適なモデルは？
- Nemotron 3.5 Bolt 74B-A9B (MoE)です。Q4_K_M・8kコンテキストでは、使える102GBのうち約45.9GBを使い、生成速度は推定40トークン/秒で、体感は「チャットなら快適」です。サイズより品質を重視するなら、Llama 3.3 70BがQ8で約81GBに収まります。
- RTX Sparkの生成速度は何トークン/秒？
- モデルのサイズ次第です。トークンを生成するたびに、アクティブな重みをすべてメモリから読み出すからです。300GB/s・効率70%で、このGPUは8BのモデルをQ4で推定45トークン/秒で生成します。保持できる最大のモデルのMistral Small 4 119B (MoE)では約56トークン/秒です。人が文章を読む速さは毎秒5〜8語ほどなので、25を超えれば一瞬に感じます。45は300GB/sから求めた上限で、実測ではありません。数値が大きいほど、実際のランタイムはこれを大きく下回ります。
- ローカルLLMに102GBで足りる？
- このサイトで扱う34モデルのうち34モデルが、Q4_K_M・8kコンテキストで動きます。最大で119Bパラメータまでです。本当の試金石はモデルの一覧ではなくコンテキストです。このGPUでNemotron 3.5 Bolt 74B-A9B (MoE)を動かすと、メモリが尽きるまでに約131,072トークンを保持できます。
- ローカルモデルにはRTX SparkとDGX Sparkのどちら？
- DGX Sparkのほうが多く保持できます（126GB対102GB）が、Q4_K_M・8kコンテキストではどちらも34モデルすべてが動くため、増えたメモリはより長いコンテキストと高い精度に使われます。速度では、このGPUのほうが速く、300GB/s対273GB/sです。チャットの速さを決めるのは帯域幅です。
- RTX Sparkのメモリ帯域幅は？
- 300GB/sです。NVIDIAのRTX Spark移植ガイドによる数値で、CPUとGPUが共有する256ビットのメモリインターフェースのものです。NVIDIAの製品ページには帯域幅が載っておらず、発表時のブログにあるより大きな数値は、メモリではなくCPUとGPUの間の接続を表しています。
- ローカルLLMにはRTX SparkとDGX Sparkのどちら？
- どちらもBlackwellのGPUと最大128GBを共有し、CUDAが動きます。RTX Sparkはメモリをわずかに速い300GB/s（DGX Sparkは273GB/s）で読み出し、Windows 11で動き、ノートPCに載っています。DGX SparkはLinuxで動き、共有メモリのより多くをGPUに割り当てます。このサイトの前提では、DGX Sparkが126GB、RTX Sparkが102GBです。持ち運べるCUDAのマシンならRTX Spark、1つのモデルにできるだけ多くの容量を使いたいならDGX Sparkです。
- メモリ：重み（パラメータ数 × パラメータあたりのバイト数）＋KVキャッシュ（標準的なTransformerでは2 × レイヤー数 × KVヘッド数 × ヘッド次元 × コンテキスト長 × バイト数。スライディングウィンドウ、ハイブリッド構成、MLAのモデルは実際のキャッシュのとおりに計算）＋ランタイム0.5GB＋重みの4%。導出の詳細はLLM VRAM計算ツールにあります。
- 速度：70% × メモリ帯域幅 ÷ アクティブな重みのバイト数。シングルストリーム、バッチ処理なし、プロンプト処理は含みません。実測ではなく上限です。≤の付いた数値（34個中7個）は、トークンごとに読む重みがごく少ないため、実際のランタイムが数値を最も大きく下回る箇所です。詳しくは生成速度（トークン/秒）推定ツールをご覧ください。
- GPUの仕様（メーカーの数値）：128GB、300GB/s。NVIDIAによるこのマシンの公式ページを参照してください。メモリ帯域幅の数値の出典はNVIDIAのRTX Spark移植ガイドです。ユニファイドメモリ：NVIDIAはGPU用にメモリの一部を確保し、Windows上では残りの50〜80%もGPUと共有できるようにしていますが、確保する容量は公表していません。その容量がいくつであっても、128GBのマシンでGPUが使えるのは最低102GBで、このページの数値は102GBを使っています。出典：NVIDIAのRTX Sparkユニファイドメモリガイド。
- モデルのアーキテクチャの値は、各モデルが公開しているconfigから取っています。それぞれの値が何を変えるかは、LLMのセルフホストのガイド（英語）で説明しています。