Nemotron 3.5 Bolt 74B-A9B (MoE)
Nemotron 3.5 Bolt 74B-A9B (MoE)をQ4_K_M・8kコンテキストで動かすには、45.9GBのVRAMが必要です（2026年10月16日に確認したconfig.jsonから計算）。収まる最小のGPUのメモリは80GBで、動くデスクトップ向けGPUのなかで最も速いRTX PRO 6000 Blackwellでは、生成速度は最大240トークン/秒です。
- パラメータ
- 74.9B（アクティブ9B）
- コンテキスト長
- 262,144トークン
- ライセンス
- OpenMDW 1.1
- 公開
- 2026年10月
- config.jsonの確認日
- 2026年10月16日
Nemotron 3.5 Bolt 74B-A9B (MoE)をローカルLLM動作チェッカーで開く
どのメモリ容量のGPUで動くか
必要量45.9GBを、メモリ容量ごとに比べます。モデルが使えるのはGPUのメモリの95%までで、色が付いているのは残りの容量か、足りない容量だけです。「ぎりぎり」は85%を超える場合で、長い会話に使える余裕はほとんどありません。
ほかの量子化やコンテキスト長、Q8のKVキャッシュはLLM VRAM計算ツールで試せます。
計算・2026年10月16日どのGPUを選ぶか
このサイトで扱うGPUのうち、Q4_K_M・8kコンテキストで読み込める最小のものはA100（80GB）です。必要量は45.9GBで、生成速度は推定273トークン/秒です。同じGPUでも32,768トークンのコンテキストまで余裕があるため（46.1GB）、このモデルのためにそれより上のGPUを買う理由はありません。
ほぼ劣化のないQ8_0なら、収まる最小のGPUはRTX PRO 6000 Blackwell（96GB）で、必要量は83.3GBです。Appleシリコンでは、MacBook Pro M4 Maxなら32,768トークンのコンテキストを含めて保持でき、生成速度は推定73トークン/秒です。ただしプロンプト処理はNVIDIAより遅く、長い文書ではその差がはっきり出ます。ユニファイドメモリのデスクトップでは、Ryzen AI Max+ 395が32,768トークンのコンテキストを46.1GBで保持でき、生成速度は推定34トークン/秒です。
GPU別の生成速度
| GPU | 動く？ | 推定トークン/秒 | 体感 | メモリ | メモリ帯域幅 |
|---|---|---|---|---|---|
| H100 SXM | 動く | ≤ 449 | 読むより速い | 80GB | 3,350GB/s |
| A100 | 動く | ≤ 273 | 読むより速い | 80GB | 2,039GB/s |
| RTX PRO 6000 Blackwell | 動く | ≤ 240 | 読むより速い | 96GB | 1,792GB/s |
| RTX Spark | 動く | 40 | チャットなら快適 | 128GB（GPU用102GB） | 300GB/s |
| DGX Spark | 動く | 37 | チャットなら快適 | 128GB（GPU用126GB） | 273GB/s |
| Ryzen AI Max+ 395 | 動く | 34 | チャットなら快適 | 128GB（GPU用96GB） | 256GB/s |
| RTX 6000 Ada | 動かない | - | 収まらない | 48GB | 960GB/s |
| L40S | 動かない | - | 収まらない | 48GB | 864GB/s |
| RTX A6000 | 動かない | - | 収まらない | 48GB | 768GB/s |
| RTX PRO 5000 Blackwell | 動かない | - | 収まらない | 48GB | 1,344GB/s |
| RTX 5090 | 動かない | - | 収まらない | 32GB | 1,792GB/s |
| RTX PRO 4500 Blackwell | 動かない | - | 収まらない | 32GB | 896GB/s |
| Radeon AI PRO R9700 | 動かない | - | 収まらない | 32GB | 640GB/s |
| Arc Pro B70 | 動かない | - | 収まらない | 32GB | 608GB/s |
| RTX 3090 | 動かない | - | 収まらない | 24GB | 936GB/s |
| RTX 4090 | 動かない | - | 収まらない | 24GB | 1,008GB/s |
| RX 7900 XTX | 動かない | - | 収まらない | 24GB | 960GB/s |
| RTX PRO 4000 Blackwell | 動かない | - | 収まらない | 24GB | 672GB/s |
| RTX PRO 4000 Blackwell SFF | 動かない | - | 収まらない | 24GB | 432GB/s |
| Arc Pro B60 | 動かない | - | 収まらない | 24GB | 456GB/s |
| RX 7900 XT | 動かない | - | 収まらない | 20GB | 800GB/s |
| RTX 4060 Ti | 動かない | - | 収まらない | 16GB | 288GB/s |
| RTX 5060 Ti | 動かない | - | 収まらない | 16GB | 448GB/s |
| RTX 5080 | 動かない | - | 収まらない | 16GB | 960GB/s |
| RTX 5070 Ti | 動かない | - | 収まらない | 16GB | 896GB/s |
| RTX 4080 SUPER | 動かない | - | 収まらない | 16GB | 736GB/s |
| RX 9070 XT | 動かない | - | 収まらない | 16GB | 640GB/s |
| RX 9060 XT | 動かない | - | 収まらない | 16GB | 320GB/s |
| RTX 3060 | 動かない | - | 収まらない | 12GB | 360GB/s |
| RTX 4070 | 動かない | - | 収まらない | 12GB | 504GB/s |
| RTX 5070 | 動かない | - | 収まらない | 12GB | 672GB/s |
| Arc B580 | 動かない | - | 収まらない | 12GB | 456GB/s |
シングルストリームの生成速度を、メモリ帯域幅と効率70%から求めた値です。プロンプト処理とバッチ処理は含みません。どれも上限（理論値）で、実測ではありません。Nemotron 3.5 Bolt 74B-A9B (MoE)がQ4で1トークンごとに読む重みはわずか5.2GBです。これほど少ないと、計算式に含まれない1トークンごとのコストが実際の速度を大きく左右します。≤の付いた3個の数値は、実際のランタイムの速度が表示値をもっとも大きく下回る箇所です。ほかの量子化やAppleのハードウェアについては生成速度（トークン/秒）推定ツールを、モデルではなくハードウェアを選んでいる場合は全GPUの比較をご覧ください。
計算・2026年10月16日量子化・コンテキスト長別の必要メモリ
| 量子化 | 4,096トークン | 8,192トークン | 32,768トークン |
|---|---|---|---|
| Q8_0 | 83.3GB（96GBに収まる） | 83.3GB（96GBに収まる） | 83.5GB（96GBに収まる） |
| Q5_K_M | 56GB（80GBに収まる） | 56GB（80GBに収まる） | 56.2GB（80GBに収まる） |
| Q4_K_M | 45.9GB（80GBに収まる） | 45.9GB（80GBに収まる） | 46.1GB（80GBに収まる） |
重みはQ4で43.4GBです。コンテキストが1,000トークン増えるごとに、FP16のKVキャッシュが約0.008GB増えます（これとは別に、大きくならない固定の再帰状態が0.17GBあります）。ほかの設定はLLM VRAM計算ツールで試せます。
モデルについて
Nemotron 3.5 Bolt 74B-A9B (MoE)は74.9Bパラメータのモデルです。MoE（Mixture of Experts）構成で、1トークンごとのアクティブパラメータは9Bです。全88ブロックのうち、アテンションレイヤーは8つだけです（KVヘッド2個、ヘッド次元128）。40ブロックは小さな固定サイズの状態を持つMamba-2レイヤー、残りの40ブロックはキャッシュをまったく持たないMoEレイヤーです。NVIDIAが2026年10月に公開した74B-A9Bの視覚言語モデルで、エージェントの作業を1台のマシンで動かすために、Nemotron 3.5 Super VL 120B-A12Bを圧縮して作られました。Lightningと同じ3種のハイブリッド構成（Mamba-2レイヤー、MoEレイヤー、わずか8つのアテンションレイヤー）ですが、大きさは2倍以上で、画像と動画も読み込めます。
テキスト、画像、動画 コンテキスト長262,144トークン OpenMDW 1.1 2026年10月公開 74.9B中9Bがアクティブ
思考モード：チャットテンプレートで、リクエストごとに切り替えられます。オフと完全な推論の間に、中程度（medium effort）の設定もあります。
NVIDIA自身の24GB版はネイティブの2ビット版で、ここで計算している最も低い行より下です。GGUFの重みは22.0GBで、ビジョンエンコーダは1.7GBの別ファイルになっています。
ネイティブのコンテキスト長は262,144トークンです。ライセンスはOpenMDW 1.1で、固有の条件を定めた独自ライセンスです。商用利用の前に読んでください。重みの公開は2026年10月です。
得意なこと
- NVIDIA自身の2ビット版による24GBのGPU。コミュニティの量子化に任せず、NVIDIAがそのメモリに合わせて作っています。
- 長いエージェントのセッション。KVヘッド2個のアテンションレイヤーが8つだけなので、262,144トークンのコンテキストウィンドウいっぱい近くでもキャッシュは小さいままです。
- Q4なら80GBのGPUか128GBのマシン、Q3_K_Mなら48GBのGPU
- ツール呼び出しとMCP。NVIDIAは、MCPとソフトウェア開発の環境での強化学習で訓練しており、MCPの環境は模擬のMCPサーバーで作られています。
- 会話と一緒に、スクリーンショット、文書、最長2分の動画を読み込むこと
注意点
- NVIDIAの名前にある24GBは、2ビット版のことです。このページが計算する最も低いレベルのQ3_K_Mでも48GBのGPUが必要で、2ビットの重みでは品質がいくらか落ちます。NVIDIAは両方のバージョンの結果を公開しているので、自分の用途で比べてください。
- BF16のチェックポイントはカスタマイズ向けです。動かす用途には、NVIDIAは24GB版（llama.cpp用のGGUFとvLLM用の版）を案内しています。
- NVIDIA自身の手順は、リポジトリにある推論パーサーのファイルとvLLMを使います。それ以外のランタイムでは、Nemotronのハイブリッド構成のレイヤーに対応したビルドが必要です。
- OpenMDW 1.1は独自のライセンスです。Apacheと同じだと思い込まず、読んでから使ってください。
- モデルカードは対応言語を2か所に書いていて、内容が食い違っています。一方は英語とスペイン語、フランス語、ドイツ語、イタリア語、日本語、もう一方はそれにヒンディー語、韓国語、ブラジルポルトガル語、中国語を加えたものです。使う言語で試してください。
似たモデル
Q4_K_M・8kコンテキストでNemotron 3.5 Bolt 74B-A9B (MoE)とほぼ同じメモリを必要とするモデルです。手持ちのGPUで実際に比べる相手になるのは、これらのモデルです。「1kトークンあたり」の列はコンテキストが1,000トークン増えるごとのコストで、同じサイズのモデルの間でもっとも差が出るところです。
| モデル | サイズ | 必要量 | 1kトークンあたり | コンテキスト長 | 公開 |
|---|---|---|---|---|---|
| Nemotron 3.5 Bolt 74B-A9B (MoE) | 74.9B（アクティブ9B） | 45.9GB | 0.008GB | 256k | 2026年10月 |
| DeepSeek-R1 Distill Llama 70B | 70.6B | 45.8GB | 0.328GB | 128k | 2025年1月 |
| Llama 3.3 70B | 70.6B | 45.8GB | 0.328GB | 128k | 2024年12月 |
| Qwen3-Coder-Next 80B-A3B (MoE) | 79.7B（アクティブ3B） | 48.9GB | 0.025GB | 256k | 2026年1月 |
| gpt-oss 120B | 117B（アクティブ5.1B） | 71.4GB | 0.037GB | 128k | 2025年8月 |
全モデルの比較、8〜96GBに収まるモデル（英語）、クラウドGPUごとの最安の時間料金（英語）もご覧ください。
よくある質問
- Nemotron 3.5 Bolt 74B-A9B (MoE)は24GBのGPUで動く？
- いいえ、24GBのGPUには収まりません。Q4_K_M・8kコンテキストで約45.9GBが必要です。収まる最小のクラスは80GBです。
- Nemotron 3.5 Bolt 74B-A9B (MoE)をQ8で動かすには、VRAMはどれくらい必要？
- 8kコンテキストで約83.3GB、32kコンテキストでは83.5GBです。Q8はほぼ劣化がないので、収まるならQ8を使うのがおすすめです。
- Nemotron 3.5 Bolt 74B-A9B (MoE)のコンテキスト長は？
- ネイティブで262,144トークンです。すべてをQ4_K_Mで保持すると約48GBが必要で、そのうち2.3GBがコンテキストの分です。
- Nemotron 3.5 Bolt 74B-A9B (MoE)が長いコンテキストでも少ないメモリで済むのはなぜ？
- ほとんどのレイヤーが、大きくなっていくキャッシュを持たないからです。全88ブロックのうち、アテンションレイヤーは8つだけです（KVヘッド2個、ヘッド次元128）。40ブロックは小さな固定サイズの状態を持つMamba-2レイヤー、残りの40ブロックはキャッシュをまったく持たないMoEレイヤーです。32kトークンのコンテキストに必要なメモリは約0.4GBです。もし88レイヤーすべてが従来どおり全長のキャッシュを持っていたら、同じ会話に約3GBかかります。
- Nemotron 3.5 Boltは24GBのGPUで動く？
- 2ビット版なら動きます。たとえばNVIDIA自身の24GB版は、24GBのメモリに収まるようにNVIDIAが作ったものです。このページが計算するQ3_K_M以上では、24GBのGPUにあるより多くのメモリが必要です。
- Nemotron 3.5 Bolt 74B-A9B (MoE)はRTX 4090でどれくらいの速さ？
- Q4・8kコンテキストではRTX 4090に収まらないため、CPUへのオフロードになり、速度は激減します。より大きなGPUを使うか、ビット数のより少ない量子化を選んでください。
- アーキテクチャの値は、Hugging Faceのnvidia/NVIDIA-Nemotron-3.5-Bolt-74B-A9B-BF16にあるconfig.jsonとモデルカードから読み取り、2026年10月16日に確認しています。このページの数値はすべてこれらの値から計算しています。このモデルのためにハードウェアを買う前に、元の値を確認してください。
- 推定値は、ほかに何も動いていないGPUで会話を1つだけ扱う前提です。同じGPUでデスクトップ環境も動かすと、0.5〜2GBが使われます。