Nanbeige4.3 33B
Nanbeige4.3 33BをQ4_K_M・8kコンテキストで動かすには、22.2GBのVRAMが必要です（2026年11月3日に確認したconfig.jsonから計算）。収まる最小のGPUのメモリは24GB（ぎりぎり）で、動くデスクトップ向けGPUのなかで最も速いRTX 5090では、生成速度は約65トークン/秒です。
- パラメータ
- 33.1B
- コンテキスト長
- 524,288トークン
- ライセンス
- Apache 2.0
- 公開
- 2026年10月
- config.jsonの確認日
- 2026年11月3日
Nanbeige4.3 33BをローカルLLM動作チェッカーで開く
どのメモリ容量のGPUで動くか
必要量22.2GBを、メモリ容量ごとに比べます。モデルが使えるのはGPUのメモリの95%までで、色が付いているのは残りの容量か、足りない容量だけです。「ぎりぎり」は85%を超える場合で、長い会話に使える余裕はほとんどありません。
ほかの量子化やコンテキスト長、Q8のKVキャッシュはLLM VRAM計算ツールで試せます。
計算・2026年11月3日どのGPUを選ぶか
このサイトで扱うGPUのうち、Q4_K_M・8kコンテキストで読み込める最小のものはRTX 5090 Laptop GPU（24GB）です。必要量は22.2GBで、生成速度は推定33トークン/秒です。ただしぎりぎりの収まり方で、会話に使える余裕はほとんど残りません。余裕を持って使いたい場合、つまり32,768トークンのコンテキストを確保しつつメモリ使用率を85%未満に抑えたい場合は、RTX A6000（48GB）に上げましょう。その場合の必要量は27.4GBで、生成速度は約28トークン/秒です。
ほぼ劣化のないQ8_0なら、収まる最小のGPUはRTX A6000（48GB）で、必要量は38.7GBです。Appleシリコンでは、Mac mini M4 Proなら32,768トークンのコンテキストを含めて保持でき、生成速度は推定10トークン/秒です。ただしプロンプト処理はNVIDIAより遅く、長い文書ではその差がはっきり出ます。ユニファイドメモリのデスクトップでは、Ryzen AI Max+ 395が32,768トークンのコンテキストを27.4GBで保持でき、生成速度は推定9トークン/秒です。
GPU別の生成速度
| GPU | 動く？ | 推定トークン/秒 | 体感 | メモリ | メモリ帯域幅 |
|---|---|---|---|---|---|
| H100 SXM | 動く | ≤ 122 | 読むより速い | 80GB | 3,350GB/s |
| A100 | 動く | 74 | 読むより速い | 80GB | 2,039GB/s |
| RTX 5090 | 動く | 65 | 読むより速い | 32GB | 1,792GB/s |
| RTX PRO 6000 Blackwell | 動く | 65 | 読むより速い | 96GB | 1,792GB/s |
| RTX PRO 5000 Blackwell | 動く | 49 | チャットなら快適 | 48GB | 1,344GB/s |
| RTX 4090 | ぎりぎり | 37 | チャットなら快適 | 24GB | 1,008GB/s |
| RX 7900 XTX | ぎりぎり | 35 | チャットなら快適 | 24GB | 960GB/s |
| RTX 6000 Ada | 動く | 35 | チャットなら快適 | 48GB | 960GB/s |
| RTX 3090 | ぎりぎり | 34 | チャットなら快適 | 24GB | 936GB/s |
| RTX 5090 Laptop GPU | ぎりぎり | 33 | チャットなら快適 | 24GB | 896GB/s |
| RTX PRO 4500 Blackwell | 動く | 33 | チャットなら快適 | 32GB | 896GB/s |
| L40S | 動く | 32 | チャットなら快適 | 48GB | 864GB/s |
| RTX A6000 | 動く | 28 | チャットなら快適 | 48GB | 768GB/s |
| RTX PRO 4000 Blackwell | ぎりぎり | 25 | 使えるがやや遅い | 24GB | 672GB/s |
| Radeon AI PRO R9700 | 動く | 23 | 使えるがやや遅い | 32GB | 640GB/s |
| Arc Pro B70 | 動く | 22 | 使えるがやや遅い | 32GB | 608GB/s |
| Arc Pro B60 | ぎりぎり | 17 | 使えるがやや遅い | 24GB | 456GB/s |
| RTX PRO 4000 Blackwell SFF | ぎりぎり | 16 | 使えるがやや遅い | 24GB | 432GB/s |
| RTX Spark | 動く | 11 | 遅い（バッチ処理なら十分） | 128GB（GPU用102GB） | 300GB/s |
| DGX Spark | 動く | 10 | 遅い（バッチ処理なら十分） | 128GB（GPU用126GB） | 273GB/s |
| Ryzen AI Max+ 395 | 動く | 9 | 遅い（バッチ処理なら十分） | 128GB（GPU用96GB） | 256GB/s |
| RX 7900 XT | 動かない | - | 収まらない | 20GB | 800GB/s |
| RTX 4060 Ti | 動かない | - | 収まらない | 16GB | 288GB/s |
| RTX 5060 Ti | 動かない | - | 収まらない | 16GB | 448GB/s |
| RTX 5080 | 動かない | - | 収まらない | 16GB | 960GB/s |
| RTX 5070 Ti | 動かない | - | 収まらない | 16GB | 896GB/s |
| RTX 4080 SUPER | 動かない | - | 収まらない | 16GB | 736GB/s |
| RX 9070 XT | 動かない | - | 収まらない | 16GB | 640GB/s |
| RX 9060 XT | 動かない | - | 収まらない | 16GB | 320GB/s |
| RTX 3060 | 動かない | - | 収まらない | 12GB | 360GB/s |
| RTX 4070 | 動かない | - | 収まらない | 12GB | 504GB/s |
| RTX 5070 | 動かない | - | 収まらない | 12GB | 672GB/s |
| Arc B580 | 動かない | - | 収まらない | 12GB | 456GB/s |
シングルストリームの生成速度を、メモリ帯域幅と効率70%から求めた値です。プロンプト処理とバッチ処理は含みません。どれも上限（理論値）で、実測ではありません。Nanbeige4.3 33BがQ4で1トークンごとに読む重みはわずか19.2GBです。これほど少ないと、計算式に含まれない1トークンごとのコストが実際の速度を大きく左右します。≤の付いた数値は、実際のランタイムの速度が表示値をもっとも大きく下回る箇所です。ほかの量子化やAppleのハードウェアについては生成速度（トークン/秒）推定ツールを、モデルではなくハードウェアを選んでいる場合は全GPUの比較をご覧ください。
計算・2026年11月3日量子化・コンテキスト長別の必要メモリ
| 量子化 | 4,096トークン | 8,192トークン | 32,768トークン |
|---|---|---|---|
| Q8_0 | 37.9GB（48GBに収まる） | 38.7GB（48GBに収まる） | 44GB（48GBに収まる） |
| Q5_K_M | 25.8GB（32GBに収まる） | 26.7GB（32GBに収まる） | 31.9GB（48GBに収まる） |
| Q4_K_M | 21.3GB（24GBに収まる） | 22.2GB（24GBに収まる） | 27.4GB（32GBに収まる） |
重みはQ4で19.2GBです。コンテキストが1,000トークン増えるごとに、FP16のKVキャッシュが約0.213GB増えます。ほかの設定はLLM VRAM計算ツールで試せます。
モデルについて
Nanbeige4.3 33Bは33.1Bパラメータのモデルです。52レイヤーで、KVヘッドは8個（ヘッド次元128）です。Nanbeigeチームが2026年10月に公開した33Bの密（dense）モデルで、Nanbeige4.3シリーズのフラッグシップであり、小さなモデルを蒸留する元になる「教師」モデルです。モデルカードによると、複雑なコーディングと業務での協働タスク（コードを書き、オフィスの作業をこなすエージェント）が得意です。中身は標準的なLlamaアーキテクチャのTransformerで、コンテキスト長は524,288トークンです。
テキストのみ コンテキスト長524,288トークン Apache 2.0 2026年10月公開
思考モード：デフォルトでオンで、リクエストごとにオフにできます。以前の思考を会話に残す設定もあり、モデルカードはツールの利用、オフィスの作業、コーディングエージェントではこれを勧めています。
これはコーディングモデルです。コードの作成・編集や、リポジトリ全体を読むエージェント型のツール向けに調整されています。長いコンテキストがメモリに見合う働きをするのは、まさにこの用途です。
ネイティブのコンテキスト長は524,288トークンです。ライセンスはApache 2.0で、寛容な（permissive）ライセンスです。重みの公開は2026年10月です。
得意なこと
- コーディングとオフィス作業のエージェント。モデルカードが挙げている用途です。
- 標準的なLlamaアーキテクチャのモデルなので、Llamaを読み込めるランタイムなら新たな対応を待たずに動き、コミュニティのGGUF版もすでに出ています。
- 32GBのGPU。Q4_K_Mで、数万トークンのコンテキストを持って収まります。
- Apache 2.0
注意点
- すべてのレイヤーが全長のキャッシュを持つため、長いコンテキストでは、同じ会話に2026年のハイブリッド構成のモデルが使うメモリの数倍が必要です。524,288トークンのコンテキスト長は本物ですが、いっぱいまで使うと重みよりはるかに多くのメモリが必要です。
- モデルカードが挙げている言語は、英語と中国語だけです。
- モデルカード自身のサーバーの例は4枚のGPUに分けて動かしており、Nanbeigeは自前のGGUFを公開していません。ローカルではコミュニティのビルドを使うことになります。
- 思考はデフォルトでオンで、思考のトークンもほかと同じようにコンテキストを埋めます。簡単な質問ではオフにしてください。
似たモデル
Q4_K_M・8kコンテキストでNanbeige4.3 33Bとほぼ同じメモリを必要とするモデルです。手持ちのGPUで実際に比べる相手になるのは、これらのモデルです。「1kトークンあたり」の列はコンテキストが1,000トークン増えるごとのコストで、同じサイズのモデルの間でもっとも差が出るところです。
| モデル | サイズ | 必要量 | 1kトークンあたり | コンテキスト長 | 公開 |
|---|---|---|---|---|---|
| Nanbeige4.3 33B | 33.1B | 22.2GB | 0.213GB | 512k | 2026年10月 |
| Qwen3 32B | 32.8B | 22.4GB | 0.262GB | 40k | 2025年4月 |
| DeepSeek-R1 Distill Qwen 32B | 32.8B | 22.4GB | 0.262GB | 128k | 2025年1月 |
| Qwen2.5 Coder 32B | 32.8B | 22.4GB | 0.262GB | 32k | 2024年11月 |
| Sage-A1.5 35B (MoE) | 36B（アクティブ3B） | 22.4GB | 0.02GB | 256k | 2026年10月 |
全モデルの比較、8〜96GBに収まるモデル（英語）、クラウドGPUごとの最安の時間料金（英語）もご覧ください。
よくある質問
- Nanbeige4.3 33Bは24GBのGPUで動く？
- はい。Q4_K_M・8kコンテキストで約22.2GBが必要で、24GBのGPUにぎりぎり収まります。
- Nanbeige4.3 33BをQ8で動かすには、VRAMはどれくらい必要？
- 8kコンテキストで約38.7GB、32kコンテキストでは44GBです。Q8はほぼ劣化がないので、収まるならQ8を使うのがおすすめです。
- Nanbeige4.3 33Bのコンテキスト長は？
- ネイティブで524,288トークンです。すべてをQ4_K_Mで保持すると約132.1GBが必要で、そのうち111.7GBがコンテキストの分です。
- Nanbeige4.3 33BとQwen3.8 27B、どちらを選ぶ？
- どちらも密（dense）モデルで、Apache 2.0です。Nanbeigeは自社のモデルをコーディングとオフィス作業のエージェント向けとしています。Qwen3.8 27Bは画像や動画も読め、64レイヤーのうち大きくなるキャッシュを持つのが16レイヤーだけなので、長いコンテキストのコストがはるかに小さくなります。Nanbeige4.3 33Bはテキストのみで、52レイヤーすべてがキャッシュを持つため、同じコンテキストではより多くのメモリが必要です。その量は両方のページの表で確認できます。
- Nanbeige4.3 33BはRTX 4090でどれくらいの速さ？
- Q4・シングルストリームでの上限は約37トークン/秒で、体感は「チャットなら快適」にあたります。これはGPUのメモリ帯域幅から求めた上限で、実測ではありません。
- アーキテクチャの値は、Hugging FaceのNanbeige/Nanbeige4.3-33Bにあるconfig.jsonとモデルカードから読み取り、2026年11月3日に確認しています。このページの数値はすべてこれらの値から計算しています。このモデルのためにハードウェアを買う前に、元の値を確認してください。
- 推定値は、ほかに何も動いていないGPUで会話を1つだけ扱う前提です。同じGPUでデスクトップ環境も動かすと、0.5〜2GBが使われます。