Qwen3 30B-A3B (MoE)
Qwen3 30B-A3B (MoE)をQ4_K_M・8kコンテキストで動かすには、19.7GBのVRAMが必要です（2026年10月16日に確認したconfig.jsonから計算）。収まる最小のGPUのメモリは24GBで、動くデスクトップ向けGPUのなかで最も速いRTX 5090では、生成速度は最大655トークン/秒です。
- パラメータ
- 30.5B（アクティブ3.3B）
- コンテキスト長
- 40,960トークン
- ライセンス
- Apache 2.0
- 公開
- 2025年4月
- config.jsonの確認日
- 2026年10月16日
Qwen3 30B-A3B (MoE)をローカルLLM動作チェッカーで開く
どのメモリ容量のGPUで動くか
必要量19.7GBを、メモリ容量ごとに比べます。モデルが使えるのはGPUのメモリの95%までで、色が付いているのは残りの容量か、足りない容量だけです。「ぎりぎり」は85%を超える場合で、長い会話に使える余裕はほとんどありません。
ほかの量子化やコンテキスト長、Q8のKVキャッシュはLLM VRAM計算ツールで試せます。
計算・2026年10月16日どのGPUを選ぶか
このサイトで扱うGPUのうち、Q4_K_M・8kコンテキストで読み込める最小のものはRTX 3090（24GB）です。必要量は19.7GBで、生成速度は推定342トークン/秒です。余裕を持って使いたい場合、つまり32,768トークンのコンテキストを確保しつつメモリ使用率を85%未満に抑えたい場合は、RTX 5090（32GB）に上げましょう。その場合の必要量は22.1GBで、生成速度は約655トークン/秒です。
ほぼ劣化のないQ8_0なら、収まる最小のGPUはRTX A6000（48GB）で、必要量は34.9GBです。Appleシリコンでは、Mac mini M4 Proなら32,768トークンのコンテキストを含めて保持でき、生成速度は推定100トークン/秒です。ただしプロンプト処理はNVIDIAより遅く、長い文書ではその差がはっきり出ます。ユニファイドメモリのデスクトップでは、Ryzen AI Max+ 395が32,768トークンのコンテキストを22.1GBで保持でき、生成速度は推定94トークン/秒です。
GPU別の生成速度
| GPU | 動く？ | 推定トークン/秒 | 体感 | メモリ | メモリ帯域幅 |
|---|---|---|---|---|---|
| H100 SXM | 動く | ≤ 1,225 | 読むより速い | 80GB | 3,350GB/s |
| A100 | 動く | ≤ 746 | 読むより速い | 80GB | 2,039GB/s |
| RTX 5090 | 動く | ≤ 655 | 読むより速い | 32GB | 1,792GB/s |
| RTX PRO 6000 Blackwell | 動く | ≤ 655 | 読むより速い | 96GB | 1,792GB/s |
| RTX PRO 5000 Blackwell | 動く | ≤ 492 | 読むより速い | 48GB | 1,344GB/s |
| RTX 4090 | 動く | ≤ 369 | 読むより速い | 24GB | 1,008GB/s |
| RX 7900 XTX | 動く | ≤ 351 | 読むより速い | 24GB | 960GB/s |
| RTX 6000 Ada | 動く | ≤ 351 | 読むより速い | 48GB | 960GB/s |
| RTX 3090 | 動く | ≤ 342 | 読むより速い | 24GB | 936GB/s |
| RTX PRO 4500 Blackwell | 動く | ≤ 328 | 読むより速い | 32GB | 896GB/s |
| L40S | 動く | ≤ 316 | 読むより速い | 48GB | 864GB/s |
| RTX A6000 | 動く | ≤ 281 | 読むより速い | 48GB | 768GB/s |
| RTX PRO 4000 Blackwell | 動く | ≤ 246 | 読むより速い | 24GB | 672GB/s |
| Radeon AI PRO R9700 | 動く | ≤ 234 | 読むより速い | 32GB | 640GB/s |
| Arc Pro B70 | 動く | ≤ 222 | 読むより速い | 32GB | 608GB/s |
| Arc Pro B60 | 動く | ≤ 167 | 読むより速い | 24GB | 456GB/s |
| RTX PRO 4000 Blackwell SFF | 動く | ≤ 158 | 読むより速い | 24GB | 432GB/s |
| RTX Spark | 動く | ≤ 110 | 読むより速い | 128GB（GPU用102GB） | 300GB/s |
| DGX Spark | 動く | 100 | 読むより速い | 128GB（GPU用126GB） | 273GB/s |
| Ryzen AI Max+ 395 | 動く | 94 | 読むより速い | 128GB（GPU用96GB） | 256GB/s |
| RX 7900 XT | 動かない | - | 収まらない | 20GB | 800GB/s |
| RTX 4060 Ti | 動かない | - | 収まらない | 16GB | 288GB/s |
| RTX 5060 Ti | 動かない | - | 収まらない | 16GB | 448GB/s |
| RTX 5080 | 動かない | - | 収まらない | 16GB | 960GB/s |
| RTX 5070 Ti | 動かない | - | 収まらない | 16GB | 896GB/s |
| RTX 4080 SUPER | 動かない | - | 収まらない | 16GB | 736GB/s |
| RX 9070 XT | 動かない | - | 収まらない | 16GB | 640GB/s |
| RX 9060 XT | 動かない | - | 収まらない | 16GB | 320GB/s |
| RTX 3060 | 動かない | - | 収まらない | 12GB | 360GB/s |
| RTX 4070 | 動かない | - | 収まらない | 12GB | 504GB/s |
| RTX 5070 | 動かない | - | 収まらない | 12GB | 672GB/s |
| Arc B580 | 動かない | - | 収まらない | 12GB | 456GB/s |
シングルストリームの生成速度を、メモリ帯域幅と効率70%から求めた値です。プロンプト処理とバッチ処理は含みません。どれも上限（理論値）で、実測ではありません。Qwen3 30B-A3B (MoE)がQ4で1トークンごとに読む重みはわずか1.9GBです。これほど少ないと、計算式に含まれない1トークンごとのコストが実際の速度を大きく左右します。≤の付いた18個の数値は、実際のランタイムの速度が表示値をもっとも大きく下回る箇所です。ほかの量子化やAppleのハードウェアについては生成速度（トークン/秒）推定ツールを、モデルではなくハードウェアを選んでいる場合は全GPUの比較をご覧ください。
計算・2026年10月16日量子化・コンテキスト長別の必要メモリ
| 量子化 | 4,096トークン | 8,192トークン | 32,768トークン |
|---|---|---|---|
| Q8_0 | 34.5GB（48GBに収まる） | 34.9GB（48GBに収まる） | 37.3GB（48GBに収まる） |
| Q5_K_M | 23.4GB（32GBに収まる） | 23.8GB（32GBに収まる） | 26.2GB（32GBに収まる） |
| Q4_K_M | 19.3GB（24GBに収まる） | 19.7GB（24GBに収まる） | 22.1GB（24GBに収まる） |
Qwen3.6 35B-A3B (MoE)は、このファミリーの新しいモデルです。同じ設定で約22.4GBが必要です。
重みはQ4で17.7GBです。コンテキストが1,000トークン増えるごとに、FP16のKVキャッシュが約0.098GB増えます。ほかの設定はLLM VRAM計算ツールで試せます。
モデルについて
Qwen3 30B-A3B (MoE)は30.5Bパラメータのモデルです。MoE（Mixture of Experts）構成で、1トークンごとのアクティブパラメータは3.3Bです。48レイヤーで、KVヘッドは4個（ヘッド次元128）です。Qwen3世代（2025年4月）の小さいほうのMoEモデルで、重みは30B、1トークンごとに読むのは3.3Bです。一般向けのGPU1枚で「速くて十分使える」を実現しました。
テキストのみ コンテキスト長40,960トークン Apache 2.0 2025年4月公開 30.5B中3.3Bがアクティブ
思考モード：切り替え式です。回答の前に段階的に考えるか、すぐに答えるかを、リクエストごとに設定できます。
すべてのエキスパートがメモリに置かれますが、1トークンごとのアクティブパラメータは3.3Bだけなので、サイズの割に高速です。
ネイティブのコンテキスト長は40,960トークンです。ライセンスはApache 2.0で、寛容な（permissive）ライセンスです。重みの公開は2025年4月です。
得意なこと
- 24GBのGPUでの速度
- このモデルを前提にした既存の環境やファインチューニング版
注意点
- ネイティブのコンテキスト長は40,960トークンです。QwenはYaRNによるスケーリングで131kまで伸ばす方法を公開していますが、それは2025年の設計を引き伸ばしたもので、学習時の長さではありません。
- 後継のQwen3.6 35B-A3Bは画像に対応し、コンテキスト長は262k、キャッシュのサイズは数分の1で済みます。
似たモデル
Q4_K_M・8kコンテキストでQwen3 30B-A3B (MoE)とほぼ同じメモリを必要とするモデルです。手持ちのGPUで実際に比べる相手になるのは、これらのモデルです。「1kトークンあたり」の列はコンテキストが1,000トークン増えるごとのコストで、同じサイズのモデルの間でもっとも差が出るところです。
| モデル | サイズ | 必要量 | 1kトークンあたり | コンテキスト長 | 公開 |
|---|---|---|---|---|---|
| Qwen3 30B-A3B (MoE) | 30.5B（アクティブ3.3B） | 19.7GB | 0.098GB | 40k | 2025年4月 |
| Nemotron 3.5 Lightning 30B-A3B (MoE) | 31.6B（アクティブ3B） | 19.7GB | 0.006GB | 256k | 2026年8月 |
| GLM-4.7 Flash 30B-A3B (MoE) | 31.2B（アクティブ3B） | 19.8GB | 0.054GB | 198k | 2026年1月 |
| Granite 4.2 30B | 29.3B | 20.3GB | 0.262GB | 128k | 2026年8月 |
| Muse Glimmer 30B | 29.8B | 18.7GB | 0.013GB | 128k | 2026年8月 |
全モデルの比較、8〜96GBに収まるモデル（英語）、クラウドGPUごとの最安の時間料金（英語）もご覧ください。
よくある質問
- Qwen3 30B-A3B (MoE)は24GBのGPUで動く？
- はい。Q4_K_M・8kコンテキストで約19.7GBが必要で、24GBのGPUに余裕を持って収まります。
- Qwen3 30B-A3B (MoE)をQ8で動かすには、VRAMはどれくらい必要？
- 8kコンテキストで約34.9GB、32kコンテキストでは37.3GBです。Q8はほぼ劣化がないので、収まるならQ8を使うのがおすすめです。
- Qwen3 30B-A3B (MoE)のコンテキスト長は？
- ネイティブで40,960トークンです。現在の基準では短めで、これはGPUではなくモデル側の制限です。メモリに余裕があっても伸ばせません。QwenはYaRNによるスケーリングでさらに伸ばす方法を公開していますが、短いプロンプトでは品質が多少落ちます。
- Qwen3 30B-A3B (MoE)より新しいモデルはある？
- あります。Qwen3.6 35B-A3B (MoE)で、2026年4月に公開されました。同じQ4_K_M・8kコンテキストの設定で、このモデルの19.7GBに対して約22.4GBが必要です。
- Qwen3 30B-A3B (MoE)はRTX 4090でどれくらいの速さ？
- Q4・シングルストリームでの上限は約369トークン/秒で、体感は「読むより速い」にあたります。これはGPUのメモリ帯域幅から求めた上限で、実測ではありません。この水準の数値では、計算式に含まれないコストが1トークンごとの時間に占める割合が大きくなるため、実際のランタイムはこれを大きく下回ります。
- アーキテクチャの値は、Hugging FaceのQwen/Qwen3-30B-A3Bにあるconfig.jsonから読み取り、2026年10月16日に確認しています。このページの数値はすべてこれらの値から計算しています。このモデルのためにハードウェアを買う前に、元の値を確認してください。
- 推定値は、ほかに何も動いていないGPUで会話を1つだけ扱う前提です。同じGPUでデスクトップ環境も動かすと、0.5〜2GBが使われます。