Qwen3.8 27B
Qwen3.8 27BをQ4_K_M・8kコンテキストで動かすには、18GBのVRAMが必要です(2026年10月16日に確認したconfig.jsonから計算)。収まる最小のGPUのメモリは24GBで、動くデスクトップ向けGPUのなかで最も速いRTX 5090では、生成速度は約78トークン/秒です。
- パラメータ
- 27.8B
- コンテキスト長
- 262,144トークン
- ライセンス
- Apache 2.0
- 公開
- 2026年8月
- config.jsonの確認日
- 2026年10月16日
どのメモリ容量のGPUで動くか
必要量18GBを、メモリ容量ごとに比べます。モデルが使えるのはGPUのメモリの95%までで、色が付いているのは残りの容量か、足りない容量だけです。「ぎりぎり」は85%を超える場合で、長い会話に使える余裕はほとんどありません。
ほかの量子化やコンテキスト長、Q8のKVキャッシュはLLM VRAM計算ツールで試せます。
計算・2026年10月16日どのGPUを選ぶか
このサイトで扱うGPUのうち、Q4_K_M・8kコンテキストで読み込める最小のものはRX 7900 XT(20GB)です。必要量は18GBで、生成速度は推定35トークン/秒です。ただしぎりぎりの収まり方で、会話に使える余裕はほとんど残りません。余裕を持って使いたい場合、つまり32,768トークンのコンテキストを確保しつつメモリ使用率を85%未満に抑えたい場合は、RTX 3090(24GB)に上げましょう。その場合の必要量は19.6GBで、生成速度は約41トークン/秒です。
ほぼ劣化のないQ8_0なら、収まる最小のGPUはRTX A6000(48GB)で、必要量は31.8GBです。Appleシリコンでは、Mac mini M4 Proなら32,768トークンのコンテキストを含めて保持でき、生成速度は推定12トークン/秒です。ただしプロンプト処理はNVIDIAより遅く、長い文書ではその差がはっきり出ます。ユニファイドメモリのデスクトップでは、Ryzen AI Max+ 395が32,768トークンのコンテキストを19.6GBで保持でき、生成速度は推定11トークン/秒です。
GPU別の生成速度
| GPU | 動く? | 推定トークン/秒 | 体感 | メモリ | メモリ帯域幅 |
|---|---|---|---|---|---|
| H100 SXM | 動く | ≤ 145 | 読むより速い | 80GB | 3,350GB/s |
| A100 | 動く | 89 | 読むより速い | 80GB | 2,039GB/s |
| RTX 5090 | 動く | 78 | 読むより速い | 32GB | 1,792GB/s |
| RTX PRO 6000 Blackwell | 動く | 78 | 読むより速い | 96GB | 1,792GB/s |
| RTX PRO 5000 Blackwell | 動く | 58 | チャットなら快適 | 48GB | 1,344GB/s |
| RTX 4090 | 動く | 44 | チャットなら快適 | 24GB | 1,008GB/s |
| RX 7900 XTX | 動く | 42 | チャットなら快適 | 24GB | 960GB/s |
| RTX 6000 Ada | 動く | 42 | チャットなら快適 | 48GB | 960GB/s |
| RTX 3090 | 動く | 41 | チャットなら快適 | 24GB | 936GB/s |
| RTX PRO 4500 Blackwell | 動く | 39 | チャットなら快適 | 32GB | 896GB/s |
| L40S | 動く | 38 | チャットなら快適 | 48GB | 864GB/s |
| RX 7900 XT | ぎりぎり | 35 | チャットなら快適 | 20GB | 800GB/s |
| RTX A6000 | 動く | 33 | チャットなら快適 | 48GB | 768GB/s |
| RTX PRO 4000 Blackwell | 動く | 29 | チャットなら快適 | 24GB | 672GB/s |
| Radeon AI PRO R9700 | 動く | 28 | チャットなら快適 | 32GB | 640GB/s |
| Arc Pro B70 | 動く | 26 | チャットなら快適 | 32GB | 608GB/s |
| Arc Pro B60 | 動く | 20 | 使えるがやや遅い | 24GB | 456GB/s |
| RTX PRO 4000 Blackwell SFF | 動く | 19 | 使えるがやや遅い | 24GB | 432GB/s |
| RTX Spark | 動く | 13 | 使えるがやや遅い | 128GB(GPU用102GB) | 300GB/s |
| DGX Spark | 動く | 12 | 遅い(バッチ処理なら十分) | 128GB(GPU用126GB) | 273GB/s |
| Ryzen AI Max+ 395 | 動く | 11 | 遅い(バッチ処理なら十分) | 128GB(GPU用96GB) | 256GB/s |
| RTX 4060 Ti | 動かない | - | 収まらない | 16GB | 288GB/s |
| RTX 5060 Ti | 動かない | - | 収まらない | 16GB | 448GB/s |
| RTX 5080 | 動かない | - | 収まらない | 16GB | 960GB/s |
| RTX 5070 Ti | 動かない | - | 収まらない | 16GB | 896GB/s |
| RTX 4080 SUPER | 動かない | - | 収まらない | 16GB | 736GB/s |
| RX 9070 XT | 動かない | - | 収まらない | 16GB | 640GB/s |
| RX 9060 XT | 動かない | - | 収まらない | 16GB | 320GB/s |
| RTX 3060 | 動かない | - | 収まらない | 12GB | 360GB/s |
| RTX 4070 | 動かない | - | 収まらない | 12GB | 504GB/s |
| RTX 5070 | 動かない | - | 収まらない | 12GB | 672GB/s |
| Arc B580 | 動かない | - | 収まらない | 12GB | 456GB/s |
シングルストリームの生成速度を、メモリ帯域幅と効率70%から求めた値です。プロンプト処理とバッチ処理は含みません。どれも上限(理論値)で、実測ではありません。Qwen3.8 27BがQ4で1トークンごとに読む重みはわずか16.1GBです。これほど少ないと、計算式に含まれない1トークンごとのコストが実際の速度を大きく左右します。≤の付いた数値は、実際のランタイムの速度が表示値をもっとも大きく下回る箇所です。ほかの量子化やAppleのハードウェアについては生成速度(トークン/秒)推定ツールを、モデルではなくハードウェアを選んでいる場合は全GPUの比較をご覧ください。
計算・2026年10月16日量子化・コンテキスト長別の必要メモリ
| 量子化 | 4,096トークン | 8,192トークン | 32,768トークン |
|---|---|---|---|
| Q8_0 | 31.6GB(48GBに収まる) | 31.8GB(48GBに収まる) | 33.4GB(48GBに収まる) |
| Q5_K_M | 21.4GB(24GBに収まる) | 21.7GB(24GBに収まる) | 23.3GB(32GBに収まる) |
| Q4_K_M | 17.7GB(24GBに収まる) | 18GB(24GBに収まる) | 19.6GB(24GBに収まる) |
重みはQ4で16.1GBです。コンテキストが1,000トークン増えるごとに、FP16のKVキャッシュが約0.066GB増えます(これとは別に、大きくならない固定の再帰状態が0.15GBあります)。ほかの設定はLLM VRAM計算ツールで試せます。
モデルについて
Qwen3.8 27Bは27.8Bパラメータのモデルです。全64レイヤーのうち、会話とともに大きくなるキャッシュを持つのはフルアテンションの16レイヤーだけです(KVヘッド4個、ヘッド次元256)。残りの48レイヤーはGated DeltaNetの線形アテンションで、持つのは約0.15GBの固定サイズの状態だけです。Alibabaが2026年8月に公開した27Bの密(dense)モデルで、同年もっともダウンロードされたオープンモデルのひとつです。Qwen3.5のハイブリッド構成をベースにしたネイティブの視覚言語モデルで、コーディング、リサーチ、長く多段階にわたるエージェント作業を狙っています。
テキスト、画像、動画 コンテキスト長262,144トークン Apache 2.0 2026年8月公開
思考モード:デフォルトでオンになっており、リクエストごとにオフにできます。思考の深さは推論強度(reasoning effort)の設定で調整できます。
パラメータ数にはビジョンエンコーダが含まれます。テキスト専用のGGUFはわずかに小さくなります。
ネイティブのコンテキスト長は262,144トークンです。ライセンスはApache 2.0で、寛容な(permissive)ライセンスです。重みの公開は2026年8月です。Qwen3.6 27B、Qwen3 32Bの後継にあたります。
得意なこと
- 24GBのGPU。Q4で収まり、数万トークン分のコンテキストの余裕が残ります。先代のQwen3 32Bは、同じGPUを重みだけで埋めていました。
- エージェント型のコーディングと長いタスク。リリースノートによれば、そのために調整されています。
- 別のモデルを用意せずに、画像、文書、長い動画を読み取ること
- Apache 2.0ライセンス
注意点
- 思考はデフォルトでオンで、思考のトークンもほかのトークンと同じようにコンテキストを埋めます。簡単な質問ではオフにしましょう。
- メモリの数値は、Gated DeltaNetに対応したランタイムが前提です。古いビルドでは、2025年のモデルと同じ計算でメモリが必要になると考えてください。
- Q8では48GBのGPUが必要で、32GBで済む中間の選択肢はありません。
似たモデル
Q4_K_M・8kコンテキストでQwen3.8 27Bとほぼ同じメモリを必要とするモデルです。手持ちのGPUで実際に比べる相手になるのは、これらのモデルです。「1kトークンあたり」の列はコンテキストが1,000トークン増えるごとのコストで、同じサイズのモデルの間でもっとも差が出るところです。
| モデル | サイズ | 必要量 | 1kトークンあたり | コンテキスト長 | 公開 |
|---|---|---|---|---|---|
| Qwen3.8 27B | 27.8B | 18GB | 0.066GB | 256k | 2026年8月 |
| Qwen3.6 27B | 27.8B | 18GB | 0.066GB | 256k | 2026年4月 |
| Gemma 3 27B | 27.4B | 18.1GB | 0.082GB | 128k | 2025年3月 |
| Muse Glimmer 30B | 29.8B | 18.7GB | 0.013GB | 128k | 2026年8月 |
| Gemma 4 26B-A4B (MoE) | 25.8B(アクティブ3.8B) | 16.4GB | 0.02GB | 256k | 2026年3月 |
全モデルの比較、8〜96GBに収まるモデル(英語)、クラウドGPUごとの最安の時間料金(英語)もご覧ください。
よくある質問
- Qwen3.8 27Bは24GBのGPUで動く?
- はい。Q4_K_M・8kコンテキストで約18GBが必要で、24GBのGPUに余裕を持って収まります。
- Qwen3.8 27BをQ8で動かすには、VRAMはどれくらい必要?
- 8kコンテキストで約31.8GB、32kコンテキストでは33.4GBです。Q8はほぼ劣化がないので、収まるならQ8を使うのがおすすめです。
- Qwen3.8 27Bのコンテキスト長は?
- ネイティブで262,144トークンです。すべてをQ4_K_Mで保持すると約34.6GBが必要で、そのうち17.3GBがコンテキストの分です。
- Qwen3.8 27Bが長いコンテキストでも少ないメモリで済むのはなぜ?
- ほとんどのレイヤーが、大きくなっていくキャッシュを持たないからです。全64レイヤーのうち、会話とともに大きくなるキャッシュを持つのはフルアテンションの16レイヤーだけです(KVヘッド4個、ヘッド次元256)。残りの48レイヤーはGated DeltaNetの線形アテンションで、持つのは約0.15GBの固定サイズの状態だけです。32kトークンのコンテキストに必要なメモリは約2.3GBです。もし64レイヤーすべてが従来どおり全長のキャッシュを持っていたら、同じ会話に約8.6GBかかります。
- Qwen3.8 27BはRTX 4090や3090で動く?
- はい。Q4_K_Mで、長いコンテキストでも動きます。64レイヤーのうち大きくなるキャッシュを持つのは16レイヤーだけなので、会話にかかるメモリは標準的な27B〜32Bモデルの数分の1です。どちらのGPUについても、正確な数値は上の表にあります。
- Qwen3.8 27BはRTX 4090でどれくらいの速さ?
- Q4・シングルストリームでの上限は約44トークン/秒で、体感は「チャットなら快適」にあたります。これはGPUのメモリ帯域幅から求めた上限で、実測ではありません。
- アーキテクチャの値は、Hugging FaceのQwen/Qwen3.8-27Bにあるconfig.jsonから読み取り、2026年10月16日に確認しています。このページの数値はすべてこれらの値から計算しています。このモデルのためにハードウェアを買う前に、元の値を確認してください。
- 推定値は、ほかに何も動いていないGPUで会話を1つだけ扱う前提です。同じGPUでデスクトップ環境も動かすと、0.5〜2GBが使われます。