RX 7900 XT

Mistral Small 3.1 24Bが、このGPUを最も有効に使えるモデルです。使うのは20GBのうち16.3GBで、生成速度は推定40トークン/秒（チャットなら快適）、コンテキストにはまだ23,552トークン分の余裕があります。

ベンチマークは引用していないため、選び方を説明します。モデルはサイズで比べ、MoE（Mixture of Experts）モデルは総パラメータとアクティブパラメータの幾何平均で数えます（経験則で、測定ではありません）。メモリに余裕を持って収まり、25トークン/秒以上で応答する最も大きいクラスを選び、その中で最も新しい汎用モデルを選んでいます。コーディングや推論に特化したモデルは上の一覧には載せていますが、標準ではおすすめしていません。

このGPUが保持できる最大のモデルはMuse Glimmer 30Bで、必要量は18.7GBです。32,768トークンのコンテキストを確保できます。メモリの94%を使っていてもそれだけ確保できるのは、アテンションの設計上、トークンあたりのキャッシュがごく小さいからです。

パラメータ数より品質を重視するなら、Gemma 4 12BがQ8_0で約14.2GBに収まります。Q8はほぼ劣化がなく、Q8の小さなモデルは、Q3に押し込んだ大きなモデルに勝つことがよくあります。

KVキャッシュをQ8に量子化すると、保持できる量はおよそ2倍になり、品質の低下はほとんどの人が気づかない程度です。このGPUでは、Mistral Small 3.1 24Bが23,552トークンから48,128トークンになります。上限は128kトークン、またはそれより小さければモデル自身のネイティブのコンテキスト長で、後者は「モデルの上限」と表示しています。それを超える空きメモリは何の役にも立ちません。サイズの割にはるかに多くのコンテキストを保持できる行は、ハイブリッド構成、スライディングウィンドウ、MLA（Multi-head Latent Attention）のモデルで、標準的なTransformerのほんの一部しかキャッシュしません。計算の過程は各モデルのページにあります。

最初に届かなくなるモデルはGranite 4.2 30Bで、Q4_K_M・8kコンテキストで約20.3GBが必要です。使えるメモリは20GBです。Q3_K_Mに下げると約17GBが必要で、収まりますが、Q3は品質の低下が大きいため、たいていは小さなモデルをQ4で動かすほうが良い選択です。残りをシステムRAMにオフロードすれば動きますが、10〜50倍遅くなります。モデルが動くのを確かめる方法であって、使う方法ではありません。

動かすものが20GB・800GB/sで足り、ツールごとにROCm対応を確かめるのが苦でなければ、買う価値があります。RX 9070 XTと比べると、より多くを保持でき、読み出しも速いですが、9070 XTのほうが新しく、FP8が動きます。24GBが必要なら、RX 7900 XTXか中古のRTX 3090が一段上の選択肢で、たまに使う大きなモデルは時間単位で借りれば済みます。

小売価格は変動し、今日書いた数字はひと月もたたずに古くなるため、このページには載せていません。実際に検討している価格を、電気料金と実際の月間使用時間とあわせて購入とレンタルの比較ツールに入れてください。このGPUが負荷時に315Wを使うことは、ツールにすでに入っています。所有するほうが安くなる月がわかり、そうならない場合はそれがわかります。決め手になるのは、価格よりも月間の使用時間であることがはるかに多いです。

• RX 7900 XTX：24GB・960GB/s・最適なモデルはMuse Glimmer 30B、約39トークン/秒。3090クラスのメモリ容量と帯域幅を持ちながらCUDAのない、AMDの24GBのGPUです。
• RX 9070 XT：16GB・640GB/s・最適なモデルはGemma 4 12B、約64トークン/秒。AMDのRDNA 4世代のゲーム向けGPUで、16GB・640GB/s、LinuxとWindowsでROCmが使え、CUDAはありません。
• RTX 3090：24GB・936GB/s・最適なモデルはMuse Glimmer 30B、約38トークン/秒。ローカルモデルのコストパフォーマンスの基準で、何年もその座にあるGPUです。

全39種類のGPUはGPU一覧で並べて比較しています。同じ数値をモデルの側から見た表はモデルの適合表（英語）にあります。表を読む代わりに特定の組み合わせを確かめるなら、ローカルLLM動作チェッカーを使ってください。