Radeon AI PRO R9700
Radeon AI PRO R9700は、このサイトで扱う34のオープンモデルのうち28モデルを、Q4_K_M・8kコンテキストで動かせます（2026年10月16日に計算）。最大のモデルはQwen3.6 35B-A3B (MoE)で、必要量は22.4GB、生成速度は最大257トークン/秒です。
- メモリ
- 32GB（VRAM）
- メモリ帯域幅
- 640GB/s
- ボード電力
- 300W
- 発売
- 2025年
- 入手方法
- ワークステーション向け
Radeon AI PRO R9700をローカルLLM動作チェッカーで開く
Radeon AI PRO R9700で動くモデルの一覧
Radeon AI PRO R9700（32GB）がGPUで使えるメモリは32GBで、メモリ帯域幅は640GB/sです。以下のモデルはすべて、多くの人が実際に使う設定であるQ4_K_M・8kコンテキストでの値です。5%の安全マージンを差し引くと、使えるのは30.4GBです。何が読み込めるかはメモリが、どれだけ速く応答するかは帯域幅が決めます。どちらも明示した計算式による推定値で、LLM VRAM計算ツールで計算の過程を確かめられます。
このGPUでは、30.4GB以下なら収まり、27.2GBを超えると「ぎりぎり」です。読み込めても会話に使える余裕はほとんどなく、同じ32GBでデスクトップ環境も動かしていると収まらなくなることがあります。トークン/秒は、メモリ帯域幅から求めたシングルストリームの推定値です。≤の付いた数値は上限で、実際のランタイムはこれを大きく下回ります。
計算・2026年10月16日実際に動かすならこのモデル
Muse Glimmer 30Bが、このGPUを最も有効に使えるモデルです。使うのは32GBのうち18.7GBで、生成速度は推定26トークン/秒（チャットなら快適）、コンテキストにはまだ131,072トークン分の余裕があります。
ベンチマークは引用していないため、選び方を説明します。モデルはサイズで比べ、MoE（Mixture of Experts）モデルは総パラメータとアクティブパラメータの幾何平均で数えます（経験則で、測定ではありません）。メモリに余裕を持って収まり、25トークン/秒以上で応答する最も大きいクラスを選び、その中で最も新しい汎用モデルを選んでいます。コーディングや推論に特化したモデルは上の一覧には載せていますが、標準ではおすすめしていません。
このGPUが保持できる最大のモデルはQwen3.6 35B-A3B (MoE)で、必要量は22.4GBです。131,072トークンのコンテキストを確保できます。MoEモデルで、トークンごとに読むパラメータは3Bだけなので、2つのうち速いのはこちらで、推定257トークン/秒です。その代わり、トークンごとにすべての重みを読む密（dense）モデルの深さはありません。
パラメータ数より品質を重視するなら、Mistral Small 3.1 24BがQ8_0で約28.3GBに収まります。Q8はほぼ劣化がなく、Q8の小さなモデルは、Q3に押し込んだ大きなモデルに勝つことがよくあります。
実際に収まるコンテキスト長
よく聞かれるのはモデルのサイズですが、実際に効いてくるのはコンテキストです。KVキャッシュは会話の長さに比例して大きくなるため、余裕を持って読み込めたモデルでも、長い文書の途中でメモリが尽きることがあります。32GBで使えるコンテキストは、重みを載せた残りの分だけです。同じモデルが動く2つのGPUでも、使い心地がまったく違うことがあるのはそのためです。以下は、Q4_K_Mの重みで、このGPUが保持できる最大のコンテキストです。
| モデル | 最大コンテキスト長（FP16のKV） | Q8のKVキャッシュ |
|---|---|---|
| Muse Glimmer 30B | 131,072トークン | 131,072トークン |
| Qwen3 32B | 37,888トークン | 40,960トークン・モデルの上限 |
| Gemma 4 31B | 123,904トークン | 131,072トークン |
| Granite 4.2 30B | 46,080トークン | 93,184トークン |
KVキャッシュをQ8に量子化すると、保持できる量はおよそ2倍になり、品質の低下はほとんどの人が気づかない程度です。このGPUでは、Gemma 4 31Bが123,904トークンから131,072トークンになります。上限は128kトークン、またはそれより小さければモデル自身のネイティブのコンテキスト長で、後者は「モデルの上限」と表示しています。それを超える空きメモリは何の役にも立ちません。サイズの割にはるかに多くのコンテキストを保持できる行は、ハイブリッド構成、スライディングウィンドウ、MLA（Multi-head Latent Attention）のモデルで、標準的なTransformerのほんの一部しかキャッシュしません。計算の過程は各モデルのページにあります。
このGPUの限界
最初に届かなくなるモデルはLlama 3.3 70Bで、Q4_K_M・8kコンテキストで約45.8GBが必要です。使えるメモリは32GBです。Q3_K_Mに下げると約37.7GBが必要で、それでも収まりません。残りをシステムRAMにオフロードすれば動きますが、10〜50倍遅くなります。モデルが動くのを確かめる方法であって、使う方法ではありません。
購入かレンタルか
一般的なワークステーションで扱える消費電力で、1枚に32GBが必要で、使うツールがROCmで動くなら買いましょう。AMDはデータセンター用途向けには設計していないとしているので、机で使うためのGPUです。容量より速さが大事なら、RTX 5090はメモリを3倍近い速さで読み出します。32GBが必要な作業がたまにあるだけなら、所有するより時間単位で借りるほうが安く済みます。
ワークステーション向けGPUは店頭価格ではなく見積もりで販売されるため、載せられる数字はひとつに決まりません。実際に検討している価格を、電気料金と実際の月間使用時間とあわせて購入とレンタルの比較ツールに入れてください。このGPUが負荷時に300Wを使うことは、ツールにすでに入っています。所有するほうが安くなる月がわかり、そうならない場合はそれがわかります。決め手になるのは、価格よりも月間の使用時間であることがはるかに多いです。
率直な評価
AMDの32GBのワークステーション向けGPUで、RX 9070 XTと同じ帯域幅に2倍のメモリを載せ、ボード電力は300Wです。
RTX 5090と同じ32GBを、ボード電力300Wの2スロットのGPUで保持できます。そのメモリを640GB/sで読み出し、これはRX 9070 XTと同じで、5090の3分の1強です。つまり買えるのは速さではなく容量で、32GBが必要な密（dense）モデルは収まりますが、生成は遅くなります。AMDのROCm 10.1の互換性マトリクスにはLinuxとWindows 11で載っており、Linux向けにはvLLMも挙げられています。
得意なこと
- 2スロットのGPU1枚に、300Wで32GBを載せています。同じ容量でも、RTX 5090には575Wが必要です。
- Linuxでは、ECCメモリが使えます。
- AMDのROCm 10.1の互換性マトリクスにUbuntu、RHEL、Windows 11向けで載っており、Linux向けにはvLLMも記載されています。OllamaもLinuxでのROCm対応に挙げています。
向かないこと
- 640GB/sはRX 9070 XTと同じで、RTX 5090の3分の1強です。収まる大きな密（dense）モデルは生成が遅くなります。
- AMD自身の仕様ページによると、ECCが使えるのはLinuxだけです。
- CUDAには対応しておらず、WindowsではOllamaはROCmではなくVulkanを通じて動かします。
よくある誤解：メモリまわりはRX 9070 XTと同じで、バス幅も640GB/sの帯域幅も同じまま、容量だけが2倍です。16GBに収まるモデルなら、R9700でもゲーム向けのGPUより速くは生成しません。お金を払う対象は、追加の16GBです。
ほかの選択肢との比較
- RX 9070 XT：16GB・640GB/s・最適なモデルはGemma 4 12B、約64トークン/秒。AMDのRDNA 4世代のゲーム向けGPUで、16GB・640GB/s、LinuxとWindowsでROCmが使え、CUDAはありません。
- Arc Pro B70：32GB・608GB/s・最適なモデルはMuse Glimmer 30B、約25トークン/秒。Intelの32GBのワークステーション向けGPUで、RTX 5090と同じ容量を608GB/sで読み出し、Intelのソフトウェアで動かします。
- RTX 5090：32GB・1,792GB/s・最適なモデルはMuse Glimmer 30B、約73トークン/秒。メモリ帯域幅で、快適に動かせる範囲を変えた初めてのコンシューマー向けGPUです。
全39種類のGPUはGPU一覧で並べて比較しています。同じ数値をモデルの側から見た表はモデルの適合表（英語）にあります。表を読む代わりに特定の組み合わせを確かめるなら、ローカルLLM動作チェッカーを使ってください。
よくある質問
- Radeon AI PRO R9700で70Bのモデルは動く？
- Q4_K_Mでは、1枚では動きません。Llama 3.3 70Bは8kコンテキストで約45.8GBが必要で、このGPUが使えるのは32GBです。選択肢は、より小さなモデルにするか、コンテキストをごく短くしてより強く量子化するか、2枚に分けるか、必要な時間だけより大きなGPUを借りるかです。
- Radeon AI PRO R9700で動かすのに最適なモデルは？
- Muse Glimmer 30Bです。Q4_K_M・8kコンテキストでは、使える32GBのうち約18.7GBを使い、生成速度は推定26トークン/秒で、体感は「チャットなら快適」です。サイズより品質を重視するなら、Mistral Small 3.1 24BがQ8で約28.3GBに収まります。
- Radeon AI PRO R9700の生成速度は何トークン/秒？
- モデルのサイズ次第です。トークンを生成するたびに、アクティブな重みをすべてメモリから読み出すからです。640GB/s・効率70%で、このGPUは8BのモデルをQ4で推定97トークン/秒で生成します。保持できる最大のモデルのQwen3.6 35B-A3B (MoE)では約257トークン/秒です。人が文章を読む速さは毎秒5〜8語ほどなので、25を超えれば一瞬に感じます。97は640GB/sから求めた上限で、実測ではありません。数値が大きいほど、実際のランタイムはこれを大きく下回ります。
- ローカルLLMに32GBで足りる？
- このサイトで扱う34モデルのうち28モデルが、Q4_K_M・8kコンテキストで動きます。最大で36Bパラメータまでです。本当の試金石はモデルの一覧ではなくコンテキストです。このGPUでMuse Glimmer 30Bを動かすと、メモリが尽きるまでに約131,072トークンを保持できます。
- ローカルモデルにはRadeon AI PRO R9700とRX 9070 XTのどちら？
- このGPUのほうが多く保持できます（32GB対16GB）。そのため、RX 9070 XTの12モデルに対して、28モデルが動きます。速度では、両者は同じです。チャットの速さを決めるのは帯域幅です。
- Radeon AI PRO R9700とIntel Arc Pro B70のどちら？
- どちらも32GBのワークステーション向けGPUなので、収まるモデルは同じです。R9700はメモリを640GB/s（B70は608GB/s）で読み出し、約5%速く、ボード電力は300W（Intel自身のB70は230W）です。決め手はソフトウェアです。R9700はAMDがLinuxとWindowsで対応を記載しているROCmで動きます。B70でのIntelの方法は、SYCLかVulkanを通じたllama.cppと、vLLM向けのLLM Scalerのコンテナです。
- Radeon AI PRO R9700とRX 9070 XTのどちら？
- どちらもメモリを同じ640GB/sで読み出すため、両方に収まるモデルなら速度の上限は同じです。R9700は32GB（9070 XTは16GB）で、LinuxではECCが使えます。9070 XTはゲーム向けのGPUです。R9700を買うのは、16GBに収まらないものを動かす場合だけにしましょう。
- メモリ：重み（パラメータ数 × パラメータあたりのバイト数）＋KVキャッシュ（標準的なTransformerでは2 × レイヤー数 × KVヘッド数 × ヘッド次元 × コンテキスト長 × バイト数。スライディングウィンドウ、ハイブリッド構成、MLAのモデルは実際のキャッシュのとおりに計算）＋ランタイム0.5GB＋重みの4%。導出の詳細はLLM VRAM計算ツールにあります。
- 速度：70% × メモリ帯域幅 ÷ アクティブな重みのバイト数。シングルストリーム、バッチ処理なし、プロンプト処理は含みません。実測ではなく上限です。≤の付いた数値（28個中8個）は、トークンごとに読む重みがごく少ないため、実際のランタイムが数値を最も大きく下回る箇所です。詳しくは生成速度（トークン/秒）推定ツールをご覧ください。
- GPUの仕様（メーカーの数値）：32GB、640GB/s、300W。AMDによるこのGPUの公式ページを参照してください。
- モデルのアーキテクチャの値は、各モデルが公開しているconfigから取っています。それぞれの値が何を変えるかは、LLMのセルフホストのガイド（英語）で説明しています。