RX 9060 XT

RX 9060 XTは、このサイトで扱う34のオープンモデルのうち12モデルを、Q4_K_M・8kコンテキストで動かせます(2026年10月16日に計算)。最大のモデルはgpt-oss 20Bで、必要量は13.4GB、生成速度は最大107トークン/秒です。

更新日

メモリ
16GB(VRAM)
メモリ帯域幅
320GB/s
ボード電力
160W
発売
2025年
入手方法
新品で販売中
動くモデル
12モデル(全34)
Q4_K_M・8kコンテキストでの数です。保持できる最大のモデルはgpt-oss 20Bで、13.4GB、最大107トークン/秒です。
計算・2026年10月16日
動かすのに最適なモデル
Gemma 4 12B
16GBのうち8.2GBを使い、約32トークン/秒です(チャットなら快適)。余裕を持って収まり、25トークン/秒以上で応答するモデルのうち最も大きいクラスを選び、その中で最も新しいものを選んでいます。
計算・2026年10月16日

RX 9060 XTをローカルLLM動作チェッカーで開く

RX 9060 XTで動くモデルの一覧

RX 9060 XT 16GBがGPUで使えるメモリは16GBで、メモリ帯域幅は320GB/sです。以下のモデルはすべて、多くの人が実際に使う設定であるQ4_K_M・8kコンテキストでの値です。5%の安全マージンを差し引くと、使えるのは15.2GBです。何が読み込めるかはメモリが、どれだけ速く応答するかは帯域幅が決めます。どちらも明示した計算式による推定値で、LLM VRAM計算ツールで計算の過程を確かめられます。

このGPUでは、15.2GB以下なら収まり、13.6GBを超えると「ぎりぎり」です。読み込めても会話に使える余裕はほとんどなく、同じ16GBでデスクトップ環境も動かしていると収まらなくなることがあります。トークン/秒は、メモリ帯域幅から求めたシングルストリームの推定値です。≤の付いた数値は上限で、実際のランタイムはこれを大きく下回ります。

計算・2026年10月16日

実際に動かすならこのモデル

Gemma 4 12Bが、このGPUを最も有効に使えるモデルです。使うのは16GBのうち8.2GBで、生成速度は推定32トークン/秒(チャットなら快適)、コンテキストにはまだ131,072トークン分の余裕があります。

ベンチマークは引用していないため、選び方を説明します。モデルはサイズで比べ、MoE(Mixture of Experts)モデルは総パラメータとアクティブパラメータの幾何平均で数えます(経験則で、測定ではありません)。メモリに余裕を持って収まり、25トークン/秒以上で応答する最も大きいクラスを選び、その中で最も新しい汎用モデルを選んでいます。コーディングや推論に特化したモデルは上の一覧には載せていますが、標準ではおすすめしていません。

このGPUが保持できる最大のモデルはgpt-oss 20Bで、必要量は13.4GBです。81,920トークンのコンテキストを確保できます。MoEモデルで、トークンごとに読むパラメータは3.6Bだけなので、2つのうち速いのはこちらで、推定107トークン/秒です。その代わり、トークンごとにすべての重みを読む密(dense)モデルの深さはありません。

Q8_0でも約14.2GBで収まります。メモリが許すならQ8を選ぶ価値があります。Q4では精度が少し落ちますが、Q8はほぼ劣化がありません。

実際に収まるコンテキスト長

よく聞かれるのはモデルのサイズですが、実際に効いてくるのはコンテキストです。KVキャッシュは会話の長さに比例して大きくなるため、余裕を持って読み込めたモデルでも、長い文書の途中でメモリが尽きることがあります。16GBで使えるコンテキストは、重みを載せた残りの分だけです。同じモデルが動く2つのGPUでも、使い心地がまったく違うことがあるのはそのためです。以下は、Q4_K_Mの重みで、このGPUが保持できる最大のコンテキストです。

モデル最大コンテキスト長(FP16のKV)Q8のKVキャッシュ
Gemma 4 12B 131,072トークン 131,072トークン
Qwen3 14B 34,816トークン 40,960トークン・モデルの上限
Phi-4 14B 16,384トークン・モデルの上限 16,384トークン・モデルの上限
Ministral 3 14B 37,888トークン 75,776トークン

KVキャッシュをQ8に量子化すると、保持できる量はおよそ2倍になり、品質の低下はほとんどの人が気づかない程度です。このGPUでは、Ministral 3 14Bが37,888トークンから75,776トークンになります。上限は128kトークン、またはそれより小さければモデル自身のネイティブのコンテキスト長で、後者は「モデルの上限」と表示しています。それを超える空きメモリは何の役にも立ちません。サイズの割にはるかに多くのコンテキストを保持できる行は、ハイブリッド構成、スライディングウィンドウ、MLA(Multi-head Latent Attention)のモデルで、標準的なTransformerのほんの一部しかキャッシュしません。計算の過程は各モデルのページにあります。

計算・2026年10月16日

このGPUの限界

最初に届かなくなるモデルはDevstral Small 2 24Bで、Q4_K_M・8kコンテキストで約16.3GBが必要です。使えるメモリは16GBです。Q3_K_Mに下げると約13.6GBが必要で、収まりますが、Q3は品質の低下が大きいため、たいていは小さなモデルをQ4で動かすほうが良い選択です。残りをシステムRAMにオフロードすれば動きますが、10〜50倍遅くなります。モデルが動くのを確かめる方法であって、使う方法ではありません。

購入かレンタルか

必要なのが16GBで、消費電力の低さが大事なら、買う価値があります。速さが大事なら、RTX 5060 Ti 16GBは同じ容量をこのGPUの1.4倍の速さで読み出し、RX 9070 XTは2倍の速さで読み出します。たまに使う大きなモデルには、ひとつ上のクラスを買うより、時間単位で借りるほうが安く済みます。

小売価格は変動し、今日書いた数字はひと月もたたずに古くなるため、このページには載せていません。実際に検討している価格を、電気料金と実際の月間使用時間とあわせて購入とレンタルの比較ツールに入れてください。このGPUが負荷時に160Wを使うことは、ツールにすでに入っています。所有するほうが安くなる月がわかり、そうならない場合はそれがわかります。決め手になるのは、価格よりも月間の使用時間であることがはるかに多いです。

率直な評価

AMDの低価格帯の16GBのGPUで、メモリ容量は十分ですが、帯域幅は低めです。

16GBのGPUならどれでも収まるモデルが、160Wで収まります。モデルのためにこのGPUを買う理由はそこにあります。そのメモリを320GB/sで読み出し、これはRX 9070 XTの半分で、RTX 3060の360を下回るため、収まるモデルのうち大きいものは、チャットでもかろうじて快適という程度です。RDNA 4ではFP8に対応し、AMDのROCm 10.1の互換性マトリクスにもLinuxとWindows 11で載っていますが、CUDA専用のツールは今も動きません。

得意なこと

  • ボード電力160Wで16GBを載せ、一般的なケースと電源ユニットに収まります。
  • RDNA 4世代なので、RX 7000シリーズとは違い、FP8がネイティブで動きます。
  • AMDのROCm 10.1の互換性マトリクスにLinuxとWindows 11で載っており、OllamaのROCm対応リストにもLinuxで載っています。

向かないこと

  • メモリ帯域幅は320GB/sで、RX 9070 XTの半分、RTX 3060 12GBの360GB/sより低い値です。モデルが大きいほど、その差が表れます。
  • 同じ名前の8GB版もあります。箱に書かれたメモリ容量を確認してください。
  • CUDAには対応していません。ファインチューニングや、画像・動画のツールの多くはCUDAを前提としています。

よくある誤解:RX 9060 XTには8GB版と16GB版の2種類があり、AMDはどちらにも同じ320GB/sを記載しています(8GB版のボード電力は150Wです)。言語モデルに買う価値があるのは16GB版だけです。もう一方は、同じ速さで容量が半分しかありません。

ほかの選択肢との比較

  • RTX 5060 Ti:16GB・448GB/s・最適なモデルはGemma 4 12B、約45トークン/秒。ハイエンドより下で最も新しい16GBのGeForceで、置き換え対象の4060 Tiから明確に進歩しています。
  • RX 9070 XT:16GB・640GB/s・最適なモデルはGemma 4 12B、約64トークン/秒。AMDのRDNA 4世代のゲーム向けGPUで、16GB・640GB/s、LinuxとWindowsでROCmが使え、CUDAはありません。
  • RTX 4060 Ti:16GB・288GB/s・最適なモデルはGemma 4 12B、約29トークン/秒。近いクラスのGPUよりメモリは多いものの、メモリ帯域幅は2年古いGPUより少ないGPUです。

全39種類のGPUはGPU一覧で並べて比較しています。同じ数値をモデルの側から見た表はモデルの適合表(英語)にあります。表を読む代わりに特定の組み合わせを確かめるなら、ローカルLLM動作チェッカーを使ってください。

よくある質問

RX 9060 XTで70Bのモデルは動く?
Q4_K_Mでは、1枚では動きません。Llama 3.3 70Bは8kコンテキストで約45.8GBが必要で、このGPUが使えるのは16GBです。選択肢は、より小さなモデルにするか、コンテキストをごく短くしてより強く量子化するか、2枚に分けるか、必要な時間だけより大きなGPUを借りるかです。
RX 9060 XTで動かすのに最適なモデルは?
Gemma 4 12Bです。Q4_K_M・8kコンテキストでは、使える16GBのうち約8.2GBを使い、生成速度は推定32トークン/秒で、体感は「チャットなら快適」です。Q8でも約14.2GBで収まるので、収まるならQ8を選ぶ価値があります。
RX 9060 XTの生成速度は何トークン/秒?
モデルのサイズ次第です。トークンを生成するたびに、アクティブな重みをすべてメモリから読み出すからです。320GB/s・効率70%で、このGPUは8BのモデルをQ4で推定48トークン/秒で生成します。保持できる最大のモデルのgpt-oss 20Bでは約107トークン/秒です。人が文章を読む速さは毎秒5〜8語ほどなので、25を超えれば一瞬に感じます。48は320GB/sから求めた上限で、実測ではありません。数値が大きいほど、実際のランタイムはこれを大きく下回ります。
ローカルLLMに16GBで足りる?
このサイトで扱う34モデルのうち12モデルが、Q4_K_M・8kコンテキストで動きます。最大で21Bパラメータまでです。本当の試金石はモデルの一覧ではなくコンテキストです。このGPUでGemma 4 12Bを動かすと、メモリが尽きるまでに約131,072トークンを保持できます。
ローカルモデルにはRX 9060 XTとRTX 5060 Tiのどちら?
どちらも使えるメモリはほぼ同じなので、動くモデルも同じです。速度では、RTX 5060 Tiのほうが速く、448GB/s対320GB/sです。チャットの速さを決めるのは帯域幅です。
AIにはRX 9060 XT 16GBとRTX 5060 Ti 16GBのどちら?
どちらも16GBなので、収まるモデルは同じです。5060 Tiはメモリを448GB/s(9060 XTは320GB/s)で読み出し、1.4倍の速さです。さらに、ファインチューニングや画像のツールの多くが前提とするCUDAが動きます。9060 XTのボード電力は160W(5060 Tiは180W)で、ROCmかVulkanを通じて動きます。言語モデルだけなら、速いのは5060 Tiです。
RX 9060 XTはROCmに対応している?
対応しています。AMDのROCm 10.1の互換性マトリクスには、Ubuntu、RHEL、Windows 11向けに(gfx1200として)載っており、OllamaもLinuxでのROCm対応に挙げています。Windowsでは、OllamaはROCmではなく、デフォルトで有効なVulkanバックエンドを通じて動かします。
  • メモリ:重み(パラメータ数 × パラメータあたりのバイト数)+KVキャッシュ(標準的なTransformerでは2 × レイヤー数 × KVヘッド数 × ヘッド次元 × コンテキスト長 × バイト数。スライディングウィンドウ、ハイブリッド構成、MLAのモデルは実際のキャッシュのとおりに計算)+ランタイム0.5GB+重みの4%。導出の詳細はLLM VRAM計算ツールにあります。
  • 速度:70% × メモリ帯域幅 ÷ アクティブな重みのバイト数。シングルストリーム、バッチ処理なし、プロンプト処理は含みません。実測ではなく上限です。≤の付いた数値(12個中2個)は、トークンごとに読む重みがごく少ないため、実際のランタイムが数値を最も大きく下回る箇所です。詳しくは生成速度(トークン/秒)推定ツールをご覧ください。
  • GPUの仕様(メーカーの数値):16GB、320GB/s、160W。AMDによるこのGPUの公式ページを参照してください。
  • モデルのアーキテクチャの値は、各モデルが公開しているconfigから取っています。それぞれの値が何を変えるかは、LLMのセルフホストのガイド(英語)で説明しています。