Ministral 3 14B

Ministral 3 14BをQ4_K_M・8kコンテキストで動かすには、10.3GBのVRAMが必要です(2026年10月16日に確認したconfig.jsonから計算)。収まる最小のGPUのメモリは12GB(ぎりぎり)で、動くデスクトップ向けGPUのなかで最も速いRTX 5090では、生成速度は最大154トークン/秒です。

更新日

パラメータ
14B
コンテキスト長
262,144トークン
ライセンス
Apache 2.0
公開
2025年12月
config.jsonの確認日
2026年10月16日
必要なVRAM
10.3GB
Q4_K_M・8kコンテキスト・FP16のKVキャッシュでの値です。内訳は、重みが8.1GB、KVキャッシュが1.3GB、ランタイムのオーバーヘッドが0.8GBです。
計算・2026年10月16日
最小のGPU
12GB
12GBのGPU(RTX 3060 12GB、4070)ならぎりぎり収まります。ほかのGPU作業は先に閉じておきましょう。この設定では1.1GB残ります。
計算・2026年10月16日
デスクトップ向けで最速のGPU
RTX 5090
シングルストリームで最大154トークン/秒です。この水準の数値では、実際のランタイムはこれを大きく下回ります。メモリ帯域幅から求めた値で、実測ではありません。
計算・2026年10月16日
そのGPUのクラウド料金
$0.50/時間
RTX 5090を1枚、SaladCloudでオンデマンド(税抜き)で借りられます(自社のデータセンターで運用するRunPodでは$1.19)。全事業者の料金比較(英語)
取得・2026年10月19日

Ministral 3 14BをローカルLLM動作チェッカーで開く

どのメモリ容量のGPUで動くか

必要量10.3GBを、メモリ容量ごとに比べます。モデルが使えるのはGPUのメモリの95%までで、色が付いているのは残りの容量か、足りない容量だけです。「ぎりぎり」は85%を超える場合で、長い会話に使える余裕はほとんどありません。

  • 8GB
    RTX 3070、4060、多くのゲーミングノートPC
    動かない
    2.7GB不足
  • 12GB
    RTX 3060 12GB、4070
    ぎりぎり
    残り1.1GB
  • 16GB
    RTX 4060 Ti 16GB、RTX 5060 Ti 16GB
    動く
    残り4.9GB
  • 24GB
    RTX 3090、RTX 4090
    動く
    残り12.5GB
  • 32GB
    RTX 5090
    動く
    残り20.1GB
  • 48GB
    RTX 6000 Ada、L40S、A6000
    動く
    残り35.3GB
  • 80GB
    A100 80GB、H100
    動く
    残り65.7GB
  • 96GB
    RTX PRO 6000 Blackwell
    動く
    残り80.9GB

ほかの量子化やコンテキスト長、Q8のKVキャッシュはLLM VRAM計算ツールで試せます。

計算・2026年10月16日

どのGPUを選ぶか

このサイトで扱うGPUのうち、Q4_K_M・8kコンテキストで読み込める最小のものはRTX 3060(12GB)です。必要量は10.3GBで、生成速度は推定31トークン/秒です。ただしぎりぎりの収まり方で、会話に使える余裕はほとんど残りません。余裕を持って使いたい場合、つまり32,768トークンのコンテキストを確保しつつメモリ使用率を85%未満に抑えたい場合は、RX 7900 XT(20GB)に上げましょう。その場合の必要量は14.3GBで、生成速度は約69トークン/秒です。

ほぼ劣化のないQ8_0なら、収まる最小のGPUはRX 7900 XT(20GB)で、必要量は17.3GBです。Appleシリコンでは、Mac mini M4 Proなら32,768トークンのコンテキストを含めて保持でき、生成速度は推定24トークン/秒です。ただしプロンプト処理はNVIDIAより遅く、長い文書ではその差がはっきり出ます。ユニファイドメモリのデスクトップでは、Ryzen AI Max+ 395が32,768トークンのコンテキストを14.3GBで保持でき、生成速度は推定22トークン/秒です。

GPU別の生成速度

GPU動く?推定トークン/秒体感メモリメモリ帯域幅
H100 SXM 動く ≤ 289 読むより速い 80GB 3,350GB/s
A100 動く ≤ 176 読むより速い 80GB 2,039GB/s
RTX 5090 動く ≤ 154 読むより速い 32GB 1,792GB/s
RTX PRO 6000 Blackwell 動く ≤ 154 読むより速い 96GB 1,792GB/s
RTX PRO 5000 Blackwell 動く ≤ 116 読むより速い 48GB 1,344GB/s
RTX 4090 動く 87 読むより速い 24GB 1,008GB/s
RTX 5080 動く 83 読むより速い 16GB 960GB/s
RX 7900 XTX 動く 83 読むより速い 24GB 960GB/s
RTX 6000 Ada 動く 83 読むより速い 48GB 960GB/s
RTX 3090 動く 81 読むより速い 24GB 936GB/s
RTX 5070 Ti 動く 77 読むより速い 16GB 896GB/s
RTX PRO 4500 Blackwell 動く 77 読むより速い 32GB 896GB/s
L40S 動く 74 読むより速い 48GB 864GB/s
RX 7900 XT 動く 69 読むより速い 20GB 800GB/s
RTX A6000 動く 66 読むより速い 48GB 768GB/s
RTX 4080 SUPER 動く 63 読むより速い 16GB 736GB/s
RTX 5070 ぎりぎり 58 チャットなら快適 12GB 672GB/s
RTX PRO 4000 Blackwell 動く 58 チャットなら快適 24GB 672GB/s
RX 9070 XT 動く 55 チャットなら快適 16GB 640GB/s
Radeon AI PRO R9700 動く 55 チャットなら快適 32GB 640GB/s
Arc Pro B70 動く 52 チャットなら快適 32GB 608GB/s
RTX 4070 ぎりぎり 43 チャットなら快適 12GB 504GB/s
Arc B580 ぎりぎり 39 チャットなら快適 12GB 456GB/s
Arc Pro B60 動く 39 チャットなら快適 24GB 456GB/s
RTX 5060 Ti 動く 39 チャットなら快適 16GB 448GB/s
RTX PRO 4000 Blackwell SFF 動く 37 チャットなら快適 24GB 432GB/s
RTX 3060 ぎりぎり 31 チャットなら快適 12GB 360GB/s
RX 9060 XT 動く 28 チャットなら快適 16GB 320GB/s
RTX Spark 動く 26 チャットなら快適 128GB(GPU用102GB) 300GB/s
RTX 4060 Ti 動く 25 使えるがやや遅い 16GB 288GB/s
DGX Spark 動く 24 使えるがやや遅い 128GB(GPU用126GB) 273GB/s
Ryzen AI Max+ 395 動く 22 使えるがやや遅い 128GB(GPU用96GB) 256GB/s

シングルストリームの生成速度を、メモリ帯域幅と効率70%から求めた値です。プロンプト処理とバッチ処理は含みません。どれも上限(理論値)で、実測ではありません。Ministral 3 14BがQ4で1トークンごとに読む重みはわずか8.1GBです。これほど少ないと、計算式に含まれない1トークンごとのコストが実際の速度を大きく左右します。≤の付いた5個の数値は、実際のランタイムの速度が表示値をもっとも大きく下回る箇所です。ほかの量子化やAppleのハードウェアについては生成速度(トークン/秒)推定ツールを、モデルではなくハードウェアを選んでいる場合は全GPUの比較をご覧ください。

計算・2026年10月16日

量子化・コンテキスト長別の必要メモリ

量子化4,096トークン8,192トークン32,768トークン
Q8_016.6GB(24GBに収まる)17.3GB(24GBに収まる)21.3GB(24GBに収まる)
Q5_K_M11.5GB(16GBに収まる)12.2GB(16GBに収まる)16.2GB(24GBに収まる)
Q4_K_M9.6GB(12GBに収まる)10.3GB(12GBに収まる)14.3GB(16GBに収まる)

重みはQ4で8.1GBです。コンテキストが1,000トークン増えるごとに、FP16のKVキャッシュが約0.164GB増えます。ほかの設定はLLM VRAM計算ツールで試せます。

計算・2026年10月16日

モデルについて

Ministral 3 14Bは14Bパラメータのモデルです。40レイヤーで、KVヘッドは8個(ヘッド次元128)です。MistralのMinistral 3ファミリー(2025年12月)で最大のモデルで、エッジやローカルでの運用向けに設計されています。従来型のTransformerによる密(dense)モデルで、画像に対応し、コンテキスト長は256k、ライセンスはApacheです。

テキストと画像 コンテキスト長262,144トークン Apache 2.0 2025年12月公開

思考モード:Instruct版はそのまま回答します。Mistralは同じサイズの推論版(Reasoning)を別に公開しています。

パラメータ数にはビジョンエンコーダが含まれます。テキスト専用のGGUFはわずかに小さくなります。

ネイティブのコンテキスト長は262,144トークンです。ライセンスはApache 2.0で、寛容な(permissive)ライセンスです。重みの公開は2025年12月です。

得意なこと

  • 16GBのGPU。実用的なコンテキストを確保したうえで収まり、Mistralは対応するGPU向けにFP8版も配布しています。
  • 関数呼び出しとJSON出力。モデルカードが設計目標として挙げている機能です。
  • ヨーロッパ言語での作業。フランス語、スペイン語、ドイツ語、イタリア語、ポルトガル語、オランダ語が明記されています。

注意点

  • すべてのレイヤーが全長のキャッシュを持つため、長いコンテキストでは、同じ会話に2026年のハイブリッド構成のモデルが使うメモリの数倍が必要です。
  • 256kのコンテキスト長は実際に使えますが、使い切ると重みよりも多くのメモリを使います。

似たモデル

Q4_K_M・8kコンテキストでMinistral 3 14Bとほぼ同じメモリを必要とするモデルです。手持ちのGPUで実際に比べる相手になるのは、これらのモデルです。「1kトークンあたり」の列はコンテキストが1,000トークン増えるごとのコストで、同じサイズのモデルの間でもっとも差が出るところです。

モデルサイズ必要量1kトークンあたりコンテキスト長公開
Ministral 3 14B14B10.3GB0.164GB256k2025年12月
Qwen3 14B14.8B10.8GB0.164GB40k2025年4月
Phi-4 14B14.7B11GB0.205GB16k2024年12月
Gemma 3 12B12.2B8.7GB0.066GB128k2025年3月
Gemma 4 12B12B8.2GB0.016GB256k2026年5月

全モデルの比較、8〜96GBに収まるモデル(英語)、クラウドGPUごとの最安の時間料金(英語)もご覧ください。

よくある質問

Ministral 3 14Bは24GBのGPUで動く?
はい。Q4_K_M・8kコンテキストで約10.3GBが必要で、24GBのGPUに余裕を持って収まります。
Ministral 3 14BをQ8で動かすには、VRAMはどれくらい必要?
8kコンテキストで約17.3GB、32kコンテキストでは21.3GBです。Q8はほぼ劣化がないので、収まるならQ8を使うのがおすすめです。
Ministral 3 14Bのコンテキスト長は?
ネイティブで262,144トークンです。すべてをQ4_K_Mで保持すると約51.9GBが必要で、そのうち42.9GBがコンテキストの分です。
Ministral 3 14BはRTX 4090でどれくらいの速さ?
Q4・シングルストリームでの上限は約87トークン/秒で、体感は「読むより速い」にあたります。これはGPUのメモリ帯域幅から求めた上限で、実測ではありません。
  • アーキテクチャの値は、Hugging Faceのmistralai/Ministral-3-14B-Instruct-2512にあるconfig.jsonから読み取り、2026年10月16日に確認しています。このページの数値はすべてこれらの値から計算しています。このモデルのためにハードウェアを買う前に、元の値を確認してください。
  • 推定値は、ほかに何も動いていないGPUで会話を1つだけ扱う前提です。同じGPUでデスクトップ環境も動かすと、0.5〜2GBが使われます。