Mac Studio M3 Ultra
Mac Studio M3 Ultraは、このサイトで扱う34のオープンモデルのうち34モデルを、Q4_K_M・8kコンテキストで動かせます(2026年10月16日に計算)。最大のモデルはMistral Small 4 119B (MoE)で、必要量は72.5GB、生成速度は最大152トークン/秒です。
- メモリ
- 512GB(ユニファイドメモリ)
- GPU用
- 384GB
- メモリ帯域幅
- 819GB/s
- 発売
- 2025年
- 入手方法
- Appleのユニファイドメモリ
Mac Studio M3 UltraをローカルLLM動作チェッカーで開く
Mac Studio M3 Ultraで動くモデルの一覧
Mac Studio M3 Ultra(512GB)がGPUで使えるメモリは384GB(512GBのユニファイドメモリの75%で、macOSがデフォルトでGPUに割り当てることが確認されている割合)で、メモリ帯域幅は819GB/sです。以下のモデルはすべて、多くの人が実際に使う設定であるQ4_K_M・8kコンテキストでの値です。5%の安全マージンを差し引くと、使えるのは364.8GBです。何が読み込めるかはメモリが、どれだけ速く応答するかは帯域幅が決めます。どちらも明示した計算式による推定値で、LLM VRAM計算ツールで計算の過程を確かめられます。
このGPUでは、364.8GB以下なら収まり、326.4GBを超えると「ぎりぎり」です。読み込めても会話に使える余裕はほとんどなく、同じ512GBでデスクトップ環境も動かしていると収まらなくなることがあります。トークン/秒は、メモリ帯域幅から求めたシングルストリームの推定値です。≤の付いた数値は上限で、実際のランタイムはこれを大きく下回ります。
計算・2026年10月16日Appleシリコンに特有の注意点があります。このトークン/秒の数値が表すのは生成で、ユニファイドメモリが得意とする処理です。プロンプト処理(最初のトークンが返ってくる前に、送った内容を読み込む処理)は同等のNVIDIA製GPUよりはっきり遅く、長い文書を貼り付けたときに感じるのはこちらです。短いプロンプトならこのマシンでも速く感じますが、30,000トークンのプロンプトではそうはいきません。
実際に動かすならこのモデル
Muse Glimmer 30Bが、このGPUを最も有効に使えるモデルです。使うのは384GBのうち18.7GBで、生成速度は推定33トークン/秒(チャットなら快適)、コンテキストにはまだ131,072トークン分の余裕があります。
ベンチマークは引用していないため、選び方を説明します。モデルはサイズで比べ、MoE(Mixture of Experts)モデルは総パラメータとアクティブパラメータの幾何平均で数えます(経験則で、測定ではありません)。メモリに余裕を持って収まり、25トークン/秒以上で応答する最も大きいクラスを選び、その中で最も新しい汎用モデルを選んでいます。コーディングや推論に特化したモデルは上の一覧には載せていますが、標準ではおすすめしていません。
このGPUが保持できる最大のモデルはMistral Small 4 119B (MoE)で、必要量は72.5GBです。131,072トークンのコンテキストを確保できます。MoEモデルで、トークンごとに読むパラメータは6.5Bだけなので、2つのうち速いのはこちらで、推定152トークン/秒です。その代わり、トークンごとにすべての重みを読む密(dense)モデルの深さはありません。
パラメータ数より品質を重視するなら、Llama 3.3 70BがQ8_0で約81GBに収まります。Q8はほぼ劣化がなく、Q8の小さなモデルは、Q3に押し込んだ大きなモデルに勝つことがよくあります。
実際に収まるコンテキスト長
よく聞かれるのはモデルのサイズですが、実際に効いてくるのはコンテキストです。KVキャッシュは会話の長さに比例して大きくなるため、余裕を持って読み込めたモデルでも、長い文書の途中でメモリが尽きることがあります。384GBで使えるコンテキストは、重みを載せた残りの分だけです。同じモデルが動く2つのGPUでも、使い心地がまったく違うことがあるのはそのためです。以下は、Q4_K_Mの重みで、このGPUが保持できる最大のコンテキストです。
| モデル | 最大コンテキスト長(FP16のKV) | Q8のKVキャッシュ |
|---|---|---|
| Muse Glimmer 30B | 131,072トークン | 131,072トークン |
| Llama 3.3 70B | 131,072トークン | 131,072トークン |
| Qwen3 32B | 40,960トークン・モデルの上限 | 40,960トークン・モデルの上限 |
| Gemma 4 31B | 131,072トークン | 131,072トークン |
この表のモデルはすべてFP16の時点で上限に達しているため、KVキャッシュを量子化しても得るものはありません。上限は128kトークン、またはそれより小さければモデル自身のネイティブのコンテキスト長で、後者は「モデルの上限」と表示しています。それを超える空きメモリは何の役にも立ちません。サイズの割にはるかに多くのコンテキストを保持できる行は、ハイブリッド構成、スライディングウィンドウ、MLA(Multi-head Latent Attention)のモデルで、標準的なTransformerのほんの一部しかキャッシュしません。計算の過程は各モデルのページにあります。
このGPUの限界
この一覧に届かないモデルはありません。扱っているモデルはすべてQ4_K_M・8kコンテキストで収まるため、突き当たる限界はパラメータ数ではなく、コンテキスト長とバッチサイズです。
購入かレンタルか
非常に大きなモデルが目的でCUDAが不要なら、512GBの中古は買う価値があります。96GBや256GBの構成なら、決める前に現行のM5 MaxやM5 Ultraと比べてください。
重要なのはマシン本体ではなくメモリのアップグレードで、Appleはその価格を構成ごとに変えています。実際に検討している価格を、電気料金と実際の月間使用時間とあわせて購入とレンタルの比較ツールに入れてください。所有するほうが安くなる月がわかり、そうならない場合はそれがわかります。決め手になるのは、価格よりも月間の使用時間であることがはるかに多いです。
率直な評価
今も非常に大きなモデルを保持する手段であり、現在は主に中古で出回っている、2025年の512GBのMac Studioです。
最大512GB・819GB/sで発売され、最大級のオープンなMoEモデルをそもそも保持できた最初のデスクトップでした。2026年9月にM5 Ultraが後継として登場し、メモリの読み出しは約1.5倍速くなりましたが、512GBのM3 Ultraが保持できるモデルは、512GBのM5 Ultraとまったく同じです。Appleの現在の仕様ページでは、最大256GBまでしか載っていません。
得意なこと
- 最大512GBのユニファイドメモリを積め、そのうち約384GBをGPUが使えます。
- 生成には819GB/sの帯域幅があり、RTX 3090の936GB/sを少し下回る程度です。
- 保持できるモデルの大きさの割に、静かで消費電力も低いです。
向かないこと
- プロンプト処理はNVIDIAよりはるかに遅いです。
- CUDAはありません。
- 容量は同じでも、後継のM5 Ultraより遅いです。
よくある誤解:このMac StudioのAppleの仕様ページには、現在、96GBから256GBまで構成できると書かれており、発売時にあった512GBの選択肢は消えています。512GBの個体は、32コアCPUと80コアGPUを積んだ発売時の構成なので、中古で買う前にそれを確認してください。
ほかの選択肢との比較
- Mac Studio M5 Ultra:384GB・1,200GB/s・最適なモデルはMuse Glimmer 30B、約49トークン/秒。机に置けるマシンでいちばん多くのメモリを積め、最大512GBを1.2TB/sで読み出せますが、CUDAはありません。
- Mac Studio M2 Ultra:144GB・800GB/s・最適なモデルはMuse Glimmer 30B、約32トークン/秒。長いプロンプトで待たされるのを我慢できるなら、非常に大きなモデルを静かに保持できるマシンです。
- DGX Spark:126GB・273GB/s・最適なモデルはNemotron 3.5 Bolt 74B-A9B (MoE)、約37トークン/秒。GPUと共有できる128GBを積んだ、NVIDIAの小型Linuxマシンです。大きなモデルも収まりますが、メモリを読む速さはRTX 4090の約4分の1です。
ユニファイドメモリのマシンは、DGX Spark・Strix Halo・Mac Studioの比較(英語)で、同じモデルを使って直接比べています。
全39種類のGPUはGPU一覧で並べて比較しています。同じ数値をモデルの側から見た表はモデルの適合表(英語)にあります。表を読む代わりに特定の組み合わせを確かめるなら、ローカルLLM動作チェッカーを使ってください。
よくある質問
- Mac Studio M3 Ultraで70Bのモデルは動く?
- 動きます。Llama 3.3 70BはQ4_K_M・8kコンテキストで約45.8GBが必要で、このGPUが使える384GBに収まります。生成速度は推定14トークン/秒で、体感は「使えるがやや遅い」です。
- Mac Studio M3 Ultraで動かすのに最適なモデルは?
- Muse Glimmer 30Bです。Q4_K_M・8kコンテキストでは、使える384GBのうち約18.7GBを使い、生成速度は推定33トークン/秒で、体感は「チャットなら快適」です。サイズより品質を重視するなら、Llama 3.3 70BがQ8で約81GBに収まります。
- Mac Studio M3 Ultraの生成速度は何トークン/秒?
- モデルのサイズ次第です。トークンを生成するたびに、アクティブな重みをすべてメモリから読み出すからです。819GB/s・効率70%で、このGPUは8BのモデルをQ4で推定124トークン/秒で生成します。保持できる最大のモデルのMistral Small 4 119B (MoE)では約152トークン/秒です。人が文章を読む速さは毎秒5〜8語ほどなので、25を超えれば一瞬に感じます。124は819GB/sから求めた上限で、実測ではありません。数値が大きいほど、実際のランタイムはこれを大きく下回ります。
- ローカルLLMに384GBで足りる?
- このサイトで扱う34モデルのうち34モデルが、Q4_K_M・8kコンテキストで動きます。最大で119Bパラメータまでです。本当の試金石はモデルの一覧ではなくコンテキストです。このGPUでMuse Glimmer 30Bを動かすと、メモリが尽きるまでに約131,072トークンを保持できます。
- ローカルモデルにはMac Studio M3 UltraとMac Studio M5 Ultraのどちら?
- どちらも使えるメモリはほぼ同じなので、動くモデルも同じです。速度では、Mac Studio M5 Ultraのほうが速く、1,200GB/s対819GB/sです。チャットの速さを決めるのは帯域幅です。
- M3 UltraはローカルLLM用に今も買う価値がある?
- 容量の面ではあります。512GBの個体は、512GBのM5 Ultraと同じモデルを保持できます。生成は819GB/sで、M5 Ultraの1,200GB/sより遅く、Appleの現在の仕様ページには512GBの構成がもう載っていません。
- M3 Ultraのメモリのうち、GPUが使えるのはどれくらい?
- デフォルトでは約75%です。512GBのうち約384GB、256GBのうち約192GBです。Appleは数値を公表しておらず、これは大容量メモリのMacで観察されているmacOSの上限です。
- メモリ:重み(パラメータ数 × パラメータあたりのバイト数)+KVキャッシュ(標準的なTransformerでは2 × レイヤー数 × KVヘッド数 × ヘッド次元 × コンテキスト長 × バイト数。スライディングウィンドウ、ハイブリッド構成、MLAのモデルは実際のキャッシュのとおりに計算)+ランタイム0.5GB+重みの4%。導出の詳細はLLM VRAM計算ツールにあります。
- 速度:70% × メモリ帯域幅 ÷ アクティブな重みのバイト数。シングルストリーム、バッチ処理なし、プロンプト処理は含みません。実測ではなく上限です。≤の付いた数値(34個中16個)は、トークンごとに読む重みがごく少ないため、実際のランタイムが数値を最も大きく下回る箇所です。詳しくは生成速度(トークン/秒)推定ツールをご覧ください。
- GPUの仕様(メーカーの数値):512GB、819GB/s。Appleによるこのマシンの公式ページを参照してください。メモリ帯域幅の数値の出典はAppleのM3 Ultra搭載Mac Studioの技術仕様です。Appleのユニファイドメモリ:AppleはGPUの取り分を公表していません。大容量メモリのMacでは、macOSのMetalの上限はRAMの約75%と観察されており、このページの数値はすべてその割合を使っています。
- モデルのアーキテクチャの値は、各モデルが公開しているconfigから取っています。それぞれの値が何を変えるかは、LLMのセルフホストのガイド(英語)で説明しています。