LFM3 1.7B
LFM3 1.7BをQ4_K_M・8kコンテキストで動かすには、1.6GBのVRAMが必要です（2026年11月3日に確認したconfig.jsonから計算）。収まる最小のGPUのメモリは8GBで、動くデスクトップ向けGPUのなかで最も速いRTX 5090では、生成速度は最大1,272トークン/秒です。
- パラメータ
- 1.7B
- コンテキスト長
- 262,144トークン
- ライセンス
- LFM Open License v1.0
- 公開
- 2026年10月
- config.jsonの確認日
- 2026年11月3日
どのメモリ容量のGPUで動くか
必要量1.6GBを、メモリ容量ごとに比べます。モデルが使えるのはGPUのメモリの95%までで、色が付いているのは残りの容量か、足りない容量だけです。「ぎりぎり」は85%を超える場合で、長い会話に使える余裕はほとんどありません。
ほかの量子化やコンテキスト長、Q8のKVキャッシュはLLM VRAM計算ツールで試せます。
計算・2026年11月3日どのGPUを選ぶか
このサイトで扱うGPUのうち、Q4_K_M・8kコンテキストで読み込める最小のものはRTX 3060（12GB）です。必要量は1.6GBで、生成速度は推定256トークン/秒です。これはこのサイトに個別ページがあるGPUの中で最小というだけで、モデル自体は8GBのGPUならどれにでも収まります。同じGPUでも32,768トークンのコンテキストまで余裕があるため（1.9GB）、このモデルのためにそれより上のGPUを買う理由はありません。
同じGPUでQ8_0も動き、必要量は2.5GBです。Q8はほぼ劣化がないので、追加の負担がないなら高い精度を選びましょう。Appleシリコンでは、Mac mini M4 Proなら32,768トークンのコンテキストを含めて保持でき、生成速度は推定194トークン/秒です。ただしプロンプト処理はNVIDIAより遅く、長い文書ではその差がはっきり出ます。ユニファイドメモリのデスクトップでは、Ryzen AI Max+ 395が32,768トークンのコンテキストを1.9GBで保持でき、生成速度は推定182トークン/秒です。
GPU別の生成速度
| GPU | 動く？ | 推定トークン/秒 | 体感 | メモリ | メモリ帯域幅 |
|---|---|---|---|---|---|
| H100 SXM | 動く | ≤ 2,378 | 読むより速い | 80GB | 3,350GB/s |
| A100 | 動く | ≤ 1,448 | 読むより速い | 80GB | 2,039GB/s |
| RTX 5090 | 動く | ≤ 1,272 | 読むより速い | 32GB | 1,792GB/s |
| RTX PRO 6000 Blackwell | 動く | ≤ 1,272 | 読むより速い | 96GB | 1,792GB/s |
| RTX PRO 5000 Blackwell | 動く | ≤ 954 | 読むより速い | 48GB | 1,344GB/s |
| RTX 4090 | 動く | ≤ 716 | 読むより速い | 24GB | 1,008GB/s |
| RTX 5080 | 動く | ≤ 682 | 読むより速い | 16GB | 960GB/s |
| RX 7900 XTX | 動く | ≤ 682 | 読むより速い | 24GB | 960GB/s |
| RTX 6000 Ada | 動く | ≤ 682 | 読むより速い | 48GB | 960GB/s |
| RTX 3090 | 動く | ≤ 665 | 読むより速い | 24GB | 936GB/s |
| RTX 5070 Ti | 動く | ≤ 636 | 読むより速い | 16GB | 896GB/s |
| RTX 5090 Laptop GPU | 動く | ≤ 636 | 読むより速い | 24GB | 896GB/s |
| RTX PRO 4500 Blackwell | 動く | ≤ 636 | 読むより速い | 32GB | 896GB/s |
| L40S | 動く | ≤ 613 | 読むより速い | 48GB | 864GB/s |
| RX 7900 XT | 動く | ≤ 568 | 読むより速い | 20GB | 800GB/s |
| RTX A6000 | 動く | ≤ 545 | 読むより速い | 48GB | 768GB/s |
| RTX 4080 SUPER | 動く | ≤ 523 | 読むより速い | 16GB | 736GB/s |
| RTX 5070 | 動く | ≤ 477 | 読むより速い | 12GB | 672GB/s |
| RTX PRO 4000 Blackwell | 動く | ≤ 477 | 読むより速い | 24GB | 672GB/s |
| RX 9070 XT | 動く | ≤ 454 | 読むより速い | 16GB | 640GB/s |
| Radeon AI PRO R9700 | 動く | ≤ 454 | 読むより速い | 32GB | 640GB/s |
| Arc Pro B70 | 動く | ≤ 432 | 読むより速い | 32GB | 608GB/s |
| RTX 4070 | 動く | ≤ 358 | 読むより速い | 12GB | 504GB/s |
| Arc B580 | 動く | ≤ 324 | 読むより速い | 12GB | 456GB/s |
| Arc Pro B60 | 動く | ≤ 324 | 読むより速い | 24GB | 456GB/s |
| RTX 5060 Ti | 動く | ≤ 318 | 読むより速い | 16GB | 448GB/s |
| RTX PRO 4000 Blackwell SFF | 動く | ≤ 307 | 読むより速い | 24GB | 432GB/s |
| RTX 3060 | 動く | ≤ 256 | 読むより速い | 12GB | 360GB/s |
| RX 9060 XT | 動く | ≤ 227 | 読むより速い | 16GB | 320GB/s |
| RTX Spark | 動く | ≤ 213 | 読むより速い | 128GB（GPU用102GB） | 300GB/s |
| RTX 4060 Ti | 動く | ≤ 204 | 読むより速い | 16GB | 288GB/s |
| DGX Spark | 動く | ≤ 194 | 読むより速い | 128GB（GPU用126GB） | 273GB/s |
| Ryzen AI Max+ 395 | 動く | ≤ 182 | 読むより速い | 128GB（GPU用96GB） | 256GB/s |
シングルストリームの生成速度を、メモリ帯域幅と効率70%から求めた値です。プロンプト処理とバッチ処理は含みません。どれも上限（理論値）で、実測ではありません。LFM3 1.7BがQ4で1トークンごとに読む重みはわずか1GBです。これほど少ないと、計算式に含まれない1トークンごとのコストが実際の速度を大きく左右します。≤の付いた33個の数値は、実際のランタイムの速度が表示値をもっとも大きく下回る箇所です。ほかの量子化やAppleのハードウェアについては生成速度（トークン/秒）推定ツールを、モデルではなくハードウェアを選んでいる場合は全GPUの比較をご覧ください。
計算・2026年11月3日量子化・コンテキスト長別の必要メモリ
| 量子化 | 4,096トークン | 8,192トークン | 32,768トークン |
|---|---|---|---|
| Q8_0 | 2.4GB（8GBに収まる） | 2.5GB（8GBに収まる） | 2.8GB（8GBに収まる） |
| Q5_K_M | 1.8GB（8GBに収まる） | 1.9GB（8GBに収まる） | 2.2GB（8GBに収まる） |
| Q4_K_M | 1.6GB（8GBに収まる） | 1.6GB（8GBに収まる） | 1.9GB（8GBに収まる） |
重みはQ4で1GBです。コンテキストが1,000トークン増えるごとに、FP16のKVキャッシュが約0.012GB増えます（これとは別に、スライディングウィンドウ・アテンションのレイヤーが、ウィンドウがいっぱいになった時点で固定の0.003GBを保持します）。ほかの設定はLLM VRAM計算ツールで試せます。
モデルについて
LFM3 1.7Bは1.7Bパラメータのモデルです。全24レイヤーのうち13レイヤーは、小さな固定サイズの状態しか持たない短い畳み込みレイヤーです。5レイヤーは直近の256トークンを対象とするスライディングウィンドウ・アテンションで、フルアテンションは6レイヤーだけです。アテンションのレイヤーはいずれもKVヘッド4個（ヘッド次元128）です。Liquid AIが2026年10月に公開した小型のテキストモデルで、スマートフォンやノートPCでのローカルエージェント、ツール呼び出し、構造化出力のために作られました。3種類のレイヤーを組み合わせたLiquidのLFM3モデルの最初の1つです。レイヤーの多くは小さな固定サイズの状態しか持たない短い畳み込みレイヤーのため、長い会話でもメモリはあまり増えません。
テキストのみ コンテキスト長262,144トークン LFM Open License v1.0 2026年10月公開
思考モード：デフォルトでオンです。リクエストごとにオフにできますが、Liquid AIによると、特に推論の負荷が高いタスクでは安定して効きません。
ネイティブのコンテキスト長は262,144トークンです。ライセンスはLFM Open License v1.0で、固有の条件を定めた独自ライセンスです。商用利用の前に読んでください。重みの公開は2026年10月です。
得意なこと
- 空きメモリの少ないスマートフォン、ノートPC、GPUでの、ツール呼び出し、構造化出力、小さなローカルエージェント。Liquid AIはこの用途のために作っています。
- 262,144トークンのコンテキスト長。キャッシュが大きくなるのは24レイヤーのうち6レイヤーだけです。
- モデルカードに挙げられた16言語（日本語を含む）
- 1つの用途に絞ったファインチューニング。Liquid AIはこれを設計目標に挙げています。
注意点
- Liquid AI自身が、サイズが小さいため、エージェント型のコーディングや複雑な多段階の推論には勧めておらず、多くの知識が必要な質問には検索や外部データの参照を使うよう勧めています。
- LFM Open License v1.0はApacheではありません。商用利用が認められるのは、自社と、支配・被支配の関係にある会社を合わせた年間売上が1,000万米ドル未満の場合だけです。
- 新しいアーキテクチャです。llama.cppはLFM3に対応したビルドが必要で、Transformersではリモートコードで読み込みます。
- 思考のトークンもほかと同じようにコンテキストを埋め、思考をオフにする設定も確実には効きません。
似たモデル
Q4_K_M・8kコンテキストでLFM3 1.7Bとほぼ同じメモリを必要とするモデルです。手持ちのGPUで実際に比べる相手になるのは、これらのモデルです。「1kトークンあたり」の列はコンテキストが1,000トークン増えるごとのコストで、同じサイズのモデルの間でもっとも差が出るところです。
| モデル | サイズ | 必要量 | 1kトークンあたり | コンテキスト長 | 公開 |
|---|---|---|---|---|---|
| LFM3 1.7B | 1.7B | 1.6GB | 0.012GB | 256k | 2026年10月 |
| Spark-X2.6 4B | 4.1B | 3.3GB | 0.037GB | 1024k | 2026年10月 |
| Llama 3.2 3B | 3.2B | 3.4GB | 0.115GB | 128k | 2024年9月 |
| Qwen3.5 4B | 4.7B | 3.7GB | 0.033GB | 256k | 2026年2月 |
| Llama 3.1 8B | 8B | 6.4GB | 0.131GB | 128k | 2024年7月 |
全モデルの比較、8〜96GBに収まるモデル（英語）、クラウドGPUごとの最安の時間料金（英語）もご覧ください。
よくある質問
- LFM3 1.7Bは24GBのGPUで動く？
- はい。Q4_K_M・8kコンテキストで約1.6GBが必要で、24GBのGPUに余裕を持って収まります。
- LFM3 1.7BをQ8で動かすには、VRAMはどれくらい必要？
- 8kコンテキストで約2.5GB、32kコンテキストでは2.8GBです。Q8はほぼ劣化がないので、収まるならQ8を使うのがおすすめです。
- LFM3 1.7Bのコンテキスト長は？
- ネイティブで262,144トークンです。すべてをQ4_K_Mで保持すると約4.7GBが必要で、そのうち3.2GBがコンテキストの分です。
- LFM3 1.7Bが長いコンテキストでも少ないメモリで済むのはなぜ？
- ほとんどのレイヤーが、大きくなっていくキャッシュを持たないからです。全24レイヤーのうち13レイヤーは、小さな固定サイズの状態しか持たない短い畳み込みレイヤーです。5レイヤーは直近の256トークンを対象とするスライディングウィンドウ・アテンションで、フルアテンションは6レイヤーだけです。アテンションのレイヤーはいずれもKVヘッド4個（ヘッド次元128）です。32kトークンのコンテキストに必要なメモリは約0.4GBです。もし24レイヤーすべてが従来どおり全長のキャッシュを持っていたら、同じ会話に約1.6GBかかります。この節約は、ランタイムがスライディングウィンドウのキャッシュを実装していることが前提です。llama.cppとvLLMは実装していますが、実装していないビルドではずっと多くのメモリを使います。
- LFM3 1.7Bは大きなGPUなしで動く？
- はい。Liquid AIはスマートフォンとノートPC向けに作っており、iPhone 17 Pro、Apple M5 Max、AMD Ryzen AI Max+ 395上のllama.cppで試しています。GPUなら、このサイトに載っているどのGPUにも、長いコンテキストの余裕を持って収まります。数値は上の表のとおりです。
- LFM3 1.7BはRTX 4090でどれくらいの速さ？
- Q4・シングルストリームでの上限は約716トークン/秒で、体感は「読むより速い」にあたります。これはGPUのメモリ帯域幅から求めた上限で、実測ではありません。この水準の数値では、計算式に含まれないコストが1トークンごとの時間に占める割合が大きくなるため、実際のランタイムはこれを大きく下回ります。
- アーキテクチャの値は、Hugging FaceのLiquidAI/LFM3-1.7Bにあるconfig.jsonとモデルカードから読み取り、2026年11月3日に確認しています。このページの数値はすべてこれらの値から計算しています。このモデルのためにハードウェアを買う前に、元の値を確認してください。
- 推定値は、ほかに何も動いていないGPUで会話を1つだけ扱う前提です。同じGPUでデスクトップ環境も動かすと、0.5〜2GBが使われます。