最終更新: 2026年10月17日

Llmspeed：買う前にローカル LLM の速さを体感する

Llmspeed は llmspeed.dev で公開されている無料のオープンソース Web ツールです。GPU、Mac、CPU とモデルを選ぶと、そのハードウェアで予測される速度でサンプル回答を流し、最初のトークンが出るまでの待ち時間も再現します。2026 年 10 月 17 日に Hacker News の Show HN に投稿されました。

Llmspeed とは？

ローカル LLM のベンチマークの多くはトークン/秒の数字を示すだけです。Llmspeed はその数字を目に見える形にします。プロンプトの長さに応じた待ち時間のあと、予測された速さでテキストが表示されます。プロジェクトは自らを「ハードウェアを買う前に、ローカル LLM がどれだけ速く動くかを体感する」ツールと説明しています。

Vite、Preact、TypeScript で作られた静的サイトで、ライセンスは MIT です。予測値はすべて GitHub リポジトリの 1 つのデータファイルにまとまっているので、誰でも数字の出どころを確認できます。

• リアルタイム再生. プロンプト長に応じた最初のトークンまでの時間のあと、予測トークン/秒でテキストが流れます。
• レースモード. 2 つの構成を並べて走らせます。例えば RTX 5090 対 Mac Studio。
• メモリ判定. 各量子化でモデルが収まるか、システム RAM への部分オフロードが必要か、そもそも動かないかを表示します。
• 対応範囲. 30 種類の GPU・Mac・CPU と人気の 15 モデル。CUDA、Metal、ROCm、Vulkan、CPU バックエンドに対応。
• 共有リンク. 構成やレースごとに専用リンクがあり、そのまま送れます。

出典: GitHub：albinstman/llmspeed（README）

出典: llmspeed.dev（公式サイト）

Llmspeed の使い方

1. ブラウザで llmspeed.dev を開きます。インストールもアカウントも不要ですが、JavaScript が必要です。
2. 持っている、または購入を検討しているハードウェアを選びます。RTX 4090、Mac Studio、CPU のみの PC など。
3. モデルと量子化（Q4_K_M、Q8_0、FP16 など）を選びます。メモリ判定で、収まるか、RAM にあふれるか、読み込めないかがわかります。
4. プロンプトの長さを選びます。長いほど最初のトークンまで時間がかかります。データファイルには 42、290、1,800、12,500 トークンのプリセットがあります。
5. シミュレーションを開始して回答が流れるのを見ます。結果の横のラベル（Measured・Derived・Projected）を確認しましょう。
6. レースモードで 2 つ目の構成を並べ、リンクをコピーして比較を共有します。

Llmspeed が再現するのは速度だけです。ブラウザでモデルを実行するわけではなく、回答の品質についても何もわかりません。

出典: GitHub：albinstman/llmspeed（README）

出典: llmspeed.dev（公式サイト）

出典: GitHub：llmspeed data/app-data.json

Llmspeed の精度：Measured・Derived・Projected

すべての推定値に、どれだけ信頼できるかを示すラベルが付きます。

2026 年 10 月 17 日に確認したデータファイルでは、ハードウェア × モデル × 量子化の 1,446 通りのうち、Measured が 76、Derived が 385、実行不可が 985 でした。動く組み合わせの多くは直接の実測ではなく補間値です。

出典: GitHub：albinstman/llmspeed（README）

出典: GitHub：llmspeed data/app-data.json

Llmspeed はトークン/秒をどう推定するか

実測値は r/LocalLLaMA、localscore.ai、llama.cpp の議論などから集めて検証したコミュニティのベンチマークです。ベンチマークがない場合、README によると次の原理で計算します。

• 生成速度はメモリ帯域で決まる：1 トークンごとにアクティブな重みを 1 回読み込む。MoE モデルではアクティブパラメータだけを数える。
• プロンプト処理（最初のトークンまでの時間）は演算性能（FP16 TFLOPS）で決まる。
• どちらも実測値で校正したバックエンドごとの効率係数を使い、コンテキストが長くなるほど速度が落ちる補正を加える。
• 部分オフロードはハイブリッドモデル：GPU 上の部分は GPU の帯域、RAM にあふれた部分は実測から校正した実効 RAM 帯域で計算。
• メモリ判定は重み、KV キャッシュ、実行時オーバーヘッドを使用可能メモリと比べる：Mac のユニファイドメモリは約 75%、単体 GPU の VRAM は約 93%。

当サイトの Qwen4 VRAM 計算ツール · Qwen4 をローカルで動かす方法

出典: GitHub：albinstman/llmspeed（README）

出典: r/LocalLLaMA

出典: localscore.ai

出典: GitHub：llama.cpp

Llmspeed 対応ハードウェア：GPU・Mac・CPU 30 種類

2026 年 10 月 17 日時点のプロジェクトのデータファイルにあるデバイスを、メモリ帯域順に並べました。このモデルでは帯域が生成速度の主な決め手です。メモリと帯域はファイル内の数値です。

出典: GitHub：llmspeed data/app-data.json

Llmspeed が対応するモデル

データファイルには人気順に選ばれた 15 モデルがあります：Qwen 3.6/3.8 27B, Qwen 3.5/3.6 35B A3B, Qwen3 30B A3B, Qwen 3.5 9B, GLM-5.3 Flash, DeepSeek V4 Flash, DeepSeek R1 Distill 14B, GPT-OSS 20B, GPT-OSS 120B, Gemma 4 26B A4B, Gemma 4 31B, Llama 3.1 8B, Ornith 1.5 35B A3B, Ornith 1.5 9B, Muse Glimmer 30B。

GPT-OSS 120B、DeepSeek V4 Flash、GLM-5.3 Flash のような MoE モデルはトークンごとにアクティブパラメータしか読まないため、メモリに収まりさえすれば総サイズから想像するより速く生成できます。最大級のモデルは大容量メモリの Mac やワークステーションに収まるよう低ビット量子化で用意されています。

出典: GitHub：llmspeed data/app-data.json

出典: GitHub：albinstman/llmspeed（README）

自分の計測結果を投稿する

いちばん価値のある貢献は実測値です。自分のマシンで llama.cpp のベンチマークを実行し、benchmarks/submissions.csv に 1 行（ハードウェア、モデル、量子化、バックエンド、エンジンのバージョン、gen_tps、prefill_tps、プロンプトのトークン数、出典リンク、メモ）を追加して、プルリクエストに llama-bench の出力全文を貼ります。MLX、vLLM、ExLlama の結果も、エンジン名を書けば歓迎されています。

# 1. Measure your own machine with llama.cpp's benchmark tool
llama-bench -m your-model.gguf -p 512 -n 128
# tg128 = generation speed (gen_tps), pp512 = prompt speed (prefill_tps)
# 2. Add a row to benchmarks/submissions.csv and open a pull request

出典: GitHub：albinstman/llmspeed（README）

出典: GitHub：llmspeed benchmarks/submissions.csv

出典: GitHub：llama.cpp

Llmspeed をローカルで動かす

サイトは完全に静的なので、自分用のコピーも動かせます。README の開発コマンド：

# Run the site locally (Vite + Preact + TypeScript)
git clone https://github.com/albinstman/llmspeed
cd llmspeed
npm install
npm run dev

出典: GitHub：albinstman/llmspeed（README）

Llmspeed の制限

• 単一デバイスのみ：マルチ GPU（テンソル分割・レイヤー分割）はまだシミュレーションできません。
• 推定であって保証ではない：README によると、ドライバー、エンジンのバージョン、flash attention、電力制限、温度で実際の数値は 10〜30% 変わりえます。
• 未発売ハードウェアの予測値は、実測が出しだい置き換えられます。
• Hacker News では、予測が自分のマシンと合わないという声や、マルチ GPU、NVLink、量子化の選択肢を増やしてほしいという要望があり、実用ではプロンプト処理速度やコンテキスト長のほうが生成速度より重要だという指摘もありました。
• 同じ議論での別の提案：購入前にクラウド GPU を数分借りて実際に試すのが安上がりだ、というものです。

出典: GitHub：albinstman/llmspeed（README）

出典: daily.dev：Show HN の議論まとめ（2026 年 10 月 17 日）

独立したガイドで、Llmspeed およびその作者とは関係ありません。内容は GitHub 上の Llmspeed の README とデータファイル、Hacker News の議論のまとめに基づき、2026 年 10 月 17 日に確認しました。独自のベンチマークは行っていません。ハードウェア名・モデル名は各社の商標です。