Atualizado em: 17 de outubro de 2026

Llmspeed: sinta a velocidade de um LLM local antes de comprar

O Llmspeed é uma ferramenta web gratuita e de código aberto em llmspeed.dev. Você escolhe uma GPU, um Mac ou uma CPU e um modelo, e ele exibe uma resposta de exemplo na velocidade prevista para esse hardware, incluindo a espera até o primeiro token. Apareceu no Hacker News como Show HN em 17 de outubro de 2026.

O que é o Llmspeed?

A maioria dos testes de LLM local dá um número de tokens por segundo. O Llmspeed transforma esse número em algo que dá para ver: o texto aparece no ritmo previsto, depois de uma espera realista para o tamanho do prompt. O projeto se descreve como um jeito de “sentir quão rápido um LLM local roda antes de comprar o hardware”.

É um site estático feito com Vite, Preact e TypeScript, sob licença MIT. Todas as previsões ficam em um único arquivo de dados no repositório do GitHub, então qualquer um pode conferir de onde vem cada número.

• Simulação em tempo real. O texto flui nos tokens por segundo previstos, depois de um tempo até o primeiro token que depende do prompt.
• Modo corrida. Roda duas configurações lado a lado, por exemplo uma RTX 5090 contra um Mac Studio.
• Cabe na memória. Mostra se um modelo cabe em cada quantização, se precisa jogar parte para a RAM do sistema ou se não roda.
• Cobertura. 30 GPUs, Macs e CPUs e 15 modelos populares, com backends CUDA, Metal, ROCm, Vulkan e CPU.
• Links compartilháveis. Cada configuração ou corrida tem seu próprio link.

Fonte: GitHub: albinstman/llmspeed (README)

Fonte: llmspeed.dev (site oficial)

Como usar o Llmspeed

1. Abra llmspeed.dev no navegador. Nada para instalar e sem conta; a página precisa de JavaScript.
2. Escolha o hardware que você tem ou pretende comprar, como uma RTX 4090, um Mac Studio ou um PC só com CPU.
3. Escolha um modelo e uma quantização (por exemplo Q4_K_M, Q8_0 ou FP16). O indicador de memória diz se cabe, se transborda para a RAM ou se não carrega.
4. Escolha o tamanho do prompt. Prompts maiores demoram mais até o primeiro token; o arquivo de dados tem predefinições de 42, 290, 1.800 e 12.500 tokens.
5. Inicie a simulação e veja a resposta fluir. Confira o rótulo ao lado do resultado: Measured, Derived ou Projected.
6. Ative o modo corrida para colocar uma segunda configuração ao lado e copie o link para compartilhar a comparação.

O Llmspeed só simula velocidade. Ele não roda nenhum modelo no seu navegador nem diz nada sobre a qualidade das respostas.

Fonte: GitHub: albinstman/llmspeed (README)

Fonte: llmspeed.dev (site oficial)

Fonte: GitHub: llmspeed data/app-data.json

O Llmspeed é preciso? Measured, Derived e Projected

Cada estimativa tem um rótulo que diz quanto confiar nela:

No arquivo de dados que lemos em 17 de outubro de 2026, das 1.446 combinações de hardware, modelo e quantização, 76 eram Measured, 385 Derived e 985 marcadas como impossíveis de rodar. A maioria dos resultados executáveis é interpolada, não medida diretamente.

Fonte: GitHub: albinstman/llmspeed (README)

Fonte: GitHub: llmspeed data/app-data.json

Como o Llmspeed estima tokens por segundo

Os números medidos vêm de testes da comunidade coletados e verificados no r/LocalLLaMA, localscore.ai, discussões do llama.cpp e outras fontes. Quando não há teste, o README diz que a ferramenta parte de princípios básicos:

• A velocidade de geração é limitada pela largura de banda da memória: cada token lê os pesos ativos uma vez. Em modelos mixture-of-experts só contam os parâmetros ativos.
• O processamento do prompt (tempo até o primeiro token) é limitado pelo poder de cálculo, em TFLOPS FP16.
• Ambos usam fatores de eficiência por backend calibrados com os testes medidos, mais uma queda conforme o contexto cresce.
• O offload parcial usa um modelo híbrido: a parte na GPU roda na largura de banda da GPU e a parte na RAM numa largura de banda efetiva calibrada com testes reais.
• O cálculo de memória soma pesos, cache KV e overhead contra a memória utilizável: cerca de 75% da memória unificada nos Macs e 93% da VRAM em GPUs dedicadas.

Nossa calculadora de VRAM do Qwen4 · Como rodar o Qwen4 localmente

Fonte: GitHub: albinstman/llmspeed (README)

Fonte: r/LocalLLaMA

Fonte: localscore.ai

Fonte: GitHub: llama.cpp

Lista de hardware do Llmspeed: 30 GPUs, Macs e CPUs

Estes são os aparelhos do arquivo de dados do projeto em 17 de outubro de 2026, ordenados por largura de banda de memória, o principal fator da velocidade de geração no modelo dele. Memória e largura de banda são os números usados pelo arquivo.

Fonte: GitHub: llmspeed data/app-data.json

Quais modelos o Llmspeed cobre?

O arquivo de dados lista 15 modelos, escolhidos por popularidade: Qwen 3.6/3.8 27B, Qwen 3.5/3.6 35B A3B, Qwen3 30B A3B, Qwen 3.5 9B, GLM-5.3 Flash, DeepSeek V4 Flash, DeepSeek R1 Distill 14B, GPT-OSS 20B, GPT-OSS 120B, Gemma 4 26B A4B, Gemma 4 31B, Llama 3.1 8B, Ornith 1.5 35B A3B, Ornith 1.5 9B, Muse Glimmer 30B.

Modelos mixture-of-experts como GPT-OSS 120B, DeepSeek V4 Flash e GLM-5.3 Flash só leem os parâmetros ativos a cada token, por isso podem gerar mais rápido do que o tamanho total sugere, desde que caibam na memória. Os maiores são oferecidos em quantizações de poucos bits para caber em Macs e workstations com muita memória.

Fonte: GitHub: llmspeed data/app-data.json

Fonte: GitHub: albinstman/llmspeed (README)

Envie sua própria medição

A contribuição mais valiosa é uma medição real. Rode o benchmark do llama.cpp na sua máquina, acrescente uma linha em benchmarks/submissions.csv (hardware, modelo, quantização, backend, versão do motor, gen_tps, prefill_tps, tokens do prompt, link da fonte, notas) e cole a saída completa do llama-bench no pull request. Resultados de MLX, vLLM ou ExLlama também são bem-vindos se você indicar o motor.

# 1. Measure your own machine with llama.cpp's benchmark tool
llama-bench -m your-model.gguf -p 512 -n 128
# tg128 = generation speed (gen_tps), pp512 = prompt speed (prefill_tps)
# 2. Add a row to benchmarks/submissions.csv and open a pull request

Fonte: GitHub: albinstman/llmspeed (README)

Fonte: GitHub: llmspeed benchmarks/submissions.csv

Fonte: GitHub: llama.cpp

Rodar o Llmspeed localmente

O site é totalmente estático, então você pode rodar sua própria cópia. Os comandos de desenvolvimento do README:

# Run the site locally (Vite + Preact + TypeScript)
git clone https://github.com/albinstman/llmspeed
cd llmspeed
npm install
npm run dev

Fonte: GitHub: albinstman/llmspeed (README)

Limitações do Llmspeed

• Um dispositivo só: configurações com várias GPUs (divisão por tensor ou por camada) ainda não são simuladas.
• Estimativas, não garantias: segundo o README, drivers, versões do motor, flash attention, limites de energia e temperatura podem mudar os números reais em 10–30%.
• Números projetados para hardware não lançado serão trocados por medições quando aparecerem.
• No Hacker News, alguns comentaristas disseram que as previsões não batiam com as próprias máquinas, pediram multi-GPU, NVLink e mais quantizações, e lembraram que processamento do prompt e tamanho do contexto costumam importar mais do que a velocidade de geração no uso real.
• Outra sugestão da mesma discussão: alugar uma GPU na nuvem por alguns minutos é um jeito barato de testar uma configuração de verdade antes de comprar.

Fonte: GitHub: albinstman/llmspeed (README)

Fonte: daily.dev: resumo da discussão Show HN (17 out 2026)

Guia independente, sem ligação com o Llmspeed nem com seu autor. As informações vêm do README e do arquivo de dados do Llmspeed no GitHub e de um resumo da discussão no Hacker News, lidos em 17 de outubro de 2026. Não fizemos testes próprios. Nomes de hardware e modelos são marcas de seus donos.