Última actualización: 17 de octubre de 2026

Llmspeed: siente la velocidad de un LLM local antes de comprar

Llmspeed es una herramienta web gratuita y de código abierto en llmspeed.dev. Eliges una GPU, un Mac o una CPU y un modelo, y muestra una respuesta de ejemplo a la velocidad prevista para ese hardware, incluida la espera hasta el primer token. Apareció en Hacker News como Show HN el 17 de octubre de 2026.

¿Qué es Llmspeed?

La mayoría de las pruebas de LLM locales dan una cifra de tokens por segundo. Llmspeed la convierte en algo que puedes ver: el texto aparece al ritmo previsto, tras una espera realista según la longitud del prompt. El proyecto se describe como una forma de “sentir lo rápido que corre un LLM local antes de comprar el hardware”.

Es un sitio estático hecho con Vite, Preact y TypeScript, con licencia MIT. Todas las predicciones están en un único archivo de datos del repositorio de GitHub, así que cualquiera puede comprobar de dónde sale cada número.

• Simulación en tiempo real. El texto fluye a los tokens por segundo previstos, tras un tiempo hasta el primer token que depende del prompt.
• Modo carrera. Ejecuta dos configuraciones lado a lado, por ejemplo una RTX 5090 contra un Mac Studio.
• Ajuste de memoria. Indica si un modelo cabe en cada cuantización, si necesita descargar parte a la RAM del sistema o si no puede ejecutarse.
• Cobertura. 30 GPU, Mac y CPU y 15 modelos populares, con backends CUDA, Metal, ROCm, Vulkan y CPU.
• Enlaces para compartir. Cada configuración o carrera tiene su propio enlace.

Fuente: GitHub: albinstman/llmspeed (README)

Fuente: llmspeed.dev (sitio oficial)

Cómo usar Llmspeed

1. Abre llmspeed.dev en el navegador. No hay nada que instalar ni cuenta; la página necesita JavaScript.
2. Elige el hardware que tienes o que piensas comprar, como una RTX 4090, un Mac Studio o un PC solo con CPU.
3. Elige un modelo y una cuantización (por ejemplo Q4_K_M, Q8_0 o FP16). El indicador de memoria te dice si cabe, si se desborda a la RAM o si no carga.
4. Elige la longitud del prompt. Cuanto más largo, más tarda el primer token; el archivo de datos trae ajustes de 42, 290, 1.800 y 12.500 tokens.
5. Inicia la simulación y mira cómo fluye la respuesta. Revisa la etiqueta junto al resultado: Measured, Derived o Projected.
6. Activa el modo carrera para añadir una segunda configuración y copia el enlace para compartir la comparación.

Llmspeed solo simula la velocidad. No ejecuta ningún modelo en tu navegador ni dice nada sobre la calidad de las respuestas.

Fuente: GitHub: albinstman/llmspeed (README)

Fuente: llmspeed.dev (sitio oficial)

Fuente: GitHub: llmspeed data/app-data.json

¿Es preciso Llmspeed? Measured, Derived y Projected

Cada estimación lleva una etiqueta que indica cuánto fiarse de ella:

En el archivo de datos que consultamos el 17 de octubre de 2026, de 1.446 combinaciones de hardware, modelo y cuantización, 76 eran Measured, 385 Derived y 985 figuraban como imposibles de ejecutar. La mayoría de los resultados ejecutables son interpolados, no medidos directamente.

Fuente: GitHub: albinstman/llmspeed (README)

Fuente: GitHub: llmspeed data/app-data.json

Cómo calcula Llmspeed los tokens por segundo

Las cifras medidas vienen de pruebas de la comunidad recopiladas y verificadas en r/LocalLLaMA, localscore.ai, discusiones de llama.cpp y otras fuentes. Cuando no hay prueba, el README explica que recurre a principios básicos:

• La velocidad de generación depende del ancho de banda de memoria: cada token lee una vez los pesos activos. En los modelos mixture-of-experts solo cuentan los parámetros activos.
• El procesamiento del prompt (tiempo hasta el primer token) depende del cómputo, medido en TFLOPS FP16.
• Ambos usan factores de eficiencia por backend calibrados con las pruebas medidas, más una ralentización a medida que crece el contexto.
• La descarga parcial usa un modelo híbrido: la parte en la GPU va al ancho de banda de la GPU y la parte en la RAM a un ancho de banda efectivo calibrado con pruebas reales.
• El ajuste de memoria suma pesos, caché KV y sobrecarga frente a la memoria utilizable: cerca del 75% de la memoria unificada en Mac y el 93% de la VRAM en GPU dedicadas.

Nuestra calculadora de VRAM de Qwen4 · Cómo ejecutar Qwen4 en local

Fuente: GitHub: albinstman/llmspeed (README)

Fuente: r/LocalLLaMA

Fuente: localscore.ai

Fuente: GitHub: llama.cpp

Lista de hardware de Llmspeed: 30 GPU, Mac y CPU

Estos son los dispositivos del archivo de datos del proyecto el 17 de octubre de 2026, ordenados por ancho de banda de memoria, el factor principal de la velocidad de generación en su modelo. Memoria y ancho de banda son las cifras que usa el archivo.

Fuente: GitHub: llmspeed data/app-data.json

¿Qué modelos cubre Llmspeed?

El archivo de datos incluye 15 modelos, elegidos por popularidad: Qwen 3.6/3.8 27B, Qwen 3.5/3.6 35B A3B, Qwen3 30B A3B, Qwen 3.5 9B, GLM-5.3 Flash, DeepSeek V4 Flash, DeepSeek R1 Distill 14B, GPT-OSS 20B, GPT-OSS 120B, Gemma 4 26B A4B, Gemma 4 31B, Llama 3.1 8B, Ornith 1.5 35B A3B, Ornith 1.5 9B, Muse Glimmer 30B.

Los modelos mixture-of-experts como GPT-OSS 120B, DeepSeek V4 Flash y GLM-5.3 Flash solo leen sus parámetros activos en cada token, por eso pueden generar más rápido de lo que sugiere su tamaño total, siempre que quepan en memoria. Los más grandes se ofrecen en cuantizaciones de pocos bits para que quepan en Mac y estaciones de trabajo con mucha memoria.

Fuente: GitHub: llmspeed data/app-data.json

Fuente: GitHub: albinstman/llmspeed (README)

Aporta tu propia medición

La contribución más valiosa es una medición real. Ejecuta la prueba de llama.cpp en tu equipo, añade una fila a benchmarks/submissions.csv (hardware, modelo, cuantización, backend, versión del motor, gen_tps, prefill_tps, tokens del prompt, enlace de la fuente, notas) y pega la salida completa de llama-bench en el pull request. También se aceptan resultados de MLX, vLLM o ExLlama si indicas el motor.

# 1. Measure your own machine with llama.cpp's benchmark tool
llama-bench -m your-model.gguf -p 512 -n 128
# tg128 = generation speed (gen_tps), pp512 = prompt speed (prefill_tps)
# 2. Add a row to benchmarks/submissions.csv and open a pull request

Fuente: GitHub: albinstman/llmspeed (README)

Fuente: GitHub: llmspeed benchmarks/submissions.csv

Fuente: GitHub: llama.cpp

Ejecutar Llmspeed en local

El sitio es totalmente estático, así que puedes ejecutar tu propia copia. Los comandos de desarrollo del README:

# Run the site locally (Vite + Preact + TypeScript)
git clone https://github.com/albinstman/llmspeed
cd llmspeed
npm install
npm run dev

Fuente: GitHub: albinstman/llmspeed (README)

Limitaciones de Llmspeed

• Un solo dispositivo: aún no simula configuraciones multi-GPU (división por tensores o por capas).
• Estimaciones, no garantías: según el README, drivers, versiones del motor, flash attention, límites de consumo y temperatura pueden mover las cifras reales un 10–30%.
• Las cifras proyectadas para hardware no lanzado se sustituirán por mediciones cuando existan.
• En Hacker News, algunos comentaristas dijeron que las predicciones no coincidían con sus equipos, pidieron multi-GPU, NVLink y más cuantizaciones, y señalaron que el procesamiento del prompt y la longitud del contexto suelen importar más que la velocidad de generación en el uso real.
• Otra sugerencia de esa discusión: alquilar una GPU en la nube unos minutos es una forma barata de probar una configuración de verdad antes de comprar.

Fuente: GitHub: albinstman/llmspeed (README)

Fuente: daily.dev: resumen de la discusión Show HN (17 oct 2026)

Guía independiente, sin relación con Llmspeed ni con su autor. Los datos proceden del README y del archivo de datos de Llmspeed en GitHub y de un resumen de la discusión en Hacker News, consultados el 17 de octubre de 2026. No hemos hecho pruebas propias. Los nombres de hardware y modelos son marcas de sus propietarios.