Pequeño,
y lee de verdad.
Lynx es un LLM pequeño, solo para RAG: responde a la pregunta en una frase, basándose únicamente en el documento que recibe. Es Qwen3.5 de 0.8B, con ajuste fino para preguntas y respuestas sobre documentos en 20 idiomas. Funciona en una CPU corriente, sin GPU.
- Parámetros
- 0.8B
- Archivo (Q4_K_M)
- 0.67GB
- Idiomas
- 20idiomas
- Equipo
- CPUes suficiente
PublicadoDescargue los pesos y pruébelo repositorio y licencia provisionales
146 veces más pequeño,
93.8 puntos.
Lo comparamos con gpt-oss-120b (117 000 millones de parámetros) en una prueba de 13 061 preguntas en 20 idiomas. La media de las cuatro medidas es 93.8 para Lynx 0.8B y 97.5 para gpt-oss-120b. Al decir «no está» ante un documento corto sin respuesta obtiene 98.0, casi lo mismo que 120B.
Responder a partir de un documento corto3751 preguntas
Buscar en un documento largo (unos 2500 tokens)3697 preguntas
Decir «no está» ante un documento corto sin respuesta3650 preguntas
Decir «no está» ante un documento largo sin respuesta1963 preguntas
Solo en 25 de 7448 preguntas contestó «no hay respuesta» cuando la respuesta sí estaba escrita (gpt-oss-120b, en 32).
* Mediciones en nuestra propia prueba (noviembre de 2026, Q4_K_M). Corrección con Qwen3-32B (la diferencia con la corrección de gpt-oss-120b es de 0.4 puntos como máximo). Las condiciones detalladas, al final de la página.
20 idiomas,
el mismo nivel.
Funciona con la instrucción y la respuesta en ese mismo idioma. Las preguntas también salen de la Wikipedia de cada idioma (no están traducidas). Al desplazarse hasta abajo, las fichas se dan la vuelta y muestran la puntuación de cada idioma (también giran al pulsarlas).
* Las cifras son la media de las cuatro medidas (puntos). Unas 650 preguntas por idioma (en hindi, unas 480).
Entre 2500 tokens,
encuentra una frase.
Encuentra la frase de la respuesta en un documento mezclado con otros 15 que no tienen nada que ver. Al desplazarse, Lynx va leyendo los documentos. Es una pregunta de otra prueba, hecha al estilo de documentos internos, con la respuesta que Lynx devolvió de verdad.
Pregunta¿Qué día de la semana cierra la piscina municipal de Valdesol?
Fragmento encontrado
Respuesta de Lynx
* Todos los textos son ficticios (escritos para la prueba).
Solo con CPU,
unos 7 segundos.
En una pantalla de chat reproducimos cómo lee un documento de unos 2500 tokens y responde, con la CPU de un portátil (sin GPU). La reproducción va a triple velocidad; el reloj marca los segundos reales.
LynxFuncionando en la CPU de este PC
¿Qué día de la semana cierra la piscina municipal de Valdesol?Adjunto: 16 documentos (unos 2500 tokens)
0.0sReproducción ×3
Leer el documentoEscribir la respuesta
- Lectura
- 388 tokens/s
- Escritura
- 41 tokens/s
- Equipo
- Core i7-11800H, 8 hilos
* Medición interna (Q4_K_M, llama.cpp). La lectura, con 2048 tokens; la escritura, después de leer 4000 tokens. Varía según el equipo y la longitud del documento.
Para usarlo,
una sola instrucción.
Basta con poner el documento y la pregunta en la misma instrucción con la que se entrenó, y enviarla. No hace falta prompt de sistema.
La respuesta que devuelve
- Desactive el modo de razonamiento (
enable_thinking: false). Está entrenado sin razonamiento. - Con
temperature 0, la respuesta es siempre la misma. - La respuesta es una frase que retoma las palabras de la pregunta. Mide de media entre 13 y 26 tokens.
{"messages": [{"role": "user",
"content": "(la instrucción de arriba)"}],
"temperature": 0, "max_tokens": 300,
"chat_template_kwargs": {"enable_thinking": false}}Descárguelo y
póngalo en marcha ya.
2
Arránquelo con llama.cpp
Una versión compatible con Qwen3.5 (comprobado con b11829).
llama-server -m lynx-0.8b-Q4_K_M.gguf \ -c 8192 --jinja -t 8 --port 8090
3
Envíe la instrucción
Envíela con el formato de arriba a /v1/chat/completions, compatible con OpenAI.
Para qué sirve bien
- Responder a partir de normativas internas, manuales y FAQ, mostrando el párrafo de origen
- Buscar en documentos en entornos de los que los datos no pueden salir
- Lugares de trabajo donde se mezclan documentos en varios idiomas
Para qué conviene otro modelo
- Resúmenes largos (la respuesta es una sola frase)
- Extraer información a JSON
- Preguntas de cultura general que no están en el documento
Elija un documento
y pruébelo.
Puede enviar documentos y preguntas ya preparados a un Lynx 0.8B que funciona en un servidor. Elija un documento y una pregunta, y pulse «Ejecutar». También hay preguntas cuya respuesta no está en el documento.
En vivo: el modelo real responde ahora mismo, solo con la CPU de este servidor
1Elija un documento
2Elija una pregunta
3Respuesta de Lynx
Lynx 0.8BFuncionando en un servidor
Aquí aparecerá la respuesta.
Cómo medimos
y cómo consultarnos.
- Preguntas: Qwen3-32B escribió preguntas y respuestas a partir de párrafos de la Wikipedia de cada uno de los 20 idiomas. gpt-oss-120b revisó preguntas, respuestas y documentos; tras descartar las inadecuadas quedaron 13 061.
- Las cuatro medidas: un párrafo con la respuesta (80-400 tokens) / un documento largo con ese párrafo mezclado entre otros artículos (unos 1500-3500 tokens) / un párrafo sin la respuesta (otro párrafo del mismo artículo, u otro artículo) / un documento largo del que se ha quitado el párrafo de la respuesta.
- Modelos: Lynx 0.8B (Q4_K_M, llama.cpp) y gpt-oss-120b (vLLM, reasoning effort medium). La instrucción es exactamente la misma.
- Corrección: dos modelos, Qwen3-32B y gpt-oss-120b, juzgaron si cada respuesta era correcta (la diferencia entre ambos es de 0.4 puntos como máximo).
- El ejemplo del «documento largo» es una pregunta de otra prueba, hecha imitando normativas internas, avisos y textos similares.
- Fecha: noviembre de 2026. Como las demás cifras de la página de inicio, se revisarán antes de la publicación oficial.