10 idiomas,
traduzidos entre si.
O Serval é um LLM pequeno que só faz tradução. Traduz de qualquer um dos 10 idiomas para qualquer outro, em 90 direções. É um arquivo só (cerca de 1,1 GB) e roda na sua máquina, sem internet. As traduções à direita reproduzem, na mesma velocidade, o registro de traduções feitas de fato em CPU.
DEDeutsch
JA日本語
* Os textos originais são frases fictícias, escritas para a amostra. As traduções são a saída do Serval tal como veio, sem retoques (inclusive nos trechos em que a redação ficou dura). Os segundos mostrados são o registro de uma execução em CPU.
1/65 do tamanho,
diferença de 1,2 ponto.
Traduzimos as mesmas frases com o gpt-oss-120b (117 bilhões de parâmetros) e avaliamos pelo mesmo critério. A nota é o COMET (um índice de 0 a 100 que mostra o quanto a tradução se aproxima da referência feita por pessoas). Em amarelo, o Serval; em branco, o gpt-oss-120b.
* Medições próprias (novembro de 2026; Serval em Q4_K_M, gpt-oss-120b com reasoning effort medium). O resultado não é que o Serval supera o outro, e sim que, mesmo pequeno, chega a uma nota próxima. As condições detalhadas estão no fim da página.
90 direções,
a nota de cada uma.
Na vertical, o idioma de origem; na horizontal, o de destino. Quanto mais escura a cor, maior a nota. Escolha uma célula para ver lado a lado as notas do Serval e do gpt-oss-120b naquela direção.
↓ idioma de origemidioma de destino →
JA → EN
- Serval
- –
- gpt-oss-120b
- –
- Dif.
- –
* 100 frases por direção, do FLORES-200 devtest. A nota é o COMET (wmt22-comet-da) multiplicado por 100.
O croata
foi ensinado depois.
O modelo que deu origem ao Serval (Hy-MT2-1.8B) não cobre o croata. Quando traduzia para esse idioma, misturava palavras de idiomas vizinhos e letras cirílicas. Por isso, preparamos cerca de 320 mil pares de frases traduzidas e fizemos o ajuste fino: acrescentamos o croata sem perder desempenho nos outros 9 idiomas. Abaixo, a mesma frase traduzida antes e depois do treinamento.
JA
Antes do treinamento (modelo original)
Depois do treinamento (Serval)
* Em amarelo, as palavras com letras cirílicas. “Antes” é o modelo original em Q4_K_M e “depois” é o Serval em Q4_K_M; ambos foram medidos de novo para esta página. As frases originais são do FLORES-200 (CC BY-SA 4.0).
Só com CPU,
1 a 2 segundos por frase.
À esquerda, o Serval traduz uma frase em uma máquina sem GPU. As duas faixas da direita são referência: o Serval e o gpt-oss-120b, cada um em um servidor com GPU de 96 GB. Todas reproduzem registros reais com os mesmos segundos, sem acelerar.
Só CPU
Serval sem GPU, 8 threads
0.0s
Referência: servidor com GPU
Serval na GPU do mesmo servidor
0.0s
Referência: servidor com GPU
gpt-oss-120b exige GPU de 96 GB
0.0s
* Medições próprias (novembro de 2026). É o tempo entre o envio e a tradução completa, com os pedidos enviados um a um. As frases originais são do FLORES-200 (CC BY-SA 4.0).
O prompt é
um só.
Basta informar o nome do idioma de destino e o texto original. Para fixar a tradução de nomes próprios, acrescente antes uma tabela de correspondência. Os pesos são um arquivo só e rodam direto no llama.cpp.
Prompt
Translate the following text into Japanese. Note that you should only output the translated result without any additional explanation:
{texto original}Fixar a tradução de nomes (glossário)
Reference the following translations: 伏見稲荷大社 translates to Fushimi Inari-taisha Translate the following text into English. Note that … {texto original}
Iniciar (llama.cpp)
llama-server -m serval-Q4_K_M.gguf \ -c 4096 -t 8 --jinja --port 8091
DisponívelBaixar os pesos →
- Não use prompt de sistema. Coloque em user apenas o prompt acima.
- A configuração é temperature 0 e repetition_penalty 1.05.
- Nas direções que envolvem o chinês, o prompt também vai em chinês (将以下文本翻译为…).
- O modelo original, Hy-MT2-1.8B, é Apache-2.0. O modelo Serval é distribuído sob a CatsAI Model License, com as alterações indicadas. provisório
- Tem tamanho para rodar com o llama.cpp também em celulares (Android e iOS). A medição de velocidade em aparelhos reais ainda será feita. previsto
Uma versão sob medida
para viagens ao Japão.
É uma versão com ajuste fino sobre o Serval, feita com textos de viagem que trazem cerca de 11 mil nomes de pontos turísticos, estações e pratos do Japão. Ela erra menos a leitura de nomes de lugares difíceis. E, se o aplicativo acrescentar uma tabela de nomes (glossário), os nomes saem quase sempre como definido. Do mesmo jeito, podemos criar uma versão para a área da sua empresa.
Nomes de lugares e atrações traduzidos corretamente
- Os nomes de lugares usados no teste não entraram no treinamento. Em frases comuns, a nota fica de 0,2 a 0,4 ponto abaixo da do Serval.
* Medições com 2.160 frases de viagem criadas por nós (entre o japonês e 9 idiomas, 18 direções). A lista de nomes foi criada a partir do Wikidata (CC0). As frases da amostra foram escritas para teste, e as informações turísticas podem não corresponder à realidade.
Uma frase
para 9 idiomas.
Escolha uma frase, e ela é traduzida para os outros 9 idiomas, um a um. Também dá para escolher um só idioma de destino. O relógio marca os segundos reais de cada tradução.
Ao vivo: o modelo real está traduzindo agora, apenas com a CPU deste servidor
1 Escolha a frase idioma de origem
JA
2 Idioma de destino
Edite o texto e traduza a frase que quiser.
Prompt enviado ao modelo
0.0s
Como medimos,
e como falar conosco.
- Frases: do FLORES-200 devtest (com referência traduzida por pessoas, CC BY-SA 4.0), 90 direções entre 10 idiomas × 100 frases = 9.000 frases. Além disso, 1.800 parágrafos do WMT24++, do inglês para 9 idiomas.
- Critério: COMET (wmt22-comet-da) multiplicado por 100. É um índice que avalia o quanto a tradução se aproxima da tradução humana, levando em conta também o texto original.
- Versão viagem: 2.160 frases sobre lugares que não entraram no treinamento. As traduções de referência foram feitas pelo gpt-oss-120b consultando a tabela de nomes. Por isso, a nota do gpt-oss-120b nessas frases aparece só como referência.
- Realização: novembro de 2026, em uma RTX PRO 6000 (96 GB) da Vast.ai. Será revisto antes do lançamento oficial.