10 jazyků,
každý s každým.
Serval je malý LLM, který dělá jen překlad. Překládá z kteréhokoli z 10 jazyků do kteréhokoli jiného, tedy v 90 směrech. Je to jediný soubor (asi 1,1 GB) a běží na vašem stroji bez připojení k internetu. Překlad vpravo je záznam skutečného překladu na CPU, přehrávaný stejnou rychlostí.
DEDeutsch
JA日本語
* Výchozí věty jsou smyšlené a napsané pro ukázku. Překlady jsou přesně to, co Serval vrátil, bez úprav (necháváme i místa, kde zní kostrbatě). Zobrazené sekundy jsou záznamem běhu na CPU.
65× menší,
rozdíl 1,2 bodu.
Nechali jsme Serval a gpt-oss-120b (117 miliard parametrů) přeložit stejné věty a ohodnotili je stejným měřítkem. Body jsou COMET (metrika, která na škále 0–100 udává, jak blízko je překlad správnému lidskému překladu). Žlutě je Serval, bíle gpt-oss-120b.
* Vlastní měření (listopad 2026; Serval v Q4_K_M, gpt-oss-120b s reasoning effort medium). Výsledek neříká, že Serval vyhrál, ale že i jako malý model dosahuje podobného skóre. Podrobné podmínky najdete na konci stránky.
90 směrů,
skóre pro každý z nich.
Svisle je výchozí jazyk, vodorovně cílový. Čím tmavší barva, tím vyšší skóre. Když vyberete políčko, zobrazí se vedle sebe skóre modelů Serval a gpt-oss-120b pro daný směr.
↓ Výchozí jazykCílový jazyk →
JA → EN
- Serval
- –
- gpt-oss-120b
- –
- Rozdíl
- –
* Z FLORES-200 devtest, 100 vět na každý směr. Skóre je COMET (wmt22-comet-da) vynásobený stem.
Chorvatštinu
se naučil dodatečně.
Model, ze kterého Serval vychází (Hy-MT2-1.8B), chorvatštinu neumí. Když ji měl překládat, pletla se mu do textu slova ze sousedních jazyků a cyrilice. Připravili jsme proto asi 320 000 dvojic vět a model doladili: chorvatštinu jsme přidali, aniž by se zhoršilo ostatních 9 jazyků. Níže je tatáž věta přeložená před doladěním a po něm.
JA
Před doladěním (původní model)
Po doladění (Serval)
* Žlutě jsou slova s příměsí cyrilice. „Před“ je původní model v Q4_K_M, „po“ je Serval v Q4_K_M; obojí jsme nyní změřili znovu. Výchozí věty pocházejí z FLORES-200 (CC BY-SA 4.0).
Jen na CPU,
věta za 1–2 sekundy.
Vlevo vidíte, jak Serval překládá jednu větu na stroji bez GPU. Dva pruhy vpravo jsou pro srovnání: Serval a gpt-oss-120b, každý na serveru s 96GB GPU. Všechno jsou skutečné záznamy přehrávané ve stejném čase, nic není zrychlené.
Jen CPU
Servalbez GPU, 8 vláken
0.0s
Pro srovnání: GPU server
Servalna GPU téhož serveru
0.0s
Pro srovnání: GPU server
gpt-oss-120bpotřebuje 96GB GPU
0.0s
* Vlastní měření (listopad 2026). Čas od odeslání do zobrazení celého překladu, když se požadavky posílají po jednom. Výchozí věty pocházejí z FLORES-200 (CC BY-SA 4.0).
Zadání je
jen jedno.
Stačí doplnit název cílového jazyka a výchozí text. Pokud chcete mít překlad vlastních jmen pevně daný, přidáte před zadání tabulku s jejich překlady. Váhy jsou jediný soubor a běží rovnou v llama.cpp.
Zadání
Translate the following text into Japanese. Note that you should only output the translated result without any additional explanation:
{výchozí text}Pevně daný překlad jmen (glosář)
Reference the following translations: 伏見稲荷大社 translates to Fushimi Inari-taisha Translate the following text into English. Note that … {výchozí text}
Spuštění (llama.cpp)
llama-server -m serval-Q4_K_M.gguf \ -c 4096 -t 8 --jinja --port 8091
ZveřejněnoStáhnout váhy →
- Systémový prompt se nepoužívá. Do zprávy user vložíte jen jedno zadání uvedené výše.
- Nastavení: temperature 0, repetition_penalty 1.05.
- Ve směrech, kde je jedním z jazyků čínština, se i zadání píše čínsky (将以下文本翻译为…).
- Původní model Hy-MT2-1.8B má licenci Apache-2.0. Model Serval šíříme pod licencí CatsAI Model License a s popisem změn. předběžné
- Model je dost malý na to, aby běžel v llama.cpp i v mobilu (Android, iOS). Rychlost na skutečných zařízeních teprve změříme. plánováno
Máme i verzi
na míru cestám po Japonsku.
Tato verze vychází z modelu Serval a je doladěná na cestovatelských textech, které obsahují asi 11 000 názvů japonských turistických míst, nádraží, jídel a podobně. Méně často chybuje ve čtení obtížných místních názvů. Když navíc aplikace připojí tabulku s překlady jmen (glosář), přeloží se jména téměř vždy tak, jak je určeno. Stejným postupem postavíme i verzi pro váš obor.
Podíl správně přeložených názvů míst a zařízení
- Názvy míst použité v testu nebyly v trénovacích datech. Skóre na obecných větách je o 0,2–0,4 bodu nižší než u modelu Serval.
* Vlastní měření na 2 160 cestovatelských větách, které jsme sami připravili (mezi japonštinou a 9 jazyky, 18 směrů). Seznam názvů vznikl z Wikidata (CC0). Ukázkové věty byly napsány pro test a jejich obsah nemusí odpovídat skutečnosti.
Jedna věta
do 9 jazyků.
Vyberte větu a model ji postupně přeloží do ostatních 9 jazyků. Můžete zvolit i jen jeden cílový jazyk. Stopky ukazují skutečný čas překladu v sekundách.
Živě: skutečný model překládá právě teď, pouze na CPU tohoto serveru
1Vyberte větuvýchozí jazyk
JA
2Cílový jazyk
Větu můžete přepsat a přeložit cokoli vlastního.
Zadání odeslané modelu
0.0s
Jak měříme
a konzultace.
- Věty: z FLORES-200 devtest (se správnými lidskými překlady, CC BY-SA 4.0) 90 směrů mezi 10 jazyky × 100 vět = 9 000 vět. K tomu WMT24++, z angličtiny do 9 jazyků, 1 800 odstavců.
- Měřítko: COMET (wmt22-comet-da) vynásobený stem. Metrika hodnotí, jak blízko je překlad lidskému překladu, a přihlíží i k výchozímu textu.
- Cestovní verze: 2 160 vět o místech, která nebyla v trénovacích datech. Správné překlady vytvořil gpt-oss-120b s tabulkou překladů jmen po ruce. Skóre modelu gpt-oss-120b na těchto větách proto uvádíme jen pro orientaci.
- Provedeno: listopad 2026, jedna RTX PRO 6000 (96 GB) na Vast.ai. Před oficiálním zveřejněním čísla ještě projdeme.