10 jezika,
prijevod u svim smjerovima.
Serval je mali LLM koji radi samo jedno: prevodi. S bilo kojeg od 10 jezika prevodi na bilo koji drugi, u 90 smjerova. Datoteka je jedna (oko 1,1 GB), a model radi na vašem uređaju, bez spajanja na internet. Prijevod desno snimka je stvarnog prevođenja na CPU-u, reproducirana istom brzinom.
DEDeutsch
JA日本語
* Izvorne rečenice su izmišljene, napisane za ovaj prikaz. Prijevodi su točno ono što je Serval dao, bez dorade (i ukočeni izrazi ostavljeni su kakvi jesu). Prikazane sekunde zapis su izvođenja na CPU-u.
65 puta manji,
a razlika 1,2 boda.
Preveli smo iste rečenice kao gpt-oss-120b (117 milijardi parametara) i ocijenili ih istim mjerilom. Bodovi su COMET (pokazatelj od 0 do 100 koji govori koliko je prijevod blizak ljudskom). Žuto je Serval, bijelo gpt-oss-120b.
* Vlastito mjerenje (studeni 2026.; Serval Q4_K_M, gpt-oss-120b reasoning effort medium). Serval nije bolji – rezultat pokazuje da i tako malen ostaje blizu. Detaljni uvjeti nalaze se na kraju stranice.
90 smjerova,
bodovi za svaki.
Okomito je izvorni jezik, vodoravno ciljni. Što je boja tamnija, to je rezultat viši. Kad odaberete polje, usporedno se prikazuju bodovi modela Serval i gpt-oss-120b za taj smjer.
↓ Izvorni jezikCiljni jezik →
JA → EN
- Serval
- –
- gpt-oss-120b
- –
- Razlika
- –
* Po 100 rečenica za svaki smjer iz skupa FLORES-200 devtest. Bodovi su COMET (wmt22-comet-da) pomnožen sa 100.
Hrvatski smo ga
naučili naknadno.
Model od kojeg je Serval nastao (Hy-MT2-1.8B) ne podržava hrvatski. Kad bi prevodio na hrvatski, u prijevod su se miješale riječi iz susjednih jezika i ćirilica. Zato smo pripremili oko 320.000 parova prijevoda i dodatno ga trenirali: hrvatski smo dodali, a ostalih 9 jezika nije oslabilo. Dolje je ista rečenica prevedena prije i poslije treniranja.
JA
Prije treniranja (izvorni model)
Poslije treniranja (Serval)
* Žutom su označene riječi u koje se umiješala ćirilica. „Prije“ je Q4_K_M izvornog modela, „poslije“ Q4_K_M modela Serval; oboje smo iznova izmjerili za ovu priliku. Izvorne rečenice su iz skupa FLORES-200 (CC BY-SA 4.0).
Samo CPU,
rečenica za 1–2 sekunde.
Lijevo Serval prevodi jednu rečenicu na računalu bez GPU-a. Dva prikaza desno služe za usporedbu: Serval i gpt-oss-120b na poslužitelju s GPU-om od 96 GB. Sve su to stvarne snimke reproducirane u stvarnom trajanju, bez ubrzavanja.
Samo CPU
Servalbez GPU-a, 8 dretvi
0.0s
Usporedba: GPU poslužitelj
Servalna GPU-u istog poslužitelja
0.0s
Usporedba: GPU poslužitelj
gpt-oss-120btreba GPU od 96 GB
0.0s
* Vlastito mjerenje (studeni 2026.). Vrijeme od slanja do potpunog prijevoda, kad se zahtjevi šalju jedan po jedan. Izvorne rečenice su iz skupa FLORES-200 (CC BY-SA 4.0).
Prompt je
samo jedan.
Upišete samo naziv ciljnog jezika i izvorni tekst. Ako želite unaprijed odrediti prijevod vlastitih imena, ispred dodate tablicu parova. Težine su jedna datoteka i rade izravno u llama.cpp.
Prompt
Translate the following text into Japanese. Note that you should only output the translated result without any additional explanation:
{izvorni tekst}Unaprijed određeni prijevodi naziva (glosar)
Reference the following translations: 伏見稲荷大社 translates to Fushimi Inari-taisha Translate the following text into English. Note that … {izvorni tekst}
Pokretanje (llama.cpp)
llama-server -m serval-Q4_K_M.gguf \ -c 4096 -t 8 --jinja --port 8091
ObjavljenoPreuzmite težine →
- Sistemski prompt se ne dodaje. U poruku korisnika (user) ide samo gornji prompt.
- Postavke: temperature 0, repetition_penalty 1.05.
- U smjerovima s kineskim i prompt je na kineskom (将以下文本翻译为…).
- Izvorni model Hy-MT2-1.8B ima licencu Apache-2.0. Model Serval dijelimo pod licencom CatsAI Model License, uz jasno navedene izmjene. privremeno
- Dovoljno je malen da u llama.cpp radi i na mobitelu (Android, iOS). Brzinu na stvarnim uređajima tek ćemo izmjeriti. u planu
Postoji i verzija
krojena za put u Japan.
Na temelju modela Serval dodatno smo trenirali verziju na putničkim tekstovima s oko 11.000 naziva japanskih znamenitosti, kolodvora, jela i sličnog. Rjeđe griješi u čitanju teških toponima. Ako aplikacija uz to doda tablicu naziva (glosar), nazivi se prevode gotovo točno kako je zadano. Na isti način možemo izraditi verziju prilagođenu vašem području.
Udio točno prevedenih naziva mjesta i objekata
- Nazivi mjesta iz testa nisu korišteni u treniranju. Na općim rečenicama rezultat je 0,2–0,4 boda niži nego kod modela Serval.
* Vlastito mjerenje na 2.160 putničkih rečenica koje smo sami sastavili (između japanskog i 9 jezika, 18 smjerova). Popis naziva sastavljen je iz Wikidate (CC0). Ogledne izvorne rečenice napisane su za test i ne moraju odgovarati stvarnosti.
Jedna rečenica
na 9 jezika.
Kad odaberete rečenicu, prevodi se redom na ostalih 9 jezika. Možete odabrati i samo jedan ciljni jezik. Sat pokazuje stvarne sekunde koje je prijevod trajao.
Uživo: stvarni model prevodi upravo sada, samo na CPU-u ovog poslužitelja
1Odaberite rečenicuizvorni jezik
JA
2Ciljni jezik
Izmijenite rečenicu i prevedite što god želite.
Prompt koji se šalje modelu
0.0s
Kako smo mjerili
i vaš upit.
- Rečenice: iz skupa FLORES-200 devtest (s ljudskim prijevodima, CC BY-SA 4.0), 90 smjerova između 10 jezika × 100 rečenica = 9.000 rečenica. Uz to WMT24++, s engleskog na 9 jezika, 1.800 odlomaka.
- Mjerilo: COMET (wmt22-comet-da) pomnožen sa 100. Pokazatelj koji ocjenjuje koliko je prijevod blizak ljudskom, uzimajući u obzir i izvorni tekst.
- Putna verzija: 2.160 rečenica o mjestima koja nisu korištena u treniranju. Referentne prijevode izradio je gpt-oss-120b uz tablicu naziva. Zato su bodovi modela gpt-oss-120b na tim rečenicama navedeni samo za usporedbu.
- Provedeno: studeni 2026., na jednom RTX PRO 6000 (96 GB) na Vast.ai. Pregledat ćemo prije službene objave.