10 språk,
kors och tvärs.
Serval är en liten LLM som bara översätter. Den översätter från vilket som helst av 10 språk till vilket som helst av de andra – 90 riktningar. Allt ryms i en fil (ca 1,1 GB) och körs på din egen maskin utan nätanslutning. Översättningen till höger är en inspelning av en riktig översättning på CPU, uppspelad i samma fart.
DEDeutsch
JAJapanska
* Källtexterna är påhittade exempelmeningar. Översättningarna är Servals utdata precis som de blev, utan redigering (även stela formuleringar står kvar). Sekunderna som visas är en inspelning av en körning på en CPU.
1/65 av storleken,
1,2 poängs skillnad.
Vi lät gpt-oss-120b (117 miljarder parametrar) översätta samma meningar och bedömde dem med samma mått. Poängen är COMET (ett mått på 0–100 som visar hur nära en mänsklig referensöversättning resultatet ligger). Gult är Serval, vitt är gpt-oss-120b.
* Egen mätning (november 2026; Serval i Q4_K_M, gpt-oss-120b med reasoning effort medium). Serval är inte bättre – resultatet visar att en liten modell kan komma nära. Detaljerade villkor finns längst ner på sidan.
90 riktningar,
poäng för var och en.
Rader är källspråk, kolumner är målspråk. Ju mörkare färg, desto högre poäng. Välj en ruta, så visas poängen för Serval och gpt-oss-120b i den riktningen sida vid sida.
↓ KällspråkMålspråk →
JA → EN
- Serval
- –
- gpt-oss-120b
- –
- Skillnad
- –
* 100 meningar per riktning ur FLORES-200 devtest. Poängen är COMET (wmt22-comet-da) gånger 100.
Kroatiska lärde
vi den i efterhand.
Modellen som Serval bygger på (Hy-MT2-1.8B) stöder inte kroatiska. När den ändå fick översätta blandade den in ord från grannspråk och kyrilliska bokstäver. Vi tog därför fram cirka 320 000 parallella meningspar och finjusterade modellen – och lade till kroatiska utan att försämra de nio andra språken. Nedan ser du samma mening översatt före och efter finjusteringen.
JA
Före finjusteringen (grundmodellen)
Efter finjusteringen (Serval)
* Gult markerar ord med inblandade kyrilliska bokstäver. Före: grundmodellen i Q4_K_M, efter: Serval i Q4_K_M – båda mätta på nytt för den här sidan. Källtexterna kommer från FLORES-200 (CC BY-SA 4.0).
Bara CPU,
1–2 sekunder per mening.
Till vänster översätter Serval en mening på en maskin utan GPU. De två till höger är referenser: Serval respektive gpt-oss-120b på en server med en GPU på 96 GB. Alla tre är riktiga inspelningar som spelas upp i verklig tid, utan snabbspolning.
Bara CPU
Servalutan GPU, 8 trådar
0.0s
Referens: GPU-server
Servalpå samma servers GPU
0.0s
Referens: GPU-server
gpt-oss-120bkräver en GPU på 96 GB
0.0s
* Egen mätning (november 2026). Tiden från att en mening skickas tills hela översättningen är klar, när meningarna skickas en i taget. Källtexterna kommer från FLORES-200 (CC BY-SA 4.0).
Bara en
instruktion.
Fyll bara i målspråkets namn och källtexten. Vill du bestämma hur egennamn ska översättas lägger du till en ordlista före. Vikterna är en enda fil och körs direkt i llama.cpp.
Instruktion
Translate the following text into Japanese. Note that you should only output the translated result without any additional explanation:
{källtext}Bestäm hur namn översätts (ordlista)
Reference the following translations: 伏見稲荷大社 translates to Fushimi Inari-taisha Translate the following text into English. Note that … {källtext}
Start (llama.cpp)
llama-server -m serval-Q4_K_M.gguf \ -c 4096 -t 8 --jinja --port 8091
Ute nuLadda ner vikterna →
- Ingen systemprompt används. Lägg bara instruktionen ovan i user.
- Inställningar: temperature 0, repetition_penalty 1.05.
- I riktningar där kinesiska ingår skrivs även instruktionen på kinesiska (将以下文本翻译为…).
- Grundmodellen Hy-MT2-1.8B har licensen Apache-2.0. Serval-modellen sprids under CatsAI Model License, med ändringarna tydligt angivna. preliminärt
- Modellen är liten nog att köras med llama.cpp även i mobilen (Android och iOS). Farten på riktiga telefoner mäter vi framöver. planerat
En version anpassad
för resor i Japan.
Med Serval som grund har vi finjusterat en version på resetexter med cirka 11 000 namn på japanska sevärdheter, stationer, maträtter med mera. Den får svåra ortnamn rätt oftare. Om appen dessutom skickar med en namnlista (ordlista) översätts namnen nästan alltid som bestämt. På samma sätt kan vi bygga en version för ert område.
Andel rätt översatta ort- och platsnamn
- Ortnamnen i testet ingick inte i träningen. På allmän text sjunker poängen 0,2–0,4 jämfört med Serval.
* Mätt på 2 160 egna resemeningar (mellan japanska och 9 språk, 18 riktningar). Namnlistan är gjord från Wikidata (CC0). Exempeltexterna är skrivna för testet, och innehållet behöver inte stämma med verkligheten.
En mening
till 9 språk.
Välj en mening, så översätts den till de 9 andra språken, ett i taget. Du kan också välja ett enda målspråk. Klockan visar hur många sekunder översättningen faktiskt tog.
Live: den riktiga modellen översätter just nu, med enbart den här serverns CPU
1Välj meningkällspråk
JA
2Målspråk
Skriv om meningen och översätt vad du vill.
Instruktionen som skickas till modellen
0.0s
Mätmetod
och kontakt.
- Texter: FLORES-200 devtest (med mänskliga referensöversättningar, CC BY-SA 4.0), 90 riktningar mellan 10 språk × 100 meningar = 9 000 meningar. Dessutom WMT24++, från engelska till 9 språk, 1 800 textstycken.
- Mått: COMET (wmt22-comet-da) gånger 100. Måttet bedömer hur nära en mänsklig översättning resultatet ligger, med hänsyn även till källtexten.
- Reseversion: 2 160 meningar om platser som inte ingick i träningen. Referensöversättningarna har gpt-oss-120b gjort med hjälp av namnlistan. Därför redovisas gpt-oss-120b:s poäng på de här texterna bara som referens.
- Genomfört: november 2026, på en RTX PRO 6000 (96 GB) hos Vast.ai. Ses över före den officiella lanseringen.