10 Sprachen,
kreuz und quer übersetzt.
Serval ist ein kleines LLM, das nur übersetzt: von jeder der 10 Sprachen in jede andere, in 90 Richtungen. Es besteht aus einer einzigen Datei (rund 1,1 GB) und läuft ohne Internet auf Ihrem eigenen Rechner. Die Übersetzung rechts ist die Aufzeichnung eines echten Laufs auf der CPU, abgespielt im Originaltempo.
DEDeutsch
JA日本語
* Die Ausgangstexte sind fiktive, als Muster geschriebene Sätze. Die Übersetzungen sind die unveränderte Ausgabe von Serval (auch steife Formulierungen stehen hier so, wie sie kamen). Die angezeigten Sekunden sind die Aufzeichnung eines Laufs auf einer CPU.
1/65 der Größe,
nur 1,2 Punkte Abstand.
Wir haben dieselben Sätze von gpt-oss-120b (117 Mrd. Parameter) übersetzen lassen und mit demselben Maß bewertet. Die Punkte sind COMET-Werte (eine Kennzahl von 0 bis 100 dafür, wie nah eine Übersetzung an der Referenzübersetzung eines Menschen liegt). Gelb ist Serval, Weiß ist gpt-oss-120b.
* Eigene Messung (November 2026; Serval mit Q4_K_M, gpt-oss-120b mit reasoning effort medium). Serval liegt nicht vorn – das Ergebnis zeigt, dass ein kleines Modell fast gleichauf kommen kann. Die genauen Bedingungen stehen am Ende der Seite.
90 Richtungen,
jede mit ihrem Wert.
Senkrecht steht die Ausgangssprache, waagerecht die Zielsprache. Je kräftiger die Farbe, desto höher der Wert. Wählen Sie ein Feld, um die Werte von Serval und gpt-oss-120b für diese Richtung nebeneinander zu sehen.
↓ AusgangsspracheZielsprache →
JA → EN
- Serval
- –
- gpt-oss-120b
- –
- Differenz
- –
* Je Richtung 100 Sätze aus FLORES-200 devtest. Die Werte sind COMET (wmt22-comet-da) mal 100.
Kroatisch kam
nachträglich dazu.
Das Ausgangsmodell von Serval (Hy-MT2-1.8B) kann kein Kroatisch. Ließ man es übersetzen, mischten sich Wörter aus Nachbarsprachen und kyrillische Buchstaben hinein. Deshalb haben wir rund 320.000 Satzpaare vorbereitet und Kroatisch per Fine-Tuning ergänzt – ohne dass die anderen 9 Sprachen schlechter wurden. Unten sehen Sie denselben Satz, übersetzt vor und nach dem Training.
JA
Vor dem Training (Ausgangsmodell)
Nach dem Training (Serval)
* Gelb markiert sind Wörter mit kyrillischen Buchstaben. „Vorher“ ist das Ausgangsmodell mit Q4_K_M, „nachher“ Serval mit Q4_K_M; beide haben wir für diese Seite neu gemessen. Die Ausgangssätze stammen aus FLORES-200 (CC BY-SA 4.0).
Nur CPU:
ein Satz in 1–2 Sekunden.
Links übersetzt Serval einen Satz auf einem Rechner ohne GPU. Die beiden Bahnen rechts dienen dem Vergleich: Serval und gpt-oss-120b, jeweils auf einem Server mit 96-GB-GPU. Alle drei sind echte Aufzeichnungen in Originaldauer; nichts ist beschleunigt.
Nur CPU
Servalohne GPU, 8 Threads
0.0s
Zum Vergleich: GPU-Server
Servalauf der GPU desselben Servers
0.0s
Zum Vergleich: GPU-Server
gpt-oss-120bbraucht eine 96-GB-GPU
0.0s
* Eigene Messung (November 2026). Zeit vom Absenden bis zur vollständigen Übersetzung, wenn die Anfragen einzeln nacheinander gesendet werden. Die Ausgangssätze stammen aus FLORES-200 (CC BY-SA 4.0).
Nur ein
einziger Prompt.
Sie setzen nur den Namen der Zielsprache und den Ausgangstext ein. Sollen Eigennamen fest übersetzt werden, stellen Sie eine Zuordnungsliste voran. Die Gewichte sind eine einzige Datei und laufen direkt mit llama.cpp.
Prompt
Translate the following text into Japanese. Note that you should only output the translated result without any additional explanation:
{Ihr Text}Namen fest übersetzen (Glossar)
Reference the following translations: 伏見稲荷大社 translates to Fushimi Inari-taisha Translate the following text into English. Note that … {Ihr Text}
Start (llama.cpp)
llama-server -m serval-Q4_K_M.gguf \ -c 4096 -t 8 --jinja --port 8091
VerfügbarGewichte herunterladen →
- Kein System-Prompt. In die User-Nachricht kommt nur der eine Prompt von oben.
- Einstellungen: temperature 0, repetition_penalty 1.05.
- Bei Richtungen mit Chinesisch wird auch der Prompt auf Chinesisch geschrieben (将以下文本翻译为…).
- Das Ausgangsmodell Hy-MT2-1.8B steht unter Apache-2.0. Das Serval-Modell verteilen wir unter der CatsAI Model License, mit Angabe der Änderungen. vorläufig
- Das Modell ist klein genug, um mit llama.cpp auch auf Smartphones (Android, iOS) zu laufen. Das Tempo auf echten Geräten messen wir noch. geplant
Auch als Version
für Japanreisen.
Auf Basis von Serval haben wir eine Version mit Reisetexten nachtrainiert, die rund 11.000 Namen japanischer Sehenswürdigkeiten, Bahnhöfe und Gerichte enthalten. Sie liest schwierige Ortsnamen seltener falsch. Gibt die App zusätzlich eine Zuordnungsliste der Namen (Glossar) mit, werden Namen fast immer wie festgelegt übersetzt. Nach demselben Verfahren bauen wir auch eine Version für Ihr Fachgebiet.
Anteil korrekt übersetzter Orts- und Einrichtungsnamen
- Die Ortsnamen aus dem Test kamen im Training nicht vor. Bei allgemeinen Texten liegt die Reiseversion 0,2 bis 0,4 Punkte unter Serval.
* Messung mit 2.160 eigenen Reisetexten (zwischen Japanisch und 9 Sprachen, 18 Richtungen). Die Namensliste stammt aus Wikidata (CC0). Die Muster-Ausgangstexte wurden für den Test geschrieben; ihre Angaben müssen nicht den Tatsachen entsprechen.
Ein Satz
in 9 Sprachen.
Wählen Sie einen Satz: Er wird nacheinander in die 9 anderen Sprachen übersetzt. Sie können auch nur eine Zielsprache wählen. Die Uhr zeigt die Sekunden, die die Übersetzung tatsächlich gedauert hat.
Live: Das echte Modell übersetzt gerade jetzt, nur mit der CPU dieses Servers
1Satz wählenAusgangssprache
JA
2Zielsprache
Ändern Sie den Satz und übersetzen Sie, was Sie möchten.
Prompt an das Modell
0.0s
Messmethode
und Anfrage.
- Sätze: aus FLORES-200 devtest (mit Referenzübersetzungen von Menschen, CC BY-SA 4.0), 90 Richtungen zwischen 10 Sprachen × 100 Sätze = 9.000 Sätze. Dazu 1.800 Absätze aus WMT24++, vom Englischen in 9 Sprachen.
- Messgröße: COMET (wmt22-comet-da) mal 100. Die Kennzahl bewertet, wie nah eine Übersetzung an der eines Menschen liegt, und bezieht dabei auch den Ausgangstext ein.
- Reiseversion: 2.160 Texte zu Orten, die im Training nicht vorkamen. Die Referenzübersetzungen hat gpt-oss-120b mithilfe der Namensliste erstellt. Deshalb sind die Werte von gpt-oss-120b bei diesen Texten nur zur Orientierung angegeben.
- Durchgeführt: November 2026, mit einer RTX PRO 6000 (96 GB) bei Vast.ai. Vor der offiziellen Veröffentlichung prüfen wir die Werte noch einmal.