10 langues,
traduites entre elles.
Serval est un petit LLM qui ne fait que traduire. Il traduit de n’importe laquelle de ses 10 langues vers n’importe quelle autre, soit 90 directions. Un seul fichier (environ 1,1 GB), qui tourne sur votre machine, sans connexion. Les traductions de droite rejouent, à la même vitesse, l’enregistrement d’une traduction réelle sur CPU.
DEDeutsch
JAJaponais
* Les textes sources sont fictifs, écrits pour la démonstration. Les traductions sont les sorties de Serval, sans retouche (tournures un peu raides comprises). Les secondes affichées sont l'enregistrement d'une exécution sur CPU.
65 fois plus petit,
1,2 point d’écart.
Nous avons fait traduire les mêmes phrases à gpt-oss-120b (117 milliards de paramètres) et noté avec le même critère. Le score est le COMET, un indicateur de 0 à 100 qui mesure la proximité avec une traduction humaine de référence. En jaune Serval, en blanc gpt-oss-120b.
* Mesures internes (novembre 2026 ; Serval en Q4_K_M, gpt-oss-120b en reasoning effort medium). Serval ne fait pas mieux : le résultat montre qu’il obtient un score proche en restant petit. Conditions détaillées en fin de page.
90 directions,
un score pour chacune.
En ligne, la langue source ; en colonne, la langue cible. Plus la couleur est foncée, plus le score est élevé. Sélectionnez une case pour afficher côte à côte les scores de Serval et de gpt-oss-120b dans cette direction.
↓ Langue sourceLangue cible →
JA → EN
- Serval
- –
- gpt-oss-120b
- –
- Écart
- –
* 100 phrases par direction, tirées de FLORES-200 devtest. Le score est le COMET (wmt22-comet-da) multiplié par 100.
Le croate,
appris après coup.
Le modèle dont Serval est issu (Hy-MT2-1.8B) ne gère pas le croate. Quand on lui en demandait, des mots de langues voisines et des caractères cyrilliques se glissaient dans la traduction. Nous avons donc préparé environ 320 000 paires de phrases et ajouté le croate par fine-tuning, sans dégrader les 9 autres langues. Ci-dessous, la même phrase traduite avant et après l’entraînement.
JA
Avant l’entraînement (modèle d’origine)
Après l’entraînement (Serval)
* En jaune, les mots où se mêlent des caractères cyrilliques. Avant : modèle d’origine en Q4_K_M ; après : Serval en Q4_K_M ; les deux ont été remesurés pour l’occasion. Les phrases sources viennent de FLORES-200 (CC BY-SA 4.0).
Sur CPU seul,
1 à 2 secondes par phrase.
À gauche, Serval traduit une phrase sur une machine sans GPU. Les deux couloirs de droite sont donnés pour repère : Serval et gpt-oss-120b, chacun sur un serveur équipé d’un GPU de 96 GB. Tous rejouent des enregistrements réels, à la seconde près, sans accéléré.
CPU seul
Serval sans GPU, 8 threads
0.0s
Pour repère : serveur GPU
Serval sur le GPU du même serveur
0.0s
Pour repère : serveur GPU
gpt-oss-120b exige un GPU de 96 GB
0.0s
* Mesures internes (novembre 2026). Temps entre l’envoi et la traduction complète, les requêtes étant envoyées une par une. Les phrases sources viennent de FLORES-200 (CC BY-SA 4.0).
Le prompt ?
Un seul.
Il suffit d’indiquer le nom de la langue cible et le texte source. Pour imposer la traduction de noms propres, ajoutez une table de correspondance avant. Les poids tiennent en un fichier et tournent tels quels avec llama.cpp.
Prompt
Translate the following text into Japanese. Note that you should only output the translated result without any additional explanation:
{texte source}Imposer la traduction des noms (glossaire)
Reference the following translations: 伏見稲荷大社 translates to Fushimi Inari-taisha Translate the following text into English. Note that … {texte source}
Lancement (llama.cpp)
llama-server -m serval-Q4_K_M.gguf \ -c 4096 -t 8 --jinja --port 8091
DisponibleTélécharger les poids →
- Pas de prompt system. Placez uniquement le prompt ci-dessus dans user.
- Réglages : temperature 0, repetition_penalty 1.05.
- Pour les directions qui incluent le chinois, le prompt est lui aussi en chinois (将以下文本翻译为…).
- Le modèle d’origine, Hy-MT2-1.8B, est sous licence Apache-2.0. Le modèle Serval est diffusé sous la CatsAI Model License, avec mention des modifications. provisoire
- Sa taille lui permet de tourner aussi sur smartphone (Android, iOS) avec llama.cpp. Les mesures de vitesse sur appareils réels restent à faire. à venir
Une version taillée
pour voyager au Japon.
Cette version part de Serval et a reçu un fine-tuning sur des phrases de voyage contenant environ 11 000 noms japonais : sites touristiques, gares, plats… Elle se trompe moins sur la lecture des noms de lieux difficiles. Et si l’application ajoute une table de correspondance des noms (glossaire), ils sont traduits presque toujours comme prévu. Nous pouvons réaliser de la même façon une version adaptée à votre domaine.
Part des noms de lieux et de sites correctement traduits
- Les noms de lieux du test ne figurent pas dans l’entraînement. Sur les phrases générales, le score baisse de 0,2 à 0,4 point par rapport à Serval.
* Mesures sur 2 160 phrases de voyage rédigées par nos soins (entre le japonais et 9 langues, 18 directions). La liste des noms vient de Wikidata (CC0). Les phrases d’exemple ont été écrites pour le test : les informations qu’elles donnent ne sont pas forcément exactes.
Une phrase,
vers 9 langues.
Choisissez une phrase : elle est traduite vers les 9 autres langues, l’une après l’autre. Vous pouvez aussi ne choisir qu’une langue cible. Le chronomètre affiche les secondes réellement prises par la traduction.
En direct : le vrai modèle traduit en ce moment, avec le seul CPU de ce serveur
1 Choisir une phrase langue source
JA
2 Langue cible
Modifiez la phrase pour traduire le texte de votre choix.
Prompt envoyé au modèle
0.0s
La méthode,
et un échange.
- Phrases : FLORES-200 devtest (avec traductions humaines de référence, CC BY-SA 4.0), 90 directions entre 10 langues × 100 phrases = 9 000 phrases. S’y ajoutent 1 800 paragraphes de WMT24++, de l’anglais vers 9 langues.
- Critère : le COMET (wmt22-comet-da) multiplié par 100. Cet indicateur note la proximité de la traduction avec une traduction humaine, en tenant compte aussi du texte source.
- Version voyage : 2 160 phrases sur des lieux absents de l’entraînement. Les traductions de référence ont été produites par gpt-oss-120b, à l’aide de la table de correspondance des noms. Le score de gpt-oss-120b sur ces phrases est donc donné à titre indicatif.
- Réalisation : novembre 2026, sur une RTX PRO 6000 (96 GB) de Vast.ai. Ces chiffres seront revus avant la publication officielle.