10 lingue,
tradotte l'una nell'altra.
Serval è un piccolo LLM che fa solo traduzione. Traduce da una qualsiasi delle 10 lingue a qualsiasi altra: 90 direzioni. È un unico file (circa 1,1 GB) e gira sulle vostre macchine, senza collegarsi alla rete. La traduzione qui a destra è la registrazione di una traduzione fatta davvero su CPU, riprodotta alla stessa velocità.
DEDeutsch
JAGiapponese
* I testi originali sono frasi di fantasia scritte come esempio. Le traduzioni sono l'output di Serval così com'è, senza ritocchi (anche dove la formulazione è un po' rigida). I secondi mostrati sono la registrazione di un'esecuzione su CPU.
65 volte più piccolo,
1,2 punti di scarto.
Abbiamo fatto tradurre le stesse frasi a gpt-oss-120b (117 miliardi di parametri) e le abbiamo valutate con lo stesso criterio. Il punteggio è COMET, un indice da 0 a 100 che dice quanto la traduzione è vicina a quella di riferimento fatta da una persona. In giallo Serval, in bianco gpt-oss-120b.
* Misure nostre (novembre 2026; Serval in Q4_K_M, gpt-oss-120b con reasoning effort medium). Il risultato non dice che Serval è superiore: dice che, pur restando piccolo, ottiene punteggi vicini. Le condizioni in dettaglio sono in fondo alla pagina.
90 direzioni,
un punteggio per ciascuna.
In verticale la lingua di partenza, in orizzontale quella di arrivo. Più il colore è scuro, più il punteggio è alto. Selezionando una casella, compaiono affiancati i punteggi di Serval e di gpt-oss-120b per quella direzione.
↓ Lingua di partenzaLingua di arrivo →
JA → EN
- Serval
- –
- gpt-oss-120b
- –
- Scarto
- –
* Da FLORES-200 devtest, 100 frasi per direzione. Il punteggio è COMET (wmt22-comet-da) moltiplicato per 100.
Il croato
l'ha imparato dopo.
Il modello da cui nasce Serval (Hy-MT2-1.8B) non supporta il croato: facendoglielo tradurre, comparivano parole di lingue vicine e caratteri cirillici. Abbiamo quindi preparato circa 320.000 coppie di frasi parallele e fatto un fine-tuning, aggiungendo il croato senza peggiorare le altre 9 lingue. Qui sotto, la stessa frase tradotta prima e dopo l'addestramento.
JA
Prima dell'addestramento (modello di origine)
Dopo l'addestramento (Serval)
* In giallo le parole con caratteri cirillici. «Prima» è il modello di origine in Q4_K_M, «dopo» è Serval in Q4_K_M: entrambi misurati di nuovo per questa pagina. Le frasi originali vengono da FLORES-200 (CC BY-SA 4.0).
Solo CPU:
1-2 secondi a frase.
A sinistra, Serval traduce una frase su una macchina senza GPU. Le due corsie a destra sono un riferimento: Serval e gpt-oss-120b caricati ciascuno su un server con GPU da 96 GB. Sono tutte registrazioni reali, riprodotte con la stessa durata: nessuna accelerazione.
Solo CPU
Serval senza GPU, 8 thread
0.0s
Riferimento: server GPU
Serval sulla GPU dello stesso server
0.0s
Riferimento: server GPU
gpt-oss-120b serve una GPU da 96 GB
0.0s
* Misure nostre (novembre 2026). È il tempo dall'invio alla traduzione completa, inviando le richieste una alla volta. Le frasi originali vengono da FLORES-200 (CC BY-SA 4.0).
Di prompt
ne basta uno.
Basta indicare il nome della lingua di arrivo e il testo originale. Per fissare in anticipo la traduzione dei nomi propri, si aggiunge prima una tabella di corrispondenze. I pesi sono un unico file e girano direttamente con llama.cpp.
Prompt
Translate the following text into Japanese. Note that you should only output the translated result without any additional explanation:
{testo originale}Fissare la traduzione dei nomi (glossario)
Reference the following translations: 伏見稲荷大社 translates to Fushimi Inari-taisha Translate the following text into English. Note that … {testo originale}
Avvio (llama.cpp)
llama-server -m serval-Q4_K_M.gguf \ -c 4096 -t 8 --jinja --port 8091
DisponibileDownload dei pesi →
- Non si usa il system prompt. Nel messaggio user va solo il prompt qui sopra.
- Impostazioni: temperature 0, repetition_penalty 1.05.
- Nelle direzioni che coinvolgono il cinese, anche il prompt va scritto in cinese (将以下文本翻译为…).
- Il modello di origine, Hy-MT2-1.8B, è sotto licenza Apache-2.0. Il modello Serval viene distribuito con la CatsAI Model License, con le modifiche dichiarate. provvisorio
- Ha una taglia che permette di farlo girare con llama.cpp anche su smartphone (Android e iOS). Le misure di velocità sui dispositivi reali sono ancora da fare. in programma
Anche in versione
su misura per il Giappone.
È una versione costruita a partire da Serval, con un fine-tuning su frasi di viaggio che contengono circa 11.000 nomi di località turistiche, stazioni e piatti giapponesi. Sbaglia meno la lettura dei toponimi difficili. Se poi l'app aggiunge una tabella di corrispondenze dei nomi (glossario), i nomi vengono tradotti quasi sempre come stabilito. Con lo stesso metodo possiamo creare una versione su misura per il vostro settore.
Quota di toponimi e nomi di strutture tradotti correttamente
- I toponimi usati nel test non sono presenti nei dati di addestramento. Sulle frasi generiche il punteggio scende di 0,2-0,4 punti rispetto a Serval.
* Misure su 2.160 frasi di viaggio create da noi (tra il giapponese e 9 lingue, 18 direzioni). L'elenco dei nomi è ricavato da Wikidata (CC0). Le frasi di esempio sono state scritte per il test: le informazioni che contengono non sono necessariamente vere.
Una frase,
9 lingue.
Scegliete una frase: viene tradotta nelle altre 9 lingue, una alla volta. Potete anche scegliere una sola lingua di arrivo. Il cronometro segna i secondi realmente impiegati.
Dal vivo: il modello reale sta traducendo ora, con la sola CPU di questo server
1 Scegliete una frase lingua di partenza
JA
2 Lingua di arrivo
Potete modificare il testo e tradurre la frase che volete.
Prompt inviato al modello
0.0s
Come misuriamo.
E poi, parliamone.
- Frasi: da FLORES-200 devtest (con traduzioni di riferimento fatte da persone, CC BY-SA 4.0), 90 direzioni tra 10 lingue × 100 frasi = 9.000 frasi. In più, da WMT24++, 1.800 paragrafi dall'inglese verso 9 lingue.
- Criterio: COMET (wmt22-comet-da) moltiplicato per 100. È un indice che valuta quanto la traduzione è vicina a quella umana, tenendo conto anche del testo originale.
- Versione viaggio: 2.160 frasi su luoghi non usati in addestramento. Le traduzioni di riferimento sono state prodotte da gpt-oss-120b consultando la tabella dei nomi; per questo, su queste frasi il punteggio di gpt-oss-120b è riportato solo come riferimento.
- Esecuzione: novembre 2026, su una RTX PRO 6000 (96 GB) di Vast.ai. I valori saranno rivisti prima della pubblicazione ufficiale.