10 języków.
Tłumaczy każdy na każdy.
Serval to mały LLM, który zajmuje się wyłącznie tłumaczeniem. Tłumaczy z każdego z 10 języków na każdy inny, czyli w 90 kierunkach. To jeden plik (ok. 1,1 GB), który działa na Twoim sprzęcie bez połączenia z internetem. Tłumaczenie po prawej to zapis prawdziwego tłumaczenia na CPU, odtwarzany w tym samym tempie.
DEDeutsch
JAJapoński
* Teksty źródłowe to fikcyjne zdania napisane na potrzeby pokazu. Tłumaczenia to niezmienione wyniki Serval, bez żadnych poprawek (sztywniejsze sformułowania też zostawiliśmy). Pokazane sekundy to zapis przebiegu na CPU.
65 razy mniejszy.
Różnica: 1,2 pkt.
Te same zdania przetłumaczył gpt-oss-120b (117 mld parametrów), a oba wyniki oceniliśmy tą samą miarą. Punkty to COMET – miara od 0 do 100, która mówi, jak blisko tłumaczenia wzorcowego, wykonanego przez człowieka, jest przekład. Żółty to Serval, biały – gpt-oss-120b.
* Pomiar własny (listopad 2026; Serval w Q4_K_M, gpt-oss-120b z reasoning effort medium). Wynik nie oznacza, że Serval wygrał, tylko że mimo małego rozmiaru osiąga zbliżoną liczbę punktów. Szczegółowe warunki na końcu strony.
90 kierunków,
wynik każdego z osobna.
W pionie język źródłowy, w poziomie docelowy. Im ciemniejszy kolor, tym wyższy wynik. Po wybraniu kratki zobaczysz obok siebie wyniki Serval i gpt-oss-120b dla tego kierunku.
↓ język źródłowyjęzyk docelowy →
JA → EN
- Serval
- –
- gpt-oss-120b
- –
- Różnica
- –
* Po 100 zdań na kierunek z FLORES-200 devtest. Punkty to COMET (wmt22-comet-da) pomnożony przez 100.
Chorwackiego
nauczyliśmy go później.
Model, z którego powstał Serval (Hy-MT2-1.8B), nie obsługuje chorwackiego. Gdy kazaliśmy mu tłumaczyć, wplatał słowa z sąsiednich języków i cyrylicę. Przygotowaliśmy więc około 320 tys. par zdań i dostroiliśmy model: doszedł chorwacki, a pozostałych 9 języków nie straciło na jakości. Poniżej to samo zdanie przetłumaczone przed dostrojeniem i po nim.
JA
Przed dostrojeniem (model bazowy)
Po dostrojeniu (Serval)
* Na żółto zaznaczono słowa z domieszką cyrylicy. „Przed” to model bazowy w Q4_K_M, „po” to Serval w Q4_K_M; oba zmierzyliśmy na nowo na potrzeby tej strony. Zdania źródłowe pochodzą z FLORES-200 (CC BY-SA 4.0).
Samo CPU.
Zdanie w 1–2 sekundy.
Po lewej Serval tłumaczy jedno zdanie na komputerze bez GPU. Dwa tory po prawej są dla porównania: Serval i gpt-oss-120b uruchomione na serwerze z GPU 96 GB. Wszystko to zapisy prawdziwych przebiegów, odtwarzane w rzeczywistym czasie, bez przyspieszania.
Samo CPU
Servalbez GPU, 8 wątków
0.0s
Dla porównania: serwer z GPU
Servalna GPU tego samego serwera
0.0s
Dla porównania: serwer z GPU
gpt-oss-120bwymaga GPU 96 GB
0.0s
* Pomiar własny (listopad 2026). Czas od wysłania do pojawienia się całego tłumaczenia, przy zdaniach wysyłanych pojedynczo, jedno po drugim. Zdania źródłowe pochodzą z FLORES-200 (CC BY-SA 4.0).
Prompt jest
tylko jeden.
Wystarczy wpisać nazwę języka docelowego i tekst źródłowy. Jeśli chcesz z góry ustalić tłumaczenie nazw własnych, dodaj na początku tabelę odpowiedników. Wagi to jeden plik, który od razu działa w llama.cpp.
Prompt
Translate the following text into Japanese. Note that you should only output the translated result without any additional explanation:
{tekst źródłowy}Ustalone tłumaczenia nazw (glosariusz)
Reference the following translations: 伏見稲荷大社 translates to Fushimi Inari-taisha Translate the following text into English. Note that … {tekst źródłowy}
Uruchomienie (llama.cpp)
llama-server -m serval-Q4_K_M.gguf \ -c 4096 -t 8 --jinja --port 8091
DostępnyPobierz wagi →
- Nie dodawaj promptu systemowego. W wiadomości user umieść tylko jeden, powyższy prompt.
- Ustawienia: temperature 0, repetition_penalty 1.05.
- W kierunkach z chińskim także prompt jest po chińsku (将以下文本翻译为…).
- Model bazowy Hy-MT2-1.8B ma licencję Apache-2.0. Model Serval udostępniamy na licencji CatsAI Model License, z opisem zmian. wstępnie
- Model jest na tyle mały, że w llama.cpp uruchomisz go także na smartfonie (Android, iOS). Szybkość na prawdziwych urządzeniach dopiero zmierzymy. w planach
Jest też wersja
na podróż po Japonii.
To Serval dostrojony na tekstach podróżnych, w których pojawia się około 11 tys. nazw japońskich atrakcji, stacji, potraw i innych. Rzadziej myli się przy trudnych w odczytaniu nazwach miejsc. Jeśli dodatkowo aplikacja dołączy tabelę odpowiedników nazw (glosariusz), nazwy są tłumaczone niemal dokładnie tak, jak ustalono. W ten sam sposób zbudujemy wersję dopasowaną do Twojej branży.
Odsetek poprawnie przetłumaczonych nazw miejsc i obiektów
- Nazw miejsc użytych w teście nie było w danych do uczenia. Wynik dla zwykłych zdań jest o 0,2–0,4 pkt niższy niż u Serval.
* Pomiar na 2160 własnych zdaniach podróżnych (między japońskim a 9 językami, 18 kierunków). Listę nazw przygotowaliśmy na podstawie Wikidata (CC0). Przykładowe zdania źródłowe napisano na potrzeby testu, a podane w nich informacje nie muszą być zgodne z faktami.
Jedno zdanie
na 9 języków.
Po wybraniu zdania Serval tłumaczy je po kolei na pozostałych 9 języków. Możesz też wybrać tylko jeden język docelowy. Zegar pokazuje rzeczywisty czas tłumaczenia w sekundach.
Na żywo: prawdziwy model tłumaczy właśnie teraz, wyłącznie na CPU tego serwera
1Wybierz zdaniejęzyk źródłowy
JA
2Język docelowy
Możesz zmienić zdanie i przetłumaczyć dowolne własne.
Prompt wysyłany do modelu
0.0s
Jak mierzyliśmy
i kontakt.
- Zdania: FLORES-200 devtest (z tłumaczeniami wzorcowymi wykonanymi przez ludzi, CC BY-SA 4.0), 90 kierunków między 10 językami × 100 zdań = 9000 zdań. Do tego 1800 akapitów z WMT24++, z angielskiego na 9 języków.
- Miara: COMET (wmt22-comet-da) pomnożony przez 100. Ocenia, jak blisko tłumaczenia wykonanego przez człowieka jest przekład, z uwzględnieniem tekstu źródłowego.
- Wersja podróżna: 2160 zdań o miejscach, których nie było w danych do uczenia. Tłumaczenia wzorcowe przygotował gpt-oss-120b, korzystając z tabeli odpowiedników nazw. Dlatego wynik gpt-oss-120b na tych zdaniach podajemy tylko dla orientacji.
- Termin: listopad 2026, jedna karta RTX PRO 6000 (96 GB) w Vast.ai. Wyniki zweryfikujemy przed oficjalną publikacją.