Konzultáció

10 nyelv között,
oda-vissza fordít.

A Serval kizárólag fordításra készült kis LLM. A 10 nyelv bármelyikéről bármelyikére, 90 irányban fordít. Egyetlen fájl (kb. 1.1 GB), és internetkapcsolat nélkül, a saját gépén fut. A jobb oldali fordítás egy valódi, CPU-n készült fordítás felvétele, eredeti sebességgel lejátszva.

DEDeutsch

JA日本語

Méret1.8B・1.1GB
Nyelvek10 nyelv, 90 irányjapán, angol, kínai, koreai, spanyol, francia, német, portugál, lengyel, horvát
Hol futCsak CPUSem GPU, sem internet nem kell

* A forrásszövegek mintának írt, kitalált mondatok. A fordítás a Serval változatlan kimenete, nem javítottunk rajta (a döcögősebb megfogalmazásokat is meghagytuk). A megjelenített másodpercek egy CPU-n végzett futtatás felvételei.

65-öd akkora,
a különbség 1.2 pont.

Ugyanazokat a mondatokat fordíttattuk le, mint a gpt-oss-120b-vel (117 milliárd paraméter), és ugyanazzal a mércével pontoztuk. A pontszám COMET (0-tól 100-ig mutatja, mennyire áll közel a fordítás az emberi referenciafordításhoz). Sárga a Serval, fehér a gpt-oss-120b.

* Saját mérés (2026. november; Serval: Q4_K_M, gpt-oss-120b: reasoning effort medium). Az eredmény nem azt jelenti, hogy a Serval jobb, hanem azt, hogy kicsiben is közeli pontszámot ér el. A részletes feltételek az oldal végén.

90 irány,
mindegyik külön pontszámmal.

Függőlegesen a forrásnyelv, vízszintesen a célnyelv látható. Minél sötétebb a szín, annál magasabb a pontszám. Ha kiválaszt egy cellát, egymás mellett megjelenik a Serval és a gpt-oss-120b pontszáma abban az irányban.

↓ forrásnyelvcélnyelv →

JA → EN

Serval
–
gpt-oss-120b
–
Különbség
–

* A FLORES-200 devtestből, irányonként 100 mondat. A pontszám a COMET (wmt22-comet-da) 100-szorosa.

A horvátot
utólag tanítottuk meg.

A Serval alapjául szolgáló modell (Hy-MT2-1.8B) nem támogatja a horvátot. Ha mégis fordíttattunk vele, szomszédos nyelvek szavai és cirill betűk keveredtek a szövegbe. Ezért kb. 320 000 párhuzamos mondatpárral finomhangoltuk, és úgy adtuk hozzá a horvátot, hogy a másik 9 nyelv teljesítménye nem romlott. Lent ugyanazt a mondatot látja a tanítás előtt és után lefordítva.

JA

Tanítás előtt (alapmodell)

Tanítás után (Serval)

* Sárgával a cirill betűt tartalmazó szavakat jelöltük. A „tanítás előtt” az alapmodell Q4_K_M, a „tanítás után” a Serval Q4_K_M változata; mindkettőt most újra megmértük. A forrásszövegek a FLORES-200 (CC BY-SA 4.0) mondatai.

Csak CPU-val
mondatonként 1–2 mp.

Bal oldalon az látható, ahogy a Serval GPU nélküli gépen lefordít egy mondatot. A jobb oldali kettő viszonyításul szolgál: a Serval, illetve a gpt-oss-120b egy 96 GB-os GPU-val szerelt szerveren. Mindegyik valódi felvétel, eredeti időtartammal lejátszva, gyorsítás nélkül.

Csak CPU

ServalGPU nélkül, 8 szál

0.0mp

Viszonyításul: GPU-szerver

Servalugyanannak a szervernek a GPU-ján

0.0mp

Viszonyításul: GPU-szerver

gpt-oss-120b96 GB-os GPU kell hozzá

0.0mp

    * Saját mérés (2026. november). Egyenként, sorban küldött kéréseknél a küldéstől a teljes fordítás megjelenéséig eltelt idő. A forrásszövegek a FLORES-200 (CC BY-SA 4.0) mondatai.

    Prompt
    csak egy van.

    Csak a célnyelv nevét és a forrásszöveget kell beírni. Ha előre rögzítené a tulajdonnevek fordítását, megfeleltetési táblázatot tehet elé. A súlyok egyetlen fájlban vannak, és llama.cpp-vel azonnal futnak.

    Prompt

    Translate the following text into Japanese. Note that you should only output the translated result without any additional explanation:
    
    {forrásszöveg}

    Nevek fordításának rögzítése (szójegyzék)

    Reference the following translations:
    伏見稲荷大社 translates to Fushimi Inari-taisha
    
    Translate the following text into English. Note that …
    
    {forrásszöveg}

    Indítás (llama.cpp)

    llama-server -m serval-Q4_K_M.gguf \
      -c 4096 -t 8 --jinja --port 8091

    NyilvánosSúlyok letöltése →

    • System promptot nem kell megadni. A user üzenetbe csak a fenti promptot kell beírni.
    • Beállítások: temperature 0, repetition_penalty 1.05.
    • Ha az irányban a kínai is szerepel, a prompt is kínai (将以下文本翻译为…).
    • Az alapmodell, a Hy-MT2-1.8B Apache-2.0 licencű. A Serval modellt a CatsAI Model License alatt, a módosítások feltüntetésével adjuk közre. előzetes
    • Akkora, hogy mobilon (Android, iOS) is futtatható llama.cpp-vel. A sebességet valódi készülékeken ezután mérjük meg. tervezett

    Japán utazáshoz
    hangolt változat is van.

    Ez a változat a Servalra épül: olyan utazási szövegekkel finomhangoltuk, amelyekben kb. 11 000 japán név szerepel: látnivalók, állomások, ételek. Így ritkábban téveszti el a nehéz helynevek olvasatát. Ha ráadásul az alkalmazás megfeleltetési táblázatot (szójegyzéket) is ad a nevekhez, a nevek szinte mindig a rögzített módon jelennek meg. Ugyanezzel a módszerrel az Ön szakterületére hangolt változat is készíthető.

    Helyesen lefordított hely- és létesítménynevek aránya

    0%Serval
    0%Utazási változat
    0%Utazási változat + szójegyzék
    • A tesztben használt helynevek nem szerepeltek a tanításban. Általános szövegeken a pontszám 0.2–0.4 ponttal alacsonyabb a Servalénál.

    * Saját készítésű, 2160 utazási mondaton mért értékek (a japán és 9 másik nyelv között, 18 irányban). A névlista a Wikidatából (CC0) készült. A minták forrásszövegei tesztre írt mondatok, a bennük szereplő tájékoztatás nem feltétlenül felel meg a valóságnak.

    Egy mondat
    9 nyelvre.

    Ha kiválaszt egy mondatot, a modell egyenként lefordítja a másik 9 nyelvre. Egyetlen célnyelvet is választhat. Az óra a fordítás valódi idejét mutatja másodpercben.

    Élő: a valódi modell most fordít, kizárólag ennek a szervernek a CPU-ján

    1Válasszon mondatotforrásnyelv

    JA

    2Célnyelv

    Átírhatja a mondatot, és bármit lefordíttathat.

    A modellnek küldött prompt

    0.0mp

    A mérés módja
    és a konzultáció.

    • Mondatok: a FLORES-200 devtestből (emberi referenciafordítással, CC BY-SA 4.0) 10 nyelv 90 iránya × 100 mondat = 9000 mondat. Emellett a WMT24++-ból angolról 9 nyelvre, 1800 bekezdés.
    • Mérce: a COMET (wmt22-comet-da) 100-szorosa. A mutató a forrásszöveget is figyelembe véve pontozza, mennyire áll közel a fordítás az emberi fordításhoz.
    • Utazási változat: 2160 mondat olyan helyekről, amelyek nem szerepeltek a tanításban. A referenciafordítást a gpt-oss-120b készítette a nevek megfeleltetési táblázata alapján. Ezért a gpt-oss-120b ezeken a mondatokon elért pontszámát csak tájékoztatásul közöljük.
    • Időpont: 2026. november, a Vast.ai egy RTX PRO 6000 (96 GB) gépén. A hivatalos megjelenés előtt felülvizsgáljuk.

    Konzultáció szakterületi fordításról →

    Futtassa a Serval modellt a saját gépén

    Egyetlen zip a modell súlyaival, inferencia-mintakóddal és rövid útmutatóval. Csomagolja ki, kövesse a README lépéseit, és már fut is.

    Zip letöltésecatsai-serval.zip · 1.1 GBHugging Face: catsaiagency/Serval-1.8B-GGUF →

    Licenc

    A Serval modellre a CatsAI Model License vonatkozik. Az öt fő pont:

    • A kipróbálás ingyenes, bármely gépen: PC-n és szerveren is.
    • Tényleges munkára való használathoz fizetős licenc szükséges minden olyan gépre, amelyre a modell telepítve van. A fejlesztői gép is beleszámít, ha tényleges munkára használják.
    • A magáncélú, oktatási és tudományos kutatási használat ingyenes.
    • A licenc csak a modell súlyaira vonatkozik. A mintakód nyílt forráskódú marad.
    • A modellt továbbadhatja és továbbtaníthatja. Ilyenkor is ugyanez a licenc érvényes.
    A licencfeltételek teljes szövege (PDF)MagyarEnglishÉrdeklődés licencről →

    Ez összefoglaló. A PDF teljes szövege az irányadó.

    DEMÓ | a számok saját tesztből, a többi előzetes