10 भाषाएँ,
आपस में अनुवाद।
Serval एक छोटा LLM है, जो सिर्फ़ अनुवाद करता है। 10 भाषाओं में किसी से भी किसी में, कुल 90 दिशाओं में अनुवाद कर सकता है। फ़ाइल एक ही है (क़रीब 1.1GB) और यह बिना इंटरनेट के आपकी अपनी मशीन पर चलता है। दाईं ओर का अनुवाद असल में CPU पर किए गए अनुवाद की रिकॉर्डिंग है, जो उसी रफ़्तार से चलाई जा रही है।
DEDeutsch
JA日本語
※ मूल वाक्य नमूने के लिए लिखे गए काल्पनिक वाक्य हैं। अनुवाद Serval का आउटपुट है, जस का तस, बिना किसी सुधार के (जहाँ भाषा थोड़ी अटपटी है, वहाँ भी वैसा ही रखा गया है)। दिखाए गए सेकंड CPU पर किए गए एक रन की रिकॉर्डिंग हैं।
आकार 65वाँ हिस्सा,
अंतर सिर्फ़ 1.2 अंक।
हमने वही वाक्य gpt-oss-120b (117 अरब पैरामीटर) से भी अनुवाद करवाए और एक ही पैमाने से जाँचे। स्कोर COMET है (यह 0 से 100 के बीच बताता है कि अनुवाद इंसान के किए सही अनुवाद के कितना क़रीब है)। पीला Serval है, सफ़ेद gpt-oss-120b।
※ हमारी अपनी माप (नवंबर 2026; Serval Q4_K_M, gpt-oss-120b reasoning effort medium)। इसका मतलब यह नहीं कि Serval आगे निकल गया, बल्कि यह कि छोटा रहकर भी वह क़रीब का स्कोर लाता है। पूरी शर्तें पेज के अंत में हैं।
90 दिशाएँ,
हर एक का स्कोर।
खड़ी क़तार में स्रोत भाषा है और आड़ी क़तार में लक्ष्य भाषा। रंग जितना गहरा, स्कोर उतना ऊँचा। कोई खाना चुनने पर उस दिशा में Serval और gpt-oss-120b के स्कोर साथ-साथ दिखते हैं।
↓ स्रोत भाषालक्ष्य भाषा →
JA → EN
- Serval
- –
- gpt-oss-120b
- –
- अंतर
- –
※ FLORES-200 devtest से, हर दिशा के लिए 100 वाक्य। स्कोर COMET (wmt22-comet-da) का 100 गुना मान है।
क्रोएशियाई
बाद में सिखाई गई।
Serval जिस मॉडल (Hy-MT2-1.8B) पर बना है, वह क्रोएशियाई नहीं जानता। उससे अनुवाद करवाने पर पड़ोसी भाषाओं के शब्द और सिरिलिक अक्षर मिल जाते थे। इसलिए हमने क़रीब 3.2 लाख अनुवाद-जोड़े तैयार करके फ़ाइन-ट्यूनिंग की और बाक़ी 9 भाषाओं की क्षमता घटाए बिना क्रोएशियाई जोड़ दी। नीचे एक ही वाक्य का अनुवाद ट्रेनिंग से पहले और बाद में दिखाया गया है।
JA
ट्रेनिंग से पहले (मूल मॉडल)
ट्रेनिंग के बाद (Serval)
※ पीले शब्द वे हैं जिनमें सिरिलिक अक्षर मिल गए। ट्रेनिंग से पहले का नतीजा मूल मॉडल के Q4_K_M का है और बाद का Serval के Q4_K_M का; दोनों इस बार नए सिरे से मापे गए। मूल वाक्य FLORES-200 (CC BY-SA 4.0) के हैं।
सिर्फ़ CPU पर,
एक वाक्य 1–2 सेकंड।
बाईं ओर, बिना GPU वाली मशीन पर Serval एक वाक्य का अनुवाद कर रहा है। दाईं ओर के दो नतीजे संदर्भ के लिए हैं: 96GB GPU वाले सर्वर पर Serval और gpt-oss-120b, अलग-अलग। तीनों असली रिकॉर्डिंग हैं, जो उतने ही सेकंड में चलती हैं; कुछ भी तेज़ नहीं किया गया।
सिर्फ़ CPU
Servalबिना GPU, 8 थ्रेड
0.0सेकंड
संदर्भ: GPU सर्वर
Servalउसी सर्वर के GPU पर चलाने पर
0.0सेकंड
संदर्भ: GPU सर्वर
gpt-oss-120b96GB का GPU चाहिए
0.0सेकंड
※ हमारी अपनी माप (नवंबर 2026)। यह एक-एक करके भेजे गए अनुरोधों में, भेजने से लेकर पूरा अनुवाद आने तक का समय है। मूल वाक्य FLORES-200 (CC BY-SA 4.0) के हैं।
प्रॉम्प्ट
बस एक।
बस लक्ष्य भाषा का नाम और मूल पाठ डालिए। व्यक्तिवाचक नामों का अनुवाद पहले से तय रखना हो, तो आगे एक मिलान-सूची जोड़ दीजिए। वेट्स एक ही फ़ाइल में हैं और llama.cpp पर सीधे चलते हैं।
प्रॉम्प्ट
Translate the following text into Japanese. Note that you should only output the translated result without any additional explanation:
{मूल पाठ}नामों का अनुवाद पहले से तय करना (शब्दावली)
Reference the following translations: 伏見稲荷大社 translates to Fushimi Inari-taisha Translate the following text into English. Note that … {मूल पाठ}
चलाना (llama.cpp)
llama-server -m serval-Q4_K_M.gguf \ -c 4096 -t 8 --jinja --port 8091
उपलब्धवेट्स डाउनलोड करें →
- system प्रॉम्प्ट नहीं लगता। user में सिर्फ़ ऊपर वाला एक प्रॉम्प्ट डालें।
- सेटिंग: temperature 0, repetition_penalty 1.05।
- जिस दिशा में चीनी शामिल हो, वहाँ प्रॉम्प्ट भी चीनी में दें (将以下文本翻译为…)।
- मूल मॉडल Hy-MT2-1.8B का लाइसेंस Apache-2.0 है। Serval का मॉडल CatsAI Model License के तहत, बदलावों के स्पष्ट उल्लेख के साथ वितरित होता है। अस्थायी
- इसका आकार ऐसा है कि स्मार्टफ़ोन (Android, iOS) पर भी llama.cpp से चल सकता है। असली फ़ोन पर रफ़्तार की माप अभी होनी है। जल्द
जापान की यात्रा के लिए
ढला संस्करण भी।
यह Serval पर आधारित संस्करण है, जिसे यात्रा से जुड़े ऐसे वाक्यों पर फ़ाइन-ट्यून किया गया है जिनमें जापान के पर्यटन स्थलों, स्टेशनों, व्यंजनों आदि के क़रीब 11 हज़ार नाम हैं। कठिन जगहों के नामों के उच्चारण में ग़लती कम होती है। और अगर ऐप की ओर से नामों की मिलान-सूची (शब्दावली) साथ दी जाए, तो नाम लगभग तय किए गए रूप में ही अनुवाद होते हैं। इसी तरीक़े से आपके क्षेत्र के लिए ढला संस्करण भी बन सकता है।
जगहों और इमारतों के नामों का सही अनुवाद: प्रतिशत
- टेस्ट में इस्तेमाल हुए जगहों के नाम ट्रेनिंग में शामिल नहीं थे। सामान्य वाक्यों का स्कोर Serval से 0.2 से 0.4 अंक कम रहता है।
※ हमारे अपने बनाए यात्रा के 2,160 वाक्यों (जापानी और 9 भाषाओं के बीच, 18 दिशाएँ) पर मापे गए आँकड़े। नामों की सूची Wikidata (CC0) से बनाई गई। नमूने के मूल वाक्य टेस्ट के लिए लिखे गए हैं; उनमें दी गई जानकारी का तथ्यों से मेल खाना ज़रूरी नहीं।
एक वाक्य,
9 भाषाओं में।
वाक्य चुनिए, तो बाक़ी 9 भाषाओं में एक-एक करके उसका अनुवाद होता है। चाहें तो सिर्फ़ एक लक्ष्य भाषा चुन सकते हैं। घड़ी अनुवाद में लगे असली सेकंड दिखाती है।
लाइव: असली मॉडल अभी, केवल इस सर्वर के CPU पर अनुवाद कर रहा है
1वाक्य चुनेंस्रोत भाषा
JA
2लक्ष्य भाषा
वाक्य बदलकर आप अपनी पसंद का वाक्य अनुवाद करवा सकते हैं।
मॉडल को भेजा जाने वाला प्रॉम्प्ट
0.0सेकंड
माप का तरीक़ा
और संपर्क।
- वाक्य: FLORES-200 devtest (इंसान के किए सही अनुवादों के साथ, CC BY-SA 4.0) से 10 भाषाओं की 90 दिशाएँ × 100 वाक्य = 9,000 वाक्य। साथ में WMT24++ से अंग्रेज़ी से 9 भाषाओं में 1,800 अनुच्छेद।
- पैमाना: COMET (wmt22-comet-da) का 100 गुना मान। यह मूल पाठ को भी देखकर आँकता है कि अनुवाद इंसान के अनुवाद के कितना क़रीब है।
- यात्रा संस्करण: उन जगहों के 2,160 वाक्य जो ट्रेनिंग में इस्तेमाल नहीं हुईं। सही अनुवाद gpt-oss-120b ने नामों की मिलान-सूची देखकर बनाए हैं। इसलिए इन वाक्यों पर gpt-oss-120b का स्कोर सिर्फ़ संदर्भ के लिए दिया गया है।
- समय: नवंबर 2026, Vast.ai का एक RTX PRO 6000 (96GB)। औपचारिक रिलीज़ से पहले इन्हें दोबारा जाँचा जाएगा।