10种语言，
互相翻译。
Serval 是一款只做翻译的小型LLM。10种语言中的任意两种之间都能翻译，共90个方向。文件只有1个（约1.1GB），无需联网，在手边的设备上就能运行。右侧的译文，是按相同速度重放实际用 CPU 翻译时的记录。
DEDeutsch
JA日本語
※ 原文是为演示而写的虚构句子。译文是 Serval 的原始输出，未经任何修改（措辞生硬的地方也原样刊出）。秒数是在 CPU 上翻译时的记录。
大小只有65分之1，
差距1.2分。
我们让它与 gpt-oss-120b（1,170亿参数）翻译相同的句子，并用同一标准评分。分数为 COMET（用0～100表示译文与人工参考译文接近程度的指标）。黄色是 Serval，白色是 gpt-oss-120b。
※ 自行实测（2026年11月，Serval 为 Q4_K_M，gpt-oss-120b 为 reasoning effort medium）。这一结果并不表示 Serval 胜出，而是说明它在保持小体积的同时能拿到接近的分数。详细条件见页面末尾。
90个方向，
逐一打分。
纵轴是源语言，横轴是目标语言。颜色越深，分数越高。选中一个方格，会并排显示该方向上 Serval 和 gpt-oss-120b 的分数。
↓ 源语言目标语言 →
JA → EN
- Serval
- –
- gpt-oss-120b
- –
- 差距
- –
※ 取自 FLORES-200 devtest，每个方向100句。分数为 COMET（wmt22-comet-da）乘以100后的值。
克罗地亚语，
是后来教的。
Serval 的基础模型（Hy-MT2-1.8B）不支持克罗地亚语。让它翻译时，会混入邻近语言的单词和西里尔字母。于是我们准备了约32万组平行语料进行微调，在不削弱其他9种语言能力的前提下，加入了克罗地亚语。下面是同一句话在训练前后的翻译结果。
JA
训练前（基础模型）
训练后（Serval）
※ 黄色是混入了西里尔字母的单词。训练前为基础模型的 Q4_K_M，训练后为 Serval 的 Q4_K_M，两者均为此次重新测量。原文出自 FLORES-200（CC BY-SA 4.0）。
只用CPU，
每句 1～2秒。
左边是 Serval 在没有 GPU 的机器上翻译1句话的过程。右边两条仅供参考，是把 Serval 和 gpt-oss-120b 分别部署在装有 96GB GPU 的服务器上的情况。三者都是按相同秒数重放的实际记录，没有快进。
仅 CPU
Serval无 GPU，8线程
0.0秒
参考：GPU 服务器
Serval部署在同一服务器的 GPU 上
0.0秒
参考：GPU 服务器
gpt-oss-120b需要 96GB 的 GPU
0.0秒
※ 自行实测（2026年11月）。逐条依次发送时，从发送到译文全部输出所用的时间。原文出自 FLORES-200（CC BY-SA 4.0）。
提示词
只有1条。
只需填入目标语言的名称和原文。想预先确定专有名词的译法时，在前面加一张对照表即可。权重是单个文件，可直接用 llama.cpp 运行。
提示词
Translate the following text into Japanese. Note that you should only output the translated result without any additional explanation:
{原文}预先确定名称的译法（术语表）
Reference the following translations: 伏見稲荷大社 translates to Fushimi Inari-taisha Translate the following text into English. Note that … {原文}
启动（llama.cpp）
llama-server -m serval-Q4_K_M.gguf \ -c 4096 -t 8 --jinja --port 8091
已公开下载权重 →
- 不加 system 提示词。在 user 中只放上面这1条提示词。
- 设置为 temperature 0、repetition_penalty 1.05。
- 涉及中文的方向，提示词也用中文（将以下文本翻译为…）。
- 基础模型 Hy-MT2-1.8B 采用 Apache-2.0 许可证。Serval 模型采用 CatsAI Model License，并注明修改之处后发布。 暂定
- 体积小到在手机（Android、iOS）上也能用 llama.cpp 运行。真机上的速度测量将在今后进行。 计划中
还有为日本旅行
定制的版本。
这是以 Serval 为基础，用包含日本景点、车站、美食等约1万1千个名称的旅行语句微调而成的版本。难读的地名更不容易译错。此外，如果在应用一侧附上名称对照表（术语表），名称基本会按预定的译法翻译。用同样的方法，也可以做出适合贵公司领域的版本。
地名、设施名译对的比例
- 测试所用的地名没有放进训练数据。一般语句的得分比 Serval 低 0.2～0.4 分。
※ 用自建的 2,160 条旅行语句（日语与9种语言之间，18个方向）实测。名称列表取自 Wikidata（CC0）。示例原文是为测试而写的句子，其中的介绍内容未必属实。
1句话，
译成9种语言。
选一句话，就会逐一翻译成其他9种语言。也可以只选1种目标语言。计时器显示的是翻译实际花费的秒数。
实时：真实的模型正在仅用本服务器的 CPU 进行翻译
1选择句子源语言
JA
2目标语言
可以改写句子，翻译您想译的内容。
发给模型的提示词
0.0秒
测试方法，
以及咨询。
- 语句：取自 FLORES-200 devtest（附人工参考译文，CC BY-SA 4.0），10种语言的90个方向 × 100句 = 9,000句。另有 WMT24++ 的英语译9种语言，1,800个段落。
- 指标：COMET（wmt22-comet-da）乘以100后的值。这是一种同时参照原文，为译文与人工译文的接近程度打分的指标。
- 旅行版：2,160 条语句，涉及的地点均未用于训练。参考译文由 gpt-oss-120b 对照名称表生成。因此，gpt-oss-120b 在这些语句上的得分仅供参考。
- 实施：2026年11月，Vast.ai 的 RTX PRO 6000（96GB）1台。正式发布前会再次核对。