10 ngôn ngữ,
dịch qua lại với nhau.
Serval là LLM nhỏ chỉ làm một việc: dịch. Nó dịch từ bất kỳ ngôn ngữ nào sang bất kỳ ngôn ngữ nào trong 10 ngôn ngữ, tổng cộng 90 chiều. Chỉ một tệp (khoảng 1.1GB), chạy trên máy của bạn mà không cần nối mạng. Bản dịch bên phải là bản ghi một lần dịch thật trên CPU, phát lại đúng tốc độ.
DEDeutsch
JA日本語
* Câu gốc là câu hư cấu viết riêng để minh họa. Bản dịch là nguyên văn đầu ra của Serval, không chỉnh sửa (những chỗ diễn đạt còn cứng cũng được giữ nguyên). Số giây hiển thị là bản ghi của một lần chạy trên CPU.
Nhỏ bằng 1/65,
chỉ kém 1.2 điểm.
Chúng tôi cho Serval dịch cùng những câu như gpt-oss-120b (117 tỷ tham số) và chấm bằng cùng một thước đo. Điểm là COMET (chỉ số từ 0 đến 100, cho biết bản dịch gần với bản dịch chuẩn của con người đến mức nào). Màu vàng là Serval, màu trắng là gpt-oss-120b.
* Số đo nội bộ (tháng 11/2026; Serval dùng Q4_K_M, gpt-oss-120b dùng reasoning effort medium). Kết quả không nói rằng Serval vượt trội, mà là: dù nhỏ, Serval vẫn đạt điểm gần ngang. Điều kiện chi tiết ở cuối trang.
90 chiều dịch,
điểm của từng chiều.
Hàng dọc là ngôn ngữ gốc, hàng ngang là ngôn ngữ đích. Màu càng đậm, điểm càng cao. Chọn một ô để xem điểm của Serval và gpt-oss-120b ở chiều đó đặt cạnh nhau.
↓ Ngôn ngữ gốcNgôn ngữ đích →
JA → EN
- Serval
- –
- gpt-oss-120b
- –
- Chênh lệch
- –
* Mỗi chiều 100 câu lấy từ FLORES-200 devtest. Điểm là COMET (wmt22-comet-da) nhân 100.
Tiếng Croatia
được dạy về sau.
Mô hình gốc của Serval (Hy-MT2-1.8B) không hỗ trợ tiếng Croatia. Khi bắt nó dịch, bản dịch lẫn từ của ngôn ngữ láng giềng và cả chữ Kirin. Vì vậy chúng tôi chuẩn bị khoảng 320.000 cặp câu song ngữ để huấn luyện thêm, bổ sung tiếng Croatia mà không làm giảm năng lực ở 9 ngôn ngữ còn lại. Bên dưới là kết quả dịch cùng một câu, trước và sau khi huấn luyện.
JA
Trước khi huấn luyện (mô hình gốc)
Sau khi huấn luyện (Serval)
* Màu vàng là những từ lẫn chữ Kirin. Trước khi huấn luyện là bản Q4_K_M của mô hình gốc, sau khi huấn luyện là bản Q4_K_M của Serval; cả hai đều được đo lại trong đợt này. Câu gốc lấy từ FLORES-200 (CC BY-SA 4.0).
Chỉ với CPU,
mỗi câu 1–2 giây.
Bên trái là cảnh Serval dịch một câu trên máy không có GPU. Hai làn bên phải để tham khảo: Serval và gpt-oss-120b, mỗi mô hình đặt trên một máy chủ gắn GPU 96GB. Tất cả đều là bản ghi thật, phát lại đúng số giây, không tua nhanh.
Chỉ CPU
ServalKhông GPU, 8 luồng
0.0giây
Tham khảo: máy chủ GPU
ServalKhi đặt trên GPU của cùng máy chủ
0.0giây
Tham khảo: máy chủ GPU
gpt-oss-120bCần GPU 96GB
0.0giây
* Số đo nội bộ (tháng 11/2026). Thời gian từ lúc gửi đến lúc có đủ bản dịch, khi gửi lần lượt từng câu một. Câu gốc lấy từ FLORES-200 (CC BY-SA 4.0).
Câu lệnh
chỉ có một.
Bạn chỉ cần điền tên ngôn ngữ đích và câu gốc. Khi muốn định sẵn cách dịch tên riêng, hãy thêm bảng đối chiếu vào phía trước. Trọng số là một tệp duy nhất, chạy thẳng bằng llama.cpp.
Câu lệnh
Translate the following text into Japanese. Note that you should only output the translated result without any additional explanation:
{văn bản gốc}Định sẵn cách dịch tên riêng (bảng thuật ngữ)
Reference the following translations: 伏見稲荷大社 translates to Fushimi Inari-taisha Translate the following text into English. Note that … {văn bản gốc}
Khởi chạy (llama.cpp)
llama-server -m serval-Q4_K_M.gguf \ -c 4096 -t 8 --jinja --port 8091
Công khaiTải trọng số →
- Không dùng system prompt. Chỉ đặt đúng một câu lệnh ở trên vào user.
- Thiết lập: temperature 0, repetition_penalty 1.05.
- Với các chiều có tiếng Trung, câu lệnh cũng viết bằng tiếng Trung (将以下文本翻译为…).
- Mô hình gốc Hy-MT2-1.8B dùng giấy phép Apache-2.0. Mô hình Serval được phát hành theo CatsAI Model License, có ghi rõ các thay đổi. tạm
- Kích thước này cũng chạy được bằng llama.cpp trên điện thoại (Android, iOS). Tốc độ trên máy thật sẽ được đo trong thời gian tới. Dự kiến
Có cả bản chuyên
cho du lịch Nhật Bản.
Đây là bản lấy Serval làm nền, huấn luyện thêm bằng các câu về du lịch chứa khoảng 11.000 tên riêng của Nhật Bản: điểm tham quan, nhà ga, món ăn… Nhờ đó, cách đọc các địa danh khó ít bị sai hơn. Nếu ứng dụng kèm thêm bảng đối chiếu tên (bảng thuật ngữ), tên riêng hầu như được dịch đúng như đã định. Với cùng cách làm, chúng tôi có thể làm một bản dành riêng cho lĩnh vực của bạn.
Tỷ lệ dịch đúng địa danh và tên cơ sở
- Các địa danh dùng để kiểm tra không có trong dữ liệu huấn luyện. Điểm trên câu thông thường thấp hơn Serval 0.2–0.4 điểm.
* Số đo thực tế trên 2.160 câu về du lịch do chúng tôi tự soạn (giữa tiếng Nhật và 9 ngôn ngữ, 18 chiều). Danh sách tên được lập từ Wikidata (CC0). Câu gốc minh họa được viết để kiểm tra, nội dung hướng dẫn chưa chắc đúng với thực tế.
Một câu,
sang 9 ngôn ngữ.
Chọn một câu, Serval sẽ dịch lần lượt sang 9 ngôn ngữ còn lại. Bạn cũng có thể chỉ chọn một ngôn ngữ đích. Đồng hồ hiển thị số giây thực mà việc dịch đã mất.
Trực tiếp: mô hình thật đang dịch ngay lúc này, chỉ bằng CPU của máy chủ này
1Chọn câuNgôn ngữ gốc
JA
2Ngôn ngữ đích
Bạn có thể sửa câu và dịch bất kỳ câu nào mình thích.
Câu lệnh gửi cho mô hình
0.0giây
Cách đo
và tư vấn.
- Câu: từ FLORES-200 devtest (có bản dịch chuẩn của con người, CC BY-SA 4.0), 90 chiều của 10 ngôn ngữ × 100 câu = 9.000 câu. Ngoài ra còn 1.800 đoạn văn của WMT24++, từ tiếng Anh sang 9 ngôn ngữ.
- Thước đo: COMET (wmt22-comet-da) nhân 100. Đây là chỉ số chấm xem bản dịch gần với bản dịch của con người đến mức nào, có xét cả câu gốc.
- Bản du lịch: 2.160 câu về những địa điểm không dùng khi huấn luyện. Bản dịch chuẩn do gpt-oss-120b soạn, có tham chiếu bảng đối chiếu tên. Vì vậy, điểm của gpt-oss-120b trên các câu này chỉ được nêu để tham khảo.
- Thực hiện: tháng 11/2026, trên một máy RTX PRO 6000 (96GB) của Vast.ai. Chúng tôi sẽ rà soát lại trước khi công bố chính thức.