Cohere Luncurkan North Small Translate: Model Terjemah 218B yang Ngalahin DeepL?

Cohere baru saja ngedrop model terjemah terbaru mereka: North Small Translate. Ini model Mixture-of-Experts (MoE) sparse dengan total 218 miliar parameter, tapi cuma 25 miliar yang aktif per token — sekitar 11,5% dari bobot total. Model ini cover 50 bahasa, dari Albania sampai Vietnam, dan Cohere klaim skor 83,6 di evaluasi WMT26 mereka sendiri, di atas DeepL NextGen (81,37), Google Translate (68,20), GLM 5.2 FP8 (76,50), dan Gemma 4 31B (79,46). Ada juga varian Agentic yang skor 84,36 lewat workflow multi-pass yang bisa nemuin dan betulin error terjemah sendiri.

Tapi harus diinget: semua skor ini vendor-reported dari blog resmi Cohere, dengan GPT-5.6-Sol sebagai hakimnya. Belum ada hasil WMT26 independen yang verifikasi. Jadi angka-angka ini baca sebagai claim pihak pertama, bukan kebenaran mutlak. Cohere sendiri bilang band skor 80-100 berarti 'perfect or minor errors only', jadi 83,6 masuk kategori bagus dengan error minor aja.

Arsitektur MoE yang Ngikut Jejak Command A

North Small Translate pakai arsitektur decoder-only sparse MoE Transformer. Ada 128 expert total, 8 yang diaktifin per token, plus shared experts yang jalan di setiap token. Router-nya pakai sigmoid di atas logit expert, dinormalisasi di top-8 yang dipilih. Buat attention, model ini interleaving sliding-window layers (window 4096, pakai RoPE) dan global layers tanpa positional embeddings dengan rasio 3:1 — layout yang pertama kali diperkenalkan di Command A. Context window-nya 16K input dan 16K output token, text only. Model ini di-post-train khusus buat kualitas terjemah, dibangun bareng RWS Language Weaver yang para scientist dan pakar bahasa mereka bantu shape kualitas real-world.

Performa Regional: Eropa Unggul, Asia Selatan Dekat

Secara regional, kedua versi North (standar dan Agentic) ngalahin Gemma 4 31B di Eropa. Di bahasa EU, model standar skor 82,17 vs Gemma 72,73 — gap sekitar 9,4 poin. Di non-EU Europe, North 81,52 vs Gemma 75,90. Tapi di Asia Selatan ceritanya beda: Gemma sedikit unggul 88,04 vs North 86,16. Cohere juga lapor North unggul di MENA, Southeast Asia, dan East Asia terhadap DeepL NextGen, dengan gap 8-10 poin di Asia Selatan dan MENA. Data ini tetap dari internal test Cohere ya.

Kecepatan, Dokumen Panjang, dan Biaya

Soal throughput, Cohere test di hardware identik: low concurrency North menghasilkan 112 token/detik vs Gemma 81 token/detik. High concurrency: 39 vs 30. Cohere bilang ini hingga 1,4x lebih cepat. Tapi yang lebih menarik adalah kemampuan dokumen panjang. North skor 48,9 pas nerjemahin 2 bab buku dalam 1 panggilan (xCOMET-XL per paragraf). Google Translate cuma 21,3 dan Gemma 4 31B cuma 19,4. Ini gap yang cukup signifikan buat use case enterprise yang butuh nerjemahin dokumen legal, kontrak, atau laporan panjang sekaligus.

Soal biaya, Cohere punya chart menarik: North skor 80,1 dengan biaya $0,000676 per task (rata-rata 661 token). Bandingin sama Gemini 3.1 Pro Preview (high) yang $0,038928 per task — kira-kira 58x lebih mahal. Qwen 3.5 397B A17B $0,004525 dan Command A+ $0,005158. Jadi kalau kamu butuh volume besar terjemah dengan kualitas bagus, North bisa jadi opsi yang hemat banget dibanding LLM general-purpose.

Cara Pakai: API Gratis, Self-Host, atau Lisensi Komersial

Ada tiga jalur buat pakai North Small Translate. Paling cepat: Cohere Chat V2 API dengan model ID 'north-small-translate-1-0'. Gratis sampai kena rate limit. Cukup import ClientV2, masukin API key, dan panggil chat dengan pesan terjemah. Buat self-host non-komersial, Cohere publish 3 checkpoint di Hugging Face dengan lisensi CC BY-NC 4.0 (gated access). Checkpoint-nya sama yang dipakai Cohere di production: BF16 butuh 8x H100 atau 4x B200, FP8 butuh 4x H100 atau 2x B200, NVFP4 W4A16 paling hemat — cuma 2x H100 atau 1x B200. Buat deployment komersial terisolasi, ada Cohere Model Vault. Dan buat platform terjemah/lokalisasi siap pakai, RWS Language Weaver sudah bangun di atas model ini.

Bottom line: North Small Translate itu model terjemah dedicated yang serius, arsitektur MoE modern, performa vendor-reported yang menjanjikan, dan opsi deployment yang fleksibel. Tapi tetap tunggu verifikasi independen WMT26 sebelum percaya sepenuhnya angka-angkanya. Kalau kamu butuh nerjemahin volume besar dokumen bisnis kritis dengan budget terbatas, model ini layak di-incar — apalagi checkpoint 4-bit yang jalan di 1x B200 atau 2x H100.