Reflection AI Luncurkan Beam: Model 501B Parameter Tapi Cuma 23B Aktif, Effisien Banget?

Reflection AI baru saja ngeluarin Beam, model open-weight pertama mereka yang langsung bikin geger komunitas AI. Ini model Mixture-of-Experts (MoE) sparse dengan total 501 miliar parameter, tapi yang aktif per token cuma 23 miliar doang — sekitar 4,6 persen dari total. Konsepnya simpel: router milih sekelompok expert kecil buat tiap token, jadi gak perlu jalanin seluruh 501B parameter setiap kali generate. Reflection bilang arsitektur ini bikin Beam bisa saingan model-model gede kayak GLM-5.2 (753B parameter) sambil pakai inference compute 3 sampai 4 kali lebih sedikit. Buat kamu yang ngurusin infrastructure AI, ini berarti biaya serving yang jauh lebih ringan tanpa harus korbanin performa reasoning.

Pretraining Beam gak main-main: 23,8 triliun token dari web, public sources, dan proprietary licensed datasets. Tim Reflection jujur ngakui mereka buang sekitar 95 persen token mentah dari internet, tapi mereka juga nyimpen sekitar 1,8 triliun token berkualitas tinggi yang filter konvensional biasanya drop. Arsitektur interleaves local dan global attention dengan fine-grained routed experts, dan load balancing-nya build on auxiliary-loss-free balancing dari DeepSeek-V3 ditambah cosine decay of expert-bias updates. Hasilnya? Expert tersibuk cuma mencapai 1,04x rata-rata load di akhir pretraining. Seluruh 52 layer residual norms tetep bounded berkat depth-based scaling, SandwichNorm, attention gating, dan FP32 residual accumulation. Semua selesai dalam kurang dari 4 minggu pakai 6.144 NVIDIA GB300 NVL72 GPU dengan goodput 92,3 persen.

Reinforcement Learning Skala Gede Jadi Rahasia Efisiensi

Bagian paling wild dari Beam itu RL-nya. Reflection pakai 10.500 NVIDIA GB300 GPU selama 4 minggu dan generate lebih dari 100 juta rollouts. Maksimum rollout context 256K token. Training dan grading makan sekitar 1,3 miliar sandbox di hampir 1 juta environment coding, agentic, dan STEM. Mereka pakai fully asynchronous policy gradients — setiap token ditag sama policy version yang nge-produce-nya. Algoritma baru bikin learning tetep stabil bahkan sampai satu hari staleness, 107 weight versions di belakang policy saat ini. Tim laporkan gak ada plateau seiring bertambahnya RL compute. Infrastructure numbers-nya juga gila: sistem sustain 110K concurrent rollouts rata-rata, weight baru sampai ke inference fleet dalam median 12 detik, dan 71 inference incidents dihandle tanpa hentikan training. Controllable length penalty ajarin Beam solve task dengan token lebih sedikit, dan browsing skills naik tanpa browsing tasks di RL mix — artinya ada transfer across agentic domains.

Benchmark: Ngejar GLM-5.2, Masih Kalah Sama Kimi K3

Di SWE-bench Verified, Beam score 80,9 versus Nemotron 3 Ultra 70,7. Di Terminal Bench v2.1, Beam 80,1 — deket banget sama GLM 5.2 yang 81,0. Tapi DeepSeek V4.1 Flash (90,6) dan Kimi K3 (88,3) masih jauh di depan. Angka-angka ini dari tabel Reflection yang ngutip skor rival dari Artificial Analysis dan DataCurve. Beam paling kecil total parameternya di antara kompetitor: GLM-5.2 ~753B, Nemotron 3 Ultra 550B, DeepSeek V4.1 Flash, Kimi K3 2,8T. Active parameter 23B juga di bawah GLM-5.2 (~40B), Nemotron (55B), dan Kimi K3 (104B). License Apache 2.0 planned rilis nanti Oktober 2026, sedangkan GLM-5.2 MIT, Nemotron OpenMDW-1.1, DeepSeek MIT, Kimi K3 custom license dengan attribution requirement buat produk super gede.

Safety & Alignment: Deliberative Alignment Plus Multi-Teacher Distillation

Reflection nge-train safety dan alignment teacher terpisah dari pretrained checkpoint, trus merge dengan RL teacher pakai multi-teacher on-policy distillation. Safety training pakai deliberative alignment — artinya model diajarin reasoning tentang safety sebelum decide action, bukan cuma pattern matching. Hasil evaluasi safety bakal muncul di technical report. Buat enterprise yang mau deploy, ini sinyal bagus: Reflection gak cuma fokus raw capability tapi juga safety yang systematic. Model text-only dengan 1M effective context, jadi cocok banget buat coding tasks panjang dan agentic workflows yang butuh context window gede.

Kapan bisa dipakai? Belum buat self-hosting. Beam masih final red-teaming, early access lewat waitlist di platform Reflection. Apache 2.0 weights dijadwalin rilis nanti bulan Oktober 2026. Buat tim engineering yang pengen coba, daftar waitlist sekarang — soalnya model dengan efisiensi compute kayak gini jarang banget ketemu di open-weight frontier. Reflection positioning Beam sebagai advancing Western open-weight frontier, jujur ngakui Kimi K3 masih unggul raw capability, tapi pitch Beam ya efficiency at inference time. Reasoning effort parameter bikin tim bisa match effort ke task difficulty dan compute budget: lower settings buat jawaban pendek, higher settings buat reasoning panjang di task sulit.