Surat Terbuka buat Dario: Kalau Serius, Buka Bobot Modelnya!

Komunitas AI lagi rame-ramenya karena surat terbuka yang dikirim langsung ke Dario Amodei, CEO Anthropic. Isinya sederhana tapi tajam: kalau kamu benar-benar serius soal AI safety dan kepercayaan publik, bukakan bobot model Claude. Penulis surat, seorang penelisi senior yang memilih anonimitas, argumeninnya kalau transparency bukan cuma buzzword — tapi prasyarat fundamental biar komunitas global bisa audit, red-team, dan improve safety secara kolektif.

Ini bukan pertama kalinya Anthropic didekati soal open weight. Dari dulu, perusahaan ini positioning diri sebagai "safety-first" AI company, beda sama OpenAI yang lebih agresif komersial. Tapi kritiknya, Anthropic justru jadi paling tertutup di antara lab besar: Claude closed-source, bobotnya gak dibuka, bahkan arsitektur detailnya gak dipublikasikan. Banyak penelisi merasa ini kontradiktif: gimana bisa claim safety leader kalau komunitas gak bisa ngecek apa yang sebenarnya ada di dalam model?

Kenapa bobot model jadi begitu sensitif

Bobot model (model weights) itu inti dari LLM modern — parameter-parameter numerik yang nentuin bagaimana model memproses bahasa, reasoning, dan generate output. Kalau dibuka, siapa aja bisa download, fine-tune, jalankan lokal, atau bahon modifikasi tanpa izin perusahaan. Buat perusahaan seperti Anthropic, ini berarti kehilangan kontrol distribusi, potensi misuse, dan tentu saja keuntungan komersial dari API access. Tapi buat penelisi safety, bobot tertutup berarti black box yang gak bisa diverifikasi.

Argumen safety sebenarnya dua sisi. Pro open weight bilang: transparansi memungkinkan red-teaming massal, audit bias, deteksi backdoor, dan penelitian alignment yang scalable. Lawanannya bilang: buka bobot berarti menyerahkan senjata ke bad actor — deepfake, spam, cyberattack, bioweapon design jadi lebih mudah. Anthropic selama ini pegang teguh argumen kedua, tapi surat ini nanya: "Kalau safety benar-benar prioritas #1, kenapa gak percaya komunitas global bisa bantu menjaganya?"

Preceden Llama dan Mistral ubah lanskap

Lanskap open weight AI udah berubah drastis lewat Llama Meta dan model-model Mistral. Llama 3.1 405B dibuka dengan lisensi yang cukup permisif, dan komunitas langsung bikin ribuan varian fine-tune: coding specialist, multilingual, reasoning-enhanced, bahkan versi yang di-distill buat jalan di laptop biasa. Mistral Large 2 juga ikut terbuka. Hasilnya? Inovasi safety justru percepat — tools seperti Llama Guard, Prompt Guard, dan berbagai safety fine-tune lahir dari komunitas, bukan dari lab Meta sendiri.

Data nyata mendukung ini: dalam 6 bulan pasca rilis Llama 3, paper penelitian safety yang pakai model open weight melonjak 300% dibanding periode sebelum rilis. Penelisi universitas di negara berkembang yang gak punya budget API Anthropic/OpenAI akhirnya bisa kontribusi nyata. Ini buktiin: buka bobot gak cuma soal ideologi, tapi soal memperluas talent pool yang ngejar safety.

Yang sebenarnya dipertaruhkan Anthropic

Bukan cuma soal safety — ini soal bisnis model. Anthropic baru saja raise $4 miliar dari Amazon dan $2 miliar dari Google, valuasi $18,4 miliar. Revenue utamanya dari API Claude dan enterprise contracts. Buka bobot model flagship berarti potential cannibalization: enterprise mungkin pilih self-host versi open weight daripada bayar API per token. Investor pasti gak suka narasi ini. Tapi ada argumen lawan: Meta buka Llama tapi tetap untung lewat cloud partnership dan enterprise support. Red Hat model: code gratis, support dan infrastructure berbayar.

Dario Amodei sendiri pernah bilang di podcast Dwarkesh Patel: "Kita open source kalau aman." Tapi definisi "aman" ini yang ambigu. Beberapa penelisi argumenin, safety itu proses, bukan binary state. Model gak pernah 100% aman — tapi dengan open weight, proses perbaikan jadi distributed dan continuous. Menunggu "sempurna" berarti nunggu lama, dan selama itu monopoli safety tetap di tangan sedikit orang.

Apa yang bisa kamu lakukan sekarang

Kalau kamu developer atau penelisi AI, ini momen bagus buat ikut suara. Baca surat terbuka aslinya di forum diskusi AI (cari judulnya di LessWrong atau AI Alignment Forum), tambahin komentar atau signature kalau setuju. Buat yang gak teknis, pahami kalau debat ini bakal nentuin masa depan AI: apakah AI jadi public utility yang transparen, atau proprietary black box yang dikendalikan beberapa korporasi raksasa. Pilih tool yang align sama nilai kamu — kalau peduli open source, pertimbangkan pakai model open weight untuk project selanjutnya.

• Baca surat terbuka asli di forum AI Alignment atau LessWrong
• Ikuti perkembangan model open weight terbaru: Llama 3.1, Mistral Large 2, Qwen 2.5
• Eksperimen fine-tuning safety pada model open weight buat paham prosesnya
• Dukung organisasi non-profit yang push transparansi AI seperti EleutherAI, LAION