Anthropic Luncurin FlashProve: Buktikan Model AI Asli Tanpa Buka Bobotnya

Anthropic baru saja drop FlashProve, prototype riset open-source di bawah lisensi Apache 2.0 yang ngasih solusi buat masalah klasik di dunia AI: kamu nanya ke API, tapi nggak tau pasti model mana yang jawab. Bisa aja penyedia layanan nge-swap model gede jadi model kecil biar hemat biaya, atau attacker ngehack aliran token. FlashProve hadir buat ngurusin hal itu — dia pakai zkSNARK (zero-knowledge succinct non-interactive argument of knowledge) buat buktiin kalau reply itu benar-benar keluar dari model yang sudah di-commit bobotnya, tanpa nge-reveal bobot model itu sendiri.

Di benchmark pake Llama 4 Maverick — model mixture-of-experts 400B parameter dengan ~17B parameter aktif per token — FlashProve nge-prove sekitar 110 token per detik di satu GPU H100 80 GB. Ukuran proof-nya 18,78 MB, dan verifikasi di CPU butuh 17 detik (24 thread) atau 21 detik (1 thread). Client cuma perlu download ~6,5 MB sekali per commitment. Angka-angka ini jauh ngalahin sistem zkML open-source sebelumnya di model ukuran sama, tapi ada trade-off besar: biaya proving sekitar 70 sampai 95 kali lipat waktu GPU inferensi biasa pake vLLM.

Gimana FlashProve Kerja: Dua Fase, Satu Komitmen

Sistem ini punya dua aktor: prover (penyedia model) dan verifier (pengguna). Prosesnya dibagi dua fase. Fase offline: prover publish commitment — sidik jari singkat yang mengikat satu set bobot pasti. Proses ini butuh ~39 menit dan berlaku untuk ~16 juta request. Fase online: untuk tiap request, GPU nge-produksi proof kalau model yang di-commit itu yang ngehasilin token-token itu. Sistem proof-nya compile interactive oracle proof jadi bukti kriptografis pake hash function, yang Anthropic bilang tahan terhadap ancaman quantum — keluarga yang sama dipakai validity-proof L2 kayak Starknet.

Tiga pilihan engineering bikin FlashProve cepat. Pertama, kerja prover scaling ke ~17B parameter aktif, bukan total 400B. Kedua, request di-prove dalam batch setelah selesai, mirip prefill. Ketiga, bobot di-stream dari memori host, jadi satu GPU 80 GB cukup. Benchmark di repo FlashProve nunjukin batch 24 request: 111,23 tok/s, ~221-226 detik per batch. Batch 1: 17,41 tok/s. Batch 64: 123,31 tok/s tapi ditandai unreliable di kartu 80 GB. Context window terbatas 1.024 token — jauh di bawah production window ratusan ribu token.

Bandingin Sama zkML Lain: FlashProve Menang Kecepatan

Dibandingin sistem zkML lain, FlashProve dominan di throughput. Attestable (Gemma 4 31B dense) ngejar 53-77 tok/s tapi closed source. VerInf (Llama 4 Maverick) cuma ~0,02 tok/s — 1.000 token butuh 14,3 jam. DeepProve (GPT-2) ~2,9 tok/s. FlashProve ~110 tok/s di hardware yang sama (1 H100 + 24 CPU core). Proof size 18,78 MB — lebih gede dari Attestable (4-8 MiB) tapi jauh lebih kecil dari VerInf (93,6 GB). Verifikasi 17 detik vs Attestable 157-648 ms, tapi VerInf butuh 17,7 jam. Code FlashProve open Apache 2.0, beda sama Attestable yang nggak open source.

Keamanan dicek formal di Lean — bahasa theorem prover. Anthropic buktiin completeness, soundness, zero knowledge. README bilang provider curang ketahuan kecuali probabilitas ~q/2^124 + 2^-101. Ada dua verifier: C++ cepat buat daily use (tanpa jaminan formal), dan Lean lambat tapi terbukti hanya nerima yang lolos teorema soundness. Tim Anthropic catat Claude bantu optimasi sistem. Tapi ada batasan: cuma integer model, greedy decoding (sampled/floating-point bisa beda), MoE only, arsitektur publik (bobot tersembunyi), post-hoc batched (batch 24 butuh ~221-226 detik dari mulai sampai proof), side-channel timing di luar scope, dan ini research artifact — nggak di-maintain, nggak terima kontribusi.

Buat Apa Ini Berguna di Dunia Nyata?

Anthropic sebut empat use case. Regulator bisa konfirmasi hardware serve inference, support aturan AI pacing. Lab bisa deteksi server inference yang di-tamper. User bisa verifikasi provenance teks — penting buat kasus hukum, jurnalisme, atau audit. Regulator bisa enforce serving model yang approved aja. Buat developer, ini ngisi gap nyata: hari ini kamu nggak bisa cek model mana yang jawab API call kamu. FlashProve kasih bukti kriptografis, bukan cuma janji.

• Verifikasi model API tanpa percaya sepenuhnya pada penyedia
• Audit kepatuhan regulasi AI (misal EU AI Act)
• Deteksi penyalahgunaan infrastruktur inference
• Bukti provenance untuk konten sensitif hukum/jurnalisme

FlashProve masih prototype riset, bukan production-ready. Context 1.024 token bikin dia nggak cocok buat use case panjang kayak RAG atau coding agent. Biaya proving 70-95x inferensi biasa berarti butuh budget GPU gede. Tapi sebagai proof-of-concept, ini milestone besar: pertama kalinya zkSNARK bisa prove MoE 400B di kecepatan yang masuk akal di single GPU. Repo, technical report, protocol spec, dan research post sudah tersedia buat yang mau nyoba atau kontribusi ide — meski Anthropic bilang nggak terima PR.