OCR Sering Salah Baca? Model Baru Bikin Dia Lebih Teliti

Kamu pasti pernah mengalami ini: scan dokumen atau foto struk, trus AI malah baca teks yang aneh jadi kalimat yang 'kelihatan wajar' tapi salah total. Nah, itu masalah klasik vision-language model (VLM) — dia terlalu pintar ngarang bahasa sampai melupakan teks asli yang ada di gambar. Peneliti dari arXiv baru-baru ini ngeluarin paper soal GAD-RL, metode baru buat bikin OCR lebih setia ke realita. Intinya, model diajarin biar nggak sembarangan 'memperbaiki' teks aneh jadi kalimat yang grammatically correct tapi fakir fakir.

Masalahnya sih, VLM modern suka banget nulis ulang teks aneh — misal typo, singkatan gak baku, atau format acak — jadi ekspresi linguistik yang plausible. Contohnya, 'teh botol' jadi 'teh botol yang segar', atau kode produk 'SKU-123X' jadi 'sku seratus dua puluh tiga eks'. Akibatnya, transkripsi OCR jadi nggak faithful, alias nggak mengikuti apa yang benar-benar tertulis di gambar. Sequence-level task rewards dan local teacher guidance memang saling melengkapi, tapi guidance dari guru yang sama ternyata nggak tetap efektif seiring murid jadi lebih pintar.

Guru Tetap Jadi Kurang Efektif Saat Murid Sudah Pintar

Analisis offline nunjukin kalau supervisi dari guru yang beku (fixed teacher) jadi semakin kurang menguntungkan seiring murid (student model) semakin baik. Ini berlaku di seluruh checkpoint training dan di berbagai grup respons dengan task reward yang beda. Bayangin aja, guru ngasih petunjuk yang sama buat murid yang baru belajar dan murid yang udah juara — pasti nggak cocok kan? Itulah motivasi utama tim riset buat bikin GAD-RL, yang adaptif ngatur supervisi guru selama joint post-training berdasarkan performa task murid saat itu dan distribusi lokal.

Caranya, guru yang beku (frozen teacher) dikondisikan pada transkripsi referensi dan prefix yang dihasilkan murid. GAD-RL punya dua mekanisme keren: pertama, dia disable distilasi untuk grup respons yang mengandung output dengan task reward minimal 0.95 — artinya kalo murid udah jawab hampir sempurna, guru diam aja. Kedua, dia continuously attenuate (perlahan kurangi) kekuatan distilasi seiring naiknya group-mean reward. Jadi semakin bagus rata-rata jawaban murid, semakin tipis intervensi guru.

Bobot Forward KL Diatur Pakai Probabilitas Token Top-1

GAD-RL juga nge-weight forward KL divergence pakai probabilitas murid terhadap token Top-1 guru. Kalau murid sendiri nggak percaya (probabilitas rendah) ke kandidat token teratas guru, update auxiliary lokalnya di-moderate — dikurangi pengaruhnya. Ini mencegah murid terpaksa mengikuti petunjuk guru yang murid sendiri rasa 'kurang yakin'. Kombinasi gating (disable kalau reward tinggi), attenuation (kurangi perlahan), dan weighting KL ini bikin proses belajar jadi lebih natural, kayak guru yang tahu kapan harus campur tangan dan kapan harus mundur.

Uji coba di Qwen3.5-2B hasilnya bikin terpana: GAD-RL capai 59.92% Micro Recall di CHAOS-Bench, ngalahin GRPO biasa sebanyak 8.45 percentage point dan GRPO+OPD fixed-weight sebanyak 4.43 percentage point. Di OmniDocBench v1.6, dia raih Overall score 91.18. Angka-angka ini nggak main-main — artinya model jadi jauh lebih teliti nangkep teks asli tanpa terpengaruh bias bahasa model. Buat kamu yang develop aplikasi OCR, invoice parsing, atau document understanding, ini sinyal kuat kalau adaptive distillation itu jalan yang benar.

Apa Artinya Buat Kamu Yang Bangun Sistem OCR?

Kalau kamu lagi bangun pipeline OCR atau document AI, GAD-RL kasih insight penting: jangan cuma andalkan reward global atau teacher statis. Coba implementasikan gating berbasis reward threshold dan attenuation schedule yang adaptif. Meskipun paper ini pakai Qwen3.5-2B, prinsipnya bisa diaplikasikan ke arsitektur VLM lain. Takeaway praktisnya: biarkan model belajar dari kesalahan sendiri saat performa sudah tinggi, dan gunakan teacher hanya di zona di mana murid benar-benar butuh bimbingan. Efisiensi training naik, akurasi transkripsi naik, semua senang.