Gimana Mengatasi Kesalahan di AI yang Bikin Bingung?

Kamu pernah ngerasa bingung sama keputusan yang diambil AI? Nah, salah satu masalahnya adalah kesalahan yang nempel dari langkah awal. Jadi, kalau AI bikin kesalahan di awal, bisa-bisa itu bikin semua keputusan selanjutnya jadi berantakan. Ini yang disebut dengan 'compounding errors'.

Di dunia AI, ada yang namanya Multi-Agent Debate (MAD). Ini adalah metode yang udah terbukti berhasil di lingkungan yang pasti. Tapi, masalahnya muncul saat AI dihadapkan sama tugas yang lebih subjektif, kayak persuasi. Di sini, AI sering kali jadi bingung dan malah mengikuti arus tanpa berpikir kritis.

Salah satu penyebabnya adalah 'semantic leakage' di metode Retrieval-Augmented Generation (RAG). RAG ini lebih fokus ke kesamaan kata daripada logika yang bener. Akibatnya, AI bisa salah paham dan bikin kesalahan yang lebih parah. Untuk mengatasi ini, para peneliti ngenalin yang namanya Taxonomic Strategy RAG (TS-RAG).

TS-RAG ini punya cara kerja yang beda. Dia mengarahkan strategi lewat bottleneck kategori yang jelas, jadi bisa memisahkan struktur argumen dari konten topikal. Hasilnya, AI bisa lebih baik dalam menerapkan logika abstrak, terutama di situasi yang rumit.

Dari evaluasi yang dilakukan, TS-RAG terbukti bisa meningkatkan kemampuan AI dalam berdebat. Misalnya, tingkat kemenangan AI yang menggunakan TS-RAG naik dari 70.5% jadi 78.5%. Gede banget kan? Ini bikin AI lebih efektif dalam berargumen dan bisa ngalahin lawan yang lebih kuat.

Terakhir, ada juga sistem baru yang disebut Debate State Representation (DSR). Ini membantu untuk mendiagnosis masalah secara mendetail, jadi kita bisa tahu di mana letak kesalahan dan mencegah AI dari kesalahan yang sama di masa depan.