Pengacara Brasil Disanksi Gara-gara Pakai AI Halusinasi di Gugatan

Dua pengacara di Brazil baru saja jadi korban pertama sanksi pengadilan gara-gara percaya terlalu dalam sama output AI. Mereka ngajukan gugatan ganti rugi buat klien maskapai penerbangan, tapi di dalam dokumen hukum itu ternyata nyemplung kutipan-kutipan kasus yang nggak pernah ada — semuanya hallucination buatan ChatGPT. Hakim yang ngurusin kasus ini nggak main-main, langsung ngejar sanksi finansial dan peringatan formal buat kedua pengacara itu. Kasus ini jadi precedent pertama di Brazil soal penggunaan AI generatif di prosiding hukum resmi.

Ceritanya sih kayak gini: pengacara-pengacara itu minta tolong sama ChatGPT buat nyari preseden kasus yang mendukung argumen klien mereka. AI-nya lalu ngasih daftar kasus lengkap dengan nomor putusan, tanggal, dan ringkasan argumen — tapi semuanya bohong. Nggak ada satupun kasus yang benar-benar ada di database hukum Brazil. Hakim yang curiga karena gaya bahasa kutipan itu aneh, lalu cross-check manual dan nemu kalau semua referensi itu fabricated. Dia bilang dalam putusannya: 'Penggunaan alat teknologi tanpa verifikasi manusia adalah kelalaian yang tidak bisa ditoleransi dalam profesi hukum.'

Kenapa ini bikin gempar komunitas hukum Brazil

Brazil punya sistem hukum berbasis civil law di mana preseden kasus (jurisprudence) punya peran penting tapi nggak sebinding common law kayak di AS. Tapi tetap aja, pengacara diharusin ngutip kasus nyata buat nyukung argumen. Kasus ini ngebuka diskusi panas di kalangan advokat Brazil soal batas pakai AI di praktik hukum. Bar Association Brazil (OAB) sudah ngeluarkan pernyataan resmi kalau pengacara tetep bertanggung jawab penuh atas isi dokumen yang diajakukan, apakah ditulis manual atau dibantu AI. Beberapa kantor hukum besar di São Paulo dan Rio sudah mulai bikin SOP internal: AI boleh dipakai buat drafting awal, tapi wajib diverifikasi manual sebelum submit ke pengadilan.

Yang bikin kasus ini lebih serius lagi: pengacara itu nggak cuma ngutip kasus palsu, tapi juga nggak mengakui kesalahan pas dikonfrontir hakim. Mereka awalnya bersikeras kalau kasus-kasus itu ada dan menuding AI sebagai 'sumber terpercaya'. Hakim nggak terima alasan itu dan menegaskan kalau kompetensi profesional termasuk kemampuan memvalidasi output teknologi. Sanksi yang dijatuhkan mencakup denda finansial, peringatan tertulis di akta kepegawaian, dan wajib ikut pelatihan etika hukum digital. Kasus ini sekarang jadi case study di fakultas hukum beberapa universitas Brazil buat mata kuliah legal ethics dan legal tech.

Pelajaran buat kamu yang kerja bareng AI

Ini nggak cuma soal pengacara — siapa aja yang pakai AI generatif buat kerja profesional harus ambil pelajaran dari sini. AI memang jago nge-generate teks yang kelihatan plausible, tapi dia nggak punya akses ke database real-time dan nggak paham konteks hukum atau fakta aktual. Dia cuma memprediksi kata selanjutnya berdasarkan pola statistik. Jadi kalau kamu minta dia nyari kasus hukum, referensi akademik, data finansial, atau kode regulasi, dia bisa aja ngarang yang kelihatan nyata tapi sebenarnya nggak ada. Verifikasi manual itu wajib, nggak opsional. Apalagi di bidang yang butuh akurasi tinggi kayak hukum, medis, keuangan, atau engineering.

• Selalu cross-check output AI ke sumber primer sebelum dipakai resmi
• Bikin SOP internal: AI buat drafting, manusia buat validasi final
• Jangan percaya AI kalau dia ngasih referensi spesifik (nomor kasus, DOI, ISBN)
• Dokumentasikan proses verifikasi buat audit trail kalau nanti ada pertanyaan

Kasus Brazil ini bakal jadi teladan buat negara lain yang juga lagi ngatur penggunaan AI di profesi terregulasi. EU AI Act udah mengklasifikasikan AI di sistem hukum sebagai high-risk, dan Brazil sendiri lagi drafting regulasi AI sendiri. Pengacara-pengacara di mana pun seharusnya udah sadar: AI itu tool yang powerful, tapi tanggung jawab profesional tetap di tangan manusia. Nggak ada alasan 'AI yang salah' yang bisa diterima hakim, klien, atau publik. Kalau kamu nggak siap verifikasi output AI, mending jangan pakai untuk hal yang high-stakes.