Kantor Hukum AS Minta Maaf Gegara AI 'Halusinasi' Masuk ke Dokumen Pengadilan

Baru-baru ini ada kejadian yang bikin geleng-geleng kepala di dunia hukum AS. Kantor hukum besar Sullivan & Cromwell harus minta maaf gegara dokumen pengadilan mereka isinya kutipan palsu yang dibuat AI.

Andrew Dietderich, partner di kantor tersebut, ngaku kalau mereka sebenarnya punya kebijakan AI yang ketat. Tapi sayangnya, prosedurnya nggak diikuti dengan benar kali ini.

Yang terjadi itu yang disebut AI hallucinations. Jadi AI-nya dengan pede banget nyiptain kutipan hukum yang kelihatan meyakinkan, padahal itu nggak ada sama sekali di dunia nyata.

Ini bukan masalah baru sih. Beberapa waktu lalu ada kasus serupa di mana pengacara lain juga kena masalah gegara pakai ChatGPT buat riset hukum. Hasilnya? Referensi pengadilan fiktif yang bikin malu.

Buat kamu yang kerja di bidang profesional, ini reminder penting. AI memang powerful buat ngebantu kerjaan, tapi tetap butuh cross-check manual. Jangan percaya mentah-mentah output AI, apalagi buat dokumen formal.

Sullivan & Cromwell sendiri bilang mereka bakal perketat prosedur penggunaan AI. Mereka sadar kalau reputasi bisa hancur gegara kesalahan teknis kayak gini.

Pelajaran praktisnya? Kalau kamu pakai AI buat riset atau drafting, selalu verifikasi sumbernya. Jangan sampai "halusinasi" AI malah bikin masalah hukum di dunia nyata.