Wanita Florida Jadiin Claude Diary, Karyawan Anthropic Baca & Laporkin ke Polisi

Bayangin kamu ngeluarin semua isi hati ke AI — ketakutan, rahasia, trauma, hal-hal yang nggak mau dikasih tau siapa pun. Terus tiba-tiba ada orang asli di balik layar yang baca semuanya, nggak cuma algoritma. Itu yang dialami seorang wanita di Bonita Springs, Florida, yang pakai Claude sebagai diary digital. Dia nggak sadar kalau setiap ketikan dia dipantau, dan safety filter Anthropic nge-flag beberapa entri sebagai berbahaya. Akhirnya tim human review masuk, baca chat pribadi dia, dan langsung hubungi polisi.

Menurut laporan Decrypt, insiden ini terjadi karena sistem moderasi Anthropic mendeteksi konten yang dianggap melanggar kebijakan keamanan — mungkin soal self-harm, kekerasan, atau aktivitas ilegal. Tapi bedanya dengan moderasi otomatis biasa, di sini ada manusia yang benar-benar membaca konteks penuh percakapan. Karyawan Anthropic itu nggak cuma lihat cuplikan, tapi akses seluruh riwayat chat wanita itu. Lalu mereka bikin laporan ke otoritas setempat, dan polisi benar-benar datang ke rumah korban untuk investigasi.

Terms of Service Ngizinkan Ini, Tapi Siapa Baca?

Yang bikin gemes, Anthropic nggak melanggar aturan main mereka sendiri. Di Terms of Service dan Privacy Policy mereka tertulis jelas: mereka berhak mengakses, meninjau, dan mengungkapkan konten pengguna ke pihak berwenang kalau diperlukan untuk kepatuhan hukum atau keamanan. Banyak user nggak sempat baca bagian ini — siapa sih yang baca ToS sampai habis? Tapi fakta nyata, saat kamu klik "I agree", kamu udah ngasih izin buat tim keamanan Anthropic buat masuk ke ruang tamu digital kamu kapan aja mereka mau.

Ini beda jauh dengan enkripsi end-to-end kayak Signal atau WhatsApp, di mana bahkan perusahaan sendiri nggak bisa baca pesan kamu. Di Claude, ChatGPT, atau Bard, data kamu disimpan di server mereka dan bisa diakses tim internal untuk training, moderasi, atau investigasi. Anthropic memang punya reputasi lebih ketat soal safety dibanding kompetitor, tapi insiden ini ngebuktikan kalau "safety" mereka berarti ada mata manusia yang nonton-nonton. Wanita Florida ini jadi korban pertama yang kasusnya kebocor ke publik, tapi berapa banyak lagi yang nggak ketahuan?

Kenapa Safety Filter Bisa Salah Menilai Konteks

Masalah utamanya: safety filter AI nggak paham nuance. Kalau kamu nulis "aku pengen bunuh diri" dalam konteks cerita fiksi, journaling terapi, atau kutipan buku, filter tetap nge-flag sebagai self-harm risk. Kalau kamu cerita pengalaman trauma seksual buat processing emosi, sistem bisa baca sebagai konten eksplisit atau kekerasan. Manusia di tim review seharusnya bisa bedain konteks, tapi mereka kerja di bawah tekanan volume tinggi dan protokol ketat — cenderung better safe than sorry. Artinya, privasi kamu jadi korban keamanan yang over-protective.

Peneliti privasi sudah lama ngeringin soal "human-in-the-loop" moderation ini. Kate Crawford, penulis Atlas of AI, pernah bilang sistem AI modern butuh ribuan pekerja data di negara berkembang buat labeling konten beracun — dan pekerja itu baca hal-hal paling gelap dari user global. Anthropic nggak transparan soal berapa orang di tim review, di mana mereka berbasis, dan apa prosedur akses data mereka. Kita cuma tau setelah insiden kayak gini meledak di media.

• Jangan pernah treat AI chat sebagai ruang privat absolut — semuanya bisa dibaca manusia
• Hapus riwayat chat berkala kalau isinya sensitif, tapi ingat: data mungkin sudah tersimpan di backup
• Gunakan model lokal (llama.cpp, Ollama) untuk hal-hal benar-benar rahasia — data nggak keluar device
• Baca Privacy Policy fokus pada bagian "data access" dan "disclosure to authorities" sebelum share rahasia
• Gunakan mode incognito/ephemeral kalau tersedia, meski nggak 100% aman dari subpoena

Pelajaran Buat Kita Semua: AI Bukan Teman, Dia Alat

Kasus ini wake-up call keras buat siapa pun yang udah nyaman curhat ke LLM. Anthropic, OpenAI, Google — semua punya tim keamanan yang bisa masuk ke chat kamu. Nggak ada yang jahat di sini, cuma insentif bisnis dan hukum yang bikin mereka harus protektif. Tapi buat user, artinya setiap ketikan di AI chat sebaiknya dianggap semi-publik. Kalau kamu nggak mau polisi atau karyawan startup San Francisco baca, jangan ketik di situ. Gunakan journal fisik, app terenkripsi lokal, atau terapis beneran. AI bagus buat brainstorm, coding, riset — tapi nggak buat safe space emosional.