Kenali istilah AI penting seperti LLM, RAG, hallucination, hingga opaque recurrence. Dijelaskan santai buat pemula sampai pro.

Kamu pasti pernah baca berita AI terus nemu istilah aneh kayak "hallucination", "RAG", atau "opaque recurrence" dan mikir, "Ini apa sih?" Tenang, kamu nggak sendirian. Dunia AI memang suka bikin istilah baru setiap minggu, dan nggak jarang bikin kepala pusing. Padahal, ngerti istilah-istilah ini bener-bener membantu kalau kamu mau ikut-ikutan ngobrol soal AI, baca paper riset, atau cuma pengen tahu kenapa chatbot kadang ngasal jawab. Yuk, kita bedah satu-sama biar nggak bingung lagi.

LLM: Otak di Balik Chatbot

LLM singkatan dari Large Language Model. Bayangin ini kayak mesin prediksi kata yang sudah belajar dari miliaran teks di internet — buku, artikel, kode, obrolan Reddit, Wikipedia, semuanya. Dia nggak "paham" kayak manusia, tapi dia tahu pola statistik: kalau kata sebelumnya "ibu", kata berikutnya besar kemungkinan "kita" atau "dia" atau "pergi". Model kayak GPT-4, Claude, Llama, Gemini, semuanya LLM. Bedanya cuma di ukuran (jumlah parameter), data latih, dan cara di-fine-tune. Semakin gede model, biasanya semakin "pintar" tapi butuh komputasi yang lebih mahal.

Nah, LLM ini punya batasan: dia cuma tau apa yang ada di data latihnya. Kalau kamu tanya soal berita kemarin atau data internal perusahaan, dia bakal ngasal (hallucination) atau bilang nggak tau. Di sinilah RAG masuk cerita.

Advertisement

Advertisement

Slot in-article yang tampil setelah paragraf ketiga.

RAG: Bikin LLM Bisa Akses Data Baru

RAG itu Retrieval-Augmented Generation. Cara kerjanya gampang: sebelum LLM jawab, sistem dulu cari dokumen relevan dari database kamu (PDF, Notion, SQL, whatever), terus kasih ke LLM sebagai konteks tambahan. Jadi LLM nggak perlu hafal semua fakta, dia cuma butuh "membaca" dokumen yang relevan saat itu juga. Ini game-changer buat enterprise: kamu bisa bikin chatbot yang jawab berdasarkan kebijakan HR, manual produk, atau laporan keuangan tanpa harus retrain model. Banyak startup sekarang bangun produk di atas RAG karena lebih murah, cepat, dan akurat dibanding fine-tuning.

Tapi RAG punya tantangan sendiri: kualitas jawaban bergantung banget ke kualitas pencarian (retrieval). Kalau sistem ambil dokumen yang nggak relevan, LLM tetap bakal bingung. Jadi, chunking strategy, embedding model, dan reranking jadi bagian kritis yang sering diabaikan.

Hallucination: Kalau AI Ngasal Jakab

Hallucination itu kalau LLM ngeluarkan informasi yang kelihatan percaya diri tapi sebenarnya salah atau dibuat-buat. Misal: kamu tanya "Siapa penemu telepon?" dia jawab "Alexander Graham Bell" — benar. Tapi kalau kamu tanya "Siapa penemu telepon di Indonesia tahun 1800-an?" dia mungkin bikin nama palsu kayak "Raden Mas Telepon" dengan detail karir yang lengkap tapi sepenuhnya fiktif. Kenapa bisa gini? Soalnya LLM dirancang buat prediksi kata yang plausible, bukan buat cek fakta. Dia nggak punya konsep "benar" atau "salah", cuma "probabilitas tinggi" atau "rendah".

Hallucination nggak bisa dihilangin total, tapi bisa diminimalin. Cara paling efektif: pakai RAG (supaya LLM punya referensi), set temperature rendah (lebih deterministik), dan kasih instruksi eksplisit kayak "Kalau nggak tau, bilang aja nggak tau". Di production, selalu validasi output LLM sebelum dikasih ke user — apalagi buat kasus hukum, medis, atau keuangan.

Opaque Recurrence: Yang Bikin Reasoning Model Berbeda

Nah, ini yang jadi judul artikel. Opaque recurrence itu istilah teknis yang merujuk ke kemampuan model reasoning (seperti o1 dari OpenAI atau DeepSeek-R1) untuk melakukan "pemikiran berulang" secara tersembunyi sebelum ngasih jawaban akhir. Bedanya sama chain-of-thought biasa: di CoT biasa, proses reasoning terlihat di output (model nulis langkah-langkahnya). Tapi di opaque recurrence, reasoning terjadi di internal model — kamu cuma lihat jawaban akhir, tapi di balik layar model mungkin sudah "mikir" berulang kali, koreksi diri, evaluasi alternatif, baru keluarin jawaban. Ini bikin model lebih kuat di matematika, coding, dan logika kompleks, tapi juga bikin biaya inferensi naik drastis (more tokens = more biaya).

Istilah ini naik daun karena paper riset terbaru menunjukkan kalau opaque recurrence inilah yang bikin reasoning model unggul dibanding LLM standar. Kalau kamu bangun aplikasi butuh reasoning dalam, ini konsep yang wajib dipahami — apalagi soal trade-off latency vs akurasi.

Istilah Lain yang Sering Muncul

  • Fine-tuning: Melatih ulang model base dengan data spesifik biar jago di domain tertentu (misal: hukum, medis, kode internal). Lebih mahal dan butuh GPU gede dibanding RAG.
  • Context window: Jumlah token (kata/karakter) yang bisa diproses model sekaligus. Semakin besar, semakin banyak dokumen yang bisa dimasukin sekaligus. GPT-4o punya 128k, Gemini 1.5 Pro sampai 2M token.
  • Tokens: Unit terkecil yang diproses LLM. 1 token ≈ 0.75 kata Inggris. Biaya API biasanya per 1k atau 1M token.
  • Temperature: Parameter randomness. 0 = deterministik (selalu jawab sama), 1+ = kreatif tapi berisiko hallucination. Default biasanya 0.7.
  • Embeddings: Representasi numerik (vektor) dari teks yang menangkap makna semantik. Dipakai buat pencarian semantik di RAG.
  • Vector database: Database khusus nyimpan embedding buat pencarian cepat (similarity search). Contoh: Pinecone, Weaviate, Qdrant, Milvus.
  • Agentic AI: Sistem AI yang bisa planning, pakai tools, dan eksekusi tugas multi-step secara otonom. Beda sama chatbot biasa yang cuma request-response.
  • Multimodal: Model yang bisa proses teks, gambar, audio, video sekaligus. GPT-4o, Gemini 1.5, Claude 3.5 Sonnet masuk kategori ini.
  • Inference: Proses jalanin model buat generate output. Berbeda sama training (proses belajar). Inference yang kita bayar tiap kali pakai API.

Paham istilah-istilah di atas sudah cukup buat kamu ngikutin percakapan AI tanpa bingung. Tapi ingat, teknologi ini berkala cepet banget — istilah baru bisa muncul besok. Kuncinya: nggak perlu hafal semuanya, cuma paham konsep dasarnya. Kalau nemu jargon baru, tanya aja ke LLM favoritmu (ironis, ya), atau cari paper/research blog yang jelasin pakai bahasa manusia. Stay curious, stay updated!

Catatan redaksi

Kalau lo cuma ambil satu hal dari artikel ini

Technology update dari TechCrunch.

Sumber asli

Artikel ini merupakan rewrite editorial dari laporan TechCrunch.

Baca artikel asli di TechCrunch→
#Technology#TechCrunch#rss