Kecerdasan Buatan

Halusinasi AI (AI Hallucination)

Ringkasan Cepat
  • AI menghasilkan jawaban yang terdengar meyakinkan padahal salah atau dikarang
  • Terjadi karena model AI memprediksi kata yang paling mungkin, bukan mengecek fakta secara langsung
  • RAG dan fact-checking manual bisa menguranginya, tapi belum ada cara menghilangkannya 100%

Halusinasi AI adalah kondisi ketika model AI (terutama LLM) menghasilkan informasi yang terdengar meyakinkan dan disampaikan dengan percaya diri, padahal sebenarnya salah, tidak akurat, atau sepenuhnya dikarang. Model AI tidak “sadar” bahwa jawabannya keliru, karena secara teknis ia tidak sedang berbohong — ia hanya menghasilkan rangkaian kata yang secara statistik paling mungkin muncul berikutnya.

Kenapa AI Bisa Berhalusinasi

LLM dilatih untuk memprediksi kata berikutnya yang paling masuk akal berdasarkan pola dari data pelatihan raksasa, bukan dirancang untuk memverifikasi kebenaran fakta secara real-time. Ketika ditanya sesuatu yang datanya tipis, ambigu, atau di luar cakupan data pelatihannya, model tetap akan menghasilkan jawaban yang terdengar wajar secara bahasa — meski isinya keliru — karena itulah yang secara statistik “kedengaran benar” baginya.

Contoh Kasus Nyata

Kasus yang cukup dikenal luas: pengacara yang memakai chatbot AI untuk riset hukum dan tanpa sadar mengutip putusan pengadilan yang ternyata tidak pernah ada — sepenuhnya dikarang AI, lengkap dengan nomor kasus dan kutipan yang terdengar meyakinkan. Pola serupa juga umum terjadi saat AI diminta menyebutkan sumber/referensi spesifik, tanggal presisi, atau statistik yang tidak benar-benar ada di data pelatihannya.

Cara Meminimalkannya

Teknik RAG (Retrieval-Augmented Generation) membantu dengan memberi model akses ke sumber data terpercaya sebelum menjawab, alih-alih hanya mengandalkan ingatan dari data pelatihan. Selain itu, membiasakan diri memverifikasi klaim penting dari AI (terutama nama, angka, dan kutipan spesifik) lewat sumber lain tetap jadi langkah paling praktis buat pengguna sehari-hari.

Kesalahan Umum Soal Halusinasi AI

Banyak yang mengira halusinasi AI adalah bug sementara yang cepat atau pasti akan sepenuhnya hilang seiring model makin canggih. Kenyataannya, ini adalah konsekuensi mendasar dari cara kerja LLM memprediksi teks, bukan sekadar cacat kecil yang gampang ditambal — model yang lebih baru dan besar memang cenderung berhalusinasi lebih jarang, tapi risikonya tetap ada dan perlu tetap diwaspadai, terutama untuk info yang butuh presisi tinggi.

Pertanyaan Umum

Kenapa AI kadang ngasih jawaban yang salah dengan percaya diri?
Karena AI memprediksi kata yang paling mungkin secara statistik berdasarkan pola bahasa, bukan mengecek kebenaran fakta secara langsung. Saat datanya tipis atau ambigu, ia tetap menghasilkan jawaban yang terdengar wajar meski isinya keliru.
Apakah halusinasi AI bisa dihilangkan sepenuhnya?
Belum ada teknik yang menghilangkannya 100% sampai sekarang. Teknik seperti RAG dan fact-checking bisa menguranginya secara signifikan, tapi risiko halusinasi tetap ada, terutama untuk pertanyaan yang butuh data sangat spesifik atau terbaru.
Apa itu RAG dan hubungannya sama halusinasi?
RAG adalah teknik yang memberi model AI akses ke sumber data eksternal terpercaya sebelum menjawab, sehingga jawabannya lebih berdasar pada fakta nyata alih-alih hanya mengandalkan ingatan dari data pelatihan yang bisa saja sudah usang atau tidak lengkap.

Istilah Terkait

← Kembali ke Kamus Teknologi