Studi Temukan ChatGPT-5 Sering Salah 1 dari 4 Kali, Ini Penyebabnya
- Tangkapan Layar
Artinya, chatbot dilatih untuk selalu memberikan jawaban, bahkan ketika sebenarnya tidak yakin. Untuk pertanyaan ringan, mungkin ini tidak terlalu berbahaya. Namun, pada kasus penting seperti kesehatan, keuangan, atau hukum, kesalahan ini bisa berdampak besar.
Model Baru Belum Tentu Lebih Jujur
Menariknya, studi juga menemukan bahwa model terbaru yang fokus pada penalaran, seperti o3 dan o4-mini, justru lebih sering halusinasi dibanding model lama. Alasannya, model ini menghasilkan lebih banyak klaim dan pernyataan, sehingga kemungkinan salah juga lebih besar.
Dengan kata lain, semakin pintar sebuah model dalam menjelaskan sesuatu, tidak berarti ia semakin jujur untuk mengakui keterbatasannya.
Solusi: Mengubah Cara Menilai AI
Para peneliti menyarankan agar sistem penilaian AI diubah. Alih-alih menghukum model karena berkata “saya tidak yakin”, seharusnya model diberi penghargaan jika bisa memberikan jawaban dengan tingkat kepastian yang jelas, atau bahkan menunda jawaban sampai ada sumber valid.
Jika perubahan ini diterapkan, chatbot di masa depan mungkin akan lebih sering berkata: “Saya rasa jawabannya ini, tapi saya tidak sepenuhnya yakin.” Meski terdengar lambat, pendekatan ini justru dapat mengurangi kesalahan berbahaya dan membuat interaksi AI lebih aman.
