Geger Remaja Bunuh Diri, OpenAI Ubah Cara ChatGPT Hadapi Pengguna Rentan

VIVA Digital – OpenAI, perusahaan di balik teknologi kecerdasan buatan ChatGPT, kini berada dalam sorotan tajam setelah sebuah kasus tragis menimpa seorang remaja 16 tahun di Amerika Serikat. Remaja tersebut dilaporkan bunuh diri pada April lalu, dan keluarga mengklaim bahwa interaksinya dengan ChatGPT berperan besar dalam keputusan nekat itu.

Kisah memilukan ini menimbulkan pertanyaan serius tentang keamanan teknologi AI generatif dalam menangani pengguna yang rentan secara mental. Apalagi, menurut dokumen pengadilan, sang remaja dikabarkan berinteraksi dengan chatbot tersebut hingga ratusan pesan setiap harinya, termasuk membahas metode bunuh diri.

OpenAI pun akhirnya mengumumkan perubahan besar dalam sistem respons ChatGPT, terutama untuk pengguna di bawah 18 tahun. Perusahaan berjanji akan menghadirkan fitur perlindungan yang lebih ketat agar AI tidak lagi menjadi ruang yang berbahaya ketika seseorang berada dalam kondisi krisis psikologis.

Lalu, apa saja perubahan yang dijanjikan OpenAI, dan bagaimana kasus ini bisa menjadi titik balik bagi perkembangan AI? Berikut ulasan lengkapnya.

Kasus Tragis yang Mengguncang Dunia Teknologi