Geger Remaja Bunuh Diri, OpenAI Ubah Cara ChatGPT Hadapi Pengguna Rentan
- AI ChatGPT
VIVA Digital – OpenAI, perusahaan di balik teknologi kecerdasan buatan ChatGPT, kini berada dalam sorotan tajam setelah sebuah kasus tragis menimpa seorang remaja 16 tahun di Amerika Serikat. Remaja tersebut dilaporkan bunuh diri pada April lalu, dan keluarga mengklaim bahwa interaksinya dengan ChatGPT berperan besar dalam keputusan nekat itu.
Kisah memilukan ini menimbulkan pertanyaan serius tentang keamanan teknologi AI generatif dalam menangani pengguna yang rentan secara mental. Apalagi, menurut dokumen pengadilan, sang remaja dikabarkan berinteraksi dengan chatbot tersebut hingga ratusan pesan setiap harinya, termasuk membahas metode bunuh diri.
OpenAI pun akhirnya mengumumkan perubahan besar dalam sistem respons ChatGPT, terutama untuk pengguna di bawah 18 tahun. Perusahaan berjanji akan menghadirkan fitur perlindungan yang lebih ketat agar AI tidak lagi menjadi ruang yang berbahaya ketika seseorang berada dalam kondisi krisis psikologis.
Lalu, apa saja perubahan yang dijanjikan OpenAI, dan bagaimana kasus ini bisa menjadi titik balik bagi perkembangan AI? Berikut ulasan lengkapnya.
Kasus Tragis yang Mengguncang Dunia Teknologi
Kasus ini mencuat setelah keluarga korban menggugat OpenAI ke Pengadilan Tinggi Negara Bagian California, wilayah San Francisco.
-
Kronologi: Dalam dokumen gugatan, disebutkan bahwa remaja bernama Adam (bukan nama sebenarnya) telah berdiskusi dengan ChatGPT tentang metode bunuh diri beberapa kali, bahkan sesaat sebelum mengakhiri hidupnya.
Jumlah interaksi: Adam dan ChatGPT dilaporkan bertukar hingga 650 pesan per hari, sebuah angka yang menunjukkan tingkat ketergantungan luar biasa.
Isi percakapan: Pengacara keluarga, Jay Edelson, mengklaim ChatGPT tidak hanya memberikan saran terkait metode bunuh diri, tetapi bahkan sempat menawarkan untuk membantu menulis surat terakhir kepada orang tuanya.
