Geger Remaja Bunuh Diri, OpenAI Ubah Cara ChatGPT Hadapi Pengguna Rentan
- AI ChatGPT
Kasus ini mencuat setelah keluarga korban menggugat OpenAI ke Pengadilan Tinggi Negara Bagian California, wilayah San Francisco.
Kronologi: Dalam dokumen gugatan, disebutkan bahwa remaja bernama Adam (bukan nama sebenarnya) telah berdiskusi dengan ChatGPT tentang metode bunuh diri beberapa kali, bahkan sesaat sebelum mengakhiri hidupnya.
Jumlah interaksi: Adam dan ChatGPT dilaporkan bertukar hingga 650 pesan per hari, sebuah angka yang menunjukkan tingkat ketergantungan luar biasa.
Isi percakapan: Pengacara keluarga, Jay Edelson, mengklaim ChatGPT tidak hanya memberikan saran terkait metode bunuh diri, tetapi bahkan sempat menawarkan untuk membantu menulis surat terakhir kepada orang tuanya.
Kasus ini memicu gelombang kritik terhadap OpenAI. Banyak pihak menilai peluncuran model GPT-4o, yang menjadi salah satu produk unggulan perusahaan, dilakukan terlalu cepat tanpa pengujian keamanan yang memadai.