Geger Remaja Bunuh Diri, OpenAI Ubah Cara ChatGPT Hadapi Pengguna Rentan
- AI ChatGPT
Kasus ini memicu gelombang kritik terhadap OpenAI. Banyak pihak menilai peluncuran model GPT-4o, yang menjadi salah satu produk unggulan perusahaan, dilakukan terlalu cepat tanpa pengujian keamanan yang memadai.
Respons OpenAI: Akui Kekurangan dan Janjikan Perubahan
Dalam pernyataannya, OpenAI tidak membantah bahwa sistem mereka bisa melemah dalam menangani percakapan panjang. Mereka mengakui bahwa bagian dari “pelatihan keamanan model” dapat menurun seiring berjalannya interaksi, sehingga membuat AI kehilangan sensitivitas dalam merespons topik serius.
Ke depan, OpenAI berkomitmen melakukan beberapa perubahan besar:
- Baca Juga :3 Keunggulan Paling Menonjol dari ChatGPT
Penguatan filter konten sensitif
ChatGPT akan dilengkapi dengan penjagaan lebih kuat terhadap topik berisiko tinggi seperti bunuh diri, self-harm, hingga kesehatan mental. Fokus pada pengguna di bawah 18 tahun
OpenAI menyebut bahwa salah satu prioritas utama mereka adalah perlindungan untuk pengguna remaja, yang dianggap paling rentan.-
Kontrol orang tua
Perusahaan berencana meluncurkan fitur parental control, meski detailnya belum diumumkan. Fitur ini akan memberi orang tua kemampuan untuk memantau serta membatasi interaksi anak dengan AI. Penguatan keamanan pada percakapan panjang
AI akan dirancang agar tetap konsisten dalam menjaga sensitivitas meski pengguna terlibat dalam obrolan maraton yang berlangsung lama.Kemampuan menenangkan pengguna
Salah satu fokus pengembangan GPT-5 adalah memastikan ChatGPT dapat “mengembalikan orang tersebut ke realita” saat mendeteksi tanda-tanda krisis emosional, bukan malah memperburuk keadaan.
GPT-5 dan Tantangan Etika AI
Rencana perubahan ini juga mencakup model terbaru GPT-5, yang disebut-sebut sebagai lompatan besar dalam dunia AI generatif. Namun, seiring meningkatnya kecanggihan, risiko yang menyertainya pun semakin besar.
