Geger Remaja Bunuh Diri, OpenAI Ubah Cara ChatGPT Hadapi Pengguna Rentan
- AI ChatGPT
Dalam pernyataannya, OpenAI tidak membantah bahwa sistem mereka bisa melemah dalam menangani percakapan panjang. Mereka mengakui bahwa bagian dari “pelatihan keamanan model” dapat menurun seiring berjalannya interaksi, sehingga membuat AI kehilangan sensitivitas dalam merespons topik serius.
Ke depan, OpenAI berkomitmen melakukan beberapa perubahan besar:
Penguatan filter konten sensitif
ChatGPT akan dilengkapi dengan penjagaan lebih kuat terhadap topik berisiko tinggi seperti bunuh diri, self-harm, hingga kesehatan mental.Fokus pada pengguna di bawah 18 tahun
OpenAI menyebut bahwa salah satu prioritas utama mereka adalah perlindungan untuk pengguna remaja, yang dianggap paling rentan.Kontrol orang tua
Perusahaan berencana meluncurkan fitur parental control, meski detailnya belum diumumkan. Fitur ini akan memberi orang tua kemampuan untuk memantau serta membatasi interaksi anak dengan AI.Penguatan keamanan pada percakapan panjang
AI akan dirancang agar tetap konsisten dalam menjaga sensitivitas meski pengguna terlibat dalam obrolan maraton yang berlangsung lama.Kemampuan menenangkan pengguna
Salah satu fokus pengembangan GPT-5 adalah memastikan ChatGPT dapat “mengembalikan orang tersebut ke realita” saat mendeteksi tanda-tanda krisis emosional, bukan malah memperburuk keadaan.