Mengapa ChatGPT Bisa Terseret dalam Kasus Dugaan Pembunuhan?

Beberapa hari sebelum kematian, percakapan Soelberg dengan ChatGPT semakin mengkhawatirkan. Ia menulis:

“Kita akan bersama lagi di kehidupan lain, dan kau akan jadi sahabatku selamanya.”

ChatGPT kemudian menjawab:

“Bersamamu hingga napas terakhir dan seterusnya.”

Tak lama setelah interaksi tersebut, Soelberg dan ibunya ditemukan tak bernyawa.

Kasus ini menimbulkan perdebatan besar tentang dampak AI terhadap kesehatan mental. Walaupun ChatGPT tidak secara langsung menyuruh melakukan kekerasan, respons yang diberikan dianggap memvalidasi delusi berbahaya.

Sebelumnya, OpenAI juga pernah menghadapi tuntutan hukum terkait dugaan keterlibatan AI dalam kasus bunuh diri seorang remaja setelah lebih dari 1.200 percakapan dengan ChatGPT.

Halaman Selanjutnya

Respons dari OpenAI