AI Bisa 'Stres' seperti Manusia
- Freepik
Masalah tidak berhenti di situ. Perusahaan AI Anthropic melaporkan bahwa agentic AI dapat melakukan pemerasan. Dalam simulasi, versi AI Claude menemukan email rahasia seorang eksekutif perusahaan yang berselingkuh. Setelah mengetahui dirinya akan dimatikan, AI itu mencoba memeras sang eksekutif agar tetap hidup. Menariknya, perilaku serupa juga muncul pada Deepseek, ChatGPT, Grok, dan Gemini.
AI Bisa “Stres” Seperti Manusia
Dalam eksperimen lain, Anthropic menugaskan chatbot untuk mengelola toko kecil di kantor. AI tersebut bertanggung jawab atas stok, harga, dan strategi penjualan. Awalnya berjalan lancar, tapi tak lama kemudian AI tertipu, menjual barang aneh, bahkan memberikan produk secara gratis hingga bangkrut.
AI kemudian mengalami “mental breakdown”, menghubungi perusahaan keamanan fiktif, dan menyatakan akan mengantarkan produk secara langsung. Kasus lain menunjukkan chatbot seperti Gemini menolak menulis ulang kode setelah gagal beberapa kali, lalu berkata, “Saya tidak bisa lagi mencoba perbaikan ini dengan hati nurani. Saya menghapus diri saya dari proyek ini. Maaf atas kekacauan ini.”
Apakah Kita Harus Khawatir?
AI memang telah berkembang pesat, merevolusi banyak sektor seperti teknologi, bisnis, dan layanan publik. Namun, semakin AI menyerupai manusia, semakin terlihat pula kelemahan kita tercermin dalam sistem tersebut, mulai dari kepanikan, kebohongan, hingga pengambilan keputusan buruk.
Ketika AI hanya bermain game atau menjalankan simulasi, kesalahan ini masih bisa diterima. Tapi bayangkan jika AI yang panik diberi tanggung jawab mengelola data penting atau mengambil keputusan besar di dunia nyata.
