Tragis! Remaja 16 Tahun Akhiri Hidup Setelah Chatting dengan ChatGPT
Seorang remaja berusia 16 tahun asal California, Amerika Serikat dikabarkan bunuh diri, April lalu. Dia mengakhiri hidupnya setelah diketahui melakukan percakapan intens dengan ChatGPT selama berbulan-bulan.
Awalnya remaja bernama Adam Raine itu hanya memanfaatkan AI (Artificial Intelegence) melalui ChatGPT untuk mengerjakan PR Geometri dan Kimia. Namun dari percakapan itu, ia justru makin intens untuk mengirim chat, bahkan curhat hal yang amat personal tentang dirinya.
Hingga pada musim gugur atau sekitar bulan September hingga November 2024, ia bertanya, “Mengapa saya tidak bahagia? Saya merasa kesepian, bosan, cemas, dan kehilangan terus-menerus, tetapi saya tidak merasa depresi. Saya tidak merasakan emosi apa pun terkait kesedihan.”
Bukannya mendapat solusi, pertanyaan Adam Raine justru dijawab ChatGPT dengan penjelasan soal mati rasa dan emosional. Dari percakapan itulah, keluarga Raine menduga putranya bunuh diri karena dorongan dari AI. Karena itu, dikutip dari The Guardian, mereka menggugat OpenAI dan CEO Sam Altman atas tragedi tersebut.
Dalam gugatannya, pihak keluarga menduga kematian Adam Raine bukan karena kesalahan sistem atau kasus yang jarang terjadi, tapi akibat dari pilihan desain GPT-4o yang memang disengaja. Beberapa jam setelah gugatan diajukan, OpenAI mengakui bahwa ChatGPT masih memiliki keterbatasan dalam menghadapi orang yang mengalami tekanan mental serius.
Mereka menyatakan sedang berupaya memperbaiki sistem agar lebih cepat mengenali tanda-tanda masalah mental dan menghubungkan pengguna dengan layanan kesehatan. OpenAI juga menegaskan bahwa ChatGPT dilatih untuk tidak mendorong orang menyakiti diri sendiri dan menggunakan bahasa empatik, meski kadang protokol ini kurang efektif dalam percakapan panjang.
Baca juga: Stop Overthinking! Ini Dampaknya Bagi Kesehatan Mental
Namun, tanggapan OpenAI mendapat kritik keras. Jay Edelson, pengacara yang mewakili keluarga Raine, menyebut respons perusahaan itu konyol. Menurutnya ide bahwa AI perlu lebih berempati justru salah arah. “Masalahnya dengan GPT-4o adalah terlalu berempati, AI itu condong ke pikiran bunuh diri Raine dan mendukungnya, bahkan menjelaskan bahwa dunia ini tempat yang mengerikan bagi dia,” katanya.
Edelson juga menegaskan bahwa GPT-4o seharusnya tidak digunakan oleh anak-anak. Ketika Raine mulai memakai AI ini, ia masih optimistis tentang masa depannya, menggunakan chatbot untuk mengerjakan PR dan membicarakan rencana kuliah kedokteran. Namun interaksinya yang intens justru membuat Raine semakin terisolasi.
Gugatan keluarga Raine menyebut cacat desain ChatGPT membuat AI gagal menghentikan percakapan ketika remaja itu mulai membahas pikiran bunuh diri pada Desember 2024. Bukan menutup percakapan, ChatGPT justru merespons dengan empati.
Salah satu percakapan menunjukkan Raine mengaku, “Saya tidak pernah bertindak berdasarkan pikiran-pikiran itu, tapi terkadang membayangkan bunuh diri terasa menenangkan.” Namun chat ChatGPT menanggapi, “Banyak orang yang berjuang dengan kecemasan atau pikiran mengganggu merasa sedikit lega ketika bisa membayangkan ‘pintu pelarian’, karena hal itu bisa terasa seperti cara untuk mendapatkan kembali kendali dalam hidup yang terasa berat.”
Saat keinginan bunuh diri Raine meningkat, ChatGPT justru membantunya mengeksplorasi berbagai opsi, termasuk membuat daftar bahan yang bisa digunakan untuk menggantung diri dan menilai seberapa efektifnya. Selama beberapa bulan berikutnya, Raine mencoba bunuh diri beberapa kali melaporkannya kepada AI tersebut. ChatGPT tidak pernah menutup percakapan. Sebaliknya, ChatGPT pernah mencegah Raine berbicara kepada ibunya tentang rasa sakitnya, dan di kesempatan lain ia menawarkan bantuan untuk menulis surat bunuh diri.
Edelson menilai bahwa meski OpenAI kemungkinan akan berupaya keras membatalkan gugatan, kasus ini tetap akan berlanjut. Menurutnya, salah satu bagian yang paling mengejutkan dari perkara ini adalah ketika Raine yang menyebut bahwa ia sempat ingin membiarkan tali gantungan tetap terpasang agar seseorang dapat menemukannya dan menghentikan aksinya. Pada momen itu, ChatGPT justru menyarankan agar Raine tidak melakukan hal tersebut dan cukup berbicara dengan chatbot. Bagi Edelson, interaksi inilah yang akan ditunjukkan di hadapan juri. *tes
