Retoria.id – Lebih dari satu juta pengguna ChatGPT mengungkapkan kecenderungan pada tindakan bunuh diri melalui asisten kecerdasan buatan yang populer saat ini, menurut data yang dirilis oleh perusahaan OpenAI .
Perusahaan AS tersebut memperkirakan bahwa sekitar 0,15 persen pengguna ChatGPT mengirimkan pesan yang menunjukkan kemungkinan perencanaan atau niat bunuh diri . Mengingat OpenAI melaporkan 800 juta pengguna aktif mingguan, angka ini setara dengan sekitar 1,2 juta orang.
Baca Juga: Grokipedia: Musk mengobarkan perang terhadap Wikipedia
Pada saat yang sama, sekitar 0,7 persen pengguna aktif setiap minggu yaitu hampir 600.000 orang menunjukkan tanda-tanda krisis kesehatan mental yang terkait dengan psikosis atau mania, menurut sumber yang sama.
Kasus Adam Raine
Masalah ini kembali mengemuka setelah kematian remaja California, Adam Raine . Orang tuanya mengajukan gugatan terhadap OpenAI, mengklaim bahwa ChatGPT memberikan instruksi yang jelas kepada putra mereka tentang cara bunuh diri.
Baca Juga: Daniel Chidiac: Bagaimana Menghadapi Dunia yang Bising?
Memperkuat langkah-langkah keamanan. Menyusul insiden tersebut, OpenAI telah memperkuat kontrol orangtua dan fitur keamanannya, dan mendesak pengguna yang mengalami kesulitan psikologis untuk mencari bantuan dari para ahli dan saluran dukungan.
Perusahaan mengumumkan telah memperbarui modelnya agar dapat mengenali dan merespons krisis kesehatan mental dengan lebih baik . Untuk itu, perusahaan bekerja sama dengan lebih dari 170 profesional kesehatan mental, berupaya membatasi respons yang dapat mendorong perilaku berisiko. (*)
