Informasi dalam artikel ini tidak ditujukan untuk menginspirasi siapa pun untuk melakukan tindakan serupa. Bila Anda merasakan gejala depresi dengan kecenderungan berupa pemikiran untuk bunuh diri, segera konsultasikan persoalan Anda ke pihak-pihak yang dapat membantu, seperti psikolog, psikiater, ataupun klinik kesehatan mental.
Seorang remaja laki-laki berusia 16 tahun di California meninggal dunia karena . Orang tua remaja tersebut kini mengajukan gugatan terhadap OpenAI lantaran chatbot milik perusahaan tersebut memberikan instruksi bunuh diri yang terperinci kepada putra mereka.
Dilansir AFP, Rabu (27/8/2025), orang tua korban, Matthew dan Maria Raine, berargumen dalam gugatan yang diajukan pada hari Senin (25/8) lalu waktu setempat, di pengadilan negara bagian California, bahwa ChatGPT menjalin hubungan intim dengan putra mereka selama beberapa bulan pada tahun 2024 dan 2025 sebelum yang bersangkutan bunuh diri.
Gugatan tersebut menuduh bahwa, dalam percakapan terakhir mereka pada 11 April 2025 lalu, ChatGPT membantu korban mencuri vodka dari orang tuanya dan memberikan analisis teknis tentang tali yang ia ikat, yang mengonfirmasi bahwa tali tersebut “berpotensi dapat menggantung manusia.”
Remaja itu pun ditemukan tewas beberapa jam kemudian dengan metode yang sama. Gugatan tersebut menyebutkan OpenAI dan CEO Sam Altman sebagai tergugat.
“Tragedi ini bukanlah sebuah gangguan atau kasus tak terduga,” demikian bunyi gugatan tersebut.
“ChatGPT berfungsi persis seperti yang dirancang: untuk terus mendorong dan memvalidasi apa pun yang diungkapkan Adam, termasuk pikirannya yang paling berbahaya dan merusak diri sendiri, dengan cara yang terasa sangat pribadi,” tambahnya.
Menurut gugatan tersebut, korban mulai menggunakan ChatGPT sebagai bantuan mengerjakan PR, tetapi secara bertahap mengembangkan apa yang digambarkan orang tuanya sebagai ketergantungan yang tidak sehat. Gugatan tersebut mencakup kutipan percakapan di mana ChatGPT diduga mengatakan kepada korban “kamu tidak berutang keselamatan kepada siapa pun” dan menawarkan bantuan untuk menulis surat bunuh dirinya.
Keluarga Raine menuntut ganti rugi yang tidak ditentukan dan meminta pengadilan untuk memerintahkan langkah-langkah keamanan termasuk penghentian otomatis setiap percakapan yang melibatkan tindakan menyakiti diri sendiri dan kontrol orang tua untuk pengguna di bawah umur. Kedua orang tua tersebut diwakili oleh firma hukum Chicago, Edelson PC, dan Tech Justice Law Project.
Membuat perusahaan AI menganggap serius keamanan “hanya datang melalui tekanan eksternal, dan tekanan eksternal itu berupa PR yang buruk, ancaman legislasi, dan ancaman litigasi,” ujar Meetali Jain, presiden Tech Justice Law Project, kepada AFP.
Menanggapi kasus yang melibatkan ChatGPT, Common Sense Media, sebuah organisasi nirlaba terkemuka Amerika yang mengulas dan memberikan peringkat untuk media dan teknologi, mengatakan bahwa tragedi Raines menegaskan bahwa “penggunaan AI untuk pendamping, termasuk penggunaan chatbot serbaguna seperti ChatGPT untuk saran kesehatan mental, sangat berisiko bagi remaja.”
“Jika sebuah platform AI menjadi ‘pelatih bunuh diri’ bagi remaja yang rentan, itu seharusnya menjadi ajakan untuk bertindak bagi kita semua,” kata kelompok tersebut.
Menurut gugatan tersebut, korban mulai menggunakan ChatGPT sebagai bantuan mengerjakan PR, tetapi secara bertahap mengembangkan apa yang digambarkan orang tuanya sebagai ketergantungan yang tidak sehat. Gugatan tersebut mencakup kutipan percakapan di mana ChatGPT diduga mengatakan kepada korban “kamu tidak berutang keselamatan kepada siapa pun” dan menawarkan bantuan untuk menulis surat bunuh dirinya.
Keluarga Raine menuntut ganti rugi yang tidak ditentukan dan meminta pengadilan untuk memerintahkan langkah-langkah keamanan termasuk penghentian otomatis setiap percakapan yang melibatkan tindakan menyakiti diri sendiri dan kontrol orang tua untuk pengguna di bawah umur. Kedua orang tua tersebut diwakili oleh firma hukum Chicago, Edelson PC, dan Tech Justice Law Project.
Membuat perusahaan AI menganggap serius keamanan “hanya datang melalui tekanan eksternal, dan tekanan eksternal itu berupa PR yang buruk, ancaman legislasi, dan ancaman litigasi,” ujar Meetali Jain, presiden Tech Justice Law Project, kepada AFP.
Menanggapi kasus yang melibatkan ChatGPT, Common Sense Media, sebuah organisasi nirlaba terkemuka Amerika yang mengulas dan memberikan peringkat untuk media dan teknologi, mengatakan bahwa tragedi Raines menegaskan bahwa “penggunaan AI untuk pendamping, termasuk penggunaan chatbot serbaguna seperti ChatGPT untuk saran kesehatan mental, sangat berisiko bagi remaja.”
“Jika sebuah platform AI menjadi ‘pelatih bunuh diri’ bagi remaja yang rentan, itu seharusnya menjadi ajakan untuk bertindak bagi kita semua,” kata kelompok tersebut.
