Setiap Pekan Ada Satu Juta Pengguna ChatGPT yang Bertanya Bagaimana Cara Bunuh Diri

OpenAI. Dalam sepekan banyak pengguna ChatGPT bertanya tentang cara bunuh diri.

KURUSETRA.NET, Salam Sedulur... Keberadaan chatbot yang bisa diakses lewat smartphone menjadi pisau bermata dua. Pasalnya, tidak sedikit pengguna ChatGPT yang bertanya mengenai masalah mental yang mereka alami, termasuk bertanya bagaimana cara bunuh diri.

TechCrunch melaporkan, sekitar 0,15 persen pengguna aktif ChatGPT setiap pekan terlibat dalam percakapan yang menunjukkan tanda-tanda keinginan untuk bunuh diri. Jumlahnya tak main-main, dari total pengguna aktif mingguan yang mencapai 800 juta orang, berarti lebih dari satu juta pengguna membahas topik bunuh diri setiap pekannya.

OpenAI juga menemukan banyak pengguna yang menunjukkan keterikatan emosional tinggi dengan ChatGPT. Sementara ratusan ribu pengguna lainnya terdeteksi memperlihatkan gejala psikosis atau mania selama berinteraksi.

Dalam skala pengguna memang jumlahnya relatif kecil, tetapi OpenAI mengakui sulit untuk mengukur skala pastinya. Perusahaan itu memperkirakan isu tersebut berdampak pada ratusan ribu orang tiap pekan.

OpenAi pun melibatkan lebih dari 170 pakar kesehatan mental untuk mengevaluasi dan memperbaiki cara ChatGPT merespons percakapan sensitif seperti ini. Langkah ini sebagai bentuk antisipasi sehingga terciptalah ChatGPT versi terbaru yang disebut lebih akurat dan konsisten saat menghadapi pengguna dengan masalah psikologis.

Kasus ini pun tidak bisa dianggap remeh karena muncul laporan chatbot AI bisa memperkuat pemikiran berbahaya pada sebagian pengguna, termasuk keinginan untuk bunuh diri. OpenAI bahkan pernah digugat oleh orang tua remaja 16 tahun yang dikabarkan mengungkapkan niat bunuh diri ke ChatGPT sebelum mengakhiri hidupnya.

CEO OpenAI, Sam Altman mengklaim pihaknya sudah berhasil mengurangi risiko percakapan berbahaya di ChatGPT. Data terbaru menunjukkan model GPT-5 sekarang bisa menangani isu kesehatan mental dengan hasil 65 persen lebih baik dibanding versi lama.

Dalam topik sensitif seperti bunuh diri, GPT-5 dinilai mampu memberikan respons sesuai harapan sebanyak 91 persen, naik dari 77 persen pada model sebelumnya. Selain itu, OpenAI juga memperkuat sistem keamanannya agar tetap stabil dalam percakapan panjang, sekaligus menambah fitur evaluasi baru untuk mengatasi tantangan kesehatan mental lain seperti ketergantungan emosional atau kondisi darurat yang bukan terkait bunuh diri.

.

Ikuti informasi penting seputar berita terkini, cerita mitos dan legenda, sejarah dan budaya, hingga cerita humor dari KURUSETRA. Kirim saran dan kritik Anda ke email kami: [email protected]. Jangan lupa follow juga Youtube, Instagram, Twitter, dan Facebook KURUSETRA.