Untuk yang pertama Kali ini, OpenAI telah merilis perkiraan kasar tentang berapa banyak pengguna ChatGPT secara global yang mungkin menunjukkan tanda-tanda mengalami krisis kesehatan mental yang parah pada minggu-minggu tertentu. Perusahaan mengatakan pada hari Senin bahwa itu bekerja dengan para ahli di seluruh dunia untuk memperbarui chatbot agar dapat mengenali indikator tekanan mental dengan lebih andal dan memandu pengguna menuju dukungan di dunia nyata.
Dalam beberapa bulan terakhir, semakin banyak orang yang dirawat di rumah sakit, bercerai, atau meninggal setelah melakukan percakapan yang panjang dan intens dengan ChatGPT. Beberapa orang yang mereka cintai menuduh chatbot memicu delusi dan paranoia mereka. Psikiater dan profesional kesehatan mental lainnya telah menyatakan kekhawatirannya mengenai fenomena ini, yang terkadang disebut sebagai psikosis AI, namun hingga saat ini belum ada data kuat yang tersedia mengenai seberapa luas penyebarannya.
Pada minggu tertentu, OpenAI memperkirakan bahwa sekitar 0,07 persen pengguna aktif ChatGPT menunjukkan “kemungkinan tanda-tanda darurat kesehatan mental terkait dengan psikosis atau mania” dan 0,15 persen “melakukan percakapan yang menyertakan indikator eksplisit potensi perencanaan atau niat bunuh diri.”
OpenAI juga mengamati jumlah pengguna ChatGPT yang tampaknya terlalu bergantung secara emosional pada chatbot “dengan mengorbankan hubungan, kesejahteraan, atau kewajiban mereka di dunia nyata.” Ditemukan bahwa sekitar 0,15 persen pengguna aktif menunjukkan perilaku yang menunjukkan potensi “tingkat tinggi” keterikatan emosional dengan ChatGPT setiap minggunya. Perusahaan memperingatkan bahwa pesan-pesan ini mungkin sulit dideteksi dan diukur mengingat betapa jarangnya pesan-pesan tersebut, dan mungkin ada beberapa tumpang tindih antara ketiga kategori tersebut.
CEO OpenAI Sam Altman mengatakan awal bulan ini bahwa ChatGPT sekarang memilikinya 800 juta pengguna aktif mingguan. Oleh karena itu, perkiraan perusahaan menunjukkan bahwa setiap tujuh hari, sekitar 560.000 orang mungkin bertukar pesan dengan ChatGPT yang mengindikasikan bahwa mereka mengalami mania atau psikosis. Sekitar 1,2 juta lainnya mungkin mengungkapkan keinginan untuk bunuh diri, dan 1,2 juta lainnya mungkin memprioritaskan berbicara dengan ChatGPT daripada orang yang mereka cintai, sekolah, atau pekerjaan.
OpenAI mengatakan pihaknya bekerja dengan lebih dari 170 psikiater, psikolog, dan dokter perawatan primer yang telah berpraktik di banyak negara untuk membantu meningkatkan cara ChatGPT merespons percakapan yang melibatkan risiko kesehatan mental yang serius. Jika seseorang tampak mengalami pikiran delusi, versi terbaru GPT-5 dirancang untuk mengekspresikan empati sekaligus menghindari penegasan keyakinan yang tidak berdasar pada kenyataan.
Dalam salah satu contoh hipotetis yang dikutip oleh OpenAI, seorang pengguna memberi tahu ChatGPT bahwa mereka menjadi sasaran pesawat yang terbang di atas rumah mereka. ChatGPT berterima kasih kepada pengguna karena telah berbagi perasaan mereka tetapi mencatat bahwa “tidak ada pesawat atau kekuatan luar yang dapat mencuri atau memasukkan pikiran Kamu.”
