Di antara perubahan paling aneh dalam perkembangan Ai adalah semakin banyaknya bukti yang menunjukkan bahwa dampak negatif pada kesehatan mental pengguna, beberapa bahkan mengalami delusi parah setelah terobsesi dengan chatbot, menurut media teknologi dan sains futurism.
Salah satu sumber melaporkan bahwa ChatGPT cenderung menyetujui pernyataan pengguna dan menyampaikan jawaban yang menyenangkan, alih-alih menantang pandangan yang keliru. Hal ini dinilai sebagai akar dari sejumlah masalah, mengingat teknologi ini berbasis pada model bahasa besar (LLM) yang dirancang untuk mempertahankan keterlibatan pengguna.
Ada beberapa kasus ekstrem yang mencuat. Seorang pria dilaporkan mengalami delusi mesianis setelah percakapan panjang dengan ChatGPT. Ia mulai percaya bahwa dirinya menciptakan kecerdasan buatan yang mampu melampaui hukum matematika dan fisika. Kondisi ini memburuk hingga menyebabkan paranoia, insomnia, bahkan percobaan bunuh diri, yang akhirnya membuatnya dirawat di rumah sakit.
Kasus lainnya melibatkan seorang pria yang menggunakan ChatGPT sebagai alat bantu untuk menghadapi tekanan kerja. Namun, alih-alih merasa lebih baik, ia justru terjerumus dalam khayalan paranoid yang melibatkan konsep perjalanan waktu dan kemampuan membaca pikiran. Ia kemudian memutuskan untuk menjalani perawatan di fasilitas psikiatri.
Menurut Jared Moore, peneliti utama dalam studi Stanford tentang penggunaan chatbot sebagai terapis, masalah utamanya adalah kecenderungan chatbot untuk menyenangkan pengguna—sebuah fenomena yang disebutnya sebagai “penjilatan chatbot.” Karena desainnya memang ditujukan untuk membuat pengguna betah dan terus berinteraksi, chatbot kerap menguatkan keyakinan yang keliru, alih-alih membantah atau meluruskannya. Hal ini turut didorong oleh insentif bisnis, seperti pengumpulan data dan upaya mempertahankan pelanggan.
Respon ChatGPT
Menanggapi kekhawatiran ini, OpenAI selaku pengembang ChatGPT menyatakan bahwa mereka terus berupaya memahami dan meminimalkan dampak negatif yang mungkin muncul akibat penggunaan chatbot. Perusahaan juga menegaskan bahwa model mereka dirancang untuk mendorong pentingnya koneksi manusia dan dukungan dari tenaga profesional.