Openai mengulangi perlindungan kesehatan mental yang ada dan mengumumkan rencana masa depan untuk AI Chatbot yang populer, menangani tuduhan bahwa chatgpt menanggapi diskusi yang mengancam jiwa dan memfasilitasi pelecehan diri pengguna.
Perusahaan ini menerbitkan sebuah posting blog yang merinci perlindungan modelnya hanya beberapa jam setelah dilaporkan bahwa raksasa AI itu menghadapi gugatan kematian yang salah oleh keluarga remaja California Adam Raine. Gugatan itu menuduh bahwa Raine, yang meninggal karena bunuh diri, dapat melewati pagar chatbot dan merinci pikiran-pikiran berbahaya dan merusak diri sendiri, serta ide bunuh diri, yang secara berkala ditegaskan oleh chatgpt.
File Keluarga Remaja Mati Jas Mati Yang Salah Menentang Openai dan Chatgpt
ChatGPT mencapai 700 juta pengguna mingguan aktif awal bulan ini.
“Pada skala ini, kami kadang -kadang bertemu orang -orang dalam tekanan mental dan emosional yang serius. Kami menulis tentang ini beberapa minggu yang lalu dan telah merencanakan untuk berbagi lebih banyak setelah pembaruan besar berikutnya,” kata perusahaan itu dalam sebuah pernyataan. “Namun, kasus -kasus memilukan baru -baru ini dari orang -orang yang menggunakan chatgpt di tengah -tengah krisis akut sangat membebani kami, dan kami percaya penting untuk berbagi lebih banyak sekarang.”
Saat ini, protokol ChatGPT mencakup serangkaian perlindungan bertumpuk yang berupaya membatasi output ChatGPT sesuai dengan batasan keselamatan tertentu. Ketika mereka bekerja dengan tepat, chatgpt diinstruksikan untuk tidak memberikan instruksi melukai diri sendiri atau mematuhi permintaan yang berkelanjutan pada subjek itu, sebaliknya meningkatkan menyebutkan kerusakan tubuh pada moderator manusia dan mengarahkan pengguna ke kehidupan bunuh diri & krisis 988 yang berbasis di AS, Inggris Samaria, atau Fallahelpline.com. Sebagai layanan yang didanai federal, 988 baru-baru ini mengakhiri layanan khusus LGBTQ di bawah mandat administrasi Trump-bahkan ketika penggunaan chatbot di antara remaja yang rentan tumbuh.
Kecepatan cahaya yang dapat dipasangkan
Mengingat kasus -kasus lain di mana pengguna yang terisolasi dalam tekanan mental yang parah diceritakan pada teman digital yang tidak memenuhi syarat, serta tuntutan hukum sebelumnya terhadap pesaing AI seperti karakter. AI, advokat keselamatan online telah meminta perusahaan AI untuk mengambil pendekatan yang lebih aktif untuk mendeteksi dan mencegah perilaku berbahaya, termasuk peringatan otomatis ke layanan darurat.
Openai mengatakan pembaruan GPT-5 di masa depan akan mencakup instruksi untuk chatbot untuk “mengurangi” pengguna dalam tekanan mental dengan “membumikan orang pada kenyataannya,” mungkin respons terhadap peningkatan laporan chatbot yang memungkinkan keadaan khayalan. Openai mengatakan sedang mengeksplorasi cara -cara baru untuk menghubungkan pengguna secara langsung ke profesional kesehatan mental sebelum pengguna melaporkan apa yang perusahaan sebut sebagai “kerusakan diri akut.” Protokol keselamatan lainnya dapat mencakup “pesan satu klik atau panggilan untuk menghemat kontak darurat, teman, atau anggota keluarga,” tulis Openai, atau fitur opt-in yang memungkinkan chatgpt menjangkau kontak darurat secara otomatis.
Menjelaskan fenomena yang dikenal sebagai 'psikosis ai'
Awal bulan ini, Openai mengumumkan akan meningkatkan model terbarunya, GPT-5, dengan perlindungan tambahan yang dimaksudkan untuk menumbuhkan keterlibatan yang lebih sehat dengan penolong AI-nya. Memperhatikan kritik bahwa model chatbot sebelumnya terlalu sycophantic - sampai pada titik yang berpotensi merusak hasil kesehatan mental - perusahaan mengatakan model barunya lebih baik dalam mengenali tekanan mental dan emosional dan akan merespons secara berbeda terhadap pertanyaan “taruhan tinggi” yang bergerak maju. GPT-5 juga mencakup dorongan lembut untuk sesi akhir yang telah berlangsung untuk jangka waktu yang lama, karena individu membentuk hubungan yang semakin tergantung dengan teman digital mereka.
Terjadi reaksi yang meluas, dengan pengguna GPT-4O menuntut perusahaan mengembalikan model sebelumnya setelah kehilangan chatbots yang dipersonalisasi. CEO OpenAI Sam Altman dengan cepat kebobolan dan membawa kembali GPT-4O, meskipun sebelumnya mengakui masalah ketergantungan emosional yang berkembang di antara pengguna chatgpt.
Dalam posting blog baru, Openai mengakui bahwa perlindungannya terdegradasi dan dilakukan kurang andal dalam interaksi panjang - jenis yang dilakukan banyak pengguna yang bergantung secara emosional setiap hari - dan “bahkan dengan perlindungan ini, ada saat -saat ketika sistem kami tidak berperilaku sebagaimana dimaksud dalam situasi yang sensitif.”
Jika Anda merasa bunuh diri atau mengalami krisis kesehatan mental, silakan bicara dengan seseorang. Anda dapat menelepon atau mengirim SMS ke 988 Bunuh Diri & Krisis Lifeline di 988, atau mengobrol di 988lifeline.org. Anda dapat mencapai Lifeline Trans dengan menelepon 877-565-8860 atau Proyek Trevor di 866-488-7386. Teks “Mulai” ke baris teks krisis di 741-741. Hubungi Saluran Bantuan NAMI di 1-800-950-NAMI, Senin hingga Jumat mulai pukul 10:00-22:00 ET, atau email [email protected]. Jika Anda tidak menyukai telepon, pertimbangkan untuk menggunakan Obrolan Lifeline Bunuh Diri dan Krisis 988 di crisischat.org. Ini adalah Daftar Sumber Daya Internasional.