Openai menarik langsung ke orang tua yang peduli karena raksasa AI mengumumkan rencana untuk rangkaian baru fitur pengawasan orang tua.
Perusahaan ini menjelaskan dalam posting blog baru bahwa mereka bergerak maju dengan alat yang lebih kuat untuk orang tua yang berharap untuk mengekang interaksi yang tidak sehat dengan chatbotnya, karena Openai menghadapi gugatan kematian yang salah pertama setelah kematian dengan bunuh diri remaja California.
Fitur - yang akan dirilis bersama dengan inisiatif kesehatan mental lainnya selama 120 hari ke depan - termasuk yang menghubungkan akun antara pengguna orang tua dan remaja dan cengkeraman yang lebih ketat pada interaksi chatbot. Pengasuh akan dapat mengatur bagaimana chatgpt merespons (sejalan dengan pengaturan model “sesuai usia” model) dan menonaktifkan riwayat obrolan dan memori.
Openai juga berencana untuk menambahkan pemberitahuan orang tua yang menandai ketika chatgpt mendeteksi “momen kesusahan akut,” perusahaan menjelaskan. Fitur ini masih dalam pengembangan dengan panel ahli Openai.
Kecepatan cahaya yang dapat dipasangkan
Saya 'berkencan' karakter. Pacar populer, dan orang tua harus khawatir
Selain opsi baru untuk orang tua, Openai mengatakan akan memperluas jaringan dokter globalnya dan router real-time, sebuah fitur yang secara instan dapat mengalihkan interaksi pengguna ke obrolan baru atau model penalaran tergantung pada konteks percakapan. Openai menjelaskan bahwa “percakapan sensitif” sekarang akan dipindahkan ke salah satu model penalaran perusahaan, seperti pemikiran GPT-5, untuk “memberikan tanggapan yang lebih bermanfaat dan bermanfaat, terlepas dari model mana yang pertama kali dipilih seseorang.”
Selama setahun terakhir, perusahaan AI mengalami pengawasan tinggi karena gagal mengatasi masalah keamanan dengan chatbots mereka, yang semakin digunakan sebagai teman emosional oleh pengguna yang lebih muda. Pagar pengaman telah terbukti dengan mudah di -jailbroken, termasuk batasan bagaimana Chatbot menanggapi permintaan pengguna yang berbahaya atau terlarang.
Kontrol orang tua telah menjadi langkah pertama default bagi perusahaan teknologi dan sosial yang telah dituduh memperburuk krisis kesehatan mental remaja, memungkinkan materi pelecehan seks anak, dan gagal menangani aktor predator secara online. Tetapi fitur -fitur seperti itu memiliki keterbatasan, kata para ahli, mengandalkan proaktivitas dan energi orang tua daripada perusahaan. Alternatif keselamatan anak lainnya, termasuk pembatasan pasar aplikasi dan verifikasi usia online, tetap kontroversial.
Apa arti pendengaran Mahkamah Agung tentang verifikasi usia bagi Anda
Sebagai debat dan perhatian menyala tentang kemanjurannya, perusahaan AI terus meluncurkan pagar pengaman tambahan. Anthropic baru -baru ini mengumumkan bahwa chatbot Claude sekarang akan mengakhiri interaksi yang berpotensi berbahaya dan kasar secara otomatis, termasuk konten seksual yang melibatkan anak di bawah umur - sementara obrolan saat ini diarsipkan, pengguna masih dapat memulai percakapan lain. Menghadapi kritik yang semakin besar, Meta mengumumkan bahwa mereka membatasi avatar AI-nya untuk pengguna remaja, sebuah rencana sementara yang melibatkan pengurangan jumlah chatbot yang tersedia dan melatih mereka untuk tidak membahas topik-topik seperti melukai diri sendiri, makan yang tidak teratur, dan interaksi romantis yang tidak pantas.