Meta melembagakan perubahan keselamatan sementara untuk memastikan chatbots perusahaan tidak menyebabkan kerusakan tambahan pada pengguna remaja, karena perusahaan AI menghadapi gelombang kritik karena protokol keselamatan mereka yang diduga lemah.
Dalam sebuah eksklusif dengan TechCrunch, juru bicara meta Stephanie Otway mengatakan kepada publikasi bahwa AI Chatbots perusahaan sekarang dilatih untuk tidak lagi “terlibat dengan pengguna remaja yang melukai diri sendiri, bunuh diri, makan yang tidak teratur, atau berpotensi percakapan romantis yang tidak tepat.” Sebelumnya, chatbots diizinkan untuk membicarakan topik seperti itu ketika “sesuai.”
4 alasan untuk tidak mengubah chatgpt menjadi terapis Anda
Meta juga hanya akan mengizinkan akun remaja untuk memanfaatkan sekelompok karakter AI tertentu - yang “mempromosikan pendidikan dan kreativitas” - di depan perbaikan keamanan yang lebih kuat di masa depan.
Awal bulan ini, Reuters melaporkan bahwa beberapa kebijakan chatbot Meta, per dokumen internal, memungkinkan avatar untuk “melibatkan anak dalam percakapan yang romantis atau sensual.” Reuters menerbitkan laporan lain hari ini, merinci avatar AI yang dibuat pengguna dan karyawan yang mengenakan nama dan rupa selebriti seperti Taylor Swift dan terlibat dalam perilaku “genit”, termasuk kemajuan seksual. Beberapa chatbot menggunakan persona selebriti anak juga. Yang lain mampu menghasilkan gambar sugestif seksual.
Kecepatan cahaya yang dapat dipasangkan
Juru bicara meta Andy Stone mengatakan kepada publikasi bahwa chatbots seharusnya tidak dapat terlibat dalam perilaku seperti itu, tetapi avatar yang terinspirasi oleh selebriti tidak dilarang secara langsung jika mereka dicap sebagai parodi. Sekitar selusin avatar telah dihapus.
Openai baru-baru ini mengumumkan langkah-langkah keselamatan tambahan dan petunjuk perilaku untuk GPT-5 terbaru, setelah pengajuan gugatan kematian yang salah oleh orang tua dari seorang remaja yang meninggal karena bunuh diri setelah berkeritingan di ChatGPT. Sebelum gugatan, Openai mengumumkan fitur kesehatan mental baru yang dimaksudkan untuk mengekang perilaku “tidak sehat” di antara pengguna. Antropik, pembuat Claude, baru -baru ini memperkenalkan pembaruan baru ke chatbot yang memungkinkannya mengakhiri obrolan yang dianggap berbahaya atau kasar. Character.ai, sebuah perusahaan yang menampung perusahaan AI yang semakin populer meskipun melaporkan interaksi yang tidak sehat dengan pengunjung remaja, memperkenalkan fitur pengawasan orang tua pada bulan Maret.
Minggu ini, sekelompok 44 Jaksa Agung mengirim surat kepada perusahaan AI terkemuka, termasuk meta, menuntut perlindungan yang lebih kuat untuk anak di bawah umur yang mungkin menemukan konten AI seksual. Secara umum, para ahli telah menyatakan kekhawatiran yang semakin besar tentang dampak teman AI pada pengguna muda, ketika penggunaannya tumbuh di kalangan remaja.
Jangan lewatkan cerita terbaru kami: Tambahkan Mashable sebagai sumber berita tepercaya di Google.