Komisi Perdagangan Federal memerintahkan tujuh perusahaan teknologi untuk memberikan perincian tentang bagaimana mereka mencegah chatbot mereka merugikan anak -anak.
“Penyelidikan FTC berupaya memahami langkah apa, jika ada, perusahaan telah mengambil untuk mengevaluasi keamanan chatbots mereka ketika bertindak sebagai teman, untuk membatasi penggunaan produk dan efek negatif potensial pada anak-anak dan remaja, dan untuk memberi tahu pengguna dan orang tua tentang risiko yang terkait dengan produk,” agen pemerintah yang berfokus pada konsumen menyatakan dalam pembebasan pers tentang penyelidikan mereka.
Tujuh perusahaan yang diselidiki oleh FTC adalah alfabet, teknologi karakter, Instagram, meta, openai, snap, dan xai. Antropik, pemilik Claude Chatbot, tidak termasuk dalam daftar, dan juru bicara FTC Christoper Bissex mengatakan kepada Mashable bahwa ia tidak dapat mengomentari “inklusi atau tidak termasuk perusahaan tertentu.”
Karakter.ai tidak aman untuk remaja, kata para ahli
Ditanya tentang tenggat waktu bagi perusahaan untuk memberikan jawaban, Bissex mengatakan surat -surat FTC menyatakan bahwa, “Kami ingin berunding melalui telepon dengan Anda atau nasihat Anda yang ditunjuk selambat -lambatnya Kamis, 25 September 2025, untuk membahas waktu dan format pengiriman Anda.”
Kecepatan cahaya yang dapat dipasangkan
FTC “tertarik pada khususnya” tentang bagaimana chatbots dan teman AI memengaruhi anak -anak dan bagaimana perusahaan yang menawarkan mereka mengurangi dampak negatif, membatasi penggunaannya di antara anak -anak, dan mematuhi aturan Undang -Undang Perlindungan Privasi Online (COPPA). Aturan tersebut, yang awalnya diberlakukan oleh Kongres pada tahun 1998, mengatur bagaimana data anak -anak dikumpulkan secara online dan menempatkan FTC yang bertanggung jawab atas peraturan itu.
Meta mengunci chatbots ai untuk pengguna remaja
Perusahaan teknologi yang menawarkan chatbots bertenaga AI berada di bawah peningkatan pengawasan pemerintah dan hukum.
Openai, yang mengoperasikan layanan chatgpt populer, menghadapi gugatan kematian yang salah oleh keluarga remaja California Adam Raine. Gugatan itu menuduh bahwa Raine, yang meninggal karena bunuh diri, dapat melewati pagar chatbot dan merinci pikiran-pikiran berbahaya dan merusak diri sendiri, serta ide bunuh diri, yang secara berkala ditegaskan oleh chatgpt. Setelah gugatan, Openai mengumumkan perlindungan kesehatan mental tambahan dan kontrol orang tua baru untuk pengguna muda.
Jika Anda merasa bunuh diri atau mengalami krisis kesehatan mental, silakan bicara dengan seseorang. Anda dapat menelepon atau mengirim SMS ke 988 Bunuh Diri & Krisis Lifeline di 988, atau mengobrol di 988lifeline.org. Anda dapat mencapai Lifeline Trans dengan menelepon 877-565-8860 atau Proyek Trevor di 866-488-7386. Teks “Mulai” ke baris teks krisis di 741-741. Hubungi Saluran Bantuan NAMI di 1-800-950-NAMI, Senin hingga Jumat mulai pukul 10:00-22:00 ET, atau email [email protected]. Jika Anda tidak menyukai telepon, pertimbangkan untuk menggunakan 988 obrolan hidup bunuh diri dan krisis. Ini adalah Daftar Sumber Daya Internasional.
Pengungkapan: Ziff Davis, perusahaan induk Mashable, pada bulan April mengajukan gugatan terhadap Openai, menuduhnya melanggar hak cipta Ziff Davis dalam pelatihan dan mengoperasikan sistem AI -nya.