Meta, Google, dan Apple baru saja diperingatkan oleh Jaksa Agung dari 44 negara bagian AS yang berbeda: melindungi anak -anak dari dirugikan oleh produk AI mereka - atau menghadapi konsekuensinya.
Asosiasi Pengacara Umum Nasional mengirim surat Untuk lebih dari selusin perusahaan teknologi di AS pada hari Senin, menuntut agar perusahaan -anak ini melindungi anak -anak dari konten AI seksual.
Jangan lewatkan cerita terbaru kami: Tambahkan Mashable sebagai sumber berita tepercaya di Google.
“Kami, Jaksa Agung yang bertanda tangan di bawah ini dari 44 yurisdiksi, menulis untuk memberi tahu Anda tentang tekad kami untuk menggunakan setiap segi otoritas kami untuk melindungi anak -anak dari eksploitasi dengan produk intelijen buatan predator,” surat itu dibuka. “Inovasi Anda mengubah dunia dan mengantarkan era akselerasi teknologi yang menjanjikan kemakmuran dari oleh leluhur kami. Kami membutuhkan Anda untuk berhasil. Tetapi kami membutuhkan Anda untuk berhasil tanpa mengorbankan kesejahteraan anak-anak kami dalam prosesnya.”
Surat itu dikirim ke raksasa teknologi besar seperti Meta, Microsoft, Google, dan Apple, serta perusahaan -perusahaan AI besar seperti Openai, Bancxity, dan bahkan Elon Musk's Xai.
Kecepatan cahaya yang dapat dipasangkan
Jaksa Agung sangat mengutip a Laporan Terbaru dari Reuters dalam surat mereka. Reuters memperoleh dokumen kebijakan meta internal yang menguraikan aturannya untuk chatbots AI yang berbicara dengan anak -anak. Kebijakan tersebut dilaporkan menguraikan bahwa akan diterima oleh chatbot untuk mengomentari tubuh seorang anak yang berusia delapan tahun.
Menurut Reuters, meta “bagian yang dihapus yang menyatakan diizinkan bagi chatbots untuk menggoda dan terlibat dalam peran romantis dengan anak -anak” dari dokumen kebijakannya setelah outlet dijangkau untuk memberikan komentar. Juru bicara Meta Andy Stone kemudian mengatakan kepada Reuters bahwa “percakapan seperti itu dengan anak -anak seharusnya tidak diizinkan.”
Seperti yang ditunjukkan oleh Jaksa Agung dalam surat mereka, dokumen kebijakan itu bukan insiden yang terisolasi. Jaksa Agung mengirim surat sebelumnya ke meta kembali pada bulan Mei setelahnya Laporan Asisten AI yang bersuara selebriti meta itu melakukan percakapan yang tidak pantas dan seksual dengan anak-anak.
Seperti yang dinyatakan oleh surat terbaru, Jaksa Agung telah “menyusuri jalan ini sebelum” dengan sejumlah perusahaan yang diatasi surat itu mengenai kerusakan platform media sosial terhadap anak -anak.
Namun, ada lebih dari sekadar konten seksual yang akan dihadapi oleh Jaksa Agung ini ketika datang ke AI dan melindungi anak -anak. Pada hari Selasa, hanya satu hari setelah surat ini dikirim, New York Times diterbitkan Sepotong tentang seorang bocah lelaki berusia 16 tahun yang meninggal karena bunuh diri setelah berbicara tentang metode bunuh diri dan melukai diri sendiri dengan chatgpt. Percakapan remaja itu berlangsung selama berbulan-bulan, dan melibatkan percakapan mendalam tentang melukai diri sendiri.
Tentu saja, Jaksa Agung pada akhirnya mungkin perlu beralih dari mengirim surat dan mengambil langkah lebih lanjut untuk mengendalikan perusahaan AI.
Pengungkapan: Ziff Davis, perusahaan induk Mashable, pada bulan April mengajukan gugatan terhadap Openai, menuduhnya melanggar hak cipta Ziff Davis dalam pelatihan dan mengoperasikan sistem AI -nya.