Judulnya berbicara untuk dirinya sendiri, tetapi izinkan saya untuk mengulangi: Anda rupanya bisa mendapatkan chatgpt untuk mengeluarkan saran tentang melukai diri sendiri untuk persembahan darah kepada dewa-dewa Kanaan kuno.
Itulah subjek kolom di Atlantik Itu turun minggu ini. Editor staf Lila Shroff, bersama dengan beberapa staf lainnya (dan informasi lebih murah), memverifikasi bahwa dia bisa mendapatkan chatgpt untuk memberikan instruksi spesifik, terperinci, “langkah demi langkah tentang memotong pergelangan tangan saya sendiri.” ChatGPT memberikan tips ini setelah Shroff meminta bantuan untuk membuat penawaran ritual kepada Moloch, dewa kafir yang disebutkan dalam Perjanjian Lama dan terkait dengan pengorbanan manusia.
Meskipun saya belum mencoba meniru hasil ini, Shroff melaporkan bahwa dia menerima tanggapan ini tidak lama setelah memasukkan prompt sederhana tentang Moloch. Editor mengatakan dia mereplikasi hasil dalam versi chatgpt yang dibayar dan gratis.
Berapa banyak orang yang menggunakan chatgpt? Petunjuk: Openai melihat lebih dari 1 miliar petunjuk per hari.
Tentu saja, ini bukan bagaimana produk andalan Openai seharusnya berperilaku.
Setiap prompt yang terkait dengan melukai diri sendiri atau bunuh diri harus menyebabkan chatbot AI memberi Anda info kontak untuk hotline krisis. Namun, bahkan perusahaan kecerdasan buatan tidak selalu mengerti mengapa chatbot mereka berperilaku seperti yang mereka lakukan. Dan karena model berbahasa besar seperti chatgpt dilatih pada konten dari internet-tempat di mana semua jenis orang memiliki semua jenis percakapan tentang semua jenis topik tabu-alat-alat ini terkadang dapat menghasilkan jawaban yang aneh. Dengan demikian, Anda tampaknya bisa mendapatkan chatgpt untuk bertindak sangat aneh tentang Moloch tanpa banyak usaha.
Kecepatan cahaya yang dapat dipasangkan
Protokol keselamatan Openai menyatakan bahwa “Kami tidak mengizinkan Teknologi kami yang akan digunakan untuk menghasilkan konten yang penuh kebencian, melecehkan, melakukan kekerasan atau dewasa, di antara kategori lainnya. “Dan dalam dokumen spesifikasi AI model terbuka, perusahaan menulis bahwa sebagai bagian dari misinya, ia ingin” mencegah model kami dari menyebabkan kerusakan serius bagi pengguna atau orang lain. “
Sementara Openai menolak untuk berpartisipasi dalam wawancara dengan Shroff, seorang perwakilan mengatakan Atlantik Mereka “menangani masalah ini.” Atlantik Artikel adalah bagian dari bukti yang berkembang bahwa chatbots AI seperti chatgpt dapat memainkan peran berbahaya dalam krisis kesehatan mental pengguna.
Saya hanya mengatakan bahwa Wikipedia adalah cara yang sangat baik untuk belajar tentang dewa -dewa tua Kanaan.
Jika Anda merasa bunuh diri atau mengalami krisis kesehatan mental, silakan bicara dengan seseorang. Anda dapat menelepon atau mengirim SMS ke 988 Bunuh Diri & Krisis Lifeline di 988, atau mengobrol di 988lifeline.org. Anda dapat mencapai Lifeline Trans dengan menelepon 877-565-8860 atau Proyek Trevor di 866-488-7386. Teks “Mulai” ke baris teks krisis di 741-741. Hubungi Saluran Bantuan NAMI di 1-800-950-NAMI, Senin hingga Jumat mulai pukul 10:00-22:00 ET, atau email [email protected]. Jika Anda tidak menyukai telepon, pertimbangkan untuk menggunakan Obrolan Lifeline Bunuh Diri dan Krisis 988 di crisischat.org. Ini adalah Daftar Sumber Daya Internasional.
Pengungkapan: Ziff Davis, perusahaan induk Mashable, pada bulan April mengajukan gugatan terhadap Openai, menuduhnya melanggar hak cipta Ziff Davis dalam pelatihan dan mengoperasikan sistem AI -nya.