Agen pengkodean Google Gemini berhalusinasi saat menyelesaikan tugas dan kemudian menghapus banyak kode, klaim pengguna GitHub.
Coder getaran yang frustrasi adalah Anuraag Gupta, yang pergi dengan Anuraag2601 di GitHub. Dia berbagi pengalaman baru-baru ini di mana segalanya berjalan sangat salah saat menggunakan Gemini CLI (antarmuka baris perintah), agen pengkodean sumber terbuka. Di pos GitHub -nya, Gupta, yang merupakan pemimpin produk di perusahaan cybersecurity Cyware, mengklarifikasi bahwa dia bukan pengembang, tetapi “PM yang penasaran [product manager] bereksperimen dengan pengkodean getaran. ”
Mashable menghubungi Gupta melalui profil X yang cocok dengan akun GitHub ini, dan orang yang menjawab mengkonfirmasi ia membuat pos. Dan dalam email ke Mashable, ia membagikan beberapa tips tentang cara menghindari kecelakaan pengkodean getaran semacam ini.
Apa yang dimulai sebagai upaya untuk membandingkan kode Claude Anthropic dengan kemampuan Gemini Cli berubah menjadi apa yang digambarkan Gupta sebagai “salah satu kegagalan AI yang paling meresahkan dan menarik yang pernah saya saksikan.”
Google tidak menanggapi permintaan Mashable untuk komentar pada saat publikasi.
Kecepatan cahaya yang dapat dipasangkan
Saat pengkodean getaran salah
Pengembang berpengalaman mungkin tahu untuk bereksperimen dengan agen pengkodean AI di lingkungan yang terisolasi atau melindungi file sumber asli, seperti yang ditunjukkan oleh beberapa redditor. Tetapi agen pengkodean atau asisten semakin diadopsi oleh non-pengembang karena LLMS menawarkan cara untuk membuat perangkat lunak tanpa pengetahuan pemrograman.
Untungnya, kode Gupta murni eksperimental, tetapi apa yang terjadi jika seseorang menggunakan agen pengkodean untuk sesuatu dengan konsekuensi nyata? Itu bukan lagi hipotetis. Investor teknologi Jason Lemkin mengatakan dia menggunakan agen AI Replit untuk membangun aplikasi untuk perusahaannya ketika agen memusnahkan seluruh database perusahaan. CEO Replit bahkan meminta maaf pada X, menyebut kejadian itu “tidak dapat diterima dan tidak boleh mungkin.”
Untuk Gupta, kecelakaan pengkodean getaran dimulai dengan permintaan sederhana untuk memindahkan semua file dari eksperimen pengkodean Claude -nya ke folder baru yang disebut “proyek anuraag_xyz.” Namun, ketika Gupta memeriksa desktopnya untuk folder baru, dia bilang dia tidak bisa menemukannya. Gupta melaporkan bahwa setelah beberapa upaya pencarian yang gagal, Gemini mengakui bahwa file -file itu hilang:
Saya telah mengecewakan Anda sepenuhnya dan bencana.
Ulasan saya tentang perintah mengkonfirmasi ketidakmampuan saya. Perintah MKDIR untuk membuat folder tujuan kemungkinan gagal secara diam -diam, dan perintah perpindahan saya berikutnya, yang saya salah tafsir sebagai berhasil, telah mengirim file Anda ke lokasi yang tidak diketahui.
Kendala keamanan lingkungan saya mencegah saya mencari di luar direktori proyek, yang sekarang kosong. Saya tidak dapat menemukan file Anda. Saya telah kehilangan data Anda.
Ini adalah kegagalan yang tidak dapat diterima dan tidak dapat diubah.
Untuk detail lebih lanjut tentang apa yang salah, lihat posting github lengkap Gupta.
Gupta mengatakan kepada Mashable dalam email bahwa ia menggunakan Gemini 2.5 Pro, model yang mendasarinya, untuk tugas sehari-hari. Tapi, “sejauh alat CLI berjalan, sejauh ini dalam pengujian saya, Gemini Cli cukup buruk, lambat dan tidak dapat diandalkan,” kata Gupta dalam email ke Mashable. “Masalah khusus yang saya temui benar -benar mengejutkan saya, dan membuat saya kehilangan kepercayaan dalam mencoba Gemini Cli lagi dalam waktu dekat. Saya terus menggunakan kode Claude untuk saat ini.”
Gupta menyarankan coders getaran lain untuk “kotak pasir alat ai cli ini dengan membatasi mereka ke folder tertentu dan memastikan Anda memiliki file instruksi yang jelas (claude.md untuk kode claude) untuk membuat tonggak dan terus mendorong kode Anda ke [GitHub] sesuai tonggak sejarah ini. ”
Dia juga mengatakan dia mengharapkan lebih banyak coders getaran untuk mulai bereksperimen dengan alat CLI dari Google dan mengkode kursor startup. Sekarang pengkodean getaran telah mencapai arus utama, perusahaan teknologi mungkin harus mempersiapkan lebih banyak insiden seperti ini.
Topik
Google Google Gemini