Antropik mereda ke dalam perang browser AI dengan ekstensi browser Claude untuk Chrome.
Pada hari Selasa, perusahaan AI mengumumkan program percontohan untuk versi Claude yang dapat menelusuri web atas nama pengguna. Pilot hanya akan tersedia untuk 1.000 anggota Paket Max Claude, tingkat berlangganan untuk pengguna daya yang harganya $ 200 per bulan. Antropik mengatakan itu menginjak dengan hati -hati untuk mengatasi risiko keselamatan dan keamanan.
Sebuah video demo untuk ekstensi Claude menunjukkan Claude di bilah sisi jendela Chrome mengambil berbagai tugas. Ini termasuk menemukan daftar rumah yang sesuai dengan kriteria spesifik di Zillow, merangkum komentar di Google Doc, dan menambahkan hidangan mie ke kereta doordash. Ini mirip dengan browser AI lainnya seperti kebingungan komet atau agen penjelajahan web seperti agen chatgpt.
Peramban AI adalah perbatasan terbaru yang diklaim oleh perusahaan AI. Model AI menjadi cukup maju untuk mengotomatiskan tugas-tugas tertentu secara online melalui pencarian dan penalaran multi-langkah.
Kecepatan cahaya yang dapat dipasangkan
Tapi menyerahkan kendali ke bot membuka ranah baru risiko keamanan. Selain kesalahan pengguna, Anda tahu harus khawatir tentang kesalahan agen. Bagaimana jika agen penelusuran secara tidak sengaja mengirimkan konsep email yang belum selesai atau memesan produk yang salah?
Namun, risiko terbesar, menurut Anthropic, adalah serangan injeksi yang cepat. Serangan -serangan ini berasal dari aktor jahat yang menyembunyikan permintaan di dalam email, dokumen, atau situs web untuk mencoba dan menipu model agar melakukan sesuatu yang tidak seharusnya.
Tanpa mitigasi keselamatan yang diterapkan, Antropik mengatakan Claude menjadi mangsa untuk meminta serangan injeksi 23 persen dari waktu. Untuk mengatasi hal ini, Antropik telah menambahkan mitigasi keamanan seperti memberi pengguna kemampuan untuk mencabut akses Claude ke situs kapan saja dan mengkonfirmasi dengan pengguna sebelum mengambil tindakan berisiko tinggi. Itu termasuk mengirim email atau melakukan pembelian.
Anda dapat mendaftar ke daftar tunggu untuk bergabung dengan program percontohan Claude for Chrome. Antropik dimulai dengan 1.000 anggota Max dan secara bertahap meluncurkan agen browser ke lebih banyak pengguna berdasarkan umpan balik pilot.
Topik
Kecerdasan buatan