Alat AI baru Food and Drug Administration – yang disebut -sebut oleh Sekretaris Kesehatan dan Layanan Kemanusiaan Robert F. Kennedy, Jr sebagai solusi revolusioner untuk memperpendek persetujuan obat – pada awalnya menyebabkan lebih banyak halusinasi daripada solusi.
Dikenal sebagai ELSA, AI Chatbot diperkenalkan untuk membantu karyawan FDA dengan tugas harian seperti catatan dan email rapat, sementara secara bersamaan mendukung waktu penyelesaian obat dan persetujuan yang lebih cepat dengan memilah -milah data aplikasi yang penting. Tetapi, menurut orang dalam FDA yang berbicara dengan CNN di bawah anonimitas, chatbot penuh dengan halusinasi, sering membuat studi medis atau salah menafsirkan data penting. Alat ini telah dikesampingkan oleh staf, dengan sumber -sumber yang mengatakan itu tidak dapat digunakan dalam ulasan dan tidak memiliki akses ke dokumen internal penting yang dijanjikan karyawan.
Pelanggaran data kesehatan berdampak lebih dari lima juta orang Amerika
“Ini berhalusinasi dengan percaya diri,” kata seorang karyawan FDA kepada CNN. Menurut sumber, alat ini sering memberikan jawaban yang salah pada area penelitian FDA, label obat, dan tidak dapat menautkan ke kutipan pihak ketiga dari jurnal medis eksternal.
Terlepas dari klaim awal bahwa alat ini sudah diintegrasikan ke dalam protokol tinjauan klinis, Komisaris FDA Marty Macary mengatakan kepada CNN bahwa alat itu hanya digunakan untuk “tugas organisasi” dan tidak diharuskan dari karyawan. Kepala AI FDA mengakui publikasi bahwa alat tersebut berisiko berhalusinasi, membawa risiko yang sama seperti LLM lainnya. Keduanya mengatakan mereka tidak terkejut membuat kesalahan, dan mengatakan pengujian dan pelatihan lebih lanjut diperlukan.
Kecepatan cahaya yang dapat dipasangkan
Tetapi tidak semua LLM memiliki tugas menyetujui obat penyelamatan jiwa.
Badan mengumumkan alat agen baru pada bulan Juni, dengan Vinay Prasad, direktur Pusat Evaluasi dan Penelitian Biologi FDA (CBER), dan penulisan makary bahwa AI Innovation adalah prioritas utama bagi agensi dalam yang menyertainya Jurnal Asosiasi Medis Amerika (JAMA) artikel. Alat ini, yang memeriksa aplikasi perangkat dan obat, dilemparkan sebagai solusi untuk periode persetujuan obat yang panjang dan sering dikritik, mengikuti peluncuran FDA pilot ulasan ilmiah yang dibantu AI.
Pemerintahan Trump telah mengumpulkan lembaga-lembaga pemerintah di balik agenda AI yang dipercepat, “Amerika pertama”, termasuk bimbingan federal baru-baru ini untuk mendirikan pusat keunggulan AI yang didukung FDA untuk menguji dan menggunakan alat AI baru, yang diumumkan dalam rencana tindakan AI yang baru diumumkan oleh pemerintah. Banyak yang khawatir bahwa upaya dorongan dan deregulasi agresif menghindari pengawasan yang diperlukan dari teknologi baru.
“Banyak sektor paling kritis di Amerika, seperti perawatan kesehatan, sangat lambat untuk diadopsi karena berbagai faktor, termasuk ketidakpercayaan atau kurangnya pemahaman tentang teknologi, lanskap peraturan yang kompleks, dan kurangnya tata kelola yang jelas dan standar mitigasi risiko,” kata Rencana Aksi. “Upaya federal yang terkoordinasi akan bermanfaat dalam membangun budaya yang dinamis, 'mencoba-pertama' untuk AI di seluruh industri Amerika.”