Maaf mengecewakan, tetapi jika Anda mencari daftar cepat cara yang sangat mudah untuk mendeteksi video yang dihasilkan AI, Anda tidak akan menemukannya di sini. Lewatlah sudah hari -hari Ai Will Smith dengan aneh memakan spageti. Ya, ada beberapa yang tahu, tetapi pembuat video AI menjadi lebih baik sepanjang waktu, dan alat terbaru dapat membuat video fotorealistik yang meyakinkan dengan beberapa klik.
Saat ini, video yang dihasilkan AI masih merupakan modalitas yang relatif baru dibandingkan dengan teks, gambar, dan audio yang dihasilkan AI, karena mendapatkan semua detail yang benar adalah tantangan yang membutuhkan banyak data berkualitas tinggi. “Tapi tidak ada hambatan mendasar untuk mendapatkan data berkualitas lebih tinggi,” hanya pekerjaan padat karya, kata Siwei Lyu, seorang profesor ilmu komputer dan teknik di universitas di Buffalo SUNY.
Dalam enam bulan terakhir, generator video AI telah menjadi sangat pandai membuat video realistis sehingga mereka sering menipu scroller kasual. Artefak Telltale yang dulu memberikan permainan, seperti wajah morphing dan benda yang berubah bentuk, terlihat jauh lebih jarang. Tidak ada banyak pemalsuan dalam bukti dalam video viral yang dihasilkan AIR dari dukungan emosional kanguru, kelinci pada trampolin, atau wawancara jalanan yang dibuat dengan model Google VEO 3 (yang dapat menghasilkan suara dengan video).
Kunci untuk mengidentifikasi video yang dihasilkan AI, seperti halnya modalitas AI apa pun, terletak pada literasi AI. “Memahami itu [AI technologies] tumbuh dan memiliki gagasan inti tentang 'sesuatu yang saya lihat dapat dihasilkan oleh AI,' lebih penting daripada, katakanlah, isyarat individu, “kata Lyu, yang merupakan direktur lab forensik media UB.
Tweet ini saat ini tidak tersedia. Mungkin dimuat atau telah dilepas.
Menavigasi web yang dipenuhi oleh AI mensyaratkan penggunaan yang cerdas secara online dan penilaian yang baik untuk dikenali kapan ada sesuatu yang tidak aktif. Ini adalah pertahanan terbaik Anda untuk tidak ditipu oleh AI Deepfake, Disinformation, atau hanya sampah berkualitas rendah. Ini adalah keterampilan yang sulit untuk dikembangkan, karena setiap aspek dunia online berjuang melawannya dalam upaya untuk perhatian Anda. Tetapi Berita baiknya adalah, adalah mungkin untuk menyempurnakan naluri deteksi AI Anda.
“Dengan belajar [AI-generated images]kami pikir orang dapat meningkatkan literasi AI mereka, “kata Negar Kamali, seorang ilmuwan riset AI di Sekolah Manajemen Kellogg Universitas Northwestern, yang ikut menulis panduan untuk mengidentifikasi gambar yang dihasilkan AI.” Bahkan jika saya tidak melihat artefak apa pun [indicating AI-generation]otak saya segera berpikir, 'Oh, ada sesuatu yang tidak aktif,' “tambah Kamali, yang telah mempelajari ribuan gambar yang dihasilkan AI.” Bahkan jika saya tidak menemukan artefak, saya tidak bisa mengatakan dengan pasti bahwa itu nyata, dan itulah yang kita inginkan. “
Apa yang harus diperhatikan: Video peniru vs video teks-ke-gambar
Sebelum kita masuk mengidentifikasi video yang dihasilkan AI, mari kita membedakan berbagai jenis. Video yang dihasilkan AI umumnya dibagi menjadi dua kategori yang berbeda: video penipu dan video yang dihasilkan oleh model difusi teks-ke-gambar.
Video penipu adalah video yang diedit AI yang terdiri dari pertukaran wajah-di mana seluruh wajah seseorang ditukar untuk orang lain (biasanya selebriti atau politisi) dan membuat sesuatu yang palsu-dan sinkronisasi bibir-di mana mulut seseorang dimanipulasi secara halus dan diganti dengan audio yang berbeda.
Video penipu: mengapa regulator menindak
Video penipu umumnya cukup meyakinkan; Teknologi ini telah ada lebih lama, dan mereka membangun rekaman yang ada alih -alih menghasilkan sesuatu dari awal. Ingat video -video Tom Cruise Deepfake dari beberapa tahun yang lalu yang menjadi viral karena begitu meyakinkan? Mereka bekerja karena pencipta, Chris Ume, sangat mirip dengan Tom Cruise, bekerja dengan peniru Tom Cruise profesional, dan melakukan banyak pengeditan menit, menurut sebuah wawancara dengan ume, melalui The Verge.
Saat ini, ada banyak aplikasi di luar sana yang mencapai hal yang sama dan bahkan dapat - secara menakutkan - termasuk audio dari gigitan suara pendek yang ditemukan oleh pencipta secara online.
Yang mengatakan, ada beberapa hal yang harus dicari jika Anda mencurigai video AI Deepfake. Pertama -tama, lihat format video. Video AI Deepfakes biasanya “ditembak” dalam format kepala-bicara, di mana Anda bisa melihat kepala dan bahu speaker, dengan lengan mereka tidak terlihat (lebih lanjut tentang itu dalam satu menit).
Untuk mengidentifikasi swap wajah, cari kelemahan atau artefak di sekitar batas wajah. “Anda biasanya melihat artefak ketika kepala bergerak miring ke kamera,” kata pakar forensik digital dan profesor ilmu komputer UC Berkeley Hany Farid. Adapun lengan dan tangan, “Jika tangan bergerak, atau sesuatu menghadap ke wajah, [the image] Akan sedikit kesalahan, “Lanjutan Farid. Dan mengawasi lengan dan tubuh untuk gerakan alami.” Jika yang Anda lihat adalah ini, ” - pada panggilan zoom kami, Farid menjaga lengannya kaku dan di sampingnya -” dan orang itu tidak bergerak sama sekali, itu palsu. ”
Jika Anda mencurigai sinkronisasi bibir, fokuskan perhatian Anda pada mulut subjek - terutama gigi. Dengan palsu, “Kami telah melihat orang -orang yang memiliki gigi berbentuk tidak teratur,” atau jumlah gigi berubah di seluruh video, kata Lyu. Tanda aneh lain yang harus diwaspadai adalah “goyah di bagian bawah” wajah, kata Lyu. “Ada prosedur teknis di mana Anda harus persis cocok dengan wajah orang itu,” katanya. “Ketika saya berbicara, saya sering menggerakkan wajah saya, dan penyelarasan itu, jika Anda hanya mendapat sedikit ketidaktepatan di sana, mata manusia bisa memberi tahu.” Ini memberi bagian bawah wajah lebih cairan, efek karet.
Kecepatan cahaya yang dapat dipasangkan
Tweet ini saat ini tidak tersedia. Mungkin dimuat atau telah dilepas.
Ketika datang ke AI Deepfakes, Aruna Sankaranarayanan, seorang asisten peneliti di MIT Computer Science dan Laboratorium Kecerdasan Buatan, mengatakan kekhawatiran terbesarnya bukanlah Deepfakes dari politisi paling terkenal di dunia seperti Donald Trump atau Joe Biden, tetapi tokoh -tokoh penting yang mungkin tidak dikenal. “Fabrikasi yang datang dari mereka, mendistorsi fakta -fakta tertentu, ketika Anda tidak tahu seperti apa mereka atau terdengar seperti sebagian besar waktu, itu sangat sulit untuk dibantah,” kata Sankaranarayanan, yang karyanya berfokus pada Deepfake Politik. Sekali lagi, ini adalah saat literasi AI berperan; Video seperti ini memerlukan beberapa penelitian untuk memverifikasi atau menghilangkan prasangka.
Pada bulan April 2025, Kongres meloloskan Undang -Undang Take It Down, menjadikannya kejahatan federal atau pos atau berbagi citra intim nonkonsensual. RUU lain yang disebut Undang -Undang No Fakes membuat jalan melalui Senat; Ini bertujuan untuk memberikan perlindungan hukum terhadap replika yang dihasilkan AI.
Cara melihat video teks-ke-gambar
Sementara regulator menindak video penipu, generator teks-ke-gambar telah meledak dalam popularitas. Anda sekarang dapat menghasilkan video AI secara langsung di ChatGPT dan Google Gemini. Dan Luma, Kling, dan Freepik hanyalah beberapa alternatif lain dari generator video akses mudah yang berkembang biak secara online.
Dengan deskripsi teks singkat, Anda dapat menghasilkan video apa pun yang diimpikan oleh imajinasi Anda. Mayoritas video yang dihasilkan AI yang dibagikan secara online jatuh ke dalam kategori, “Hei, lihat apa yang bisa saya lakukan dengan teknologi baru yang keren ini.” Ini dapat berkisar dari yang absurd, seperti kucing melompat dari papan selam Olimpiade, hingga benar -benar menyesatkan, seperti video palsu kerusakan badai. Tetapi semuanya berkontribusi pada pengalaman dystopian yang membingungkan, di mana lebih sulit untuk memisahkan fiksi yang dihasilkan AI dari kenyataan.
Terlebih lagi, banyak akun yang beredar video yang dihasilkan AI mendapat untung dari clickbait oleh pengguna yang sengaja menipu. Di Tiktok, secara praktis tidak mungkin untuk mengetahui apakah pencipta yang menjual produk perawatan kulit terbaru Anda dihasilkan AI atau tidak. Video yang dihasilkan AI yang dibuat dengan alat Tiktok secara otomatis diungkapkan, tetapi itu tidak menghentikan pengguna untuk mengunggah video yang dihasilkan atau diedit AI yang dibuat dengan alat di luar platform.
Anda dapat mencoba mencari petunjuk konteks, kata para ahli. Farid berkata untuk melihat “inkonsistensi temporal,” seperti “bangunan itu menambahkan cerita, atau mobil berubah warna, hal -hal yang secara fisik tidak mungkin,” katanya. “Dan sering kali itu jauh dari pusat perhatian di mana itu terjadi.” Jadi, asah di detail latar belakang. Anda mungkin melihat benda -benda yang halus atau bengkok secara tidak wajar, atau perubahan ukuran seseorang saat mereka berjalan di sekitar gedung, kata Lyu.
Tweet ini saat ini tidak tersedia. Mungkin dimuat atau telah dilepas.
Aktor AI dan Deepfake tidak datang ke iklan YouTube. Mereka sudah ada di sini.
Kamali mengatakan untuk mencari “implausibilitas sosiokultural” atau petunjuk konteks di mana realitas situasi tampaknya tidak masuk akal. “Anda tidak segera melihat tanda, tetapi Anda merasa ada sesuatu yang tidak aktif - seperti gambar Biden dan Obama mengenakan jas merah muda,” atau Paus di Jaket Puffer Balenciaga.
Artefak mungkin berubah, tetapi penilaian yang baik tetap ada.
Tetapi terlalu mengandalkan isyarat tertentu untuk memverifikasi apakah video yang dihasilkan AI dapat membuat Anda mendapat masalah.
Makalah Lyu 2018 tentang mendeteksi video yang dihasilkan AI karena subjek tidak berkedip dengan baik dipublikasikan di komunitas AI. Akibatnya, orang-orang mulai mencari cacat mata, tetapi seiring perkembangan teknologi, demikian juga berkedip yang lebih alami. “Orang -orang mulai berpikir jika ada mata yang baik berkedip, itu tidak boleh menjadi Deepfake dan itulah bahayanya,” kata Lyu. “Kami sebenarnya ingin meningkatkan kesadaran tetapi tidak mengunci artefak tertentu, karena artefak akan diubah.”
Membangun kesadaran bahwa sesuatu mungkin menjadi AI-dihasilkan akan “memicu seluruh urutan tindakan,” kata Lyu. “Periksa, siapa yang berbagi ini? Apakah orang ini dapat diandalkan? Apakah ada sumber lain yang berkorelasi pada cerita yang sama, dan apakah ini telah diverifikasi dengan beberapa cara lain? Saya pikir itu adalah hal -hal yang merupakan tindakan penghitung paling efektif untuk Deepfake.”
Tweet ini saat ini tidak tersedia. Mungkin dimuat atau telah dilepas.
Untuk Farid, mengidentifikasi video yang dihasilkan AI dan Deepfake yang menyesatkan dimulai dengan tempat Anda mencari informasi Anda. Ambil gambar yang dihasilkan AI yang beredar di media sosial setelah Badai Helene dan Badai Milton. Sebagian besar dari mereka jelas palsu, tetapi mereka masih memiliki pengaruh emosional pada orang. “Bahkan ketika hal -hal ini tidak terlalu baik, itu tidak berarti bahwa mereka tidak menembus, itu tidak berarti bahwa itu tidak memengaruhi cara orang menyerap informasi,” katanya.
Tweet ini saat ini tidak tersedia. Mungkin dimuat atau telah dilepas.
Berhati -hatilah tentang mendapatkan berita Anda dari media sosial. “Jika gambar terasa seperti clickbait, itu adalah clickbait,” kata Farid sebelum menambahkan semuanya bermuara pada literasi media. Pikirkan siapa yang memposting video dan mengapa itu dibuat. “Kamu tidak bisa hanya melihat sesuatu di Twitter dan menjadi seperti, 'Oh, itu pasti benar, izinkan aku membagikannya.'”
Jika Anda curiga tentang konten yang dihasilkan AI, periksa sumber lain untuk melihat apakah mereka juga membaginya, dan jika semuanya terlihat sama. Seperti yang dikatakan Lyu, “Deepfake hanya terlihat nyata dari satu sudut.” Cari sudut lain dari instance yang dimaksud. Farid merekomendasikan situs -situs seperti Snopes dan PolitiFact, yang membantah informasi yang salah dan disinformasi. Karena kita semua terus menavigasi lanskap AI yang berubah dengan cepat, akan menjadi penting untuk melakukan pekerjaan - dan mempercayai usus Anda.
Bagaimana perusahaan AI memberi label video yang dihasilkan AI?
Beberapa perusahaan AI, termasuk Google dan Openai, memiliki cara untuk memberi label video yang dihasilkan AI mereka. Dengan setiap video yang dihasilkan oleh VEO, Google telah menempel tanda air yang tidak terlihat yang disebut Synthid. Setelah peluncuran VEO 3 menyebabkan gelombang kekhawatiran, perusahaan juga menambahkan tanda air yang terlihat yang memberi label sebagai AI-dihasilkan.
Openai, Adobe, dan perusahaan lain memberi label video dan gambar yang dihasilkan AI mereka dengan tanda air yang tidak terlihat menggunakan standar teknis yang dikembangkan oleh koalisi nirlaba untuk asal dan keaslian konten (C2PA).
Sementara tanda air yang terlihat mungkin tampak seperti solusi yang jelas, mereka juga dapat dengan mudah dihilangkan. Dan ada pertanyaan apakah mereka penting. Sebuah studi dari Stanford University's Institute for Human-Centered AI (HAI) baru-baru ini menemukan label yang terlihat yang menunjukkan konten yang dihasilkan AI “mungkin tidak mengubah persuasifnya.” Lagi pula, kita terbiasa dengan semua jenis logo yang tidak berarti pada video viral; Sangat mudah untuk secara visual menyetelnya.
Watermark yang tidak terlihat, di sisi lain, dipanggang ke dalam metadata. Ini membuat mereka lebih sulit untuk dihapus dan lebih mudah dilacak.
Standar seperti C2PA adalah langkah ke arah yang benar, tetapi saat ini, tergantung pada perusahaan untuk secara sukarela mematuhi standar -standar ini. Mungkin suatu hari, standar -standar itu akan ditegakkan oleh regulator. Sementara itu, taruhan terbaik kami masih merupakan penilaian yang baik dan melek media yang kuat.
Topik
Kecerdasan buatan