Ketika AI Mulai Bicara Sendiri, Inilah Fitur Veo 3 yang Bikin Ngeri dan Kagum
- xbodrum.com
Hal ini memunculkan kekhawatiran besar tentang seberapa mudah masyarakat nantinya memproduksi video manipulatif yang sulit dibedakan dari kenyataan, terutama jika dibuat seolah-olah datang dari sumber kredibel seperti lembaga berita.
Instruktur Harvard Law School, Alejandra Caraballo, bahkan berhasil membuat video palsu yang menampilkan pembawa berita mengumumkan kematian Menteri Pertahanan Amerika Serikat, Pete Hegseth, yang sejatinya masih hidup.
Meskipun Google mengklaim telah menerapkan pembatasan penggunaan, seperti pelarangan membuat video tentang kematian presiden atau tokoh publik lainnya, beberapa celah masih bisa dimanfaatkan untuk menghasilkan konten menyesatkan dengan tampilan dan suara yang sangat meyakinkan.
Kekhawatiran semakin besar ketika Veo 3 digunakan untuk membuat video yang tidak bersifat personal namun sangat efektif secara visual dan audio. Untuk membuat konten seperti kartun anak-anak misalnya, Veo 3 terbukti sangat mumpuni.
Dalam hitungan menit, sistem mampu membuat video seperti yang sering ditemukan di YouTube Kids, truk monster berwarna-warni yang meluncur ke dalam kolam cat lengkap dengan efek suara dan musik ceria yang sinkron dengan gambar.
Meski begitu, Veo 3 belum mengizinkan pengguna untuk membuat deepfake personal secara langsung. Ketika Johnson mencoba membuat video dengan wajah dan suara miliknya sendiri, sistem menolak memproses permintaan tersebut.
Namun dengan kemajuan yang sangat cepat, bukan tidak mungkin fitur tersebut akan muncul di masa depan.
