Seorang penulis menggunakan AI Gemini Google untuk membuat video deepfake boneka rusa milik anak, Buddy, dengan meniru adegan dari iklan Google untuk alat tersebut. The Verge menerbitkan gambar rusa buatan AI ini pekan ini, menunjukkan bagaimana usaha minimal menghasilkan hasil yang realistis.
Apa yang Dicoba Penulis
Sang penulis memasukkan perintah ke Gemini untuk mensimulasikan rekaman liburan boneka binatang tersebut. Tidak sulit. Mereka hanya meniru gaya iklan Google. Tidak diperlukan keahlian teknis. Eksperimen ini tetap pribadi—mereka tidak pernah menunjukkan klip tersebut kepada anak mereka yang berusia empat tahun.
📊 Sekilas Data Pasar
The Verge Publikasikan Buktinya
Media tersebut menayangkan satu gambar rusa buatan AI. Itu terlihat nyata. Hanya itu. Tidak ada klaim tambahan. Postingan itu tayang pada hari Rabu, bertepatan dengan dorongan terbaru Google untuk mempromosikan fitur video Gemini.
Kenapa Ini Bukan Sekadar Lelucon
Menggunakan boneka binatang menghindari deteksi AI standar. Perlindungan saat ini berfokus pada wajah manusia. Ini titik buta. Itu mengkhawatirkan bagi kepercayaan digital. Proyek kripto yang berurusan dengan NFT atau aset non-manusia bisa menghadapi penipuan serupa. Teknologinya sudah ada dan murah.
Apa yang Tidak Terlihat
Sang penulis memilih untuk tidak menunjukkan deepfake tersebut kepada anak mereka. Langkah cerdas. Ini menyoroti betapa mudahnya hal ini bisa memutarbalikkan proyek berorientasi keluarga. Video boneka palsu mungkin tampak tidak berbahaya. Namun hal itu mengikis kepercayaan pada apa yang nyata. Itulah bahaya yang senyap.
Teknik ini hanya membutuhkan Gemini dan boneka rusa. Google belum menanggapi pertanyaan tentang kemungkinan perlindungan untuk subjek non-manusia. Dengan alat serupa yang menyebar, cara platform mengatasi celah ini akan lebih penting daripada eksperimen tunggal mana pun.
