En författare använde Googles Gemini AI för att skapa deepfake-videor av ett barns stoppade hjort, Buddy, och återskapade scener från en Google-reklam för verktyget. The Verge publicerade denna vecka en bild av den AI-genererade hjorten som visar hur minimal ansträngning ger realistiska resultat.
Vad författaren försökte göra
Författaren matade in prompts i Gemini för att simulera semesterfilm av den mjuka leksaken. Det var inte svårt. De kopierade bara stilen från Googles reklam. Inga tekniska färdigheter krävdes. Experimentet förblev privat – de visade aldrig klippen för sin fyraåring.
📊 Marknadsöversikt
The Verge publicerade beviset
Tidningen publicerade en enda bild av den AI-skapade hjorten. Den såg verklig ut. Det var allt. Inga extra påståenden. Inlägget gick live på onsdagen, i linje med Googles senaste satsning på att marknadsföra Geminis videofunktioner.
Varför detta inte bara är ett skämt
Att använda en stoppad leksak kringgick standarddetektering av AI. Nuvarande skyddsmekanismer fokuserar på mänskliga ansikten. Det är en blind fläck. Det är oroande för digital tillit. Kryptoprojekt som hanterar NFT:er eller icke-mänskliga tillgångar kan drabbas av liknande bedrägerier. Tekniken finns här och den är billig.
Vad som lämnades osynligt
Författaren valde att inte visa deepfake-klippen för sitt barn. Smart drag. Det belyser hur lätt detta skulle kunna förvränga familjeorienterade projekt. En falsk leksaksvideo kan verka harmlös. Men den urholkar förtroendet för vad som är verkligt. Det är den tysta faran.
Tekniken krävde bara Gemini och en stoppad hjort. Google har inte svarat på frågor om eventuella skyddsmekanismer för icke-mänskliga motiv. Med liknande verktyg som sprids kommer hur plattformar hanterar dessa luckor att vara viktigare än något enskilt experiment.
