Een schrijver gebruikte Google's Gemini AI om deepfake-video's te maken van een opgezet hert van een kind, Buddy, waarmee scènes uit een Google-advertentie voor de tool werden nagebootst. The Verge publiceerde deze week een afbeelding van het AI-gegenereerde hert, en laat zien hoe minimale inspanning realistische resultaten oplevert.
Wat de schrijver probeerde
De auteur voerde prompts in bij Gemini om vakantiebeelden van het knuffeldier te simuleren. Het was niet moeilijk. Ze kopieerden simpelweg de stijl van de Google-advertentie. Er waren geen technische vaardigheden nodig. Het experiment bleef privé – ze lieten de clips nooit aan hun vierjarige zien.
📊 Marktgegevensoverzicht
Verge publiceerde het bewijs
De publicatie plaatste één enkele afbeelding van het AI-gemaakte hert. Het zag er echt uit. Dat was alles. Geen extra claims. Het bericht verscheen woensdag, in lijn met Google's recente pogingen om Gemini's videofuncties te promoten.
Waarom dit niet zomaar een grap is
Het gebruik van een knuffeldier omzeilde de standaard AI-detectie. Huidige veiligheidsmaatregelen richten zich op menselijke gezichten. Het is een blinde vlek. Dat is verontrustend voor digitaal vertrouwen. Crypto-projecten die met NFT's of niet-menselijke activa werken, kunnen met vergelijkbare oplichting te maken krijgen. De technologie is er en is goedkoop.
Wat onzichtbaar bleef
De schrijver koos ervoor om de deepfakes niet aan hun kind te laten zien. Verstandige zet. Het benadrukt hoe gemakkelijk dit gezinsgerichte projecten kan verstoren. Een nep-video van een knuffel lijkt misschien onschuldig. Maar het ondermijnt het vertrouwen in wat echt is. Dat is het stille gevaar.
De techniek vereiste alleen Gemini en een opgezet hert. Google heeft niet gereageerd op vragen over mogelijke veiligheidsmaatregelen voor niet-menselijke onderwerpen. Nu vergelijkbare tools zich verspreiden, zal hoe platforms deze hiaten aanpakken belangrijker zijn dan welk enkel experiment dan ook.
