En forfatter brukte Googles Gemini AI til å lage deepfake-videoer av et barns utstoppede hjort, Buddy, og gjenskapte scener fra en Google-reklame for verktøyet. The Verge publiserte denne uken et bilde av den AI-genererte hjorten, som viser hvor lite innsats som kreves for å oppnå realistiske resultater.
Hva forfatteren prøvde
\nForfatteren matet Gemini med spørringer for å simulere ferieopptak av kosedyret. Det var ikke vanskelig. De kopierte bare stilen fra Google-reklamen. Ingen tekniske ferdigheter var nødvendig. Eksperimentet forble privat – de viste aldri klippene til fireåringen sin.
\n\n📊 Markedsdata
\nThe Verge publiserte beviset
\nNettstedet publiserte ett enkelt bilde av den AI-skapte hjorten. Det så ekte ut. Det var alt. Ingen ekstra påstander. Innlegget gikk live onsdag, i tråd med Googles nylige satsing på å promotere Geminis videofunksjoner.
Hvorfor dette ikke bare er en spøk
\nBruken av et kosedyr omgikk standard AI-deteksjon. Dagens sikkerhetstiltak fokuserer på menneskeansikter. Det er en blind flekk. Det er bekymringsfullt for digital tillit. Kryptoprosjekter som jobber med NFT-er eller ikke-menneskelige eiendeler, kan møte lignende svindelforsøk. Teknologien er her, og den er billig.
Det som forble usett
\nForfatteren valgte å ikke vise deepfake-videoene til barnet sitt. Lurt trekk. Det understreker hvor lett dette kan forvrenge familieorienterte prosjekter. En falsk video av et kosedyr kan virke harmløst. Men det svekker tilliten til hva som er ekte. Det er den stille faren.
Teknikken krevde bare Gemini og en utstoppet hjort. Google har ikke svart på spørsmål om mulige sikkerhetstiltak for ikke-menneskelige motiver. Med lignende verktøy i spredning, vil hvordan plattformer håndterer disse hullene bety mer enn noe enkelt eksperiment.
