Egy író a Google Gemini AI-ját használta arra, hogy deepfake-videókat készítsen egy gyerek plüss szarvasáról, Buddy-ról, amelyek egy Google-hirdetés jeleneteit másolták le. A The Verge ezen a héten közzétett egy képet az AI által generált szarvasról, bemutatva, hogy minimális erőfeszítéssel mennyire valósághű eredmények érhetők el.
Mit próbált az író
A szerző promptokat adott a Gemini-nek, hogy szimulálja a plüssjáték nyaralós videóit. Nem volt nehéz. Egyszerűen lemásolták a Google hirdetés stílusát. Nem volt szükség technikai készségekre. A kísérlet privát maradt – soha nem mutatták meg a felvételeket a négyéves gyereküknek.
📊 Piaci adatok gyorsnézete
A The Verge közzétette a bizonyítékot
A portál egyetlen képet tett közzé az AI által készített szarvasról. Valóságosnak tűnt. Ennyi. Semmilyen plusz állítás nem hangzott el. A bejegyzés szerdán jelent meg, összhangban a Google legutóbbi erőfeszítéseivel, hogy népszerűsítse a Gemini videós funkcióit.
Miért nem csupán vicc ez
A plüssállat használata kikerülte a szokásos AI-felismerést. A jelenlegi védelmi mechanizmusok az emberi arcokra összpontosítanak. Ez egy vakfolt. Ez aggasztó a digitális bizalom szempontjából. Az NFT-kkel vagy nem emberi eszközökkel foglalkozó kriptoprojektek hasonló csalásokkal szembesülhetnek. A technológia itt van, és olcsó.
Amit nem láttak
Az író úgy döntött, hogy nem mutatja meg a deepfake-eket a gyermekének. Okos lépés. Ez rávilágít, milyen könnyen eltorzíthatók a családközpontú projektek. Egy hamis játékvideó ártalmatlannak tűnhet. De aláássa a valóságba vetett bizalmat. Ez a csendes veszély.
A technikához csak a Gemini és egy plüss szarvas kellett. A Google nem válaszolt a nem emberi alanyokra vonatkozó esetleges védelmi intézkedésekkel kapcsolatos kérdésekre. Mivel hasonló eszközök terjednek, a platformok számára az lesz a fontos, hogyan kezelik ezeket a hiányosságokat – nem pedig egyetlen kísérlet.
