Ein Autor nutzte Googles Gemini-KI, um Deepfake-Videos eines Stoffhirsches namens Buddy eines Kindes zu erstellen, die Szenen aus einer Google-Werbung für das Tool nachbilden. The Verge veröffentlichte diese Woche ein Bild des KI-generierten Hirsches und zeigte, wie mit minimalem Aufwand realistische Ergebnisse erzielt werden.
Was der Autor versuchte
Der Autor fütterte Gemini mit Aufforderungen, um Urlaubsvideos des Plüschtiers zu simulieren. Es war nicht schwer. Er kopierte einfach den Stil der Google-Anzeige. Es waren keine technischen Fähigkeiten erforderlich. Das Experiment blieb privat – er zeigte die Clips nie seinem Vierjährigen.
📊 Marktdaten-Schnappschuss
Veröffentlichte den Beweis
Das Medium veröffentlichte ein einzelnes Bild des KI-gestalteten Hirsches. Es sah echt aus. Das war alles. Keine zusätzlichen Behauptungen. Der Beitrag erschien am Mittwoch und passte zu Googles jüngstem Vorstoß, die Videofunktionen von Gemini zu bewerben.
Warum das nicht nur ein Scherz ist
Die Verwendung eines Stofftiers umging die übliche KI-Erkennung. Aktuelle Schutzmaßnahmen konzentrieren sich auf menschliche Gesichter. Das ist ein blinder Fleck. Das ist beunruhigend für das digitale Vertrauen. Krypto-Projekte, die mit NFTs oder nicht-menschlichen Assets handeln, könnten mit ähnlichen Betrügereien konfrontiert werden. Die Technologie ist da und sie ist billig.
Was unsichtbar blieb
Der Autor entschied sich, seinem Kind die Deepfakes nicht zu zeigen. Kluger Schachzug. Es zeigt, wie leicht dies familienorientierte Projekte verzerren könnte. Ein gefälschtes Spielzeugvideo mag harmlos erscheinen. Aber es untergräbt das Vertrauen in das, was echt ist. Das ist die stille Gefahr.
Die Technik erforderte nur Gemini und einen Stoffhirsch. Google hat nicht auf Fragen zu möglichen Schutzmaßnahmen für nicht-menschliche Motive reagiert. Da sich ähnliche Werkzeuge verbreiten, wird die Art und Weise, wie Plattformen diese Lücken schließen, wichtiger sein als jedes einzelne Experiment.
