Un escritor utilizó la IA Gemini de Google para crear videos deepfake de un ciervo de peluche infantil, Buddy, replicando escenas de un anuncio de Google para la herramienta. The Verge publicó esta semana una imagen del ciervo generado por IA, mostrando cómo un esfuerzo mínimo produce resultados realistas.
Lo que intentó el escritor
El autor introdujo indicaciones en Gemini para simular imágenes de vacaciones del peluche. No fue difícil. Simplemente copió el estilo del anuncio de Google. No se necesitaron habilidades técnicas. El experimento se mantuvo privado: nunca mostró los clips a su hijo de cuatro años.
📊 Resumen de datos de mercado
Verge publicó la prueba
El medio publicó una única imagen del ciervo creado por IA. Parecía real. Eso es todo. Sin afirmaciones adicionales. La publicación se realizó el miércoles, coincidiendo con el reciente impulso de Google para promocionar las funciones de video de Gemini.
Por qué esto no es solo una broma
El uso de un peluche eludió la detección estándar de IA. Las salvaguardas actuales se centran en rostros humanos. Es un punto ciego. Eso es preocupante para la confianza digital. Los proyectos cripto que manejan NFT u otros activos no humanos podrían enfrentar estafas similares. La tecnología está aquí y es barata.
Lo que no se vio
El escritor optó por no mostrar los deepfakes a su hijo. Movimiento inteligente. Destaca lo fácil que esto podría distorsionar proyectos orientados a la familia. Un video falso de un juguete puede parecer inofensivo. Pero erosiona la confianza en lo que es real. Ese es el peligro silencioso.
La técnica solo requirió Gemini y un ciervo de peluche. Google no ha respondido a preguntas sobre posibles salvaguardas para sujetos no humanos. Con herramientas similares extendiéndose, la forma en que las plataformas aborden estas brechas será más importante que cualquier experimento individual.
