Письменник використав Google Gemini AI для створення діпфейк-відео іграшкового оленя дитини, на ім'я Бадді, відтворюючи сцени з реклами Google цього інструменту. The Verge опублікувала зображення AI-генерованого оленя цього тижня, демонструючи, як мінімальні зусилля дають реалістичні результати.
Що спробував письменник
Автор вводив запити в Gemini, щоб змоделювати відео відпустки плюшевої іграшки. Це було неважко. Вони просто скопіювали стиль реклами Google. Жодних технічних навичок не знадобилося. Експеримент залишився приватним — вони ніколи не показували кліпи своїй чотирирічній дитині.
📊 Знімок ринкових даних
The Verge опублікувала доказ
Видання розмістило єдине зображення оленя, створеного ШІ. Воно виглядало справжнім. І все. Жодних додаткових тверджень. Пост з'явився в середу, збігаючись із нещодавніми зусиллями Google просувати відеофункції Gemini.
Чому це не просто жарт
Використання плюшевої іграшки обійшло стандартне виявлення ШІ. Поточні заходи захисту зосереджені на людських обличчях. Це сліпа пляма. Це тривожно для цифрової довіри. Криптопроєкти, що працюють з NFT або нелюдськими активами, можуть зіткнутися з подібними шахрайствами. Технологія існує і вона дешева.
Що залишилося невидимим
Письменник вирішив не показувати діпфейки своїй дитині. Розумний крок. Це підкреслює, як легко це може спотворити сімейно-орієнтовані проєкти. Фальшиве відео іграшки може здаватися нешкідливим. Але це підриває довіру до того, що є справжнім. У цьому тиха небезпека.
Техніка вимагала лише Gemini та плюшевого оленя. Google не відповів на запитання щодо потенційних заходів захисту для нелюдських об'єктів. Оскільки подібні інструменти поширюються, те, як платформи вирішуватимуть ці прогалини, матиме більше значення, ніж будь-який окремий експеримент.
