Uno scrittore ha utilizzato l'IA Gemini di Google per creare video deepfake di un cervo di peluche per bambini, di nome Buddy, replicando scene tratte da un annuncio pubblicitario di Google per lo strumento. The Verge ha pubblicato questa settimana un'immagine del cervo generato dall'IA, mostrando come uno sforzo minimo produca risultati realistici.
Cosa ha provato lo scrittore
L'autore ha inserito dei prompt in Gemini per simulare filmati di vacanza del peluche. Non è stato difficile. Hanno semplicemente copiato lo stile dell'annuncio Google. Non sono state necessarie competenze tecniche. L'esperimento è rimasto privato: non hanno mai mostrato i video al loro bambino di quattro anni.
📊 Riepilogo dei dati di mercato
The Verge ha pubblicato la prova
La testata ha pubblicato una singola immagine del cervo creato dall'IA. Sembrava reale. Tutto qui. Nessuna rivendicazione aggiuntiva. Il post è andato online mercoledì, in linea con la recente spinta di Google a promuovere le funzionalità video di Gemini.
Perché non è solo uno scherzo
L'uso di un peluche ha bypassato i normali sistemi di rilevamento delle IA. Le attuali protezioni si concentrano sui volti umani. È un punto cieco. Ciò è preoccupante per la fiducia digitale. I progetti crypto che trattano NFT o asset non umani potrebbero affrontare truffe simili. La tecnologia è qui ed è economica.
Cosa è rimasto nascosto
Lo scrittore ha scelto di non mostrare i deepfake al proprio figlio. Mossa intelligente. Evidenzia quanto facilmente ciò potrebbe distorcere progetti orientati alla famiglia. Un video falso di un giocattolo potrebbe sembrare innocuo. Ma mina la fiducia in ciò che è reale. Questo è il pericolo silenzioso.
La tecnica richiedeva solo Gemini e un cervo di peluche. Google non ha risposto alle domande sulle potenziali protezioni per soggetti non umani. Con la diffusione di strumenti simili, il modo in cui le piattaforme affronteranno queste lacune sarà più importante di qualsiasi singolo esperimento.
