Kirjailija käytti Google'n Gemini AI:ta luodakseen syväpetosvideot lapsen tyyppihirvestä, Buddy:sta, jäljitellen Google-mainoksen kohtauksia. The Verge julkaisi tällä viikolla tekoälyn luoman hirven kuvan, joka osoittaa, kuinka vähäisellä ponnistuksella saavutetaan realistista tulosta.
Mitä Kirjailija Yritti
Kirjailija syötti Geminiin ohjeita simuloimaan lomakuvia pehmeästä lelusta. Se ei ollut vaikeaa. Hän vain kopioi Google-mainoksen tyyliä. Teknisiä taitoja ei tarvittu. Koe pysyi yksityisenä – videoita ei näytetty nelivuotiaalle.
📊 Markkinatiedot Hetkellä
The Verge Julkaisi Todistuksen
Lehti julkaisi yhden kuvan tekoälyn luomasta hirvestä. Se näytti todelliselta. Ei muita väitteitä. Juttu julkaistiin keskiviikkona, yhtenä Google'n äskettäisen Gemini-videotoimintojen markkinoinnin kanssa.
Miksi Tämä Ei Ole Vain Vitsi
Tyyppihirven käyttö ohitti tavallisen tekoälyntunnistuksen. Nykyiset suojaukset keskittyvät ihmiskasvoihin. Tämä on sokea kohta. Se on huolestuttavaa digitaaliselle luottamukselle. Krypto-projektit, jotka liittyvät NFT:ihin tai ei-ihmisen omaisuuteen, voivat kohdata samankaltaisia petoksia. Tekniikka on jo täällä ja se on halpaa.
Mitä Ei Nähty
Kirjailija päätti olla näyttämättä syväpetoksia lapselleen. Fiksu päätös. Se korostaa, kuinka helposti tämä voisi vääristää perhekohtaisia projekteja. Väärennetty lelun video saattaa tuntua harmittomalta, mutta se heikentää luottamusta siihen, mikä on todellista. Tämä on hiljainen vaara.
Tekniikkaan tarvittiin vain Gemini ja tyyppihirvi. Google ei ole vastannut kysymyksiin mahdollisista suojauksista ei-ihmis kohteille. Kun samankaltaisia työkaluja leviää, on tärkeää, miten alustat ratkaisevat nämä aukot, eikä yksittäinen koe.
