Metan Facebook- ja Instagram-alustat ovat esittäneet tuhansia mainoksia, jotka mainostavat tekoälypohjaisia 'alastonkuvasovelluksia', sisäisten selvitysten mukaan. Mainokset rikkoivat yhtiön omia alastomuutta ja seksuaalista sisältöä koskevia sääntöjä, mikä herättää uusia kysymyksiä sen sisällönvalvontajärjestelmien tehokkuudesta.
Miten mainokset pääsivät läpi
Metan mainoskäytännöt kieltävät nimenomaisesti mainokset, jotka kuvaavat alastomuutta tai seksuaalista toimintaa, sekä ne, jotka mainostavat sovelluksia, jotka on suunniteltu luomaan luvattomia intiimikuvia. Siitä huolimatta yhtiön automaattiset tarkistusjärjestelmät sallivat tuhansien tällaisten mainosten julkaisemisen. Kyseiset sovellukset käyttävät tekoälyä poistamaan digitaalisesti vaatteita valokuvista, käytäntöä, jota kriitikot kutsuvat kuvapohjaiseksi väärinkäytöksi. Ei ole selvää, miten mainokset välttivät havaitsemisen, mutta laajuus viittaa aukkoihin Metan valvonnassa.
Ongelman laajuus
Yhtiön tarkastelemat sisäiset tiedot osoittivat, että mainoksia näytettiin sekä Facebookissa että Instagramissa. Tarkkaa määrää ei paljastettu, mutta lähteet kuvasivat sitä 'tuhansiksi'. Mainokset ilmestyivät käyttäjien syötteisiin ja Instagram Stories -tarinoihin, usein vihjailevalla kielellä ja kuvilla. Osa mainoksista ilmoitettiin käyttäjien toimesta, mutta monet pysyivät elossa päiviä tai viikkoja ennen poistamista.
Vaatimukset sääntelylle
Tapahtuma korostaa kiireellistä tarvetta tiukemmille säädöksille ja yhteistyölle teknologiateollisuudessa tekoälyn väärinkäytön torjumiseksi. Ilman vahvempia suojatoimia vastaavat mainokset voivat jatkaa läpimenoa. Ongelma ei ole ainutlaatuinen Metalle – muutkin alustat ovat kamppailleet tekoälyn tuottaman sisällön valvonnassa. Mutta Metan koon ja sen ilmoittaman turvallisuussitoumuksen valossa epäonnistuminen on erityisen räikeää. Edunvalvontaryhmät ovat vaatineet tiukempia sääntöjä sille, miten alustat käsittelevät tekoälyn tuottamaa materiaalia, erityisesti kun se liittyy luvattomiin intiimikuviin.
Meta ei ole julkisesti kommentoinut kyseisiä mainoksia eikä esittänyt muutoksia mainosten tarkistusprosessiinsa. Yhtiön automaattiset järjestelmät on suunniteltu havaitsemaan sääntörikkomuksia, mutta tämä tapaus osoittaa, että ne ovat kaukana erehtymättömistä. On edelleen avoin kysymys, joutuuko Meta sääntelytoimien kohteeksi.
