Metas plattformer Facebook og Instagram viste tusenvis av annonser som promoterte AI-baserte «avkledningsapper», ifølge interne funn. Annonsene brøt selskapets egne retningslinjer mot nakenhet og seksuelt innhold, noe som reiser nye spørsmål om effektiviteten av innholdsmodereringssystemene.
Slik slapp annonsene gjennom
Metas annonseringsretningslinjer forbyr uttrykkelig annonser som viser nakenhet eller seksuell aktivitet, samt de som promoterer apper designet for å lage ikke-samtykkebaserte intime bilder. Likevel lot selskapets automatiserte gjennomgangssystemer tusenvis av slike annonser kjøre. Appene i spørsmålet bruker kunstig intelligens til å digitalt fjerne klær fra bilder, en praksis kritikere kaller en form for bildemisbruk. Det er uklart hvordan annonsene unngikk oppdagelse, men omfanget tyder på hull i Metas håndheving.
Omfanget av problemet
Interne data gjennomgått av selskapet viste at annonsene ble vist på både Facebook og Instagram. Det nøyaktige antallet ble ikke offentliggjort, men kilder beskrev det som «tusenvis». Annonsene dukket opp i brukernes nyhetsstrømmer og i Instagram Stories, ofte med antydende språk og bilder. Noen av annonsene ble rapportert av brukere, men mange forble aktive i dager eller uker før de ble fjernet.
Krav om regulering
Hendelsen understreker det presserende behovet for strengere reguleringer og samarbeid i teknologibransjen for å bekjempe misbruk av AI. Uten sterkere sikkerhetstiltak kan lignende annonser fortsette å slippe gjennom. Problemet er ikke unikt for Meta – andre plattformer har også slitt med å kontrollere AI-generert innhold. Men gitt Metas størrelse og dets uttalte engasjement for sikkerhet, er svikten spesielt påfallende. Interesseorganisasjoner har etterlyst klarere regler for hvordan plattformer håndterer AI-generert materiale, spesielt når det involverer ikke-samtykkebaserte intime bilder.
Meta har ikke offentlig adressert de spesifikke annonsene eller skissert noen endringer i annonsegjennomgangsprosessen. Selskapets automatiserte systemer er designet for å fange opp policybrudd, men denne saken viser at de er langt fra idiotsikre. Hvorvidt Meta vil møte regulatoriske tiltak, er fortsatt et åpent spørsmål.
