Metas Facebook- og Instagram-platforme viste tusindvis af annoncer for AI-drevne 'nøgenapps', ifølge interne undersøgelser. Annoncerne overtrådte virksomhedens egne politikker mod nøgenhed og seksuelt indhold, hvilket rejser nye spørgsmål om effektiviteten af dens indholdsmoderering.
Sådan slap annoncerne igennem
Metas annoncepolitik forbyder udtrykkeligt annoncer, der viser nøgenhed eller seksuel aktivitet, samt dem, der promoverer apps designet til at skabe ikke-samtykkebaserede intime billeder. Ikke desto mindre tillod virksomhedens automatiserede gennemgangssystemer tusindvis af sådanne annoncer at blive vist. Det er uklart, hvordan annoncerne undgik opdagelse, men omfanget antyder betydelige huller i Metas håndhævelse. Nogle annoncer blev rapporteret af brugere, men mange forblev aktive i dage eller uger, før de blev fjernet.
Omfanget af problemet
Interne data gennemgået af virksomheden viste, at annoncerne blev vist på både Facebook og Instagram. Det nøjagtige antal blev ikke offentliggjort, men kilder beskrev det som 'tusindvis'. Annoncerne dukkede op i brugernes feeds og i Instagram Stories, ofte med antydende sprog og billeder. Nogle af annoncerne blev rapporteret af brugere, men mange forblev live i dage eller uger, før de blev taget ned.
Krav om regulering
Hændelsen understreger det presserende behov for strengere regulering og samarbejde i tech-industrien for at bekæmpe misbrug af AI. Uden stærkere sikkerhedsforanstaltninger kan lignende annoncer fortsat slippe igennem. Problemet er ikke unikt for Meta – andre platforme har også haft vanskeligheder med at kontrollere AI-genereret indhold. Men givet Metas størrelse og dets erklærede engagement i sikkerhed, er fejlen særligt iøjnefaldende. Fortalergrupper har opfordret til klarere regler for, hvordan platforme håndterer AI-genereret materiale, især når det involverer ikke-samtykkebaserede intime billeder.
Meta har ikke offentligt adresseret de specifikke annoncer eller skitseret nogen ændringer i sin annoncegennemgangsproces. Virksomhedens automatiserede systemer er designet til at fange politikovertrædelser, men denne sag viser, at de langt fra er ufejlbarlige. Hvorvidt Meta vil stå over for regulatoriske tiltag, er stadig et åbent spørgsmål.
