Metas plattformar Facebook och Instagram visade tusentals annonser som marknadsförde AI-drivna 'avklädningsappar', enligt interna rön. Annonserna bröt mot företagets egna policyer mot nakenhet och sexuellt innehåll, vilket väcker nya frågor om effektiviteten i dess system för innehållsmoderering.
Hur annonserna slank igenom
Metas annonspolicyer förbjuder uttryckligen annonser som visar nakenhet eller sexuell aktivitet, liksom de som marknadsför appar utformade för att skapa icke-samtyckliga intima bilder. Ändå tillät företagets automatiska granskningssystem tusentals sådana annonser att visas. Apparna i fråga använder artificiell intelligens för att digitalt ta bort kläder från foton, en praxis som kritiker kallar en form av bildbaserat övergrepp. Det är oklart hur annonserna undgick upptäckt, men omfattningen tyder på brister i Metas efterlevnad.
Problemets omfattning
Interna data som granskats av företaget visade att annonserna visades på både Facebook och Instagram. Det exakta antalet avslöjades inte, men källor beskrev det som 'tusentals'. Annonserna dök upp i användarnas flöden och i Instagram Stories, ofta med suggestivt språk och bilder. Vissa annonser rapporterades av användare, men många förblev aktiva i dagar eller veckor innan de togs bort.
Händelsen understryker det akuta behovet av strängare regleringar och samarbete inom techindustrin för att bekämpa AI-missbruk. Utan starkare skyddsräcken kan liknande annonser fortsätta att slinka igenom. Problemet är inte unikt för Meta – andra plattformar har också haft svårt att polisera AI-genererat innehåll. Men med tanke på Metas storlek och dess uttalade engagemang för säkerhet är misslyckandet särskilt anmärkningsvärt. Intresseorganisationer har efterlyst tydligare regler för hur plattformar hanterar AI-genererat material, särskilt när det involverar icke-samtyckliga intima bilder.
Meta har inte offentligt kommenterat de specifika annonserna eller presenterat några förändringar av sin annonsgranskningsprocess. Företagets automatiska system är utformade för att fånga upp policyöverträdelser, men detta fall visar att de är långt ifrån felsäkra. Huruvida Meta kommer att möta regleringsåtgärder är fortfarande en öppen fråga.
