Uit interne bevindingen blijkt dat Meta's Facebook en Instagram duizenden advertenties hebben weergegeven voor zogenaamde 'ontkledingsapps' op basis van kunstmatige intelligentie. De advertenties waren in strijd met het eigen beleid van het bedrijf tegen naaktheid en seksueel getinte inhoud, en roepen opnieuw vragen op over de effectiviteit van Meta's contentmoderatie.
Hoe de advertenties door de mazen van het net glipten
Meta's advertentiebeleid verbiedt expliciet afbeeldingen van naaktheid of seksuele activiteit, evenals promotie van apps die niet-consensuele intieme afbeeldingen genereren. Toch lieten de geautomatiseerde beoordelingssystemen duizenden van dergelijke advertenties toe. De betreffende apps gebruiken AI om digitaal kleding van foto's te verwijderen, een praktijk die critici bestempelen als een vorm van beeldmisbruik. Hoe de advertenties detectie wisten te omzeilen is onduidelijk, maar de omvang wijst op gaten in Meta's handhaving.
De omvang van het probleem
Interne gegevens die door het bedrijf zijn bekeken, tonen aan dat de advertenties zowel op Facebook als Instagram werden getoond. Het exacte aantal is niet bekendgemaakt, maar bronnen omschrijven het als 'duizenden'. De advertenties verschenen in de feeds van gebruikers en in Instagram Stories, vaak met suggestieve taal en afbeeldingen. Sommige advertenties werden door gebruikers gemeld, maar vele bleven dagen of weken online voordat ze werden verwijderd.
Oproepen tot regulering
Het incident onderstreept de dringende noodzaak van strengere regelgeving en gezamenlijke inspanningen van de techsector om misbruik van AI tegen te gaan. Zonder sterkere waarborgen kunnen soortgelijke advertenties blijven opduiken. Het probleem is niet uniek voor Meta – ook andere platforms worstelen met het controleren van AI-gegenereerde inhoud. Maar gezien Meta's omvang en zijn uitgesproken toewijding aan veiligheid, is deze mislukking bijzonder opvallend. Belangengroepen pleiten voor duidelijkere regels over hoe platforms omgaan met AI-gegenereerd materiaal, vooral wanneer het niet-consensuele intieme afbeeldingen betreft.
Meta heeft zich niet publiekelijk uitgelaten over de specifieke advertenties of wijzigingen in het advertentiebeoordelingsproces aangekondigd. De geautomatiseerde systemen van het bedrijf zijn ontworpen om beleidsovertredingen op te sporen, maar deze zaak toont aan dat ze verre van waterdicht zijn. Of Meta te maken krijgt met regelgevende maatregelen blijft een open vraag.
