Le piattaforme Facebook e Instagram di Meta hanno pubblicato migliaia di annunci pubblicitari per app di 'nudificazione' basate sull'intelligenza artificiale, violando le proprie politiche. L'incidente solleva nuovi interrogativi sull'efficacia dei sistemi di moderazione dei contenuti.
Come gli annunci sono sfuggiti ai controlli
Le politiche pubblicitarie di Meta vietano esplicitamente annunci che mostrano nudità o attività sessuali, così come quelli che promuovono app progettate per creare immagini intime non consensuali. Tuttavia, i sistemi di revisione automatizzati dell'azienda hanno permesso a migliaia di tali annunci di essere pubblicati. Le app in questione utilizzano l'intelligenza artificiale per rimuovere digitalmente i vestiti dalle foto, una pratica che i critici definiscono una forma di abuso basato sulle immagini. Non è chiaro come gli annunci siano sfuggiti al rilevamento, ma la portata del fenomeno suggerisce lacune nei meccanismi di controllo di Meta.
La dimensione del problema
I dati interni esaminati dall'azienda mostrano che gli annunci sono stati pubblicati sia su Facebook che su Instagram. Il numero esatto non è stato divulgato, ma le fonti lo descrivono come 'migliaia'. Gli annunci apparivano nei feed degli utenti e nelle Storie di Instagram, spesso con linguaggio e immagini suggestive. Alcuni annunci sono stati segnalati dagli utenti, ma molti sono rimasti attivi per giorni o settimane prima di essere rimossi.
Richiesta di regolamentazione
L'incidente sottolinea l'urgente necessità di regolamentazioni più severe e di sforzi congiunti da parte dell'industria tecnologica per contrastare l'uso improprio dell'IA. Senza barriere più solide, annunci simili potrebbero continuare a sfuggire ai controlli. Il problema non è esclusivo di Meta: anche altre piattaforme hanno faticato a monitorare i contenuti generati dall'IA. Ma data la dimensione di Meta e il suo impegno dichiarato per la sicurezza, il fallimento è particolarmente evidente. I gruppi di difesa hanno chiesto regole più chiare su come le piattaforme gestiscono i materiali generati dall'IA, specialmente quando coinvolgono immagini intime non consensuali.
Meta non ha commentato pubblicamente gli annunci specifici né ha delineato modifiche al proprio processo di revisione pubblicitaria. I sistemi automatizzati dell'azienda sono progettati per individuare le violazioni delle politiche, ma questo caso dimostra che sono tutt'altro che infallibili. Resta da vedere se Meta dovrà affrontare azioni normative.
