Las plataformas Facebook e Instagram de Meta sirvieron miles de anuncios promocionando aplicaciones 'nudify' impulsadas por inteligencia artificial, según hallazgos internos. Los anuncios violaron las propias políticas de la compañía contra la desnudez y el contenido sexual, lo que plantea nuevas preguntas sobre la efectividad de sus sistemas de moderación de contenido.
Cómo se colaron los anuncios
\nLas políticas publicitarias de Meta prohíben explícitamente los anuncios que muestren desnudez o actividad sexual, así como aquellos que promuevan aplicaciones diseñadas para crear imágenes íntimas no consentidas. Sin embargo, los sistemas automatizados de revisión de la compañía permitieron que miles de estos anuncios se publicaran. Las aplicaciones en cuestión utilizan inteligencia artificial para eliminar digitalmente la ropa de las fotos, una práctica que los críticos denominan abuso basado en imágenes. No está claro cómo los anuncios evadieron la detección, pero la escala sugiere fallas en la aplicación de las normas por parte de Meta.
La magnitud del problema
\nLos datos internos revisados por la compañía mostraron que los anuncios se sirvieron tanto en Facebook como en Instagram. No se reveló el número exacto, pero las fuentes lo describieron como 'miles'. Los anuncios aparecían en los feeds de los usuarios y en las Historias de Instagram, a menudo con lenguaje e imágenes sugerentes. Algunos anuncios fueron reportados por los usuarios, pero muchos permanecieron activos durante días o semanas antes de ser eliminados.
Llamados a la regulación
\nEl incidente subraya la necesidad urgente de regulaciones más estrictas y esfuerzos colaborativos de la industria tecnológica para combatir el mal uso de la IA. Sin barreras de protección más sólidas, anuncios similares podrían seguir colándose. El problema no es exclusivo de Meta: otras plataformas también han tenido dificultades para controlar el contenido generado por IA. Pero dado el tamaño de Meta y su compromiso declarado con la seguridad, el fallo es particularmente notorio. Grupos de defensa han solicitado reglas más claras sobre cómo las plataformas manejan el material generado por IA, especialmente cuando involucra imágenes íntimas no consentidas.
Meta no se ha pronunciado públicamente sobre los anuncios específicos ni ha esbozado cambios en su proceso de revisión de anuncios. Los sistemas automatizados de la compañía están diseñados para detectar violaciones de políticas, pero este caso demuestra que están lejos de ser infalibles. Si Meta enfrentará acciones regulatorias sigue siendo una pregunta abierta.
