Platformy Meta – Facebook i Instagram – wyświetliły tysiące reklam promujących aplikacje typu „nudify” oparte na sztucznej inteligencji, jak wynika z wewnętrznych ustaleń. Reklamy te naruszały własne zasady firmy dotyczące nagości i treści seksualnych, co ponownie rodzi pytania o skuteczność jej systemów moderacji treści.
Jak reklamy przeszły przez system
Zasady reklamowe Meta wyraźnie zakazują reklam przedstawiających nagość lub aktywność seksualną, a także tych promujących aplikacje służące do tworzenia intymnych zdjęć bez zgody. Mimo to zautomatyzowane systemy weryfikacji firmy przepuściły tysiące takich reklam. Wspomniane aplikacje wykorzystują sztuczną inteligencję do cyfrowego usuwania ubrań ze zdjęć – praktykę, którą krytycy nazywają formą nadużycia z użyciem wizerunku. Nie wiadomo, w jaki sposób reklamy uniknęły wykrycia, ale skala problemu wskazuje na luki w egzekwowaniu zasad przez Meta.
Skala problemu
Wewnętrzne dane przeanalizowane przez firmę pokazują, że reklamy były wyświetlane zarówno na Facebooku, jak i Instagramie. Dokładna liczba nie została ujawniona, ale źródła określają ją jako „tysiące”. Reklamy pojawiały się w kanałach użytkowników oraz w relacjach na Instagramie, często z sugestywnym językiem i obrazami. Część z nich została zgłoszona przez użytkowników, ale wiele pozostawało aktywnych przez dni lub tygodnie, zanim zostały usunięte.
Wezwania do regulacji
Incydent podkreśla pilną potrzebę zaostrzenia regulacji oraz wspólnych działań branży technologicznej w celu zwalczania nadużyć związanych z AI. Bez silniejszych zabezpieczeń podobne reklamy mogą nadal się pojawiać. Problem nie dotyczy wyłącznie Meta – inne platformy również mają trudności z kontrolowaniem treści generowanych przez AI. Jednak biorąc pod uwagę rozmiar Meta i jej deklarowane zaangażowanie w bezpieczeństwo, to niedopatrzenie jest szczególnie rażące. Grupy rzecznicze wzywają do wprowadzenia jaśniejszych zasad dotyczących postępowania platform z materiałami tworzonymi przez AI, zwłaszcza gdy dotyczą one intymnych zdjęć bez zgody.
Meta nie odniosła się publicznie do konkretnych reklam ani nie przedstawiła zmian w procesie weryfikacji reklam. Zautomatyzowane systemy firmy mają wykrywać naruszenia zasad, ale ten przypadek pokazuje, że są one dalekie od doskonałości. Czy Meta spotkają konsekwencje regulacyjne – pozostaje otwartym pytaniem.
