Platformele Facebook și Instagram ale Meta au difuzat mii de reclame care promovau aplicații de „nudificare” bazate pe inteligență artificială, conform unor constatări interne. Reclamele au încălcat propriile politici ale companiei împotriva nudității și conținutului sexual, ridicând noi întrebări cu privire la eficacitatea sistemelor sale de moderare a conținutului.
Cum au scăpat reclamele
Politicile publicitare ale Meta interzic în mod explicit reclamele care prezintă nuditate sau activitate sexuală, precum și pe cele care promovează aplicații concepute pentru a crea imagini intime fără consimțământ. Cu toate acestea, sistemele automate de revizuire ale companiei au permis difuzarea a mii de astfel de reclame. Aplicațiile în cauză utilizează inteligența artificială pentru a elimina digital hainele din fotografii, o practică pe care criticii o numesc o formă de abuz bazat pe imagini. Nu este clar cum au reușit reclamele să evite detectarea, dar amploarea sugerează lacune în aplicarea regulilor de către Meta.
Amploarea problemei
Datele interne analizate de companie au arătat că reclamele au fost difuzate atât pe Facebook, cât și pe Instagram. Numărul exact nu a fost dezvăluit, dar surse l-au descris ca fiind „de mii”. Reclamele apăreau în fluxurile utilizatorilor și în Instagram Stories, adesea cu limbaj și imagini sugestive. Unele dintre reclame au fost raportate de utilizatori, dar multe au rămas active zile sau săptămâni înainte de a fi eliminate.
Apeluri la reglementare
Incidentul subliniază necesitatea urgentă a unor reglementări mai stricte și a eforturilor colaborative din industria tehnologică pentru a combate utilizarea abuzivă a inteligenței artificiale. Fără măsuri de protecție mai solide, reclame similare ar putea continua să scape. Problema nu este unică pentru Meta – și alte platforme s-au confruntat cu dificultăți în a controla conținutul generat de AI. Dar, având în vedere dimensiunea Meta și angajamentul declarat față de siguranță, eșecul este cu atât mai evident. Grupurile de advocacy au cerut reguli mai clare privind modul în care platformele gestionează materialele generate de AI, în special atunci când implică imagini intime neconsensuale.
Meta nu a abordat public reclamele specifice și nici nu a schițat modificări ale procesului său de revizuire a reclamelor. Sistemele sale automate sunt concepute pentru a detecta încălcări ale politicilor, dar acest caz arată că sunt departe de a fi infailibile. Rămâne de văzut dacă Meta se va confrunta cu acțiuni de reglementare.
