Platform Facebook dan Instagram milik Meta menayangkan ribuan iklan untuk aplikasi bertenaga AI yang disebut 'nudify', menurut temuan internal. Iklan-iklan tersebut melanggar kebijakan perusahaan sendiri tentang ketelanjangan dan konten seksual, sehingga kembali mempertanyakan efektivitas sistem moderasi konten Meta.
Bagaimana iklan bisa lolos
Kebijakan periklanan Meta secara tegas melarang iklan yang menampilkan ketelanjangan atau aktivitas seksual, serta yang mempromosikan aplikasi untuk membuat gambar intim tanpa persetujuan. Namun, sistem peninjauan otomatis perusahaan tetap mengizinkan ribuan iklan semacam itu tayang. Aplikasi yang dimaksud menggunakan kecerdasan buatan untuk menghapus pakaian dari foto secara digital, sebuah praktik yang oleh para kritikus disebut sebagai bentuk penyalahgunaan berbasis gambar. Belum jelas bagaimana iklan-iklan itu lolos dari deteksi, tetapi skalanya menunjukkan adanya celah dalam penegakan aturan Meta.
Skala masalah
Data internal yang ditinjau perusahaan menunjukkan bahwa iklan-iklan tersebut ditayangkan di Facebook dan Instagram. Jumlah pastinya tidak diungkapkan, tetapi sumber menyebutnya 'ribuan'. Iklan-iklan itu muncul di umpan pengguna dan di Instagram Stories, seringkali dengan bahasa dan gambar yang sugestif. Beberapa iklan dilaporkan oleh pengguna, tetapi banyak yang tetap tayang selama berhari-hari atau berminggu-minggu sebelum akhirnya dihapus.
Seruan untuk regulasi
Insiden ini menegaskan kebutuhan mendesak akan regulasi yang lebih ketat dan upaya kolaboratif industri teknologi untuk memerangi penyalahgunaan AI. Tanpa pagar pembatas yang lebih kuat, iklan serupa bisa terus lolos. Masalah ini tidak hanya terjadi pada Meta — platform lain juga kesulitan mengawasi konten buatan AI. Namun, mengingat ukuran Meta dan komitmennya terhadap keamanan, kegagalan ini sangat mencolok. Kelompok advokasi telah menyerukan aturan yang lebih jelas tentang bagaimana platform menangani materi buatan AI, terutama yang melibatkan gambar intim tanpa persetujuan.
Meta belum secara terbuka menanggapi iklan spesifik tersebut atau mengumumkan perubahan apa pun pada proses peninjauan iklannya. Sistem otomatis perusahaan dirancang untuk menangkap pelanggaran kebijakan, tetapi kasus ini menunjukkan bahwa sistem tersebut masih jauh dari sempurna. Apakah Meta akan menghadapi tindakan regulasi masih menjadi pertanyaan terbuka.
