Theo các phát hiện nội bộ, nền tảng Facebook và Instagram của Meta đã phục vụ hàng nghìn quảng cáo quảng bá các ứng dụng 'nudify' sử dụng AI, vi phạm chính sách của công ty về nội dung khỏa thân và tình dục. Sự việc này đặt ra câu hỏi mới về hiệu quả của hệ thống kiểm duyệt nội dung.
Cách các quảng cáo lọt qua
Chính sách quảng cáo của Meta nghiêm cấm các quảng cáo mô tả khỏa thân hoặc hoạt động tình dục, cũng như những quảng cáo quảng bá ứng dụng được thiết kế để tạo ra hình ảnh thân mật không có sự đồng thuận. Tuy nhiên, hệ thống đánh giá tự động của công ty đã cho phép hàng nghìn quảng cáo như vậy được chạy. Các ứng dụng này sử dụng trí tuệ nhân tạo để loại bỏ quần áo khỏi ảnh một cách kỹ thuật số, một hành vi mà các nhà phê bình gọi là lạm dụng dựa trên hình ảnh. Hiện chưa rõ cách các quảng cáo tránh được sự phát hiện, nhưng quy mô cho thấy lỗ hổng trong việc thực thi chính sách của Meta.
Quy mô của vấn đề
Dữ liệu nội bộ được công ty xem xét cho thấy các quảng cáo đã được phục vụ trên cả Facebook và Instagram. Con số chính xác không được tiết lộ, nhưng các nguồn tin mô tả là 'hàng nghìn'. Các quảng cáo xuất hiện trong bảng tin của người dùng và trong Instagram Stories, thường kèm theo ngôn ngữ và hình ảnh gợi dục. Một số quảng cáo đã được người dùng báo cáo, nhưng nhiều quảng cáo vẫn tồn tại trong nhiều ngày hoặc nhiều tuần trước khi bị gỡ xuống.
Kêu gọi quy định chặt chẽ hơn
Sự việc này nhấn mạnh nhu cầu cấp thiết về các quy định chặt chẽ hơn và nỗ lực hợp tác trong ngành công nghệ để chống lại việc lạm dụng AI. Nếu không có các rào cản mạnh mẽ hơn, các quảng cáo tương tự có thể tiếp tục lọt qua. Vấn đề không chỉ riêng của Meta — các nền tảng khác cũng gặp khó khăn trong việc kiểm soát nội dung do AI tạo ra. Nhưng với quy mô của Meta và cam kết về an toàn đã tuyên bố, thất bại này càng trở nên nổi bật. Các nhóm vận động đã kêu gọi các quy tắc rõ ràng hơn về cách các nền tảng xử lý nội dung do AI tạo ra, đặc biệt khi liên quan đến hình ảnh thân mật không có sự đồng thuận.
Meta chưa công khai lên tiếng về các quảng cáo cụ thể hoặc vạch ra bất kỳ thay đổi nào đối với quy trình đánh giá quảng cáo của mình. Các hệ thống tự động của công ty được thiết kế để phát hiện vi phạm chính sách, nhưng trường hợp này cho thấy chúng còn lâu mới hoàn hảo. Liệu Meta có phải đối mặt với hành động pháp lý hay không vẫn là một câu hỏi bỏ ngỏ.
