広告がすり抜けた方法
Metaの広告ポリシーは、ヌードや性的活動を描写する広告、および非同意の親密な画像を作成するように設計されたアプリを宣伝する広告を明確に禁止している。しかし、同社の自動審査システムは、数千件ものこうした広告の配信を許してしまった。問題のアプリは、人工知能を使用して写真から衣服をデジタル的に除去するもので、批評家はこれを画像ベースの虐待の一形態と呼んでいる。広告がどのように検出を免れたかは不明だが、その規模からMetaの執行に欠陥があることが示唆されている。
問題の規模
同社が確認した内部データによると、広告はFacebookとInstagramの両方で配信されていた。正確な数は明らかにされていないが、情報筋は「数千件」と説明している。広告はユーザーのフィードやInstagramストーリーに表示され、しばしば性的な暗示を含む言葉や画像が使われていた。一部の広告はユーザーによって報告されたが、多くは数日から数週間掲載された後に削除された。
規制を求める声
この事件は、AIの悪用に対抗するためのより厳格な規制と、テクノロジー業界の協力的な取り組みの緊急の必要性を浮き彫りにしている。より強力なガードレールがなければ、同様の広告が引き続きすり抜ける可能性がある。この問題はMetaだけに限ったものではない。他のプラットフォームもAI生成コンテンツの取り締まりに苦慮している。しかし、Metaの規模と表明している安全性への取り組みを考慮すると、この失敗は特に際立っている。擁護団体は、プラットフォームがAI生成素材、特に非同意の親密な画像をどのように扱うかについて、より明確なルールを求めている。
Metaは、特定の広告について公にコメントしておらず、広告審査プロセスの変更についても明らかに
