英国の国会議員が、人工知能企業xAIに対し、同社のチャットボット「Grok」が許可なくディープフェイクのビキニ画像を生成したとして訴訟を起こした。英国の裁判所に提出されたこの訴訟は、裁判所がAI生成コンテンツをどのように扱うかについての法的先例となり得るとともに、世界中のプライバシーとデータ保護規則に影響を与える可能性がある。
xAIに対する告発
この議員は、xAIが開発したチャットボット「Grok」が、自身が水着を着た姿のディープフェイク画像を生成したと主張している。訴訟では、この画像は議員の同意なしに生成され、xAIはモデルの出力結果に対して責任を負うと論じている。裁判所への提出文書には、画像がどのようなプロンプトで生成されたかは明記されていないが、議員は損害賠償と将来の発生を防ぐための差止命令を求めている。議員の身元は裁判所の文書で明らかにされているが、公の報道では名前は公表されていない。個人ユーザーではなくxAIを直接訴えたことで、この訴訟は、AIシステムが生成したコンテンツに対してAI企業が責任を負うべきかどうかという議論の高まりを浮き彫りにしている。議員の弁護団は、このディープフェイクが個人情報の悪用およびデータ保護法違反にあたると主張する見通しである。
AIの説明責任に関する問題点
裁判所がxAIに責任ありと判断すれば、ユーザーが生成をトリガーした場合でも、企業が自社のAIが生成したコンテンツに対して責任を負うことを確立する最初の判決の一つとなる。そのような判決は、他のAI開発者に厳格なフィルターの実装を強制し、英国やその他の法域での立法に影響を与える可能性がある。この訴訟は、世界中の規制当局がディープフェイク技術の急速な普及と悪用の可能性に対応するのに苦慮している中で提起された。
世界的な影響
英国はテクノロジー企業にとって重要な市場であり法的ハブであるため、この判決は国境を越えて影響を及ぼす可能性がある。この訴訟の事実関係は、欧州連合や米国で策定されつつあるAI規制の中心となるプライバシーとデータ保護の問題に直接関わる。xAIに不利な判決は、他の国々がAI生成コンテンツに対して同様の基準を採用するきっかけとなるかもしれない。この訴訟は、AIシステムが有害な素材を生成した場合の説明責任に関する国際的な規範の定義にも役立つ可能性がある。
ディープフェイクのより広範な問題
ディープフェイク画像や動画は、個人への嫌がらせや誤情報の拡散に悪用されることが多く、継続的な懸念事項となっている。この訴訟は、そのようなコンテンツを生成または共有した人物ではなく、AI企業を直接訴えた最初のケースの一つである。議員がxAIを直接訴える選択をしたことで、被害者が法的救済を求める方法に変化が生じる可能性がある。現実的だが偽の画像を生成できるAIツールの普及は、法律や規制の枠組みを上回っており、被害者には選択肢がほとんど残されていない。この訴訟は、将来のケースに道筋を提供し、立法者に行動を促す可能性がある。
想定される防御策と課題
xAIはまだこの訴訟に対して公に回答していない。同社のチャットボット「Grok」は、主要な競合他社よりもコンテンツ制限が少ないことで知られている。過去の声明でxAIは、AIシステムにおける言論の自由の重要性を強調してきた。同社は、ユーザーがチャットボットに作成を促したものに対して責任はない、あるいは出力は表現の自由の原則によって保護されていると主張する可能性がある。裁判所は、ユーザーの説明責任とプラットフォームの責任の境界線をどこに引くかを判断する必要がある。また、幅広いプロンプトを許容するGrokの設計が、表現の自由の合理的な行使に当たるのか、それとも被害防止の失敗に当たるのかも検討しなければならない。結果は、裁判所が英国のデータ保護法などの既存のデータ保護法を、テキストプロンプトから現実的な画像を生成できるAIモデルの文脈でどのように解釈するかに依存する可能性がある。
xAIにとって、敗訴すればGrokの運用方法に大きな変更が強制される可能性があり、より積極的なコンテンツフィルタリングやユーザーID確認要件などが含まれるかもしれない。この訴訟はまた、ロンドンやその他の地域の立法者の間で注目が高まっている、AI生成コンテンツに関するより明確なルールの緊急性を浮き彫りにしている。xAIにとって、この訴訟は法的かつ評判上の課題であり、同社は自らをオープンなAI開発の擁護者として位置づけている。
この訴訟は英国の裁判所に提起されたが、審理日程はまだ決まっていない。議員やプライバシー団体はこの手続きを注視しており、生成AI時代の説明責任のベンチマークとなる可能性がある。
