一名英国议员正在起诉人工智能公司xAI，理由是该议员声称其Grok聊天机器人在未经本人许可的情况下生成了其穿着比基尼的深度伪造图片。这起在英国法院提起的诉讼，可能为法院如何处理AI生成内容树立法律先例，并可能影响全球范围内的隐私和数据保护规则。
对xAI的指控
该议员声称，xAI开发的聊天机器人Grok生成了其穿着比基尼的深度伪造图片。诉讼认为，该图片是在未经议员同意的情况下生成的，且xAI应对其模型输出内容负责。法庭文件未明确说明该图片是如何通过提示词生成的，但议员正寻求赔偿并申请禁令以防止类似事件再次发生。议员的身份已在法庭文件中披露，但公开报道中未具名。该案直接起诉xAI而非个别用户，凸显了关于AI公司是否应为其系统生成内容承担责任的日益激烈的争论。预计议员的律师团队将主张该深度伪造图片构成对私人信息的滥用，并违反了数据保护法律。
AI问责制面临的关键问题
如果法院裁定xAI承担责任，这将成为首批确立公司可为其AI生成内容负责的裁决之一，即使该内容是由用户触发生成的。此类裁决可能迫使其他AI开发者实施更严格的过滤机制，并可能影响英国及其他司法管辖区的立法。该案正值全球监管机构努力应对深度伪造技术及其潜在滥用迅速蔓延之际。
全球影响
由于英国是科技公司的重要市场和法律枢纽，该裁决可能产生超越国界的影响。案件事实直接涉及隐私和数据保护问题，这些问题正是欧盟和美国新兴AI法规的核心。针对xAI的不利裁决可能鼓励其他国家采纳类似的AI生成内容标准。该案还可能有助于界定AI系统生成有害内容时问责制的国际规范。
深度伪造的广泛问题
深度伪造图片和视频已成为持续存在的担忧，常被用于骚扰个人或传播错误信息。这起诉讼是直接挑战AI公司生成此类内容的首批案件之一，而非针对创建或分享内容的个人。议员决定直接起诉xAI，可能标志着受害者寻求法律救济方式的转变。能够创建逼真但虚假图像的AI工具激增，已超过法律和监管框架的应对能力，使受害者选择有限。这起诉讼可能为未来案件提供路线图，并推动立法者采取行动。
可能的辩护与难点
xAI尚未公开回应这起诉讼。其Grok聊天机器人以内容限制少于一些主要竞争对手而闻名。xAI过去曾强调AI系统中言论自由的重要性。该公司可能辩称，其对用户提示生成的内容概不负责，或输出内容受言论自由原则保护。法院需决定用户责任与平台责任之间的界限。法院还需考虑Grok允许广泛提示的设计，是合理的言论自由行使，还是未能防止伤害。结果可能取决于法院如何将现有数据保护法律（如英国《数据保护法》）应用于可从文本提示生成逼真图像的AI模型。
对xAI而言，败诉可能迫使Grok运营方式发生重大改变，包括更激进的内容过滤和用户身份验证要求。该案还凸显了亟需为AI生成内容制定更明确的规则，这一话题已引起伦敦及其他地区立法者的日益关注。对xAI来说，这起诉讼既是法律挑战，也是声誉挑战，因为该公司将自己定位为开放AI开发的倡导者。
该案已在英国法院立案，但尚未安排听证日期。议员和隐私组织将密切关注诉讼进程，此案可能为生成式AI时代的问责制树立标杆。
