Un député britannique poursuit en justice la société d'intelligence artificielle xAI pour une image deepfake en bikini que le député affirme avoir été créée par le chatbot Grok sans son consentement. La plainte, déposée devant un tribunal britannique, pourrait créer un précédent juridique sur la manière dont les tribunaux traitent les contenus générés par l'IA et influencer les règles de confidentialité et de protection des données dans le monde entier.
Les allégations contre xAI
Le député affirme que Grok, le chatbot développé par xAI, a produit une image deepfake le représentant en bikini. La plainte soutient que l'image a été générée sans le consentement du parlementaire et que xAI est responsable des résultats de son modèle. Les documents judiciaires ne précisent pas exactement comment l'image a été demandée, mais le député réclame des dommages et intérêts ainsi qu'une injonction pour empêcher de futures occurrences. L'identité du député a été divulguée dans les documents judiciaires, bien que le parlementaire n'ait pas été nommé dans les rapports publics. En poursuivant directement xAI plutôt qu'un utilisateur individuel, l'affaire souligne le débat croissant sur la question de savoir si les entreprises d'IA doivent être tenues responsables du contenu généré par leurs systèmes. L'équipe juridique du député devrait avancer que le deepfake constitue un usage abusif d'informations privées et une violation des lois sur la protection des données.
Les enjeux pour la responsabilité en matière d'IA
Si le tribunal tient xAI pour responsable, ce serait l'une des premières décisions à établir qu'une entreprise peut être responsable du contenu généré par son IA, même lorsqu'un utilisateur a déclenché sa création. Une telle décision pourrait contraindre d'autres développeurs d'IA à mettre en place des filtres plus stricts et pourrait influencer la législation au Royaume-Uni et dans d'autres juridictions. L'affaire survient alors que les régulateurs du monde entier peinent à suivre le rythme de la propagation rapide de la technologie deepfake et de son potentiel d'abus.
Les implications mondiales
Étant donné que le Royaume-Uni est un marché important et un pôle juridique pour les entreprises technologiques, la décision pourrait avoir une influence au-delà de ses frontières. Les faits de l'affaire touchent directement aux questions de confidentialité et de protection des données qui sont au cœur des réglementations émergentes sur l'IA dans l'Union européenne et aux États-Unis. Une décision contre xAI pourrait encourager d'autres pays à adopter des normes similaires pour les contenus générés par l'IA. L'affaire pourrait également contribuer à définir les normes internationales en matière de responsabilité lorsque les systèmes d'IA génèrent des contenus nuisibles.
Le problème plus large des deepfakes
Les images et vidéos deepfake sont devenues une préoccupation persistante, souvent utilisées pour harceler des personnes ou diffuser de la désinformation. Cette poursuite est l'une des premières contestations directes d'une entreprise d'IA pour avoir généré de tels contenus, plutôt que de cibler la personne qui les a créés ou partagés. La décision du député de poursuivre directement xAI pourrait signaler un changement dans la manière dont les victimes cherchent des recours juridiques. La prolifération d'outils d'IA capables de créer des images réalistes mais fausses a dépassé les cadres juridiques et réglementaires, laissant les victimes avec peu d'options. Cette affaire pourrait fournir une feuille de route pour les futures affaires et pousser les législateurs à agir.
Défenses potentielles et difficultés
xAI n'a pas encore répondu publiquement à la poursuite. Le chatbot Grok de l'entreprise est connu pour offrir moins de restrictions de contenu que certains de ses principaux concurrents. Dans des déclarations passées, xAI a souligné l'importance de la liberté d'expression dans les systèmes d'IA. L'entreprise pourrait faire valoir qu'elle n'est pas responsable de ce que les utilisateurs demandent au chatbot de créer, ou que le résultat est protégé par les principes de libre expression. Le tribunal devra décider où se situe la limite entre la responsabilité de l'utilisateur et celle de la plateforme. Le tribunal devra également déterminer si la conception de Grok, qui permet un large éventail de requêtes, constitue un exercice raisonnable de la liberté d'expression ou une incapacité à prévenir les préjudices. L'issue pourrait dépendre de la manière dont le tribunal interprète les lois existantes sur la protection des données, telles que la loi britannique sur la protection des données, dans le contexte d'un modèle d'IA capable de générer des images réalistes à partir de requêtes textuelles.
Pour xAI, une défaite pourrait entraîner des changements importants dans le fonctionnement de Grok, notamment une modération plus agressive du contenu et des exigences de vérification d'identité des utilisateurs. L'affaire souligne également l'urgence de règles plus claires concernant les contenus générés par l'IA, un sujet qui attire de plus en plus l'attention des législateurs à Londres et ailleurs. Pour xAI, la poursuite présente à la fois un défi juridique et un défi de réputation, alors que l'entreprise se positionne comme un champion du développement ouvert de l'IA.
L'affaire a été déposée devant un tribunal britannique, mais aucune date d'audience n'a été fixée. Les parlementaires et les groupes de défense de la vie privée surveilleront la procédure, qui pourrait établir une référence en matière de responsabilité à l'ère de l'IA générative.
