Comment la propagande se propage
Les chatbots, qui génèrent des réponses basées sur de vastes ensembles de données extraites d'Internet, peuvent reproduire des récits faux intégrés dans leur matériel d'entraînement. Il a été démontré que des contenus liés à la Russie, y compris des médias soutenus par l'État et des campagnes de désinformation coordonnées, apparaissent dans les réponses des chatbots. Parce que les modèles manquent de vérification des faits en temps réel et ne peuvent pas distinguer les sources véridiques des sources fabriquées, ils peuvent amplifier involontairement les points de discussion du Kremlin sur des sujets allant de la guerre en Ukraine à l'ingérence électorale.
Ce n'est pas un risque hypothétique. Des chercheurs ont documenté des cas où des chatbots ont généré des réponses qui reflétaient des thèmes de désinformation russe connus. Le problème touche plusieurs plateformes et fournisseurs de chatbots, ce qui suggère un défaut systémique dans la manière dont ces modèles sont entraînés et déployés.
L'audit des données comme première étape
L'un des remèdes les plus immédiats réside dans un audit rigoureux des données. Les développeurs de chatbots s'appuient sur d'énormes corpus textuels qui sont rarement nettoyés de la propagande étatique. Sans contrôles systématiques, les contenus nuisibles passent à travers les mailles du filet. Des outils d'audit peuvent identifier et filtrer les sources de désinformation connues, mais ils ne sont pas encore une pratique courante dans l'industrie. L'absence de telles garanties signifie que la propagande peut être intégrée dès le départ dans la base de connaissances d'un modèle.
Le défi est l'échelle. Les ensembles de données utilisés pour entraîner les chatbots peuvent contenir des milliards de documents. Identifier chaque morceau de propagande russe dans ce bruit nécessite des filtres automatisés et une révision humaine — une tâche gourmande en ressources que de nombreuses entreprises hésitent à financer. Pourtant, les conséquences de l'inaction sont claires : chaque mensonge non détecté peut être régurgité aux utilisateurs des milliers de fois.
Les cadres réglementaires à la traîne
Les lois et réglementations actuelles sont mal adaptées pour gérer la désinformation générée par l'IA. Aux États-Unis, aucune loi fédérale ne traite spécifiquement de la manière dont les chatbots doivent gérer la propagande. L'AI Act de l'Union européenne imposera certaines exigences de transparence, mais il n'est pas encore en vigueur. D'autres régions ont encore moins de garde-fous. Ce vide réglementaire expose le public à des contenus manipulés avec peu de recours.
Les défenseurs d'une surveillance renforcée soutiennent que les gouvernements devraient imposer des normes de provenance des données — exigeant des entreprises qu'elles divulguent d'où proviennent leurs données d'entraînement et comment elles sont filtrées. Certains ont proposé de créer des organismes d'audit indépendants capables de tester les chatbots pour leur vulnérabilité à la désinformation avant leur lancement. Mais ces idées restent des propositions, pas des politiques.
La propagation de la propagande via les chatbots IA n'est pas un bogue qu'un correctif rapide peut résoudre. Elle reflète des problèmes plus profonds dans la manière dont les données sont collectées, organisées
