Os chatbots de IA estão espalhando involuntariamente propaganda e desinformação russas, um desenvolvimento que ressalta a vulnerabilidade dos grandes modelos de linguagem à manipulação. O problema gerou pedidos por auditorias de dados mais rigorosas e estruturas regulatórias mais claras para evitar que esses sistemas se tornem vetores de campanhas de influência estrangeira.
Como a propaganda se espalha
Os chatbots, que geram respostas com base em vastos conjuntos de dados extraídos da internet, podem reproduzir narrativas falsas incorporadas em seu material de treinamento. Conteúdos ligados à Rússia, incluindo mídia patrocinada pelo Estado e campanhas coordenadas de desinformação, já foram detectados em respostas de chatbots. Como os modelos não possuem verificação de fatos em tempo real e não conseguem distinguir entre fontes verdadeiras e fabricadas, eles podem amplificar involuntariamente os discursos do Kremlin sobre tópicos que vão da guerra na Ucrânia à interferência eleitoral.
Isso não é um risco hipotético. Pesquisadores documentaram casos em que chatbots geraram respostas que espelhavam temas conhecidos de desinformação russa. O problema atravessa múltiplas plataformas e provedores de chatbots, sugerindo uma falha sistêmica na forma como esses modelos são treinados e implantados.
Auditoria de dados como primeiro passo
Um dos remédios mais imediatos está na auditoria rigorosa de dados. Os desenvolvedores de chatbots dependem de enormes corpora de texto que raramente são examinados para remover propaganda estatal. Sem verificações sistemáticas, conteúdos prejudiciais passam despercebidos. Ferramentas de auditoria podem identificar e filtrar fontes conhecidas de desinformação, mas ainda não são prática padrão na indústria. A ausência dessas salvaguardas significa que a propaganda pode ser incorporada à base de conhecimento do modelo desde o início.
O desafio é a escala. Os conjuntos de dados usados para treinar chatbots podem conter bilhões de documentos. Identificar cada peça de propaganda russa em meio a esse ruído exige filtros automatizados e revisão humana — uma tarefa que consome muitos recursos e que muitas empresas relutam em financiar. Ainda assim, as consequências da inação são claras: cada falsidade não detectada pode ser regurgitada para usuários milhares de vezes.
Estruturas regulatórias ficam para trás
As leis e regulamentações atuais são insuficientes para lidar com a desinformação impulsionada por IA. Nos Estados Unidos, não há nenhum estatuto federal que aborde especificamente como os chatbots devem lidar com propaganda. O AI Act da União Europeia imporá alguns requisitos de transparência, mas ainda não está em vigor. Outras regiões têm ainda menos proteções. Esse vácuo regulatório deixa o público exposto a conteúdo manipulado com poucos recursos de recurso.
Defensores de uma supervisão mais forte argumentam que os governos deveriam exigir padrões de proveniência de dados — obrigando as empresas a divulgar de onde vêm seus dados de treinamento e como são filtrados. Alguns propuseram a criação de órgãos de auditoria independentes que possam testar chatbots quanto à suscetibilidade à desinformação antes de serem lançados. Mas essas ideias permanecem como propostas, não políticas.
A propagação de propaganda por meio de chatbots de IA não é um bug que um patch rápido possa corrigir. Ela reflete questões mais profundas sobre como os dados são coletados, curados e governados. Sem mudanças sistêmicas — incluindo auditorias obrigatórias e regras aplicáveis — o problema provavelmente crescerá à medida que os chatbots se tornarem mais integrados à vida cotidiana.
O que permanece sem solução é quem dará o primeiro passo. As empresas poderiam agir voluntariamente, mas o histórico de autorregulação é misto. Os reguladores ainda estão estudando o problema. No entanto, a janela para agir está se estreitando a cada nova implantação de chatbot.
