AI-chatbots spreder ubevidst russisk propaganda og desinformation, en udvikling der understreger store sprogmodellers sårbarhed over for manipulation. Problemet har ført til krav om stærkere datarevision og tydeligere reguleringsrammer for at forhindre, at disse systemer bliver redskaber for fremmede påvirkningskampagner.
Sådan spredes propagandaen
Chatbotterne, som genererer svar baseret på enorme datasæt indsamlet fra internettet, kan gengive falske fortællinger, der er indlejret i deres træningsmateriale. Russiskrelateret indhold, herunder statsfinansierede medier og koordinerede desinformationskampagner, er blevet påvist at dukke op i chatbotsvar. Da modellerne mangler realtidsfaktatjek og ikke kan skelne mellem sandfærdige og fabrikerede kilder, kan de ubevidst forstærke Kremls talepunkter om emner lige fra krigen i Ukraine til valgindblanding.
Dette er ikke en hypotetisk risiko. Forskere har dokumenteret tilfælde, hvor chatbotter genererede svar, der spejlede kendte russiske desinformationstemaer. Problemet går på tværs af flere platforme og chatbotudbydere, hvilket tyder på en systemisk fejl i, hvordan disse modeller trænes og anvendes.
Datarevision som første skridt
En af de mest umiddelbare løsninger ligger i grundig datarevision. Chatbotudviklere er afhængige af enorme tekstkorpus, der sjældent renses for statsrelateret propaganda. Uden systematiske kontroller slipper skadeligt indhold igennem. Revisionsværktøjer kan identificere og filtrere kendte desinformationskilder fra, men de er endnu ikke standardpraksis i branchen. Fraværet af sådanne sikkerhedsforanstaltninger betyder, at propaganda kan blive indbygget i modellens vidensbase fra starten.
Udfordringen er omfanget. Datasættene, der bruges til at træne chatbotter, kan indeholde milliarder af dokumenter. At identificere hver eneste russisk propaganda i den støj kræver automatiserede filtre og menneskelig gennemgang – en ressourcekrævende opgave, som mange virksomheder er tilbageholdende med at finansiere. Alligevel er konsekvenserne af passivitet tydelige: hvert uopdaget falskhed kan blive gengivet til brugere tusindvis af gange.
Reguleringsrammer halter bagefter
Nuværende love og regler er dårligt rustet til at håndtere AI-drevet desinformation. I USA findes der ingen føderal lov, der specifikt adresserer, hvordan chatbotter skal håndtere propaganda. EU's AI-forordning vil pålægge nogle gennemsigtighedskrav, men den er endnu ikke trådt i kraft. Andre regioner har endnu færre beskyttelsesforanstaltninger. Dette regulatoriske tomrum efterlader offentligheden udsat for manipuleret indhold med begrænsede muligheder for at gøre noget.
Fortalere for stærkere tilsyn argumenterer for, at regeringer bør pålægge standarder for dataoprindelse – hvilket kræver, at virksomheder oplyser, hvor deres træningsdata kommer fra, og hvordan de filtreres. Nogle har foreslået at oprette uafhængige revisionsorganer, der kan teste chatbotter for modtagelighed over for desinformation, før de frigives. Men disse idéer forbliver forslag, ikke politikker.
Spredningen af propaganda gennem AI-chatbotter er ikke en fejl, der kan rettes med en hurtig opdatering. Den afspejler dybere problemer med, hvordan data indsamles, kurateres og styres. Uden systemiske ændringer – herunder obligatoriske revisioner og håndhævelige regler – vil problemet sandsynligvis vokse, efterhånden som chatbotter bliver mere integreret i hverdagen.
Det, der stadig er uafklaret, er, hvem der tager det første skridt. Virksomheder kunne handle frivilligt, men erfaringen med selvregulering er blandet. Regulatorer studerer stadig problemet. Vinduet for handling bliver imidlertid smallere for hver ny chatbot-implementering.
