AI-chatboter sprer ubevisst russisk propaganda og desinformasjon, en utvikling som understreker sårbarheten til store språkmodeller for manipulasjon. Problemet har ført til krav om sterkere datarevisjon og tydeligere regulatoriske rammeverk for å hindre at disse systemene blir vektorer for utenlandske påvirkningskampanjer.
Hvordan propagandaen sprer seg
Chatbotene, som genererer svar basert på enorme datasett skrapet fra internett, kan gjengi falske narrativer som er innebygd i treningsmaterialet. Russiskrelatert innhold, inkludert statssponsede medier og koordinerte desinformasjonskampanjer, har vist seg å dukke opp i chatbotsvar. Fordi modellene mangler sanntids faktasjekking og ikke kan skille mellom sanne og fabrikkerte kilder, kan de ubevisst forsterke Kremls talepunkter om emner som spenner fra krigen i Ukraina til valgpåvirkning.
Dette er ikke en hypotetisk risiko. Forskere har dokumentert tilfeller der chatboter genererte svar som speilet kjente russiske desinformasjonstemaer. Problemet går på tvers av flere plattformer og chatbot-leverandører, noe som tyder på en systemisk feil i hvordan disse modellene trenes og tas i bruk.
Datarevisjon som første skritt
En av de mest umiddelbare løsningene ligger i grundig datarevisjon. Chatbot-utviklere er avhengige av enorme tekstkorpus som sjelden renses for statssponset propaganda. Uten systematiske kontroller slipper skadelig innhold gjennom. Revisjonsverktøy kan identifisere og filtrere ut kjente desinformasjonskilder, men de er ennå ikke standard praksis i bransjen. Fraværet av slike sikkerhetstiltak betyr at propaganda kan bli bakt inn i modellens kunnskapsbase helt fra starten.
Utfordringen er omfanget. Datasettene som brukes til å trene chatboter, kan inneholde milliarder av dokumenter. Å identifisere hvert eneste stykke russisk propaganda i denne støyen krever automatiske filtre og manuell gjennomgang – en ressurskrevende oppgave som mange selskaper er motvillige til å finansiere. Likevel er konsekvensene av passivitet tydelige: hvert uoppdaget falskinnhold kan gjentas for brukere tusenvis av ganger.
Regulatoriske rammeverk henger etter
Dagens lover og regler er dårlig rustet til å håndtere AI-drevet desinformasjon. I USA finnes det ingen føderal lov som spesifikt tar for seg hvordan chatboter skal håndtere propaganda. Den europeiske unions AI-lov vil innføre noen åpenhetskrav, men den er ennå ikke trådt i kraft. Andre regioner har enda færre sikkerhetstiltak. Dette regulatoriske vakuumet etterlater publikum eksponert for manipulert innhold med liten mulighet til å søke rettsmidler.
Talsmenn for sterkere tilsyn argumenterer for at myndigheter bør pålegge standarder for dataproveniens – som krever at selskaper oppgir hvor treningsdataene deres kommer fra og hvordan de filtreres. Noen har foreslått å opprette uavhengige revisjonsorganer som kan teste chatboter for mottakelighet for desinformasjon før de lanseres. Men disse ideene forblir forslag, ikke politikk.
Spredningen av propaganda gjennom AI-chatboter er ikke en feil som kan fikses med en rask oppdatering. Den reflekterer dypere problemer i hvordan data samles inn, kurateres og forvaltes. Uten systemiske endringer – inkludert obligatoriske revisjoner og håndhevbare regler – vil problemet sannsynligvis vokse etter hvert som chatboter blir mer integrert i dagliglivet.
Det som fortsatt er uavklart, er hvem som vil ta det første skrittet. Selskaper kunne handle frivillig, men resultatene av selvregulering er blandet. Regulatorer studerer fortsatt problemet. Vinduet for handling smalner imidlertid for hver nye chatbot-utrulling.
