AI-chatbots verspreiden onbedoeld Russische propaganda en desinformatie, een ontwikkeling die de kwetsbaarheid van grote taalmodellen voor manipulatie blootlegt. Dit heeft geleid tot oproepen voor strengere data-audits en duidelijkere regelgevingskaders om te voorkomen dat deze systemen een vector worden voor beïnvloedingscampagnes.
Hoe de propaganda zich verspreidt
De chatbots, die antwoorden genereren op basis van enorme datasets van het internet, kunnen valse verhalen reproduceren die in hun trainingsmateriaal zijn verwerkt. Russische inhoud, waaronder door de staat gesteunde media en gecoördineerde desinformatiecampagnes, kan zonder enige feitcontrole worden weergegeven. Omdat de modellen geen realtime verificatie uitvoeren en geen onderscheid kunnen maken tussen betrouwbare en verzonnen bronnen, versterken ze onbedoeld Kremlin-standpunten over onderwerpen variërend van de oorlog in Oekraïne tot verkiezingsinmenging.
Dit is geen hypothetisch risico. Onderzoekers hebben meerdere gevallen gedocumenteerd waarin chatbots antwoorden gaven die bekende Russische desinformatiethema's weerspiegelden. Het probleem doet zich voor bij verschillende platforms en chatbot-aanbieders, wat wijst op een systemische fout in de manier waarop deze modellen worden getraind en ingezet.
Data-audits als eerste stap
Een van de meest directe oplossingen ligt in grondige data-audits. Chatbot-ontwikkelaars vertrouwen op enorme tekstcorpora die zelden worden gecontroleerd op door de staat gesteunde propaganda. Zonder systematische controles kan schadelijke inhoud onopgemerkt blijven. Audittools kunnen bekende desinformatiebronnen identificeren en filteren, maar deze zijn nog geen standaardpraktijk in de industrie. Het ontbreken van dergelijke waarborgen betekent dat propaganda vanaf het begin in de kennisbasis van een model kan worden ingebakken.
De uitdaging is de schaal. De datasets die worden gebruikt om chatbots te trainen kunnen miljarden documenten bevatten. Het opsporen van elke Russische propagandaboodschap in die ruis vereist zowel geautomatiseerde filters als menselijke beoordeling — een arbeidsintensieve taak die veel bedrijven niet willen financieren. Toch zijn de gevolgen van nalatigheid duidelijk: elk onopgemerkt stukje desinformatie kan duizenden keren aan gebruikers worden herhaald.
Regelgevingskaders blijven achter
De huidige wet- en regelgeving is niet toegerust om AI-gedreven desinformatie aan te pakken. In de Verenigde Staten bestaat geen federale wet die specifiek voorschrijft hoe chatbots met propaganda moeten omgaan. De AI-wet van de Europese Unie legt enkele transparantievereisten op, maar is nog niet van kracht. Andere regio's hebben nog minder waarborgen. Dit regelgevingsvacuüm laat het publiek blootgesteld aan gemanipuleerde inhoud zonder verhaal.
Voorstanders van strenger toezicht pleiten ervoor dat overheden normen voor gegevensherkomst verplicht stellen — bedrijven moeten openbaar maken waar hun trainingsdata vandaan komen en hoe deze worden gefilterd. Sommigen stellen voor om onafhankelijke auditinstanties op te richten die chatbots kunnen testen op vatbaarheid voor desinformatie voordat ze worden uitgebracht. Maar deze ideeën blijven vooralsnog voorstellen, geen beleid.
De verspreiding van propaganda via AI-chatbots is geen bug die met een snelle patch kan worden verholpen. Het weerspiegelt diepere problemen in hoe data worden verzameld, samengesteld en beheerd. Zonder systemische veranderingen — waaronder verplichte audits en afdwingbare regels — zal het probleem waarschijnlijk groeien naarmate chatbots meer geïntegreerd raken in het dagelijks leven.
Wat onopgelost blijft, is wie de eerste stap zal zetten. Bedrijven kunnen vrijwillig actie ondernemen, maar de staat van dienst op het gebied van zelfregulering is wisselend. Toezichthouders bestuderen het probleem nog. Het venster om te handelen wordt echter kleiner met elke nieuwe chatbot-implementatie.
