KI-Chatbots verbreiten unwissentlich russische Propaganda und Desinformation – eine Entwicklung, die die Anfälligkeit großer Sprachmodelle für Manipulation unterstreicht. Das Problem hat Forderungen nach strengeren Datenprüfungen und klareren Regulierungsrahmen laut werden lassen, um zu verhindern, dass diese Systeme zu einem Vektor für ausländische Einflusskampagnen werden.
Wie die Propaganda verbreitet wird
Die Chatbots, die Antworten auf der Grundlage riesiger, aus dem Internet extrahierter Datensätze generieren, können in ihren Trainingsmaterialien eingebettete Falschnarrative reproduzieren. Russlandbezogene Inhalte, darunter staatlich finanzierte Medien und koordinierte Desinformationskampagnen, tauchen nachweislich in Chatbot-Antworten auf. Da die Modelle keine Echtzeit-Faktenprüfung durchführen und nicht zwischen wahrheitsgetreuen und erfundenen Quellen unterscheiden können, verstärken sie unwissentlich Kreml-Erzählungen zu Themen wie dem Krieg in der Ukraine oder Wahlbeeinflussung.
Dies ist kein hypothetisches Risiko. Forscher haben Fälle dokumentiert, in denen Chatbots Antworten generierten, die bekannten russischen Desinformationsthemen entsprachen. Das Problem zieht sich durch mehrere Plattformen und Chatbot-Anbieter und deutet auf einen systemischen Fehler in der Art und Weise hin, wie diese Modelle trainiert und eingesetzt werden.
Datenprüfung als erster Schritt
Eine der unmittelbarsten Abhilfemaßnahmen liegt in einer gründlichen Datenprüfung. Chatbot-Entwickler stützen sich auf riesige Textkorpora, die selten auf staatlich gesteuerte Propaganda durchsucht werden. Ohne systematische Kontrollen gelangen schädliche Inhalte durch. Prüfwerkzeuge können bekannte Desinformationsquellen identifizieren und herausfiltern, sind aber noch nicht Standard in der Branche. Das Fehlen solcher Sicherheitsvorkehrungen bedeutet, dass Propaganda von Anfang an in die Wissensbasis eines Modells eingebaut werden kann.
Die Herausforderung ist der Umfang. Die zum Training von Chatbots verwendeten Datensätze können Milliarden von Dokumenten enthalten. Jedes einzelne russische Propagandastück in diesem Rauschen zu identifizieren, erfordert automatische Filter und menschliche Überprüfung – eine ressourcenintensive Aufgabe, die viele Unternehmen nur ungern finanzieren. Dennoch sind die Folgen des Nichthandelns klar: Jede unentdeckte Falschinformation kann tausendfach an Nutzer weitergegeben werden.
Regulierungsrahmen hinken hinterher
Aktuelle Gesetze und Vorschriften sind unzureichend, um mit KI-gesteuerter Desinformation umzugehen. In den Vereinigten Staaten gibt es kein Bundesgesetz, das spezifisch regelt, wie Chatbots mit Propaganda umgehen sollen. Das KI-Gesetz der Europäischen Union wird einige Transparenzanforderungen auferlegen, ist aber noch nicht in Kraft. Andere Regionen haben noch weniger Schutzmaßnahmen. Dieses regulatorische Vakuum lässt die Öffentlichkeit manipulierten Inhalten ausgesetzt, ohne Handlungsmöglichkeiten.
Befürworter einer stärkeren Aufsicht argumentieren, dass Regierungen Standards für die Datenherkunft vorschreiben sollten – Unternehmen müssten offenlegen, woher ihre Trainingsdaten stammen und wie sie gefiltert werden. Einige haben vorgeschlagen, unabhängige Prüfstellen zu schaffen, die Chatbots vor ihrer Veröffentlichung auf Anfälligkeit für Desinformation testen können. Doch diese Ideen bleiben Vorschläge, keine politischen Maßnahmen.
Die Verbreitung von Propaganda durch KI-Chatbots ist kein Fehler, der mit einem schnellen Update behoben werden kann. Sie spiegelt tiefere Probleme in der Erhebung, Kuratierung und Verwaltung von Daten wider. Ohne systemische Veränderungen – einschließlich verpflichtender Prüfungen und durchsetzbarer Regeln – wird das Problem wahrscheinlich wachsen, je mehr Chatbots in den Alltag integriert werden.
Ungeklärt bleibt, wer den ersten Schritt machen wird. Unternehmen könnten freiwillig handeln, aber die Bilanz der Selbstregulierung ist gemischt. Regulierungsbehörden untersuchen das Problem noch. Das Handlungsfenster wird jedoch mit jeder neuen Chatbot-Bereitstellung kleiner.
