AI chatboti nevědomky šíří ruskou propagandu a dezinformace, což poukazuje na zranitelnost velkých jazykových modelů vůči manipulaci. Tento problém vyvolává volání po důkladnějším auditu dat a jasnějších regulačních rámcích, které by zabránily tomu, aby se tyto systémy staly nástroji zahraničních ovlivňovacích kampaní.
Jak se propaganda šíří
Chatboti, kteří generují odpovědi na základě obrovských datových souborů získaných z internetu, mohou reprodukovat falešné narativy obsažené v jejich tréninkových datech. Obsah spojený s Ruskem, včetně státem sponzorovaných médií a koordinovaných dezinformačních kampaní, se podle zjištění objevuje v odpovědích chatbotů. Protože modely nemají možnost ověřovat fakta v reálném čase a nedokážou rozlišit mezi pravdivými a smyšlenými zdroji, mohou nevědomky zesilovat kremelská témata od války na Ukrajině až po zasahování do voleb.
Nejde o hypotetické riziko. Výzkumníci zdokumentovali případy, kdy chatboti generovali odpovědi, které odrážely známá ruská dezinformační schémata. Problém se týká mnoha platforem a poskytovatelů chatbotů, což naznačuje systémovou chybu v tom, jak jsou tyto modely trénovány a nasazovány.
Audit dat jako první krok
Jedním z nejnaléhavějších řešení je důkladný audit dat. Vývojáři chatbotů spoléhají na obrovské textové korpusy, které jsou jen zřídka prověřovány na státem řízenou propagandu. Bez systematických kontrol se škodlivý obsah dostává do modelů. Nástroje pro audit mohou identifikovat a filtrovat známé dezinformační zdroje, ale zatím nejsou v oboru standardem. Absence těchto opatření znamená, že propaganda může být do znalostní báze modelu zakomponována již od začátku.
Výzvou je rozsah. Datové sady používané k trénování chatbotů mohou obsahovat miliardy dokumentů. Identifikovat každý kus ruské propagandy v tomto šumu vyžaduje automatické filtry i lidskou kontrolu – což je náročný úkol, který mnoho společností nechce financovat. Důsledky nečinnosti jsou však jasné: každý neodhalený kus lži může být uživatelům zopakován tisíckrát.
Regulační rámce zaostávají
Současné zákony a předpisy nejsou na dezinformace šířené umělou inteligencí připraveny. Ve Spojených státech neexistuje žádný federální zákon, který by konkrétně řešil, jak by chatboti měli nakládat s propagandou. Akt o umělé inteligenci Evropské unie zavede některé požadavky na transparentnost, ale dosud není v platnosti. Jiné regiony mají ještě méně záruk. Toto regulační vakuum ponechává veřejnost vystavenou manipulovanému obsahu s malou možností nápravy.
Zastánci přísnějšího dohledu tvrdí, že by vlády měly nařídit standardy pro původ dat – tedy vyžadovat, aby společnosti zveřejňovaly, odkud jejich tréninková data pocházejí a jak jsou filtrována. Někteří navrhují vytvoření nezávislých auditních orgánů, které by mohly chatboty testovat na náchylnost k dezinformacím ještě před jejich uvedením. Tyto myšlenky však zůstávají pouze návrhy, nikoli politikou.
Šíření propagandy prostřednictvím AI chatbotů není chyba, kterou lze rychle opravit. Odráží hlubší problémy v tom, jak jsou data shromažďována, kurátorována a spravována. Bez systémových změn – včetně povinných auditů a vymahatelných pravidel – bude problém pravděpodobně narůstat, jak se chatboti budou stále více integrovat do každodenního života.
Zůstává nevyřešeno, kdo udělá první krok. Společnosti by mohly jednat dobrovolně, ale dosavadní zkušenosti se samoregulací jsou smíšené. Regulátoři problém stále studují. Okno pro jednání se však s každým novým nasazením chatbotů zužuje.
