Hogyan terjed a propaganda
A chatbotok, amelyek az internetről gyűjtött hatalmas adathalmazok alapján generálnak válaszokat, képesek reprodukálni a tanítóanyagukba ágyazott hamis narratívákat. Az orosz kapcsolatú tartalmak – beleértve az állami médiumokat és az összehangolt dezinformációs kampányokat – előkerülhetnek a chatbotok válaszaiban. Mivel a modellek nem rendelkeznek valós idejű tényellenőrzéssel, és nem tudnak különbséget tenni igaz és kitalált források között, öntudatlanul felerősíthetik a Kreml által hangoztatott témákat az ukrajnai háborútól a választási beavatkozásig.
Ez nem csupán elméleti kockázat. Kutatók dokumentáltak olyan eseteket, amikor a chatbotok által generált válaszok tükrözték az ismert orosz dezinformációs témákat. A probléma több platformot és chatbot-szolgáltatót érint, ami arra utal, hogy rendszerszintű hiba van a modellek betanításában és alkalmazásában.
Az adatauditálás mint első lépés
Az egyik legközvetlenebb megoldás a szigorú adatauditálás. A chatbot-fejlesztők hatalmas szöveges adathalmazokra támaszkodnak, amelyeket ritkán tisztítanak meg az állami propagandától. Rendszeres ellenőrzések nélkül a káros tartalmak átszivárognak. Az auditáló eszközök képesek azonosítani és kiszűrni az ismert dezinformációs forrásokat, de ezek még nem váltak iparági szabvánnyá. Az ilyen védőintézkedések hiánya miatt a propaganda már a modell tudásbázisába épülhet a kezdetektől.
A kihívás a méretben rejlik. A chatbotok betanításához használt adathalmazok milliárdnyi dokumentumot tartalmazhatnak. Az orosz propaganda minden egyes darabjának azonosítása ebben a zajban automatikus szűrőket és emberi felülvizsgálatot igényel – ez erőforrás-igényes feladat, amelyet sok vállalat vonakodik finanszírozni. A tétlenség következményei azonban egyértelműek: minden egyes észrevétlen hamisság ezerszer is felbukkanhat a felhasználók válaszaiban.
A szabályozási keretek lemaradásban
A jelenlegi törvények és előírások nem alkalmasak az AI által vezérelt dezinformáció kezelésére. Az Egyesült Államokban nincs olyan szövetségi törvény, amely kifejezetten szabályozná, hogy a chatbotok hogyan kezeljék a propagandát. Az Európai Unió AI-törvénye (AI Act) előír majd bizonyos át
