Chatboții AI răspândesc fără să știe propagandă și dezinformare rusă, o evoluție care subliniază vulnerabilitatea modelelor lingvistice mari la manipulare. Dezvoltarea a generat apeluri pentru un audit mai riguros al datelor și cadre de reglementare mai clare pentru a preveni ca aceste sisteme să devină vectori pentru campanii de influență străină.
Cum se răspândește propaganda
Chatboții, care generează răspunsuri pe baza unor seturi vaste de date extrase de pe internet, pot reproduce narațiuni false încorporate în materialul lor de instruire. Conținutul legat de Rusia, inclusiv mass-media sponsorizate de stat și campanii coordonate de dezinformare, s-a dovedit a apărea în răspunsurile chatboților. Deoarece modelele nu au verificare a faptelor în timp real și nu pot distinge între surse adevărate și fabricate, ele pot amplifica fără voie teme de discurs ale Kremlinului pe subiecte care variază de la războiul din Ucraina la interferența electorală.
Acesta nu este un risc ipotetic. Cercetătorii au documentat cazuri în care chatboții au generat răspunsuri care oglindeau teme cunoscute de dezinformare rusă. Problema traversează multiple platforme și furnizori de chatboți, sugerând o defecțiune sistemică în modul în care aceste modele sunt instruite și implementate.
Auditul datelor ca prim pas
Una dintre cele mai imediate remedii constă în auditul riguros al datelor. Dezvoltatorii de chatboți se bazează pe corpusuri enorme de text care sunt rareori curățate de propagandă sponsorizată de stat. Fără verificări sistematice, conținutul dăunător trece neobservat. Instrumentele de audit pot identifica și filtra sursele cunoscute de dezinformare, dar acestea nu sunt încă o practică standard în industrie. Lipsa acestor garanții înseamnă că propaganda poate fi încorporată în baza de cunoștințe a unui model de la bun început.
Provocarea este scara. Seturile de date folosite pentru instruirea chatboților pot conține miliarde de documente. Identificarea fiecărei piese de propagandă rusă în acest zgomot necesită filtre automate și revizuire umană — o sarcină consumatoare de resurse pe care multe companii ezită să o finanțeze. Cu toate acestea, consecințele inacțiunii sunt clare: fiecare neadevăr nedetectat poate fi regurgitat utilizatorilor de mii de ori.
Cadrele de reglementare rămân în urmă
Legile și reglementările actuale sunt prost echipate pentru a face față dezinformării generate de AI. În Statele Unite, niciun statut federal nu abordează specific modul în care chatboții ar trebui să gestioneze propaganda. Actul UE privind IA va impune unele cerințe de transparență, dar nu este încă în vigoare. Alte regiuni au și mai puține măsuri de protecție. Acest vid de reglementare lasă publicul expus la conținut manipulat, cu puține căi de recurs.
Susținătorii unei supravegheri mai stricte argumentează că guvernele ar trebui să impună standarde de proveniență a datelor — obligând companiile să dezvăluie de unde provin datele lor de instruire și cum sunt filtrate. Unii au propus crearea unor organisme de audit independente care să poată testa chatboții pentru susceptibilitatea la dezinformare înainte de lansare. Dar aceste idei rămân propuneri, nu politici.
Răspândirea propagandei prin chatboți AI nu este o eroare pe care o poate rezolva un patch rapid. Ea reflectă probleme mai profunde în modul în care datele sunt colectate, curate și guvernate. Fără schimbări sistemice — inclusiv audituri obligatorii și reguli aplicabile — problema este probabil să crească pe măsură ce chatboții devin mai integrați în viața de zi cu zi.
Ceea ce rămâne nerezolvat este cine va face primul pas. Companiile ar putea acționa voluntar, dar istoricul privind autoreglementarea este mixt. Reglementatorii încă studiază problema. Fereastra de acțiune, însă, se îngustează cu fiecare nouă implementare de chatboți.
