I chatbot basati sull'intelligenza artificiale stanno diffondendo inconsapevolmente propaganda e disinformazione russa, un fenomeno che evidenzia la vulnerabilità dei modelli linguistici di grandi dimensioni alla manipolazione. La questione ha sollevato richieste di controlli più rigorosi sui dati e di quadri normativi più chiari per impedire che questi sistemi diventino veicoli di campagne di influenza straniera.
Come si diffonde la propaganda
I chatbot, che generano risposte basate su enormi insiemi di dati raccolti dal web, possono riprodurre narrazioni false incorporate nel loro materiale di addestramento. Contenuti legati alla Russia, inclusi media finanziati dallo Stato e campagne coordinate di disinformazione, sono emersi nelle risposte dei chatbot. Poiché i modelli non dispongono di un fact-checking in tempo reale e non sono in grado di distinguere tra fonti veritiere e fabbricate, possono involontariamente amplificare i punti di discussione del Cremlino su argomenti che vanno dalla guerra in Ucraina all'interferenza elettorale.
Non si tratta di un rischio puramente teorico. I ricercatori hanno documentato casi in cui i chatbot hanno generato risposte che rispecchiavano temi noti della disinformazione russa. Il problema attraversa diverse piattaforme e fornitori di chatbot, suggerendo una falla sistemica nel modo in cui questi modelli vengono addestrati e implementati.
La verifica dei dati come primo passo
Uno dei rimedi più immediati risiede in una rigorosa verifica dei dati. Gli sviluppatori di chatbot si affidano a enormi corpus testuali che raramente vengono ripuliti dalla propaganda legata a Stati. Senza controlli sistematici, i contenuti dannosi passano inosservati. Gli strumenti di auditing possono identificare e filtrare le fonti note di disinformazione, ma non sono ancora una pratica standard nel settore. L'assenza di tali garanzie significa che la propaganda può essere incorporata nella base di conoscenze del modello fin dall'inizio.
La sfida è la scala. I set di dati utilizzati per addestrare i chatbot possono contenere miliardi di documenti. Identificare ogni singolo pezzo di propaganda russa in questo rumore richiede filtri automatizzati e revisione umana, un compito dispendioso in termini di risorse che molte aziende sono riluttanti a finanziare. Tuttavia, le conseguenze dell'inazione sono chiare: ogni singola falsità non rilevata può essere ripetuta agli utenti migliaia di volte.
I quadri normativi sono in ritardo
Le leggi e le normative attuali non sono adeguate per gestire la disinformazione generata dall'IA. Negli Stati Uniti non esiste una legge federale che affronti specificamente come i chatbot dovrebbero gestire la propaganda. L'AI Act dell'Unione Europea imporrà alcuni requisiti di trasparenza, ma non è ancora in vigore. Altre regioni hanno ancora meno tutele. Questo vuoto normativo lascia il pubblico esposto a contenuti manipolati con pochi mezzi di ricorso.
I sostenitori di una supervisione più forte sostengono che i governi dovrebbero imporre standard di provenienza dei dati, richiedendo alle aziende di divulgare da dove provengono i loro dati di addestramento e come vengono filtrati. Alcuni hanno proposto la creazione di organismi di audit indipendenti in grado di testare i chatbot per la suscettibilità alla disinformazione prima del loro rilascio. Ma queste idee rimangono proposte, non politiche attuate.
La diffusione della propaganda attraverso i chatbot AI non è un bug che si possa risolvere con una rapida patch. Riflette problemi più profondi nel modo in cui i dati vengono raccolti, curati e governati. Senza cambiamenti sistemici, inclusi audit obbligatori e regole applicabili, è probabile che il problema cresca man mano che i chatbot diventano più integrati nella vita quotidiana.
Rimane irrisolto chi farà il primo passo. Le aziende potrebbero agire volontariamente, ma il bilancio dell'autoregolamentazione è contrastante. I regolatori stanno ancora studiando il problema. Tuttavia, la finestra per agire si sta restringendo con ogni nuovo dispiegamento di chatbot.
