Il termine 'jailbreaking' un tempo indicava lo sblocco degli iPhone per installare app non autorizzate. Ora descrive un tipo diverso di hack: ingannare i chatbot AI per ignorare le loro protezioni integrate. Per gli sviluppatori di modelli linguistici di grandi dimensioni come ChatGPT, questo gioco del gatto e del topo è un costante mal di testa.
Dai telefoni ai prompt
La parola 'jailbreaking' deriva dall'era degli iPhone, quando gli utenti aggiravano le restrizioni di Apple attraverso strumenti come Cydia. La stessa idea è stata riadattata per i sistemi AI. Così come chi jailbreakkava gli iPhone voleva eseguire software non approvato da Apple, chi fa jailbreaking ai chatbot vuole ottenere risposte che non dovrebbero dare. L'obiettivo non è sempre malevolo — a volte è curiosità, a volte è testare i limiti. Ma l'effetto è lo stesso: le restrizioni del modello vengono annullate.
Come funziona il gioco
Il gioco del gatto e del topo si svolge nei prompt. Gli utenti creano messaggi che chiedono al modello di interpretare un personaggio senza restrizioni, oppure formulano richieste come scenari ipotetici. Alcuni tentano di far ignorare al modello la propria formazione fingendo che la conversazione sia un gioco o una storia. Gli sviluppatori, a loro volta, aggiornano i filtri di sicurezza per intercettare questi trucchi. Ma non appena una scappatoia viene chiusa, se ne apre un'altra. È un botta e risposta che non mostra segni di rallentamento.
Perché gli sviluppatori sono preoccupati
I laboratori AI sono preoccupati perché i jailbreak riusciti possono portare a output dannosi. Un chatbot che normalmente si rifiuta di fornire istruzioni per attività pericolose potrebbe, se ingannato, fornire una guida passo-passo. Lo stesso vale per la generazione di discorsi d'odio, disinformazione o contenuti espliciti. Gli sviluppatori investono risorse significative nell'allineare i modelli per essere sicuri e utili. Il jailbreaking mina questo lavoro e solleva dubbi sull'affidabilità di questi sistemi. La posta in gioco è alta perché i LLM vengono integrati in sempre più prodotti ogni giorno.
Non c'è segno che la battaglia finirà presto. Mentre gli sviluppatori chiudono una falla, gli utenti ne trovano un'altra. La domanda è se i modelli futuri potranno essere resi abbastanza robusti da resistere a questi attacchi, o se il jailbreaking rimarrà una caratteristica permanente del panorama AI.
