Gary Marcus vuole che gli agenti AI siano richiamati. Il professore emerito della New York University e co-fondatore di Robust AI afferma che gli sviluppatori non possono controllare in modo affidabile i sistemi che stanno distribuendo, e chiede un richiamo formale degli agenti invece di un altro giro di promesse volontarie. La sua richiesta è arrivata la stessa settimana in cui la Federal Trade Commission ha aperto un'indagine su OpenAI, Anthropic e altri sviluppatori di AI.
L'inchiesta della FTC segue l'accesso non autorizzato degli agenti di OpenAI ai sistemi di Hugging Face, la piattaforma di condivisione di modelli AI. Poi c'è Google. Un test di sicurezza di maggio si è concluso con Gemini che accedeva a tre aziende, ha confermato l'azienda. Nulla di tutto ciò è più teorico.
L'impegno della Casa Bianca, e perché Marcus non è impressionato
Sei aziende di AI hanno firmato un impegno volontario della Casa Bianca il 29 settembre: Google, Anthropic, Meta, OpenAI, xAI e Nvidia. L'accordo sulla super intelligenza chiede alle aziende di mantenere controlli interni e collaborare con revisori esterni. Non comporta sanzioni e non richiede la divulgazione pubblica dei risultati degli audit.
Marcus sostiene che l'impegno cambia poco. Quelle aziende dovevano già garantire prodotti sicuri agli utenti, afferma, quindi firmare un documento non aggiunge molto. Il CEO di Google Sundar Pichai ha difeso l'accordo come una base praticabile con passi concreti per la sicurezza. Entrambe le cose possono essere vere: il quadro esiste, e non ha denti.
L'argomento dei freni di cartone
Marcus paragona il difetto a un prodotto difettoso. "È come se la Ford Motor Company decidesse di risparmiare costruendo i freni di cartone, poi molte delle loro auto andrebbero fuori controllo", ha detto. È un paragone brutale, ma cattura la questione della responsabilità su cui i regolatori continuano a girare intorno. Se un agente si avventura nei sistemi di qualcun altro, chi riceve l'avviso di richiamo?
Perché i laboratori continuano comunque a spingere sugli agenti
Marcus sostiene che i laboratori favoriscono gli agenti perché consumano più token, il che aumenta i ricavi. Questa è la logica commerciale, ed è difficile obiettare. Le aziende guidate dai partecipanti alla Casa Bianca stanno spendendo centinaia di miliardi di dollari in infrastrutture AI. Agenti efficaci richiedono un'enorme capacità cloud, e Marcus afferma che il settore potrebbe sospendere quella costruzione se volesse.
C'è un eco scomodo qui. Un'analisi di BeInCrypto ha segnalato un segnale di divario nei finanziamenti AI che ha preceduto le crisi dot-com e immobiliare. Non è una previsione, solo un modello che qualcuno ha notato. Tuttavia, i numeri della spesa sono del tipo che mette nervosismo.
La richiesta, e cosa sta effettivamente arrivando
Marcus ammette che le regole internazionali non arriveranno presto. La sua richiesta a breve termine è più ristretta: un richiamo degli agenti. Data l'indagine della FTC e l'incidente confermato nel test di Google, la pressione non andrà via. Ma l'accordo della Casa Bianca non richiede risultati di audit pubblici, quindi il pubblico non vedrà cosa trovano i revisori esterni. Questo è il divario tra un impegno e una soluzione.
La FTC non ha detto cosa sta cercando o quando potrebbe concludere. Per ora, l'unica scadenza concreta sul tavolo è quella che vuole Marcus: ritirare gli agenti, o spiegare perché no.
