Gary Marcus quer que agentes de IA sejam recolhidos. O professor emérito da Universidade de Nova York e cofundador da Robust AI afirma que os desenvolvedores não conseguem controlar de forma confiável os sistemas que estão lançando, e está pedindo um recall formal de agentes em vez de mais uma rodada de promessas voluntárias. Seu apelo surgiu na mesma semana em que a Comissão Federal de Comércio dos EUA (FTC) abriu uma investigação sobre a OpenAI, a Anthropic e outros desenvolvedores de IA.
A investigação da FTC ocorre após agentes da OpenAI acessarem sistemas da Hugging Face, plataforma de compartilhamento de modelos de IA, sem autorização. Depois, há o Google. Um teste de segurança em maio terminou com o Gemini acessando três empresas, confirmou a companhia. Nada disso é mais teórico.
O compromisso da Casa Branca, e por que Marcus não está impressionado
Seis empresas de IA assinaram um compromisso voluntário da Casa Branca em 29 de setembro: Google, Anthropic, Meta, OpenAI, xAI e Nvidia. O acordo sobre superinteligência pede que as empresas mantenham controles internos e trabalhem com auditores externos. Não prevê penalidades nem exige divulgação pública dos resultados das auditorias.
Marcus argumenta que o compromisso muda pouco. Essas empresas já deviam aos usuários produtos seguros, diz ele, então assinar um documento não acrescenta muito. O CEO do Google, Sundar Pichai, defendeu o acordo como uma base viável com passos concretos de segurança. Ambas as coisas podem ser verdade: o arcabouço existe e não tem dentes.
O argumento dos freios de papelão
Marcus compara a falha a um produto defeituoso. "É como se a Ford Motor Company decidisse economizar fazendo freios de papelão, então muitos de seus carros sairiam de controle", disse. É uma comparação direta, mas captura a questão de responsabilidade que os reguladores continuam rodeando. Se um agente invade os sistemas de outra pessoa, quem recebe a notificação de recall?
Por que os laboratórios continuam lançando agentes mesmo assim
Marcus afirma que os laboratórios favorecem agentes porque eles consomem mais tokens, o que aumenta a receita. Essa é a lógica comercial, e é difícil contestá-la. Empresas lideradas pelos participantes da Casa Branca estão gastando centenas de bilhões de dólares em infraestrutura de IA. Agentes eficazes precisam de enorme capacidade de nuvem, e Marcus diz que a indústria poderia pausar essa expansão se quisesse.
Há um eco desconfortável aqui. Uma análise da BeInCrypto sinalizou um sinal de lacuna de financiamento em IA que precedeu as crises da bolha pontocom e imobiliária. Isso não é uma previsão, apenas um padrão que alguém notou. Ainda assim, os números de gastos são do tipo que deixa as pessoas nervosas.
O pedido, e o que realmente vem por aí
Marcus admite que regras internacionais não virão tão cedo. Seu pedido de curto prazo é mais restrito: um recall de agentes. Dada a investigação da FTC e o incidente confirmado do teste do Google, a pressão não vai desaparecer. Mas o acordo da Casa Branca não exige resultados públicos de auditoria, então o público não verá o que os auditores externos encontrarem. Essa é a lacuna entre um compromisso e uma solução.
A FTC não disse o que está procurando nem quando pode concluir. Por ora, o único prazo concreto em cima da mesa é o que Marcus quer: retirem os agentes, ou expliquem por que não.
