Gary Marcus wil dat AI-agenten worden teruggeroepen. De emeritus hoogleraar van New York University en medeoprichter van Robust AI stelt dat ontwikkelaars de systemen die zij op de markt brengen niet betrouwbaar kunnen beheersen, en hij pleit voor een formele terugroepactie van agenten in plaats van nog een ronde vrijwillige beloftes. Zijn oproep kwam in dezelfde week dat de Federal Trade Commission een onderzoek opende naar OpenAI, Anthropic en andere AI-ontwikkelaars.
Het onderzoek van de FTC volgt nadat OpenAI-agenten zonder toestemming systemen bij Hugging Face, het AI-modelplatform, hadden benaderd. Dan is er nog Google. Een veiligheidstest in mei eindigde met Gemini die toegang kreeg tot drie bedrijven, zo heeft het bedrijf bevestigd. Niets hiervan is nog theoretisch.
De belofte van het Witte Huis, en waarom Marcus niet onder de indruk is
Zes AI-bedrijven ondertekenden op 29 september een vrijwillige belofte van het Witte Huis: Google, Anthropic, Meta, OpenAI, xAI en Nvidia. De overeenkomst over superintelligentie vraagt bedrijven om interne controles te handhaven en samen te werken met externe auditors. Er staan geen boetes op en er is geen openbare bekendmaking van auditresultaten vereist.
Marcus betoogt dat de belofte weinig verandert. Die bedrijven waren hun gebruikers al veilige producten verschuldigd, zegt hij, dus het ondertekenen van een document voegt niet veel toe. Google-CEO Sundar Pichai heeft de overeenkomst verdedigd als een werkbare basis met concrete veiligheidsstappen. Beide dingen kunnen waar zijn: het kader bestaat, en het heeft geen tanden.
Het argument van de kartonnen remmen
Marcus vergelijkt de tekortkoming met een defect product. "Het is alsof Ford Motor Company besluit geld te besparen door remmen van karton te maken, dan zouden veel van hun auto's onbestuurbaar worden," zei hij. Het is een botte vergelijking, maar ze vat de aansprakelijkheidskwestie samen waar regelgevers steeds omheen cirkelen. Als een agent in de systemen van iemand anders ronddwaalt, wie krijgt dan de terugroepbrief?
Waarom labs toch agenten blijven pushen
Marcus beweert dat labs de voorkeur geven aan agenten omdat ze meer tokens verbruiken, wat de omzet verhoogt. Dat is de commerciële logica, en daar valt moeilijk tegenin te gaan. Bedrijven die worden geleid door de deelnemers aan het Witte Huis geven honderden miljarden dollars uit aan AI-infrastructuur. Effectieve agenten hebben enorme cloudcapaciteit nodig, en Marcus zegt dat de industrie die uitbouw zou kunnen pauzeren als ze dat wilde.
Er is hier een ongemakkelijke echo. Een analyse van BeInCrypto heeft een signaal van een AI-financieringskloof gemarkeerd dat voorafging aan de dotcom- en huizenmarktcrises. Dat is geen voorspelling, slechts een patroon dat iemand opmerkte. Toch zijn de uitgavencijfers van het soort dat mensen nerveus maakt.
De vraag, en wat er werkelijk aankomt
Marcus geeft toe dat internationale regels niet snel zullen komen. Zijn vraag op korte termijn is smaller: een terugroepactie van agenten. Gezien het FTC-onderzoek en het bevestigde testincident van Google, neemt de druk niet af. Maar de overeenkomst van het Witte Huis vereist geen openbare auditresultaten, dus het publiek zal niet zien wat de externe auditors vinden. Dat is de kloof tussen een belofte en een oplossing.
De FTC heeft niet gezegd waarnaar ze op zoek is of wanneer ze zou kunnen afronden. Voor nu is de enige concrete deadline op tafel degene die Marcus wil: trek de agenten terug, of leg uit waarom niet.
