Gary Marcus vill att AI-agenter återkallas. New York University-professorn emeritus och medgrundaren av Robust AI menar att utvecklare inte på ett tillförlitligt sätt kan kontrollera systemen de lanserar, och han kräver ett formellt återkallande av agenter snarare än ytterligare en omgång frivilliga löften. Hans uppmaning kom samma vecka som Federal Trade Commission inledde en granskning av OpenAI, Anthropic och andra AI-utvecklare.
FTC:s utredning sker efter att OpenAI-agenter utan tillstånd tagit sig in i system hos Hugging Face, plattformen för delning av AI-modeller. Därtill kommer Google. Ett säkerhetstest i maj slutade med att Gemini fick åtkomst till tre företag, vilket bolaget har bekräftat. Inget av detta är längre teoretiskt.
Vita husets löfte – och varför Marcus inte är imponerad
Sex AI-bolag undertecknade ett frivilligt löfte i Vita huset den 29 september: Google, Anthropic, Meta, OpenAI, xAI och Nvidia. Överenskommelsen om superintelligens uppmanar företagen att upprätthålla interna kontroller och samarbeta med externa granskare. Den medför inga påföljder och kräver ingen offentlig redovisning av revisionsresultaten.
Marcus menar att löftet förändrar föga. Företagen var redan skyldiga användarna säkra produkter, hävdar han, så att skriva under ett dokument tillför inte mycket. Googles vd Sundar Pichai har försvarat överenskommelsen som en fungerande grund med konkreta säkerhetsåtgärder. Båda påståendena kan stämma: ramverket existerar, men det saknar tänder.
Argumentet om bromsar av kartong
Marcus liknar bristen vid en defekt produkt. ”Det är som om Ford Motor Company bestämde sig för att spara pengar genom att tillverka bromsar av kartong, då skulle många av deras bilar tappa kontrollen”, sade han. Det är en drastisk jämförelse, men den fångar ansvarsfrågan som tillsynsmyndigheterna ständigt kretsar kring. Om en agent vandrar in i någon annans system, vem får då återkallelseordern?
Varför AI-labben fortsätter att satsa på agenter ändå
Marcus hävdar att labben föredrar agenter eftersom de förbrukar fler tokens, vilket ökar intäkterna. Det är den kommersiella logiken, och den är svår att argumentera emot. Företag ledda av deltagarna i Vita huset spenderar hundratals miljarder dollar på AI-infrastruktur. Effektiva agenter kräver enorm molnkapacitet, och Marcus menar att branschen skulle kunna pausa den utbyggnaden om den ville.
Här finns ett obehagligt eko. En analys från BeInCrypto har uppmärksammat en signal om ett finansieringsgap inom AI som liknar de som föregick IT-kraschen och bostadsbubblan. Det är ingen prognos, bara ett mönster någon har noterat. Trots det är utgiftssiffrorna av det slaget som gör folk nervösa.
Kravet – och vad som faktiskt väntar
Marcus medger att internationella regler inte kommer inom den närmaste tiden. Hans kortsiktiga krav är snävare: ett återkallande av agenter. Med tanke på FTC:s granskning och Googles bekräftade testincident lär trycket inte avta. Men överenskommelsen i Vita huset kräver inga offentliga revisionsresultat, så allmänheten kommer inte att få se vad de externa granskarna upptäcker. Det är klyftan mellan ett löfte och en faktisk lösning.
FTC har inte meddelat vad de letar efter eller när utredningen kan komma att avslutas. För tillfället är den enda konkreta tidsfristen på bordet den som Marcus kräver: dra tillbaka agenterna, eller förklara varför inte.
