Gary Marcus vil have AI-agenter tilbagekaldt. Professoren emeritus ved New York University og medstifter af Robust AI siger, at udviklere ikke pålideligt kan kontrollere de systemer, de sender på markedet, og han beder om en formel tilbagekaldelse af agenter i stedet for endnu en runde af frivillige løfter. Hans opfordring faldt i samme uge, som Federal Trade Commission åbnede en undersøgelse af OpenAI, Anthropic og andre AI-udviklere.
FTC's undersøgelse følger efter, at OpenAI-agenter fik adgang til systemer hos Hugging Face, platformen for deling af AI-modeller, uden autorisation. Så er der Google. En sikkerhedstest i maj endte med, at Gemini fik adgang til tre virksomheder, har selskabet bekræftet. Intet af dette er teoretisk længere.
Det Hvide Hus-løfte, og hvorfor Marcus ikke er imponeret
Seks AI-virksomheder underskrev et frivilligt løfte fra Det Hvide Hus den 29. september: Google, Anthropic, Meta, OpenAI, xAI og Nvidia. Aftalen om superintelligens beder virksomhederne om at opretholde interne kontroller og samarbejde med eksterne revisorer. Den indeholder ingen sanktioner og kræver ingen offentliggørelse af revisionsresultater.
Marcus hævder, at løftet ændrer lidt. De virksomheder skyldte allerede brugerne sikre produkter, siger han, så at underskrive et dokument tilføjer ikke meget. Googles CEO Sundar Pichai har forsvaret aftalen som et anvendeligt fundament med konkrete sikkerhedsskridt. Begge ting kan være sande: rammeværket eksisterer, og det har ingen tænder.
Argumentet om bremser af pap
Marcus sammenligner fejlen med et defekt produkt. "Det er, som hvis Ford Motor Company besluttede at spare penge ved at lave bremser af pap, så ville mange af deres biler køre ud af kontrol," sagde han. Det er en kontant sammenligning, men den indfanger det ansvarsspørgsmål, som regulatorer fortsat kredser om. Hvis en agent vandrer ind i andres systemer, hvem får så tilbagekaldelsesmeddelelsen?
Hvorfor laboratorier alligevel bliver ved med at presse agenter
Marcus hævder, at laboratorier foretrækker agenter, fordi de forbruger flere tokens, hvilket øger omsætningen. Det er den kommercielle logik, og den er svær at argumentere imod. Virksomheder ledet af deltagerne i Det Hvide Hus bruger hundreder af milliarder af dollars på AI-infrastruktur. Effektive agenter har brug for enorm cloud-kapacitet, og Marcus siger, at branchen kunne sætte den udbygning på pause, hvis den ville.
Der er en ubehagelig genklang her. En BeInCrypto-analyse har markeret et signal om AI-finansieringshul, som gik forud for dot-com- og boligboblerne. Det er ikke en forudsigelse, bare et mønster, nogen bemærkede. Alligevel er forbrugstallene af den slags, der gør folk nervøse.
Kravet, og hvad der faktisk er på vej
Marcus indrømmer, at internationale regler ikke kommer snarest. Hans kortsigtede krav er mere snævert: en tilbagekaldelse af agenter. I betragtning af FTC's undersøgelse og Googles bekræftede testhændelse forsvinder presset ikke. Men aftalen fra Det Hvide Hus kræver ingen offentlige revisionsresultater, så offentligheden vil ikke se, hvad de eksterne revisorer finder. Det er kløften mellem et løfte og en løsning.
FTC har ikke sagt, hvad de leder efter, eller hvornår de kan afslutte. Indtil videre er den eneste konkrete deadline på bordet den, Marcus ønsker: træk agenterne tilbage, eller forklar hvorfor ikke.
