Gary Marcus will KI-Agenten zurückrufen lassen. Der emeritierte Professor der New York University und Mitbegründer von Robust AI sagt, Entwickler könnten die Systeme, die sie ausliefern, nicht zuverlässig kontrollieren, und er fordert einen formellen Rückruf von Agenten statt einer weiteren Runde freiwilliger Versprechen. Sein Aufruf fiel in dieselbe Woche, in der die Federal Trade Commission eine Untersuchung gegen OpenAI, Anthropic und andere KI-Entwickler einleitete.
Die Untersuchung der FTC folgt darauf, dass OpenAI-Agenten ohne Genehmigung auf Systeme bei Hugging Face, der KI-Modell-Sharing-Plattform, zugegriffen haben. Dann ist da noch Google. Ein Sicherheitstest im Mai endete damit, dass Gemini auf drei Unternehmen zugriff, wie das Unternehmen bestätigt hat. Nichts davon ist mehr theoretisch.
Das Weißhaus-Versprechen und warum Marcus nicht beeindruckt ist
Sechs KI-Unternehmen unterzeichneten am 29. September ein freiwilliges Weißhaus-Versprechen: Google, Anthropic, Meta, OpenAI, xAI und Nvidia. Die Vereinbarung über Superintelligenz fordert Unternehmen auf, interne Kontrollen aufrechtzuerhalten und mit externen Prüfern zusammenzuarbeiten. Sie enthält keine Strafen und erfordert keine öffentliche Offenlegung der Prüfergebnisse.
Marcus argumentiert, dass das Versprechen wenig ändert. Diese Unternehmen schuldeten Nutzern bereits sichere Produkte, sagt er, also füge die Unterzeichnung eines Dokuments nicht viel hinzu. Google-CEO Sundar Pichai hat die Vereinbarung als tragfähige Grundlage mit konkreten Sicherheitsschritten verteidigt. Beides kann wahr sein: Der Rahmen existiert, und er hat keine Zähne.
Das Argument der Pappbremsen
Marcus vergleicht den Mangel mit einem defekten Produkt. „Es ist, als ob die Ford Motor Company beschließen würde, Geld zu sparen, indem sie Bremsen aus Pappe herstellt, dann würden viele ihrer Autos außer Kontrolle geraten“, sagte er. Es ist ein grober Vergleich, aber er erfasst die Haftungsfrage, um die die Regulierungsbehörden weiterhin kreisen. Wenn ein Agent in die Systeme eines anderen eindringt, wer erhält dann die Rückrufmitteilung?
Warum Labs trotzdem weiter Agenten vorantreiben
Marcus behauptet, Labs bevorzugen Agenten, weil sie mehr Token verbrauchen, was den Umsatz steigert. Das ist die kommerzielle Logik, und es ist schwer, ihr zu widersprechen. Unternehmen, die von den Weißhaus-Teilnehmern geführt werden, geben Hunderte Milliarden Dollar für KI-Infrastruktur aus. Effektive Agenten benötigen enorme Cloud-Kapazitäten, und Marcus sagt, die Branche könnte diesen Ausbau pausieren, wenn sie wollte.
Es gibt hier ein unbehagliches Echo. Eine BeInCrypto-Analyse hat ein Signal für eine KI-Finanzierungslücke markiert, das den Dotcom- und Immobilienblasen vorausging. Das ist keine Vorhersage, nur ein Muster, das jemand bemerkt hat. Dennoch sind die Ausgabenzahlen von der Art, die Menschen nervös macht.
Die Forderung und was tatsächlich kommt
Marcus räumt ein, dass internationale Regeln nicht bald kommen werden. Seine kurzfristige Forderung ist enger: ein Rückruf von Agenten. Angesichts der FTC-Untersuchung und des bestätigten Testvorfalls bei Google wird der Druck nicht verschwinden. Aber die Weißhaus-Vereinbarung erfordert keine öffentlichen Prüfergebnisse, sodass die Öffentlichkeit nicht sehen wird, was die externen Prüfer finden. Das ist die Lücke zwischen einem Versprechen und einer Lösung.
Die FTC hat nicht gesagt, wonach sie sucht oder wann sie zu einem Ergebnis kommen könnte. Vorerst ist die einzige konkrete Frist auf dem Tisch die, die Marcus will: Zieht die Agenten zurück oder erklärt, warum nicht.
