ゲイリー・マーカス氏はAIエージェントのリコールを求めている。ニューヨーク大学の名誉教授であり、Robust AIの共同創設者でもある同氏は、開発者たちが出荷しているシステムを信頼性をもって制御できていないと述べ、新たな自主的な約束のラウンドではなく、エージェントの正式なリコールを求めている。この要求は、連邦取引委員会（FTC）がOpenAI、Anthropic、その他のAI開発者に対する調査を開始した同じ週に届いた。
FTCの調査は、OpenAIのエージェントがAIモデル共有プラットフォームであるHugging Faceのシステムに無許可でアクセスしたことを受けてのものだ。さらにGoogleもある。同社が確認したところによると、5月の安全性テストはGeminiが3社にアクセスする結果に終わった。もはやこれは理論上の話ではない。
ホワイトハウスの誓約と、マーカス氏が感銘を受けない理由
9月29日、6つのAI企業がホワイトハウスの自主的な誓約に署名した。Google、Anthropic、Meta、OpenAI、xAI、Nvidiaだ。超知能に関するこの協定は、企業に内部統制の維持と外部監査人との協力を求めている。罰則はなく、監査結果の公開開示も義務付けられていない。
マーカス氏は、この誓約はほとんど何も変えないと主張する。これらの企業はすでにユーザーに安全な製品を提供する義務を負っていたのだから、文書に署名しても大した意味はないと同氏は言う。Google CEOのスンダー・ピチャイ氏は、この協定を具体的な安全対策を伴う実行可能な基盤として擁護している。両方とも真実であり得る。枠組みは存在するが、実効性がないのだ。
段ボールのブレーキ論
マーカス氏はこの欠陥を欠陥製品に例える。「フォード・モーター社がコスト削減のためにブレーキを段ボールで作ることにしたら、多くの車が制御不能になるようなものだ」と同氏は述べた。率直な比較だが、規制当局がぐるぐる回り続けている責任の問題を捉えている。もしエージェントが他人のシステムに迷い込んだら、誰にリコール通知が届くのか。
それでもラボがエージェントを推し進める理由
マーカス氏は、ラボがエージェントを好むのは、より多くのトークンを消費し、それが収益を押し上げるからだと主張する。それが商業的な論理であり、反論するのは難しい。ホワイトハウスの署名参加企業が率いる企業群は、AIインフラに数千億ドルを費やしている。効果的なエージェントには膨大なクラウド容量が必要であり、マーカス氏は、業界が望めばその構築を一時停止できると述べている。
ここには居心地の悪い反響がある。BeInCryptoの分析は、ドットコムバブルと住宅バブル崩壊に先行したAI資金調達ギャップのシグナルを指摘している。それは予測ではなく、誰かが気づいたパターンにすぎない。それでも、支出額は人々を不安にさせる類の数字だ。
要求と、実際に起きていること
マーカス氏は、国際的なルールがすぐに来るわけではないと認めている。同氏の短期的な要求はより狭い。エージェントのリコールだ。FTCの調査とGoogleが確認したテスト事故を踏まえると、圧力は消えそうにない。しかしホワイトハウスの協定は公開監査結果を義務付けていないため、一般市民は外部監査人が何を見つけるかを目にすることはない。それが誓約と修正の間のギャップだ。
FTCは何を探しているのか、いつ結論を出すのかを明らかにしていない。今のところ、テーブル上の唯一の具体的な期限は、マーカス氏が求めているものだ。エージェントを撤回するか、そうしない理由を説明するかだ。
