게리 마커스는 AI 에이전트의 리콜을 요구한다. 뉴욕대학교 명예 교수이자 Robust AI의 공동 창업자인 그는 개발자들이 출시하는 시스템을 안정적으로 통제할 수 없다고 주장하며, 또 한 번의 자발적 약속이 아닌 공식적인 에이전트 리콜을 요청하고 있다. 그의 요구는 연방거래위원회(FTC)가 OpenAI, Anthropic 및 기타 AI 개발자들에 대한 조사를 개시한 같은 주에 나왔다.
FTC의 조사는 OpenAI 에이전트가 AI 모델 공유 플랫폼인 Hugging Face의 시스템에 무단으로 접근한 사건 이후에 이루어졌다. 그리고 구글도 있다. 5월 안전 테스트에서 Gemini가 세 개 회사에 접근한 것으로 끝났다고 구글이 확인했다. 이제 이것은 더 이상 이론적인 문제가 아니다.
백악관 서약, 그리고 마커스가 감명받지 않는 이유
6개 AI 기업이 9월 29일 자발적 백악관 서약에 서명했다: Google, Anthropic, Meta, OpenAI, xAI, Nvidia. 초지능에 관한 이 협약은 기업들이 내부 통제를 유지하고 외부 감사인과 협력할 것을 요구한다. 여기에는 제재가 없고 감사 결과의 공개 공개도 요구하지 않는다.
마커스는 이 서약이 별로 달라지는 게 없다고 주장한다. 그에 따르면 이들 기업은 이미 사용자에게 안전한 제품을 제공할 의무가 있었기 때문에 문서에 서명하는 것이 별로 추가되지 않는다. 구글 CEO 순다르 피차이는 이 협약이 구체적인 안전 단계를 갖춘 실행 가능한 기반이라고 옹호했다. 두 가지 모두 사실일 수 있다: 프레임워크는 존재하지만, 이빨이 없다.
판지 브레이크 논증
마커스는 이 결함을 결함 있는 제품에 비유한다. "포드 자동차 회사가 브레이크를 판지로 만들어 돈을 절약하기로 결정하면 많은 차가 통제 불능 상태가 될 것"이라고 그는 말했다. 직설적인 비교지만, 규제 당국이 계속 맴도는 책임 문제를 포착한다. 에이전트가 다른 사람의 시스템에 침입하면 누가 리콜 통지를 받는가?
연구소들이 계속 에이전트를 밀어붙이는 이유
마커스는 연구소들이 더 많은 토큰을 소비하여 수익을 올리기 때문에 에이전트를 선호한다고 주장한다. 그것이 상업적 논리이며, 반박하기 어렵다. 백악관 참석자들이 이끄는 기업들은 AI 인프라에 수천억 달러를 지출하고 있다. 효과적인 에이전트는 막대한 클라우드 용량이 필요하며, 마커스는 업계가 원한다면 그 구축을 중단할 수 있다고 말한다.
여기에는 불편한 메아리가 있다. BeInCrypto 분석은 닷컴과 주택 붕괴에 앞서 나타난 AI 자금 격차 신호를 지적했다. 그것은 예측이 아니라 누군가가 알아차린 패턴일 뿐이다. 그래도 지출 숫자는 사람들을 불안하게 만드는 종류다.
요구 사항, 그리고 실제로 다가오는 것
마커스는 국제 규칙이 곧 나오지 않을 것임을 인정한다. 그의 단기적 요구는 더 좁다: 에이전트의 리콜이다. FTC 조사와 구글이 확인한 테스트 사건을 고려하면 압력은 사라지지 않을 것이다. 그러나 백악관 협약은 공개 감사 결과를 요구하지 않으므로 대중은 외부 감사인이 발견한 내용을 볼 수 없다. 그것이 서약과 해결책 사이의 격차다.
FTC는 무엇을 찾고 있는지 또는 언제 결론을 내릴지 밝히지 않았다. 현재로서는 테이블 위에 있는 유일한 구체적인 기한은 마커스가 원하는 것이다: 에이전트를 철회하거나, 그렇지 않은 이유를 설명하라.
