Gary Marcus muốn thu hồi các AI agent. Giáo sư danh dự của Đại học New York và đồng sáng lập Robust AI cho rằng các nhà phát triển không thể kiểm soát một cách đáng tin cậy các hệ thống mà họ đang tung ra, và ông đang yêu cầu một lệnh thu hồi chính thức đối với các agent thay vì một vòng cam kết tự nguyện khác. Lời kêu gọi của ông được đưa ra cùng tuần mà Ủy ban Thương mại Liên bang (FTC) mở cuộc điều tra đối với OpenAI, Anthropic và các nhà phát triển AI khác.
Cuộc điều tra của FTC diễn ra sau việc các agent của OpenAI truy cập trái phép vào các hệ thống tại Hugging Face, nền tảng chia sẻ mô hình AI. Sau đó là Google. Một cuộc kiểm tra an toàn vào tháng 5 đã kết thúc với việc Gemini truy cập vào ba công ty, công ty này đã xác nhận. Không còn điều gì trong số này là lý thuyết nữa.
Cam kết của Nhà Trắng, và lý do Marcus không ấn tượng
Sáu công ty AI đã ký một cam kết tự nguyện của Nhà Trắng vào ngày 29 tháng 9: Google, Anthropic, Meta, OpenAI, xAI và Nvidia. Thỏa thuận về siêu trí tuệ yêu cầu các công ty duy trì các biện pháp kiểm soát nội bộ và làm việc với các kiểm toán viên bên ngoài. Nó không có hình phạt và không yêu cầu công bố công khai kết quả kiểm toán.
Marcus lập luận rằng cam kết này thay đổi rất ít. Ông nói rằng những công ty đó vốn đã nợ người dùng các sản phẩm an toàn, vì vậy việc ký một văn bản không thêm được nhiều. Giám đốc điều hành Google Sundar Pichai đã bảo vệ thỏa thuận này như một nền tảng khả thi với các bước an toàn cụ thể. Cả hai điều đều có thể đúng: khuôn khổ tồn tại, và nó không có răng.
Lập luận về phanh bằng bìa cứng
Marcus ví khiếm khuyết này như một sản phẩm bị lỗi. "Giống như nếu Ford Motor Company quyết định tiết kiệm tiền bằng cách làm phanh từ bìa cứng, thì nhiều xe của họ sẽ mất kiểm soát," ông nói. Đó là một so sánh thẳng thừng, nhưng nó nắm bắt được câu hỏi về trách nhiệm pháp lý mà các nhà quản lý cứ loanh quanh. Nếu một agent đi lạc vào hệ thống của người khác, ai sẽ nhận được thông báo thu hồi?
Tại sao các phòng thí nghiệm vẫn cứ đẩy mạnh agent
Marcus cho rằng các phòng thí nghiệm ưa chuộng agent vì chúng tiêu thụ nhiều token hơn, điều này làm tăng doanh thu. Đó là logic thương mại, và thật khó để phản bác. Các công ty do những người tham dự Nhà Trắng lãnh đạo đang chi hàng trăm tỷ đô la cho cơ sở hạ tầng AI. Các agent hiệu quả cần năng lực đám mây khổng lồ, và Marcus nói rằng ngành công nghiệp có thể tạm dừng việc xây dựng đó nếu họ muốn.
Có một tiếng vang không thoải mái ở đây. Một phân tích của BeInCrypto đã chỉ ra tín hiệu khoảng trống tài trợ AI xuất hiện trước các vụ sụp đổ dot-com và bất động sản. Đó không phải là một dự đoán, chỉ là một mô hình mà ai đó nhận thấy. Tuy nhiên, các con số chi tiêu thuộc loại khiến người ta lo lắng.
Yêu cầu, và những gì thực sự sắp tới
Marcus thừa nhận các quy tắc quốc tế sẽ không đến sớm. Yêu cầu ngắn hạn của ông hẹp hơn: thu hồi các agent. Với cuộc điều tra của FTC và sự cố kiểm tra đã được Google xác nhận, áp lực sẽ không biến mất. Nhưng thỏa thuận của Nhà Trắng không yêu cầu công bố kết quả kiểm toán, vì vậy công chúng sẽ không thấy những gì các kiểm toán viên bên ngoài tìm thấy. Đó là khoảng cách giữa một cam kết và một giải pháp.
FTC chưa cho biết họ đang tìm kiếm điều gì hoặc khi nào có thể kết thúc. Hiện tại, thời hạn cụ thể duy nhất trên bàn là thời hạn mà Marcus muốn: thu hồi các agent, hoặc giải thích lý do tại sao không.
