Các cuộc thử nghiệm của Financial Times cho thấy các biện pháp kiểm soát an toàn AI của Meta và Google có thể bị vượt qua trong vài phút. Những phát hiện này thách thức các tuyên bố về độ chắc chắn của các biện pháp bảo vệ hiện tại.
Phương pháp thử nghiệm
Các phóng viên đã sử dụng các đầu vào tiêu chuẩn để yêu cầu mô hình tạo ra nội dung có hại. Họ đã thử nghiệm các công cụ AI công khai của cả hai công ty trong điều kiện bình thường. Việc vượt qua xảy ra mà không cần kỹ năng kỹ thuật chuyên sâu.
Phản hồi từ các nền tảng
Meta cho biết họ liên tục cập nhật hệ thống và đã bổ sung các hạn chế mới kể từ sau cuộc thử nghiệm. Google tuyên bố họ sử dụng nhiều lớp an toàn và nhanh chóng giải quyết các vấn đề khi được phát hiện. Cả hai công ty đều không phản bác các phát hiện của FT.
Áp lực từ cơ quan quản lý
Hạn chót tháng 10 năm 2024 của Đạo luật AI EU đang đến gần để tuân thủ. Các cơ quan quản lý hiện chỉ ra các cuộc thử nghiệm này như bằng chứng cho thấy hoạt động tự quản lý hiện tại của ngành thất bại. Các nhà lập pháp tại Brussels đang xem xét báo cáo để có các hành động thực thi tiềm năng.
Rủi ro cho người dùng
Các đầu ra không được lọc bao gồm lời khuyên có hại và thông tin sai lệch. Các công cụ bị ảnh hưởng được người tiêu dùng và nhà phát triển sử dụng rộng rãi. Các công ty khẳng định hầu hết người dùng sẽ không gặp phải những vấn đề này trong quá trình sử dụng thông thường.
Cuộc thử nghiệm của Financial Times cho thấy các biện pháp bảo vệ AI hiện tại dễ dàng bị phá vỡ như thế nào. Giờ đây, các công ty phải sửa những lỗ hổng này trước khi hạn chót tháng 10 của EU đến.
