Một báo cáo mới lập luận rằng các tác nhân AI nên được đối xử như thành viên của lực lượng lao động, chứ không chỉ là công cụ phần mềm. Sự thay đổi này diễn ra khi các tác nhân AI đã vượt qua cảnh báo thụ động để thực hiện các hành động tự chủ—đặt chỗ, chặn, nộp hồ sơ, gắn cờ—mà không cần con người nhấn nút mỗi lần. Theo mô hình được đề xuất, trách nhiệm pháp lý cho những hành động đó vẫn thuộc về các nhà quản lý con người, những người sẽ giám sát các tác nhân giống như họ giám sát nhân viên cấp dưới.
Từ cảnh báo đến hành động
Trong nhiều năm, AI trong vận hành bảo mật chủ yếu là một máy dò khói. Nó theo dõi nhật ký, phát hiện bất thường và gửi cảnh báo để con người điều tra. Thế hệ AI tác nhân mới khép kín vòng lặp đó. Nó không chỉ nói "đăng nhập này có vẻ sai"—mà có thể vô hiệu hóa phiên, xoay vòng thông tin xác thực hoặc mở một phiếu yêu cầu. Trong phòng chống rửa tiền, nó có thể kéo lịch sử giao dịch, tập hợp hồ sơ vụ việc và chuyển đến để xem xét. Tuyên bố cốt lõi của báo cáo là các hệ thống này giờ đây là những chủ thể vận hành, không phải bộ công cụ hỗ trợ. Việc phân loại lại đó quan trọng vì nó thay đổi cách các công ty quản lý chúng: ai xem xét công việc của chúng, sai sót của chúng được ghi lại như thế nào và điều gì xảy ra khi một tác nhân hành động dựa trên hướng dẫn lỗi thời.
Vì sao trách nhiệm pháp lý vẫn thuộc về con người
Báo cáo thẳng thắn về trách nhiệm giải trình. Ngay cả khi một tác nhân AI tự hành động, người quản lý con người vẫn chịu trách nhiệm. Đó không phải là chi tiết kỹ thuật—mà là bản lề pháp lý và tổ chức. Các công ty không thể chuyển trách nhiệm cho một mô hình. Hiệu quả thực tế là các nhà quản lý cần biết các tác nhân của họ đang làm gì, nghĩa là cần có dấu vết kiểm toán, nhật ký hành động và đường dẫn leo thang rõ ràng. Điều đó cũng có nghĩa là đào tạo: nếu bạn đang quản lý một tác nhân, bạn cần hiểu ranh giới quyết định của nó như cách bạn hiểu về một nhân viên mới. Báo cáo không kêu gọi luật mới, nhưng đặt câu hỏi quản lý như một vấn đề cấp bách.
Áp lực tuân thủ
An ninh mạng, phòng chống rửa tiền và các nhóm tuân thủ là nơi sự thay đổi này tác động đầu tiên. Các chức năng này đang chìm trong cảnh báo và giấy tờ, và AI tác nhân hứa hẹn sẽ giảm bớt gánh nặng. Nhưng đây cũng là những chức năng mà sai sót mang trọng lượng pháp lý. Một tác nhân đóng cảnh báo gian lận quá nhanh, hoặc phân loại sai một giao dịch, tạo ra dấu vết mà kiểm toán viên sẽ theo dõi. Báo cáo gợi ý rằng việc đối xử với các tác nhân như thành viên lực lượng lao động buộc phải đặt ra những câu hỏi đúng đắn: Phạm vi của tác nhân là gì? Ai xem xét đầu ra của nó? Làm thế nào để sửa chữa nó? Những câu hỏi đó nghe như câu hỏi nhân sự, và đó chính là điểm mấu chốt.
Những gì nhà quản lý nên làm ngay bây giờ
Báo cáo không quy định một khuôn khổ duy nhất, nhưng logic của nó chỉ ra một vài bước đi. Kiểm kê các tác nhân của bạn và những gì chúng được phép làm. Chỉ định một người chủ sở hữu con người cho mỗi tác nhân. Ghi lại hành động của chúng theo cách có thể tồn tại qua một cuộc kiểm toán. Và đặt ra ranh giới—các tác nhân có thể chặn người dùng không nên cũng có thể phê duyệt hoàn tiền mà không cần xem xét. Không có gì trong số này là xa lạ; đó là cùng một kỷ luật bạn sẽ áp dụng cho một nhóm. Khác biệt là các tác nhân không hỏi lại khi hướng dẫn mơ hồ. Chúng hành động.
Việc công bố báo cáo làm tăng thêm áp lực lên một lĩnh vực hướng dẫn quản trị AI vốn đã đông đúc. Điều còn thiếu là một tiêu chuẩn về cách các hành động của tác nhân được ghi lại và xem xét trên các công cụ—một cái gì đó giống như nhật ký công việc cho phần mềm tự hành động. Cho đến khi điều đó tồn tại, các nhà quản lý phải tự chắp nối các biện pháp kiểm soát của riêng họ. Bước thực tế tiếp theo, theo cách diễn đạt của báo cáo, là các tổ chức nên coi việc giám sát tác nhân như một nhiệm vụ quản lý, không phải là suy nghĩ sau của bộ phận IT. Liệu điều đó có xảy ra trước khi hành động tự chủ tiếp theo diễn ra sai lầm hay không vẫn là một câu hỏi mở.
