Các nhà quản lý Mỹ đang thắt chặt giám sát trí tuệ nhân tạo trong ngân hàng, một sự thay đổi đã đẩy chi phí tuân thủ lên cao hơn và buộc các ngân hàng phải xem xét kỹ hơn các nhà cung cấp bên ngoài mà họ phụ thuộc. Sự giám sát gia tăng này không đi kèm với một quy định mới hay một hành động thực thi gây chú ý nào. Thay vào đó, đó là sự tích lũy đều đặn các hướng dẫn và kiểm tra đang thay đổi cách các ngân hàng tiếp cận AI.
Đối với một ngành đang chạy đua triển khai AI cho mọi thứ từ chấm điểm tín dụng đến dịch vụ khách hàng, thông điệp rất rõ ràng: hãy hành động nhanh, nhưng phải sẵn sàng giải thích cách các mô hình của bạn hoạt động và ai đang giám sát chúng.
Tại sao các nhà quản lý đang chú ý hơn
AI đã âm thầm trở thành một phần cốt lõi trong hệ thống ngân hàng Mỹ. Nó giúp quyết định ai được vay, gắn cờ các giao dịch đáng ngờ và xử lý hàng triệu truy vấn của khách hàng. Chính sự bao phủ rộng này là điều thu hút sự quan tâm của cơ quan quản lý. Các cơ quan muốn biết rằng những hệ thống này không đưa ra quyết định thiên vị, rằng chúng có thể được giải thích cho các thanh tra viên và rằng chúng không tạo ra rủi ro vận hành mới.
Mối lo ngại không phải là giả thuyết. Khi một mô hình AI từ chối khoản vay hoặc gắn cờ giao dịch, ngân hàng phải có khả năng biện minh cho quyết định đó — với khách hàng và với cơ quan quản lý. Khi AI đảm nhận nhiều trách nhiệm hơn, những lời biện minh đó trở nên khó đưa ra hơn.
Chi phí tuân thủ đang tăng
Tác động tức thời nhất là lên lợi nhuận. Các ngân hàng đang chi nhiều hơn cho đội ngũ tuân thủ, quản lý rủi ro mô hình và kiểm toán bên ngoài. Họ đang tuyển dụng các nhà khoa học dữ liệu hiểu cả học máy và quy định ngân hàng — một sự kết hợp hiếm và đắt đỏ. Họ cũng đang đầu tư vào các công cụ để giám sát hệ thống AI về sự trôi dạt, thiên vị và hành vi bất thường.
Đối với các ngân hàng nhỏ hơn, gánh nặng tương đối nặng hơn. Họ không có ngân sách hoặc chuyên môn nội bộ như nhau, điều này có thể khiến họ gặp bất lợi so với các đối thủ lớn hơn có thể dễ dàng hấp thụ chi phí hơn.
Nhà cung cấp dưới kính hiển vi
Các ngân hàng hiếm khi tự xây dựng toàn bộ AI của mình. Họ mua từ các nhà cung cấp bên thứ ba — đôi khi hàng chục nhà cung cấp. Các nhà quản lý hiện đang đặt ra những câu hỏi khó hơn về những mối quan hệ đó. Ngân hàng có thể kiểm toán mô hình của nhà cung cấp không? Hợp đồng có cho phép giám sát liên tục không? Điều gì xảy ra nếu nhà cung cấp thay đổi thuật toán mà không thông báo cho ai?
Điều đó đang thúc đẩy các ngân hàng viết lại hợp đồng, yêu cầu minh bạch hơn và trong một số trường hợp đưa các chức năng trở lại nội bộ. Quản lý rủi ro nhà cung cấp, từng là một ô đánh dấu ở back-office, đang trở thành mối quan tâm ở cấp hội đồng quản trị.
Lợi thế cho các ngân hàng làm đúng
Có một khía cạnh cạnh tranh ở đây dễ bị bỏ qua. Các ngân hàng có thể chứng minh quản trị AI mạnh mẽ có thể thấy việc ra mắt sản phẩm mới, giành được phê duyệt của cơ quan quản lý và giữ được lòng tin của khách hàng dễ dàng hơn. Nói cách khác, tuân thủ có thể là một lợi thế cạnh tranh.
Các tổ chức coi giám sát AI là năng lực cốt lõi thay vì trung tâm chi phí có thể tiến nhanh hơn các đối thủ đang mắc kẹt trong việc khắc phục. Họ cũng sẽ ở vị thế tốt hơn nếu các nhà quản lý cuối cùng chính thức hóa kỳ vọng của họ thành các quy định cứng.
Hiện tại, sự giám sát chỉ đang gia tăng. Các ngân hàng đang theo dõi vòng hướng dẫn tiếp theo, dự kiến trong những tháng tới, và quyết định mức đầu tư bao nhiêu trước khi các quy định được viết đầy đủ.
