نظارت‌کنندگان آمریکایی در حال تشدید نظارت خود بر هوش مصنوعی در بانکداری هستند؛ تغییری که هم‌اکنون هزینه‌های انطباق را بالا برده و بانک‌ها را مجبور کرده است نگاهی دقیق‌تر به فروشندگان خارجی که به آن‌ها تکیه می‌کنند بیندازند. این نظارت فزاینده با یک قانون جدید یا اقدام اجرایی جنجالی همراه نیست. در عوض، انباشت پیوسته‌ای از رهنمودها و بازرسی‌هاست که رویکرد بانک‌ها به هوش مصنوعی را تغییر می‌دهد.
برای صنعتی که در حال مسابقه برای به‌کارگیری هوش مصنوعی در همه چیز از امتیازدهی اعتباری تا خدمات مشتری بوده است، پیام روشن است: سریع حرکت کنید، اما آماده باشید توضیح دهید مدل‌های شما چگونه کار می‌کنند و چه کسی بر آن‌ها نظارت دارد.
چرا نظارت‌کنندگان توجه بیشتری می‌کنند
هوش مصنوعی به‌آرامی در ساختار بانکداری آمریکا جای گرفته است. این فناوری به تصمیم‌گیری درباره اینکه چه کسی وام می‌گیرد کمک می‌کند، تراکنش‌های مشکوک را علامت‌گذاری می‌کند و به میلیون‌ها پرسش مشتری رسیدگی می‌کند. همین گستردگی دقیقاً چیزی است که توجه نهادهای نظارتی را جلب کرده است. آژانس‌ها می‌خواهند بدانند که این سیستم‌ها تصمیمات مغرضانه تولید نمی‌کنند، می‌توان آن‌ها را برای بازرسان توضیح داد و ریسک‌های عملیاتی جدیدی ایجاد نمی‌کنند.
نگرانی فرضی نیست. وقتی یک مدل هوش مصنوعی وامی را رد می‌کند یا تراکنشی را علامت‌گذاری می‌کند، بانک باید بتواند آن تصمیم را توجیه کند — هم برای مشتری و هم برای ناظر خود. هرچه هوش مصنوعی مسئولیت بیشتری بر عهده می‌گیرد، ارائه این توجیهات دشوارتر می‌شود.
هزینه‌های انطباق در حال افزایش است
فوری‌ترین اثر روی سود خالص است. بانک‌ها هزینه بیشتری برای تیم‌های انطباق، مدیریت ریسک مدل و حسابرسی‌های خارجی صرف می‌کنند. آن‌ها دانشمندانی داده استخدام می‌کنند که هم یادگیری ماشین و هم مقررات بانکی را درک کنند — ترکیبی نادر و گران. همچنین در ابزارهایی برای پایش سیستم‌های هوش مصنوعی از نظر انحراف، سوگیری و رفتار غیرمنتظره سرمایه‌گذاری می‌کنند.
برای بانک‌های کوچک‌تر، بار به‌طور نسبی سنگین‌تر است. آن‌ها بودجه یا تخصص داخلی مشابهی ندارند، که می‌تواند آن‌ها را در مقایسه با رقبای بزرگ‌تر که راحت‌تر می‌توانند هزینه‌ها را جذب کنند، در وضعیت نامطلوب قرار دهد.
فروشندگان زیر ذره‌بین
بانک‌ها به‌ندرت تمام هوش مصنوعی خود را داخلی می‌سازند. آن‌ها آن را از فروشندگان شخص ثالث می‌خرند — گاهی ده‌ها فروشنده. نظارت‌کنندگان اکنون پرسش‌های سخت‌تری درباره این روابط می‌پرسند. آیا بانک می‌تواند مدل فروشنده را حسابرسی کند؟ آیا قرارداد امکان نظارت مستمر را می‌دهد؟ اگر فروشنده الگوریتم را بدون اطلاع کسی تغییر دهد چه اتفاقی می‌افتد؟
این موضوع بانک‌ها را به بازنویسی قراردادها، مطالبه شفافیت بیشتر و در برخی موارد بازگرداندن کارکردها به داخل سوق می‌دهد. مدیریت ریسک فروشنده، که زمانی یک تیک اداری در دفتر پشتی بود، اکنون به دغدغه سطح هیئت مدیره تبدیل شده است.
مزیت برای بانک‌هایی که درست عمل می‌کنند
در اینجا جنبه رقابتی وجود دارد که به‌راحتی از نظرها پنهان می‌ماند. بانک‌هایی که می‌توانند حاکمیت قوی هوش مصنوعی را نشان دهند ممکن است راه‌اندازی محصولات جدید، کسب تأییدیه نظارتی و حفظ اعتماد مشتریان را آسان‌تر بیابند. به عبارت دیگر، انطباق می‌تواند یک خندق رقابتی باشد.
موسساتی که نظارت بر هوش مصنوعی را به‌عنوان یک قابلیت اصلی و نه یک مرکز هزینه می‌بینند، می‌توانند سریع‌تر از رقبایی که درگیر رفع نقص هستند حرکت کنند. آن‌ها همچنین اگر نظارت‌کنندگان در نهایت انتظارات خود را به قوانین سخت تبدیل کنند، در موقعیت بهتری قرار خواهند گرفت.
در حال حاضر، نظارت فقط شدیدتر می‌شود. بانک‌ها در انتظار دور بعدی رهنمودها هستند که در ماه‌های آینده انتظار می‌رود، و تصمیم می‌گیرند قبل از اینکه قوانین کاملاً نوشته شوند چقدر سرمایه‌گذاری کنند.
