Американські регулятори посилюють нагляд за штучним інтелектом у банківській сфері — зміна, яка вже підвищує витрати на комплаєнс і змушує банки уважніше придивлятися до зовнішніх постачальників, на яких вони покладаються. Посилення контролю не супроводжується якимось одним новим правилом чи гучною правозастосовною акцією. Натомість це поступове накопичення настанов і перевірок, яке змінює підхід банків до ШІ.
Для галузі, яка галопом упроваджувала ШІ для всього — від кредитного скорингу до обслуговування клієнтів, — послання зрозуміле: рухайтеся швидко, але будьте готові пояснити, як працюють ваші моделі та хто за ними стежить.
Чому регулятори звертають пильнішу увагу
ШІ непомітно вбудувався в інфраструктуру американського банківництва. Він допомагає вирішувати, хто отримає кредит, позначає підозрілі транзакції та обробляє мільйони клієнтських запитів. Саме ця широта застосування й привертає регуляторний інтерес. Агенції хочуть знати, що ці системи не ухвалюють упереджених рішень, що їх можна пояснити екзаменаторам і що вони не створюють нових операційних ризиків.
Занепокоєння не гіпотетичне. Коли модель ШІ відмовляє в кредиті або позначає транзакцію, банк має бути здатен обґрунтувати це рішення — і перед клієнтом, і перед регулятором. Чим більше відповідальності бере на себе ШІ, тим складніше надавати такі обґрунтування.
Витрати на комплаєнс зростають
Найбезпосередніший ефект — на фінансовий результат. Банки витрачають більше на комплаєнс-команди, управління ризиками моделей і зовнішні аудити. Вони наймають фахівців із даних, які розуміються і на машинному навчанні, і на банківському регулюванні — рідкісне й дороге поєднання. Вони також інвестують у інструменти моніторингу систем ШІ на предмет дрейфу, упередженості та неочікуваної поведінки.
Для менших банків тягар пропорційно важчий. Вони не мають таких самих бюджетів чи внутрішньої експертизи, що може ставити їх у невигідне становище порівняно з більшими конкурентами, які легше поглинають ці витрати.
Постачальники під мікроскопом
Банки рідко будують весь свій ШІ власними силами. Вони купують його у сторонніх постачальників — іноді десятками. Регулятори тепер ставлять жорсткіші запитання щодо цих відносин. Чи може банк перевірити модель постачальника? Чи дозволяє договір постійний нагляд? Що станеться, якщо постачальник змінить алгоритм, нікому не повідомивши?
Це змушує банки переписувати контракти, вимагати більшої прозорості й у деяких випадках повертати функції всередину. Управління ризиками постачальників, колись рутинна справа бек-офісу, стає питанням рівня ради директорів.
Перевага для банків, які все зроблять правильно
Тут є конкурентний аспект, який легко пропустити. Банки, які можуть продемонструвати надійне управління ШІ, можливо, легше запускатимуть нові продукти, отримуватимуть регуляторне схвалення та зберігатимуть довіру клієнтів. Іншими словами, комплаєнс може стати конкурентною перевагою.
Установи, які ставляться до нагляду за ШІ як до ключової компетенції, а не центру витрат, можуть рухатися швидше за конкурентів, що застрягли у виправленні недоліків. Вони також будуть у кращій позиції, якщо регулятори зрештою формалізують свої очікування в жорсткі правила.
Наразі контроль лише посилюється. Банки очікують наступного раунду настанов, імовірно протягом найближчих місяців, і вирішують, скільки інвестувати, поки правила остаточно не написані.
