Američtí regulátoři zpřísňují dohled nad umělou inteligencí v bankovnictví, což již nyní zvyšuje náklady na compliance a nutí banky pečlivěji zkoumat externí dodavatele, na které spoléhají. Zvýšený dohled nepřichází s jediným novým pravidlem ani s medializovaným donucovacím opatřením. Místo toho jde o postupné hromadění pokynů a kontrol, které mění přístup bank k umělé inteligenci.
Pro odvětví, které se předhání v zavádění umělé inteligence od úvěrového hodnocení po zákaznický servis, je vzkaz jasný: jednejte rychle, ale buďte připraveni vysvětlit, jak vaše modely fungují a kdo je sleduje.
Proč regulátoři věnují větší pozornost
Umělá inteligence se tiše stala součástí infrastruktury amerického bankovnictví. Pomáhá rozhodovat o tom, kdo dostane úvěr, označuje podezřelé transakce a zpracovává miliony dotazů zákazníků. Právě tato šíře přitahuje regulační zájem. Agentury chtějí mít jistotu, že tyto systémy neprodukují zkreslená rozhodnutí, že je lze vysvětlit kontrolorům a že nezavádějí nová operační rizika.
Obavy nejsou hypotetické. Když model umělé inteligence zamítne úvěr nebo označí transakci, banka musí být schopna toto rozhodnutí odůvodnit – zákazníkovi i svému regulátorovi. S tím, jak umělá inteligence přebírá více odpovědnosti, je stále obtížnější tato odůvodnění předložit.
Náklady na compliance rostou
Nejbezprostřednější dopad je na hospodářský výsledek. Banky vydávají více na compliance týmy, řízení modelových rizik a externí audity. Najímají datové vědce, kteří rozumí strojovému učení i bankovní regulaci – což je vzácná a drahá kombinace. Investují také do nástrojů pro monitorování systémů umělé inteligence z hlediska driftu, zkreslení a neočekávaného chování.
Pro menší banky je břemeno úměrně těžší. Nemají stejné rozpočty ani interní odborné znalosti, což je může znevýhodnit vůči větším konkurentům, kteří náklady snáze absorbují.
Dodavatelé pod drobnohledem
Banky zřídkakdy vyvíjejí veškerou svou umělou inteligenci interně. Nakupují ji od třetích stran – někdy od desítek dodavatelů. Regulátoři nyní kladou tvrdší otázky ohledně těchto vztahů. Může banka auditovat model dodavatele? Umožňuje smlouva průběžný dohled? Co se stane, když dodavatel změní algoritmus, aniž by o tom někdo věděl?
To tlačí banky k přepisování smluv, požadování větší transparentnosti a v některých případech k navrácení funkcí interně. Řízení rizik dodavatelů, kdysi administrativní záležitost, se stává tématem na úrovni představenstva.
Výhoda pro banky, které to zvládnou správně
Existuje zde konkurenční rozměr, který je snadné přehlédnout. Banky, které dokážou prokázat silné řízení umělé inteligence, mohou snáze uvádět nové produkty, získat regulační schválení a udržet si důvěru zákazníků. Compliance, jinými slovy, může být konkurenční výhodou.
Instituce, které přistupují k dohledu nad umělou inteligencí jako ke klíčové schopnosti, nikoli jako k nákladovému středisku, mohou postupovat rychleji než rivalové uvízlí v nápravných opatřeních. Budou také v lepší pozici, pokud regulátoři nakonec formalizují svá očekávání do tvrdých pravidel.
Prozatím se dohled pouze zostřuje. Banky sledují další kolo pokynů, očekávané v nadcházejících měsících, a rozhodují se, kolik investovat, než budou pravidla plně napsána.
