Pengawal selia AS sedang memperketat pengawasan mereka terhadap kecerdasan buatan dalam perbankan, satu perubahan yang sudah pun mendorong kos pematuhan lebih tinggi dan memaksa bank untuk meneliti dengan lebih teliti vendor luar yang mereka bergantung. Peningkatan penelitian ini tidak datang dengan satu peraturan baharu atau tindakan penguatkuasaan yang menarik perhatian. Sebaliknya, ia adalah pengumpulan panduan dan pemeriksaan yang berterusan yang mengubah cara bank mendekati AI.
Bagi industri yang telah berlumba-lumba untuk menggunakan AI bagi segala-galanya daripada penilaian kredit hingga perkhidmatan pelanggan, mesejnya jelas: bergerak pantas, tetapi bersedia untuk menjelaskan bagaimana model anda berfungsi dan siapa yang mengawasinya.
Mengapa pengawal selia memberi perhatian lebih dekat
AI telah secara senyap menjadi tertanam dalam infrastruktur perbankan Amerika. Ia membantu menentukan siapa yang mendapat pinjaman, menandakan transaksi mencurigakan, dan mengendalikan berjuta-juta pertanyaan pelanggan. Keluasan inilah yang menarik minat pengawalseliaan. Agensi ingin tahu bahawa sistem ini tidak menghasilkan keputusan berat sebelah, bahawa ia boleh dijelaskan kepada pemeriksa, dan bahawa ia tidak memperkenalkan risiko operasi baharu.
Kebimbangan ini bukan hipotetikal. Apabila model AI menolak pinjaman atau menandakan transaksi, bank perlu dapat mewajarkan keputusan itu — kepada pelanggan dan kepada pengawal selianya. Apabila AI mengambil lebih banyak tanggungjawab, justifikasi tersebut menjadi lebih sukar untuk dihasilkan.
Kos pematuhan meningkat
Kesan paling segera adalah pada garis bawah. Bank membelanjakan lebih banyak untuk pasukan pematuhan, pengurusan risiko model, dan audit luar. Mereka mengupah saintis data yang memahami kedua-dua pembelajaran mesin dan peraturan bank — kombinasi yang jarang dan mahal. Mereka juga melabur dalam alat untuk memantau sistem AI bagi penyimpangan, berat sebelah, dan tingkah laku tidak dijangka.
Bagi bank yang lebih kecil, bebannya lebih berat secara berkadar. Mereka tidak mempunyai belanjawan atau kepakaran dalaman yang sama, yang boleh meletakkan mereka pada kedudukan yang kurang baik berbanding pesaing lebih besar yang boleh menyerap kos dengan lebih mudah.
Vendor di bawah mikroskop
Bank jarang membina semua AI mereka secara dalaman. Mereka membelinya daripada vendor pihak ketiga — kadangkala berpuluh-puluh daripada mereka. Pengawal selia kini bertanya soalan yang lebih sukar tentang hubungan tersebut. Bolehkah bank mengaudit model vendor? Adakah kontrak membenarkan pengawasan berterusan? Apa yang berlaku jika vendor mengubah algoritma tanpa memberitahu sesiapa?
Itu mendorong bank untuk menulis semula kontrak, menuntut lebih banyak ketelusan, dan dalam beberapa kes membawa fungsi kembali ke dalaman. Pengurusan risiko vendor, yang dahulunya hanya kotak semak di pejabat belakang, kini menjadi kebimbangan peringkat lembaga pengarah.
Kelebihan bagi bank yang melakukannya dengan betul
Terdapat sudut kompetitif di sini yang mudah terlepas pandang. Bank yang dapat menunjukkan tadbir urus AI yang kukuh mungkin mendapati lebih mudah untuk melancarkan produk baharu, memenangi kelulusan pengawalseliaan, dan mengekalkan kepercayaan pelanggan. Pematuhan, dalam erti kata lain, boleh menjadi parit pertahanan.
Institusi yang menganggap pengawasan AI sebagai keupayaan teras dan bukan pusat kos boleh bergerak lebih pantas daripada pesaing yang terperangkap dalam pemulihan. Mereka juga akan berada pada kedudukan yang lebih baik jika pengawal selia akhirnya merasmikan jangkaan mereka menjadi peraturan keras.
Buat masa ini, penelitian hanya semakin meningkat. Bank sedang memerhatikan panduan pusingan seterusnya, yang dijangka dalam beberapa bulan akan datang, dan memutuskan berapa banyak untuk melabur sebelum peraturan ditulis sepenuhnya.
