הרגולטורים בארה"ב מהדקים את הפיקוח על בינה מלאכותית בבנקאות, שינוי שכבר דוחף את עלויות הציות כלפי מעלה ומאלץ בנקים לבחון לעומק את הספקים החיצוניים שעליהם הם נשענים. ההגברת הפיקוח אינה באה עם חוק חדש אחד או פעולת אכיפה כותרתית. במקום זאת, מדובר בהצטברות מתמדת של הנחיות ובדיקות שמשנה את האופן שבו בנקים ניגשים לבינה מלאכותית.
עבור תעשייה שהתחרתה בפריסת בינה מלאכותית בכל תחום, מדירוג אשראי ועד שירות לקוחות, המסר ברור: לנוע מהר, אבל להיות מוכנים להסביר כיצד המודלים שלכם פועלים ומי מפקח עליהם.
מדוע הרגולטורים מקדישים תשומת לב רבה יותר
בינה מלאכותית הפכה בשקט לחלק מהתשתית של הבנקאות האמריקאית. היא עוזרת להחליט מי מקבל הלוואה, מסמנת עסקאות חשודות ומטפלת במיליוני פניות של לקוחות. הרוחב הזה הוא בדיוק מה שמושך את העניין הרגולטורי. הסוכנויות רוצות לדעת שמערכות אלו אינן מייצרות החלטות מוטות, שניתן להסביר אותן לבודקים, ושאינן מכניסות סיכונים תפעוליים חדשים.
החשש אינו היפותטי. כאשר מודל בינה מלאכותית מסרב להלוואה או מסמן עסקה, על הבנק להיות מסוגל להצדיק את ההחלטה — ללקוח ולרגולטור שלו. ככל שבינה מלאכותית נוטלת על עצמה יותר אחריות, ההצדקות הללו נעשות קשות יותר להפקה.
עלויות הציות מטפסות
ההשפעה המיידית ביותר היא על השורה התחתונה. בנקים מוציאים יותר על צוותי ציות, ניהול סיכוני מודלים וביקורות חיצוניות. הם מגייסים מדעני נתונים שמבינים גם למידת מכונה וגם רגולציה בנקאית — שילוב נדיר ויקר. הם גם משקיעים בכלים לניטור מערכות בינה מלאכותית לזיהוי סטייה, הטיה והתנהגות בלתי צפויה.
עבור בנקים קטנים יותר, הנטל כבד יותר באופן יחסי. אין להם את התקציבים או המומחיות הפנימית הדומים, מה שיכול לשים אותם בעמדת נחיתות מול מתחרים גדולים יותר שיכולים לספוג את העלויות בקלות רבה יותר.
ספקים תחת זכוכית מגדלת
בנקים רק לעתים רחוקות בונים את כל הבינה המלאכותית שלהם בבית. הם קונים אותה מספקי צד שלישי — לפעמים עשרות מהם. הרגולטורים שואלים כעת שאלות קשות יותר על היחסים הללו. האם הבנק יכול לבקר את המודל של הספק? האם החוזה מאפשר פיקוח מתמשך? מה קורה אם הספק משנה את האלגוריתם בלי ליידע איש?
זה דוחף בנקים לשכתב חוזים, לדרוש יותר שקיפות, ובמקרים מסוימים להחזיר פונקציות פנימה. ניהול סיכוני ספקים, פעם תיבת סימון במשרד האחורי, הופך לעניין ברמת הדירקטוריון.
היתרון לבנקים שעושים זאת נכון
יש כאן זווית תחרותית שקל לפספס. בנקים שיכולים להדגים ממשל בינה מלאכותית חזק עשויים למצוא קל יותר להשיק מוצרים חדשים, לזכות באישור רגולטורי ולשמור על אמון הלקוחות. ציות, במילים אחרות, יכול להיות חפיר.
מוסדות שמתייחסים לפיקוח על בינה מלאכותית כיכולת ליבה ולא כמרכז עלות יוכלו לנוע מהר יותר מיריבים התקועים בתיקון. הם גם יהיו בעמדה טובה יותר אם הרגולטורים יהפכו בסופו של דבר את ציפיותיהם לחוקים קשיחים.
לעת עתה, הפיקוח רק מתגבר. בנקים עוקבים אחר סבב ההנחיות הבא, הצפוי בחודשים הקרובים, ומחליטים כמה להשקיע לפני שהחוקים נכתבו במלואם.
