Державні регулятори запропонували структуру для оцінки використання штучного інтелекту (ШІ) у банківській сфері. Конференція державних банківських наглядачів (CSBS) опублікувала добровільне керівництво, яке містить вісім ключових запитань для ревізорів та три рівні ризиків, пов’язаних із застосуванням ШІ банками.
Бізнес-концепція зростання, керована технологіями ШІ, із зображенням стопок монет з цифровими іконками, що представляють штучний інтелект, аналіз даних, фінансові показники, інновації та стратегічне прийняття рішень у сучасній економіці. Getty Images
Регуляторна відповідь на зростання використання ШІ
Зважаючи на тенденції до дерегуляції, які спостерігалися з початку адміністрації Трампа, деякі державні регуляторні органи взяли на себе ініціативу заповнювати прогалини в нагляді, де федеральні органи зменшували свою активність. Саме в цьому контексті CSBS розробила добровільну структуру для оцінки застосування банками штучного інтелекту. Ця ініціатива доповнює оновлені в квітні рекомендації від Федеральної резервної системи, Управління контролера грошового обігу та Федеральної корпорації зі страхування депозитів, які стосуються тестування та нагляду за моделями, що використовуються в банківській діяльності. Проте, ці федеральні рекомендації залишили поза увагою специфіку штучного інтелекту, зокрема його генеративні та автономні моделі, зазначивши, що вони є новими та швидко розвиваються, тому не входять до сфери чинних настанов.
Структура CSBS для оцінки ШІ
Генеральний директор CSBS Брендон Мілхорн назвав розроблену організацією структуру “принциповим підходом”, спрямованим на надання фінансовим установам можливості досліджувати та впроваджувати ШІ з більшою впевненістю, усвідомлюючи потенційні ризики, пов’язані з будь-якою новою технологією. Важливо зазначити, що хоча федеральні настанови квітня не стосувалися ШІ, майже 80% банків, застрахованих FDIC, підлягають нагляду з боку державних регуляторів. Структура CSBS включає:
• Основний посібник для ревізорів.
• Програму робіт, що окреслює запропоновані процедури для ревізорів.
• Додаток для небанківських установ.
• Робочий аркуш для класифікації використання ШІ банками за рівнями ризику.
• Список джерел, на основі яких розроблено структуру.
Ключові питання для ревізорів
CSBS пропонує ревізорам розглянути наступні вісім питань при оцінці використання ШІ в банках:
- Чи використовує банк ШІ?
- Чи визначено, де саме він використовується?
- Як ШІ впливає на клієнтів або формує рішення?
- Чи походить ШІ, що використовується банком, від сторонніх постачальників чи платформ?
- Чи перевіряв банк наявність вбудованого ШІ в продуктах постачальників, які він зараз використовує?
- Чи використовує банк генеративний ШІ?
- Чи класифікує банк свої застосування ШІ за рівнем ризику?
- Чи передається конфіденційна інформація (клієнтська, банківська чи інша) через системи ШІ?
Система класифікації ризиків
Одним з найбільш вагомих елементів запропонованої структури є система класифікації ризиків, що складається з трьох рівнів:
• Рівень 1 (Низький ризик): Банк вважається таким, що відповідає цьому рівню, якщо використання ШІ обмежене внутрішніми процесами, результати роботи ШІ переглядаються людиною, вплив на споживачів мінімальний, дані не мають високої чутливості, а потенційна шкода від помилок або збоїв є низькою.
• Рівень 2 (Помірний ризик): Банк переходить на цей рівень, якщо ШІ виконує функції, спрямовані на взаємодію зі споживачами або надає підтримку в прийнятті рішень. Це також включає помірну чутливість даних, нагляд з боку людини на основі винятків та помірний потенціал шкоди від помилок або збоїв.
• Рівень 3 (Високий ризик): Цей рівень застосовується, коли використання ШІ безпосередньо впливає на результати для споживачів, включає роботу з чутливими персональними даними, передбачає обмежений людський контроль, значну операційну залежність від системи або потенційну суттєву шкоду від помилок чи збоїв.
Ресурс для галузі
CSBS підкреслює, що розроблена структура є не лише інструментом для регуляторів, але й цінним ресурсом для самої банківської галузі. Фінансові установи можуть використовувати цю структуру для самооцінки своїх програм ШІ, встановлення ефективного управління та управління ризиками, пов’язаними з ШІ, а також для підготовки до майбутніх перевірок.
Подробиці можна знайти на сайті: www.bankingdive.com