Рівень судження: Чому ШІ не є розумним, поки лідери не стануть розумнішими

Гільєрмо Delgado Aparicio — глобальний лідер з штучного інтелекту в Nisum.

Відкрийте для себе найкращі новини та події у фінтеху!

Підписуйтеся на розсилку FinTech Weekly

Читають керівники JP Morgan, Coinbase, Blackrock, Klarna та інших компаній

Штучний інтелект у фінтеху охоплює широкий спектр застосувань — від виявлення шахрайства та алгоритмічної торгівлі до динамічного кредитного рейтингу та персоналізованих рекомендацій продуктів. Однак у звіті Financial Conduct Authority зазначається, що з 75% компаній, які використовують ШІ, лише 34% розуміють, як він працює.

Проблема полягає не лише у відсутності обізнаності. Це глибше — у неправильному розумінні сили та масштабів аналітики даних, з якої виникає ШІ. Масове впровадження генеративних інструментів ШІ привернуло увагу керівництва. Але багато хто з тих, хто визначає, як впроваджувати ШІ, не розуміють його основних принципів — калькулюсу, статистики та складних алгоритмів.

Візьмемо закон Бенфорда — простий статистичний принцип, який виявляє шахрайство, знаходячи закономірності у числах. ШІ базується на тому ж типі математики, лише масштабованій до мільйонів транзакцій одночасно. Знявши хайп, залишається основа — статистика та алгоритми.

Саме тому важливою є цифрова грамотність у сфері ШІ на рівні керівництва. Лідери, які не можуть відрізнити межі аналітики від можливостей ШІ, ризикують довіряти системам, яких не розуміють, або недооцінювати їх через страх. Історія показує, що трапляється, коли керівники неправильно інтерпретують технології: регулятори колись намагалися заборонити міжнародні IP-звонки, але технологія швидше за правила. Те саме відбувається з ШІ. Його не можна блокувати або сліпо впроваджувати; потрібен розсуд, контекст і відповідальне керівництво.

Лідери у фінтеху мають закрити ці прогалини, щоб використовувати ШІ відповідально та ефективно. Це означає розуміти межі аналітики та ШІ, розвивати навички керування цими системами та застосовувати здоровий глузд для визначення, коли і як довіряти їхнім результатам.

Обмеження, сліпі зони та ілюзії ШІ

Аналітика аналізує минулі та поточні дані, щоб пояснити, що сталося і чому. ШІ виростає з цієї основи, використовуючи передову аналітику для прогнозування майбутніх подій і, дедалі частіше, для автоматичного прийняття рішень або дій.

З його винятковими навичками обробки даних легко зрозуміти, чому керівники фінтеху вважають ШІ своєю магічною паличкою. Але він не може вирішити всі проблеми. Люди все ще мають природну перевагу у розпізнаванні шаблонів, особливо коли дані неповні або “забруднені”. ШІ може мати труднощі з інтерпретацією контекстуальних нюансів, які швидко зрозуміють люди.

Однак помилка — вважати, що недосконалі дані роблять ШІ марним. Аналітичні моделі можуть працювати з неповними даними. Але справжнє виклик — знати, коли застосовувати ШІ, а коли покладатися на людський розсуд для заповнення прогалин. Без цього ретельного контролю ШІ може створювати значні ризики.

Однією з таких проблем є упередженість. Коли фінтехи тренують ШІ на застарілих наборах даних, вони часто успадковують їхній багаж. Наприклад, ім’я клієнта може неусвідомлено слугувати ознакою статі, або прізвище — ознакою етнічної приналежності, що може вплинути на кредитний рейтинг у спосіб, який жоден регулятор не схвалить. Ці упередження, легко приховані у математиці, часто потребують людського контролю для виявлення та виправлення.

Коли моделі ШІ потрапляють у ситуації, на яких їх не тренували, виникає зміщення моделі. Волатильність ринку, зміни у регулюванні, поведінка клієнтів і макроекономічні зрушення можуть впливати на ефективність моделі без людського моніторингу та переналаштування.

Складність переналаштування алгоритмів зростає, коли фінтехи використовують “чорні ящики”, що не дозволяють бачити зв’язки між змінними. У таких випадках вони втрачають можливість передавати ці знання керівництву. Крім того, помилки та упередження залишаються прихованими у непрозорих моделях, підриваючи довіру та відповідність.

Що потрібно знати керівникам фінтеху

Опитування Deloitte показало, що 80% стверджують, що їхні ради директорів мають мало або зовсім не мають досвіду з ШІ. Але керівники вищого рівня не можуть дозволити собі вважати ШІ “проблемою технічної команди”. Відповідальність за ШІ лежить на керівництві, тому фінтех-лідери мають підвищувати свою кваліфікацію.

Мультианалітична грамотність

Перед впровадженням ШІ керівники мають вміти швидко перемикатися — аналізувати цифри, бізнес-кейс, операції та етичні питання — і бачити, як ці фактори перетинаються та формують результати ШІ. Вони мають розуміти, як статистична точність моделі пов’язана з кредитним ризиком. І вміти визначати, коли змінна, що здається фінансово обґрунтованою (наприклад, історія погашень), може створювати соціальні або регуляторні ризики через кореляцію з захищеними ознаками, такими як вік або етнічна приналежність.

Ця грамотність з’являється у спілкуванні з фахівцями з комплаєнсу для розбору регуляцій, у діалогах з менеджерами продуктів щодо досвіду користувачів і у перегляді результатів моделей з дата-сайентістами для виявлення ознак зміщення або упереджень.

У фінтеху 100% уникнення ризиків неможливе, але з мультианалітичною грамотністю керівники можуть визначити, які ризики варто брати, а які зруйнують цінність для акціонерів. Цей навик також допомагає швидко виявляти та реагувати на упередженість — не лише з точки зору відповідності, а й з стратегічної та етичної.

Наприклад, якщо модель кредитного скорингу, побудована на ШІ, схиляється до одного сегмента клієнтів, виправлення цієї нерівності — не просто завдання для дата-сайентіста; це захист репутації компанії. Для фінтехів, що прагнуть фінансової інклюзії або піддаються ESG-контролю, лише юридична відповідність недостатня. Розсуд — це знати, що правильно, а не лише дозволено.

Грамотність у пояснюваності

Пояснюваність — основа довіри. Без неї керівники, клієнти та регулятори ставлять під сумнів, чому модель дійшла до певного висновку.

Це означає, що керівники мають розрізняти моделі, які можна інтерпретувати, і ті, що потребують постфактумних пояснень (наприклад, SHAP або LIME). Вони мають ставити питання, коли логіка моделі незрозуміла, і розуміти, коли “точність” сама по собі не може виправдати рішення “чорної скриньки”.

Упередженість не виникає з нічого; вона з’являється, коли моделі тренують і застосовують без достатнього контролю. Пояснюваність дає керівникам змогу виявляти ці проблеми рано і діяти до того, як вони спричинять шкоду.

ШІ — це як автопілот у літаку. Більшу частину часу він працює гладко, але коли настає шторм, пілот має взяти кермо. У фінансах цей принцип той самий. Команди мають можливість зупинити торгівлю, змінити стратегію або навіть зупинити запуск продукту, коли обставини змінюються. Пояснюваність працює разом із готовністю до втручання, що гарантує, що керівництво розуміє ШІ і залишається у контролі, навіть при масштабних операціях.

Модель ймовірнісного мислення

Керівники звикли до детермінованих рішень — наприклад, якщо кредитний рейтинг нижче 650, відмовити у кредиті. Але ШІ працює інакше, і це суттєва зміна парадигми.

Для керівників ймовірнісне мислення вимагає трьох навичок:

*   Інтерпретувати діапазони ризиків, а не бінарні "так/ні".
*   Оцінювати рівень довіри до прогнозу з урахуванням інших бізнесових або регуляторних аспектів.
*   Знати, коли слід перевищити автоматизацію і застосувати людський розсуд.

Наприклад, ймовірнісна модель фінтеху може позначити клієнта як високоризикового, але це не означає “відмовити”. Це може означати “дослідити додатково” або “змінити умови кредиту”. Без цієї нюансованості автоматизація ризикує стати грубим інструментом, що руйнує довіру клієнтів і піддає компанію регуляторним санкціям.

Чому рівень судження визначатиме переможців у фінтеху

Майбутнє фінтеху визначатиме не найпотужніші моделі ШІ, а ті, хто використовує їх із найгострішим судженням. Оскільки ШІ стає товаром, вигоди від підвищення ефективності — це вже базовий рівень. Відмінність у перемозі — у здатності втручатися, коли алгоритми стикаються з невизначеністю, ризиком і етичними зонами сірого.

Рівень судження — це не абстрактна ідея. Це проявляється, коли керівники вирішують зупинити автоматичну торгівлю, відкласти запуск продукту або переглянути кредитний рейтинг, що не враховує реальний контекст. Ці моменти — не провали ШІ; це доказ того, що людський контроль — останній рівень створення цінності.

Стратегічне узгодження — це те, де судження стає інституціоналізованим. Сильна стратегія ШІ не лише створює технічні дорожні карти; вона забезпечує перегляд ініціатив, оновлення командних навичок, налаштування архітектури даних і зв’язок кожного впровадження з чітким бізнес-результатом. У цьому сенсі судження — не епізодичне, а вбудоване у режим роботи, що дозволяє керівникам керувати ціннісним підходом.

Фінтехи потребують лідерів, які вміють балансувати між швидкістю та масштабами ШІ і людським розсудом, контекстом, нюансами і довгостроковим баченням. ШІ може за секунди виявити аномалії, але лише люди можуть вирішити, коли потрібно протистояти математиці, переосмислити припущення або ризикнути сміливо, щоб відкрити шлях до зростання. Цей рівень судження перетворює ШІ з інструменту на конкурентну перевагу.

Про автора:

Гільєрмо Delgado — глобальний лідер з ШІ у Nisum та операційний директор Deep Space Biology. З понад 25 роками досвіду у біохімії, штучному інтелекті, космічній біології та підприємництві, він розробляє інноваційні рішення для людського добробуту на Землі та у космосі.

Як консультант з корпоративної стратегії, він сприяв формуванню бачення NASA щодо ШІ у космічній біології та отримав нагороди за інновації. Має ступінь магістра наук у галузі штучного інтелекту від Georgia Tech із відзнакою. Також, як викладач університету, він викладав курси з машинного навчання, великих даних і геноміки.