AI-агенты в финансах: автономность без права на решение
На Digital Bridge в Астане обсудили, как искусственный интеллект меняет финансовый сектор и где проходит граница между решениями алгоритмов и ответственностью человека.
Банк Freedom начал внедрять искусственный интеллект около пяти лет назад – сначала в кредитном скоринге, затем в цифровой ипотеке, автокредитовании, чат-ботах и контакт-центре. Сегодня в AI compliance банка работают более 134 AI-агентов, которые мониторят транзакции, анализируют поведение клиентов и ищут подозрительные схемы. Однако чем больше финансовый рынок передает алгоритмам, тем важнее вопрос, где проходит граница между решениями AI и ответственностью человека.
Эту тему на Digital Bridge в Астане обсуждали представители АРРФР, Нацбанка, АФМ, Mastercard, Банк Freedom и Freedom Insurance. Модерировала сессию советник председателя правления Банк Freedom по Digital-проектам Айнұр Темірханқызы. Она рассказала про ключевой проект банка – AI Compliance. На подготовку данных для системы ушло около девяти месяцев: команда определяла, какие параметры нужны для анализа, где они хранятся и как должны поступать в модель. Проект развивают совместно с АФМ, которое предоставило типологии реальных схем.
Сейчас в системе работают более 134 AI-агентов. Они круглосуточно отслеживают транзакционную активность и поведение клиентов. По словам главного комплаенс-контролера Банк Freedom Асель Сулейменовой, такой подход особенно важен при выявлении дроп-карт. Карта может использоваться всего две недели, а каждая операция по отдельности выглядеть обычной. В таком случае анализ отдельных транзакций может не показать всю схему. AI сопоставляет операции с профилем клиента, учитывает скорость движения денег, связи через переводы, устройства и номера телефонов. Затем система может собрать дополнительные сведения, запросить пояснение и подготовить заключение. По словам Сулейменовой, процессы, которые раньше занимали месяцы ручной работы, теперь удается сократить до нескольких дней.
AI становится инструментом не только финансовых организаций, но и мошенников, отметил глава Mastercard в Казахстане и Центральной Азии Санжар Жамалов. Он сослался на данные отчета IBM, согласно которым уже каждая четвертая вредоносная атака в мире совершается с использованием искусственного интеллекта, а за последний год показатель вырос более чем на 50%. Поэтому финансовым компаниям приходится переходить от реакции на уже совершенные атаки к попытке заранее смоделировать новые сценарии. Для такого подхода, по его словам, недостаточно данных одной организации. Mastercard анализирует мошеннические сценарии на разных рынках, а внутри страны важна координация банков с государственными органами.
Для АФМ важно, чтобы система не просто помечала операцию как подозрительную, но и объясняла, на каких признаках основан вывод. Заместитель руководителя департамента превенции и аналитических разработок АФМ Санжар Аккисев привел в пример дробление операций и расслоение денежных потоков. По его словам, такие признаки должны быть понятны сотруднику, который проверяет вывод AI. Отдельное условие – качество данных. Если информация в разных базах расходится, система может прийти к противоречивому выводу.
В Национальном банке в саму архитектуру одного из AI-проектов заложили объяснимость. То есть система должна не просто выдавать результат, но и показывать, на каких данных и аргументах он основан. Директор департамента цифровой трансформации Нацбанка Айжан Аринова рассказала о виртуальном советнике по денежно-кредитной политике. В системе работают три агента: «Голубь» рассматривает данные с позиции смягчения политики, «Ястреб» – с позиции ужесточения, а «Филин» сопоставляет аргументы двух сторон. При этом Нацбанк начал не с самих моделей. Сначала там создали «фабрику данных» – единый аналитический слой с требованиями к качеству информации и метаданными. Уже на этой базе начали масштабировать AI-решения.
В Freedom Insurance алгоритмам готовы передавать больше самостоятельности. Председатель правления Азамат Керимбаев привел пример параметрического страхования агробизнеса. Система анализирует спутниковые данные и данные компьютерного зрения, после чего компания производит выплату на основании ее решения. Автоматизация дает и прямой финансовый эффект. По его словам, цифровизация урегулирования страховых случаев позволяет компании экономить около $10 млн в год. В контакт-центре Freedom Insurance робот самостоятельно обрабатывает и завершает 42% обращений клиентов. После внедрения AI-агентов летом 2026 года время рассмотрения страховых случаев сократилось на 32%. Следующая цель компании – в 2027 году до 60% выплат урегулировать на основании решений AI-агентов без участия человека.
Первый заместитель председателя Агентства по регулированию и развитию финансового рынка Тимур Абилкасимов рассказал, что распространение AI-агентов требует нового подхода к финансовому надзору. По его словам, регулятору важно понимать, какую задачу выполняет агент, какие инструкции и ограничения в него заложены и насколько самостоятельно он может действовать. Для этого регулятор будет создавать собственные AI-агенты. Они будут контролировать работу автоматизированных систем и помогать оперативнее выявлять потенциальные риски для клиентов.