Регуляторы требуют усилить контроль над искусственным интеллектом в секторе финансов

Международные регуляторы предупредили о росте рисков для финансовой системы на фоне быстрого внедрения автономных систем искусственного интеллекта. Совет по финансовой стабильности призвал финансовые организации внедрять дополнительные механизмы контроля и ограничивать полномочия так называемого агентного искусственного интеллекта.

Совет по финансовой стабильности опубликовал новый доклад, посвященный рискам использования автономных систем искусственного интеллекта в финансовом секторе. Организация отмечает, что технологии нового поколения способны самостоятельно анализировать информацию, планировать действия и выполнять задачи с минимальным участием человека. По мнению регуляторов, такие возможности открывают новые перспективы для отрасли, но одновременно создают дополнительные угрозы для устойчивости финансовой системы.

Агентный искусственный интеллект уже активно используется банками, инвестиционными компаниями и финансовыми сервисами. Наиболее распространенными направлениями применения остаются выявление мошеннических операций, обслуживание клиентов, автоматизация внутренних процессов и обработка больших объемов данных.

Согласно исследованию Cambridge Centre for Alternative Finance, 52% представителей финансового сектора уже используют агентный искусственный интеллект в своей деятельности. Из них 23% организаций внедрили такие решения в масштабах бизнеса, а еще 29% проводят пилотные проекты и тестирование технологий.

Совет по финансовой стабильности предупреждает, что автономные системы способны создавать риски, которые могут реализовываться значительно быстрее по сравнению с традиционными технологическими угрозами. Среди потенциальных проблем называются несанкционированные действия, нарушения законодательства, утечки данных, ошибки в принятии решений и сбои в работе взаимосвязанных систем.

Особое внимание регуляторы уделяют вопросу контроля со стороны человека. В докладе отмечается, что агентный искусственный интеллект может принимать решения, которые будут отличаться от первоначальных целей организации. При этом сотрудники могут не успеть своевременно выявить проблему и вмешаться в процесс.

Для снижения рисков Совет по финансовой стабильности предложил набор рекомендаций. Финансовым организациям предлагается заранее определять допустимые границы использования искусственного интеллекта, внедрять механизмы мониторинга и устанавливать ограничения на действия автономных систем.

Отдельное внимание уделяется финансовым операциям повышенного риска. Регуляторы считают, что проведение крупных транзакций, изменение критически важных параметров систем и принятие стратегических решений должны требовать обязательного одобрения со стороны сотрудников компании.

Предложенные рекомендации пока не являются обязательными. Совет по финансовой стабильности будет принимать комментарии участников рынка до 22 июля. После этого документ может стать основой для формирования новых международных стандартов регулирования искусственного интеллекта в финансовой сфере.