Банк России опубликовал детальные методические рекомендации, призванные помочь финансовым организациям обеспечить надежную информационную безопасность при активном внедрении технологий искусственного интеллекта (ИИ).
Об этом сообщается в официальном релизе, размещенном на сайте ЦБ РФ.
Разработанный документ стал первым профильным руководством регулятора, в котором проведена масштабная систематизация рисков применения ИИ в банковской среде.
В материалах подробно описаны актуальные векторы и возможные тактики атак злоумышленников, нацеленных непосредственно на нейросети и алгоритмы машинного обучения, а также приведен исчерпывающий перечень рекомендаций по мерам защиты инфраструктуры.
Ключевым принципом обеспечения безопасности, по мнению ЦБ, остается сохранение экспертного контроля в критически важных узлах.
В частности, если финансовая организация интегрирует искусственный интеллект в процессы с высокими рисками информационной безопасности (например, при проведении платежных операций, оценке транзакций или управлении ликвидностью), регулятор настоятельно рекомендует внедрять механизм обязательного подтверждения таких операций профильным сотрудником (принцип «человека в контуре»).
Для системного подхода к защите Центробанк рекомендует всем участникам рынка создать собственные специализированные модели угроз и обновить внутреннюю политику информационной безопасности с учетом специфики ИИ-алгоритмов.
Прямая ответственность за подготовку, внедрение и регулярный аудит этих документов должна быть официально закреплена за заместителем руководителя организации, курирующим вопросы защиты корпоративной информации.
Кроме того, один из объемных разделов документа жестко регламентирует правила информационной безопасности при использовании сторонних ИИ-сервисов, которые финансовые учреждения арендуют у внешних поставщиков услуг и облачных провайдеров.
Чем машинное обучение угрожает потребителям?
Массовое применение алгоритмов искусственного интеллекта в финансовом секторе несет не только технологические, но и прямые пользовательские риски.
Анализ специфичных уязвимостей позволяет выделить ключевые угрозы непосредственно для клиентов:
- дипфейки и обход биометрической защиты — Злоумышленники все чаще применяют генеративный ИИ для высокоточного синтеза голоса и создания реалистичных видеоподделок. С помощью этих инструментов киберпреступники пытаются обмануть («обойти») системы биометрической аутентификации банков, чтобы авторизоваться в приложении от лица жертвы или подтвердить мошеннический перевод.
- целевая социальная инженерия нового уровня — ИИ-инструменты позволяют злоумышленникам мгновенно анализировать цифровой след человека и генерировать глубоко персонализированные фишинговые сообщения. Сценарии звонков или переписок становятся настолько правдоподобными, что распознать обман без специальной подготовки крайне сложно.
- утечки банковской тайны и персональных данных — существует технологический риск «хищения обучающих данных» или несанкционированного «раскрытия информации о модели ИИ». В случае успешной хакерской атаки на инфраструктуру банка массивы чувствительной клиентской информации (история транзакций, кредитный скоринг, поведенческие паттерны) могут оказаться на теневом рынке.
- алгоритмическая дискриминация и ошибки скоринга -специфическая угроза кроется в целенаправленном «отравлении» (искажении) обучающих данных. Если злоумышленникам удастся незаметно внедрить ложные параметры в скоринговые алгоритмы банка, это приведет к системным сбоям: добросовестные клиенты могут массово получать немотивированные отказы по кредитам, сталкиваться с блокировкой легальных счетов или получать завышенные ставки из-за скомпрометированной оценки рисков.
! ИИ-боты вынуждают банки перестраивать системы защиты и принятия решений