Банки и искусственный интеллект

В технологическом кластере «Сколково» в начале декабря состоялась вторая конференция, посвященная информационной безопасности, под названием Skolkovo Cyberday 2018. На ней Артем Сычев, первый заместитель директора департамента информационной безопасности ЦБ РФ, отчитался о проделанной Центробанком работе для обеспечения безопасности финансовой сферы.

 

В сентябре FinCERT – специальное подразделение Центробанка для обеспечения информационной безопасности и реагирования на инциденты в банковской сфере – представил отчет о проделанной работе, основные положения которого и были озвучены на конференции.

В частности, было отмечено, что на текущий момент к информационному обмену с FinCERT подключено уже 718 организаций, что на 16% больше, чем в прошлом отчетном году. Для обмена сведениями об инцидентах FinCERT создал автоматизированную систему обработки инцидентов (АСОИ), через которую участники обмена и взаимодействуют с центром реагирования. Основную массу этих организаций составляют банки (72%) и некредитные финансовые организации (15%).

В рамках международного сотрудничества Банк России в 2018 г. подписал соглашения о взаимодействии в области обеспечения информационной безопасности с Национальным банком Республики Казахстан, Центральным банком Республики Армения и Национальным банком Республики Беларусь. Планируется подписание аналогичного соглашения с Национальным банком Кыргызской Республики.

В текущем году центр реагирования ЦБ РФ получил полномочия для построения системы для защиты от мошенничества – «Фид-АнтиФрод», которая будет работать как самостоятельная система на основе АСОИ. Система «Фид-АнтиФрод» предназначена для аккумулирования и быстрого обмена информацией об операциях без согласия клиента. Основными участниками такого обмена станут операторы по переводу электронных денежных средств, операторы услуг платежной инфраструктуры и Банк России. ЦБ и поднадзорные банки получили полномочия по приостановке подозрительных транзакций сроком на три дня – это предполагает закон № 167 ФЗ «О внесении изменений в отдельные законодательные акты Российской Федерации в части противодействия хищению денежных средств», который был принят 27 июня 2018 г. Следует отметить, что ЦБ не имеет полномочий самостоятельно блокировать транзакции – он лишь передает банкам сведения об уровне их риска. Получив такое предупреждение, банк должен запросить у клиента дополнительное подтверждение правильности реквизитов получателя. Если подтверждение будет получено, исполнение транзакции должно быть продолжено. Полноценно система должна заработать с начала следующего года, когда вступит в строй вторая очередь системы.

Еще одной темой, обсуждаемой на Skolkovo Cyberday 2018, стал искусственный интеллект (ИС), но не его опасность, а возможность его обмануть. Дело в том, что уже сейчас технологии ИС активно используют в информационной безопасности для выявления вредоносных кодов, обнаружения атак или фиксации утечек важной информации. Оказывается, что механизмы классификации искусственного интеллекта можно нарушить с помощью специально сформированных наборов данных. Примеры подобных атак привел в своем выступлении Андрей Масалович, генеральный директор компании «Лавина Пульс».

Наиболее наглядно обман ИС был продемонстрирован на системах распознавания лиц, для которых существуют различные методы нарушения классификации. Самым курьезным оказался случай, который произошел в Китае, где система распознавания лиц используется для выписки штрафов за переход улицы на красный свет. Когда через переход проехал автобус с изображением женского лица на борту, то система выписала штраф этой фотографии за переход на красный свет. Некоторые системы можно обмануть с помощью специально сформированных очков: алгоритмы распознавания повышенное внимание уделяют чертам лица вокруг глаз, что и позволяет сбивать систему с толка. Кроме того, для всех шести типов нейронных сетей, предназначенных для распознавания изображений, обнаружились универсальные искажения, которые позволяют сделать любой объект невидимым для конкретной нейронной сети. Аналогичные обманки существуют и для других типов информации.

Денис Гамаюнов, генеральный директор SolidSoft отметил: «Можно обойти защиту, которая обучена распознавать атаки, но сложно обойти защиту, которая знает, что такое нормальное поведение пользователей». Таким образом, именно в этом направлении и должна развиваться разработка средств защиты – выявление аномалий в нормальной работе пользователей. Во всяком случае, в современных условиях в каждой системе защиты должен быть хотя бы один инструмент, работающий по такому принципу, чтобы его невозможно было сбить с толку.

Поделиться:
Спецпроект

Компания iFellow объявила о переходе на российскую платформу CommuniGate Pro

Подробнее
Спецпроект

У общественного транспорта Ярославской области появилось мобильное приложение

Подробнее


Подпишитесь
на нашу рассылку