Банки и искусственный интеллект. На Skolkovo Cyberday 2018 обсуждали вопросы информационной безопасности

В технологическом кластере «Сколково» в начале декабря состоялась вторая конференция, посвященная информационной безопасности, под названием Skolkovo Cyberday 2018. На ней Артем Сычев, первый заместитель директора департамента информационной безопасности ЦБ РФ, отчитался о проделанной Центробанком работе для обеспечения безопасности финансовой сферы. В сентябре FinCERT – специальное подразделение Центробанка для обеспечения информационной безопасности и реагирования на инциденты в банковской сфере – представил отчет о проделанной работе, основные положения которого и были озвучены на конференции.

В частности, было отмечено, что на текущий момент к информационному обмену с FinCERT подключено уже 718 организаций, что на 16% больше, чем в прошлом отчетном году. Для обмена сведениями об инцидентах FinCERT создал автоматизированную систему обработки инцидентов (АСОИ), через которую участники обмена и взаимодействуют с центром реагирования. Основную массу этих организаций составляют банки (72%) и не кредитные финансовые организации (15%). Причем в обмен информацией включены и организации не банковской сферы: федеральные и региональные органы власти (18), разработчики программного обеспечения (9), правоохранительные органы (7), операторы связи (7) и даже антивирусные компании (3).

Обмен информацией налажен и с иностранными банками – их подключено к автоматизированной системе обмена 15. Кроме того, в рамках международного сотрудничества Банк России в 2018 г. подписал соглашения о взаимодействии в области обеспечения информационной безопасности с Национальным банком Республики Казахстан, Центральным банком Республики Армения и Национальным банком Республики Беларусь. Планируется подписание аналогичного соглашения с Национальным банком Кыргызской Республики. Это при том, что еще в 2017 г. FinCERT стал участником двух международных организаций по обмену сведениями об инцидентах в ИБ – FIRST и EAST EGAF. Таким образом, бюллетени, которые выпускает российский центр реагирования, учитывают не только региональную информацию. За прошлый отчетный период FinCERT выпустил 211 бюллетеней.

В текущем году центр реагирования ЦБ РФ получил полномочия для построения системы для защиты от мошенничества – «Фид-АнтиФрод», которая будет работать как самостоятельная система на основе АСОИ. Система «Фид-АнтиФрод» предназначена для аккумулирования и быстрого обмена информацией об операциях без согласия клиента. Основными участниками такого обмена станут операторы по переводу электронных денежных средств, операторы услуг платежной инфраструктуры и Банк России. Причем ЦБ и поднадзорные банки получили полномочия по приостановке подозрительных транзакций сроком на три дня – это предполагает закон №167‑ФЗ «О внесении изменений в отдельные законодательные акты Российской Федерации в части противодействия хищению денежных средств», который был принят 27 июня 2018 г. Однако работа над созданием «Фид-АнтиФрод» была начата ЦБ еще в апреле, поскольку предполагалось вступление его в действие в течение 90 дней с момента опубликования. В результате на день вступления закона в силу (26 сентября), по данным Артема Сычева, в системе уже обрабатывались сведения о 500 организаций и десятках тысяч подозрительных транзакций. Следует отметить, что ЦБ не имеет полномочий самостоятельно блокировать транзакции – он лишь передает банкам сведения об уровне их риска. Получив такое предупреждение, банк должен запросить у клиента дополнительное подтверждение правильности реквизитов получателя. Если  подтверждение будет получено, исполнение транзакции должно быть продолжено. Полноценно система должна заработать с начала следующего года, когда вступит в строй вторая очередь системы. «Наша задача – снизить доходы мошенников», – пояснил Артем Сычев.

Еще одной темой, обсуждаемой на Skolkovo Cyberday 2018, стал искусственный интеллект, но не его опасность, а возможность его обмануть. Дело в том, что уже сейчас технологии искусственного интеллекта активно используют в информационной безопасности для выявления вредоносных кодов, обнаружения атак или фиксации утечек важной информации. Во всех случаях используются возможности искусственного интеллекта по классификации информации, событий или программного обеспечения. Оказывается, что механизмы классификации искусственного интеллекта можно нарушить с помощью специально сформированных наборов данных. Примеры подобных атак привел в своем выступлении Андрей Масалович, генеральный директор компании «Лавина Пульс».

Наиболее наглядно обман искусственного интеллекта был продемонстрирован на системах распознавания лиц, для которых существуют различные методы нарушения классификации. Самым курьезным оказался случай, который произошел в Китае, где система распознавания лиц используется для выписки штрафов за переход улицы на красный свет. Когда через переход проехал автобус с изображением женского лица на борту, то система выписала штраф этой фотографии за переход на красный свет. Однако есть и более существенные ограничения систем распознавания лиц. Например, некоторые системы можно обмануть с помощью специально сформированных очков – алгоритмы распознавания повышенное внимание уделяют чертам лица вокруг глаз, что и позволяет сбивать систему с толка. Кроме того, для всех шести типов нейронных сетей, предназначенных для распознавания изображений, обнаружились универсальные искажения, которые позволяют сделать любой объект «невидимым» для конкретной нейронной сети. Аналогичные «обманки» существуют и для других типов информации. Например, есть методики встраивания в музыку команд для голосовых помощников типа Siri и Cortana, которые те будут исполнять. Человек никаких команд не услышит – в лучшем случае, просто искажения в музыке.

Аналогичными методами пользуются разработчики вредоносных программ, которые скрывают их от различных систем классификации, встроенных в антивирусы. Поэтому если система защиты предназначена для выделения вредоносных программ, то ее всегда можно обмануть. Если же система предназначена для выявления аномалий, то обмануть ее будет значительно труднее. Денис Гамаюнов, генеральный директор SolidSoft отметил: «Можно обойти защиту, которая обучена распознавать атаки, но сложно обойти защиту, которая знает, что такое нормальное поведение пользователей». Таким образом, именно в этом направлении и должна развиваться разработка средств защиты – выявление аномалий в нормальной работе пользователей. Во всяком случае, в современных условиях в каждой системе защиты должен быть хотя бы один инструмент, работающий по такому принципу, чтобы его невозможно было сбить с толку.

Валерий Коржов








 

ИД «Connect» © 2015-2019

Использование и копирование информации сайта www.connect-wit.ru возможно только с письменного разрешения редакции.

Техподдержка и обслуживание Роман Заргаров


Яндекс.Метрика
Яндекс.Метрика