«Сбер» получил два патента Федеральной службы по интеллектуальной собственности на технологии, созданные в рамках исследования по выявлению дипфейков. Результатом работы является повышение точности и эффективности обнаружения синтетического изменения изображений лиц людей в видео. Показатели эффективности системы, при замерах на независимых тестовых выборках, составили 98%, что существенно выше показателей опубликованных аналогов.
Видео не подделать
Основу технологий составляет ряд ансамблей нейросетевых моделей класса EfficientNet (патент №2768797) и метод амплификации и анализа средствами ИИ микроизменений в цветах объектов на кадрах (патент №2774624). Объединённые в одну систему, они позволяют с высокой точностью определить синтетически изменённые изображения лиц на видео. Патент, содержащий метод амплификации и анализа средствами ИИ микроизменений в цветах объектов на кадрах, Федеральная служба по интеллектуальной собственности признала патентом недели.
Разработанные технологии предназначены для использования при решении следующих задач: защита от кибератак с обходом систем распознавания лиц и выявления фальсификаций; выявление на ранних стадиях информационных атак с целью борьбы с фейковыми новостями; обеспечение защиты переговоров по видеоконференцсвязи. Отличительной особенностью разработанной «Сбером» системы является возможность обработки видеоконтента с несколькими лицами в кадре. В этом случае система выявляет отдельное лицо, созданное синтетическим образом, и оценивает его достоверность, что позволяет противодействовать ряду методов обхода систем выявления дипфейков.
«Сбер постоянно совершенствует свои системы кибербезопасности и проводит научные исследования в данной области, — пояснил заместитель председателя правления «Сбербанка» Станислав Кузнецов. — Наши запатентованные изобретения позволят эффективно решать задачи по выявлению информационных атак и кибератак с использованием дипфейк-технологий. Синтетические видео, используемые для атак на Сбер и наших клиентов, будут выявлены на самых ранних стадиях».
Защита от информационных атак
Технологии дипфейков — модификации изображений и видео с помощью искусственного интеллекта — является одной из ключевых в информационных атаках на предприятия, когда даже по телевидению иногда публикуются синтетические кадры для дискредитации как отдельных лиц в компании, так и всей компании целиком. Для разоблачения подобных фейковых новостей и сообщений важно пользоваться технологиями, качество которых подтверждается независимыми исследованиями. Разработанная «Сбером» технология распознавания дипфейков является одной из ключевых в таком информационном противостоянии, хотя и не позволяет защитить от постановочных фото и видео. Тем не менее хотелось бы, чтобы судебные эксперты могли ее использовать для анализа видео, предоставленного в рамках судебных разбирательств.
