Министерство цифрового развития, связи и массовых коммуникаций может создать платформу для выявления дипфейков, функционирующую на основе искусственного интеллекта, сообщают «Ведомости».
Поручение по созданию соответствующей платформы дал глава кабмина России Михаил Мишустин по итогам прошедшей в конце прошлого года стратегической сессии, посвященной нацпроекту «Экономика данных».
Поиск решений
«Обсуждается возможность создания единой платформы, которая будет выявлять недостоверную информацию, сгенерированную в том числе с помощью технологий ИИ, – рассказал представитель Минцифры. – Предложено предварительно провести научно-исследовательские работы по обозначенной тематике». Однако сроки запуска платформы пока неизвестны.
ИТ-система могла бы выявлять в видео и изображениях неестественные изменения или аномалии, считает заместитель директора Центра компетенций НТИ «Технологии доверенного взаимодействия» на базе ТУСУРа Руслан Пермяков. Однако более эффективная стратегия – выявление не внешних признаков дипфейка, а использование конкретной методики создания контента, отмечает руководитель департамента расследований T.Hunter, эксперт рынка НТИ SafeNet («Сейфнет») Игорь Бедеров. «То есть, эффективнее было бы детектировать конкретную технологию. Это правильнее, поскольку дипфейк-технологии постоянно улучшаются», – пояснил эксперт.
Стратегия обнаружения
Проблема дипфейков довольно быстро стала актуальной. По словам члена комитета Госдумы по информационной политике, информационным технологиям и связи Антона Немкина, «биометрические данные любого гражданина могут быть использованы мошенниками для создания дипфейка. При этом технология становится все более популярной у мошенников. Уже не раз фиксировались случаи использования аудиодипфейков для вымогательства денежных средств. Все это – вызовы, которые и государство, и бизнес должны преодолеть».
Сегодня выявление дипфейков, как правило, происходит вручную. «Этим занимаются правоохранительные органы, а также специалисты в сфере информационной безопасности. Конечно, в условиях роста популярности технологии автоматизация процесса проверки станет необходимостью – иначе специалисты физически не смогут справиться с объемом информации», – пояснил парламентарий.
В настоящий момент Минцифры России должно определиться со стратегией выявления дипфейков, считает депутат: «Например, будет ли это отдельный сервис, либо плагин браузера, который в фоновом режиме будет анализировать все потоки информации? Это касается и выбора целевой группы: будет ли сервис доступен для всех граждан или только, например, для правоохранительных органов».
Инструменты регулирования
Создание платформы влечет за собой крупные инвестиции, а также необходимость проведения научно-исследовательской работы. Депутат отметил, что альтернативным решением может стать введение обязательной маркировки контента, созданного ИИ: «Например, при скачивании контента, созданного посредством нейросети Sora, автоматически появляется водяной знак. Кроме того, ряд платформ уже обязал авторов самостоятельно маркировать созданный искусственным интеллектом контент. Потенциально возможно введение обязательства маркировки любого контента, созданного ИИ на территории нашей страны».
Поскольку в России пока отсутствует полноценное регулирование сегмента, необходимо рассмотреть все возможные как нормативные, так и прикладные инструменты регулирования дипфейков, что позволит прийти к оптимальному решению.
