Компания «Архитех ИИ» разработала инструмент для борьбы с цифровым мошенничеством. Он будет доступен бесплатно и поможет выявлять фейковые фото и видео, сгенерированные ИИ. KodikScan определяет, создан ли контент искусственным интеллектом и поможет выяснить, какой нейросетью.
Инструмент использует ML-модели для анализа цифрового контента и оценки вероятности AI-генерации или AI-манипуляции. Система принимает изображение, видео, аудио или текст, извлекает скрытые признаки сгенерированного контента визуальные паттерны, структуру шума, временную динамику видео, акустические особенности голоса и статистику текста. На основе этих признаков система помогает понять, насколько материал похож на сгенерированный или модифицированный ИИ. Система сравнивает контент с паттернами, которые научилась находить на большом количестве примеров, и так определяет вероятность, что видео или фото поддельное.
— Мы разработали KodikScan как бесплатный продукт для цифровой гигиены. Инструмент позволяет любому пользователю проверить изображение, видео, аудио или текст на предмет манипуляций. Это важно, ведь количество фейкового контента растет: в социальных сетях регулярно появляются фейковые «вбросы», мошенники присылают россиянам «кружочки» и видеосообщения от якобы друзей и знакомых с просьбами перейти по фишинговой ссылке или отправить деньги на счет. Дипфейки становятся ежедневной проблемой тысяч людей, и мы решили дать всем возможность проверить реальность контента прежде, чем принимать решение, — рассказал разработчик ИИ-среды Kodik Рафаэль Гильмурахманов.
Если для граждан проверка контента на подлинность — вопрос цифровой грамотности, то для медиа и новостных агрегаторов — это вопрос юридической чистоты и сохранения репутации. Инструмент будет актуален для журналистов, авторов пабликов и блогеров, особенно на фоне инициативы РКН о превентивной блокировке резонансных дипфейков до проверки достоверности информации.
Разработчики предоставят инструмент для тестирования журналистам российских СМИ, которые нуждаются в регулярной проверке фактов и борьбы с фейками. Воспользоваться инструментов на сайте https://scan.kodik.ru/ может любой желающий: достаточно загрузить фото или видео и проверить, какова вероятность применения ИИ в контенте. Тесты показали, что инструмент определяет признаки генерации искусственным интеллектом с точностью 98,03%.
Источник: Компания «Архитех ИИ»
