На конференции «Нейроинформатика-2022», которая прошла в кампусе МФТИ в подмосковном Долгопрудном, компании «Лаборатория Касперского» и «Мотив нейроморфные технологии» представили свою первую совместную разработку – Kaspersky Neuromorphic Platform (KNP) для машинного обучения и первый отечественный нейроморфный чип «Алтай». Платформа предназначена для обучения нейросетей, разработки и запуска различных систем на их основе, исследования особенностей нейроморфного (работающего по аналогии с человеческим мозгом) искусственного интеллекта (ИИ).
Импульсные нейронные сети
Основу нейроморфных технологий искусственного интеллекта составляет обучение импульсных нейронных сетей. Такой подход специалисты называют биологоподобным, поскольку нейроны обмениваются не числами, как это происходит в искусственных нейронных сетях (ANN), а импульсами – спайками, что характерно для биологических нейронов.
Примечательно, что в нейроморфных системах память и функциональное устройство, моделирующее поведение нейрона, составляют единое целое. Поэтому становится возможным значительное снижение энергозатрат, особенно высоких в случае физического разделения памяти программы и данных.
Как показывают расчеты, решения, основанные на импульсных нейронных сетях и нейроморфных ускорителях, превосходят по энергоэффективности аналогичные решения на базе центральных (CPU) и графических (GPU) процессоров более чем в тысячу раз.
Нейроморфные системы искусственного интеллекта востребованы в сфере Интернета вещей, виртуальной и дополненной реальности, беспилотном транспорте, речевых интерфейсах, робототехнике. Возможности таких сетей помогут специалистам с поиском неполадок в сложных технологических процессах. С нейроморфными технологиями, основанными на обучении импульсных нейронных сетей, эксперты связывают наступление очередного этапа развития искусственного интеллекта. Внедрение таких технологий даст возможность повысить производительность решений, снизив энергопотребление. Станут доступными разнообразные сценарии их применения в высокотехнологичных отраслях, что будет способствовать появлению принципиально новых устройств на основе искусственного интеллекта.
Компоненты платформы
Аппаратная часть платформы базируется на отечественном нейроморфном чипе «Алтай». Планируется, что платформа будет открытой и ее смогут использовать разработчики в той или иной области.
Основные компоненты платформы – пакет для разработки и исследования импульсных нейронных сетей (SNN Framework) и нейроморфный процессор «Алтай» для аппаратной реализации исполнения нейронных сетей.
На платформе можно создавать и обучать нейронные сети, мониторить их работу, создавать программные и программно-аппаратные решения для нейроморфных систем искусственного интеллекта, дообучать разработанные модели сетей на вновь поступающих данных, масштабировать модели сетей в зависимости от сложности решаемых задач.
Платформа Kaspersky Neuromorphic Platform оперирует импульсными нейронными сетями. В них нейроны асинхронно обмениваются короткими импульсами в ответ на стимулы. В остальное время межнейронные связи неактивны и не потребляют энергию. В таких системах память и функциональное устройство, моделирующее поведение нейрона, составляют единое целое.
Основными областями внедрения нейроморфных систем искусственного интеллекта могут уже в ближайшее время стать Интернет вещей, беспилотные системы, человеко-машинное взаимодействие (VR/AR, речевые интерфейсы, распознавание речи), носимые устройства, робототехника, автоматическое выявление аномалий в сложных технологических процессах.
Запуск платформы Kaspersky Neuromorphic Platform – важный шаг на пути развития инструментов для работы с технологиями искусственного интеллекта нового поколения. Нейроморфные технологии – перспективная альтернатива существующим сегодня ресурсоемким технологиям машинного обучения. За счет энергоэффективности и высокой адаптивности они позволят не только снизить издержки, но и увеличить производительность высокотехнологичных решений. «Мы также ожидаем, что развитие таких систем уже в ближайшем будущем будет способствовать появлению новых сценариев применения искусственного интеллекта и созданию принципиально новых типов устройств на его основе. Как компания-новатор «Лаборатория Касперского» продолжит развивать технологии будущего, в том числе за пределами классической кибербезопасности», – отметил Андрей Духвалов, директор департамента перспективных технологий «Лаборатории Касперского».
Проведение конференции можно считать началом формирования сообщества ученых, исследователей, разработчиков, объединенных идеей развития нейроморфных систем. В выступлениях экспертов указывалось на большое количество актуальных технических и научных задач в этой сфере.
Процессор и его окружение
Группа компаний «Мотив», в которую входит ООО «Мотив Нейроморфные технологии», развивает R&D-проекты, связанные с технологиями компьютерного зрения. Стартап «Мотив Нейроморфные технологии» совместно с «Лабораторией Касперского» реализует проект создания нейроморфного процессора.
Технический директор компании «Мотив-НТ» Валерий Канглер, представивший на конференции нейроморфный чип «Алтай», начал свое выступление с уточнения. В последнее время в литературе к нейроморфным процессорам относят и тензорные, и матричные вычислители, что, по его мнению, ошибочно.
Нейроморфным процессором эксперт называет строго электронное устройство, выполняющее нейроморфные вычисления, которые производятся подобно тому, как мозг обрабатывает входные сигналы (причем с точки зрения как структуры, так и функциональности). Основные элементы импульсной нейронной сети – нейроны. Как и реальные биологические нейроны, они обмениваются между собой короткими импульсами.
Искусственные нейронные сети получили широкое распространение во всех сферах деятельности человека. Но основным аппаратным обеспечением для обучения и исполнения нейронных сетей остаются графические ускорители. У такого подхода много недостатков: высокое энергопотребление, ограниченные возможности масштабирования, большие массогабаритные характеристики и немалая стоимость. Все это в совокупности сдерживает массовое применение искусственных нейронных сетей в целом классе устройств, в частности, автономных, мобильных с низкими энергетическими бюджетами. А потребность в интеллектуальной обработке сигналов в умных датчиках, требующих локальной обработки, высокая. На преодоление этих сложностей и направлен проект, реализуемый компанией.
Цель проекта – создание цифрового нейроморфного процессора (СБИС) для высокоэффективного исполнения импульсных нейронных сетей. Среди основных направлений его использования – системы технического зрения и наблюдения, интеллектуальные и робототехнические системы, обработка больших данных в ЦОД и Интернет вещей, в том числе индустриальный.
Что касается технических характеристик чипа, то он включает в себя 256 нейроморфных ядер, моделирует 131 072 нейрона, 67 108 864 синапса. При энергопотреблении менее 0,5 Вт «Алтай» способен выполнять до 67 млрд операций и 2200 кадров в секунду. Чип с такими характеристиками подходит для применения в устройствах широкого спектра – от Интернета вещей до центров обработки данных.
Основным продуктом – коммерческим результатом нейроморфного проекта – в компании «Мотив-НТ» называют нейрочип «Алтай», нацеленный на сегмент встраиваемых систем. Наряду с коммерциализацией чипов планируется использовать лицензирование IP-блоков для сторонних разработчиков, что позволит применять нейроморфные ядра в других интеллектуальных устройствах.
На основе нейрочипа «Алтай» компания разрабатывает нейроморфный акселератор со стандартным интерфейсом, способный объединять до 32 чипов, создавать значительную вычислительную мощность – до 4 млн нейронов при энергопотреблении менее 20 Вт. Такое исполнение предназначено для использования в настольных системах, персональных компьютерах и небольших вычислительных системах на предприятиях.
Следующим шагом, как обещают в компании, станет создание объединительной платы, способной поддерживать подключение до 16 нейроморфных акселераторов. Подобная система сможет объединять до 67 млн нейронов. Плату можно подключить к компьютеру, установить в стандартную стойку, кроме того, их можно объединять в систему (сплошное пространство – двумерную решетку нейроядер). Соответственно, ничто не мешает собрать вычислительное устройство фактически неограниченной мощности.
В выступлении отмечалось, что нейрочип «Алтай» поддерживает как положительные, так и отрицательные спайки, предусмотрены также настраиваемая линейная утечка, управляемый потенциал после активации. Следует учитывать, что для каждого нейрона характерно 512 соединений (синапсов) и небольшое разнообразие весов (не более четырех целочисленных значений).
Сам процессор представляет собой регулярную структуру – двумерную сетку ядер, каждое ядро работает независимо, находясь в своем домене синхронизации, а вместе они образуют сеть на кристалле (коммуницируют между собой). Каждое ядро поддерживает 512 входных линий, моделирует столько же нейронов и соответственно 5122 синапсов. «Мы поддерживаем только одну простую, но при этом самую распространенную модель нейрона – LIF c постоянной утечкой. Функцию нейронов в ядре выполняет конечный автомат ядра, который моделирует поведение нейронов», – пояснил эксперт.
В структуре ядра выделяется несколько блоков. Для загрузки памяти и управления работой ядра используется конфигуратор. Параметры нейронов, синаптические связи и другие параметры моделируемой спайковой сети хранятся в памяти конфигурации нейронов. Важный компонент каждого ядра – маршрутизатор – блок для отправки, приема и транзитной передачи проходящих спайков и накопленных потенциалов нейронов.
Применительно к работе «Алтая» в компании используется понятие «тик» – внешний сигнал, который запускает цикл обработки. «Интервалы между тиками рассчитываются таким образом, чтобы за это время успели обсчитаться все нейроны, и порожденные спайки сумели достичь своих целей. Частота следования тиков может составлять 2 кГц», – сообщил докладчик. Одна синаптическая операция выполняется за один такт синхросигнала (600 МГц).
Предполагается, что «Алтай» позволит исполнять импульсные сети произвольной архитектуры, будет отличаться неограниченной масштабируемостью, низким энергопотреблением, высокой производительностью. Компания работает над тем, чтобы в следующих версиях продукта была возможность обучения в процессе функционирования.
Наряду с оборудованием компания разрабатывает ПО. К настоящему времени предлагается способ преобразования обученных сверхточных нейронных сетей в импульсные сети для исполнения на нейроморфном процессоре. Создан комплект программного обеспечения для работы с этим процессором, включая драйверы, «золотую модель», на которой в отсутствие нейроморфного оборудования можно отлаживать алгоритмы, совместимые с нашим «железом». Экспериментально подтверждены расчетные характеристики быстродействия и энергоэффективности.
Бизнес-модель коммерциализации
Проект соответствует требованиям, предъявляемым к критическим и сквозным технологиям. На старте работ команда проекта получила господдержку со стороны Фонда содействия инновациям и Фонда «Сколково».
В мире повышается интерес к нейроморфным процессорам, что подтверждается экспоненциальным увеличением публикаций на эту тему. Существует много нейроморфных чипов, пока, правда, в основном академического исследовательского характера. Но постепенно появляются и коммерческие решения. Одна из целей компании «Мотив-НТ» – как можно скорее перейти к коммерческому применению чипа, в частности, этим продиктованы архитектурные решения.
Говоря о бизнес-модели коммерциализации разрабатываемых продуктов, представитель компании назвал продажу нейрочипов и других решений, лицензирование программного обеспечения для технологических партнеров, а также лицензирование IP-блоков для производителей СБИС и для реализации гетерогенных систем на кристалле. Потребители названных продуктов – разработчики и производители «умных» устройств, Интернет вещей, интеллектуальные видеокамеры, робототехника.
По данным Future Market Insights, к концу 2026 г. объем рынка нейроморфных процессоров превысит 10 млрд долл. Прогнозируется, что устройства будут востребованы прежде всего в сегментах Интернета вещей, робототехнической индустрии, оборонно-промышленном комплексе и здравоохранении.
Согласно дорожной карте проекта, в 2021 г. было проведено тестирование прототипов нейроморфного процессора «Алтай», в «Лабораторию Касперского» поставили нейроморфные акселераторы для запуска на них модельных задач. В планы «Мотив-НТ» на период до 2024 г. входят поиск технологических партнеров для создания совместных пилотных проектов с использованием прототипа процессора, разработка второй версии нейрочипа «Алтая» («понятно, куда двигаться, какие узкие места надо преодолевать»). В компании будут также дорабатывать ПО, чтобы его можно было бесшовно использовать в составе платформы Kaspersky Neuromorphic Platform для нейроморфного машинного обучения. Первые коммерческие проекты и поставки чипа ожидаются в 2025 г.
