Eyeriss – нейронные сети и глубинное обучение

EyerissНа международной выставке International Solid-State Circuits Conference (ISSCC-2016), проходившей с 31 января по 4 февраля этого года в Сан-Франциско (США), команда инженеров из MIT (Массачусетский технологический институт) представила на суд компьютерной общественности мобильные процессоры нового поколения Eyeriss. Это событие заслуживает отдельной заметки, поскольку оно выпадает из общего ряда анонсов новых процессоров, которых было предостаточно на консьюмерской выставке CES-2016 в начале января.

Для начала заметим, что подразделение MIT, занимавшееся разработкой чипа, было основано на фонды, выделенные американским оборонным агентством Defense Advanced Research Projects Agency (DARPA). И, кстати, первым же, кто откликнулся на этот анонс процессора большим редакционным материалом, стал известный военный аналитик Патрик Такер (Patrick Tucker). В частности, он указал на то, что новые процессоры Eyeriss, установленные на мобильные девайсы солдат американской армии, будут способны решать сложнейшие вычислительные задачи, связанные с обработкой огромных объемов информации, причем без подключения к общей сети – локально.

Какими же чудесными особенностями обладают новые процессоры Eyeriss? Сам термин «чудесные» в данном случае не выглядит преувеличением, поскольку «камни», созданные командой MIT, располагают 168 ядрами на одном чипе, при этом каждое процессорное ядро имеет собственную память. Кроме того, чип имеет схему, которая сжимает данные перед отправкой их на отдельные ядра. Каждое ядро процессора Eyeriss также может напрямую общаться со своими непосредственными соседями, так что если они должны обмениваться данными, ядрам не приходится направлять их через основную шину – это критически важная особенность для симуляции работы «сверточной нейронной сети» (Convolutional Neural Network – CNN). Идея ее работы заключается в использовании особенностей зрительной коры, в которой были открыты так называемые простые клетки, реагирующие на прямые линии под разными углами, и сложные клетки, реакция которых связана с активацией определенного набора простых клеток. Наконец, в процессоре Eyeriss предусмотрена специализированная микросхема, задача которой заключается в быстром и максимально эффективном распределении различных типов данных (например, данных, которыми манипулируют узлы нейронной сети, и данных, которые описывают сами эти узлы) между работающими ядрами при симуляции распределенных вычислений.

Представленная новая архитектура мобильных чипов позволит компактным девайсам производить «глубинное обучение» (Deep learning). Речь идет о наборе алгоритмов машинного обучения, которые пытаются моделировать высокоуровневые абстракции в данных, используя архитектуры, состоящие из множества нелинейных трансформаций. До сих пор подобные глубокие архитектуры работали исключительно на искусственных нейронных сетях – применялись в таких областях, как распознавание образов, речи, обработка естественного языка и пр.

Мобильные процессоры, оснащенные 168 ядрами на одном чипе, способны симулировать работу распределенных вычислений, поэтому владельцу подобного устройства не нужно подключаться к сети, загружать в нее данные, а потом дожидаться их обработки – процесс можно будет завершить на одном девайсе. В связи с этим Патрик Такер отмечает, что данные технологии радикальным образом упростят жизнь военным. Так, в настоящее время ВВС США ежедневно получают с дронов, летающих над Афганистаном, до 1500 часов HD-видео и до 1500 фотографий сверхвысокого разрешения. Причем весь этот вал информации обрушивается на головы «несчастных» операторов, в задачу которых входит анализ визуальных изображений. К сожалению, компьютерное ПО, применяемое сейчас, не позволяет осуществлять простейшие, казалось бы, операции: отличать крестьянина, бредущего с палкой по тропинке, от террориста, переносящего пусковую установку для управляемых ракет. Это приходится делать по старинке – дедовскими методами. Именно для подобных задач и начали в свое время разрабатываться методы машинного обучения, основанные на репрезентационном обучении. Наблюдения, например изображение, могут быть представлены по-разному, скажем, вектор пикселей, но некоторые репрезентации позволяют легче отвечать на вопросы, например, является ли это изображение лицом. Исследования в этой области пытаются определить, какие репрезентации более полезны при создании компьютерных алгоритмов, и как разрабатывать математические модели, которые могли бы научиться создавать подобные репрезентации.

Далее, процессоры Eyeriss можно устанавливать на те же автоматические дроны – в результате обработку видеоданных с применением технологий «глубокого обучения» можно будет осуществлять на борту летательного аппарата и, не отсылая для анализа в военную сеть, передавать результаты напрямую в действующие в данном районе боевые подразделения. Таким образом, сбор и обработку информации можно будет выполнять локально – не перегружая сети связи и не заваливая рутинной работой операторов центров обработки данных. Оперативная работа в режиме реального времени – это именно то, что требуется военным на современном поле боя.

Разумеется, речь здесь идет не только о военном применении, хотя, памятуя о том, кто выделил деньги команде MIT для разработки нового процессора, понятно, где такие чипы появятся в первую очередь. Новые процессоры Eyeriss могут использоваться в автомобилях с автоматическим управлением – именно здесь в первую очередь будет востребована обработка визуальной информации в реальном времени, поскольку быстрота анализа видеоданных становится критически важной. Вероятно, со временем подобные технологии получат самое широкое применение в мобильной отрасли, в различного рода онлайновых сервисах, которые мы сегодня все в большей степени начинаем связывать с популярным термином – Интернет вещей.

Интересно, что анонс процессора Eyeriss, прошедший без большой мировой огласки, вызвал неподдельный интерес у ведущих компаний отрасли. Так, на это событие уже откликнулись (причем с исключительно положительными комментариями) вице-президент Samsung’s Mobile Processor Innovations Lab. Майк Полли (Mike Polley) и глава исследовательского подразделения компании NVidia Джоэл Эмер (Joel Emer).

Дмитрий Шульгин

Следите за нашими новостями в Телеграм-канале Connect


Поделиться:



Следите за нашими новостями в
Телеграм-канале Connect

Спецпроект

Медицинские задачи для ИИ

Подробнее
Спецпроект

Цифровой Росатом

Подробнее


Подпишитесь
на нашу рассылку