Сергей Гарбук: «Интересы государства, общества и человека – в приоритете технологического развития»

Перевод российской экономики на рельсы цифровизации долгое время оставался задачей со многими неизвестными. Летом этого года ситуация постепенно начала меняться. Создание единого цифрового пространства, построение цифровой экономики были ключевыми темами дискуссий в рамках Петербургского международного экономического форума. Недавно Минкомсвязи представило одноименную госпрограмму. О цифровом вихре, который дует в паруса российской оборонной отрасли, шла речь на VI форуме «Информационные технологии на службе оборонно-промышленного комплекса России». Одним из стимулов разработки новейших ИТ-технологий, без которых невозможна реализация прорывных проектов в целях увеличения конкурентоспособности предприятий, повышения обороноспособности и национальной безопасности, можно считать создание в 2012 г. Фонда перспективных исследований (ФПИ). Накануне пятилетия ФПИ в интервью журналу Connect заместитель генерального директора Фонда перспективных исследований – руководитель направления информационных исследований Сергей Гарбук рассказал о роли ИТ в решении государственных задач, первых результатах многообещающих проектов и готовности специалистов ответить на вызовы времени.

 Сергей Владимирович, Фонд перспективных исследований ведет свою деятельность по нескольким направлениям. Что представляет собой направление информационных исследований, которым вы руководите?

– Фонд перспективных исследований – это институт развития, предназначенный для поддержки высокорисковых научно-технических проектов преимущественно в сфере обороны и безопасности. Сегодня в стадии реализации около 70 проектов, некоторые уже завершены. Изначально фонд тематически подразделялся на три научных направления: физико-технические исследования (оружие, системы связи, робототехника, беспилотные летательные аппараты, комплексные проекты в сфере обороны и безопасности); химико-биологические и медицинские исследования (новые материалы и науки о человеке); информационные исследования. В последствии появились еще два направления: созданы Национальный центр развития технологий и базовых элементов робототехники и Центр развития перспективного материаловедения.

Направление информационных исследований, в свою очередь, реализует проекты в следующих четырех областях: перспективная электронная компонентная база (ЭКБ), информационные технологии для ОПК, интеллектуальные системы обработки информации, информационная безопасность. По каждому из них получены первые результаты.

О каких результатах можно рассказать, привести примеры прорывных проектов?

– Проекты длятся два-три года. С учетом того, что запускались они в 2014–2015 гг., некоторые работы подходят к завершению. В частности, в сфере ЭКБ выполнен проект, головным исполнителем которого выступил физический факультет МГУ им. М.В. Ломоносова. Разработаны базовые технологии для создания квантово-криптографических систем связи. Испытания проходили на реальных волоконно-оптических каналах связи «Ростелекома», технологии готовы к применению для решения задач, связанных с передачей защищенной информации.

Еще один проект, на который мы возлагаем большие надежды – в области квантовых вычислений. Головным исполнителем этого проекта является Всероссийский НИИ автоматики им. Н.Л. Духова (входит в корпорацию Росатом). В кооперации участвуют шесть организаций – Московский физико-технический институт, Московский государственный технический университет им. Н.Э. Баумана, Национальный исследовательский технологический университет «МИСиС», Новосибирский государственный технологический университет, Институт физики твердого тела РАН и Российский квантовый центр. Ожидается, что в рамках проекта будет получен квантовый симулятор для моделирования свойств веществ и динамических процессов. Эти задачи не могут быть решены с помощью классических методов вычислений. Важно, что индустриальным партнером проекта выступает корпорация Росатом: там разрабатываемые технологии накапливаются, чтобы в дальнейшем была возможность организовать промышленное производство отечественных квантовых компьютеров. К сдаче готовится первый этап работы – будет продемонстрирована возможность создания квантовых битов с использованием сверхпроводниковых технологий. Всего предусмотрено три этапа работы, по окончании которой в 2019 г. запланировано появление прототипа отечественного квантового симулятора.

Стоит упомянуть проект в области радиофотоники, главным исполнителем которого выступает концерн «Радиоэлектронные технологии» (КРЭТ). В рамках проекта предполагается получить технологии преобразования сигналов из оптического диапазона в радиочастотный и обратно с очень высоким КПД, малыми искажениями и т. д. Разрабатываемая элементная база будет обладать элементами мировой новизны, и в нашей стране появится возможность создания радиолокационных систем, которые крайне устойчивы к электромагнитным воздействиям, отличаются выгодными массогабаритными характеристиками и позволяют эффективно обрабатывать излучаемые и принимаемые сигналы.

Какие критерии используются при определении будущей результативности отбираемых проектов?

– Основным критерием является вклад создаваемых технологий в обеспечение обороноспособности и национальной безопасности страны. В этом плане крайне важно взаимодействие с силовыми ведомствами, которые в дальнейшем развивают прототипы создаваемых технологий и способствуют применению их на практике.

Как именно подсчитывается вклад, о котором вы говорите?

– Используются экспертные оценки для анализа эффективности применения тех или иных технологий в ходе современных и вероятных военных конфликтов. Разрабатываются математические модели, на основе которых уже не качественно, а количественно подсчитывается, как создание технологии или образца вооружения будет влиять на исход боевой операции. Подобные подходы используются и другими государственными заказчиками, а также применяются соответствующими структурами за рубежом.

Услугами каких экспертов вы пользуетесь?

– При выборе проектов мы опираемся прежде всего на позицию Научно-технического совета, созданного при нашем фонде. В него входят представители заинтересованных федеральных органов исполнительной власти – специалисты высочайшей квалификации, обладающие широким кругозором в сфере оборонной промышленности. Решение о запуске проекта принимается после его одобрения Научно-техническим советом.

Насколько при этом учитываются мнения оппонентов?

– Пока не снято каждое из представленных конструктивных замечаний, проект не реализуется. Мы благодарны всем экспертам за высказанные полезные замечания и конструктивную критику.

Как строится взаимодействие ФПИ с представителями профессионального сообщества?

– Научно-технический совет оценивает новизну и прикладную значимость проектов с точки зрения их вклада в эффективность решения задач в сфере обороноспособности. В дополнение к этому выполняется внешняя научная экспертиза. Каждый проект направляется как минимум трем экспертам и одной экспертной организации. Всего в экспертном пуле, который дополняется и обновляется, свыше тысячи человек и более 300 организаций.

Сколько лабораторий действует под эгидой ФПИ, по каким направлениям их планируется создать?

– Лаборатория создается каждый раз для реализации конкретного проекта. Подразделение, которое приступает к работе в качестве исполнителя, мы называем лабораторией Фонда, хотя это структурное звено организации, с которой заключается договор. Сейчас мы апробируем новый формат – целевые поисковые лаборатории. Они удобны для работы с технологиями, находящимися в самой начальной стадии развития, когда запускать проект рано, поскольку не представляется возможным сформулировать конкретные требования к планируемым результатам и в стране еще не образовались научно-исследовательские коллективы с достаточными компетенциями. В то же время ясно, прежде всего из анализа мирового опыта, что заниматься задачей нужно, пора приступать к исследованиям и предварительным экспериментам. В настоящее время на базе Института точной механики и оптики в Санкт-Петербурге (Университет ИТМО) создана первая такая лаборатория – квантовой когнитивистики и интеллектуальных систем. Специалисты будут вести предпроектную деятельность в рамках многообещающего направления – применение квантовых формализмов для анализа социальных и экономических явлений, процессов принятия решений людьми. Обращение к новому формату – инициатива фонда, которая родилась в ходе взаимодействия с коллегами из МГУ имени М.В. Ломоносова, Института проблем управления РАН и других организаций, а реализуется в рамках направления информационных исследований ФПИ.

Каковы, по вашему мнению, основные тенденции развития информационных технологий сегодня в мире?

– Среди глобальных технологических трендов стоит выделить два. Первый обусловлен быстрым увеличением количества источников информации, стремительным развитием инфраструктуры передачи данных. Сегодня можно получить и передать какие угодно данные и куда угодно. Каждый социально активный человек охвачен персональными телекоммуникационными связями. Причем связи эти имеют сетевой характер, они мультимедийны, глобальны и непрерывны. Но еще больший информационный трафик примерно с конца 2000-х годов генерируется и потребляется непосредственно техническими устройствами. Это явление получило название Интернета вещей.

Второй тренд связан с совершенствованием средств обработки информации: компьютеры становятся все более мощными, компактными и энергоэффективными, что также создает предпосылки для развития ИТ в целом. Баланс между потоком поступающих данных и возможностями средств обработки характеризуется термином «большие данные», под которым понимаются информационные массивы, соответствующие предельным возможностям современных вычислительных средств. Замечу, что по мере повышения производительности средств обработки под большими данными понимаются информационные массивы все большего объема. Чем-то это напоминает линию горизонта, которая по мере приближения к ней отодвигается.

Эти два тренда создают технологические возможности ИТ-прогресса. В то же время объективные потребности обусловливаются развитием так называемых организационных технологий, придающих смысл технологическим новшествам в контексте базовых ценностей человека, общества и государства. Учет этих смыслов и ценностей позволяет избежать навязывания спроса на новые, но объективно не востребованные ИТ. Примерами таких организационных технологий являются технологии менеджмента качества и управления жизненным циклом изделий, технологии удаленной работы и виртуальной реальности, совместного владения, распределенного реестра и другие, изменяющие принципы производственных, экономических и общественных отношений.

По мере развития ИТ возникают новые вызовы. Каким образом государство может и должно на них реагировать?

– Созданием новых форматов, площадок реализации научно-технических проектов и регулирования этой деятельности. В качестве комплексного проекта в этой области следует рассматривать Национальную технологическую инициативу, способствующую реализации Стратегии научно-технологического развития РФ, созданию цифровой экономики. Формат госпрограммы развития цифровой экономики позволяет ориентироваться на объективные потребности общества, обосновывая таким образом задачи в области информационных и иных технологий. Замечу, что при этом особенно важна роль специалистов в гуманитарных областях, которые принимали активное участие в подготовке Стратегии.

На какие положения Стратегии научно-технологического развития РФ вы считаете необходимым обратить внимание?

– Актуальные тенденции развития ИТ учтены не только в Стратегии научно-технологического развития, но и в программе «Цифровая экономика». Определены так называемые большие вызовы, угрожающие устойчивому развитию общества. Парирование этих вызовов предполагается осуществить за счет развития сквозных технологий, значимых как для развития экономики, так и в оборонной сфере. Нельзя не отметить, что практически все сквозные технологии так или иначе затрагивают сферу ИТ: промышленный Интернет, робототехника, технологии аддитивного производства, виртуальной и дополненной реальности, квантовой обработки информации, нейротехнологии, новые коммуникационные технологии, технологии искусственного интеллекта.

Какие проекты в области цифровой экономики реализуются при содействии ФПИ?

– В этом году завершен проект создания единой среды коллективной разработки программного обеспечения «Гербарий». Сейчас ведутся работы по внедрению этих технологий в заинтересованных отраслях, в частности в госкорпорациях «Росатом» и «Роскосмос». «Гербарий» хорош тем, что позволяет наиболее полно использовать научно-технический задел, имеющийся в стране, и отражает стремление современной молодежи к динамичному образу жизни (например, удаленно работать, формировать распределенные коллективы единомышленников). Снижается порог входа на рынок индустриального ПО для небольших компаний-разработчиков и оживляется конкурентная среда. Наряду с этим платформа обеспечивает защиту авторских прав, помогая капитализировать разработанные программные продукты.

Разумеется, возникают определенные сложности, связанные с обеспечением гарантированного качества ПО, разрабатываемого в распределенном, коллективном режиме. Для преодоления таких трудностей используются механизмы стандартизации требований к программным продуктам, унификации решаемых прикладных задач и сертификации технологий на основе их виртуальных испытаний. Надеемся, что внедрение платформы будет способствовать решению проблемы импортозависимости в такой чувствительной области, как микропроцессорная техника. «Гербарий» в перспективе позволит создавать ПО, оптимизированное для работы с отечественными микропроцессорами серии «Эльбрус», предоставляя доступ к соответствующим эмуляторам и средствам отладки.

Какая роль отводится виртуальным испытаниям и что в этой сфере делается в стране?

– Виртуальные испытания – один из базовых принципов цифровой экономики. Применение этого механизма на стадии разработки сложных изделий позволит сократить сроки и стоимость разработки, повысив их надежность благодаря тестированию изделий во всевозможных условиях эксплуатации. Следует выделить три основных технологических составляющих виртуальных полигонов: высокопроизводительные вычислительные системы; методы математического моделирования материалов и физических процессов; оцифрованные массивы исходных данных об объектах моделирования, окружающей среде и о взаимодействующих объектах.

В России создана и продолжает развиваться распределенная вычислительная инфраструктура, позволяющая решать задачи моделирования высокой сложности. Одной из ключевых задач повышения эффективности использования этой инфраструктуры является обеспечение информационной безопасности при проведении вычислений в распределенной недоверенной среде. Эта задача особенно актуальна при внедрении технологий виртуальных испытаний в оборонно-промышленном комплексе.

Какие подходы к обработке информации, в частности неструктурированной, рассматриваются в качестве перспективных?

– Если говорить об исходных данных для проведения виртуальных испытаний, то ситуация двоякая. С одной стороны, огромное количество релевантной информации поступает от многочисленных сенсоров, с другой – преобразование этой слабо структурированной информации в данные, подлежащие автоматизированной обработке, – нетривиальная задача. До настоящего времени она во многих случаях решалась исключительно человеком-оператором. Преодоление этой трудности предполагает создание технологий, способных заменить человека-оператора при обработке информации.

Не буду скрывать, искусственный интеллектуальный оператор – моя любимая тема. Убежден, что настало время в самых разных отраслях экономики инвентаризировать прикладные интеллектуальные способности человека-оператора и поставить перед научным сообществом конкретные задачи по созданию технологий, не уступающих человеческим возможностям. Отсутствие нормативно закрепленных требований сдерживает развитие технологий искусственного интеллекта.

Поясните, пожалуйста, на конкретных примерах.

– Исключительно перспективным представляется создание технологий, способных контролировать выполняемые человеком операции ручной сборки сложных изделий, проверяя их на соответствие цифровым описаниям реализуемых технологических процессов. Подобная технология позволит резко повысить качество выполняемых операций благодаря участию в процессе «искусственного контролера», владеющего максимально полной информацией о параметрах сборочного процесса. Выявленные нарушения будут фиксироваться, реагировать на это можно путем запрета перехода к следующему технологическому этапу. Полезной такая технология будет и при расследовании инцидентов, связанных с ошибками при сборке и обслуживании изделий. Применение «искусственного контролера» благоприятно скажется на себестоимости и конкурентоспособности продукции и услуг.

Вы хотите сказать, что искусственные манипуляторы заменят руки человека…

– Полностью заменить руки человека искусственными манипуляторами, на мой взгляд, вряд ли возможно, да и нецелесообразно в обозримой перспективе. Важнее автоматизировать технологические знания оператора. «Искусственный контролер» проследит за тем, чтобы компоненты изделия были собраны в строгом соответствии с предписанными требованиями.

Отечественные разработчики готовы к решению задач такого уровня сложности?

– Да, но при условии, если такая задача будет формализована и поставлена. Отечественная научная школа обладает потенциалом мирового уровня в области методов распознавания образов, активно развиваются частные технологии типа Leap Motion, связанные с анализом движения рук человека. Есть задел в области создания бесконтактных координатно-измерительных машин, позволяющих формировать объемное, геометрически точное описание объекта на основании видеоизображений.

ФПИ рассматривает возможность реализации проектов по созданию технологий контроля ручных операций в самых разных отраслях: автомобильной, авиационной, ракетно-космической. Ключевая проблема кроется скорее в другом – отсутствии механизма подтверждения соответствия того, что технология позволяет в автоматизированном виде решать интеллектуальную задачу с качеством, не уступающим человеку-оператору. Применительно к «искусственному контролеру» необходим механизм подтверждения того, что автоматизированная технология контролирует ручные действия оператора сборочного производства не хуже, чем инженер-технолог.

Решение такой задачи предполагает создание системы оценки соответствия интеллектуальных технологий, разработку стандартов, устанавливающих требования к таким технологиям, формирование системы сертификации, позволяющей оценивать соответствие технологий этим требованиям.

Подобная система оценки соответствия необходима только для технологий интеллектуального контроля ручных действий?

– Безусловно, нет. Отсутствие системы оценки соответствия сдерживает внедрение интеллектуальных технологий в различных отраслях экономики. Ярким примером является беспилотный транспорт: автомобиль не выпустят на дорогу там, где он может нанести вред жизни и здоровью людей, причинить материальный ущерб, пока общество и госрегулятор не будут уверены в том, что беспилотник способен перемещаться с уровнем безаварийности, не уступающим водителю с достаточно высокой квалификацией. Но для этого нужно уметь сравнивать возможности технологии автоматического управления движением с возможностями этого эталонного водителя. Пока не будет создана соответствующая нормативно-методическая база, беспилотные автомобили останутся лишь лабораторными образцами.

Еще один пример – ситуация с исполнением Федерального закона № 374-ФЗ, так называемого закона Яровой. Предполагается, что информация, передаваемая пользователями услуг связи, подлежит хранению в течение шести месяцев. Для хранения одноминутного звукового сигнала, закодированного в формате одного из распространенных речевых кодеков, необходим накопитель емкостью от 40 до 480 кбайт. Хранение таких объемов проблематично, что и вызывает сомнения в возможности технической реализации требований закона. В результате введение в действие этой законодательной нормы отложено. В то же время сжатие телефонного сигнала с автоматическим распознаванием речи собеседников, звуков, на фоне которых происходит разговор, позволяет на один-два порядка снизить требования к объему систем хранения данных. Автоматическое сжатие телефонного сигнала должно выполняться с сохранением его юридической значимости, включая обеспечение возможности использования результатов обработки в качестве доказательства в суде. Для выполнения этого требования также необходима разработка нормативной базы, предъявляющей определенные требования к соответствующим интеллектуальным технологиям

Не возникнут ли новые угрозы обществу, связанные с технологиями, заменяющими человека при решении задач?

– Известные апокалиптические прогнозы, описывающие подчинение человечества им же созданному «искусственному разуму», на мой взгляд, малонаучны и относятся к разряду фантастики. Гарантия безопасности – принцип автоматизации только индустриально значимых интеллектуальных возможностей человека, имеющих прикладное значение. Речь не идет о морально-этических ценностях, творческих и некоторых других способностях, также тесно связанных с интеллектом человека.

В то же время, по некоторым оценкам, рабочих мест, с которых человека могут вытеснить прикладные интеллектуальные технологии, в мире свыше 1,1 млрд. Масштабное внедрение таких технологий может привести к социальному взрыву. И вот это представляет серьезную угрозу для общества. Необходимо разумно перераспределять обязанности между людьми и техническими системами.

Каким образом?

– Например, отвести человеку больше времени на решение творческих задач.

Какова роль фонда в создании условий внедрения интеллектуальных технологий?

– Начиная с 2014 г. фонд провел ряд открытых конкурсов интеллектуальных технологий обработки информации. В частности, были отобраны решения в области распознавания сложной русской речи, лиц, дешифрирования аэрокосмических изображений. Участникам этих конкурсов предлагалось продемонстрировать возможности своих технологий на контрольной выборке исходных данных, сложность которой соответствовала сложности прикладной задачи. По сути, выборка данных в совокупности с функционалом качества, характеризующим возможности технологии обработки, представляла собой проект стандарта с требованиями к соответствующим интеллектуальным технологиям. По сходному принципу проводится технологический конкурс Агентства стратегических инициатив, РВК и Сколково «Зимняя трасса». Участники будут демонстрировать возможности систем автоматического управления автомобилем в условиях заснеженной трассы с дорожными знаками и препятствиями.

Фонд планирует продолжать подобные конкурсы: мы рассчитываем, что они послужат делу создания в России системы оценки соответствия интеллектуальных технологий. Все это будет содействовать замене человека, выполняющего интеллектуальные, но рутинные функции, на искусственного интеллектуального оператора.

Уделяя такое внимание разработке стандартов, систем соответствия, фонд не дублирует функции известных профильных структур?

– Разработка документов по стандартизации в рамках технических комитетов регулируется Росстандартом. Но к стандартам в области интеллектуальных технологий предъявляются дополнительные требования: я имею в виду прежде всего наличие выборки тестовых данных, на которых должны подтверждаться возможности технологии. Наша миссия на этом пути, значительная часть которого уже пройдена, состоит в том, чтобы подготовить почву для создания новых стандартов, оказать методическое содействие.

Прокатившиеся по миру кибератаки представляют серьезную угрозу для инфраструктурных объектов. Какие шаги предпринимаются ФПИ для создания систем обнаружения и предупреждения компьютерных атак, защиты информации в автоматизированных системах управления производственными и технологическими процессами?

– Следует обратить внимание на серьезность таких событий. Кибератаки, о которых широко известно, – это тренировки более масштабных по своим последствиям операций. Интересанты этих атак тестируют на устойчивость элементы критически важной инфраструктуры. Воздействию подергается также массовое общественное сознание. Используются технологии, которые могут быть эффективны и для выведения большого количества людей с протестными движениями на улицу, и для доведения подростков до самоубийства.

Что же делать, какие контрмеры разрабатываются силами фонда?

– В рамках противодействия атакам в отношении технической инфраструктуры мы отрабатываем подход, связанный с созданием интеллектуальных систем безопасности. Такие системы «понимают», каким именно объектом управляют и к каким последствиям может привести реализация той или иной управляющей команды или программы. В этом отличие интеллектуальной системы защиты от формальной, построенной на принципе «черных и белых списков». Интеллектуальная система защиты пытается прогнозировать и, исходя из допустимости последствий, принимает решение о легитимности команды. Такие проекты мы готовим.

Что касается воздействия на общественное сознание, то здесь стоит напомнить о работе нашей первой целевой поисковой лаборатории. Мы рассчитываем, что применение квантово-механических подходов к анализу психических явлений даст возможность сформировать адекватные модели, которые позволят прогнозировать последствия информационного вброса или направленной атаки. Причем важно исключить так называемое параноидальное реагирование на все происходящее в электронных СМИ, Интернете. Ведь это не менее опасно. Одно дело, если информационная атака может привести к гибели людей, беспорядкам или иным противозаконным последствиям, и совсем другое, когда речь идет о разнообразии мнений, на что каждый имеет право в нашем многополярном мире.

Как вы оцениваете точность прогнозирования в таком контексте?

– Точность – комплексное понятие. Но если ограничиться одной цифрой, то не менее 85%.

 

Следите за нашими новостями в Телеграм-канале Connect


Поделиться:



Следите за нашими новостями в
Телеграм-канале Connect

Спецпроект

Медицинские задачи для ИИ

Подробнее
Спецпроект

Цифровой Росатом

Подробнее


Подпишитесь
на нашу рассылку