Искусственный интеллект на весах здравого смысла

На форуме «Атомэкспо-2022» состоялась дискуссия на тему «Применение искусственного интеллекта (ИИ) в промышленности и атомной отрасли». Ее участники поделились опытом использования ИИ на производстве, предложили инструменты масштабирования технологии, рассказали о стандартизации в данной сфере и сделали несколько прогнозов. Очевидно, что искусственный интеллект проникает в повседневную жизнь и производственные процессы. Между тем не утихают споры о том, какая участь уготована этой технологии: быть драйвером, способным изменить мир, или остаться в скромной роли помощника.

Предваряя дискуссию, ее модератор – директор по цифровизации госкорпорации «Росатом» Екатерина Солнцева – напомнила, что идея ИИ появилась вместе с первыми компьютерами, однако развитие технологии шло нелинейно. Были периоды, называемые «зимами» ИИ, когда интерес к нему угасал, финансирование сокращалось, исследования останавливались, и специалисты приходили к выводу, что идея хорошая, но едва ли реализуемая.

До начала выступления экспертов модератор попросила аудиторию проголосовать, ответив на вопрос, удастся ли преодолеть трудности в развитии технологии либо грядет очередная «зима» ИИ. 70% уверены, что ИИ продолжит активно развиваться, 15% не исключают очередного спада, а 12% считают, что он уже начался. Даже если принять во внимание скептическое отношение четверти аудитории, нельзя не признать, что ИИ постепенно проникает в повседневную жизнь и производственные процессы. Об этом можно судить на примере госкорпорации «Росатом».

Управление качеством

Примерно 14% проектов, реализуемых «Росатомом» в рамках программы цифровизации, посвящены технологиям ИИ, который используется во всех процессах. По словам директора по цифровизации АО «ТВЭЛ» («Росатом») Евгения Гаранина, этот инструмент позволяет повысить эффективность процессов, исключить ошибки при формировании отчетов. На предприятии реализуются проекты по проверке научно-технических отчетов на предмет наличия ошибок, по анализу закупочной документации. В планах – автоматическое составление научно-технических отчетов с применением инструментов ИИ.

Флагманский проект компании – платформа AtomMind для предиктивной аналитики и управления качеством продукции. По мере ее создания в компании поняли, что платформа предназначена для всего технологического цикла производства продукции (топлива для атомных станций).

В компании реализован пилотный проект по управлению качеством. Посередине довольно продолжительного технологического цикла система прогнозирует, выгодно ли производить данную партию продукции, дает рекомендации, как перенастроить оборудование, чтобы получить оптимальный вариант. В топливном дивизионе «ТВЭЛ» по программе цифровизации ведется более 100 проектов одновременно. Самый популярный среди заказчиков по уровню эффектов – AtomMind. «В следующем году запускаем программу по тиражированию решения на все заводы топливного дивизиона», – сообщил Евгений Гаранин.

Область, где нет легких решений

Когда-то был термин «компьютерная грамотность», который исчез с горизонта, как только все стали работать с компьютерами. Есть ощущение, что использование ИИ для специфических нужд ждет такой же сценарий, полагает ректор университета Иннополис Александр Тормасов. В вузе, не имеющем госфинансирования на проведение исследований, параллельно реализуется 114 индустриальных проектов. Из них примерно половина связана с ИИ. Например, проект цифровой платформы для поиска, анализа и управления научно-технической информацией.

Алгоритм распознавания используется в таком промышленном решении, как внутритрубная диагностика технологических трубопроводов компрессорных станций и линейных частей магистральных газопроводов. Предложенная диагностика экономит время, повышает точность процесса.

ИИ находит применение и в нетривиальной для него области – физике. Для решения задач, где слишком много параметров, можно сделать математическую модель, но невозможно ее посчитать на современных мощностях. При помощи технологий и средств ИИ исследователи пытаются сузить параметрическое пространство до таких состояний, которые иногда дают подсказку. В столь сложной области нет легких решений в силу математических проблем. Потребители подобных решений есть, например, в сфере производства лекарств, полимеров.

Унификация методов испытаний

В подавляющем большинстве случаев ИИ – это машинное обучение, заметил директор по научным проектам НИУ «Высшая школа экономики» (ВШЭ) Сергей Гарбук. Несмотря на серьезные преимущества (получать решения в отсутствие аналитических моделей), у методов машинного обучения есть неприятная особенность – непредсказуемость в реальных условиях эксплуатации и, как следствие, без гарантий качества. Стандарты направлены на унификацию методов испытаний алгоритмов машинного обучения, чтобы обеспечить функциональную надежность и безопасность технологии ИИ в предусмотренных условиях эксплуатации.

В области промышленности разработка таких стандартов находится на начальном этапе, в отличие от сфер здравоохранения и транспорта. В настоящее время разрабатываются стандарты испытаний по применению методов машинного обучения для управления режимами лазерного резания, стандарты по компенсации случайных ошибок в измерительной технике, стандарты для адаптивных систем управления. Правда, пока это фрагментарная работа, а системная начнется со следующего года под руководством «Росатома», сообщил эксперт.

Драйвер в квадрате

Вычислительные мощности, к которым есть доступ, – одно из ограничений в развитии ИИ. Ответ на вопрос, драйвер искусственный интеллект или помощник, по мнению руководителя научной группы Российского квантового центра Алексея Федорова, зависит от того, как мы рассматриваем технологию. Для ИИ нужны вычислительные мощности. Получение пользы от машинного обучения было сопряжено с появлением специализированных процессоров, которые использовались для его запуска. В этом контексте часто говорится о возможности применения квантовых компьютеров для оптимального решения задач.

Теоретически сопряжение машинного обучения и квантового компьютера перспективно, однако не исключены проблемы, например, как загрузить большой объем данных в такой компьютер и как правильно их считывать из него. К сожалению, доступные интерфейсы бывают ограничены. Но ускорение математических операций, быстрое обучение нейронных сетей с помощью сложно генерируемых распределений может быть выгодным.

Сегодня можно использовать несовершенные шумные промежуточные квантовые компьютеры для обучения нейронных сетей, и это делается для задач генеративной химии. Анализируется применение квантовых состояний для задач классификации, например, изображений, чисел и т. д. По мнению исследователя, квантовое машинное обучение – это драйвер в квадрате, поскольку классическое помогает квантовому, а квантовое – классическому.

Продукт цифровой эпохи

О потенциале ИИ в сфере науки говорил научный руководитель Национального центра физики и математики Александр Сергеев. Искусственный интеллект – продукт цифровой эпохи с ее массивами информации, суперпроизводительными компьютерами, нейронными сетями. Человечество «подсматривало» у мозга процесс обработки информации. Искусственные нейронные сети дали фантастический результат. Мы получили возможность из огромных массивов данных быстро извлекать большое количество информации. Ученый подчеркнул ценность ИИ, основанного на обучении, дообучении (в том числе глубоком), фактически на базе нейронных сетей. Безусловно, искусственный интеллект будет развиваться, проникая в другие отрасли знаний.

Но все ли человек «подсмотрел» у мозга, помимо передачи информации в виде спайков, что привело к появлению спайковых алгоритмов? Александр Сергеев заострил внимание аудитории на двух моментах. Первый заключается в том, что, обрабатывая информацию, нейронные сети мозга, постоянно эволюционируют, формируется все большее количество контактов. В традиционных искусственных нейросетях человек пока не научился воспроизводить этот процесс. Второй момент – роль окружения. Мозг обрабатывает информацию не только благодаря сетевым связям. Большое значение имеет среда, в которую погружена сеть (среда с диффузионным характером распространения информации). Скорее всего, в этом ключ к ассоциативному мышлению. Таким образом, динамические саморазвивающиеся сети и погружение их в среду, которая тоже принимает участие в обработке информации, по-видимому, приблизят человека к пониманию того, как мозг обрабатывает информацию. И тогда будет создан мощнейший ИИ, полностью копирующий работу мозга человека и функционирующий значительно быстрее. За искусственным интеллектом будущее, но, по мнению, ученого, оно будет не цифровым, а аналоговым.

Ректор университета Иннополис Александр Тормасов не столь оптимистичен относительно нецифрового ИИ. Основное отличие цифровых алгоритмов от аналоговых систем в том, что они возобновляемые и повторяемые.

Сильный ИИ будет находить все более широкое применение. Наша задача – не бояться этого и правильно им распорядиться. Человек всегда должен быть чуть выше искусственного интеллекта. В этом залог нашего будущего, полагает академик Александр Сергеев.

Кто лишится работы

Один из вопросов дискуссии – какие главные угрозы возникают в связи с развитием ИИ? Когда люди делают роботов, и они работают – это нормально. А когда роботы начинают проектировать и делать других роботов – страшновато. Когда роботы проектируют роботов, а те, в свою очередь, проектируют и делают новых роботов – есть шанс потерять управление этой системой. Здесь человек должен быть начеку, как и во взаимодействии с ИИ.

«Для меня как физика-теоретика интересно и одновременно боязно, что ИИ позволяет нам обходиться без уравнений. Прикладные математики привыкли работать с уравнениями – это ментальность. И вдруг оказывается, что в сложных ситуациях – турбулентности, когда надо бесконечно дробить сетку, огромные времена вычислений, мы пользуемся ИИ, который помогает «перепрыгнуть» через сложный участок – тот, где мы бьемся за новые уравнения. ИИ помогает «выпрыгнуть». Вот здесь боязно – может, и физики-теоретики будут не нужны, и прикладные математики, которые думают, каким образом эти уравнения ставить на компьютер», – поделился опасениями академик.

Неоднократно приходилось слышать прогнозы, что ИИ может лишить работы водителей, людей, которые работают с документами, а сейчас речь зашла о том, что такая угроза, возможно, нависла над академиками. Даже если допустить, что академик немного лукавит, то нельзя не согласиться со словами Екатерины Солнцевой: «Проблема не в том, что люди, занимающиеся уравнениями, потеряют работу, а в том, что знание работы с уравнениями может снизиться ниже критической отметки, необходимой для развития этой самой сложной области знаний».

Дефицит данных и смысла

Во время дискуссии не раз упоминалось о необходимости обеспечить управляемость ИИ. Создание машин должно подчиняться правилам, заметил Евгений Гаранин, чтобы избежать «судного дня», который показан в одноименном фильме. По мнению эксперта, одним из барьеров в применении ИИ для развития корпоративных и производственных процессов служат данные, несмотря на накопленное их количество. «Как это неудивительно, но данных нет. У нас не хватает данных в целом и качественных в том числе, чтобы учить модели», – сказал эксперт.

По мнению Сергея Гарбука, прорыв произойдет тогда, когда ИИ будет обладать здравым смыслом в человеческом понимании. Сейчас такового нет и, к сожалению, не намечается. Вообще связь ментального и телесного в человеке сильно недооценена. Говорить о существовании здравого смысла вне человеческого тела не приходится.

Основная угроза, связанная с развитием ИИ, – деградация человечества, причем как на уровне личности (снижение когнитивных способностей при перекладывании задач на компьютер), так и социальных отношений (в частности, безответственная попытка создания системы, способной решать любые интеллектуальные задачи, с которыми способен справиться человек). «Ни разу не слышал серьезного объяснения, а зачем это надо?», – поставил вопрос эксперт.

Деградация человека – неудачный исход развития ИИ, согласилась Екатерина Солнцева: «Не могу сказать, что к тому идет, но определенные сложности есть. Пилоты, не сажающие самолеты и не нарабатывающие практику, потому что это делает автопилот, врачи, не проводящие диагностику, потому диагноз ставит ИИ. Это требует компенсирующих мероприятий».

С тем, что деградация человечества – вполне вероятный сценарий, согласен Алексей Федоров. Сегодня в области квантовой физики ежедневно выходит 50–60 научных статей. Ни один естественный интеллект не способен их прочитывать, извлекая полезный смысл. Скорее всего, появятся алгоритмы классического машинного обучения, которые после прочтения всех статей будут указывать на возможные направления прорыва или самостоятельно выполнять подобные эксперименты.

Квантовое превосходство

Усугубляется также глобальная проблема воспроизводимости, особенно если одну и ту же проблему решают разными способами. Трудно сопоставить получаемые результаты. Поэтому важно снабдить проводимые исследования методами стандартизации, в хорошем смысле, проверяемости результатов.

По мнению Алексея Федорова, прорыв, которого ждет сообщество специалистов в сфере квантовых компьютеров, – полезное квантовое превосходство, когда квантовый компьютер решит практическую задачу быстрее классического суперкомпьютера. Предполагается, что это будет задача, связанная с машинным обучением, например, в сфере химических систем, других материалов, где большое количество квантовых взаимосвязей.

Второй возможный уровень – применение квантового машинного обучения к биологическим системам. Если в физике и математике мы привыкли к наличию разнообразных хорошо написанных моделей, то при работе с биосистемами надо сначала сформулировать модель и потом применить машинное обучение. Здесь машинное обучение используется не для того, чтобы получить ответ к уравнению, а для того, чтобы составить уравнение, описывающее широкий класс биологических явлений.

В заключительной части дискуссии речь зашла о направлении нейроморфных чипов, возможности вживления их в мозг для лечения генетических заболеваний. В связи с этим возникает масса вопросов этического характера, в частности, где проходит граница между лечением пациента и влиянием чипа на его волю и разум, между человеком и машиной. Поиск ответов будет определяться принципами и правилами, которые еще предстоит выработать. Как сказала Екатерина Солнцева, этика ИИ – серьезный вопрос: «Не удивлюсь, если появится организация, сходная по задачам с МАГАТЭ в атомной энергетике, но в применении к системам ИИ и цифровым технологиям в целом, чтобы выработать единое понимание, что в этой сфере хорошо и что плохо».

Поделиться:
Спецпроект

ИТ-стартапы в сезон венчурной зимы

Подробнее
Спецпроект

Платформа RPA на вырост. Ускоренная миграция с импортного решения на отечественное

Подробнее


Подпишитесь
на нашу рассылку