Компания Google была вынуждена удалить ряд ответов своего ИИ-сервиса после расследования The Guardian, которое выявило случаи, когда алгоритм вводил пользователей в заблуждение по вопросам питания при онкологических заболеваниях, интерпретации печёночных проб и других критически важных медицинских показателей.
Член комитета Госдумы по информационной политике, информационным технологиям и связи, федеральный координатор партийного проекта «Цифровая Россия» Антон Немкин отметил, что подобные инциденты наглядно демонстрируют системные риски неконтролируемого применения генеративного искусственного интеллекта в чувствительных сферах.
«Когда ИИ начинает подменять собой врача или медицинского консультанта, цена ошибки измеряется не репутационными потерями компании, а здоровьем и жизнями. Случаи, выявленные журналистами, показывают: даже крупнейшие технологические корпорации пока не способны гарантировать безопасность таких сервисов», — заявил Антон Немкин.
По словам депутата, особенно тревожно, что речь идёт не о редких сбоях, а о типовых запросах — анализах, симптомах, диетах и приёме лекарств, с которыми ежедневно сталкиваются миллионы пользователей.
«Люди воспринимают ответы поисковых сервисов как достоверную справку. Когда алгоритм уверенно сообщает, что пациент с серьёзным заболеванием “здоров” или даёт вредные диетические рекомендации, это может привести к отказу от лечения и потере драгоценного времени», — подчеркнул Немкин.
Антон Немкин добавил, что ситуация с Google — это сигнал для всех регуляторов и разработчиков ИИ-систем о необходимости жёстких стандартов и ответственности за распространение опасной информации.
«Мы уже видим, как искусственный интеллект активно внедряется в медицину, финансы, образование. Но без прозрачных механизмов проверки источников, обязательных дисклеймеров и правовой ответственности за вред такие технологии превращаются из помощника в источник угроз. В России мы последовательно выступаем за то, чтобы ИИ-сервисы, работающие с чувствительными данными и рекомендациями, проходили строгую валидацию», — отметил он.
В рамках партийного проекта «Цифровая Россия», по словам Немкина, уже ведётся работа по формированию предложений по этическому и правовому регулированию ИИ, в том числе в части защиты граждан от дезинформации и вредных цифровых сервисов.
«Технологии должны служить человеку, а не ставить его под удар. История с AI Overviews — ещё одно напоминание: гонка за инновациями не может идти в ущерб безопасности и ответственности», — заключил Антон Немкин.
Источник: Пресс-служба депутата Государственной Думы РФ Антона Немкина
