«Глупость – дар божий, но не следует им злоупотреблять»
Отто фон Бисмарк
Цифровая трансформация, к которой все так стремились и которую наконец-то оседлал искусственный интеллект (ИИ) со всеми его возможностями, начала таки показывать свой «звериный оскал». Благодаря этому симбиозу в инфопространстве теперь можно все. Все, что было можно, и все, что трудно было себе представить.
В целом ряде случаев ведущие новостей, певцы, банковские клерки, артисты и продавцы — уже не люди. Там виртуальные копии живых людей или искусственно сгенерированные персонажи. Где-то случилась огромная экономия – звездам не надо платить заоблачные гонорары и терпеть их выходки. Где-то упростились и удешевились бизнес-процессы. Где-то воодушевились всякого рода мошенники. Вот уже в Китае стрим ведёт аватар, скопированный с живого блогера. Фильмы, в которых играют давно умершие актеры, ожившие фотографии, видеофейки с любыми участниками и в любом положении свидетельствуют о тотальной победе симуляции над реальностью. Как сказал бы сегодня Отто фон Бисмарк – подмена реальности есть искусство возможного.
А тем временем хакеры научились с помощью ИИ подделывать документы, подменять персональные идентификаторы и биометрию. Экспертное сообщество так долго мечтало о прекрасном будущем, которое наступит эпоху «сильного ИИ», об этике ИИ, о запрете использовать на войне автономные сущности, о генерируемых ИИ прорывных инновациях. И вот это «прекрасное будущее» наступило.
Оказывается, ИИ пока не может предложить ничего прорывного – просто может оптимизировать что-то уже существующее. Да, перебрав массу данных. Да, учтя высказывания хоть миллионов ученых. Да, раскрасив все это любыми красками. Но, не придумав ничего принципиально другого или хотя бы написав небанальный текст.
Зато ИИ попал в «нужные» руки. Теперь он везде, и его станет только больше. Он играет, поёт, торгует, завлекает, развлекает, врёт и ворует. Он за вас решает задачи, он за вас «думает» и постепенно вводит в заблуждение человеческую цивилизацию. Мы приходим к ситуации, когда верить нельзя ничему и никому. Ни картинке, ни звонку, ни предложению. А фраза – если хочешь понимать, где реальность, а где симуляция, кто на этом зарабатывает и как не стать жертвой мошенников, подписывайся на… – скорее всего, поступит от других мошенников. Впрочем, все эти тревоги и волнения могут закончиться, когда ИИ получит доступ к оружию массового поражения.
Однажды специалисты дали задание нейросети объяснить, почему ИИ никогда не будет этичным. Ответ был весьма однозначным: «ИИ это инструмент, и, как и любой другой инструмент, он используется как во благо, так и во вред, а люди недостаточно умны, чтобы сделать ИИ нравственным. Единственный способ избежать гонки вооружений ИИ – это вообще никогда не иметь дела с ИИ».
В общем, поздновато спохватились. Но поумнеть никогда не поздно.
