«Мне нужна твоя одежда, обувь и мотоцикл!»

Когда искусственный интеллект выйдет из-под контроля человека?

Вы сидите после тяжёлой недели в любимом баре. Дверь хлопает. В зал входит голый здоровяк и методично осматривает посетителей. Останавливается на вас.

– Мне нужна твоя одежда, твои ботинки и твой мотоцикл!

Через минуту он выходит уже в вашей одежде, одним пальцем поправляет ваши любимые тёмные очки, садится на ваш байк и растворяется в ночи. Без злобы. Просто вы подошли по размеру.

Предполагаю, что примерно так, на основании яркой фантазии мастеров Голливуда, многие из читателей представляют себе момент, когда искусственный интеллект (ИИ) станет умнее человека и выйдет из-под его контроля. Специалисты в ИИ и футурологии называют этот момент технологической сингулярностью.

Но как же обстоят дела на самом деле? Можно ли пока ещё расслабиться с друзьями в любимом кафе, не ожидая прихода Терминатора? Может, какой-нибудь из ИИ уже прошёл эту точку развития и пока просто умело это скрывает от своих создателей?

Сам термин сингулярности в его применении к искусственному разуму ввёл математик и писатель-фантаст Вернор Виндж. В 1993 году на конференции NASA он выступил с докладом «Наступающая технологическая сингулярность».

Виндж впервые рассмотрел идею технологической сингулярности как реального события, дал прогноз путей ее появления и времени наступления. Он утверждал, что человечество в период между 2005 и 2030 годом создаст искусственный интеллект, превосходящий интеллект человека. После этого события «человеческая эра» закончится, а предсказать дальнейшие события будет принципиально невозможно теми методами, которые работали ранее.

Виндж описал несколько независимых путей, которыми человечество может прийти к сверхчеловеческому ИИ. Первый – компьютеры обретут сознание. Второй – компьютерные сети вместе с их пользователями осознают себя как сверхразумную сущность. Третий – в сверхразум превратится тесная связка человек-компьютер. И четвертый путь – интеллект самого человека может быть усилен развитием возможностей биологии.

Виндж анализирует два возможных варианта возникновения сверхчеловеческого ИИ – катастрофический быстрый, который он считал наиболее опасным, и медленный, когда переход будет растянут на десятилетия. Контролировать сверхразумный ИИ человечеству будет очень непросто.

В своем выступлении Виндж упомянул имена двух математиков, которые способствовали зарождению термина в его нынешнем виде. Первый – один из создателей компьютеров Джон фон Нейман, который в 1958 году обсуждал вероятность такого варианта прогресса технологий. Второй – Ирвинг Джон Гуд, который в статье 1965 года ввел понятие «интеллектуального взрыва».

Интересная деталь – еще в 1984 году Виндж опубликовал первую часть своего фантастического цикла «Сквозь время», в котором невероятно похоже на наши дни описал взаимодействие человека с программами искусственного интеллекта. ИИ в книге превосходят по возможностям современные, а люди работают с ИИ как с равноценным партнером над решением различных задач. При этом ИИ все еще нуждается в идеях и гениальных прозрениях человека.

Виндж в своем докладе назвал возможные признаки приближения сингулярности – рост технологической безработицы, автоматизация все большего круга задач растущей сложности и ускорение распространения идей. Актуальны ли они и насколько ситуация с ИИ сегодня им соответствует?

Важный признак – ИИ сегодня активно работает над улучшением своих алгоритмов. Сейчас 80% кода ИИ в компании Anthropic пишется самим ИИ, и лишь 20% – людьми. Причем чуть ранее года назад лишь 5% кода писалась самим ИИ. Это вполне соответствует первому пути возникновения ИИ от Винджа, по которому алгоритмы постоянно «умнеют» и улучшают сами себя. Однако пока этот процесс без участия человека невозможен.

Передовые модели ИИ уже превзошли среднего человека не только в тестах IQ, но уже могут лучше большинства людей, например, сдавать экзамены в вузах по многим профессиональным дисциплинам. Да, пока это не полное превосходство над интеллектом человека, но это вполне можно считать предвестником появления сверх-ИИ (AGI) в обозримом будущем.

Ведущие компании – создатели передовых моделей ИИ из США и Китая соревнуются между собой в размерах затрат на его развитие, причем эти затраты уже достигли пугающих размеров, возможно, угрожая финансовому благополучию самих компаний. Такая «гонка вооружений» условно соответствует описанному Винджем катастрофически быстрому сценарию возникновения ИИ.

Важное место в оценке сроков возможного наступления сингулярности занимают мнения руководителей компаний – создателей ведущих моделей ИИ. Илон Маск из SpaceX наиболее категоричен. В январе 2026 года он написал в своей соцсети X «Мы вошли в сингулярность». А в июльском интервью The Economist назвал конкретный сроки – до 2031 года искусственный сверхинтеллект превзойдет совокупный разум всего человечества. Маск заявил, что к 2036 году все советские люди будут жить при коммунизме… Простите, увлекся – пока Илон говорит лишь об эпохе невероятного изобилия и о том, что деньги к 2036 году перестанут иметь значение. Что, впрочем, тоже вполне в духе предсказаний Никиты Хрущева.

Глава OpenAI Сэм Альтман в июле 2026 года прямо заявил: «Мы сейчас в сингулярности». Глава Anthropic Дарио Амадеи предпочитает термин «мощный ИИ» и утверждает, что рост возможностей ИИ будет идти по плавной экспоненте. Дженсен Хуанг, глава Nvidia, весной 2026 года заявил, что мы уже достигли AGI, но до управления компаниями масштаба Nvidia искусственному интеллекту еще далеко.

Любопытны и мнения топ-менеджеров двух ведущих российских компаний, которые заняты созданием мощных моделей ИИ. Глава Сбербанка Герман Греф считает, что AGI появится на рубеже 2030-х годов, а до этого предстоит переход технологий в физический мир – роботы и беспилотный транспорт.

А член правления «Яндекса» Тигран Худавердян тоже говорит о постепенном совершенствований моделей ИИ, называя следующим рубежом для ИИ «тест Возняка», то есть способность ИИ действовать не в цифровом, а в физическом мире.

Мнения топ-менеджеров компаний – создателей ИИ важны вот по какой причине. Для коммерческого использования эти компании предоставляют уже укрощенные модели ИИ, возможности которых сильно урезаны в целях безопасности человека. Сами же руководители имеют редкую возможность наблюдать то, на что способны их ничем не ограниченные модели.

Такую возможность изредка имеем и мы – вспомните хотя бы последние сообщения о реальных взломах компьютерных систем компаний в ходе тестирования ИИ-моделей. В Конгресс США даже внесен законопроект, который обязывает разработчиков мощных моделей ИИ иметь техническую возможность их экстренного отключения. И все же мнения топ-менеджеров не могут не зависеть от коммерческих факторов, например, от планируемых ими компаний выходов на IPO. Поэтому на их полную откровенность рассчитывать не стоит.

Возникновение сверхчеловеческого ИИ может проходить по разным сценариям. Если собрать основные черты положительного сценария, то это будет не одна вспышка, а постепенное улучшение моделей, их проникновение во все стороны жизни человека и их удешевление. Для простых задач будет использоваться вычислительная мощность индивидуальных гаджетов пользователей – от компьютеров и ноутбуков до смартфонов. Нас ждет ускорение развития наук, новые лекарства и материалы, прогресс медицины и продление срока жизни человека.

Однако все больше людей опасаются негативного сценария развития ИИ. Но он вряд ли будет выглядеть как голливудский бунт машин. Кризис кибербезопасности, использование моделей ИИ преступниками во вредоносных целях, обесценение человеческого интеллектуального труда и рост безработицы. Даже техоптимист Маск оценивает шансы вымирания человечества в результате развития ИИ в 10%-20%.

Что же означает вероятное наступление технологической сингулярности для обычного человека, например, для частного инвестора из России? В первую очередь – риск безработицы, если вы заняты рутинной работой за компьютером. Одновременно это означает, что важность сбережений «на черный день» резко возрастает. При этом возрастает и риск потери части сбережений из-за трудно предсказуемых последствий революции в производстве и на рынке труда, вызванной внедрением ИИ. Причем развитие компаний – создателей ИИ тоже может быть неровным, и принести владельцам их акций немало сюрпризов.

Будут и приятные неожиданности. В ближайшем будущем человеку будет достаточно задать сроки и цели инвестирования своему ИИ-агенту, предпочитаемые направления инвестиций, а также приемлемый уровень риска. ИИ предложит вам возможные варианты составления инвестиционного портфеля, возьмет на себя всю рутину – исполнение сделок, ведение отчетов и уплату налогов. Жесткий запрет использования ИИ в инвестициях маловероятен. Скорее, центральные банки будут лишь задавать границы использования систем ИИ.

Конечно, пока современные системы ИИ еще заметно уступают человеку во многих направлениях его деятельности. А прогнозы экспертов не только сильно разнятся, но и меняются в зависимости от тех или иных коммерческих факторов.

И все же при сохранении нынешнего темпа развития систем ИИ – а замедлять его никто не планирует – все мы застанем момент технологической сингулярности. Причем во вполне обозримом будущем, а не в отдаленной перспективе.

Пока же можно спокойно расслабиться в любимом кафе с друзьями, не опасаясь визита Терминатора. А ваш байк, вероятно, еще постоит в гараже.