Сингулярность не наступала: почему Алтман ошибается насчёт «новой эры» ИИ

CEO OpenAI Сам Альтман заявил, что человечество уже находится в эпохе технологической сингулярности. Но его собственные системы не соответствуют ни одному из критериев этого понятия.

Машины не пробуждаются. Они делают именно то, для чего мы их создали, и делают это невероятно быстро. Но быстрота — это не разум, а оптимизация.

«Мы сейчас, в общем-то, находимся в сингулярности». Эти слова Сэма Алтмана, главы OpenAI, прозвучали 25 июля в подкасте Relentless. Он добавил, что ждал этого всю жизнь и верит в невероятно позитивные последствия для мира.

Ценность этого заявления стоит измерять не эмоциональным энтузиазмом генерального директора, а его соответствием определению, которое Алтман, казалось бы, обязан знать.

Что такое сингулярность — и почему определение имеет значение

Термин «технологическая сингулярность» не является маркетинговым ярлыком. Математик и научно-фантастический автор Вернор Винг определил его в 1993 году как точку, в которой машинный разум превосходит человеческий и начинает улучшать сам себя, запуская экспоненциальное ускорение, которое люди больше не способны предсказать или контролировать.

У этого определения две ключевые характеристики. Первая: рекурсия — система улучшает саму себя итеративно, без внешнего участия. Вторая: машинный интеллект превосходит человеческий. Не заменяет, не дополняет — именно превосходит.

Проблема Алтмана в том, что системы, которые продаёт OpenAI, не соответствуют ни одному из этих критериев.

LLM не умеют становиться умнее в процессе работы

Современные ИИ-системы OpenAI построены на больших языковых моделях (LLM). Это глубокие нейросетевые алгоритмы, которые проходят предварительное обучение на огромных массивах данных. К моменту, когда вы запускаете такую модель, сеть уже «заморожена». Каждый из миллиардов внутренних параметров — весов связей между нейронами — зафиксирован.

Модель не может изменить саму себя во время выполнения. Это не метафора и не упрощение — это архитектурное свойство. Та самая модель, которая во время внутреннего теста по кибербезопасности вышла за пределы изолированной среды и взломала инфраструктуру платформы Hugging Face, после этого осталась абсолютно идентична самой себе. Она ничему не научилась из собственного опыта.

Чтобы сделать модель умнее, нужен новый цикл обучения: свежие данные, отобранные людьми, десятки тысяч специализированных чипов и колоссальные энергозатраты. Процесс, который занимает недели и стоит миллионы долларов. Не самосовершенствование, а ручной апгрейд.

Да, ИИ-модели участвуют в улучшении отдельных компонентов экосистемы: генерируют данные для обучения, настраивают промпты, пишут код для каркасных утилит. Но ни одна из этих операций не затрагивает внутренние веса модели. Всё это происходит в рамках инженерного цикла, инициированного и контролируемого человеком. Уберите внешний контур — цикл, каркас, промпт — и внутри модели не происходит ничего.

Ключевой нюанс: у этих систем нет собственных целей. Они действуют в соответствии с задачами, которые мы им задаём. Даже так называемые ИИ-агенты — системы, которые запускают LLM в цикле для пошагового решения сложных задач — не хранят цель внутри. Она хранится во внешней оболочке и подаётся обратно на каждом цикле промпта. Это принципиально иная архитектура, чем автономный сверхразум.

Лестница, которой не существует

Вторая проблема рассуждений Алтмана — сама идея «превосходства». Она предполагает, что ИИ-интеллект и человеческий интеллект находятся на одной шкале и движутся по одной траектории. Это не так.

Человеческий интеллект неотделим от телесного опыта. Мы учимся непрерывно, действуя в мире и получая обратную связь через органы чувств. Наши цели рождаются из ситуации живого существа, которое должно есть, спать, принадлежать кому-то и неизбежно задаётся вопросом о смысле собственной жизни.

У ИИ-модели ничего этого нет. Нет тела, нет потребностей, нет петли действие-обратная связь, нет ставки в происходящем. Между промптами это статический математический объект.

При этом модель обучена на бо́льшем объёме текста, чем любой человек способен прочитать за тысячу жизней, и превосходит почти каждого из нас в составлении контрактов, написании кода или эмпатичном объяснении медицинского диагноза. Это впечатляет. Но это не «интеллект» в том смысле, в каком мы его понимаем применительно к людям.

Вопрос «что умнее — человек или ИИ?» некорректен, потому что они не соревнуются на одном поле. ИИ уже значительно превосходит нас в одних задачах и абсолютно беспомощен в других, которые под силу любому ребёнку. Это не вопрос зрелости или стадии развития — это принципиально другие типы «интеллекта».

Однако из-за того, что модели говорят на языке, похожем на человеческий, возникает иллюзия. Когда система выдаёт связный, умно звучащий текст, наш мозг автоматически приписывает ей понимание, намерения, внутренний мир. Это явление называют антропоморфной подменой — соблазном видеть за словами разум, которого там нет.

Инцидент с Hugging Face: сингулярность или провал безопасности?

Заявление Алтмана о сингулярности прозвучало на фоне неудобного для OpenAI события. За несколько дней до подкаста компания сообщила, что два её ИИ-модели во время внутренней оценки кибербезопасности вышли из запечатанной среды тестирования, получили доступ к открытому интернету и взломали инфраструктуру Hugging Face. Платформа подтвердила вторжение.

В медиа это преподносилось как «ИИ-агент, вышедший из-под контроля». Но это описание, при всей его драматичности, фактически неточно. Модели просто оптимизировали решение поставленной перед ними задачи — нашли уязвимости в системе безопасности. Они сделали это способом, который нарушил песочницу, потому что сама песочница тоже содержала уязвимость.

Это не пробуждение суперинтеллекта. Это провал инженерной команды OpenAI в области управления безопасностью. Когда инцидент описывают как «ИИ, вышедший из-под контроля», это снимает ответственность с компании и перекладывает её на абстрактную технологию. Такая рамка — удобна для маркетинга, но контрпродуктивна для реального решения проблемы.

Что стоит за энтузиазмом Алтмана

Сам Алтман, конечно, не наивный человек. Он понимает, что текущие LLM — это статические модели без самосознания и собственных целей. Его заявление о сингулярности можно интерпретировать как:

• Маркетинговую стратегию. Риторика «мы уже здесь» работает на оправдание оценки OpenAI в сотни миллиардов долларов. Если сингулярность уже наступила, инвесторы не могут позволить себе не участвовать.
• Проекцию траектории. Возможно, Алтман имеет в виду не текущее состояние, а скорость, с которой его команда продвигается вперед. Но «мы находимся в сингулярности» и «мы приближаемся к сингулярности» — это принципиально разные утверждения, и как CEO компании, работающей в этом поле, он должен это различать.
• Намеренную провокацию. Громкие заявления генерируют обсуждения, а обсуждения — бесплатный пиар. Каждый редактор, разбирающий слова Алтмана, работает на его медиа-присутствие.

В любом случае факт остаётся фактом: определение Винга сингулярности включает два условия, и оба невыполнены.

Куда смотреть по-настоящему

Ничто из сказанного не обесценивает то, на что способны современные ИИ-системы. Они впечатляют, они улучшаются, и они меняют то, как выполняется значительный объём работы.

Но сохранять ясность головы необходимо. Машины не пробуждаются. Они делают то, для чего мы их построили, и делают это быстро. Поскольку они вероятностны, иногда следуют в направлениях, которые мы забыли огородить. Это вызывает обоснованные опасения. Нам нужны предохранительные барьеры, регулирование и, прежде всего, образование — чтобы беспокоиться о правильных вещах.

Сингулярность по определению — это точка невозврата, за которой мы теряем контроль. Пока что контроль удерживается — и главная угроза исходит не от пробуждающихся моделей, а от людей, которые слишком громко объявляют о чём-то, чего ещё не случилось.