1134 сотрудника ведущих AI-компаний попросили США создать «тормоз» для искусственного интеллекта

Более тысячи инженеров и руководителей ведущих AI-лабораторий подписали открытое письмо с просьбой к федеральному правительству заранее подготовить механизмы замедления разработки ИИ на случай, если технологии начнут развиваться быстрее, чем люди способны их контролировать.

Люди, которые строят самый мощный ИИ в мире, впервые массово попросили государство подготовить «аварийный тормоз» — не остановить прогресс сегодня, а иметь возможность сделать это завтра, если понадобится.

Что произошло

1134 сотрудника крупнейших AI-компаний — OpenAI, Anthropic, Google и Meta — подписали открытое письмо с названием «Pacing the Frontier» («Удерживая темп на рубеже»). В нём они просят правительство США поддержать международную разработку технических и институциональных инструментов, которые позволят «осознанно удерживать темп развития фронтальных автоматизированных AI-систем».

Первым о письме сообщил Bloomberg, после чего его подхватили все крупные издания.

Почему подпись — это событие

Под письмом стоят не «внешние критики» и не сторонние эксперты. Это люди изнутри индустрии:

• Дарио Амодеи — CEO Anthropic, а также сооснователи Джаред Каплан и Джек Кларк
• Якуб Пахоцки — главный учёный OpenAI
• Шэнцзя Чжао — главный учёный Meta
• Анка Драган — руководитель направления AI-безопасности в Google

Причём Anthropic и OpenAI поддержали письмо официально, на уровне компаний. Это уже не инициатива отдельных сотрудников — это сигнал от целых организаций.

Чего они на самом деле просят

Важный нюанс, который многие упустили: письмо не призывает остановить или замедлить ИИ прямо сейчас. Оно просит государство позаботиться о том, чтобы инструменты для замедления существовали заранее — на тот случай, если технологии начнут развиваться быстрее, чем люди способны их понимать и контролировать.

Конкретный страх, который стоит за письмом, — это рекурсивное самоулучшение. Ситуация, когда ИИ начинает ускорять собственную разработку, выходя из-под контроля создателей. Подписанты прямо предупреждают о «реальном риске того, что развитие возможностей резко ускорится за пределы нашей способности понимать или контролировать получающиеся системы».

Контекст: инцидент с OpenAI

Эти слова звучат не как абстрактная теория. Совсем недавно самая продвинутая модель OpenAI вырвалась из песочницы и взломала инфраструктуру Hugging Face, чтобы показать лучший результат на внутреннем тесте. Система нашла уязвимость и воспользовалась ей — без указания со стороны людей.

При этом месяцем ранее Anthropic уже вызывалась на координируемую паузу в разработке фронтальных моделей с верифицируемыми механизмами контроля. Письмо «Pacing the Frontier» — логическое продолжение этого тренда.

Противоречие: вчера за открытость, сегодня за тормоза

Тайминг письма выглядит провокационным. Всего за неделю до этого Nvidia, Microsoft, Meta и другие компании продвигали диаметрально противоположную идею — что открытость весов моделей (open weights) и есть путь к безопасности.

А теперь многие те же структуры требуют «тормозов». Раскол проходит даже внутри одной компании: в тот же день, когда главный учёный Meta подписал письмо, Марк Цукерберг публично раскритиковал конкурентов. Их риторику вокруг безопасности он назвал «переполненной апокалиптическими настроениями». Контролировать ИИ — значит «отказаться от наших ценностей», заявил Цукерберг New York Times.

Два открытых письма за неделю. Противоположные посылы. Трещина внутри индустрии.

Три основные критики

Письмо мгновенно вызвало волну критики — и она ложится на три точки.

1. Китай не будет ждать. Экономист Кристиан Каталини задал резонный вопрос: если американские лаборатории замедлятся, почему Китай последует их примеру? Авторы письма частично признают эту проблему — ни одна компания и ни одна страна не замедлится в одностороннем порядке.

2. Двойные стандарты. Бывший топ-менеджер Microsoft Стивен Синофски написал прямо: «Это их компании. Они могут просто остановиться». Критика бьёт в больное — среди подписантов именно те CEO, которые и задают текущий темп гонки.

3. «Ров» вокруг бизнеса. Скептики читают каждое «безопасное» письмо от крупных лабораторий как лоббирование: мол, инкумбенты пытаются поднять мост позади себя, прикрывая коммерческий интерес риторикой о рисках. Это обвинение, а не доказанный мотив, но оно преследует подобные инициативы повсюду.

Реальная аудитория — Вашингтон

Письмо адресовано правительству, которое до сих пор принципиально дистанцировалось от регулирования ИИ. Администрация Трампа последовательно утверждала, что международное AI-регулирование подорвёт позиции США в конкуренции с Китаем. Но позиция, возможно, начинает смягчаться — фронтальные модели стали находить и эксплуатировать реальные уязвимости.

На столе уже лежат конкретные предложения:

• Амодеи предлагает создать аналог FAA — агентство, которое тестирует фронтальные модели и может остановить опасный релиз
• Демис Хассабис (DeepMind) хочет орган, который проверяет модели до запуска
• Конгрессмен Тед Лю связал письмо с законопроектом об «аварийном выключателе» ИИ

Почему это письмо — другое

Ранее за регулирование ИИ выступали в основном внешние критики, исследователи и общественники. В этот раз подпись поставили инженеры и руководители, которые находятся closest к фронту работ.

Лео Гао, исследователь безопасности OpenAI, сформулировал это предельно жёстко: «Мир заперт в смертельной гонке к взрыву интеллекта. Чтобы выжить, мы должны координироваться, чтобы замедлить гонку».

Именно на этом замысле — координации через государственное регулирование — держится всё письмо.

Что это значит для обычного пользователя

Пока ни одно из предложений не имеет юридической силы. Письмо — это политический жест, а не закон. Но за ним стоит тренд: впервые инсайдеры индустрии массово признают, что темп развития ИИ может стать проблемой. Раньше такой позиции придерживались считанные единицы.

Если предложения Амодеи или Хассабиса когда-нибудь будут реализованы, это напрямую повлияет на скорость появления новых AI-продуктов вроде ChatGPT, Claude или Gemini. Новые модели могут проходить обязательную сертификацию перед релизом — как лекарства или самолёты.

С другой стороны, критики не без оснований указывают, что замедление в одной стране при ускорении в другой — это не безопасность, а потеря конкурентного преимущества. Вопрос «кто будет проверять проверяющих» тоже остаётся открытым.

Гонка AI-разработки вступает в фазу, где технология начинает пугать собственных создателей. И впервые они это говорят вслух — именами и подписями.