Anthropic не подписала письмо в защиту open-weight ИИ. Вот почему это сложнее, чем кажется

Глава Anthropic Дарио Амодей опубликовал развёрнутое объяснение, почему его компания отказалась подписать открытое письмо в защиту open-weight моделей. Формально он не против открытых весов — но его реальный страх касается совсем другого.

Anthropic не требует запрета open-weight моделей — но отказывается подписывать коллективное письмо, потому что считает: вопрос не в открытости, а в том, насколько опасными могут быть возможности модели в руках тех, кого невозможно проверить.

Письмо, которое все подписали — кроме одного

24 июля Дженсен Хуанг впервые в жизни опубликовал пост в X. И это были не слайды с новой архитектурой GPU и не финансовый отчёт Nvidia. Первым постом основателя крупнейшей чипмейкерской компании мира стало открытое письмо, подписанное более чем 20 технологическими компаниями — Nvidia, Microsoft, Meta*, Google, OpenAI, Hugging Face, Mistral, Palantir и другими.

Суть письма: Вашингтон не должен вводить ограничения на open-weight модели ИИ. То есть на модели, чьи веса распространяются открыто и которые любой может скачать, дообучить и запустить у себя.

Anthropic в списке подписантов не было.

Дни шли, тишина нарастала. Потом к письму присоединилась OpenAI — и Anthropic оказалась последней крупной американской ИИ-лабораторией, стоящей в стороне. Чем дольше молчание, тем громче оно звучало. 27 июля Амодей наконец ответил.

Что на самом деле сказал Амодей

Публикация на сайте Anthropic начинается с прямого утверждения: «Anthropic никогда не выступала за запрет моделей с открытыми весами». Амодей подчёркивает, что open-weight модели, не обладающие опасными возможностями, — это общественное благо. Они бесплатны в использовании, требуют только вычислительных ресурсов и приносят реальную пользу бизнесу, разработчикам и исследователям.

Звучит как полный разворот. Но это не так.

С чем Anthropic не согласна

Амодей говорит, что согласен с большей частью аргументов письма. Открытые веса расширяют доступ, усиливают конкуренцию, дают пользователям больше контроля — всё это он признаёт. Но он не готов подписать документ из-за двух конкретных утверждений:

1. Что open-weight модели якобы упрощают разработку защитных механизмов. Амодей считает, что это неочевидно и нуждается в проверке, а не в презумпции.

2. Что широкий доступ к мощным возможностям ИИ больше помогает защитникам, чем атакующим. Здесь у него есть конкретный контрпример — биология.

Достаточно мощная языковая модель потенциально способна помочь недобросовестным игрокам в создании биологического оружия из общедоступных материалов. Защита от таких угроз — это многолетняя операционная задача, как показала пандемия COVID. В этой модели «атакующий — защитник» открытые веса делают ситуацию хуже, а не лучше.

Что Anthropic предлагает вместо запрета

Амодей выделяет три конкретных меры, за которые выступает его компания:

Контроль чипов. Удерживать продвинутые полупроводники и оборудование для их производства вдали от Китая. Пресекать каналы контрабанды, которые обходят экспортные ограничения.

Борьба с дистилляцией. Китайские лаборатории массово используют технику дистилляции — обучения маленьких моделей на ответах больших. Это позволяет им сокращать разрыв с американским фронтиром, не имея сопоставимых вычислительных мощностей.

Обязательное тестирование безопасности. Для всех достаточно мощных моделей перед выпуском — неважно, открытые они или закрытые. Амодей даже предположил, что Китай мог бы пойти на глобальный режим тестирования, потому что Пекину тоже не нужен ИИ, доступный для разработки биологического оружия.

Слон в комнате: бизнес-модель

Критика в адрес Anthropic со стороны советника Белого дома по ИИ Дэвида Сакса была проста и ядовита: Anthropic использует аргумент безопасности, чтобы защитить собственную бизнес-модель. И в этом утверждении есть зерно истины.

Nvidia продаёт вычислительные мощности. Чем больше open-weight моделей, тем больше компаний разворачивают их у себя — и тем больше GPU покупают. Интересы Хуанг идеально совпадают с продвижением открытых весов.

Anthropic продаёт доступ к API Claude. Мир, в котором мощные модели распространяются бесплатно, — это прямая угроза выручке Anthropic, в куда большей степени, чем выручке Nvidia.

Амодей не касается этого напрямую. Его обеспокоенность безопасностью ИИ документально прослеживается на годы назад. Но совпадение интересов — оно и есть совпадение интересов. Беспокойство о безопасности может быть искренним, и при этом бизнес-мотив никуда не исчезает. Оба фактора реальны.

Amazon, кстати, тоже не подписал письмо. Как и Anthropic, Amazon продаёт облачные ИИ-услуги. Как и Anthropic, его отсутствие говорит само за себя.

Kimi K3: триггер всей дискуссии

Фоном для этого спора стал шокирующий релиз китайской open-weight модели Kimi K3 в июле. Модель приблизилась к показателям американского фронтира — при доле стоимости. Именно это событие разожгло дебаты вокруг open-weight ИИ.

Амодей в своём тексте специально разграничивает китайские фронтирные модели и западные open-source релизы. Его тревога направлена не на стартапы, академию или мелкие лаборатории — а исключительно на модели с опасными возможностями на переднем крае. Это гораздо более узкая цель, чем категорический запрет.

Что это значит на практике

Аргумент Амодея — на самом деле не про «открытое против закрытого». Он про возможности модели. Достаточно мощная модель проходит тестирование перед выпуском, независимо от формата. Модель, не достигающая порога опасных возможностей, остаётся в покое.

Если этот подход найдёт поддержку в Вашингтоне, он может существенно изменить логику регулирования ИИ. Вместо бинарного выбора «запретить китайские модели или разрешить всё» появится система, основанная на реальных возможностях моделей.

Найдут ли политики такой подход более рабочим, чем простой запрет, — это вопрос, на который пока нет ответа. Anthropic остаётся единственной крупной американской ИИ-лабораторией, не подписавшей письмо. Амодей объяснил свою позицию, не извиняясь за неё. Выдержит ли она нарастающее политическое давление — следующий вопрос.

✴ Meta* — входит в перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности».