ИИ обещает и рай, и ад одновременно — и в этом вся суть дискуссии

ИИ-компании одновременно продают нам светлое будущее и пугают апокалипсисом. Их призывы к регулированию удобно совпадают с защитой собственного рынка — но это не значит, что риски выдуманы.

Индустрия искусственного интеллекта умудряется одновременно обещать технологический рай и предупреждать о конце света — и оба нарратива работают на одних и тех же людей.

Два лица одной индустрии

Забавная картина. Топ-менеджеры крупнейших ИИ-компаний выступают на конференциях, где рассказывают, как их модели изменят медицину, образование, науку и вообще всё. Зал аплодирует. Через неделю те же люди с серьёзными лицами просят государство ввести жёсткое регулирование — мол, мы создаём нечто слишком опасное, чтобы оставаться без присмотра.

Казалось бы, противоречие? Нет, это бизнес-стратегия.

Самозащита под видом заботы

В Wall Street Journal прямо сказано: призывы ИИ-компаний к регулированию могут быть проявлением self-dealing — действий в собственных интересах. И это важное замечание.

Представьте: вы потратили миллиарды на разработку, наняли лучших специалистов, построили вычислительные кластеры. И тут появляется стартап с открытыми моделями, который делает примерно то же самое за долю бюджета. Что вы делаете? Правильно — просите регулятора ввести требования, которые новичок физически не потянет. Лицензирование, аудит безопасности, обязательное тестирование — всё это звучит разумно, но бьёт прежде всего по малым игрокам.

OpenAI, Google DeepMind, Anthropic и Microsoft уже неоднократно призывали к «ответственному развитию» ИИ. Звучит благородно. Но именно эти компании обладают ресурсами, чтобы пройти любой аудит и получить любую лицензию.

Но это не значит, что они врут

И вот тут начинается самое интересное. Тот факт, что призывы к регулированию совпадают с коммерческими интересами, не делает эти призывы ложными. Два плюс два равно четырём, даже если это говорит продавец калькуляторов.

Риски ИИ вполне реальны:

• Генерация дезинформации. Синтетические видео, голоса, тексты уже используются для манипуляций. К выборам 2024 года в США это стало полноценной проблемой.

• Токсичный контент. Без ограничений языковые модели с радостью генерируют инструкции по созданию оружия, наркотиков, методы обхода систем безопасности.

• Трудовая дислокация. Автоматизация когнитивного труда — это не фантастика. Юристы, программисты, аналитики, копирайтеры уже чувствуют давление.

• Экзистенциальные риски. Сюда относят всё: от потери контроля над системами общего назначения до геополитической гонки вооружений с ИИ в центре. Степень реальности этих угроз — предмет жарких споров даже среди экспертов.

Бум и обречённость одновременно

Ключевая мысль оригинальной колонки — ИИ несёт в себе и обещание процветания, и угрозу катастрофы. И это не риторический приём, а технологическая реальность.

Та же технология, которая позволяет ускорить разработку лекарств, может использоваться для создания биологического оружия. Модель, которая помогает детям учиться, способна и создать убедительную дезинформацию. Инструмент, повышающий продуктивность офисных работников, делает их же ненужными.

Это свойство не только ИИ. Электроэнергия, ядерная физика, интернет — каждая прорывная технология несла в себе двойственность. Но ИИ отличается масштабом и скоростью: изменения происходят не за десятилетия, а за месяцы.

Кому верить?

Неприятная правда в том, что в этой дискуссии нет честных игроков. ИИ-компании заинтересованы в хайпе (инвестиции) и в регулировании (барьеры для конкурентов). Критики ИИ часто переувеличивают угрозы, чтобы привлечь внимание и гранты. Политики используют тему для пиара. Даже исследователи безопасности могут быть предвзяты — их проекты лучше финансируются, когда страшнее.

Что остаётся обычному человеку? Скептицизм ко всем сторонам. Но скептицизм не значит отрицание. Можно одновременно считать, что ИИ-компании манипулируют нарративом, и признавать, что без какого-то регулирования обойтись будет сложно.

А что с Россией?

В российских реалиях дискуссия о регулировании ИИ выглядит иначе. Здесь нет конкуренции за триллионы долларов между десятками компаний. Зато есть своя специфика: законодательные инициативы часто бежат впереди рынка, а рыночные игроки слишком малы, чтобы влиять на повестку.

Федеральный закон об экспериментальных правовых режимах в сфере ИИ уже работает в отдельных регионах. Стратегия развития ИИ до 2030 года утверждена. Но масштаб проблемы — когда технология и её риски растут экспоненциально — пока недооценён.

Вместо вывода

ИИ-индустрия выстроила удобную модель: продавать надежду и страх одновременно. Первое привлекает деньги инвесторов, второе — защиту от конкурентов. Но тот факт, что кто-то извлекает выгоду из тревоги, не отменяет саму тревогу.

Вопрос не в том, правы ли ИИ-компании, призывая к регулированию. Вопрос в том, способно ли регулирование быть независимым от тех, кто его просит. Пока ответ на это неутешителен — но другой реальности у нас нет.