Квантовые компьютеры учатся взламывать не только шифрование: исследователи испытали реальный квантовый чип для создания эксплойтов

Исследователь Карлос Бенитес показал, как квантовый алгоритм QAOA на реальном чипе IBM способен подбирать цепочки «гаджетов» для атак на ядро Linux — и в 11 из 16 случаев нашёл оптимальное решение.

Квантовые компьютеры угрожают не только шифрованию — они начинают помогать хакерам находить уязвимости быстрее, чем классические алгоритмы.

Обычный пользователь пока может не паниковать

Когда речь заходит о квантовых компьютерах и кибербезопасности, большинство представляет примерно одну картину: где-то в будущем мощная квантовая машина взламывает банковское шифрование и все пароли мира становятся бесполезными. Эта угроза реальна, но до её воплощения ещё десятилетия. Однако новый исследовательский показывает, что квантовые вычисления могут применяться в наступательной безопасности задолго до того, как сломают ваш RSA-ключ.

Речь идёт не о теоретических рассуждениях, а о конкретном эксперименте на реальном квантовом оборудовании IBM. И хотя рядовому пользователю прямо сейчас это ничем не грозит, понять, куда движется эта область, стоит — хотя бы для того, чтобы не путать хайп с реальными технологическими сдвигами.

Что такое ROP и почему его сложность проблема

Чтобы понять суть работы, нужно разобраться с базовой техникой эксплуатации уязвимостей — Return-Oriented Programming, или ROP.

Представьте, что вы хотите заставить чужую программу выполнить то, что она не должна. Современные операционные системы уже давно запретили прямое выполнение кода из областей памяти, которые для этого не предназначены (защита DEP / NX). Поэтому злоумышленники придумали изощрённый приём: они находят в уже загруженном в память коде программы короткие полезные фрагменты — по паре-тройке инструкций каждый — и сшивают их в цепочку. Эти фрагменты называют «гаджетами» (gadgets), а сшитую цепочку — ROP-цепочкой.

Проблема в том, что подходящих гаджетов может быть сотни и тысячи, а комбинаций между ними — миллионы. Нужно выбрать такие, которые вместе выполнят нужную последовательность операций, при этом не испортят друг другу значения в регистрах (это называется «затирание регистров» или register clobbering) и пройдут через защиты ядра — вроде SMEP и SMAP, которые не дают злоумышленнику запускать пользовательский код в привилегированном режиме.

Перебор всех возможных комбинаций — классическая задача комбинаторной оптимизации, а такие задачи быстро становятся вычислительно неподъёмными для обычных компьютеров.

Квантовая оптимизация вместо перебора

Именно здесь Карлос Бенитес (Carlos Benitez), автор исследования, предложил нестандартный ход. Он сформулировал подбор ROP-цепочки как задачу QUBO — Quadratic Unconstrained Binary Optimization (квадратичная неограниченная бинарная оптимизация).

QUBO — это математическая формулировка, которая хорошо подходит для квантовых компьютеров. По сути, задача сводится к минимизации некоей «стоимости» цепочки с учётом штрафов за конфликты между гаджетами. Если два гаджета затирают регистры друг друга — штраф. Если цепочка слишком длинная — штраф. Если цепочка не выполняет нужную последовательность операций — невалидный вариант.

Для решения этой задачи исследователь применил алгоритм QAOA (Quantum Approximate Optimization Algorithm) — приближённый квантовый алгоритм оптимизации, который работает на промежуточных квантовых компьютерах, не требуя идеальных кубитов. QAOA не гарантирует нахождение идеального решения, но часто находит достаточно хорошее — и делает это с использованием квантового параллелизма, который принципиально отличает его от классического перебора.

Реальный чип, а не симуляция

Важно, что эксперимент проводился не в симуляторе. Бенитес запускал QAOA на реальном квантовом процессоре IBM Heron r2 — это чип последнего поколения IBM Quantum, доступный через облачную платформу IBM Quantum Network. Это не теоретическая работа с «если бы у нас были идеальные кубиты», а попытка проверить идею на том оборудовании, которое существует сегодня.

Результаты на квантовом железе IBM:

• 8 различных Linux-бинарников, 16 тестовых наборов данных
• В 11 из 16 случаев QAOA нашёл цепочку с минимально возможной стоимостью
• В 5 случаях алгоритм не смог восстановить оптимум — из-за слишком глубоких квантовых схем, которые текущее железо не может выполнить без ошибок

Кроме того, в одном из сценариев квантовая цепочка позволила повысить привилегии до uid=0 (то есть до уровня root-пользователя) на ядре Linux с активными защитами SMEP и SMAP. Это значит, что алгоритм не просто теоретически подобрал комбинацию, а нашёл реально работающий эксплойт.

Что это значит на практике

Самый честный ответ: для обычного пользователя — пока ничего. Эта работа — proof of concept, демонстрация того, что квантовая оптимизация может быть полезна не только в криптоанализе. Никто сегодня не бросится взламывать ваш ноутбук квантовым компьютером: IBM Heron r2 стоит миллионы, работает при температуре близкой к абсолютному нулю, и доступ к нему через облако вовсе не означает, что хакер выстроит очередь в IBM Quantum Network.

Но у работы есть несколько важных последствий, которые стоит учитывать.

Во-первых, она расширяет представление о том, что именно могут делать квантовые компьютеры в контексте безопасности. Большинство дискуссий крутится вокруг криптографии, а здесь — совершенно другое направление: автоматизация подбора эксплойтов.

Во-вторых, результат показывает, что даже нынешнее «шумное» квантовое железо (NISQ-эра) способно решать практические задачи. Оптимум найден не всегда, но 69% успеха на реальном чипе — это неожиданно хороший показатель для задачи такого класса.

В-третьих, работа намекает на будущее, в котором автоматизированный поиск уязвимостей может ускориться. Если QAOA и его наследники будут масштабироваться вместе с ростом числа кубитов, подбор сложных эксплойтов может стать делом не недель кропотливого ручного анализа, а часов вычислений.

Ограничения, о которых честно говорит автор

Бенитес не претендует на революцию прямо сейчас. В его исследовании 5 из 16 тестов провалились именно потому, что квантовая схема получилась слишком сложной для существующего оборудования. Это классическая проблема NISQ-устройств: чем сложнее задача, тем больше операций нужно выполнить, и тем сильнее накапливаются ошибки кубитов.

Кроме того, работа рассматривает конкретную задачу — подбор ROP-цепочки. Она не отвечает на вопрос, могут ли квантовые алгоритмы автоматизировать обнаружение самих уязвимостей. Это другая, ещё более сложная проблема.

Наконец, 29-страничная статья на arXiv пока не прошла рецензирование (peer review) — это препринт, размещённый для обсуждения научным сообществом. Это не значит, что результаты неверны, но к ним стоит относиться с оговоркой: финальная оценка качества работы ещё впереди.

Почему это важно для индустрии в целом

Даже если практическое применение квантовых эксплойтов отстоит на годы, сам факт появления таких работ меняет дискуссию в индустрии. Службы безопасности должны начинать думать не только о том, как защитить шифрование от квантовых компьютеров, но и о том, как квантовая оптимизация может ускорить атаки на уровне операционных систем и приложений.

Для разработчиков оборудования и операционных систем это сигнал: защиты вроде SMEP и SMAP, которые сегодня считаются достаточно надёжными, в перспективе могут оказаться менее устойчивыми, если у атакующей стороны появится доступ к квантовой оптимизации. Не потому что сами защиты слабеют, а потому что инструменты для обхода становятся быстрее.

Исследование Бенитеса — напоминание о том, что квантовая революция в кибербезопасности будет не одномерной. Шифрование — только первая и самая очевидная мишень. Автоматизация эксплуатации уязвимостей — следующая, и она уже ближе, чем кажется.