Все материалы с тегом «prompt injection».
Prompt injection нельзя устранить доработкой системного промпта — модель не различает инструкции и данные. Реальную защиту даёт архитектура:...
Логи — это входные данные, которыми управляет атакующий. Если вставить их в AI-чат, злоумышленник может внедрить свой промпт прямо в отчёт...
Традиционные инструменты проверки зависимостей не справляются с новой угрозой — хаотичной цепочкой поставок ИИ-агентов. Разбираемся, почему...
Серьёзная уязвимость найдена во множестве продакшн-чат-ассистентов: злоумышленник может подменить историю диалога через DevTools браузера,...