31.10.2026 282 материалов
Рубрика

Софт

Софт: операционные системы, приложения, ИИ-сервисы и инструменты разработки — обновления, разборы и инструкции.

282 материалов
Почему улучшенный системный промпт не спасает от prompt injection: смертельное трио, ограниченные инструменты и недоверие к выводу модели
· 8 мин

Почему улучшенный системный промпт не спасает от prompt injection: смертельное трио, ограниченные инструменты и недоверие к выводу модели

Prompt injection нельзя устранить доработкой системного промпта — модель не различает инструкции и данные. Реальную защиту даёт архитектура:...