31.10.2026 54 материалов
Тег

#безопасность

Все материалы с тегом «безопасность».

54 материалов
Почему улучшенный системный промпт не спасает от prompt injection: смертельное трио, ограниченные инструменты и недоверие к выводу модели
· 8 мин

Почему улучшенный системный промпт не спасает от prompt injection: смертельное трио, ограниченные инструменты и недоверие к выводу модели

Prompt injection нельзя устранить доработкой системного промпта — модель не различает инструкции и данные. Реальную защиту даёт архитектура:...