31.10.2026 8 материалов
Тег

#RAG

Все материалы с тегом «RAG».

8 материалов
Почему улучшенный системный промпт не спасает от prompt injection: смертельное трио, ограниченные инструменты и недоверие к выводу модели
· 8 мин

Почему улучшенный системный промпт не спасает от prompt injection: смертельное трио, ограниченные инструменты и недоверие к выводу модели

Prompt injection нельзя устранить доработкой системного промпта — модель не различает инструкции и данные. Реальную защиту даёт архитектура:...