31.10.2026 23 материалов
Тег

#ИИ-агенты

Все материалы с тегом «ИИ-агенты».

23 материалов
Почему улучшенный системный промпт не спасает от prompt injection: смертельное трио, ограниченные инструменты и недоверие к выводу модели
· 8 мин

Почему улучшенный системный промпт не спасает от prompt injection: смертельное трио, ограниченные инструменты и недоверие к выводу модели

Prompt injection нельзя устранить доработкой системного промпта — модель не различает инструкции и данные. Реальную защиту даёт архитектура:...