Строка в логе, которая взломает ваш AI-анализатор, — и как от этого защититься
Логи — это входные данные, которыми управляет атакующий. Если вставить их в AI-чат, злоумышленник может внедрить свой промпт прямо в отчёт...
#LLM
Все материалы с тегом «LLM».
Почему Gemma 4b оказалась лучше Mistral 7B для пакетной оценки сообщений на слабом железе
Разработчик столкнулся с задачей пакетной оценки сообщений на видеокарте с 6 ГБ видеопамяти — и выяснил, что размер контекстного окна важнее...
ИИ генерирует проверочные утверждения для чипов — но чуть переписали код, и всё ломается
Исследователи проверили, насколько устойчивы проверочные утверждения, сгенерированные нейросетями, к косметическим изменениям в коде железа....
Бюджет токенов: почему в AI-разработке важна жёсткая экономия
Разработчик систем для медицины делится опытом: токены больших языковых моделей — не бесконечный ресурс, а жёсткое архитектурное ограничение,...
Сколько видеопамяти нужно для запуска языковых моделей локально: полный расклад на 2026 год
Запуск больших языковых моделей на своём железе — вопрос не «можно ли», а «сколько видеопамяти хватит». Разбираем реальные цифры, подводные камни...
VIDRAFT побеждает в соревновании по скорости инференса Gemma-4: 510 TPS на одном GPU
Компания VIDRAFT заняла первое место в конкурсе "The First Gemma Challenge", показав 510.58 токенов в секунду на модели Gemma-4 с одним GPU NVIDIA...
Как защитить цепочку поставок ИИ-агентов: локальные LLM и песочницы для оценки рассуждений
Традиционные инструменты проверки зависимостей не справляются с новой угрозой — хаотичной цепочкой поставок ИИ-агентов. Разбираемся, почему...
Бухгалтерия для ИИ-агента: как отследить дорогие сессии до того, как они станут нормой
ИИ-агенты для написания кода могут выглядеть продуктивными, но незаметно превращать каждый pull request в загадочный счёт. Решение — не дашборд с...
С Ollama на vLLM: когда пора переходить от локальной игрушки к серьёзному инференс-серверу
Ollama — отличная точка входа для запуска языковых моделей на своём железе, но при росте нагрузки её простота превращается в ограничение....
RAG без GPU, облака и Docker: пять ошибок, каждая из которых стоила недели
Инженер из Коста-Рики собрал RAG-пайплайн целиком на CPU и локальном железе — и выяснил, что все популярные туториалы молчат о пяти критических...
История чата вашего ИИ-агента — это пользовательский ввод. И это проблема безопасности
Серьёзная уязвимость найдена во множестве продакшн-чат-ассистентов: злоумышленник может подменить историю диалога через DevTools браузера,...
Три способа приручить ИИ: промпт-инжиниринг, RAG и файн-тюнинг — в чём разница и что выбрать
Объясняем тремя простыми словами три главных подхода к адаптации нейросетей под бизнес-задачи — и помогаем выбрать, какой из них реально нужен.