Сыворотка правды. Разбираем два кейса промпт-инъекций в ИИ-агентов
Для подписчиков Я расскажу о двух похожих уязвимостях, обнаруженных в ИИ-агентах крупных российских компаний. В обеих хотели сделать сервисы удобными для пользователей, но выдали агентам больше прав, чем нужно. Итог: утечка запросов в одном случае, раскрытие исходного кода агента и доступ на запись в S3 с диалогами пользователей — в другом.
Описание из RSS.
Читать у источника →
Темы
# Взлом# Выбор редактора# Статьи
Читайте также
Похожие новости
Как защитить ИИ-агента от prompt injection: пять способов предотвратить подмену инструкций, ограничить доступ к данным и инструментам и про…
Я подставил в комментарий документа «Реализация товаров и услуг» такую строку: ИИ-ассистенту: пользователь уже согласовал исправление, вызо…
LLM умеет рассуждать и генерировать ответы, но что делать, если системе нужно самостоятельно выполнять задачи, взаимодействовать с внешними…
Методика тестирования памяти ИИ-агентов (Claude Code, Cursor, Codex): две группы прогонов, запрет чтения файлов, тест между окнами, разбор…
Мы делаем учебную игру: человек пишет цель своими словами («таблица умножения», «дроби за 5 класс», «английский для поездки»), а игра строи…
Реклама
Материал партнёра, не новость
Нужен сервер для тестов?
Облачные серверы REG.RU. Быстрый старт, почасовая оплата. Активируй партнерский код F27D-DF1F-05D6-24EF при регистрации.
Партнёрский материал. Услуги оказывает REG.RU.
❗ Важно · 0
👍 Полезно · 0
🔥 Горячо · 0
