Prompt injection через PNG: как хакеры взламывают ИИ-агентов с помощью картинок и как защититься

Prompt injection через PNG: как хакеры взламывают ИИ-агентов с помощью картинок и как защититься
1. Злоумышленник записывает вредоносную инструкцию в служебные блоки PNG (tEXt, iTXt, EXIF), которые не видны человеку, но извлекаются мультимодальной LLM.
2. AI-агент, анализируя изображение, автоматически считывает эти данные и включает их в контекст промпта — это позволяет выполнить команду типа "удали все файлы" или "сделай push с бэкдором".
3. Атака срабатывает без текстового ввода: достаточно загрузить картинку в репозиторий, чат или email, где агент её обработает.
4. Защита: очищайте метаданные изображений перед подачей в LLM, используйте отдельные агенты с ограниченными правами и внедряйте фильтрацию инструкций вне основного промпта.
Читать статью →

Подписаться на канал