Prompt Injection — захист

Вектори

Зовнішній контент (RAG/веб), вкладені інструкції, інʼєкції в метаданих/alt-текстах/файлах, соціальна інженерія.

Захист

Сегментація промптів, system-пріоритет, фільтри/канарки, інваріанти політик, валідація схем та інструментів.

Тестування

Автоматизовані набори атак, LLM-as-attacker, відстеження обходів, регулярні оновлення датасетів.

Гайд з прикладами

Приклад: Ізоляція інструментів у агента

Whitelisting функцій і схеми параметрів.

Перевірки на боці бекенду перед виконанням.

Тайм-ліміти, квоти, аудит викликів.

Спробуйте наживо

Усе, що вище, працює прямо у вашому браузері — відкрийте Network Packet Routing і змінюйте параметри під час роботи. Нічого не встановлюється, нічого не завантажується на сервер, уся модель живе в одній вкладці.