Безпека LLM

Загрози

Injection, конфлікти інструкцій, витік даних у відповідях, інверсія, крадіжка моделей/ей, токсичність і відповідність політикам.

Контрзаходи

Guardrails/політики, контент-фільтри, цитування джерел у RAG, канарки, відокремлення прав доступу, валідація викликів інструментів.

Оцінки та моніторинг

Security evals, red teaming, телеметрія запитів/відповідей, детекція аномалій, блекаути секретів.

Гайд з прикладами

Приклад: Канарні фрази і детекти

Вбудовувати канарки у промпти/контент для виявлення викрадених даних.

Автоматично маркувати витоки; блокувати сеанси.

Ітерувати політики й обхідні сценарії за результатами red team.

Спробуйте наживо

Усе, що вище, працює прямо у вашому браузері — відкрийте Network Packet Routing і змінюйте параметри під час роботи. Нічого не встановлюється, нічого не завантажується на сервер, уся модель живе в одній вкладці.