Безопасность
Как LLM-приложения и агенты становятся уязвимыми и почему защита строится архитектурой, а не промптом: границы доверия, прямые и непрямые инъекции, утечки данных, избыточные права агента, атаки на бюджет.
Загружаем…
01Вся тема целиком
Пройти всю тему «Безопасность»
Все вопросы темы — по одному на каждый факт, от лёгких к сложным. Честная проверка знаний по теме целиком, а не по одному разделу.
02
Разделы темы
№ТЕСТВОПРОСОВСЛОЖНОСТЬСТАТУС
7.1OWASP Top 10 for LLMРиски из списка OWASP для LLM, Чем инъекция промпта отличается от SQL-инъекции, Последствия успешной инъекции
7.2Прямые инъекции и джейлбрейкПриёмы прямой инъекции, Лимиты частоты против инъекций, Фильтрация ввода
7.3Непрямые инъекцииСкрытая инструкция на веб-странице, Прямая и непрямая инъекция, Инъекция в резюме
7.4Границы доверия и минимальные праваЧто такое граница доверия, Публичный API или своя модель, Пессимистичная граница доверия
7.5Утечки данныхОткуда модель узнаёт лишнее, Персональные данные в обучении, Как не допустить ПДн в обучающие данные
7.6Избыточные права агентаТри вида избыточной агентности, Медицинская база и права модели, Автоматическая перебалансировка портфеля
7.7Атаки на бюджетDoS, DoW и клонирование модели, Дешёвый запрос, дорогой ответ, Защита от DoS и DoW