Prompt Security
Prompt injection, jailbreak, role escalation, hidden instructions и попытки обхода системных ограничений.
Отдельный слой контроля AI-трафика между корпоративной сетью, локальными моделями и внешними AI-сервисами. Он инспектирует каналы, классифицирует данные, применяет политики и передаёт события в аудит.
Enterprise Secure Gateway отвечает за сетевой доступ. AI Security Gateway понимает AI-протокол, содержимое prompt/output, файлы и корпоративные политики.
Место компонента в общей архитектуре корпоративной AI-платформы.
Внутренние компоненты, границы ответственности и основные связи.
Путь пользовательского запроса через контрольные точки компонента.
Движение данных, контекста и результатов внутри системы.
Проверки объединяются в последовательную политику. Решение по запросу — Allow, Deny, Mask, Warn или Escalate.
Prompt injection, jailbreak, role escalation, hidden instructions и попытки обхода системных ограничений.
PII и secret detection, data classification, DLP, OCR inspection и анализ вложенных документов.
Secret/PII redaction, защита system prompt, проверка ответа по политикам и допустимому классу данных.
HTTPS/TLS inspection, forward proxy, ICAP, API, file upload и WebSocket inspection.
Решение учитывает пользователя, tenant, приложение, модель, направление трафика, тип данных и риск.
Журналирование, инциденты, отчёты, evidence для compliance и передача событий в SIEM/SOC.
Конкретный продукт вторичен. Выбор определяется доступным способом перехвата трафика, требованиями к TLS, производительностью и моделью эксплуатации.
Приложения используют enterprise proxy; AI-проверки подключаются как middleware или отдельный upstream.
SWG/SIG передаёт тело запросов и файлов во внешний AI/DLP inspection service.
Проверки выполняются на OpenAI-compatible API, включая streaming response и tool calls.
SSL inspection обнаруживает обращения к внешним AI-сервисам; исключения и сертификаты управляются централизованно.
Продолжите по соседнему слою архитектуры или вернитесь к полной карте технических материалов.
Можно начать с короткой архитектурной сессии: выбрать первый сценарий, определить данные, модельный маршрут, требования к железу, риски и пилотные метрики.