Корпоративный ИИ перестал быть пилотным проектом в одном департаменте. Запросы к моделям идут из IDE, внутренних ассистентов, агентных контуров и «теневых» чатов сотрудников. При этом поверхность атаки выглядит иначе, чем у классического пе...
Корпоративный ИИ перестал быть пилотным проектом в одном департаменте. Запросы к моделям идут из IDE, внутренних ассистентов, агентных контуров и «теневых» чатов сотрудников. При этом поверхность атаки выглядит иначе, чем у классического периметра: промпт-инъекция, утечка ПДн во внешнюю модель, неконтролируемый расход токенов, вызов инструмента ИИ-агентом без права на это действие.
В этой статье сделаем разбор реальной матрицы требований к LLM/AI Firewall. Цель статьи – не каталог фич, а карта того, что Заказчик считает обязательным, и как эти требования складываются в архитектуру контроля, где важны границы доверия, деньги, регуляторика и управляемость.
За последний год сильно изменились требования крупных enterprise компании к защите генеративного ИИ. Сначала это был короткий перечень задач к «прокси для ChatGPT». Сейчас это матрица на десятки страниц, в которой описаны более 500 формализованных требований: сначала стандартные задачи, а затем том требований к ИИ-агентам, MCP, 152-ФЗ, цепочке поставок моделей и т.д. Это уже не запрос на фильтр. Это запрос на контрольный контур.