Управление ИИ-агентами в организации: AI governance для ГБ и корпорации

---

1. Требования и риски: почему без регламента агенты «утекли» из-под контроля

Внедрение ИИ в компании редко начинается с формального решения. Сначала один инженер включил ассистента, за ним — его коллега, потом отдел, и через три месяца агенты читают корпоративный код, ходят в базы и переписывают документы без единого согласования. Так выглядит классический сценарий, чем всё и опасно.

Риски делятся на три уровня.

Операционный. ИИ-агент, у которого нет ограничений, способен наделать изменений в коде и конфигурации, которые никто не проверял. Качественная разница от человека в том, что агент действует быстро и широко: ошибка одной строкой расползается на десятки файлов. Без ревью и порога автономности цена такой «производительности» — срыв сроков и дорогой откат.

Информационный. Агент работает с данными, а где данные — там и чувствительная информация. Персональные данные по 152-ФЗ, коммерческая тайна, служебная переписка. Если агент отправляет контекст во внешний сервис, а политика этого не запрещает, компания получает утечку не по протоколу кибербезопасности, а по умолчанию — просто потому, что «так удобно».

Репутационный и юридический. Для ГБ и корпораций вопрос соответствия выходит на первый план. ИБ-требования, 152-ФЗ, а при закупках — 44-ФЗ и 223-ФЗ, где предмет должен быть описан и обоснован. Компания, у которой нет регламента, отвечает не только за результат агента, но и за факт его бесконтрольного использования.

Практика подсказывает один простой вывод. Управление ИИ-агентами — это не «кнопка безопасности», а набор договорённостей, которые фиксируют, что агент вправе делать, а что нет. Базовый подход к внедрению ИИ в компании — в материале о том, с чего начать.

2. Политики и регламенты: что закрепить на бумаге

Регламент управления агентами — это три-четыре документа, а не один толстый «положение», которое никто не читает. Состав зависит от масштаба, но каркас один.

Политика использования ИИ. Прописывает, где агенты разрешены, а где нет. Пример: код — разрешено, бухгалтерия — только с согласованием, переписка по персональным данным — запрещено. Здесь же фиксируем, какие внешние сервисы допустимы, а какие данные нельзя отправлять за пределы контура.

Политика доступа. Определяет, к каким системам и базам агент может подключаться, на каких правах и через какой канал. Современные агенты работают через протокол подключения к данным и инструментам — подробнее, как это устроено, в разборе vibe coding и агентов.

Регламент автономности и согласования. Самый важный пункт. Задаёт порог, после которого результат агента обязан посмотреть человек: критичные данные, продакшн-правки, изменения в ИБ-контуре, удаление данных. Это «human in the loop» на практике — не буква, а правило конкретного порога.

Политика логирования и аудита. Фиксирует, что каждое действие агента записывается: кто запустил, к каким данным обратился, что изменил, какой вернулся результат. Это основа для разбора инцидента и для проверки соответствия внешним требованием.

Хороший регламент экономит время. Когда политика написана заранее, команда не спорит на каждом шаге «можно ли агента сюда запустить», а сверяется с правилом.

3. Роли и процесс утверждения: кто отвечает за агента

Управление агентами без ролей превращается в игру в испорченный телефон: «я не запускал, это агент сделал». Поэтому RACI для ИИ — не бюрократия, а способ назначить ответственного.

• Владелец агента (Agent Owner). Отвечает за конкретного агента: зачем он, что умеет, какие у него границы. Это роль, а не отдел; у инженера и аналитика могут быть свои агенты.
• Архитектор / техлид. Проверяет техническую корректность: насколько результат агента надёжен, что за код, нет ли регрессий.
• ИБ-ответственный. Согласует доступы, оценивает риски утечки, следит за журналами. Его голос обязателен при подключении к чувствительным данным.
• Руководитель (команда / блок). Утверждает пороги автономности и бюджет, разбирает инциденты.

Процесс утверждения выглядит так. Нового агента регистрируют: цель, доступы, границы. Перед запуском — согласование с ИБ (если данные чувствительные) и с техлидом. В работе действует правило соблюдения порога автономности. Если агент вышел за рамки — разбор, снятие доступа, пересмотр политики.

Отдельный момент — что происходит, когда агент ошибается. Ответ не «отключить всё», а разобрать кейс: это ошибка модели, плохо сформулированной задачи или неправильных границ. От ответа зависит, чинить агента или снимать его с эксплуатации. Практические границы внедрения и ролей — в руководстве по агентной разработке.

4. Соответствие и аудит: чек-лист для ГБ и корпорации

Соответствие проверяется по четырём осям. Пройдя по чек-листу, компания получает карту того, что закрыто, а что — дыра.

• Персональные данные (152-ФЗ). Определён порядок обработки ПДн агентами, кто согласует, где хранятся данные, как выполняется требование о защите и локализации.
• Доступы и идентичность. Для каждого агента — отдельная учётка или изолированный токен, минимально необходимые права, отсутствие «общих» учёток.
• Логирование. Действия агента пишутся, журналы защищены и хранятся, есть порядок разбора инцидента по логам.
• Импортозамещение и закупки. Если решение идёт в контур госзаказчика или госкомпании — оборудование и ПО соответствуют реестру, путь по 44-ФЗ / 223-ФЗ описан. Как это оформить, — в схеме закупки ИИ-решения.
• Порог автономности. Зафиксированы задачи, где решения принимает только человек, и нет кардинального противоречия между «быстро» и «контролируемо».
• Инвентаризация. Есть актуальный список всех агентов, их владельцы и границы; добавить агента — значит его в этот список внести.

Аудит отвечает на простой вопрос: соответствует ли то, что делают агенты, тому, что записано в политике. Если расхождение большое — проблема не в отсутствии документа (документ есть), а в отсутствии практики. Такой аудит полезно проводить не раз по случаю инспекции, а на регулярной основе — например, раз в квартал.

5. Вопросы и ответы

Что такое AI governance и зачем он нужен компании? — Это совокупность политик, ролей и регламентов, которые определяют, как ИИ-агенты используются в организации: где разрешено, что запрещено, кто отвечает. Нужен, чтобы внедрение ИИ давало пользу без операционных, информационных и юридических рисков.

AI governance — это только про безопасность? — Нет. Безопасность и соответствие — часть, но governance охватывает ещё и управление: какие агенты есть, как они используются, как принимаются решения, кто несёт ответственность.

Часто ли компании внедряют регламент до запуска агентов? — Нет. Обычно это происходит «вдогонку», после первых инцидентов, что всегда дороже. Предупредительный подход — прописать политику до массового использования.

Это обязательно для малого бизнеса? — Можно сократить до минимума. Для команды из трёх человек достаточно одной страницы с правилами доступа и порога согласования. Чем больше людей и данных, тем более нужен формальный регламент.

Что входит в аудит соответствия? — Проверка по чек-листу выше: 152-ФЗ, доступы, логирование, порог автономности, инвентаризация, соответствие закупочным требованиям.