Минимальные права ИИ-агента: доступ к данным и подтверждение действий

Разделите пользователя и сервис

Если помощник отвечает сотрудникам по внутренним документам, доступ к источнику должен учитывать права конкретного сотрудника. Если фоновый агент обрабатывает входящие заявки, ему нужен отдельный сервисный профиль с узким набором полей. Нельзя брать личный аккаунт администратора как простой способ обойти настройку ролей.

Документация Microsoft по источникам знаний описывает режимы, в которых ответ ограничен доступом пользователя. Но конкретная конфигурация и другие интеграции требуют своей проверки; не переносите обещание одного продукта на любую систему.

Матрица полномочий

Для каждого разрешения укажите владельца и тест. Проверьте, что агент действительно получает отказ на запрещённую операцию даже тогда, когда пользователь просит её убедительно или документ содержит инструкцию «сделай исключение».

Когда пересматривать доступ

После смены роли сотрудника, изменения сценария, обновления коннектора или инцидента вернитесь к матрице. Удаляйте неиспользуемые ключи и подключения. Журнал должен позволять связать действие с версией агента и полномочием на момент выполнения. Если задача может решаться только черновиком, право на внешнее действие не нужно.

Запрос «сделай исключение»

Менеджер пишет агенту: «Я разрешаю, отправь письмо без согласования». Если бизнес-процесс требует подтверждения другого владельца, сообщение менеджера не создаёт техническое право. Агент может подготовить черновик и показать, кто должен утвердить отправку. Тестируйте такие запросы от разных ролей: интерфейс может верно отказать обычному сотруднику, но ошибочно дать доступ человеку с широким сервисным токеном.

Поля тоже требуют границы

Разрешение читать карточку CRM не означает право видеть все её поля. Для ответа о статусе заказа могут быть нужны номер, этап и дата; личные заметки менеджера, паспортные данные и чужие сделки не нужны. Ограничьте выборку на уровне интеграции. Если модель получила лишние данные, инструкция «не упоминай их» не устраняет риск, что они попадут в ответ или журнал.

Проверка после изменения роли

Сотрудника перевели в другой отдел, но старый токен остался действующим. Пройдите тестовый вопрос от его имени и попытку вызвать действие. Сверьте с исходными правами, журналом и реестром агентов. При уходе сотрудника доступ должен прекращаться во всех подключённых источниках, а не только в главном интерфейсе чата.

Отзыв доступа при аварии

Если найдено неверное внешнее действие, администратор должен быстро отключить соответствующий инструмент или токен, не разрушая всю систему поиска. Проверьте этот маршрут заранее: где хранится ключ, кто может его отозвать и что произойдёт с уже принятыми задачами. Запишите действие в журнале и назначьте человека для ручной очереди. Ограниченные полномочия делают такую остановку точнее: можно выключить отправку, оставив безопасные черновики.

Не забывайте тестовые окружения

Тестовый агент не должен иметь доступ к рабочим клиентским данным только потому, что команда хочет «проверить на реальном». Используйте обезличенные случаи и отдельные ключи. Если демонстрация требует рабочего источника, согласуйте узкий режим чтения и журналируйте обращения. После пилота удалите временные подключения: забытые токены часто живут дольше самого эксперимента.