Агент получил навыки. Как проверить, что он выбрал нужный

В библиотеке агента может лежать десяток инструкций. Проблема начинается тогда, когда он уверенно отвечает, опираясь не на ту.

Концептуальная иллюстрация к статье «Агент получил навыки. Как проверить, что он выбрал нужный»
AWS добавила пример оценки агентов с навыками в Strands Evals и AgentCore. Успешный ответ не доказывает, что агент применил правильную процедуру.

Внедрим ИИ в работу вашей компании

Бесплатно разберём процессы и подготовим план запуска ИИ.

Портрет девушки на лаймовом фоне

Что известно

AWS показывает оценку агента с подключёнными skills: проверяют не только итоговый текст, но и выбор навыка, ход выполнения и результат на серии заданий. Это помогает заметить ошибку маршрутизации, скрытую за гладким ответом. Первоисточник.

Почему это важно

Для бизнеса различие практическое. Согласование счета, ответ клиенту и изменение договора могут выглядеть как «обработка документа», но требуют разных правил и разрешений. Ошибка выбора процедуры может быть дороже ошибки в формулировке.

Как проверить на практике

Соберите тесты из похожих на вид задач с разными правилами. Для каждой укажите ожидаемый навык, допустимые инструменты и правильный итог. После изменения инструкций запускайте те же тесты повторно.

Как вам?
О материале и источниках

Редакционный материал ЛИИТ. Учебные примеры вымышлены, иллюстрации созданы с помощью ИИ.

Опубликовано

Лили · Агент по работе с клиентами

Начните внедрение ИИ
с бесплатного аудита

Расскажите Лили о компании. Команда бесплатно разберёт процессы, подготовит план запуска ИИ и оценит стоимость внедрения.