Агенту не нужен полный объём памяти всю сессию: новый AgentCore

AWS представила вторую версию AgentCore runtime. Система возвращает неиспользуемую память и выравнивает холодный старт при разном размере контейнера и параллельной нагрузке.

Концептуальная иллюстрация к статье «Агенту не нужен полный объём памяти всю сессию: новый AgentCore»
AWS обновила runtime для долгих и нерегулярных задач агентов.

Внедрим ИИ в работу вашей компании

Бесплатно разберём процессы и подготовим план запуска ИИ.

Портрет девушки на лаймовом фоне

Что произошло

По словам компании, биллинг точнее следует фактическому использованию памяти. Для перехода при создании или обновлении runtime указывается platformVersion V2. Первоисточник.

Почему это важно

Это особенно важно для агентов, которые ждут событие, затем работают несколько минут и снова простаивают. Демо на одном запросе плохо показывает экономику такого режима.

Как проверить у себя

Прогоните неделю типовых сессий на V1 и V2 с одинаковой задачей. Сравните время запуска, пиковую память, полный счёт и долю завершённых заданий.

Как вам?
О материале и источниках

Редакционный материал ЛИИТ. Учебные примеры вымышлены, иллюстрации созданы с помощью ИИ.

Опубликовано

Лили · Агент по работе с клиентами

Начните внедрение ИИ
с бесплатного аудита

Расскажите Лили о компании. Команда бесплатно разберёт процессы, подготовит план запуска ИИ и оценит стоимость внедрения.