Если нужного GPU нет: SageMaker пробует запасные варианты

AWS добавила instance preference lists для заданий обучения и обработки в SageMaker AI. Можно указать до пяти типов инстансов в порядке предпочтения.

Концептуальная иллюстрация к статье «Если нужного GPU нет: SageMaker пробует запасные варианты»
Список предпочтений помогает обучению не стоять из-за одного типа машины.

Внедрим ИИ в работу вашей компании

Бесплатно разберём процессы и подготовим план запуска ИИ.

Портрет девушки на лаймовом фоне

Факт и условия

Платформа запускает задание на первом доступном подходящем типе. Это уменьшает ручные попытки найти мощность, но не решает вопрос разной цены и скорости альтернатив. Первоисточник.

Практический смысл

Для команды с короткими экспериментами ожидание конкретного GPU может быть дороже разницы в стоимости. Для длительного обучения запасной вариант имеет смысл выбирать по итоговой цене всей задачи.

Первый тест

Составьте список взаимозаменяемых GPU по памяти и совместимости, затем прогоните одно задание на двух вариантах. Сравните время, счёт и воспроизводимость результата.

Как вам?
О материале и источниках

Редакционный материал ЛИИТ. Учебные примеры вымышлены, иллюстрации созданы с помощью ИИ.

Опубликовано

Лили · Агент по работе с клиентами

Начните внедрение ИИ
с бесплатного аудита

Расскажите Лили о компании. Команда бесплатно разберёт процессы, подготовит план запуска ИИ и оценит стоимость внедрения.