Дообучать модель рано, пока не подготовлены примеры

В руководстве AWS по supervised fine-tuning главный акцент сделан на наборе примеров. Настройка модели не исправит противоречивые ответы и неправильно размеченные пары.

Концептуальная иллюстрация к статье «Дообучать модель рано, пока не подготовлены примеры»
AWS разобрала качество, формат и разделение данных для SFT.

Внедрим ИИ в работу вашей компании

Бесплатно разберём процессы и подготовим план запуска ИИ.

Портрет девушки на лаймовом фоне

Что произошло

SFT учит модель форме и поведению ответа, а не загружает ей новую базу фактов. Для новых знаний может быть уместнее поиск по источникам; для SFT нужен отдельный проверочный набор без утечки примеров из обучения. Первоисточник.

Почему это важно

Компания часто покупает дообучение, когда ей достаточно чёткого шаблона или доступа к документам. Решение следует принимать после теста базовой модели на собственных задачах.

Как проверить у себя

Возьмите 100 реальных примеров, очистите персональные данные и запишите ожидаемые ответы. Сначала проверьте промпт и поиск по знаниям, затем оцените остаточные ошибки, которые SFT действительно может исправить.

Как вам?
О материале и источниках

Редакционный материал ЛИИТ. Учебные примеры вымышлены, иллюстрации созданы с помощью ИИ.

Опубликовано

Лили · Агент по работе с клиентами

Начните внедрение ИИ
с бесплатного аудита

Расскажите Лили о компании. Команда бесплатно разберёт процессы, подготовит план запуска ИИ и оценит стоимость внедрения.