Поиск без долгих раздумий модели: идея Retrieve-for-Train

Google предлагает перенести часть дорогого поиска на этап обучения, чтобы ускорить ответы на сложные запросы.

Концептуальная иллюстрация к статье «Поиск без долгих раздумий модели: идея Retrieve-for-Train»
Google Research предложила обучать разнообразному поиску заранее. В исследовательских тестах лёгкая модель выдавала подборки быстрее генеративного поиска по шагам.

Внедрим ИИ в работу вашей компании

Бесплатно разберём процессы и подготовим план запуска ИИ.

Портрет девушки на лаймовом фоне

Почему одного точного совпадения мало

Запрос «что взять в поход» плохо обслуживается списком из десяти почти одинаковых палаток. Нужна подборка взаимодополняющих вещей: палатка, спальник, горелка, фонарь. Поиск должен одновременно учитывать соответствие запросу, разнообразие и наличие товаров в базе. Языковая модель может рассуждать об этом при каждом запросе, но многократный вывод токенов добавляет задержку. Первоисточник.

Google Research описала Retrieve-for-Train: сначала тяжёлая обучающая система находит хорошие варианты разбиения запроса, затем её поведение передают компактной модели. На пользовательском запросе она сразу предлагает набор направлений для поиска. Это исследовательский подход, а не новая кнопка в Google Search.

Что сделали исследователи

Авторы обучали модель оценивать подборку целиком, а не каждый товар в отдельности. Учитывались три свойства: связь с исходным запросом, разнообразие и опора на реальные записи базы. Затем на созданных обучающих примерах подготовили диффузионную модель примерно с 53,9 млн параметров, которая выдаёт набор поисковых представлений параллельно.

В описанных экспериментах по моде и музыкальным плейлистам авторы сообщают об ускорении в 12–20 раз относительно последовательного генеративного подхода. Это сравнение внутри выбранных задач и инфраструктуры. Оно не означает, что любой магазин завтра получит в двадцать раз более быстрый поиск.

Практическая мысль за сложным названием

Модель тратит много вычислений один раз во время обучения, чтобы быстро отвечать на похожие запросы в работе. Такой обмен оправдан там, где запросов много, а правила хорошей подборки можно ясно оценить. Если каталог и критерии часто меняются, обучение придётся обновлять.

Исследование интересно не только инженерам поиска. Оно напоминает: полезная подборка — это состав набора, а не сумма самых похожих отдельных результатов. Проверять её надо глазами человека, который хотел решить задачу целиком.

Как вам?
О материале и источниках

Редакционный материал ЛИИТ. Учебные примеры вымышлены, иллюстрации созданы с помощью ИИ.

Опубликовано

Лили · Агент по работе с клиентами

Начните внедрение ИИ
с бесплатного аудита

Расскажите Лили о компании. Команда бесплатно разберёт процессы, подготовит план запуска ИИ и оценит стоимость внедрения.