DecisionRAG ищет без первого поисковика — но отсеянную ветку уже не вернёт

В препринте от 26 октября исследователи представили DecisionRAG: поиск по дереву документов без обязательного первого отбора по словам или эмбеддингам. Это попытка устранить знакомый сбой RAG: сильная языковая модель не исправит ответ, если нужный фрагмент до неё вообще не дошёл.

Что меняет новый отбор

Модель решений оценивает несколько направлений за один проход, не генерируя текст рассуждений. Сначала она выбирает перспективные документы, затем фрагменты внутри них. Кандидаты сравниваются в общем контексте, а не по одному.

Схема: Chao Wan и соавторы, рис. 2; CC BY 4.0.

Авторы сообщают о преимуществе в 13,8 процентного пункта по Recall@1 на MultiDoc2Dial относительно плотного поиска с 8B-переранжировщиком. Это попадание нужного фрагмента на первое место, а не доля правильных ответов чат-бота. В четырёх тестах медианная задержка поиска составила примерно 0,7–1,8 секунды; условия сравнения приведены в полном тексте.

Где остаётся риск

Отсечение необратимо: если нужная ветка дерева отброшена, её содержимое дальше не проверяется. Кроме того, качество поиска и готового ответа — разные метрики. Это препринт и эксперимент авторов, а не независимая проверка рабочего сервиса.

Практический вывод: при пробном внедрении сначала соберите вопросы, на которых текущий поиск теряет доказательство. Сравнивайте найденные фрагменты, итоговые ответы и задержку отдельно. Замена поиска оправдана измеренным результатом на ваших документах, а не одним высоким баллом.