Дополненное поколение Retrieval

Обзор

Поколение с расширенным поиском сочетает в себе извлечение информации и генерацию текста, поэтому ответ может опираться на документы за пределами фиксированных данных обучения модели. Такой подход полезен, когда знания часто меняются и принадлежат к частной коллекции или требуют наличия следовых доказательств. Поиск может улучшить фактическое обоснование, но он не делает каждое сгенерированное утверждение правильным.

Технические основы

Спарс-поиск дает точные совпадения терминов, в том числе плотные карты поиска запросов и переходы к векторам чей сходный характер может захватывать перефразирование. Гибридные системы сочетают в себе как сигналы, так и перепроверку кандидатов с более дорогим кросс-кодером. Границы прохода определяют, остаются ли доказательства согласованными и соответствуют контекстному бюджету. Затем генерация оценивает ответ, обусловленный извлеченным текстом; но внимание к отрывку не является доказательство влечет за собой. Некоторые системы разлагают вопросы, извлекают итеративно или поддерживают провенанс по промежуточным утверждения.

Как это работает

Документы собираются, очищаются и делятся на прохода с лексическими индексами или векторными встраиваниями. Пользовательский запрос извлекает кандидатов, которые могут быть перепроверены до того как выбранные отрывки войдут на контекст генерации. Генератор следует инструкциям, чтобы ответить с использованием этих доказательств и приложить цитаты. Более продвинутые системы переписывают запросы, выполняют несколько шагов поиска или маршрутизируют вопросы в структурированные базы данных и инструменты.

Методы измерения и исследования

Оценка начинается с вопроса, поставленного в паре со всеми соответствующими отрывками и ответами. Поиск использует отзыв по k, ранжирование мер и охват всех необходимых доказательств. Поколение оценивается претензией по претензии на правильность, влечет за собой точность цитаты и калиброванное воздержание. В состязательных тестах вводятся устаревшие, дублированные или ограниченные разрешениями документы. Производственный мониторинг записывает индексную версию, результаты поиска и подсказки при соблюдении конфиденциальности. Задержка и стоимость измеряются через прием, встраивание инфекционного материала (вкладывания), поиск или повторный ранжирование вместо последнего вызова.

Ключевые идеи

• Воспоминание о поиске устанавливает верхнюю границу того, может ли генератор увидеть доказательства для ответа.
• Приведенный отрывок может быть релевантным без фактического подтверждения претензии, размещенной рядом с ним.
• Связывание, метаданные и контроль доступа являются основными вариантами проектирования системы вместо предварительной обработки деталей.

Современные исследовательские границы

Исследования исследуют поиск по таблицам, изображениям и научным данным вместе с агентами на выбор между поисками. Долгоконтекстные модели могут уменьшить, но не устранить потребности в поиске потому что выбор и разрешение остаются ценными. Методы проверки цитирования и неопределённости пытаются отклонить необоснованные предложения после генерации. Открытые проблемы включают изучение обратной связи с пользователем без усиления предвзятости популярности, защиту от косвенного быстрого введения и создание контрольных показателей в тех случаях когда доказательства меняются со временем.

Почему это важно

RAG поддерживает поиск предприятий, научных помощников и ответы на вопросы по регулируемым коллекциям. Он позволяет обновлять исходные данные без переподготовки всей модели и может предоставить рецензентам доказательства, используемые для каждого ответа.

Пределы и открытыые вопросы

Плохое извлечение, устаревший индекс и противоречивые источники могут по-прежнему приводить к беглым ошибками. Быстрая инъекция, скрытная в извлеченных документах может перенаправить генератор и частные прохода могут просочиться без сквозной проверки разрешения. Оценка должна отдельно измерять поиск, поддержку претензий и точность цитирования вместо того чтобы полагаться только на субъективное качество ответа.