Generación aumentada en recuperación

Sinopsis

Generación aumentada por recuperación combina recuperación de información con generación de texto para que una respuesta pueda aprovechar documentos fuera de los datos de entrenamiento fijo de un modelo. El enfoque es útil cuando el conocimiento cambia con frecuencia, pertenece a una colección privada o requiere evidencia rastreable. La recuperación puede mejorar la base fáctica, pero no hace que cada declaración generada sea correcta automáticamente.

Fundaciones técnicas

Sparse retrieval marca partidos de término exactos, mientras que mapas de denso recuperación consultas y pasajes en vectores cuya similitud puede capturar parafrase. Los sistemas híbridos combinan tanto señales como candidatos de reranque con un encoder cruzado más caro. Los límites de los pasos determinan si las pruebas siguen siendo coherentes y se ajustan al presupuesto de contexto. La generación calcula entonces una respuesta condicional al texto recuperado, pero la atención a un pasaje no es una prueba de implicación. Algunos sistemas descomponen preguntas, recuperan iterativamente y mantienen la procedencia en reclamaciones intermedias.

Cómo funciona

Los documentos se recogen, limpian, se dividen en pasajes y se representan por índices lexicos, incrustaciones vectoriales o ambos. Una consulta de usuario recupera candidatos que pueden ser reenvainados antes de que pasajes seleccionados entren en el contexto de generación. El generador sigue instrucciones para responder usando esa evidencia y adjuntar citas. Sistemas más avanzados reescribir consultas, realizar varios pasos de recuperación o preguntas de ruta a bases de datos e instrumentos estructurados.

Métodos de medición e investigación

La evaluación comienza con una pregunta que se combina con pasajes relevantes y respuestas compatibles. Retrieval utiliza la memoria k, medidas de clasificación y cobertura de todas las pruebas necesarias. La generación se evalúa por reclamación por corrección, implicación, precisión de citación, integridad y abstención calibrada. Pruebas adversarales introducen documentos obsoletos, duplicados, envenenados o restringidos por permiso. Versión índice de monitoreo de la producción, resultados de recuperación y impulsos respetando la privacidad. Latencia y el costo se miden a través de la ingestión, incrustación, búsqueda, reenvase y generación en lugar de sólo la llamada final.

Principales ideas

• Retrieval recall establece un límite superior en si el generador puede ver las pruebas necesarias para una respuesta.
• Un pasaje citado puede ser relevante sin realmente apoyar la reclamación que se le coloca al lado.
• Los metadatos, el control de acceso y la frescura son opciones de diseño de sistemas básicos en lugar de detalles de procesamiento previo.

Frontera de investigación actual

La investigación explora la recuperación sobre tablas, imágenes, gráficos de conocimiento y datos científicos, junto con agentes que eligen entre búsqueda y computación. Los modelos de largo contexto pueden reducir pero no eliminar las necesidades de recuperación porque la selección, frescura y permisos siguen siendo valiosos. Métodos para la verificación de citas e incertidumbre intentan rechazar frases no apoyadas después de la generación. Los desafíos abiertos incluyen aprender de la retroalimentación del usuario sin amplificar el sesgo de popularidad, defender contra la inyección indirecta y crear puntos de referencia donde la evidencia cambia con el tiempo en lugar de permanecer congelado en un conjunto de pruebas.

¿Por qué importa?

RAG apoya la búsqueda empresarial, asistentes científicos, atención al cliente y respuesta a preguntas sobre colecciones reguladas. Permite actualizaciones de fuentes sin reentrenar un modelo completo y puede proporcionar a los revisores las pruebas utilizadas para cada respuesta.

Límites y preguntas abiertas

La mala recuperación, los índices de establo y las fuentes contradictorias todavía pueden producir errores fluidos. La inyección de prompt oculta en documentos recuperados puede redirigir el generador, y los pasajes privados pueden filtrarse sin cheques de permiso de extremo a extremo. La evaluación debe medir por separado la recuperación, el apoyo a la reclamación, la exactitud de la citación, la abstención y latencia en lugar de depender de la calidad de respuesta subjetiva por sí sola.