¿Qué es la generación aumentada por recuperación (RAG)?
La generación aumentada por recuperación, o RAG, es una forma de responder a partir de un conjunto de documentos: el sistema encuentra primero los pasajes más relevantes para una pregunta y luego se los da al modelo para que responda a partir de ellos.
Es la forma en que una IA puede responder sobre tus archivos sin leerlos todos en cada mensaje y sin volver a entrenarse con ellos.
Cómo funciona
Los documentos se dividen en fragmentos de unos cientos de palabras. Cuando llega una pregunta, el sistema puntúa los fragmentos frente a ella, comparando palabras, comparando el significado o ambas cosas, y se queda con los mejores. Esos pasajes entran en el contexto del modelo junto con la pregunta, normalmente con la instrucción de responder a partir de ellos.
Ejemplos
- Preguntar por un contrato y obtener la cláusula en la que se basa la respuesta.
- Buscar en una carpeta de notas por lo que dicen, no por el nombre del archivo.
- Un asistente de soporte que responde a partir del manual de un producto.
Limitaciones
- Si la recuperación no encuentra el pasaje correcto, el modelo responde sin él, o con conocimiento general.
- Los fragmentos pierden contexto: una frase puede depender de una página que no se recuperó.
- Refleja los documentos tal como eran cuando se añadieron.
Cómo lo usa Venta
Los documentos que añades se dividen en fragmentos, y cada mensaje se compara con ellos. Los mejores pasajes se envían con tu pregunta, y los pasos de la respuesta muestran qué documentos leyó.
Si la búsqueda en tus documentos falla, Venta lo dice al principio de la respuesta en lugar de responder en silencio con conocimiento general.
Las preguntas que la gente hace primero
- ¿RAG es lo mismo que entrenar un modelo con mis datos?
- No. Entrenar cambia el propio modelo. RAG deja el modelo como está y le entrega los pasajes relevantes cada vez.
- ¿RAG impide que la IA se invente cosas?
- Lo reduce cuando se encuentra el pasaje correcto, pero no lo impide. Comprueba la fuente en todo lo que importe.
- ¿Qué archivos puede leer Venta?
- Lee PDF, documentos de Word, hojas de cálculo, CSV, HTML y archivos de texto que subas.