O que é geração aumentada por recuperação (RAG)?
Geração aumentada por recuperação, ou RAG, é uma forma de responder a partir de um conjunto de documentos: o sistema primeiro encontra os trechos mais relevantes para uma pergunta e depois os entrega ao modelo para responder a partir deles.
É como uma IA consegue responder sobre seus arquivos sem ler todos a cada mensagem e sem ser treinada de novo com eles.
Como funciona
Os documentos são divididos em pedaços de algumas centenas de palavras. Quando chega uma pergunta, o sistema pontua os pedaços em relação a ela, comparando palavras, comparando o sentido ou as duas coisas, e fica com os melhores. Esses trechos entram no contexto do modelo junto com a pergunta, geralmente com a instrução de responder a partir deles.
Exemplos
- Perguntar sobre um contrato e receber a cláusula em que a resposta se apoia.
- Pesquisar uma pasta de anotações pelo que elas dizem, não pelo nome dos arquivos.
- Um assistente de suporte que responde a partir do manual de um produto.
Limitações
- Se a recuperação não acha o trecho certo, o modelo responde sem ele, ou com conhecimento geral.
- Os pedaços perdem contexto: uma frase pode depender de uma página que não foi recuperada.
- Reflete os documentos como eram quando foram adicionados.
Como a Venta usa isso
Os documentos que você adiciona são divididos em pedaços, e cada mensagem é comparada com eles. Os melhores trechos são enviados com a sua pergunta, e as etapas da resposta mostram quais documentos ela leu.
Se a busca nos seus documentos falhar, a Venta diz isso logo no início da resposta em vez de responder em silêncio com conhecimento geral.
As perguntas que as pessoas fazem primeiro
- RAG é o mesmo que treinar um modelo com meus dados?
- Não. Treinar muda o próprio modelo. O RAG deixa o modelo como está e entrega a ele os trechos relevantes a cada vez.
- O RAG impede a IA de inventar coisas?
- Reduz quando o trecho certo é encontrado, mas não impede. Confira a fonte em tudo o que importa.
- Quais arquivos a Venta consegue ler?
- Lê PDFs, documentos do Word, planilhas, CSV, HTML e arquivos de texto que você envia.