Что такое генерация с дополненной выборкой (RAG)?
Генерация с дополненной выборкой, или RAG, — это способ отвечать на основе набора документов: система сначала находит фрагменты, наиболее подходящие к вопросу, а затем передаёт их модели, чтобы та ответила по ним.
Так ИИ может отвечать по вашим файлам, не читая их все при каждом сообщении и не переобучаясь на них.
Как это работает
Документы делятся на фрагменты по несколько сотен слов. Когда приходит вопрос, система оценивает фрагменты по отношению к нему — по совпадению слов, по смыслу или обоими способами — и берёт лучшие. Эти фрагменты попадают в контекст модели вместе с вопросом, обычно с указанием отвечать по ним.
Примеры
- Спросить о договоре и получить пункт, на котором основан ответ.
- Искать в папке заметок по их содержанию, а не по именам файлов.
- Ассистент поддержки, который отвечает по руководству к продукту.
Ограничения
- Если выборка пропустит нужный фрагмент, модель ответит без него или на основе общих знаний.
- Фрагменты теряют контекст: предложение может зависеть от страницы, которая не попала в выборку.
- Она отражает документы такими, какими они были при добавлении.
Как это использует Venta
Добавленные вами документы делятся на фрагменты, и каждое сообщение сопоставляется с ними. Лучшие фрагменты отправляются вместе с вопросом, а в шагах ответа видно, какие документы были прочитаны.
Если поиск по вашим документам не удался, Venta сообщает об этом в начале ответа, а не отвечает молча на основе общих знаний.
Вопросы, которые задают первыми
- RAG — это то же самое, что обучение модели на моих данных?
- Нет. Обучение меняет саму модель. RAG оставляет модель как есть и каждый раз передаёт ей нужные фрагменты.
- Мешает ли RAG ИИ выдумывать?
- Снижает риск, когда нужный фрагмент найден, но не исключает его. Проверяйте источник во всём важном.
- Какие файлы может читать Venta?
- Читает загруженные вами PDF, документы Word, таблицы, CSV, HTML и текстовые файлы.