KNOWLEDGE SPACE · ДОКУМЕНТАЦИЯ

RAG: что это и как работает генерация с дополнением поиском

На этой странице

RAG (Retrieval-Augmented Generation) — это подход к работе с языковой моделью, при котором система сначала находит сведения во внешних источниках, а затем передаёт их модели вместе с вопросом. Модель использует найденные материалы при подготовке ответа. По-русски RAG называют генерацией с дополнением поиском.

Для компании такими источниками могут быть инструкции, регламенты и техническая документация. Их можно обновлять независимо от модели: новые сведения становятся доступны после обновления поиска или индекса. При этом качество ответа по-прежнему зависит от документов, поиска и самой модели.

Зачем языковой модели нужен поиск

Знания, которые модель получила при обучении, не дают ей автоматического доступа к внутренним документам компании. Если спросить о порядке согласования плана, она может предложить правдоподобный общий ответ, который не соответствует действующему регламенту.

RAG добавляет к вопросу материалы из выбранных источников. Благодаря этому модель может объяснить конкретное правило, сопоставить положения нескольких документов или подготовить краткую справку. Ссылки на найденные фрагменты помогают пользователю проверить ответ, если такая возможность предусмотрена в приложении.

Как работает RAG-система

Работу удобно разделить на подготовку источников и обработку запроса. Сначала документы приводят к формату, пригодному для поиска: извлекают текст, сохраняют заголовки и сведения о версии. Большие материалы часто делят на связные фрагменты, чтобы в ответ попадали нужные пункты, а не весь архив.

При поступлении вопроса система выполняет несколько действий:

  1. Находит документы или фрагменты, связанные с запросом.
  2. Отбирает подходящие материалы и собирает из них контекст с учётом доступного объёма.
  3. Передаёт вопрос и контекст языковой модели.
  4. Возвращает ответ; при необходимости добавляет ссылки и проверяет, подтверждают ли источники сформулированные выводы.

Поиск может опираться на слова, смысловую близость или их сочетание. Для смыслового поиска часто используют эмбеддинги, числовые представления текстов, и векторное хранилище. Однако векторная база не является обязательным признаком RAG: принцип подхода состоит в дополнении генерации найденной информацией.

Условный пример из планирования

Планировщик спрашивает, кто должен согласовать пересмотр прогноза после крупной акции. Система ищет действующий регламент, находит пункт о полномочиях и передаёт его модели. В ответе сотрудник получает объяснение порядка согласования и ссылку на документ.

Если регламент не найден или две редакции противоречат друг другу, системе следует сообщить об этом. Уверенно назвать согласующего по догадке было бы ошибкой. Сам ответ также не означает, что план согласован или изменён: для таких действий нужны отдельные инструменты и полномочия.

Чем RAG отличается от дообучения и обычного поиска

При дообучении меняются параметры модели. Это может помочь адаптировать её к определённым задачам или формату ответа. В RAG нужные сведения передаются в контекст при обращении, поэтому добавление нового документа само по себе не означает обучения модели. Оба подхода могут использоваться вместе.

Обычный поиск возвращает материалы, которые пользователь изучает самостоятельно. В RAG к поиску добавляется генерация: модель формулирует ответ по найденному контексту. Если нужен только конкретный документ, обычного поиска может быть достаточно.

Для небольшого набора материалов иногда проще передать документы модели целиком. RAG становится полезен, когда источников много, они обновляются и для каждого вопроса требуется выбирать свою часть информации.

Что проверить перед применением

RAG не гарантирует отсутствие вымышленных фактов. Нужный пункт может не попасть в результаты поиска, документ может устареть, а модель может неверно связать найденные сведения. Поэтому проверять нужно и поиск, и ответ.

Для пилота полезно собрать вопросы с известными ответами, а также вопросы, на которые в документах ответа нет. Отдельно проверяют выбор версии документа и права доступа. Закрытые материалы нельзя передавать модели для ответа пользователю, у которого нет разрешения на их чтение.

Обновление источника тоже требует проверки: если поисковый индекс сохранил старую редакцию, ответ может остаться устаревшим. Система с RAG нуждается в сопровождении базы знаний так же, как обычный корпоративный поиск.

Применение в Knowledge Space

Работа ИИ с корпоративным контекстом относится к направлениям развития Knowledge Space. В материале об AI-ready архитектуре описано подключение документов и проектных данных. Конкретную реализацию RAG, состав источников и порядок обновления индекса следует уточнять для выбранного решения.

Подробнее о применении в KS

FAQ

RAG — это отдельная нейросеть?

Нет. RAG описывает способ совместной работы поиска и языковой модели. Компоненты можно выбирать отдельно, исходя из данных и требований приложения.

Нужна ли для RAG векторная база данных?

Не обязательно. Для извлечения информации можно использовать поиск по словам, векторный или гибридный поиск. Векторная база нужна не для любого варианта реализации.

Устраняет ли RAG галлюцинации?

Нет. Найденный контекст может снизить риск недостоверного ответа, но ошибки остаются возможны в документах, поиске и генерации. Ответы нужно проверять на контрольных вопросах.

Обучается ли модель, когда в RAG добавляют новый документ?

Само добавление документа обычно обновляет доступные поиску сведения, а не параметры модели. Дообучение является отдельной процедурой.

Смежные термины

Была ли страница полезна?