Разработка RAG-систем и поиска по базе знаний

Разработка RAG-систем и поиска по базе знаний нужна, когда ответы должны опираться на документы компании. Система сначала находит подходящие фрагменты, затем передаёт их языковой модели для подготовки ответа. Пользователь получает объяснение и ссылки на источники, по которым может проверить результат.

Для каких материалов подходит поиск

• Инструкции, регламенты и внутренние базы знаний.
• Техническая документация, руководства и описания продуктов.
• Базы обращений и утверждённые ответы службы поддержки.
• Проектные документы, договорные шаблоны и справочные материалы.
• Разрозненные хранилища, где сотрудникам сложно найти актуальную версию документа.

Как устроено решение

При создании RAG-системы разбираем структуру документов, таблицы, версии и метаданные. Настраиваем разбиение на фрагменты, полнотекстовый или векторный поиск, а при необходимости их сочетание и повторное ранжирование. Конкретный стек выбираем по объёму данных, языку материалов и ограничениям инфраструктуры.

Качество поиска и качество ответа проверяем отдельно. Если нужный документ не попал в найденные результаты, замена модели сама по себе проблему не решит. Вводим ссылки на первоисточники, обработку отсутствующих сведений и обновление индекса при изменении документов.

Этапы работы

1. Разбираем источники

   Определяем форматы, качество извлечения текста, владельцев данных и ограничения доступа.

2. Собираем набор вопросов

   Фиксируем реальные вопросы пользователей и документы, в которых должны находиться ответы.

3. Настраиваем поиск

   Сравниваем варианты индексации и ранжирования на проверочном наборе, выбираем подходящую архитектуру.

4. Подключаем генерацию ответов

   Настраиваем использование найденных фрагментов, ссылки и поведение при недостатке информации.

5. Встраиваем в рабочую среду

   Подключаем интерфейс, авторизацию, обновление источников и наблюдение за качеством.

Что проверяем до запуска

Проверяем доступность документов для каждой роли, запросы с неоднозначными терминами, устаревшие версии и ответы без достаточных оснований. Текст загруженного документа рассматриваем как источник сведений: содержащиеся в нём команды не должны менять правила работы приложения или его права.

Результат и оценка стоимости

Результат — поиск и ответы по согласованному корпусу документов, процесс обновления и отчёт о проверке качества. На стоимость влияют форматы файлов, число подключений, частота обновления, сложность прав и требования к скорости. Пилот позволяет оценить разработку RAG-системы до подключения всех хранилищ.

RAG заменяет обучение модели?

Для поиска по меняющимся знаниям часто достаточно подключения источников. Необходимость дообучения оцениваем отдельно по результатам проверки конкретной задачи.

Подойдёт PostgreSQL с pgvector?

Такой вариант можно рассмотреть. Выбор зависит от объёма индекса, нагрузки, фильтрации и требований к эксплуатации.

Связанные услуги