Корпоративный RAG

Задача начинается с документов

Нужно, чтобы сотрудники находили информацию и получали ответы с привязкой к внутренним материалам. Покупка GPU не решает качество исходной базы, актуальность документов и разграничение доступа. Поэтому сначала описываются источники, пользователи и допустимые ответы.

При пилоте выбирается один ограниченный корпус. Для него задаются владелец, правила обновления и примеры вопросов. Желательно включить случаи, когда ответа в базе нет, документы противоречат друг другу или доступ к материалу запрещён конкретному пользователю.

Архитектура решения

Источники → извлечение и очистка → разбиение документов → embeddings и индекс → поиск с проверкой прав → формирование контекста → LLM → ответ со ссылками. По необходимости добавляется reranker. Каждый дополнительный этап имеет свой бюджет задержки и вычислений.

Генератор может работать на GPU, а поиск, метаданные и контроль доступа использовать CPU/RAM. Совмещать компоненты на одном сервере допустимо для ограниченного пилота; в эксплуатации учитывают конкуренцию за ресурсы и возможность обслуживания отдельных компонентов.

Что рассчитываем

Компонент	Исходные данные
Импорт и обновление	Число документов, форматы, скорость изменений
Индекс	Размер фрагмента, embedding-размерность, метаданные и ACL
Поиск и reranker	Число запросов, глубина отбора, задержка
LLM	Модель, контекст, одновременные запросы
Эксплуатация	Резервные копии, мониторинг, восстановление и права

Произвольный объём базы в гигабайтах недостаточен для выбора GPU. Сначала нужно понять, сколько текста реально попадает в запрос и сколько пользователей обращаются одновременно.

Приёмка пилота

Фиксируем корректность ссылок, долю обоснованных ответов на согласованной выборке, поведение при отсутствии информации и недоступность чужих документов. Проверка проводится в контексте ролей пользователей, а не только под учётной записью администратора.

Результат подготовки: схема компонентов, требования к данным, план проверки качества, предварительная конфигурация и список нерешённых вопросов. Нельзя обещать отсутствие ошибочных ответов без условий, методики и измерений.

Где проходит граница

RAG не заменяет первичную редактуру базы знаний и не превращает любой документ в достоверный источник. Индексирование также является обработкой данных и требует отдельного внимания к целям, правам и хранению. Внедрение организуется после согласования исполнителя и доступа к данным. Для подготовки используйте разбор инфраструктуры RAG и контроль персональных данных.