RAG позволяет LLM отвечать на основе ваших документов, баз знаний и внутренних систем без дообучения модели. В закрытом контуре с локальными embeddings и runtime корпоративные данные не покидают периметр.
Вместо дообучения модели на миллионах документов RAG динамически находит нужные фрагменты в момент запроса. Документы парсятся, разбиваются на смысловые блоки, превращаются в embeddings и сохраняются в vector store. При вопросе пользователя система подбирает релевантный контекст и передает его в LLM вместе с источниками.
Место компонента в общей архитектуре корпоративной AI-платформы.
Внутренние компоненты, границы ответственности и основные связи.
Путь пользовательского запроса через контрольные точки компонента.
Движение данных, контекста и результатов внутри системы.
Каждый chunk наследует права доступа из исходной системы. Поиск фильтрует результаты по ACL пользователя, чтобы модель не получила недоступный документ как контекст.
Векторизация может выполняться внутри закрытого контура через локальные embedding-модели. Корпоративные документы не обязаны уходить во внешние API.
Ответы снабжаются ссылками на источники, а качество retrieval можно проверять через eval-наборы, ручной review и метрики покрытия документов.
Качество ответа определяется не только embedding model: важны границы chunks, hybrid retrieval, reranking, grounding и корректные ссылки на исходный документ.
Semantic/layout-aware разбиение, overlap, parent-child связи, metadata и устойчивые source identifiers.
Выбор multilingual/domain model, versioning embeddings и контролируемая reindex strategy.
Approximate nearest neighbor search с ACL/tenant filtering и ограничением candidate set.
Объединение semantic, full-text и exact matches для терминов, кодов, имён и идентификаторов.
Cross-encoder или LLM-reranker пересортировывает кандидатов перед сборкой контекста.
Ответ ограничивается найденными источниками, а цитаты ведут к конкретной странице, блоку и версии.
Продолжите по соседнему слою архитектуры или вернитесь к полной карте технических материалов.
Можно начать с короткой архитектурной сессии: выбрать первый сценарий, определить данные, модельный маршрут, требования к железу, риски и пилотные метрики.