RAG

RAG (Retrieval-Augmented Generation, генерация с дополненным поиском) — это архитектурный паттерн, который позволяет языковой модели (LLM) отвечать на вопросы, используя ваши данные. Модель не дообучается — она получает релевантные документы прямо в контексте запроса.

Проблема LLM: они знают то, на чём обучены, и на определённую дату. Они не знают ваших внутренних регламентов, прайс-листов, контрактов. Можно дообучить модель — но это дорого и долго. RAG решает проблему проще: при запросе пользователя система сначала ищет релевантные документы в вашей базе, затем передаёт их модели вместе с вопросом.

Как это работает: ваши документы разбиваются на куски (chunks), для каждого вычисляется векторное представление (embedding) и сохраняется в векторную базу данных. При запросе пользователя система находит наиболее похожие куски, добавляет их в промпт LLM, и модель генерирует ответ на основе этих данных.

RAG — это основа для корпоративных чат-ботов, помощников по документации, систем поиска по базе знаний. Он снижает галлюцинации модели, потому что ответ опирается на конкретные документы, а не на общие знания.