Обычная нейросеть знает много, но ничего не знает о вашей компании: ни цен, ни регламентов, ни условий договора. Отсюда уверенные, но выдуманные ответы. RAG решает эту проблему — модель отвечает не «по памяти», а по найденным документам.
Как это работает
- Документы компании разбиваются на небольшие фрагменты и индексируются так, чтобы по ним можно было искать по смыслу, а не только по словам.
- Пользователь задаёт вопрос своими словами.
- Система находит фрагменты, которые ближе всего к вопросу по смыслу.
- Модель получает вопрос вместе с найденными фрагментами и формулирует ответ только на их основе.
- В ответе указывается источник — можно проверить, откуда взялась информация.
Где RAG полезен
- Ответы клиентам по условиям, ценам, срокам и документам — в чате на сайте или в мессенджере.
- Поиск по внутренним регламентам и инструкциям для сотрудников.
- Помощь менеджерам: быстро найти пункт договора или характеристику товара.
- Техническая поддержка по документации продукта.
RAG или дообучение модели
| RAG | Дообучение | |
|---|---|---|
| Как обновить знания | Заменить документ в базе | Обучать модель заново |
| Ссылка на источник | Есть | Обычно нет |
| Для чего подходит | Факты, условия, регламенты | Стиль, формат, особая лексика |
| Контроль ответов | Видно, на чём основан ответ | Сложнее проверить |
Где RAG ломается
- Устаревшие документы. Модель честно ответит по старому прайсу, если он остался в базе.
- Противоречия. Два регламента с разными правилами — и ответ зависит от того, какой найдётся первым.
- Сканы и сложные таблицы. Их нужно подготовить, иначе поиск их не увидит.
- Вопрос вне базы. Хорошая система должна честно сказать «не знаю» и передать вопрос человеку, а не додумывать.
Безопасность данных
Если документы нельзя передавать наружу, RAG строят на российских моделях или модели на собственном сервере. Права доступа при этом должны работать так же, как в обычных системах: сотрудник не должен получить через ассистента то, что ему не положено видеть.
Чем такой ассистент отличается от обычного бота — в статье чем ИИ-ассистент отличается от чат-бота. Делаем ассистентов для клиентов — ИИ-поддержка клиентов — и для сотрудников — поиск по регламентам.
Частые вопросы
Может ли ИИ с RAG ошибаться?
Может, но реже и проверяемо: в ответе есть ссылка на источник. Для важных тем стоит настроить передачу вопроса человеку.
Какие документы можно загрузить?
Тексты, инструкции, регламенты, прайсы, ответы на частые вопросы. Сканы и сложные таблицы нужно подготовить заранее.
Нужно ли переобучать модель при изменении цен?
Нет, достаточно обновить документ в базе знаний — в этом главное преимущество RAG.
Нужна такая же реклама для вашего бизнеса?
Разберу нишу, посчитаю бюджет и покажу, из чего сложится цена заявки.
