«Хотим свою нейросеть, чтобы знала наши цены и регламенты» — запрос, с которым приходят чаще всего. Обучать модель с нуля для этого не нужно и невозможно по бюджету. Разбираем три реальных способа дать ИИ знания компании, чем они отличаются по цене и результату, как подготовить базу знаний и почему в девяти случаях из десяти выбирают подход под названием RAG.
1. Три способа: инструкция, RAG, дообучение
Обучить собственную модель с нуля стоит миллионы долларов и требует команды исследователей — этот путь для бизнеса закрыт и не нужен. Реальных вариантов три.
Способ 1. Положить знания в инструкцию
Самый простой: вы пишете модели подробное задание, куда включаете правила, тон и небольшие справочные данные. Работает, пока объём знаний невелик — несколько страниц. Дальше упирается в размер запроса и цену: каждый вызов тянет с собой весь текст.
Способ 2. RAG — подключение базы знаний
Документы хранятся отдельно. На каждый вопрос система сначала находит нужные фрагменты, потом отдаёт их модели вместе с вопросом. Модель отвечает по ним. Именно так строят корпоративных ассистентов: знания можно менять в любой момент, не трогая модель.
Способ 3. Дообучение модели
Модель дополнительно обучают на ваших примерах. Меняет манеру отвечать, но не решает задачу актуальности: цены и остатки в веса модели не положишь. Подробно — в разборе про файн-тюнинг.
2. Как работает RAG
Аббревиатура расшифровывается как retrieval augmented generation — «генерация с подключением поиска». Механика простая и состоит из двух этапов.
Подготовка (делается один раз и обновляется)
- Документы разрезаются на фрагменты по несколько абзацев.
- Каждый фрагмент превращается в числовой вектор — набор чисел, отражающий смысл текста.
- Векторы складываются в специальную базу, где можно быстро искать по смыслу, а не по точному совпадению слов.
Ответ на вопрос (каждый раз)
- Вопрос клиента тоже превращается в вектор.
- Система находит несколько наиболее близких по смыслу фрагментов документов.
- Найденное вместе с вопросом отправляется модели с инструкцией: отвечай только по этим материалам, если ответа нет — так и скажи.
- Модель формулирует ответ, а система может показать, из какого документа он взят.
Ключевое отличие от обычного чата: модель не вспоминает, а читает выданные ей куски. Поэтому она отвечает по актуальному прайсу и не выдумывает условия — а если материалов не нашлось, честно отвечает, что не знает.
3. Сравнение подходов
| Критерий | Инструкция | RAG | Дообучение |
|---|---|---|---|
| Объём знаний | несколько страниц | тысячи документов | не хранит факты |
| Обновление данных | правка текста | заменили файл — готово | нужно переобучать |
| Стоимость запуска | минимальная | средняя | высокая |
| Актуальность цен | вручную | да | нет |
| Ссылка на источник | нет | да | нет |
| Влияет на стиль | частично | слабо | да, это его задача |
| Срок внедрения | часы | недели | недели-месяцы |
На практике сочетают: RAG отвечает за знания, инструкция — за правила поведения, дообучение добавляют только если нужен жёсткий формат ответов на больших объёмах.
4. База знаний: что в неё класть
Ассистент хорош ровно настолько, насколько хороши документы, которые ему дали. Минимальный набор для компании, работающей с клиентами:
- Прайс с условиями. Не только цифры, но и что входит, от чего зависит цена, какие есть пакеты.
- Ответы на частые вопросы. Реальные, собранные из переписок, а не придуманные.
- Описание услуг и товаров. Состав, сроки, ограничения.
- Правила работы. График, доставка, оплата, гарантия, возврат.
- Регламенты для внутреннего ассистента. Инструкции сотрудникам, порядок действий в типовых ситуациях.
- Ограничения. Чего ассистент говорить не должен: скидки без согласования, сроки, которые вы не гарантируете, юридические оценки.
Чего в базе быть не должно
Черновиков и устаревших версий, противоречащих друг другу документов, персональных данных клиентов без необходимости, внутренней переписки с оценками сотрудников и партнёров. Всё, что попало в базу, потенциально может прозвучать в ответе.
5. Как подготовить документы
- Соберите в одном месте. Актуальные версии, без дублей. Обычно на этом шаге выясняется, что в компании три разных прайса.
- Приведите к тексту. Сканы и картинки нужно распознать: модель читает текст, а не изображение таблицы.
- Разбейте на смысловые куски. Один раздел — одна тема. Документ на сорок страниц одним куском ищется плохо.
- Добавьте заголовки и контекст. Фрагмент «стоимость — 45 000 ₸» бесполезен, если из него непонятно, о какой услуге речь.
- Уберите противоречия. Если в двух местах разные условия доставки, ассистент выдаст то одно, то другое.
- Назначьте ответственного за обновление. База устаревает так же быстро, как прайс.
Эта работа занимает больше времени, чем сама разработка, и её нельзя переложить на подрядчика целиком: только внутри компании знают, какая версия документа верная.
6. Почему ассистент отвечает плохо
| Симптом | Обычная причина |
|---|---|
| Отвечает общими словами | нужного фрагмента нет в базе |
| Находит не то | слишком крупные куски или нет заголовков |
| Путает услуги | похожие описания, нет явных различий в тексте |
| Называет старую цену | в базе осталась прошлая версия прайса |
| Выдумывает | в инструкции не запрещено отвечать без источника |
| Отказывается отвечать на очевидное | слишком строгие ограничения или плохой поиск |
Почти все проблемы решаются на стороне данных и настроек поиска, а не заменой модели на «более умную». Это главный вывод из практики: качество ассистента на 80% определяется базой знаний.
7. Данные и безопасность
- Что уходит наружу. При работе с облачной моделью в неё попадают вопрос клиента и найденные фрагменты документов. Стоит заранее решить, какие документы туда допустимы.
- Персональные данные. Их обработка регулируется законом; если ассистент работает с обращениями клиентов, нужны согласие и понятная политика.
- Свой контур. Для чувствительных данных базу и открытую модель разворачивают на собственном сервере — дороже, но данные не покидают компанию.
- Разграничение доступа. Внутренний ассистент не должен отдавать рядовому сотруднику документы, к которым у него нет доступа.
- Журнал. Логи вопросов и ответов нужны и для улучшения, и для разбора спорных ситуаций.
8. Где это применяют на практике
| Сценарий | Кому отвечает | Что в базе |
|---|---|---|
| Ассистент на сайте | клиентам | прайс, услуги, условия, частые вопросы |
| Помощник менеджера | сотрудникам | скрипты, условия договоров, типовые возражения |
| Поиск по регламентам | сотрудникам | инструкции, приказы, техдокументация |
| Разбор входящих документов | бухгалтерии и снабжению | шаблоны, справочники контрагентов |
| Поддержка после продажи | клиентам | инструкции по эксплуатации, гарантия, сервис |
Заметьте: во всех случаях база разная, а механика одна. Поэтому первый вопрос при постановке задачи — не «какую модель взять», а «кому отвечаем и по каким документам».
9. Как выглядит проект и сколько занимает
| Этап | Что происходит | Срок |
|---|---|---|
| Постановка задачи | кому отвечает, на какие вопросы, где живёт | несколько дней |
| Сбор базы знаний | документы, вычитка, структура | 1-3 недели, в основном на стороне клиента |
| Сборка | индексация, поиск, инструкции, интеграция | 1-2 недели |
| Тест на реальных вопросах | сотня типовых вопросов, правки | 1 неделя |
| Запуск с контролем | ответы проверяет человек, ошибки собираются | 2-4 недели |
Итого месяц-полтора до устойчивой работы, из которых половина времени — подготовка данных. Расходы делятся так же: разработка и данные дороже, чем сама модель; оплата запросов у небольшой компании обычно оказывается самой скромной строкой.
10. Ошибки, из-за которых проект не взлетает
- Начать с технологии. «Нам нужен RAG» вместо «у нас теряются ночные обращения» — путь к решению без задачи.
- Загрузить всё подряд. Свалка из архивных документов ухудшает поиск: чем больше мусора, тем хуже находится нужное.
- Не запретить домысливание. Без явной инструкции отвечать только по источникам модель дополнит ответ из общих знаний.
- Забыть про обновление. Через три месяца база устаревает, и ассистент начинает вредить, называя старые цены.
- Не тестировать на реальных вопросах. Придуманные вопросы модель проходит легко, живые формулировки клиентов — совсем другое.
- Отдать всё подрядчику. Никто, кроме вас, не знает, какой документ актуален и что говорить нельзя.
Мы собираем таких ассистентов и подключаем их туда, где идут обращения — на сайт, в мессенджеры, в CRM, чтобы диалог не терялся, а заявка попадала в воронку. Практическая сторона для сайта разобрана отдельно: чат-бот с ИИ на сайте. Расскажите, на какие вопросы чаще всего отвечают ваши менеджеры, — прикинем, что из этого можно снять.
