Чтобы AI-менеджер не выдумывал ответы, недостаточно загрузить папку документов. Модель умеет формулировать правдоподобный текст и заполнит пробел догадкой, если система не ограничит источники. Практическая задача состоит из подготовки знаний, поиска подходящих фактов, правил ответа и контроля после запуска.
Начните с инвентаризации источников
Соберите материалы, которыми реально пользуются сотрудники: каталог, инструкции, тарифы, договорные условия, регламенты и ответы поддержки. Для каждого документа укажите владельца, дату обновления, область применения и уровень доступа.
Дубликаты с разными ценами опаснее отсутствующего файла. Сначала решите, какой источник главный. Устаревшие версии архивируют или явно помечают, чтобы они не участвовали в обычном поиске.
Не смешивайте тексты и оперативные данные
Инструкция по выбору может храниться в базе знаний. Цена, остаток, статус заказа и индивидуальные условия должны приходить из действующей системы в момент вопроса. Если ежедневно выгружать каталог в текст, сведения успеют устареть до следующего обновления.
- Документы отвечают на вопрос «как устроено».
- Каталог — «какие позиции существуют».
- Учётная система — «что доступно сейчас».
- CRM — «что согласовано с этим клиентом».
Настройте поиск с доказательствами
Перед ответом система находит несколько релевантных фрагментов и передаёт их модели вместе с названиями источников. Агент отвечает только в пределах найденного, показывает ссылку или документ и различает прямой факт и вывод.
Большие файлы делят по смыслу, сохраняя заголовок, раздел и версию. Слишком мелкие куски теряют контекст, слишком крупные приносят лишние условия. Качество поиска проверяют на реальных формулировках клиентов, а не только по названиям документов.
Научите систему честно не знать
Правильный ответ при нехватке данных: назвать, чего именно не хватает, задать уточняющий вопрос или передать сотруднику. Фраза «вероятно, доставка займёт три дня» недопустима, если срок не найден в системе.
Для рискованных тем задают более строгие правила: не рассчитывать скидку, не толковать договор, не подтверждать совместимость без обязательных характеристик. Уверенный стиль модели не должен заменять проверку.
Создайте набор контрольных вопросов
- Обычные вопросы с прямым ответом.
- Разные формулировки одного смысла.
- Вопросы с недостающими параметрами.
- Конфликтующие сведения в источниках.
- Запросы вне компетенции.
- Попытки заставить агента игнорировать правила.
Для каждого примера фиксируют допустимый ответ, нужный источник и запрещённое действие. После изменения модели, поиска или документов набор прогоняют заново.
Контроль не заканчивается запуском
Сохраняйте вопросы, найденные фрагменты, ответы, вызовы инструментов и решения менеджеров без лишних персональных данных. Ошибки группируют: не найден документ, выбран не тот раздел, источник устарел, модель исказила факт. Для каждой причины требуется своё исправление.
Метрика «ответил без человека» опасна: она растёт и при уверенных ошибках. Важнее точность подтверждённых фактов, доля корректных отказов, число исправлений и последствия ошибки.
Алиса может помочь привести знания в порядок, составить тестовый набор и настроить ответы с проверяемыми источниками.
Комментарии
Комментариев пока нет. Будьте первым!
Оставить комментарий