Настройка блока «Диалог с LLM»

Блок «Диалог с LLM» позволяет большой языковой модели вести разговор с абонентом внутри сценария.

В отличие от блоков с заранее написанными репликами, LLM самостоятельно формулирует ответы и следующие вопросы на основании:

• настроек промпта;

• предыдущих реплик диалога;

• значений переменных, добавленных в промпт;

• подключённых знаний;

• заданных условий для выхода;

• системных указаний и настроек выбранной модели.

Блок подходит для ситуаций, в которых заранее невозможно перечислить все варианты ответов абонента. Например, с его помощью можно уточнить причину обращения, собрать несколько связанных сведений, проконсультировать абонента или определить тему запроса.

LLM — большая языковая модель, способная понимать и генерировать текст на естественном языке.

Как работает блок

После перехода сценария в блок модель получает инструкцию и начинает вести диалог с абонентом.

Инструкция состоит из нескольких элементов:

Элемент	Что определяет
Роль	От чьего имени отвечает модель и каких правил общения придерживается
Задача	Что модель должна выяснить или выполнить — дает понимание модели, какие вопросы для этого задавать
Контекст	Какие данные и обстоятельства необходимо учитывать
Условие для выхода	Какой результат означает, что работа блока завершена

После каждой реплики абонента LLM продолжает выполнять задачу и проверяет настроенные условия для выхода.

Когда одно из условий выполнено:

1. модель определяет значения связанных с условием переменных;

2. записывает полученные значения в переменные;

3. сценарий выходит из блока;

4. диалог продолжается по выходу, соответствующему выполненному условию.

В одном блоке можно создать несколько условий. Для каждого из них на блоке появляется отдельный выход.

Фраза модели о том, что действие выполнено, сама по себе не выполняет это действие в сценарии. Например, если после разговора необходимо отправить HTTP-запрос, создать запись или сформировать заявку, операция должна выполняться соответствующим следующим блоком.

Не разрешайте LLM сообщать абоненту, что запись создана, заявка отправлена или другое действие успешно выполнено, пока сценарий фактически не выполнил эту операцию.

Когда использовать блок

Блок подходит, когда необходимо:

• вести разговор со свободными формулировками;

• последовательно уточнить несколько связанных сведений;

• определить тему или причину обращения;

• собрать данные, которые абонент может сообщить в произвольном порядке;

• сформировать ответ с учётом контекста;

• использовать информацию из подключённых знаний;

• привести диалог к одному из нескольких возможных результатов.

Для простых вопросов с ограниченным набором ответов лучше использовать более предсказуемые блоки сценария, например «Обработать ответ» или «Сравнить переменные».

Не стоит поручать LLM критически важное действие только на основании её собственного решения, если результат нельзя дополнительно проверить средствами сценария.

Рекомендуемый порядок настройки блока

Не рекомендуется заполнять настройки блока сверху вниз в том порядке, в котором они расположены в панели свойств.

Начните с результата, к которому должен прийти диалог, и только после этого описывайте поведение модели.

1. Определите возможные результаты диалога

Сформулируйте для себя, при каких результатах блок должен завершить работу.

Например:

• абонент подтвердил запись;

• абонент отказался от записи;

• причина обращения определена;

• необходимые данные получены;

• вопрос абонента решён;

• требуется отдельная обработка обращения.

2. Создайте условия для выхода

Для каждого результата настройте отдельное условие.

Укажите:

• что именно должно произойти;

• по каким признакам результат считается достигнутым;

• какие ответы подходят под условие;

• какие неоднозначные или похожие ответы не должны приводить к выходу.

При необходимости добавьте примеры.

В одном блоке можно создать несколько условий. Каждое условие:

• настраивается отдельно;

• может иметь собственные переменные;

• создаёт отдельный выход на блоке;

• может вести в отдельную ветку сценария.

Например, в блоке подтверждения записи можно создать условия:

• «Запись подтверждена»;

• «Абонент отказался»;

• «Абонент хочет перенести запись».

Добавление условия

1. В разделе «Выход из блока» нажмите «Добавить условие для выхода».

2. В редакторе промпта откроется новая вкладка условия.

3. В поле «Название условия» укажите короткое и понятное название результата.

4. В поле «Описание условия» опишите критерии его выполнения.

5. При необходимости добавьте переменные, которые нужно заполнить при выходе.

6. Нажмите «Сохранить изменения».

Новое условие появится:

• в списке настроек блока;

• в редакторе промпта;

• на блоке в рабочем пространстве;

• как отдельный выход для создания связи.

Название условия

Название отображается на блоке и используется как подпись выхода. Поэтому оно должно быть коротким и понятным.

Подходящие примеры:

• «Назван номер полиса»;

• «Запись подтверждена»;

• «Абонент отказался»;

• «Тема обращения определена».

Не рекомендуется оставлять названия вроде «Условие для выхода 1» в готовом рабочем сценарии.

Описание условия

В описании укажите конкретные признаки, по которым модель должна понять, что условие выполнено.

Недостаточно конкретно:

Вопрос решён.

Точнее:

Условие выполнено, если абонент назвал причину обращения и подтвердил, что определённая моделью тема сформулирована верно.

Ещё один пример:

Условие выполнено, если абонент однозначно подтвердил, что придёт на приём. Подтверждением считаются ответы «да», «приду», «буду», «подтверждаю» и аналогичные по смыслу ответы. Неопределённые ответы и уточняющие вопросы не считаются подтверждением.

Для сложных условий добавляйте:

• обязательные критерии;

• примеры подходящих ответов;

• исключения;

• действия модели при неоднозначном ответе.

Условие должно быть согласовано с задачей:

• задача объясняет, как прийти к результату;

• условие определяет, как понять, что результат достигнут.

Не нужно полностью дублировать один и тот же текст в задаче и условии.

Редактирование и удаление условия

Чтобы изменить условие, нажмите значок карандаша рядом с его названием.

Чтобы удалить условие, нажмите значок минуса.

После удаления условие перестанет отображаться в свойствах и исчезнет с блока как отдельный выход.

Дополнительный выход после одного ответа

При необходимости в разделе «Дополнительные настройки» можно включить опцию «Выйти после одного ответа».

Эта опция не заменяет настроенные условия.

После ответа абонента платформа сначала проверит все условия для выхода:

• если одно из условий выполнено, сценарий продолжится по выходу этого условия;

• если ни одно условие не выполнено, сценарий продолжится по дополнительному выходу «Выйти после одного ответа».

Такой выход можно использовать, чтобы:

1. получить ответ абонента;

2. выполнить точную проверку или обработку ответа в других блоках;

3. сохранить или преобразовать данные;

4. вернуться в блок «Диалог с LLM»;

5. продолжить разговор и снова попытаться выполнить одно из условий.

Например, LLM просит назвать номер полиса. Если после ответа ни одно условие не выполнилось, сценарий выходит в блок проверки номера. После проверки сценарий возвращается в «Диалог с LLM», где модель сообщает результат или просит повторить номер.

При выборе опции становится доступен переключатель «Не записывать ответ абонента». Включите его, если реплику, после которой произошёл дополнительный выход, не нужно сохранять для дальнейшей работы блока.

3. Настройте переменные

Для каждого условия можно выбрать переменные, которые LLM должна заполнить при выходе из блока.

Переменные разных условий настраиваются отдельно.

Например, для условия «Тема обращения определена» можно добавить переменные:

• request_topic;

• request_details;

• dialog_status.

Добавление переменной

1. Откройте нужное условие.

2. В разделе «Переменные, которые нужно заполнить при выходе из блока» нажмите «Добавить переменную».

3. Выберите переменную сценария.

4. При необходимости откройте её настройки с помощью значка шестерёнки.

5. Добавьте остальные переменные.

6. Сохраните условие.

Когда условие срабатывает, LLM определяет значения переменных на основании:

• прошедшего разговора;

• описания условия;

• названия и описания переменной;

• списка допустимых значений, если он настроен.

Для каждой переменной необходимо указать понятное описание.

Недостаточно точное описание:

Тема.

Подробное описание:

Основная тема обращения абонента. Одно из значений: запись, отмена записи, перенос записи, стоимость, другое.

Переменные можно использовать:

• в следующих блоках сценария;

• для выбора ветки;

• в HTTP- и SQL-запросах;

• для аналитики и фильтрации диалогов;

• для передачи важной информации в следующий LLM-блок.

Даже переменная, отмеченная как обязательная, может остаться незаполненной, если модель не смогла определить значение или условие настроено неоднозначно.

Критически важные значения рекомендуется дополнительно проверять после выхода из блока.

4. Сформулируйте задачу

Задача определяет, что именно LLM должна получить от абонента, чтобы привести диалог к одному из условий для выхода. Именно по задаче LLM определяет, какие вопросы необходимо задавать абоненту, чтобы дойти до одного из условий выхода.

В задаче рекомендуется указать:

• какой результат нужно получить;

• какие данные необходимо уточнить;

• в каком порядке их лучше собирать;

• что делать при неполном или неоднозначном ответе;

• нужно ли подтвердить полученные данные;

• какие действия модель не должна выполнять самостоятельно.

Пример:

Выясни причину обращения абонента. При необходимости задай уточняющие вопросы. Определи одну основную тему обращения из допустимого списка. Получи подтверждение абонента, что тема определена верно.

Недостаточно точная задача:

Определи тему обращения.

Такой инструкции может быть недостаточно, потому что она не объясняет модели, какие вопросы нужно задавать, если информации пока нет.

Содержимое задачи должно помогать модели понять, как прийти к условиям для выхода.

5. Добавьте контекст

Контекст содержит информацию, которой модель должна пользоваться при выполнении текущей задачи.

В контекст можно добавить:

• описание текущей ситуации;

• данные об услуге;

• правила обработки обращения;

• ограничения;

• сведения, полученные на предыдущих шагах;

• значения переменных сценария;

• инструкцию по использованию подключённых знаний.

Переменные добавляются в промпт в двойных фигурных скобках.

Пример:

В контекст следует помещать только ту информацию, которая необходима для текущей задачи.

Помимо текста, указанного в поле «Контекст», модели передаётся предыдущий текст диалога абонента с роботом.

Если в сценарии последовательно используется несколько блоков «Диалог с LLM», накопленный контекст может стать слишком большим. В таком случае модель может:

• смешивать задачи разных этапов;

• учитывать уже неактуальные инструкции;

• игнорировать задачу текущего блока;

• генерировать нерелевантные ответы;

• продолжать разговор вместо требуемого выхода.

Поэтому важную информацию из предыдущих этапов лучше:

1. сохранить в переменные;

2. передать в новый блок только необходимые значения;

3. явно описать текущую ситуацию;

4. ограничить задачу блока одним конкретным результатом.

При необходимости перед актуальным контекстом можно добавить указание:

Динамические сведения при этом следует передавать через переменные.

6. Задайте роль

Роль определяет, кем является модель во время разговора и в какой манере она общается.

В роли можно указать:

• от имени какой организации отвечает модель;

• какую функцию выполняет;

• каким должен быть стиль общения;

• какие темы она может обсуждать;

• какие ограничения должна соблюдать;

• какую информацию запрещено придумывать или озвучивать.

Пример:

Ты — голосовой помощник медицинского центра. Общайся вежливо и нейтрально. Не ставь диагнозы, не придумывай информацию, которой нет в контексте, и не сообщай персональные данные других пациентов.

7. Подключите знания и настройте модель

Выберите знание, которое содержит необходимые документы с нужной информацией.

В поле «Контекст» объясните модели, как использовать найденную информацию.

Пример инструкции в контексте:

Отвечай на вопросы абонента только на основании информации, полученной из базы знаний. Если в найденных фрагментах нет ответа, не придумывай его. Уточни вопрос или сообщи, что для ответа недостаточно информации.

Выбор модели

Модели, которые наиболее точно следуют заданному промпту:

• local-qwen3-30B-A3B-Instruct-2507-FP8 — формирует ответ сразу на основании промпта и контекста. Подходит для задач с понятной логикой и ожидаемым результатом.
• local-qwen3.5-35b-a3b — может автоматически выполнять дополнительные итерации размышления перед ответом. Это помогает при более сложных задачах, но может увеличить время ожидания реплики.

Для голосовых сценариев автоматическое размышление Qwen 3.5 рекомендуется отключать, если оно не требуется для задачи блока. Для этого добавьте в поле «Специализированные параметры»:

Расширенные настройки модели

• temperature — вариативность ответов. Чем ниже значение, тем стабильнее формулировки.
• top_p — ограничивает набор вариантов, из которых модель выбирает продолжение.
• max_new_tokens — максимальная длина ответа. Слишком большое значение увеличивает время генерации, слишком маленькое может привести к обрыву реплики.
• stop sequences — последовательности символов, при появлении которых генерация прекращается.
• Специализированные параметры — дополнительные настройки выбранной модели в формате JSON.

Чтобы восстановить исходные рекомендуемые значения, нажмите «Вернуть настройки по умолчанию».

8. Подключите выходы и протестируйте блок

Соедините каждый выход с соответствующей веткой сценария и проверьте все возможные варианты диалога.

Основной принцип настройки:

Условия для выхода определяют результат. Задача описывает путь к этому результату. Контекст предоставляет необходимые данные. Роль задаёт поведение модели.

Добавление блока в сценарий

1. Откройте сценарий в редакторе.

2. Нажмите правой кнопкой мыши на свободный участок рабочего пространства.

3. Выберите блок «Диалог с LLM».

4. Подключите вход блока к предыдущему шагу сценария.

5. Откройте вкладку «Свойства».

6. При необходимости измените заголовок блока.

7. Добавьте условия для выхода.

8. Настройте связанные с условиями переменные.

9. Заполните задачу, контекст и роль.

10. При необходимости подключите знания.

11. Выберите модель и настройте системные указания.

12. Соедините выходы блока со следующими шагами сценария.

13. Нажмите «Сохранить изменения».

Блок нельзя сохранить, если у него нет ни одного выхода.

Для сохранения необходимо:

• добавить хотя бы одно условие для выхода;

• либо включить дополнительную опцию «Выйти после одного ответа».

Если у блока нет выходов, в нижней части панели появится сообщение:

После добавления выхода сообщение исчезнет, а кнопка «Сохранить изменения» станет доступной.

Заголовок блока

В поле «Заголовок блока» укажите название, по которому блок можно будет отличить от других блоков в сценарии.

Название должно отражать задачу блока.

Например:

• «Определение темы обращения»;

• «Подтверждение записи»;

• «Консультация по оплате»;

• «Сбор данных для заявки».

Не рекомендуется оставлять автоматически созданные названия в крупных сценариях с несколькими LLM-блоками.

Добавление контрольной точки

При необходимости добавьте блоку контрольную точку.

Контрольная точка фиксирует факт прохождения блока в аналитике. С её помощью можно отслеживать путь диалога, определять, до какого этапа дошёл абонент, и анализировать конверсию сценария.

В названии цели рекомендуется описывать результат или этап сценария.

Например:

• «Начало консультации»;

• «Тема обращения определена»;

• «Данные собраны»;

• «Запись подтверждена».

Рекомендации по безопасности

LLM может формировать убедительно звучащие, но неверные ответы. Поэтому при настройке блока необходимо заранее ограничить возможные риски.

Модель не должна:

• придумывать отсутствующую в контексте информацию;

• сообщать абоненту неподтверждённые сведения;

• озвучивать персональные данные других людей;

• использовать нецензурную лексику;

• сообщать о выполнении действия, которое сценарий ещё не выполнил;

• самостоятельно принимать критически важные решения без проверки;

• выходить за пределы заданной роли;

• использовать сведения, достоверность которых невозможно проверить.

Если внешняя система передала явно противоречивые или нелогичные данные, не поручайте модели автоматически озвучивать их абоненту. Добавьте проверку данных отдельными блоками сценария.

Тестирование блока

Перед использованием блока в рабочих диалогах протестируйте его на разных вариантах разговора.

Проверьте:

• прямой и полный ответ;

• неполный ответ;

• неоднозначную формулировку;

• ответ сразу на несколько вопросов;

• отказ отвечать;

• смену темы;

• молчание;

• перебивание;

• фоновую речь;

• просьбу перевести на оператора;

• противоречивые данные;

• попытку заставить модель нарушить роль;

• попытку получить закрытую информацию;

• выполнение каждого условия для выхода;

• заполнение всех переменных;

• переход по правильному выходу;

• дополнительный выход после одного ответа, если он включён;

• возврат в блок после дополнительной обработки;

• работу подключённых знаний;

• поведение при отсутствии информации в базе знаний;

• выполнение следующими блоками фактических действий.

Рекомендуемый порядок тестирования:

1. Несколько раз пройдите блок во вкладке «Проверка».

2. Проверьте каждое условие для выхода.

3. Проверьте дополнительные и ошибочные варианты ответов.

4. Выполните тестовые звонки без подключения сценария к рабочей линии.

5. Подключайте сценарий к рабочим диалогам только после стабильных результатов.

После запуска периодически просматривайте расшифровки диалогов.

Технически завершённый сценарий не всегда означает, что вопрос абонента был решён, а прерванный диалог не всегда означает неуспешный результат: абонент мог получить необходимую информацию и завершить звонок до перехода в следующий блок.

Практические рекомендации

• Используйте один блок для решения одной конкретной задачи.

• Сначала настройте условия для выхода, а затем формулируйте задачу.

• Описывайте условия через проверяемые критерии.

• Добавляйте примеры для неоднозначных условий.

• Не передавайте модели больше контекста, чем требуется.

• Сохраняйте важные результаты предыдущих этапов в переменные.

• Передавайте в следующий LLM-блок только необходимые значения.

• Добавляйте допустимые значения переменных, если их набор ограничен.

• Дополнительно проверяйте критически важные переменные после выхода.

• Объясняйте в контексте, как использовать подключённые знания.

• Не разрешайте модели сообщать об успешном действии до его фактического выполнения.

• Не используйте неподтверждённые сведения.

• Не передавайте модели персональные данные, которые она не должна озвучивать.

• Не изменяйте расширенные настройки модели без необходимости.

• Проверяйте все условия и ветки сценария перед публикацией.

• После публикации регулярно анализируйте реальные диалоги и корректируйте промпт на основании найденных ошибок.

---

Пример настройки промпта

Ниже приведён пример настройки блока, который определяет тему обращения абонента и сохраняет результат в переменную.

Пример основан на реальном кейсе, реализованном нашим главным разработчиком сценариев. Все персональные данные обезличены или условны.

Роль

Ты — доброжелательный и внимательный оператор контакт-центра компании — провайдера связи. Говори спокойно, чётко и понятно, не используй сложные термины. Помоги абоненту сформулировать вопрос и определи основную тему обращения.

Задача

Проанализируй реплики абонента и отнеси его обращение к одной из тем:

• офис;

• баланс;

• тариф;

• лицевой счёт;

• способы оплаты;

• услуги и условия.

Если абонент говорит сразу о нескольких темах, выбери основную по значимости.

Примеры:

• если абонент спрашивает о балансе и тарифе, выбери тему «Баланс»;

• если абонент спрашивает об оплате и адресе офиса, выбери тему «Способы оплаты».

Используй только информацию из контекста. Не придумывай сведения, которых в нём нет.

Контекст

Ты работаешь в контакт-центре компании — провайдера связи. Компания предоставляет услуги интернета, кабельного и интерактивного телевидения, домофонии и видеонаблюдения.

Для маршрутизации обращения определи одну из следующих тем.

Офис — адреса и время работы офисов обслуживания, способы добраться до офиса, возможность личного посещения, приём документов.

Баланс — текущий баланс лицевого счёта, пополнение, списание средств, задолженность, детализация начислений, сроки и способы оплаты, автоплатёж, бонусные баллы.

Тариф — вопросы о текущем тарифном плане абонента: стоимость, состав тарифа, дата списания платы, скидки и условия действующего тарифа.

Вопросы о других доступных тарифах, подключении новых услуг или составе услуг компании относятся к теме «Услуги и условия».

Лицевой счёт — номер договора или лицевого счёта, привязка и отвязка услуг, восстановление доступа, авторизация, передача счёта другому лицу.

Способы оплаты — варианты оплаты, места и способы пополнения счёта, оплата через приложение или банковские сервисы.

Услуги и условия — подключение и использование услуг, приостановка и возобновление обслуживания, стоимость подключения, состав услуг и технические возможности.

Если вопрос абонента не относится ни к одной из перечисленных тем, не придумывай ответ и используй условие для перевода на оператора.

Условие для выхода «Тема определена»

Описание условия

Условие выполнено, когда абонент сформулировал вопрос или описал проблему, а модель однозначно определила одну основную тему обращения.

После определения темы не продолжай консультацию в этом блоке. Заполни переменную theme одним из допустимых значений и выйди из блока.

Переменная

theme

Описание переменной

Основная тема обращения абонента.

Допустимые значения

• office;

• balance;

• tariff;

• personal_account;

• payment_methods;

• services.

Условие для выхода «Перевод на оператора»

Описание условия

Условие выполнено, если:

• абонент прямо просит соединить его с оператором, диспетчером или другим сотрудником;

• вопрос не относится ни к одной из тем, перечисленных в контексте;

• информации в контексте недостаточно для определения темы;

• абонент использует оскорбления или нецензурную лексику.

Не сообщай, что перевод уже выполнен. После выхода из блока перевод должен выполнить следующий блок сценария.

Как работает пример

1. LLM анализирует обращение абонента.

2. При необходимости задаёт уточняющий вопрос.

3. Если тема определена, заполняет переменную theme и выходит по условию «Тема определена».

4. Если определить тему невозможно или абонент просит оператора, сценарий выходит по условию «Перевод на оператора».

5. Следующие блоки используют значение theme для маршрутизации обращения или выполняют перевод на сотрудника.