Запасной путь

Отметка на пути, по которому идёт флоу, когда его первый выбор отклонён или не удался, — сам другой путь составляют узлы за ней.

2 мин чтения

Запасной путь отмечает момент, когда флоу уходит от своего первого выбора. Сам он ничего не вызывает: другой путь составляют узлы за ним — чаще всего ещё один AI-модель с моделью подешевле.

Узел
Запасной путь
Тип
fallback
Категория
Модель
Порты
  • По умолчанию default подключение обязательно
Завершает путь
Нет

Что делает узел

Когда выполнение доходит до узла, узел пишет в трассировку событие fallback_used с причиной, которую вы ему задали, и пропускает выполнение дальше через По умолчанию. Узел без причины пишет событие без неё.

Узел модели за ним делает свой вызов и берёт свой холд. Первый вызов больше ничего не держит: взятый им холд вернулся, когда вызов не удался или был отклонён.

Когда использовать

  • На ветке, которая выходит из узла модели, — Ошибка, Пул исчерпан или Отказ — или на ветке Отказ узла Проверка бюджета, перед путём, который заменяет первый выбор. В один узел могут вести несколько веток.

  • Чтобы прочитать в трассировке, почему ушли с основного пути: причина говорит это вашими словами.

  • Переход с одного подключения на другое внутри одного вызова — работа пула провайдеров, и узел для этого не нужен — Пулы провайдеров. Узел — для другого пути флоу.

Так построен шаблон Умный выбор модели — Шаблоны AI-флоу.

Настройки

НастройкаДля чего она
reasonПочему ушли с основного пути, вашими словами. Необязательна. Трассировка показывает её вместе с событием узла; причина из одних пробелов не пишется.

В конструкторе эта настройка — поле Причина. У нового узла её нет.

Порты

У узла один порт, По умолчанию, и он обязательный.

Выход

Узел передаёт дальше вход запроса таким, каким он пришёл. Следующий узел читает его поле по пути nodes.<key>.output.<field>, где <key> — ключ этого узла во флоу, так же, как прочитал бы его по пути input.<field>.

Ошибки

Своих ошибок узел не выдаёт. При публикации флоу проверяется только его порт: По умолчанию должен куда-то вести.

Пример

  • Запрос — По умолчанию → AI-модель
  • AI-модель — Успех → Вернуть ответ
  • AI-модель — Отказ → Запасной путь
  • AI-модель — Пул исчерпан → Запасной путь
  • Запасной путь — По умолчанию → AI-модель
  • AI-модель — Успех → Вернуть ответ

Первый AI-модель вызывает сильную модель. Когда вызов отклонён или попытки его пула закончились, выполнение проходит Запасной путь, и второй AI-модель вызывает модель подешевле со своим холдом. Любой из ответов идёт в Вернуть ответ.

Собрано из openapi b070e1f, sdk contract 5cc7055, php ae4a53b, node 84bc62d