Запасной путь
Отметка на пути, по которому идёт флоу, когда его первый выбор отклонён или не удался, — сам другой путь составляют узлы за ней.
2 мин чтения
Запасной путь отмечает момент, когда флоу уходит от своего первого выбора. Сам он ничего не вызывает: другой путь составляют узлы за ним — чаще всего ещё один AI-модель с моделью подешевле.
- Узел
- Запасной путь
- Тип
fallback- Категория
- Модель
- Порты
- По умолчанию
defaultподключение обязательно
- По умолчанию
- Завершает путь
- Нет
Что делает узел
Когда выполнение доходит до узла, узел пишет в трассировку событие fallback_used с причиной, которую вы ему задали, и пропускает выполнение дальше через По умолчанию. Узел без причины пишет событие без неё.
Узел модели за ним делает свой вызов и берёт свой холд. Первый вызов больше ничего не держит: взятый им холд вернулся, когда вызов не удался или был отклонён.
Когда использовать
На ветке, которая выходит из узла модели, — Ошибка, Пул исчерпан или Отказ — или на ветке Отказ узла Проверка бюджета, перед путём, который заменяет первый выбор. В один узел могут вести несколько веток.
Чтобы прочитать в трассировке, почему ушли с основного пути: причина говорит это вашими словами.
Переход с одного подключения на другое внутри одного вызова — работа пула провайдеров, и узел для этого не нужен — Пулы провайдеров. Узел — для другого пути флоу.
Так построен шаблон Умный выбор модели — Шаблоны AI-флоу.
Настройки
| Настройка | Для чего она |
|---|---|
reason | Почему ушли с основного пути, вашими словами. Необязательна. Трассировка показывает её вместе с событием узла; причина из одних пробелов не пишется. |
В конструкторе эта настройка — поле Причина. У нового узла её нет.
Порты
У узла один порт, По умолчанию, и он обязательный.
Выход
Узел передаёт дальше вход запроса таким, каким он пришёл. Следующий узел читает его поле по пути nodes.<key>.output.<field>, где <key> — ключ этого узла во флоу, так же, как прочитал бы его по пути input.<field>.
Ошибки
Своих ошибок узел не выдаёт. При публикации флоу проверяется только его порт: По умолчанию должен куда-то вести.
Пример
- Запрос — По умолчанию → AI-модель
- AI-модель — Успех → Вернуть ответ
- AI-модель — Отказ → Запасной путь
- AI-модель — Пул исчерпан → Запасной путь
- Запасной путь — По умолчанию → AI-модель
- AI-модель — Успех → Вернуть ответ
Первый AI-модель вызывает сильную модель. Когда вызов отклонён или попытки его пула закончились, выполнение проходит Запасной путь, и второй AI-модель вызывает модель подешевле со своим холдом. Любой из ответов идёт в Вернуть ответ.
См. также
AI-модель — порты, через которые выходит вызов модели.
Порты и ветвление — несколько связей в один узел.
Шаблоны AI-флоу — шаблон, который переходит на модель подешевле.
Собрано из openapi b070e1f, sdk contract 5cc7055, php ae4a53b, node 84bc62d