Запасний шлях
Позначка на шляху, яким іде флоу, коли його перший вибір відхилено або він не вдався, — сам інший шлях складають вузли за нею.
2 хв читання
Запасний шлях позначає момент, коли флоу відходить від свого першого вибору. Сам він нічого не викликає: інший шлях складають вузли за ним — найчастіше ще один AI-модель із дешевшою моделлю.
- Вузол
- Запасний шлях
- Тип
fallback- Категорія
- Модель
- Порти
- Типовий
defaultпідключення обовʼязкове
- Типовий
- Завершує шлях
- Ні
Що робить вузол
Коли виконання доходить до вузла, вузол пише в трасування подію fallback_used із причиною, яку ви йому задали, і пропускає виконання далі через Типовий. Вузол без причини пише подію без неї.
Вузол моделі за ним робить свій виклик і бере свій холд. Перший виклик більше нічого не тримає: узятий ним холд повернувся, коли виклик не вдався або був відхилений.
Коли використовувати
На гілці, яка виходить із вузла моделі, — Помилка, Пул вичерпано або Відмова — чи на гілці Відмова вузла Перевірка бюджету, перед шляхом, який замінює перший вибір. В один вузол можуть вести кілька гілок.
Щоб прочитати в трасуванні, чому пішли з основного шляху: причина каже це вашими словами.
Перехід з одного підключення на інше в межах одного виклику — робота пулу провайдерів, і вузол для цього не потрібен — Пули провайдерів. Вузол — для іншого шляху флоу.
Так побудовано шаблон Розумний вибір моделі — Шаблони AI-флоу.
Налаштування
| Налаштування | Для чого воно |
|---|---|
reason | Чому пішли з основного шляху, вашими словами. Необов’язкова. Трасування показує її разом із подією вузла; причина з одних пробілів не пишеться. |
У конструкторі це налаштування — поле Причина. У нового вузла її немає.
Порти
У вузла один порт, Типовий, і він обов’язковий.
Вихід
Вузол передає далі вхід запиту таким, яким він прийшов. Наступний вузол читає його поле за шляхом nodes.<key>.output.<field>, де <key> — ключ цього вузла у флоу, так само, як прочитав би його за шляхом input.<field>.
Помилки
Своїх помилок вузол не видає. Під час публікації флоу перевіряється лише його порт: Типовий має кудись вести.
Приклад
- Запит — Типовий → AI-модель
- AI-модель — Успіх → Повернути відповідь
- AI-модель — Відмова → Запасний шлях
- AI-модель — Пул вичерпано → Запасний шлях
- Запасний шлях — Типовий → AI-модель
- AI-модель — Успіх → Повернути відповідь
Перший AI-модель викликає сильну модель. Коли виклик відхилено або спроби його пулу закінчилися, виконання проходить Запасний шлях, і другий AI-модель викликає дешевшу модель зі своїм холдом. Будь-яка з відповідей іде в Повернути відповідь.
Див. також
AI-модель — порти, через які виходить виклик моделі.
Порти й розгалуження — кілька зв’язків в один вузол.
Шаблони AI-флоу — шаблон, який переходить на дешевшу модель.
Зібрано з openapi b070e1f, sdk contract 5cc7055, php ae4a53b, node 84bc62d