Почати флоу з готового правила витрат
Дев’ять шаблонів галереї, правило, яке виражає кожен, і як шаблон стає флоу, що працює.
5 хв читання
Шаблон — це готовий флоу, який виражає одне правило про гроші або про провайдера, який не відповідає. Галерея створює його як чернетку нового флоу, а ви його читаєте, доопрацьовуєте й публікуєте. Ця сторінка — про галерею шаблонів.
Де розташовані шаблони
Відкрийте AI-флоу і його другу вкладку — Шаблони. Ліворуч — список шаблонів; обраний показано поруч зі списком: його правило однією фразою і поруч із ним Створити чернетку, його флоу і Як працює у трьох кроках. Флоу намальовано полотном самого конструктора: це вся чернетка, яку ви отримаєте, разом із відмовами, — з тими самими вузлами, назвами, гілками й положеннями, з якими її відкриє конструктор. Змінити її тут не можна. Адреса запам’ятовує обраний шаблон, тож посилання відкриває саме його.
Для створення флоу із шаблону потрібен дозвіл flows:write — стаття Організації, проєкти й ролі каже, які ролі його мають. Без нього шаблони та їхні схеми, як і раніше, можна читати.
Шаблони
| Шаблон | Правило | Як його виконує флоу |
|---|---|---|
| Розумний вибір моделі | Витрачати на сильну модель, поки дозволяє бюджет; коли не дозволяє — відповідати дешевшою замість відмови | Перевірка бюджету перед викликом gpt-4o. Відмова перевірки, а також відмова, помилка або обмеження частоти цього виклику ведуть через Запасний шлях до gpt-4o-mini. Коли відмовляють і цьому виклику, запит відхиляється з кодом budget_exceeded |
| Погодження запитів | Маленьке завдання виконується одразу; велике чекає на людину, перш ніж узято будь-який холд | Умова порівнює розмір, який той, хто викликає, оголошує в input.expected_tokens, із 20 000. Вище нього Потрібне схвалення чекає рішення, потім викликається модель. Відхилення або рішення, яке так і не надійшло, закінчує запит відмовою |
| Спершу кеш | За вже відому відповідь не платять знову | Пошук у кеші відповідає на повторний запит із кешу, без виклику моделі. У разі промаху відповідає gpt-4o-mini, а Запис у кеш зберігає відповідь добу |
| Захист бюджету клієнта | Виклик, який не вміщується в бюджет клієнта, відхиляється до звернення до провайдера | Перевірка бюджету перевіряє бюджети організації, проєкту, операції й клієнта, перш ніж узято будь-який холд, а холд виклику моделі перевіряється ще раз. Будь-яка з відмов закінчує запит кодом budget_exceeded. Списання та повернення закриває холд після виклику. Виклик, що вже йде, не зупиняється на півдорозі |
| Модель за тарифом | Клієнт на платному тарифі отримує сильну модель; усі інші — дешевшу | Умова перевіряє, чи input.plan, який передає той, хто викликає, дорівнює pro або business. Тоді відповідає gpt-4o; будь-який інший тариф або його відсутність ведуть до gpt-4o-mini |
| Резервний провайдер | Коли OpenAI не відповідає, той самий запит іде до Anthropic замість відмови | Помилка або вичерпаний пул gpt-4o ведуть через Запасний шлях до claude-sonnet-4-5. Для цього проєкту потрібне підключення до Anthropic. Коли не відповідає і цей виклик, запит відхиляється з кодом provider_unavailable; відмова у витраті будь-якого з викликів закінчує його кодом budget_exceeded |
| Ліміт на дорогу модель | Сильна модель має власний місячний ліміт; понад нього відповідає дешевша | Перевірка бюджету має власну алокацію: 50.00 за календарний місяць (UTC) для gpt-4o, за оцінками викликів, які він пропустив. Понад неї — або коли бюджети проєкту відмовляють у виклику — Запасний шлях веде до gpt-4o-mini |
| Позначка дорогих запитів | Запит, оцінений дорожче за $0,05, позначається в трасуванні й отримує відповідь як зазвичай | Оцінка вартості оцінює виклик gpt-4o. Понад 0.05 вузол Нотатка у трасуванні пише в трасування виконання попередження з оцінкою, а модель відповідає в будь-якому разі |
| Відкласти фонові задачі | Задача з низьким пріоритетом чекає; на всі інші запити відповідь приходить одразу | Умова перевіряє, чи input.priority дорівнює low. Тоді Черга паркує виконання на 15 хвилин — тому, хто викликає, відповідають, що воно чекає, і він читає результат пізніше, — а після очікування відповідає gpt-4o-mini |
У кожному шаблоні вузол Відхилити запит відповідає за одну причину: відмову у витраті — кодом budget_exceeded, провайдера, який не відповів, — кодом provider_unavailable, а в шаблоні Погодження запитів «ні» людини або рішення, яке так і не надійшло, — власним кодом. Точний код відмови лишається в трасуванні виконання, на вузлі моделі.
Вузли шаблонів, які мають справу з грошима й моделлю, мають свої сторінки: Перевірка бюджету, Потрібне схвалення, Списання та повернення, AI-модель і Запасний шлях. Решта вузлів шаблонів теж мають свої сторінки: Запит, Умова, Оцінка вартості, Нотатка у трасуванні, Черга, Пошук у кеші, Запис у кеш, Повернути відповідь і Відхилити запит.
Від шаблону до флоу, що працює
1. Створіть чернетку
Оберіть шаблон і натисніть Створити чернетку. Slen створює флоу з назвою шаблону мовою консолі, із шаблоном як чернеткою — його вузли, названі гілки й тексти його відмов, погодження та нотатки у трасуванні теж цією мовою, а коди — як є, — і відкриває його в конструкторі. Друга копія того самого шаблону — ще один флоу з тією самою назвою.
2. Прочитайте й доопрацюйте його
Відкрийте кожен вузол і перевірте його налаштування: моделі, ліміти, тексти відмов. Моделі шаблонів — моделі OpenAI (Резервний провайдер викликає ще й Anthropic), тому проєкту потрібне підключення до OpenAI або пул, який його обслуговує, — Підключення.
3. Прив’яжіть код операції
Відкрийте вкладку Налаштування флоу й прив’яжіть код операції, який надсилає ваш застосунок, — AI-флоу.
4. Опублікуйте його
Натисніть Опублікувати. До цього флоу нічого не виконує: шаблон ніколи не починає витрачати сам.
Що читати далі
Конструктор флоу — змінити вузли чернетки.
Як побудовано флоу — вузли, з яких складається шаблон.
Погодження — вирішити щодо запитів, які зупиняє Погодження запитів.