Каталог моделей і ціни токенів

Подивіться, які моделі може викликати Slen, скільки коштує мільйон токенів кожної та скільки токенів може бути в одній відповіді.

1 хв читання

Кожна оцінка й кожен резерв рахуються за цінами каталогу моделей. Ця сторінка — про сторінку каталогу в консолі: що в ній перелічено і як Slen використовує її ціни.

Де розташований каталог

Відкрийте Налаштування, потім Моделі. Каталог — той самий список у кожному проєкті та в кожній організації. На сторінці нічого не можна змінити.

Сторінка відкривається тому, хто має дозвіл read. Його має кожна роль.

Що показує рядок

КолонкаЩо це
МодельКод моделі, наприклад gpt-4o-mini. Вузол моделі називає модель цим кодом.
ПровайдерПровайдер, якому належить модель. Для виклику моделі потрібне підключення до цього провайдера.
Вхід / 1 млнЦіна мільйона вхідних токенів.
Вихід / 1 млнЦіна мільйона вихідних токенів.
Ліміт виходуНайбільша кількість вихідних токенів, яку модель може повернути за один виклик.

Як використовується ціна

Ціна має дату, з якої вона діє. Нова ціна не затирає стару. Вона йде слідом за нею, а сторінка показує ціну, яка діє зараз.

Резерв зберігає ціну, за якою його зроблено. Подальша зміна ціни не перераховує запит, під який резерв уже взято.

Модель, якої немає у списку

У списку — активні моделі, які мають чинну ціну. Вузол моделі, який називає іншу модель, не може зробити свій виклик.

  • Модель, якої немає в каталозі, або вимкнена модель відхиляється з кодом model_not_allowed.

  • Для моделі без чинної ціни вартість порахувати не можна, і виклик відхиляється з кодом cost_calculation_failed.

Що читати далі

  • Підключення — додайте ключ провайдера, з яким викликається модель.

  • Моделі — той самий каталог через API.

  • Глосарій — що таке провайдер, підключення та пул.

  • Коди помилок — кожен код API — що він означає і що робити.