Каталог моделей и цены токенов
Посмотрите, какие модели может вызывать Slen, сколько стоит миллион токенов каждой и сколько токенов может быть в одном ответе.
1 мин чтения
Каждая оценка и каждый резерв считаются по ценам каталога моделей. Эта страница — о странице каталога в консоли: что в ней перечислено и как Slen использует её цены.
Где находится каталог
Откройте Настройки, затем Модели. Каталог — один и тот же список в каждом проекте и в каждой организации. На странице ничего нельзя изменить.
Страница открывается тому, у кого есть разрешение read. Оно есть у каждой роли.
Что показывает строка
| Колонка | Что это |
|---|---|
| Модель | Код модели, например gpt-4o-mini. Узел модели называет модель этим кодом. |
| Провайдер | Провайдер, которому принадлежит модель. Для вызова модели нужно подключение к этому провайдеру. |
| Вход / 1 млн | Цена миллиона входных токенов. |
| Выход / 1 млн | Цена миллиона выходных токенов. |
| Лимит выхода | Наибольшее число выходных токенов, которое модель может вернуть за один вызов. |
Как используется цена
У цены есть дата, с которой она действует. Новая цена не затирает старую. Она идёт следом за ней, а страница показывает цену, которая действует сейчас.
Резерв сохраняет цену, по которой он сделан. Последующее изменение цены не пересчитывает запрос, под который резерв уже взят.
Модель, которой нет в списке
В списке — активные модели, у которых есть действующая цена. Узел модели, который называет другую модель, не может сделать свой вызов.
Модель, которой нет в каталоге, или выключенная модель отклоняется с кодом
model_not_allowed.Для модели без действующей цены стоимость посчитать нельзя, и вызов отклоняется с кодом
cost_calculation_failed.
Что читать дальше
Подключения — добавьте ключ провайдера, с которым вызывается модель.
Модели — тот же каталог через API.
Глоссарий — что такое провайдер, подключение и пул.
Коды ошибок — каждый код API — что он значит и что делать.