Лимиты

Лимиты по умолчанию, на каждый ключ. Каждый сервер шлюза считает их сам: это защита от зациклившегося скрипта, а не тариф. Реальный потолок может быть выше.

600запросов в минуту

Окно скользящее: 600 за любые 60 секунд. Сверх лимита ответ 429 rate_limit_exceeded с Retry-After: 1

64одновременных запроса

Поток держит слот до конца

Лимит расхода

Задаётся для ключа в кабинете. Когда он исчерпан, ответ 429 insufficient_quota

Резерв

Перед запросом резервируем стоимость входа и лимита ответа. Без лимита в запросе резервируем лимит модели по умолчанию. Если баланса не хватает, уменьшите лимит ответа

8 МиБ

Размер тела запроса чата, Responses и Embeddings

32 МиБ

Размер тела POST /v1/tasks и /v1/tasks/quote; data URL в референсе не больше 10 МиБ

300 с

До первого байта ответа и между частями потока

30 мин

Весь запрос вместе с потоком

Если провайдер не ответил до первого байта — недоступен, молчит, вернул 429 или 5xx, — запрос уходит к следующему провайдеру модели. Цена та же.