Лимиты и квоты
Дневной, общий и оконный (окно 300 минут) лимиты, RPM, конкурентность, размер запроса и таймауты. Как поднять лимит.
Лимиты защищают ваш баланс и держат стабильную задержку. Их несколько уровней: дневной лимит ключа, общий баланс, скользящее окно, RPM и конкурентность.
#Типы лимитов
| Лимит | Значение по умолчанию | Область |
|---|---|---|
| Дневной лимит | настраивается для ключа | потолок списаний за сутки |
| Общий баланс | остаток на счёте | жёсткая верхняя граница |
| Оконный лимит | окно 300 минут | скользящее окно расхода |
| RPM | ~30 запросов/мин | на ключ |
| Конкурентность | несколько одновременных | на ключ |
| Размер запроса | до ~5 МБ тела | на запрос |
| Таймаут генерации | до 600 с | на запрос |
#Дневной лимит ключа
Дневной лимит (dailyCostLimit) — необязательный потолок расхода за сутки на конкретный ключ. Он не привязан к тарифам: вы покупаете объём (общий лимит ключа), а дневной потолок задаётся отдельно — как предохранитель от неожиданного всплеска трат.
- По умолчанию дневной лимит выставляется с запасом под ваш пакет — обычная работа в него не упирается.
- Нужен жёсткий контроль (CI, публичный бот) — попросите выставить конкретный дневной потолок на ключ.
- Нужно больше — дневной лимит поднимают по запросу, ключ пересоздавать не нужно.
#RPM и конкурентность
Базовый лимит — около 30 запросов в минуту на ключ. При его превышении шлюз отвечает 429 с заголовком retry-after.
- Разносите нагрузку во времени, а не бейте пачкой — так реже ловите
429. - Для параллельных воркеров используйте очередь и ограничитель одновременных запросов.
- Под CI и высоконагруженные боты заводите отдельный ключ, чтобы не конкурировать с интерактивной работой.
#Размеры и таймауты
| Параметр | Значение |
|---|---|
| Макс. размер тела запроса | ~5 МБ |
| Таймаут генерации | до 600 с (для длинных ответов включайте стриминг) |
| Окно RPM | 60 с |
| Окно расхода | 300 минут |
| SSE heartbeat | автоматически, чтобы соединение не рвалось |
#Заголовки лимитов в ответе
HTTP/1.1 200 OK
x-ratelimit-limit: 30
x-ratelimit-remaining: 27
x-ratelimit-reset: 41
x-daily-remaining-usd: 42.13#Как поднять лимит
- 1Оцените, что упирается
Дневной расход, RPM или окно — посмотрите через Usage Query API.
- 2Поднимите дневной лимит
Дневной потолок ключа поднимают по запросу под вашу нагрузку — купленный объём при этом не меняется.
- 3Напишите в поддержку
Для нестандартной нагрузки @nukind поднимет RPM и конкурентность индивидуально.