Guías
Límites y concurrencia
Solicitudes por minuto, solicitudes simultáneas y cómo los depósitos suben tu nivel.
La inferencia tiene dos límites:
| Límite | Alcance | Cuando lo superas |
|---|---|---|
| Solicitudes por minuto | La organización, y la clave si tiene uno propio | 429 rate_limit_exceeded |
| Solicitudes simultáneas (concurrencia) | La organización | 429 concurrency_limit_exceeded |
La concurrencia crece con el total que has depositado a lo largo del tiempo. Los niveles están en la página de precios y tu nivel actual aparece en la consola, en Límites. Cada respuesta incluye x-notholy-concurrency-limit y x-notholy-concurrency-remaining.
curl -s -D - -o /dev/null https://api.notholy.com/v1/chat/completions \
-H "Authorization: Bearer $NOTHOLY_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model": "notholy-specter", "max_tokens": 16, "messages": [{"role": "user", "content": "ok"}]}' | grep -i x-notholyLas solicitudes también reservan créditos mientras se ejecutan. Si la reserva no cabe en tu saldo disponible, la solicitud recibe 402 antes de empezar.
Las rutas de investigación (/v1/cve, /v1/web, /v1/files) tienen su propio límite por minuto.
Si necesitas más que el nivel más alto, escribe a ventas desde notholy.com/enterprise.