Guide

Limiti e richieste simultanee

Richieste al minuto, richieste contemporanee e come le ricariche alzano il tuo livello.

All'inferenza si applicano due limiti:

Limite	Ambito	Quando lo superi
Richieste al minuto	Ogni chiave e l'organizzazione, con lo stesso limite	`429 rate_limit_exceeded`
Richieste contemporanee (concurrency)	Organizzazione	`429 concurrency_limit_exceeded`

Le richieste simultanee crescono con il totale che hai ricaricato nel tempo. I livelli sono nella pagina dei prezzi e il tuo livello attuale è nella console, in Limiti. Una richiesta che supera la validazione riceve nella risposta x-notholy-concurrency-limit e x-notholy-concurrency-remaining.

curl

curl -s -D - -o /dev/null https://api.notholy.com/v1/chat/completions \
  -H "Authorization: Bearer $NOTHOLY_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "notholy-specter", "max_tokens": 16, "messages": [{"role": "user", "content": "ok"}]}' | grep -i x-notholy

Mentre sono in corso, le richieste riservano anche dei crediti. Se il caso peggiore non sta nel saldo disponibile, il limite di output si riduce per rientrarci. Sotto i 16 token la richiesta riceve 402 prima di partire.

Le route di ricerca (/v1/cve, /v1/kb, /v1/advisories, /v1/web, /v1/files) e /mcp condividono un limite di 120 richieste al minuto per organizzazione.

Se ti serve più del livello massimo, scrivi al team vendite da notholy.com/enterprise.

Prossimi passi

Errori