Límites y errores — Documentación de NotHoly

Los límites de plan, créditos, simultaneidad y protocolo se aplican antes de ejecutar.

Límites compartidos de entrada

El texto, los mensajes y los esquemas nativos comparten límites de 128 KiB serializados, 128 mensajes/elementos, hasta ocho funciones/llamadas y 16 KiB por argumentos/resultados. El esquema de transporte acepta valores de salida limitados, pero el modelo seleccionado y el máximo operativo determinan el máximo efectivo. El límite operativo de salida predeterminado actual es de 4.096 tokens, salvo aumento explícito. Messages exige un máximo explícito.

Estado de la respuesta

400 significa entrada no válida o no compatible; 401, credenciales no válidas; 403, falta de admisión o permisos; 402, saldo/cuota insuficiente; 404, recurso/modelo no disponible; 409, operación en conflicto; 429, límites de tasa/simultaneidad; 502/503, fallo de inferencia/servicio; 504, plazo agotado. El protocolo nativo determina el formato del error.

Recuperación

Guarda el identificador seguro de la solicitud cuando esté disponible. Nunca compartas una clave de proveedor o de cliente en una solicitud de soporte. Un timeout o error de red puede dejar el uso pendiente; una nueva solicitud independiente puede generar otro coste.