Chat Completions

Contrato de solicitud

Envía de 1 a 128 mensajes ordenados de tipo system, user, assistant o tool. Usa max_tokens o max_completion_tokens, nunca ambos. Cada solicitud está limitada por el máximo configurado del modelo y los límites compartidos de entrada serializada.

Llamadas de función

Se admiten hasta ocho funciones declaradas y resultados de llamadas con límites. tool_choice puede ser auto, none, required o una función con nombre. El cliente ejecuta las funciones devueltas; una función llamada shell nunca autoriza la ejecución en los hosts de NotHoly.

Streaming

Define stream:true. Los chunks conservan un ID estable y fragmentos indexados de argumentos de herramientas. include_usage emite un chunk final solo con uso. [DONE] aparece únicamente después de una finalización correcta; una salida parcial puede ir seguida de un error.

Respuesta y limitaciones

Lee choices[0].message y finish_reason. El contenido puede ser null en turnos solo de herramientas. Los campos desconocidos y los ciclos de herramientas malformados fallan antes del envío. Los campos opcionales de esfuerzo, muestreo y formato de respuesta requieren una capacidad del modelo activada de forma explícita; el esquema generado documenta su formato exacto aceptado.

Ejemplo de solicitud

Usa tu clave de cliente y un modelo publicado. Copiar un ejemplo no envía una solicitud.

curl https://api.notholy.com/v1/chat/completions \
  -H "Authorization: Bearer $NOTHOLY_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
  "model": "notholy-pulse",
  "messages": [
    {
      "role": "user",
      "content": "Explain least privilege."
    }
  ],
  "max_tokens": 256
}'

Campos de solicitud

Generado a partir del contrato versionado. Las reglas de refinamiento anteriores siguen aplicándose.

Esquema de respuesta