Guías

Buenas prácticas de costo

Cómo se calcula el precio de una solicitud y cómo gastar menos por el mismo trabajo.

Una solicitud cuesta los tokens de entrada por la tarifa de entrada, más los tokens de entrada cacheados por la tarifa de caché, más los tokens de salida por la tarifa de salida. Los tokens de razonamiento cuentan como salida. Las tarifas son por millón de tokens y se publican en la página de modelos.

Formas de gastar menos:

Usa el modelo más barato que resuelva para el triage masivo, y uno más grande solo cuando importen el contexto largo o la profundidad. Modelos muestra los precios lado a lado.
Define max_tokens para que una respuesta descontrolada no cueste más de lo que esperas.
Usa reasoning_effort: "low" cuando la tarea sea una consulta y no un análisis.
Deja las instrucciones largas y estables al comienzo del prompt para que se puedan cachear.
Dale a cada script su propia clave con un presupuesto diario, así un bucle se detiene al llegar al presupuesto.

Python

import os
from openai import OpenAI

client = OpenAI(base_url="https://api.notholy.com/v1", api_key=os.environ["NOTHOLY_API_KEY"])

r = client.chat.completions.create(
    model="notholy-specter",
    max_tokens=120,
    reasoning_effort="low",
    messages=[{"role": "user", "content": "Classify this finding as low, medium or high: verbose stack trace on 500."}],
)
u = r.usage
print(u.prompt_tokens, u.completion_tokens)

La consola muestra el costo de cada solicitud en Actividad, con la versión de precio que se aplicó.

Siguientes pasos

API de créditos