Руководства

Рассуждения

Попросите модель подумать перед ответом и прочитайте рассуждение, которое она вернёт.

Каждая модель перечисляет допустимые уровни глубины в capabilities.reasoning_efforts (см. Модели). Чем глубже рассуждение, тем больше выходных токенов, а они оплачиваются по цене выхода. Если не указывать поле, модель использует своё значение по умолчанию.

API	Поле
Chat completions	`reasoning_effort`
Responses	`reasoning.effort`
Messages	`thinking: {"type": "enabled", "budget_tokens": N}` или `{"type": "adaptive"}` с `output_config.effort`

Python

import os
from openai import OpenAI

client = OpenAI(base_url="https://api.notholy.com/v1", api_key=os.environ["NOTHOLY_API_KEY"])

r = client.chat.completions.create(
    model="notholy-specter",
    reasoning_effort="high",
    messages=[{"role": "user", "content": "Is a JWT signed with alg none ever acceptable? Answer in one line."}],
)
print(r.choices[0].message.content)

В chat completions и Responses уровень, которого нет в списке модели, возвращает 400 invalid_request. Messages приводит thinking и output_config.effort к ближайшему уровню, который есть у модели: бюджет от 16000 токенов — high, от 4000 — medium, меньше — low, а adaptive — medium.

Текст рассуждения возвращается как reasoning_content в chat completions, как элементы reasoning в Responses и как блоки thinking в Messages. Когда вы отправляете переписку обратно, рассуждения из прошлых ходов отбрасываются.

Что дальше

Как экономить