מדריך API
השלמות טקסט
POST /v1/completions, לפורמט הישן שבו נכנס פרומפט ויוצא טקסט.
ה-endpoint הישן של פרומפט, לכלים שעדיין עובדים איתו. הוא מריץ את הפרומפט כהודעת משתמש אחת על אותם מודלים. לכל דבר חדש עדיף chat completions.
POST
https://api.notholy.com/v1/completionsPOST https://api.notholy.com/v1/completionsבקשה
| שדה | סוג | חובה | הערות |
|---|---|---|---|
model | string | כן | מזהה מודל |
prompt | string או array | כן | מחרוזת, או מערך עם מחרוזת אחת בדיוק |
max_tokens | number | לא | ברירת המחדל היא 16. מוגבל לפלט המקסימלי של המודל |
stream | boolean | לא | true מחזיר מקטעים מסוג text_completion ואחריהם data: [DONE] |
temperature, top_p, stop | לא | מועברים למודל | |
n | number | לא | רק 1 |
אין כאן כלים ואין מאמץ חשיבה. השדות echo, logprobs וגם suffix לא נלקחים בחשבון.
תגובה
{
"id": "cmpl-4Qz7",
"object": "text_completion",
"created": 1793836800,
"model": "notholy-specter",
"choices": [{ "index": 0, "text": " ../../etc/passwd encoded as %2e%2e%2f…", "finish_reason": "length", "logprobs": null }],
"usage": { "prompt_tokens": 14, "completion_tokens": 60, "total_tokens": 74 }
}- בסטרימינג, כל מקטע מכיל את
choices[0].text. המקטע האחרון מכיל אתfinish_reasonואתusage.
דוגמה
curl https://api.notholy.com/v1/completions \
-H "Authorization: Bearer $NOTHOLY_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model": "notholy-specter", "prompt": "A path traversal payload in a file download parameter looks like", "max_tokens": 60}'import os
from openai import OpenAI
client = OpenAI(base_url="https://api.notholy.com/v1", api_key=os.environ["NOTHOLY_API_KEY"])
r = client.completions.create(model="notholy-specter", prompt="The OWASP category for SSRF is", max_tokens=30)
print(r.choices[0].text)שגיאות
400 חסר prompt, יש יותר מפרומפט אחד, או שהערך n גדול מ-1 · 401 מפתח שגוי · 402 נגמרו הקרדיטים · 404 מודל לא מוכר · 429 עומס · 503 המודל לא זמין. הפירוט בעמוד שגיאות.