התחלה

מודלים

כל מודל ציבורי עם המזהה, המגבלות והמחיר למיליון טוקנים, מתוך הקטלוג החי.

מזהה המודל נשלח בשדה model, והתשובה מחזירה את אותו מזהה. כל המודלים ברשימה הם מודלים abliterated במשקלים פתוחים: התנהגות הסירוב שלהם הוסרה בעריכת המשקלים. הם עדיין יכולים לטעות, ולכן צריך לבדוק את הפלט שלהם כמו כל מקור אחר.

מודל	הקשר	פלט מקסימלי	קלט	פלט	קלט מהמטמון
NotHoly Specter`notholy-specter`	1,048,576	131,072	$1.82	$3.64	$0.273
NotHoly Pulse Flash`notholy-pulse`	1,048,576	131,072	$0.27	$1.12	$0.067
NotHoly Vector Flash 1017`notholy-vector`	1,048,576	131,072	$0.27	$0.97	$0.068
NotHoly Wisp Flash`notholy-wisp`	1,048,576	131,072	$0.20	$0.80	$0.05

USD ל-1M טוקנים

הרשימה הזו היא הקטלוג הציבורי, עם אותם מודלים ומחירים שמחזירה הקריאה GET /v1/models. מודל מופיע כאן כשהוא מופעל ויורד מהרשימה כשהוא יוצא משימוש. מחירים משתנים רק דרך גרסאות מחיר חדשות, וכל רשומת שימוש שומרת את הגרסה שהוחלה. לכל מודל יש עמוד משלו עם מגבלות, יכולות ובקשות לדוגמה.

ה-endpoints של הקטלוג

curl https://api.notholy.com/v1/models -H "Authorization: Bearer $NOTHOLY_API_KEY"

import OpenAI from 'openai';

const client = new OpenAI({ baseURL: 'https://api.notholy.com/v1', apiKey: process.env.NOTHOLY_API_KEY });

const m = await client.models.retrieve('notholy-specter');
console.log(m.id, m.context_length, m.max_output_tokens);

מזהה לא מוכר מחזיר 404 model_not_found. פירוט לפי שדה: ה-API של המודלים.

הערות

רמות החשיבה שונות ממודל למודל. השדה capabilities.reasoning_efforts מפרט את הרמות שמודל מקבל. פרטים בחשיבה.
עדיין אין מודל embedding. הקריאה POST /v1/embeddings מחזירה 404 model_not_found.
מודל בתחזוקה מחזיר 503 model_unavailable.