מדריכים

מגבלות ומקביליות

בקשות לדקה, בקשות במקביל, ואיך טעינות מעלות את הרמה שלך.

על ההסקה חלות שתי מגבלות:

מגבלה	היקף	מה קורה כשעוברים אותה
בקשות לדקה	כל מפתח והארגון, עם אותה מגבלה	`429 rate_limit_exceeded`
בקשות במקביל (מקביליות)	הארגון	`429 concurrency_limit_exceeded`

המקביליות גדלה עם סך הטעינות שלך לאורך זמן. הרמות מופיעות בעמוד המחירים, והרמה הנוכחית שלך מופיעה בקונסולה תחת מגבלות. בקשה שעוברת ולידציה מקבלת בתגובה את x-notholy-concurrency-limit ואת x-notholy-concurrency-remaining.

curl

curl -s -D - -o /dev/null https://api.notholy.com/v1/chat/completions \
  -H "Authorization: Bearer $NOTHOLY_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "notholy-specter", "max_tokens": 16, "messages": [{"role": "user", "content": "ok"}]}' | grep -i x-notholy

בקשות גם משריינות קרדיטים בזמן שהן רצות. אם התרחיש הגרוע ביותר לא נכנס ביתרה הזמינה, מגבלת הפלט מצטמצמת בהתאם. מתחת ל-16 טוקנים הבקשה מקבלת 402 לפני שהיא מתחילה.

לנתיבי המחקר (/v1/cve, /v1/kb, /v1/advisories, /v1/web, /v1/files) ולנתיב /mcp יש מגבלה משותפת של 120 בקשות לדקה לארגון.

אם צריך יותר מהרמה העליונה, אפשר לכתוב למכירות דרך notholy.com/enterprise.

שגיאות