होम/एजेंट्स
OpenAI-संगत API परीक्षक: किसी भी एंडपॉइंट की जाँच करें

एक एंडपॉइंट की जाँच करने के लिए आपको एक विशेष openai संगत API परीक्षक की आवश्यकता नहीं है। चार अनुरोध और एक छोटा Python स्क्रिप्ट आपको बताएंगे कि क्या बेस URL वास्तव में OpenAI API की तरह व्यवहार करता है।
अपडेट किया गया
मुख्य बिंदु
- GET /v1/models से शुरू करें, फिर एक न्यूनतम चैट पूर्णता।
- स्ट्रीमिंग का परीक्षण करें और स्ट्रीम के अंत में उपयोग पढ़ें।
- त्रुटियां कैसी दिखती हैं, यह देखने के लिए जानबूझकर खराब अनुरोध भेजें।
- एक स्क्रिप्ट सभी जांच चला सकती है और पास या फेल प्रिंट कर सकती है।
चार मायने रखने वाली जांच
बहुत से सेवाएं कहती हैं कि वे OpenAI-संगत हैं। कुछ केवल चैट मार्ग की नकल करते हैं, कुछ त्रुटि प्रारूप बदल देते हैं, कुछ स्ट्रीमिंग विवरण छोड़ देते हैं। एक परीक्षक को यह पुष्टि करनी चाहिए कि आपका क्लाइंट कोड किस पर निर्भर करता है:
- प्रमाणीकरण और खोज:
GET /v1/modelsBearer कुंजी के साथ। - एक न्यूनतम चैट पूर्णता:
POST /v1/chat/completions। - स्ट्रीमिंग:
stream: trueके साथ वही कॉल। - त्रुटियाँ: एक खराब कुंजी, एक खराब मॉडल नाम और एक विकृत बॉडी के लिए क्या लौटता है।
नीचे दिए गए उदाहरण इस साइट के एंडपॉइंट, https://api.uncensoredapis.com/v1, और मॉडल uncensored का उपयोग करते हैं। किसी भी चीज़ का परीक्षण करने के लिए बेस URL और मॉडल बदलें। यदि आपके पास अभी तक कोई कुंजी नहीं है, तो यहाँ एक बनाएँ; नए खातों को बिना कार्ड के $0.50 ट्रायल क्रेडिट प्राप्त कर सकते हैं।
जांच 1: curl के साथ मॉडल सूचीबद्ध करें
export API_KEY="sk-your-key"
curl -s -w "\nHTTP %{http_code}\n" \
https://api.uncensoredapis.com/v1/models \
-H "Authorization: Bearer $API_KEY"
HTTP 200 और data ऐरे वाले JSON ऑब्जेक्ट की अपेक्षा करें। हर आइटम में एक id होता है। यहाँ वह ID जिसे आप हर जगह इस्तेमाल करेंगे, uncensored है। यह एक कॉल DNS, TLS, पाथ प्रीफ़िक्स और कुंजी की जाँच करती है, इसलिए अगर यह विफल हो जाए तो कुछ और टेस्ट करने का कोई मतलब नहीं है। आम कारण हैं: बेस URL में /v1 का न होना, अंत में एक अतिरिक्त स्लैश, या न्यूलाइन के साथ पेस्ट की गई कुंजी।
जांच 2: एक न्यूनतम चैट अनुरोध
curl -s https://api.uncensoredapis.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"uncensored","messages":[{"role":"user","content":"Reply with the word ok."}]}'
प्रतिक्रिया में, choices[0].message.content, finish_reason और usage ऑब्जेक्ट को प्रॉम्प्ट और कंप्लीशन टोकन गणनाओं के साथ जाँचें। हेडर का भी उपयोग करें: -i जोड़ें और X-Request-Id, X-Balance-USD, X-RateLimit-Limit-Requests और X-RateLimit-Limit-Concurrency के लिए देखें। वे लॉगिंग और बाद में लागत ट्रैकिंग के लिए उपयोगी हैं। वही सेवा POST /v1/responses भी स्वीकार करती है, जिसका विवरण API रेफ़रेंस एक्सप्लेनर में है।
जांच 3: एक पायथन स्क्रिप्ट जो सब कुछ परीक्षण करती है
पहली नज़र के लिए Curl ठीक है, लेकिन एक स्क्रिप्ट बेहतर है जिसे आप हर बदलाव के बाद रन कर सकें। यह आधिकारिक openai पैकेज का उपयोग करता है और प्रत्येक जाँच की रिपोर्ट करता है।
import sys
from openai import OpenAI, AuthenticationError, NotFoundError, RateLimitError
BASE = "https://api.uncensoredapis.com/v1"
MODEL = "uncensored"
client = OpenAI(base_url=BASE, api_key=sys.argv[1])
def check(name, fn):
try:
print("PASS", name, "-", fn())
except Exception as e:
print("FAIL", name, "-", type(e).__name__, e)
def models():
ids = [m.id for m in client.models.list().data]
assert MODEL in ids, ids
return ids
def chat():
r = client.chat.completions.create(
model=MODEL, messages=[{"role": "user", "content": "Say ok."}])
assert r.choices[0].message.content
return r.usage.total_tokens
def stream():
parts, usage = [], None
for c in client.chat.completions.create(
model=MODEL, stream=True,
messages=[{"role": "user", "content": "Count to five."}]):
if c.choices and c.choices[0].delta.content:
parts.append(c.choices[0].delta.content)
usage = getattr(c, "usage", None) or usage
assert parts
return f"{len(parts)} chunks, usage={usage}"
def bad_model():
try:
client.chat.completions.create(
model="no-such-model", messages=[{"role": "user", "content": "hi"}])
except NotFoundError as e:
return "NotFoundError " + str(e.status_code)
except Exception as e:
return type(e).__name__
raise AssertionError("bad model name was accepted")
for n, f in [("models", models), ("chat", chat), ("stream", stream), ("bad model", bad_model)]:
check(n, f)
इसे python tester.py sk-your-key के साथ चलाएँ। खराब मॉडल जाँच उस त्रुटि वर्ग को रिकॉर्ड करती है जो आपका SDK फेंकता है, जो स्वयं में उपयोगी जानकारी है। यदि सेवा एक अज्ञात मॉडल नाम को स्वीकार करती है, तो यह शायद उसे रूटिंग या एलियासिंग कर रही है, और आपको यह पता लगाना चाहिए कि कैसे।
जांच 4: त्रुटि हैंडलिंग
आपकी एप्लिकेशन विफलताओं को देखेगी, इसलिए उन्हें जानबूझकर देखें।
- खराब कुंजी: कुंजी में एक अक्षर बदलें। HTTP 401 और एक JSON त्रुटि बॉडी की उम्मीद करें, HTML पेज नहीं।
- गलत फॉर्मेट बॉडी:
{"model":"uncensored"}बिना संदेशों के भेजें। एक पठनीय संदेश के साथ 4xx की उम्मीद करें। - रेट लिमिट्स: यह API प्रति मिनट अनुरोधों के लिए
rate_limitedकोड के साथ 429 लौटाता है औरconcurrencyके लिए बहुत सारे समानांतर अनुरोधों के लिए। एक अस्थायी ओवरलोड भी 429 लौटाता है,Retry-After: 5के साथ।
एक अच्छा क्लाइंट 429 को प्रतीक्षा और पुनः प्रयास करने के संकेत के रूप में मानता है, और 429 के अलावा 4xx को ठीक करने वाले बग के रूप में। रीट्राई नियम को एक बार लिखें और दस अनुरोधों को एक साथ चलाकर उसे टेस्ट करें। प्रत्येक कुंजी प्रकार के लिए लिमिट त्रुटियाँ और रेट लिमिट पृष्ठ पर हैं।
संगतता में अंतर जो खोजने चाहिए
चारों जाँच पास करना एक अच्छी शुरुआत है। ये वे स्थान हैं जहाँ क्लोन सबसे अक्सर अलग होते हैं, इसलिए यदि आपका ऐप किसी एक पर निर्भर करता है तो प्रत्येक को परखें:
- पैरामीटर:
temperature,top_p,stop,seedऔर पेनल्टीज़ भेजें। कुछ सर्वर उन्हें चुपचाप अनदेखा कर देते हैं। एक निश्चितseedऔर कम तापमान के साथ एक ही प्रॉम्प्ट को तीन बार चलाएँ और आउटपुट की तुलना करें। - संदेश भूमिकाएँ: पहले एक
systemसंदेश आज़माएँ, फिर एक लंबी बहु-चरण (multi-turn) इतिहास। जाँचें कि सिस्टम संदेश वास्तव में व्यवहार को बदल रहा है या नहीं। - टूल कॉल: एक फ़ंक्शन को कॉल करने का अनुरोध करें जिसे आपने परिभाषित किया है, फिर परिणाम को एक
role: "tool"संदेश के रूप में भेजें। स्ट्रीमिंग मोड में,tool_callsटुकड़ों में आते हैं जिन्हें आपको जोड़ना होगा। - JSON मोड:
response_formatको{"type":"json_object"}पर सेट करें और 20 उत्तरों को पार्स करें। - बॉडी का आकार: यह API 8 MB तक के बॉडी स्वीकार करता है। सीमा से अधिक अनुरोध एक स्पष्ट 4xx त्रुटि के साथ विफल होना चाहिए, लटकना नहीं चाहिए।
प्रत्येक अंतर को नोट करें और निर्णय लें कि क्या आपका कोड उसमें काम कर सकता है। नोट्स स्क्रिप्ट के बगल में रखें, क्योंकि अगली बार प्रदाता अपडेट भेजता है तो आप वही जाँच फिर से चलाना और तुलना करना चाहेंगे। यदि आप कई प्रदाताओं का परीक्षण करते हैं, तो प्रत्येक के विरुद्ध समान स्क्रिप्ट चलाएँ और अंतर को स्पष्ट रूप से दिखाने के लिए आउटपुट को एक तालिका में रखें। एक गायब पैरामीटर आमतौर पर हानिरहित होता है। एक अलग त्रुटि प्रारूप या टूटी हुई स्ट्रीमिंग आमतौर पर नहीं होती।
पास करने से क्या सिद्ध नहीं होता
एक सफल रन प्रोटोकॉल संगतता दिखाता है। यह उत्तर की गुणवत्ता, लोड के तहत गति या कीमत के बारे में कुछ नहीं बताता। उन पर अपने प्रॉम्प्ट्स पर अलग-अलग परीक्षण की आवश्यकता है। दो त्वरित जोड़ मूल्यवान हैं: एक लंबे प्रॉम्प्ट के साथ अनुरोध जो आपके वास्तविक आकार के करीब है (इस एंडपॉइंट की 100,000-टोकन कॉन्टेक्स्ट विंडो है), और यदि आपका ऐप एजेंट्स का उपयोग करता है तो एक टूल-कॉलिंग अनुरोध।
इसके अलावा, आप किसके विरुद्ध परीक्षण कर रहे हैं, इस बात को ध्यान में रखें। यह सेवा एक ओपन-वेट मॉडल होस्ट करती है, जिसे कानूनी वयस्क उपयोग के लिए बिना सामग्री अस्वीकृति के उत्तर देने के लिए ट्यून्ड किया गया है। यह केवल टेक्स्ट है और किसी मॉडल विक्रेता की आधिकारिक API नहीं है। कीमतें $0.15 प्रति 1M इनपुट टोकन और $0.50 प्रति 1M आउटपुट टोकन हैं, जो मूल्य निर्धारण पृष्ठ पर सूचीबद्ध हैं, और विफल अनुरोधों के लिए चार्ज नहीं किया जाता है, इसलिए बार-बार टेस्ट रन का खर्च बहुत कम होता है। दस्तावेज़ में प्रत्येक समर्थित पैरामीटर सूचीबद्ध है।
अधिक गाइड
प्रश्न और उत्तर
क्या एक OpenAI-संगत एंडपॉइंट को परीक्षण करने के लिए कोई ऑनलाइन टूल है?
कोई भी HTTP क्लाइंट काम करता है: curl, Postman, या OpenAI SDK के साथ एक छोटी स्क्रिप्ट। स्क्रिप्ट का लाभ यह है कि आप प्रत्येक परिवर्तन के बाद इसे फिर से चला सकते हैं।
मुझे SDK में कौन सा बेस URL डालना चाहिए?
/v1 सहित पूर्ण URL का उपयोग करें, उदाहरण के लिए https://api.uncensoredapis.com/v1। /chat/completions न जोड़ें, क्योंकि SDK इसे स्वचालित रूप से जोड़ देता है।
मुझे एक सही दिखने वाले अनुरोध पर 404 क्यों मिल रहा है?
सबसे आम कारण /v1 के बिना या दोहराए गए पथ के साथ एक बेस URL है। इसे पहले /v1/models पर GET करके जाँचें।
परीक्षण के दौरान शेष बैलेंस की जाँच कैसे करें?
किसी भी प्रतिक्रिया पर X-Balance-USD हेडर पढ़ें, या GET /v1/balance कॉल करें।
आपकी कुंजी बस एक फ़ॉर्म दूर है
एक खाता बनाएँ, कुंजी कॉपी करें, बेस URL बदलें। सेटअप यही है।