หน้าแรก/เอเจนต์
เครื่องทดสอบ API ที่เข้ากันได้กับ OpenAI: ตรวจสอบเอนด์พอยต์ใดก็ได้

คุณไม่จำเป็นต้องใช้เครื่องทดสอบ API ที่เข้ากันได้กับ OpenAI พิเศษเพื่อตรวจสอบเอนด์พอยต์ คำขอสี่รายการและสคริปต์ Python สั้นๆ บอกคุณได้ว่า Base URL ทำงานเหมือน API ของ OpenAI จริงหรือไม่
อัปเดต
ประเด็นสำคัญ
- เริ่มด้วย GET /v1/models แล้วตามด้วยการสร้างการสนทนาแบบพื้นฐานที่สุด
- ทดสอบการสตรีมมิงและอ่านข้อมูลการใช้งานที่ส่วนท้ายของสตรีม
- ส่งคำขอที่ผิดไปโดยเจตนาเพื่อดูว่าข้อผิดพลาดปรากฏอย่างไร
- สคริปต์เดียวสามารถรันการตรวจสอบทั้งหมดและแสดงผลผ่านหรือล้มเหลว
การตรวจสอบสี่อย่างที่สำคัญ
บริการจำนวนมากอ้างว่าเข้ากันได้กับ OpenAI บางบริการคัดลอกเฉพาะเส้นทางแชท บางบริการเปลี่ยนรูปแบบข้อผิดพลาด บางบริการละรายละเอียดการสตรีมมิง ผู้ทดสอบควรยืนยันสิ่งที่โค้ดไคลเอนต์ของคุณพึ่งพา:
- การตรวจสอบสิทธิ์และการค้นหา:
GET /v1/modelsโดยใช้คีย์ Bearer - การสร้างข้อความสนทนาแบบพื้นฐาน:
POST /v1/chat/completions - สตรีมมิง: การเรียกใช้แบบเดียวกันพร้อม
stream: true - ข้อผิดพลาด: สิ่งที่จะได้รับเมื่อใช้คีย์ที่ไม่ถูกต้อง ชื่อโมเดลที่ไม่ถูกต้อง และ body ที่ผิดรูปแบบ
ตัวอย่างด้านล่างใช้เอนด์พอยต์ของเว็บไซต์นี้ https://api.uncensoredapis.com/v1 และโมเดล uncensored เปลี่ยนเป็น Base URL และโมเดลของสิ่งที่คุณกำลังทดสอบ หากคุณยังไม่มีคีย์ สร้างที่นี่; บัญชีใหม่สามารถรับเครดิตทดลองใช้ฟรีมูลค่า $0.50 ได้โดยไม่ต้องใช้บัตร
การตรวจสอบที่ 1: แสดงรายการโมเดลด้วย curl
export API_KEY="sk-your-key"
curl -s -w "\nHTTP %{http_code}\n" \
https://api.uncensoredapis.com/v1/models \
-H "Authorization: Bearer $API_KEY"
คาดหวัง HTTP 200 และวัตถุ JSON ที่มีอาร์เรย์ data แต่ละรายการมี id ที่นี่ ID ที่คุณจะใช้อย่างแพร่หลายคือ uncensored การเรียกใช้ครั้งเดียวนี้ตรวจสอบ DNS, TLS, prefix ของพาธและคีย์ ดังนั้นหากมันล้มเหลว ก็ไม่คุ้มค่าที่จะทดสอบสิ่งอื่นต่อ สาเหตุทั่วไปคือ Base URL ขาด /v1, มีเครื่องหมายทับที่ส่วนท้ายเกินมา หรือคีย์ที่วางมาพร้อมกับการขึ้นบรรทัดใหม่
การตรวจสอบที่ 2: คำขอแชทพื้นฐานหนึ่งคำขอ
curl -s https://api.uncensoredapis.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"uncensored","messages":[{"role":"user","content":"Reply with the word ok."}]}'
ในคำตอบ ให้ตรวจสอบ choices[0].message.content, finish_reason และวัตถุ usage พร้อมจำนวนโทเคนพรอมต์และโทเคนคอมพลีชัน ใช้ส่วนหัวด้วย: เพิ่ม -i และมองหา X-Request-Id, X-Balance-USD, X-RateLimit-Limit-Requests และ X-RateLimit-Limit-Concurrency ซึ่งสะดวกสำหรับการบันทึกและติดตามต้นทุนในภายหลัง บริการเดียวกันยังรองรับ POST /v1/responses ซึ่งอธิบายไว้ใน คำอธิบายอ้างอิง API
การตรวจสอบที่ 3: สคริปต์ Python ที่ทดสอบทุกอย่าง
Curl เหมาะสำหรับการดูเบื้องต้น แต่สคริปต์ที่คุณสามารถรันซ้ำได้หลังจากการเปลี่ยนแปลงทุกครั้งจะดีกว่า สคริปต์นี้ใช้แพ็กเกจ openai ทางการและรายงานผลการตรวจสอบแต่ละรายการ
import sys
from openai import OpenAI, AuthenticationError, NotFoundError, RateLimitError
BASE = "https://api.uncensoredapis.com/v1"
MODEL = "uncensored"
client = OpenAI(base_url=BASE, api_key=sys.argv[1])
def check(name, fn):
try:
print("PASS", name, "-", fn())
except Exception as e:
print("FAIL", name, "-", type(e).__name__, e)
def models():
ids = [m.id for m in client.models.list().data]
assert MODEL in ids, ids
return ids
def chat():
r = client.chat.completions.create(
model=MODEL, messages=[{"role": "user", "content": "Say ok."}])
assert r.choices[0].message.content
return r.usage.total_tokens
def stream():
parts, usage = [], None
for c in client.chat.completions.create(
model=MODEL, stream=True,
messages=[{"role": "user", "content": "Count to five."}]):
if c.choices and c.choices[0].delta.content:
parts.append(c.choices[0].delta.content)
usage = getattr(c, "usage", None) or usage
assert parts
return f"{len(parts)} chunks, usage={usage}"
def bad_model():
try:
client.chat.completions.create(
model="no-such-model", messages=[{"role": "user", "content": "hi"}])
except NotFoundError as e:
return "NotFoundError " + str(e.status_code)
except Exception as e:
return type(e).__name__
raise AssertionError("bad model name was accepted")
for n, f in [("models", models), ("chat", chat), ("stream", stream), ("bad model", bad_model)]:
check(n, f)
รันด้วยคำสั่ง python tester.py sk-your-key การตรวจสอบโมเดลที่ไม่ถูกต้องจะบันทึกคลาสข้อผิดพลาดที่ SDK ของคุณยกขึ้น ซึ่งถือเป็นข้อมูลที่มีคุณค่าในตัวเอง หากบริการยอมรับชื่อโมเดลที่ไม่รู้จัก แสดงว่าบริการอาจทำการเปลี่ยนเส้นทางหรือสร้างชื่อแทน (alias) และคุณควรค้นหาวิธีการนั้น
การตรวจสอบที่ 4: การจัดการข้อผิดพลาด
แอปพลิเคชันของคุณจะพบความล้มเหลว ดังนั้นจงตรวจสอบมันโดยเจตนา
- คีย์ที่ไม่ถูกต้อง: เปลี่ยนหนึ่งตัวอักษรในคีย์ คาดหวัง HTTP 401 และบอดีข้อผิดพลาด JSON ไม่ใช่หน้า HTML
- Body ผิดรูปแบบ: ส่ง
{"model":"uncensored"}โดยไม่มี messages คาดผลลัพธ์เป็น 4xx พร้อมข้อความที่อ่านได้ - ขีดจำกัดอัตรา: API นี้ส่ง 429 พร้อมรหัส
rate_limitedสำหรับคำขอต่อนาที และconcurrencyสำหรับคำขอพร้อมกันมากเกินไป การโอเวอร์โหลดชั่วคราวยังส่ง 429 พร้อมRetry-After: 5
ไคลเอนต์ที่ดีจะจัดการ 429 เป็นสัญญาณให้รอและลองใหม่ และ 4xx อื่นๆ ที่ไม่ใช่ 429 เป็นข้อบกพร่องที่ต้องแก้ไข เขียนกฎการลองใหม่เพียงครั้งเดียวแล้วทดสอบโดยการส่งคำขอสิบคำขอพร้อมกัน ขีดจำกัดต่อประเภทคีย์อยู่ที่ หน้าข้อผิดพลาดและขีดจำกัดอัตรา
ช่องว่างความเข้ากันได้ที่ควรตรวจสอบ
การผ่านทั้งสี่การทดสอบนี้เป็นจุดเริ่มต้นที่ดี จุดเหล่านี้คือจุดที่คลอนมักแตกต่างที่สุด ดังนั้นให้ตรวจสอบแต่ละจุดหากแอปของคุณพึ่งพาสิ่งนั้น:
- พารามิเตอร์: ส่ง
temperature,top_p,stop,seedและค่าปรับโทษ เซิร์ฟเวอร์บางตัวอาจเพิกเฉยต่อค่าเหล่านี้โดยไม่ได้แจ้ง ให้รันพรอมต์เดียวกันสามครั้งด้วยseedคงที่และอุณหภูมิต่ำ แล้วเปรียบเทียบผลลัพธ์ - บทบาทของข้อความ: ลองส่งข้อความ
systemก่อน แล้วตามด้วยประวัติการสนทนาหลายรอบ ตรวจสอบว่าข้อความระบบเปลี่ยนพฤติกรรมของโมเดลจริงหรือไม่ - การเรียกใช้เครื่องมือ: ขอการเรียกใช้ฟังก์ชันที่คุณกำหนด แล้วส่งผลลัพธ์กลับเป็นข้อความ
role: "tool"ในโหมดสตรีมมิงtool_callsจะมาแบบแยกส่วนที่คุณต้องนำมารวมกัน - โหมด JSON: ตั้งค่า
response_formatเป็น{"type":"json_object"}แล้วแยกวิเคราะห์ผลลัพธ์ 20 รายการ - ขนาดของ body: API นี้รองรับ body ขนาดสูงสุด 8 MB คำขอที่เกินขีดจำกัดควรล้มเหลวพร้อมรหัสข้อผิดพลาด 4xx ที่ชัดเจน ไม่ใช่การค้างรอ
จดบันทึกช่องว่างที่พบแต่ละจุดและตัดสินใจว่าโค้ดของคุณสามารถหาทางออกได้หรือไม่ เก็บบันทึกไว้ข้างสคริปต์ เพราะเมื่อผู้ให้บริการอัปเดตครั้งต่อไป คุณต้องการรันการทดสอบเดียวกันอีกครั้งและเปรียบเทียบ หากทดสอบผู้ให้บริการหลายราย ให้รันสคริปต์เดียวกันกับแต่ละรายและเก็บผลลัพธ์ในตาราง เพื่อให้เห็นความแตกต่างได้ทันทีโดยไม่ต้องค้นหาจากความจำ พารามิเตอร์ที่ขาดหายไปมักไม่ส่งผลกระทบ แต่รูปแบบข้อผิดพลาดที่แตกต่างหรือสตรีมมิงที่ทำงานผิดปกติมักเป็นปัญหา
สิ่งที่การผ่านการทดสอบไม่ได้พิสูจน์
การรันผ่านสีเขียวแสดงถึงความเข้ากันได้ของโปรโตคอล แต่ไม่ได้บอกอะไรเกี่ยวกับคุณภาพคำตอบ ความเร็วเมื่อรับภาระสูง หรือราคา สิ่งเหล่านี้ต้องการการทดสอบแยกต่างหากด้วยพรอมต์ของคุณเอง การเพิ่มสองอย่างอย่างรวดเร็วนี้มีค่า: คำขอที่มีพรอมต์ยาวใกล้กับขนาดจริงของคุณ (เอนด์พอยต์นี้มีหน้าต่างบริบท 100,000 โทเคน) และคำขอการเรียกใช้เครื่องมือหากแอปของคุณใช้เอเจนต์
โปรดจำไว้ว่าคุณกำลังทดสอบกับบริการใด บริการนี้โฮสต์โมเดลแบบเปิดน้ำหนักเพียงตัวเดียว ซึ่งปรับแต่งให้ตอบโดยไม่มีการปฏิเสธเนื้อหาสำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย รองรับเฉพาะข้อความและไม่ใช่ API ทางการของซัพพลายเออร์โมเดลใด ราคาอยู่ที่ $0.15 ต่อ 1M input tokens และ $0.50 ต่อ 1M output tokens ซึ่งแสดงใน หน้าราคา และคำขอที่ล้มเหลวจะไม่ถูกเรียกเก็บเงิน ดังนั้นการรันทดสอบซ้ำๆ จึงมีต้นทุนต่ำมาก เอกสาร ระบุพารามิเตอร์ที่รองรับทั้งหมด
คู่มือเพิ่มเติม
ถาม-ตอบ
มีเครื่องมือออนไลน์สำหรับทดสอบเอนด์พอยต์ที่เข้ากันได้กับ OpenAI หรือไม่?
ไคลเอนต์ HTTP ใดก็ได้ใช้งานได้: curl, Postman หรือสคริปต์สั้นๆ ด้วย OpenAI SDK ข้อได้เปรียบของสคริปต์คือคุณสามารถรันใหม่ได้หลังจากการเปลี่ยนแปลงทุกครั้ง
ฉันควรใส่ Base URL ใดใน SDK?
ใช้ URL เต็มรวมถึง /v1 เช่น https://api.uncensoredapis.com/v1 อย่าเพิ่ม /chat/completions เนื่องจาก SDK จะทำการ append (ต่อท้าย) ให้เอง
ทำไมฉันจึงได้รับ 404 จากคำขอที่ดูถูกต้อง?
สาเหตุที่พบบ่อยที่สุดคือ URL ฐานที่ไม่มี /v1 หรือมีเส้นทางซ้ำ ตรวจสอบด้วย GET ไปยัง /v1/models ก่อน
ฉันจะตรวจสอบยอดคงเหลือที่เหลือขณะทดสอบได้อย่างไร?
อ่านส่วนหัว X-Balance-USD จากคำตอบใดก็ได้ หรือเรียก GET /v1/balance
คีย์ของคุณอยู่ห่างแค่แบบฟอร์มเดียว
สร้างบัญชี คัดลอกคีย์ และเปลี่ยน base URL นั่นคือการตั้งค่าทั้งหมด