TH ▾

API LLM uncensored ที่เข้ากันได้กับ OpenAIuncensoredapis.com

หน้าแรกเอเจนต์

เครื่องทดสอบ API ที่เข้ากันได้กับ OpenAI: ตรวจสอบเอนด์พอยต์ใดก็ได้

เทอร์มินัลส่งคำขอทดสอบไปยังกล่อง API gateway แต่ละกล่องแสดงเครื่องหมายถูกสีเขียว

คุณไม่จำเป็นต้องใช้เครื่องทดสอบ API ที่เข้ากันได้กับ OpenAI พิเศษเพื่อตรวจสอบเอนด์พอยต์ คำขอสี่รายการและสคริปต์ Python สั้นๆ บอกคุณได้ว่า Base URL ทำงานเหมือน API ของ OpenAI จริงหรือไม่

อัปเดต

ประเด็นสำคัญ

  1. เริ่มด้วย GET /v1/models แล้วตามด้วยการสร้างการสนทนาแบบพื้นฐานที่สุด
  2. ทดสอบการสตรีมมิงและอ่านข้อมูลการใช้งานที่ส่วนท้ายของสตรีม
  3. ส่งคำขอที่ผิดไปโดยเจตนาเพื่อดูว่าข้อผิดพลาดปรากฏอย่างไร
  4. สคริปต์เดียวสามารถรันการตรวจสอบทั้งหมดและแสดงผลผ่านหรือล้มเหลว

การตรวจสอบสี่อย่างที่สำคัญ

บริการจำนวนมากอ้างว่าเข้ากันได้กับ OpenAI บางบริการคัดลอกเฉพาะเส้นทางแชท บางบริการเปลี่ยนรูปแบบข้อผิดพลาด บางบริการละรายละเอียดการสตรีมมิง ผู้ทดสอบควรยืนยันสิ่งที่โค้ดไคลเอนต์ของคุณพึ่งพา:

  1. การตรวจสอบสิทธิ์และการค้นหา: GET /v1/models โดยใช้คีย์ Bearer
  2. การสร้างข้อความสนทนาแบบพื้นฐาน: POST /v1/chat/completions
  3. สตรีมมิง: การเรียกใช้แบบเดียวกันพร้อม stream: true
  4. ข้อผิดพลาด: สิ่งที่จะได้รับเมื่อใช้คีย์ที่ไม่ถูกต้อง ชื่อโมเดลที่ไม่ถูกต้อง และ body ที่ผิดรูปแบบ

ตัวอย่างด้านล่างใช้เอนด์พอยต์ของเว็บไซต์นี้ https://api.uncensoredapis.com/v1 และโมเดล uncensored เปลี่ยนเป็น Base URL และโมเดลของสิ่งที่คุณกำลังทดสอบ หากคุณยังไม่มีคีย์ สร้างที่นี่; บัญชีใหม่สามารถรับเครดิตทดลองใช้ฟรีมูลค่า $0.50 ได้โดยไม่ต้องใช้บัตร

การตรวจสอบที่ 1: แสดงรายการโมเดลด้วย curl

export API_KEY="sk-your-key"
curl -s -w "\nHTTP %{http_code}\n" \
  https://api.uncensoredapis.com/v1/models \
  -H "Authorization: Bearer $API_KEY"

คาดหวัง HTTP 200 และวัตถุ JSON ที่มีอาร์เรย์ data แต่ละรายการมี id ที่นี่ ID ที่คุณจะใช้อย่างแพร่หลายคือ uncensored การเรียกใช้ครั้งเดียวนี้ตรวจสอบ DNS, TLS, prefix ของพาธและคีย์ ดังนั้นหากมันล้มเหลว ก็ไม่คุ้มค่าที่จะทดสอบสิ่งอื่นต่อ สาเหตุทั่วไปคือ Base URL ขาด /v1, มีเครื่องหมายทับที่ส่วนท้ายเกินมา หรือคีย์ที่วางมาพร้อมกับการขึ้นบรรทัดใหม่

การตรวจสอบที่ 2: คำขอแชทพื้นฐานหนึ่งคำขอ

curl -s https://api.uncensoredapis.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Reply with the word ok."}]}'

ในคำตอบ ให้ตรวจสอบ choices[0].message.content, finish_reason และวัตถุ usage พร้อมจำนวนโทเคนพรอมต์และโทเคนคอมพลีชัน ใช้ส่วนหัวด้วย: เพิ่ม -i และมองหา X-Request-Id, X-Balance-USD, X-RateLimit-Limit-Requests และ X-RateLimit-Limit-Concurrency ซึ่งสะดวกสำหรับการบันทึกและติดตามต้นทุนในภายหลัง บริการเดียวกันยังรองรับ POST /v1/responses ซึ่งอธิบายไว้ใน คำอธิบายอ้างอิง API

การตรวจสอบที่ 3: สคริปต์ Python ที่ทดสอบทุกอย่าง

Curl เหมาะสำหรับการดูเบื้องต้น แต่สคริปต์ที่คุณสามารถรันซ้ำได้หลังจากการเปลี่ยนแปลงทุกครั้งจะดีกว่า สคริปต์นี้ใช้แพ็กเกจ openai ทางการและรายงานผลการตรวจสอบแต่ละรายการ

import sys
from openai import OpenAI, AuthenticationError, NotFoundError, RateLimitError

BASE = "https://api.uncensoredapis.com/v1"
MODEL = "uncensored"
client = OpenAI(base_url=BASE, api_key=sys.argv[1])

def check(name, fn):
    try:
        print("PASS", name, "-", fn())
    except Exception as e:
        print("FAIL", name, "-", type(e).__name__, e)

def models():
    ids = [m.id for m in client.models.list().data]
    assert MODEL in ids, ids
    return ids

def chat():
    r = client.chat.completions.create(
        model=MODEL, messages=[{"role": "user", "content": "Say ok."}])
    assert r.choices[0].message.content
    return r.usage.total_tokens

def stream():
    parts, usage = [], None
    for c in client.chat.completions.create(
            model=MODEL, stream=True,
            messages=[{"role": "user", "content": "Count to five."}]):
        if c.choices and c.choices[0].delta.content:
            parts.append(c.choices[0].delta.content)
        usage = getattr(c, "usage", None) or usage
    assert parts
    return f"{len(parts)} chunks, usage={usage}"

def bad_model():
    try:
        client.chat.completions.create(
            model="no-such-model", messages=[{"role": "user", "content": "hi"}])
    except NotFoundError as e:
        return "NotFoundError " + str(e.status_code)
    except Exception as e:
        return type(e).__name__
    raise AssertionError("bad model name was accepted")

for n, f in [("models", models), ("chat", chat), ("stream", stream), ("bad model", bad_model)]:
    check(n, f)

รันด้วยคำสั่ง python tester.py sk-your-key การตรวจสอบโมเดลที่ไม่ถูกต้องจะบันทึกคลาสข้อผิดพลาดที่ SDK ของคุณยกขึ้น ซึ่งถือเป็นข้อมูลที่มีคุณค่าในตัวเอง หากบริการยอมรับชื่อโมเดลที่ไม่รู้จัก แสดงว่าบริการอาจทำการเปลี่ยนเส้นทางหรือสร้างชื่อแทน (alias) และคุณควรค้นหาวิธีการนั้น

การตรวจสอบที่ 4: การจัดการข้อผิดพลาด

แอปพลิเคชันของคุณจะพบความล้มเหลว ดังนั้นจงตรวจสอบมันโดยเจตนา

  • คีย์ที่ไม่ถูกต้อง: เปลี่ยนหนึ่งตัวอักษรในคีย์ คาดหวัง HTTP 401 และบอดีข้อผิดพลาด JSON ไม่ใช่หน้า HTML
  • Body ผิดรูปแบบ: ส่ง {"model":"uncensored"} โดยไม่มี messages คาดผลลัพธ์เป็น 4xx พร้อมข้อความที่อ่านได้
  • ขีดจำกัดอัตรา: API นี้ส่ง 429 พร้อมรหัส rate_limited สำหรับคำขอต่อนาที และ concurrency สำหรับคำขอพร้อมกันมากเกินไป การโอเวอร์โหลดชั่วคราวยังส่ง 429 พร้อม Retry-After: 5

ไคลเอนต์ที่ดีจะจัดการ 429 เป็นสัญญาณให้รอและลองใหม่ และ 4xx อื่นๆ ที่ไม่ใช่ 429 เป็นข้อบกพร่องที่ต้องแก้ไข เขียนกฎการลองใหม่เพียงครั้งเดียวแล้วทดสอบโดยการส่งคำขอสิบคำขอพร้อมกัน ขีดจำกัดต่อประเภทคีย์อยู่ที่ หน้าข้อผิดพลาดและขีดจำกัดอัตรา

ช่องว่างความเข้ากันได้ที่ควรตรวจสอบ

การผ่านทั้งสี่การทดสอบนี้เป็นจุดเริ่มต้นที่ดี จุดเหล่านี้คือจุดที่คลอนมักแตกต่างที่สุด ดังนั้นให้ตรวจสอบแต่ละจุดหากแอปของคุณพึ่งพาสิ่งนั้น:

  • พารามิเตอร์: ส่ง temperature, top_p, stop, seed และค่าปรับโทษ เซิร์ฟเวอร์บางตัวอาจเพิกเฉยต่อค่าเหล่านี้โดยไม่ได้แจ้ง ให้รันพรอมต์เดียวกันสามครั้งด้วย seed คงที่และอุณหภูมิต่ำ แล้วเปรียบเทียบผลลัพธ์
  • บทบาทของข้อความ: ลองส่งข้อความ system ก่อน แล้วตามด้วยประวัติการสนทนาหลายรอบ ตรวจสอบว่าข้อความระบบเปลี่ยนพฤติกรรมของโมเดลจริงหรือไม่
  • การเรียกใช้เครื่องมือ: ขอการเรียกใช้ฟังก์ชันที่คุณกำหนด แล้วส่งผลลัพธ์กลับเป็นข้อความ role: "tool" ในโหมดสตรีมมิง tool_calls จะมาแบบแยกส่วนที่คุณต้องนำมารวมกัน
  • โหมด JSON: ตั้งค่า response_format เป็น {"type":"json_object"} แล้วแยกวิเคราะห์ผลลัพธ์ 20 รายการ
  • ขนาดของ body: API นี้รองรับ body ขนาดสูงสุด 8 MB คำขอที่เกินขีดจำกัดควรล้มเหลวพร้อมรหัสข้อผิดพลาด 4xx ที่ชัดเจน ไม่ใช่การค้างรอ

จดบันทึกช่องว่างที่พบแต่ละจุดและตัดสินใจว่าโค้ดของคุณสามารถหาทางออกได้หรือไม่ เก็บบันทึกไว้ข้างสคริปต์ เพราะเมื่อผู้ให้บริการอัปเดตครั้งต่อไป คุณต้องการรันการทดสอบเดียวกันอีกครั้งและเปรียบเทียบ หากทดสอบผู้ให้บริการหลายราย ให้รันสคริปต์เดียวกันกับแต่ละรายและเก็บผลลัพธ์ในตาราง เพื่อให้เห็นความแตกต่างได้ทันทีโดยไม่ต้องค้นหาจากความจำ พารามิเตอร์ที่ขาดหายไปมักไม่ส่งผลกระทบ แต่รูปแบบข้อผิดพลาดที่แตกต่างหรือสตรีมมิงที่ทำงานผิดปกติมักเป็นปัญหา

สิ่งที่การผ่านการทดสอบไม่ได้พิสูจน์

การรันผ่านสีเขียวแสดงถึงความเข้ากันได้ของโปรโตคอล แต่ไม่ได้บอกอะไรเกี่ยวกับคุณภาพคำตอบ ความเร็วเมื่อรับภาระสูง หรือราคา สิ่งเหล่านี้ต้องการการทดสอบแยกต่างหากด้วยพรอมต์ของคุณเอง การเพิ่มสองอย่างอย่างรวดเร็วนี้มีค่า: คำขอที่มีพรอมต์ยาวใกล้กับขนาดจริงของคุณ (เอนด์พอยต์นี้มีหน้าต่างบริบท 100,000 โทเคน) และคำขอการเรียกใช้เครื่องมือหากแอปของคุณใช้เอเจนต์

โปรดจำไว้ว่าคุณกำลังทดสอบกับบริการใด บริการนี้โฮสต์โมเดลแบบเปิดน้ำหนักเพียงตัวเดียว ซึ่งปรับแต่งให้ตอบโดยไม่มีการปฏิเสธเนื้อหาสำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย รองรับเฉพาะข้อความและไม่ใช่ API ทางการของซัพพลายเออร์โมเดลใด ราคาอยู่ที่ $0.15 ต่อ 1M input tokens และ $0.50 ต่อ 1M output tokens ซึ่งแสดงใน หน้าราคา และคำขอที่ล้มเหลวจะไม่ถูกเรียกเก็บเงิน ดังนั้นการรันทดสอบซ้ำๆ จึงมีต้นทุนต่ำมาก เอกสาร ระบุพารามิเตอร์ที่รองรับทั้งหมด

ถาม-ตอบ

มีเครื่องมือออนไลน์สำหรับทดสอบเอนด์พอยต์ที่เข้ากันได้กับ OpenAI หรือไม่?

ไคลเอนต์ HTTP ใดก็ได้ใช้งานได้: curl, Postman หรือสคริปต์สั้นๆ ด้วย OpenAI SDK ข้อได้เปรียบของสคริปต์คือคุณสามารถรันใหม่ได้หลังจากการเปลี่ยนแปลงทุกครั้ง

ฉันควรใส่ Base URL ใดใน SDK?

ใช้ URL เต็มรวมถึง /v1 เช่น https://api.uncensoredapis.com/v1 อย่าเพิ่ม /chat/completions เนื่องจาก SDK จะทำการ append (ต่อท้าย) ให้เอง

ทำไมฉันจึงได้รับ 404 จากคำขอที่ดูถูกต้อง?

สาเหตุที่พบบ่อยที่สุดคือ URL ฐานที่ไม่มี /v1 หรือมีเส้นทางซ้ำ ตรวจสอบด้วย GET ไปยัง /v1/models ก่อน

ฉันจะตรวจสอบยอดคงเหลือที่เหลือขณะทดสอบได้อย่างไร?

อ่านส่วนหัว X-Balance-USD จากคำตอบใดก็ได้ หรือเรียก GET /v1/balance

คีย์ของคุณอยู่ห่างแค่แบบฟอร์มเดียว

สร้างบัญชี คัดลอกคีย์ และเปลี่ยน base URL นั่นคือการตั้งค่าทั้งหมด