Trang chủ/Agent
Trình kiểm tra API tương thích OpenAI: Xác minh mọi endpoint

Bạn không cần trình kiểm tra API tương thích openai đặc biệt để kiểm tra một endpoint. Bốn yêu cầu và một đoạn script Python ngắn sẽ cho bạn biết liệu một base URL có thực sự hoạt động như API OpenAI hay không.
Cập nhật
Điểm chính
- Bắt đầu với GET /v1/models, sau đó là một lệnh hoàn thành chat tối thiểu.
- Kiểm tra truyền phát và đọc thông tin sử dụng ở cuối luồng.
- Gửi các yêu cầu sai cố ý để xem lỗi trông như thế nào.
- Một script có thể chạy tất cả các lần kiểm tra và in ra kết quả đạt hoặc không đạt.
Bốn kiểm tra quan trọng
Nhiều dịch vụ nói rằng chúng tương thích với OpenAI. Một số chỉ sao chép route chat, một số thay đổi định dạng lỗi, một số bỏ qua chi tiết truyền phát. Một trình kiểm tra nên xác nhận những gì mã client của bạn dựa vào:
- Xác thực và khám phá:
GET /v1/modelsvới khóa Bearer. - Hoàn tất trò chuyện tối giản:
POST /v1/chat/completions. - Truyền phát: cùng một lệnh gọi với
stream: true. - Lỗi: những gì trả về cho một khóa sai, một tên mô hình sai và một thân yêu cầu bị lỗi cú pháp.
Các ví dụ dưới đây sử dụng endpoint của trang web này, https://api.uncensoredapis.com/v1, và mô hình uncensored. Thay thế bằng base URL và mô hình của bất kỳ thứ gì bạn đang kiểm tra. Nếu bạn chưa có khóa, tạo một khóa tại đây; tài khoản mới có thể nhận $0,50 tín dụng dùng thử miễn phí mà không cần thẻ.
Kiểm tra 1: liệt kê các mô hình bằng curl
export API_KEY="sk-your-key"
curl -s -w "\nHTTP %{http_code}\n" \
https://api.uncensoredapis.com/v1/models \
-H "Authorization: Bearer $API_KEY"
Chờ đợi HTTP 200 và một đối tượng JSON với mảng data. Mỗi mục có một id. Ở đây, ID bạn sẽ sử dụng ở mọi nơi là uncensored. Lệnh gọi này kiểm tra DNS, TLS, tiền tố đường dẫn và khóa, vì vậy nếu nó thất bại thì không cần kiểm tra bất cứ thứ gì khác. Các nguyên nhân thường gặp là thiếu /v1 trong base URL, dấu gạch chéo cuối thừa, hoặc khóa được dán kèm theo ký tự xuống dòng.
Kiểm tra 2: một yêu cầu chat tối thiểu
curl -s https://api.uncensoredapis.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"uncensored","messages":[{"role":"user","content":"Reply with the word ok."}]}'
Trong phản hồi, hãy kiểm tra choices[0].message.content, finish_reason và đối tượng usage với số lượng token prompt và hoàn thành. Sử dụng các header: thêm -i và tìm X-Request-Id, X-Balance-USD, X-RateLimit-Limit-Requests và X-RateLimit-Limit-Concurrency. Chúng hữu ích cho việc ghi log và theo dõi chi phí sau này. Dịch vụ này cũng chấp nhận POST /v1/responses, điều mà trang giải thích tham chiếu API đề cập đến.
Kiểm tra 3: một script Python kiểm tra mọi thứ
Curl thì ổn cho lần xem đầu tiên, nhưng một script bạn có thể chạy lại sau mỗi lần thay đổi thì tốt hơn. Script này sử dụng gói openai chính thức và báo cáo từng kiểm tra.
import sys
from openai import OpenAI, AuthenticationError, NotFoundError, RateLimitError
BASE = "https://api.uncensoredapis.com/v1"
MODEL = "uncensored"
client = OpenAI(base_url=BASE, api_key=sys.argv[1])
def check(name, fn):
try:
print("PASS", name, "-", fn())
except Exception as e:
print("FAIL", name, "-", type(e).__name__, e)
def models():
ids = [m.id for m in client.models.list().data]
assert MODEL in ids, ids
return ids
def chat():
r = client.chat.completions.create(
model=MODEL, messages=[{"role": "user", "content": "Say ok."}])
assert r.choices[0].message.content
return r.usage.total_tokens
def stream():
parts, usage = [], None
for c in client.chat.completions.create(
model=MODEL, stream=True,
messages=[{"role": "user", "content": "Count to five."}]):
if c.choices and c.choices[0].delta.content:
parts.append(c.choices[0].delta.content)
usage = getattr(c, "usage", None) or usage
assert parts
return f"{len(parts)} chunks, usage={usage}"
def bad_model():
try:
client.chat.completions.create(
model="no-such-model", messages=[{"role": "user", "content": "hi"}])
except NotFoundError as e:
return "NotFoundError " + str(e.status_code)
except Exception as e:
return type(e).__name__
raise AssertionError("bad model name was accepted")
for n, f in [("models", models), ("chat", chat), ("stream", stream), ("bad model", bad_model)]:
check(n, f)
Chạy nó với python tester.py sk-your-key. Kiểm tra mô hình sai ghi lại bất kỳ lớp lỗi nào mà SDK của bạn ném ra, đây là thông tin hữu ích. Nếu dịch vụ chấp nhận một tên mô hình không xác định, có lẽ nó đang định tuyến hoặc alias hóa nó, và bạn nên tìm hiểu cách thức hoạt động.
Kiểm tra 4: xử lý lỗi
Ứng dụng của bạn sẽ gặp lỗi, vì vậy hãy chủ động xem xét chúng.
- Khóa sai: thay đổi một ký tự trong khóa. Mong đợi HTTP 401 và thân lỗi JSON, không phải trang HTML.
- Thân bị lỗi cú pháp: gửi
{"model":"uncensored"}mà không có messages. Mong đợi một lỗi 4xx với thông báo dễ đọc. - Giới hạn tốc độ: API này trả về 429 với mã
rate_limitedcho các yêu cầu mỗi phút vàconcurrencycho quá nhiều yêu cầu đồng thời. Quá tải tạm thời cũng trả về 429, vớiRetry-After: 5.
Một client tốt coi 429 là tín hiệu để chờ và thử lại, và các lỗi 4xx khác 429 là lỗi cần sửa. Viết quy tắc thử lại một lần và kiểm tra nó bằng cách gửi mười yêu cầu cùng lúc. Giới hạn theo loại khóa có trên trang lỗi và giới hạn tốc độ.
Các khoảng trống tương thích cần lưu ý
Vượt qua bốn kiểm tra là một khởi đầu tốt. Đây là những nơi mà các bản sao thường khác biệt nhất, vì vậy hãy tác động vào từng điểm nếu ứng dụng của bạn phụ thuộc vào nó:
- Tham số: gửi
temperature,top_p,stop,seedvà các hình phạt. Một số máy chủ bỏ qua chúng một cách im lặng. Chạy cùng một prompt ba lần vớiseedcố định và nhiệt độ thấp và so sánh các đầu ra. - Vai trò tin nhắn: hãy thử một tin nhắn
systemtrước, sau đó là lịch sử hội thoại nhiều lượt dài. Kiểm tra xem tin nhắn hệ thống có thực sự thay đổi hành vi không. - Gọi hàm: yêu cầu gọi một hàm do bạn xác định, sau đó gửi lại kết quả dưới dạng tin nhắn
role: "tool". Ở chế độ truyền phát (streaming),tool_callsđến dưới dạng các mảnh mà bạn phải nối lại. - Chế độ JSON: đặt
response_formatthành{"type":"json_object"}và phân tích 20 phản hồi. - Kích thước thân: API này chấp nhận thân yêu cầu lên đến 8 MB. Một yêu cầu vượt quá giới hạn sẽ thất bại với mã lỗi 4xx rõ ràng, chứ không bị treo.
Ghi lại từng khoảng trống bạn tìm thấy và quyết định xem mã của bạn có thể khắc phục nó hay không. Giữ các ghi chú bên cạnh script, vì lần sau nhà cung cấp phát hành bản cập nhật, bạn sẽ muốn chạy lại các kiểm tra tương tự và so sánh. Nếu bạn kiểm tra nhiều nhà cung cấp, hãy chạy cùng một script trên từng nhà cung cấp và giữ đầu ra trong một bảng, để các khác biệt hiển thị rõ ràng thay vì bị ẩn trong bộ nhớ. Một tham số bị thiếu thường vô hại. Một định dạng lỗi khác hoặc truyền phát bị hỏng thường thì không.
Những gì việc pass không chứng minh
Một lần chạy màu xanh lá cho thấy tương thích giao thức. Nó không nói gì về chất lượng câu trả lời, tốc độ khi tải cao hoặc giá cả. Những điều đó cần các bài kiểm tra riêng trên các prompt của chính bạn. Hai bổ sung nhanh đáng giá là: một yêu cầu với một prompt dài gần kích thước thực tế của bạn (endpoint này có cửa sổ ngữ cảnh 100.000 token), và một yêu cầu gọi công cụ nếu ứng dụng của bạn sử dụng agents.
Bạn cũng cần lưu ý những gì bạn đang kiểm tra với. Dịch vụ này cung cấp một mô hình trọng số mở, được tinh chỉnh để trả lời mà không từ chối nội dung cho mục đích người trưởng thành hợp pháp. Chỉ hỗ trợ văn bản và không phải là API chính thức của bất kỳ nhà cung cấp mô hình nào. Giá là $0,15 cho mỗi 1M token đầu vào và $0,50 cho mỗi 1M token đầu ra, được liệt kê trên trang giá cả, và các yêu cầu thất bại không được tính phí, nên các lần chạy kiểm tra lặp lại có chi phí rất thấp. tài liệu liệt kê mọi tham số được hỗ trợ.
Hướng dẫn khác
Hỏi đáp
Có công cụ trực tuyến nào để kiểm tra endpoint tương thích OpenAI không?
Bất kỳ trình khách HTTP nào cũng hoạt động: curl, Postman hoặc một script ngắn với SDK OpenAI. Lợi thế của một script là bạn có thể chạy lại nó sau mỗi lần thay đổi.
Tôi nên đặt base URL nào trong SDK?
Sử dụng URL đầy đủ bao gồm /v1, ví dụ https://api.uncensoredapis.com/v1. Không thêm /chat/completions, vì SDK sẽ tự thêm vào.
Tại sao tôi nhận được lỗi 404 trong một yêu cầu trông có vẻ đúng?
Nguyên nhân phổ biến nhất là base URL thiếu /v1 hoặc có đường dẫn bị lặp. Hãy kiểm tra nó bằng một lệnh GET đến /v1/models trước.
Tôi kiểm tra số dư còn lại như thế nào trong khi kiểm thử?
Đọc tiêu đề X-Balance-USD trên bất kỳ phản hồi nào, hoặc gọi GET /v1/balance.
Khóa của bạn chỉ cách một biểu mẫu
Tạo tài khoản, sao chép khóa, thay đổi URL cơ sở. Đó là toàn bộ thiết lập.