首頁/Agent
OpenAI 相容 API 測試器:驗證任何端點

你不需要特殊的 openai 相容 API 測試器來檢查端點。四個請求和一個簡短的 Python 腳本就能告訴你 base URL 是否真的像 OpenAI API 那樣運作。
更新於
重點摘要
- 從 GET /v1/models 開始,然後是一個最小化的聊天完成請求。
- 測試串流並在串流結束時讀取用量。
- 故意傳送錯誤請求,查看錯誤訊息的格式。
- 一個腳本可以執行所有檢查並輸出通過或失敗。
四個重要的檢查
許多服務聲稱它們與 OpenAI 相容。有些只複製聊天路由,有些改變錯誤格式,有些丟失串流細節。測試器應確認你的客戶端程式碼依賴的內容:
- 驗證與發現:
GET /v1/models搭配 Bearer 金鑰。 - 最小聊天完成請求:
POST /v1/chat/completions。 - 串流輸出: 帶有
stream: true的相同呼叫。 - 錯誤: 錯誤金鑰、錯誤模型名稱和格式錯誤的主體會返回什麼。
以下範例使用本站的端點 https://api.uncensoredapis.com/v1 和模型 uncensored。替換為你正在測試的 Base URL 和模型。如果你還沒有金鑰,在此建立一個;新帳戶可以領取 $0.50 試用額度,無需信用卡。
檢查 1:使用 curl 列出模型
export API_KEY="sk-your-key"
curl -s -w "\nHTTP %{http_code}\n" \
https://api.uncensoredapis.com/v1/models \
-H "Authorization: Bearer $API_KEY"
預期會收到 HTTP 200 與包含 data 陣列的 JSON 物件。每個項目都有一個 id。在此,你將在所有地方使用的 ID 為 uncensored。此呼叫會檢查 DNS、TLS、路徑前綴和金鑰,因此如果失敗,就沒有必要測試其他項目。常見原因包括 Base URL 中缺少 /v1、多了一個尾隨斜線,或是金鑰貼上時包含了換行符號。
檢查 2:一個最小聊天請求
curl -s https://api.uncensoredapis.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"uncensored","messages":[{"role":"user","content":"Reply with the word ok."}]}'
在回覆中,檢查 choices[0].message.content、finish_reason 和包含提示詞與完成 token 計數的 usage 物件。也使用標頭:加上 -i 並尋找 X-Request-Id、X-Balance-USD、X-RateLimit-Limit-Requests 和 X-RateLimit-Limit-Concurrency。它們對於日誌記錄和後期的成本追蹤很有用。該服務也接受 POST /v1/responses,API 參考說明中有涵蓋。
檢查 3:測試一切的 Python 腳本
curl 適合初步查看,但一個可以在每次變更後重新執行的腳本更好。這個腳本使用官方的 openai 套件並回報每個檢查結果。
import sys
from openai import OpenAI, AuthenticationError, NotFoundError, RateLimitError
BASE = "https://api.uncensoredapis.com/v1"
MODEL = "uncensored"
client = OpenAI(base_url=BASE, api_key=sys.argv[1])
def check(name, fn):
try:
print("PASS", name, "-", fn())
except Exception as e:
print("FAIL", name, "-", type(e).__name__, e)
def models():
ids = [m.id for m in client.models.list().data]
assert MODEL in ids, ids
return ids
def chat():
r = client.chat.completions.create(
model=MODEL, messages=[{"role": "user", "content": "Say ok."}])
assert r.choices[0].message.content
return r.usage.total_tokens
def stream():
parts, usage = [], None
for c in client.chat.completions.create(
model=MODEL, stream=True,
messages=[{"role": "user", "content": "Count to five."}]):
if c.choices and c.choices[0].delta.content:
parts.append(c.choices[0].delta.content)
usage = getattr(c, "usage", None) or usage
assert parts
return f"{len(parts)} chunks, usage={usage}"
def bad_model():
try:
client.chat.completions.create(
model="no-such-model", messages=[{"role": "user", "content": "hi"}])
except NotFoundError as e:
return "NotFoundError " + str(e.status_code)
except Exception as e:
return type(e).__name__
raise AssertionError("bad model name was accepted")
for n, f in [("models", models), ("chat", chat), ("stream", stream), ("bad model", bad_model)]:
check(n, f)
使用 python tester.py sk-your-key 執行。無效模型檢查會記錄你的 SDK 引發的任何錯誤類別,這本身就是有用的資訊。如果服務接受未知的模型名稱,它可能是路由或別名處理,你應該找出原因。
檢查 4:錯誤處理
你的應用程式會看到失敗,所以故意觀察它們。
- 金鑰錯誤: 更改金鑰中的一個字元。預期 HTTP 401 和 JSON 錯誤主體,而不是 HTML 頁面。
- 格式錯誤的主體: 發送
{"model":"uncensored"}且沒有 messages。預期 4xx 並帶有可讀取的訊息。 - 速率限制: 此 API 對於每分鐘請求返回 429 並帶有程式碼
rate_limited,對於過多同時請求返回concurrency。暫時過載也返回 429,帶有Retry-After: 5。
好的客戶端將 429 視為等待並重試的信號,並將除 429 外的 4xx 視為需要修復的錯誤。編寫一次重試規則,並通過同時啟動十個請求來測試它。每種金鑰類型的限制在 錯誤和速率限制頁面上。
要尋找的相容性差距
通過四個檢查是一個好的開始。這些是克隆版本最常不同的地方,所以如果你的應用程式依賴這些,請逐一測試:
- 參數: 發送
temperature、top_p、stop、seed和懲罰參數。有些伺服器會靜默忽略它們。使用固定的seed和低溫度運行相同的提示詞三次並比較輸出。 - 訊息角色: 先嘗試
system訊息,然後是長的多輪歷史。檢查系統訊息是否確實改變了行為。 - 工具呼叫: 要求呼叫你定義的函式,然後將結果作為
role: "tool"訊息發送。在串流模式下,tool_calls以片段形式到達,你必須將它們連接起來。 - JSON 模式: 將
response_format設為{"type":"json_object"}並解析 20 個回覆。 - 主體大小: 此 API 接受高達 8 MB 的主體。超過限制的請求應以清晰的 4xx 失敗,而不是掛起。
記錄你發現的每個差異,並判斷你的程式碼是否能繞過這些問題。將筆記保留在腳本旁邊,因為下次供應商發布更新時,你會想要重新執行相同的檢查並進行比較。如果你測試多個供應商,請對每個供應商執行相同的腳本,並將輸出結果保留在表格中,以便一眼就能看出差異,而不必將它們埋藏在記憶中。缺少參數通常無害。不同的錯誤格式或串流輸出中斷通常則不然。
通過測試無法證明的事
綠色運行顯示協議相容性。它不說明答案質量、負載下的速度或價格。這些需要在你自己的提示詞上進行單獨測試。值得添加兩個快速項目:一個接近你實際大小的長提示詞請求(此端點具有 100,000-token 上下文視窗),以及如果你的應用程式使用代理程式,則是一個工具呼叫請求。
同時請記住你正在測試的對象。此服務託管一個開放權重模型,經過調整以在合法成人使用中無內容拒絕地回答。它僅支援文字,並非任何模型供應商的官方 API。價格為每 1M 輸入 token $0.15,每 1M 輸出 token $0.50,詳情請見 定價頁面,失敗的請求不會計費,因此重複測試的成本非常低。文件列出了所有支援的參數。
更多指南
問答
有線上工具可以測試 OpenAI 相容的端點嗎?
任何 HTTP 客戶端都可以:curl、Postman 或使用 OpenAI SDK 的簡短腳本。腳本的優勢在於你可以在每次變更後重新執行它。
我應該在 SDK 中使用哪個 Base URL?
使用包含 /v1 的完整 URL,例如 https://api.uncensoredapis.com/v1。不要加上 /chat/completions,因為 SDK 會自動附加它。
為什麼我發送的請求看起來正確卻收到 404?
最常見的原因是 Base URL 缺少 /v1 或路徑重複。先透過 GET /v1/models 來檢查。
測試時如何檢查剩餘餘額?
在任何回應中讀取 X-Balance-USD 標頭,或呼叫 GET /v1/balance。