繁中 ▾

OpenAI 相容無審查 LLM APIuncensoredapis.com

首頁Agent

OpenAI 相容 API 測試器:驗證任何端點

終端機向 API 閘道方塊發送測試請求,每個請求都返回綠色勾號

你不需要特殊的 openai 相容 API 測試器來檢查端點。四個請求和一個簡短的 Python 腳本就能告訴你 base URL 是否真的像 OpenAI API 那樣運作。

更新於

重點摘要

  1. 從 GET /v1/models 開始,然後是一個最小化的聊天完成請求。
  2. 測試串流並在串流結束時讀取用量。
  3. 故意傳送錯誤請求,查看錯誤訊息的格式。
  4. 一個腳本可以執行所有檢查並輸出通過或失敗。

四個重要的檢查

許多服務聲稱它們與 OpenAI 相容。有些只複製聊天路由,有些改變錯誤格式,有些丟失串流細節。測試器應確認你的客戶端程式碼依賴的內容:

  1. 驗證與發現: GET /v1/models 搭配 Bearer 金鑰。
  2. 最小聊天完成請求: POST /v1/chat/completions。
  3. 串流輸出: 帶有 stream: true 的相同呼叫。
  4. 錯誤: 錯誤金鑰、錯誤模型名稱和格式錯誤的主體會返回什麼。

以下範例使用本站的端點 https://api.uncensoredapis.com/v1 和模型 uncensored。替換為你正在測試的 Base URL 和模型。如果你還沒有金鑰,在此建立一個;新帳戶可以領取 $0.50 試用額度,無需信用卡。

檢查 1:使用 curl 列出模型

export API_KEY="sk-your-key"
curl -s -w "\nHTTP %{http_code}\n" \
  https://api.uncensoredapis.com/v1/models \
  -H "Authorization: Bearer $API_KEY"

預期會收到 HTTP 200 與包含 data 陣列的 JSON 物件。每個項目都有一個 id。在此,你將在所有地方使用的 ID 為 uncensored。此呼叫會檢查 DNS、TLS、路徑前綴和金鑰,因此如果失敗,就沒有必要測試其他項目。常見原因包括 Base URL 中缺少 /v1、多了一個尾隨斜線,或是金鑰貼上時包含了換行符號。

檢查 2:一個最小聊天請求

curl -s https://api.uncensoredapis.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Reply with the word ok."}]}'

在回覆中,檢查 choices[0].message.content、finish_reason 和包含提示詞與完成 token 計數的 usage 物件。也使用標頭:加上 -i 並尋找 X-Request-Id、X-Balance-USD、X-RateLimit-Limit-Requests 和 X-RateLimit-Limit-Concurrency。它們對於日誌記錄和後期的成本追蹤很有用。該服務也接受 POST /v1/responses,API 參考說明中有涵蓋。

檢查 3:測試一切的 Python 腳本

curl 適合初步查看,但一個可以在每次變更後重新執行的腳本更好。這個腳本使用官方的 openai 套件並回報每個檢查結果。

import sys
from openai import OpenAI, AuthenticationError, NotFoundError, RateLimitError

BASE = "https://api.uncensoredapis.com/v1"
MODEL = "uncensored"
client = OpenAI(base_url=BASE, api_key=sys.argv[1])

def check(name, fn):
    try:
        print("PASS", name, "-", fn())
    except Exception as e:
        print("FAIL", name, "-", type(e).__name__, e)

def models():
    ids = [m.id for m in client.models.list().data]
    assert MODEL in ids, ids
    return ids

def chat():
    r = client.chat.completions.create(
        model=MODEL, messages=[{"role": "user", "content": "Say ok."}])
    assert r.choices[0].message.content
    return r.usage.total_tokens

def stream():
    parts, usage = [], None
    for c in client.chat.completions.create(
            model=MODEL, stream=True,
            messages=[{"role": "user", "content": "Count to five."}]):
        if c.choices and c.choices[0].delta.content:
            parts.append(c.choices[0].delta.content)
        usage = getattr(c, "usage", None) or usage
    assert parts
    return f"{len(parts)} chunks, usage={usage}"

def bad_model():
    try:
        client.chat.completions.create(
            model="no-such-model", messages=[{"role": "user", "content": "hi"}])
    except NotFoundError as e:
        return "NotFoundError " + str(e.status_code)
    except Exception as e:
        return type(e).__name__
    raise AssertionError("bad model name was accepted")

for n, f in [("models", models), ("chat", chat), ("stream", stream), ("bad model", bad_model)]:
    check(n, f)

使用 python tester.py sk-your-key 執行。無效模型檢查會記錄你的 SDK 引發的任何錯誤類別,這本身就是有用的資訊。如果服務接受未知的模型名稱,它可能是路由或別名處理,你應該找出原因。

檢查 4:錯誤處理

你的應用程式會看到失敗,所以故意觀察它們。

  • 金鑰錯誤: 更改金鑰中的一個字元。預期 HTTP 401 和 JSON 錯誤主體,而不是 HTML 頁面。
  • 格式錯誤的主體: 發送 {"model":"uncensored"} 且沒有 messages。預期 4xx 並帶有可讀取的訊息。
  • 速率限制: 此 API 對於每分鐘請求返回 429 並帶有程式碼 rate_limited,對於過多同時請求返回 concurrency。暫時過載也返回 429,帶有 Retry-After: 5。

好的客戶端將 429 視為等待並重試的信號,並將除 429 外的 4xx 視為需要修復的錯誤。編寫一次重試規則,並通過同時啟動十個請求來測試它。每種金鑰類型的限制在 錯誤和速率限制頁面上。

要尋找的相容性差距

通過四個檢查是一個好的開始。這些是克隆版本最常不同的地方,所以如果你的應用程式依賴這些,請逐一測試:

  • 參數: 發送 temperature、top_p、stop、seed 和懲罰參數。有些伺服器會靜默忽略它們。使用固定的 seed 和低溫度運行相同的提示詞三次並比較輸出。
  • 訊息角色: 先嘗試 system 訊息,然後是長的多輪歷史。檢查系統訊息是否確實改變了行為。
  • 工具呼叫: 要求呼叫你定義的函式,然後將結果作為 role: "tool" 訊息發送。在串流模式下,tool_calls 以片段形式到達,你必須將它們連接起來。
  • JSON 模式: 將 response_format 設為 {"type":"json_object"} 並解析 20 個回覆。
  • 主體大小: 此 API 接受高達 8 MB 的主體。超過限制的請求應以清晰的 4xx 失敗,而不是掛起。

記錄你發現的每個差異,並判斷你的程式碼是否能繞過這些問題。將筆記保留在腳本旁邊,因為下次供應商發布更新時,你會想要重新執行相同的檢查並進行比較。如果你測試多個供應商,請對每個供應商執行相同的腳本,並將輸出結果保留在表格中,以便一眼就能看出差異,而不必將它們埋藏在記憶中。缺少參數通常無害。不同的錯誤格式或串流輸出中斷通常則不然。

通過測試無法證明的事

綠色運行顯示協議相容性。它不說明答案質量、負載下的速度或價格。這些需要在你自己的提示詞上進行單獨測試。值得添加兩個快速項目:一個接近你實際大小的長提示詞請求(此端點具有 100,000-token 上下文視窗),以及如果你的應用程式使用代理程式,則是一個工具呼叫請求。

同時請記住你正在測試的對象。此服務託管一個開放權重模型,經過調整以在合法成人使用中無內容拒絕地回答。它僅支援文字,並非任何模型供應商的官方 API。價格為每 1M 輸入 token $0.15,每 1M 輸出 token $0.50,詳情請見 定價頁面,失敗的請求不會計費,因此重複測試的成本非常低。文件列出了所有支援的參數。

問答

有線上工具可以測試 OpenAI 相容的端點嗎?

任何 HTTP 客戶端都可以:curl、Postman 或使用 OpenAI SDK 的簡短腳本。腳本的優勢在於你可以在每次變更後重新執行它。

我應該在 SDK 中使用哪個 Base URL?

使用包含 /v1 的完整 URL,例如 https://api.uncensoredapis.com/v1。不要加上 /chat/completions,因為 SDK 會自動附加它。

為什麼我發送的請求看起來正確卻收到 404?

最常見的原因是 Base URL 缺少 /v1 或路徑重複。先透過 GET /v1/models 來檢查。

測試時如何檢查剩餘餘額?

在任何回應中讀取 X-Balance-USD 標頭,或呼叫 GET /v1/balance。

只差一張表單,即可取得金鑰

建立帳號、複製金鑰、更改基礎 URL。這就是整個設定過程。