首页/Agent
OpenAI 兼容 API 测试器:验证任意接口

你不需要专门的 OpenAI 兼容 API 测试器来检查接口。四个请求和一个简短的 Python 脚本就能告诉你 Base URL 是否真的像 OpenAI API 那样工作。
更新于
要点
- 从 GET /v1/models 开始,然后进行一次最小聊天补全。
- 测试流式输出并在流结束时读取使用情况。
- 故意发送错误请求以查看错误的外观。
- 一个脚本可以运行所有检查并打印通过或失败。
四个关键检查
许多服务声称它们与 OpenAI 兼容。有些仅复制聊天路由,有些更改错误格式,有些丢弃流式输出细节。测试器应确认你的客户端代码所依赖的内容:
- 认证和发现: 使用 Bearer 密钥执行
GET /v1/models。 - 最小聊天完成示例:
POST /v1/chat/completions。 - 流式输出: 使用
stream: true进行相同调用。 - 错误: 错误密钥、错误模型名称和格式错误的正文会返回什么。
下面的示例使用本站的接口 https://api.uncensoredapis.com/v1 和模型 uncensored。替换为你正在测试的 Base URL 和模型。如果你还没有密钥,在此处创建一个;新账户可以领取 $0.50 试用额度,无需信用卡。
检查 1:使用 curl 列出模型
export API_KEY="sk-your-key"
curl -s -w "\nHTTP %{http_code}\n" \
https://api.uncensoredapis.com/v1/models \
-H "Authorization: Bearer $API_KEY"
期望 HTTP 200 和一个包含 data 数组的 JSON 对象。每个项都有一个 id。你将在此处使用的 ID 是 uncensored。此调用检查 DNS、TLS、路径前缀和密钥,因此如果失败,就没有必要测试其他内容。常见原因包括 Base URL 中缺少 /v1、多余的尾部斜杠,或密钥粘贴时包含换行符。
检查 2:一次最小聊天请求
curl -s https://api.uncensoredapis.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"uncensored","messages":[{"role":"user","content":"Reply with the word ok."}]}'
在回复中,检查 choices[0].message.content、finish_reason 和包含提示词和补全 token 计数的 usage 对象。同时使用标头:添加 -i 并查找 X-Request-Id、X-Balance-USD、X-RateLimit-Limit-Requests 和 X-RateLimit-Limit-Concurrency。它们对日志记录和后续成本跟踪很有用。该服务还接受 POST /v1/responses,API 参考说明对此进行了涵盖。
检查 3:测试一切的 Python 脚本
Curl 适合初步查看,但一个每次更改后都可以重新运行的脚本更好。此脚本使用官方 openai 包并报告每个检查的结果。
import sys
from openai import OpenAI, AuthenticationError, NotFoundError, RateLimitError
BASE = "https://api.uncensoredapis.com/v1"
MODEL = "uncensored"
client = OpenAI(base_url=BASE, api_key=sys.argv[1])
def check(name, fn):
try:
print("PASS", name, "-", fn())
except Exception as e:
print("FAIL", name, "-", type(e).__name__, e)
def models():
ids = [m.id for m in client.models.list().data]
assert MODEL in ids, ids
return ids
def chat():
r = client.chat.completions.create(
model=MODEL, messages=[{"role": "user", "content": "Say ok."}])
assert r.choices[0].message.content
return r.usage.total_tokens
def stream():
parts, usage = [], None
for c in client.chat.completions.create(
model=MODEL, stream=True,
messages=[{"role": "user", "content": "Count to five."}]):
if c.choices and c.choices[0].delta.content:
parts.append(c.choices[0].delta.content)
usage = getattr(c, "usage", None) or usage
assert parts
return f"{len(parts)} chunks, usage={usage}"
def bad_model():
try:
client.chat.completions.create(
model="no-such-model", messages=[{"role": "user", "content": "hi"}])
except NotFoundError as e:
return "NotFoundError " + str(e.status_code)
except Exception as e:
return type(e).__name__
raise AssertionError("bad model name was accepted")
for n, f in [("models", models), ("chat", chat), ("stream", stream), ("bad model", bad_model)]:
check(n, f)
使用 python tester.py sk-your-key 运行它。错误模型检查会记录你的 SDK 引发的任何错误类,这本身就是有用的信息。如果服务接受未知模型名称,它可能正在路由或别名化它,你应该找出原因。
检查 4:错误处理
你的应用程序会遇到失败,因此要有意识地观察它们。
- 密钥错误: 更改密钥中的一个字符。期望 HTTP 401 和 JSON 错误正文,而不是 HTML 页面。
- 格式错误的正文: 发送
{"model":"uncensored"}且没有消息。期望返回带有可读消息的 4xx 错误。 - 速率限制: 此 API 对每分钟请求返回 429,代码为
rate_limited,对过多并发请求返回concurrency。临时过载也返回 429,带有Retry-After: 5。
好的客户端将 429 视为等待并重试的信号,并将除 429 以外的 4xx 视为需要修复的 bug。编写一次重试规则,并通过同时启动十个请求来测试它。每种密钥类型的限制在 错误和速率限制页面上。
需要查找的兼容性差距
通过四项检查是一个好的开始。以下是克隆版本最常出现差异的地方,如果你的应用程序依赖于这些功能,请逐一测试:
- 参数: 发送
temperature、top_p、stop、seed和惩罚参数。有些服务器会静默忽略它们。使用固定的seed和低温度运行相同的提示词三次并比较输出。 - 消息角色: 先尝试
system消息,然后尝试长多轮历史。检查系统消息是否确实改变了行为。 - 工具调用:请求调用你定义的函数,然后将结果作为
role: "tool"消息发送回来。在流式输出模式下,tool_calls以片段形式到达,你必须将它们拼接起来。 - JSON 模式: 将
response_format设置为{"type":"json_object"}并解析 20 条回复。 - 正文大小: 此 API 接受最多 8 MB 的正文。超过限制的请求应失败并返回清晰的 4xx 错误,而不是挂起。
记录你发现的每个差距,并决定你的代码是否可以绕过它。将笔记保存在脚本旁边,因为下次提供商发布更新时,你将希望重新运行相同的检查并进行比较。如果你测试多个提供商,对每个提供商运行相同的脚本并将输出保存在表格中,以便差异一目了然,而不是隐藏在记忆中。缺少参数通常无害。不同的错误格式或流式输出损坏通常则不然。
通过测试并不能证明什么
绿色运行表示协议兼容性。它不说明回答质量、负载下的速度或价格。这些需要在你自己的提示词上单独测试。值得添加两项快速测试:一条接近你实际大小的长提示词请求(此端点具有 100,000 token 的上下文窗口),以及如果你的应用使用代理,则添加一条工具调用请求。
还要记住你正在针对什么进行测试。该服务托管一个开放权重模型,经过调整以在不拒绝内容的情况下为合法成人用途提供答案。它仅支持文本,不是任何模型供应商的官方 API。价格为每 1M 输入 token $0.15,每 1M 输出 token $0.50,列在 定价页面 上,失败的请求不收费,因此重复测试运行成本非常低。文档 列出了所有支持的参数。
更多指南
问答
有在线工具可以测试 OpenAI 兼容接口吗?
任何 HTTP 客户端均可:curl、Postman 或使用 OpenAI SDK 的简短脚本。脚本的优势在于每次更改后都可以重新运行。
SDK 中应填入哪个基础 URL?
使用包含 /v1 的完整 URL,例如 https://api.uncensoredapis.com/v1。不要添加 /chat/completions,因为 SDK 会自动追加。
为什么看起来正确的请求会返回 404?
最常见的原因是 Base URL 缺少 /v1 或路径重复。请先通过 GET /v1/models 进行检查。
测试时如何检查剩余余额?
读取任何响应中的 X-Balance-USD 标头,或调用 GET /v1/balance。