中文 ▾

OpenAI 兼容的无审查 LLM APIuncensoredapis.com

首页Agent

OpenAI 兼容 API 测试器:验证任意接口

终端向 API 网关立方体发送测试请求,每个请求都返回绿色对勾

你不需要专门的 OpenAI 兼容 API 测试器来检查接口。四个请求和一个简短的 Python 脚本就能告诉你 Base URL 是否真的像 OpenAI API 那样工作。

更新于

要点

  1. 从 GET /v1/models 开始,然后进行一次最小聊天补全。
  2. 测试流式输出并在流结束时读取使用情况。
  3. 故意发送错误请求以查看错误的外观。
  4. 一个脚本可以运行所有检查并打印通过或失败。

四个关键检查

许多服务声称它们与 OpenAI 兼容。有些仅复制聊天路由,有些更改错误格式,有些丢弃流式输出细节。测试器应确认你的客户端代码所依赖的内容:

  1. 认证和发现: 使用 Bearer 密钥执行 GET /v1/models。
  2. 最小聊天完成示例: POST /v1/chat/completions。
  3. 流式输出: 使用 stream: true 进行相同调用。
  4. 错误: 错误密钥、错误模型名称和格式错误的正文会返回什么。

下面的示例使用本站的接口 https://api.uncensoredapis.com/v1 和模型 uncensored。替换为你正在测试的 Base URL 和模型。如果你还没有密钥,在此处创建一个;新账户可以领取 $0.50 试用额度,无需信用卡。

检查 1:使用 curl 列出模型

export API_KEY="sk-your-key"
curl -s -w "\nHTTP %{http_code}\n" \
  https://api.uncensoredapis.com/v1/models \
  -H "Authorization: Bearer $API_KEY"

期望 HTTP 200 和一个包含 data 数组的 JSON 对象。每个项都有一个 id。你将在此处使用的 ID 是 uncensored。此调用检查 DNS、TLS、路径前缀和密钥,因此如果失败,就没有必要测试其他内容。常见原因包括 Base URL 中缺少 /v1、多余的尾部斜杠,或密钥粘贴时包含换行符。

检查 2:一次最小聊天请求

curl -s https://api.uncensoredapis.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Reply with the word ok."}]}'

在回复中,检查 choices[0].message.content、finish_reason 和包含提示词和补全 token 计数的 usage 对象。同时使用标头:添加 -i 并查找 X-Request-Id、X-Balance-USD、X-RateLimit-Limit-Requests 和 X-RateLimit-Limit-Concurrency。它们对日志记录和后续成本跟踪很有用。该服务还接受 POST /v1/responses,API 参考说明对此进行了涵盖。

检查 3:测试一切的 Python 脚本

Curl 适合初步查看,但一个每次更改后都可以重新运行的脚本更好。此脚本使用官方 openai 包并报告每个检查的结果。

import sys
from openai import OpenAI, AuthenticationError, NotFoundError, RateLimitError

BASE = "https://api.uncensoredapis.com/v1"
MODEL = "uncensored"
client = OpenAI(base_url=BASE, api_key=sys.argv[1])

def check(name, fn):
    try:
        print("PASS", name, "-", fn())
    except Exception as e:
        print("FAIL", name, "-", type(e).__name__, e)

def models():
    ids = [m.id for m in client.models.list().data]
    assert MODEL in ids, ids
    return ids

def chat():
    r = client.chat.completions.create(
        model=MODEL, messages=[{"role": "user", "content": "Say ok."}])
    assert r.choices[0].message.content
    return r.usage.total_tokens

def stream():
    parts, usage = [], None
    for c in client.chat.completions.create(
            model=MODEL, stream=True,
            messages=[{"role": "user", "content": "Count to five."}]):
        if c.choices and c.choices[0].delta.content:
            parts.append(c.choices[0].delta.content)
        usage = getattr(c, "usage", None) or usage
    assert parts
    return f"{len(parts)} chunks, usage={usage}"

def bad_model():
    try:
        client.chat.completions.create(
            model="no-such-model", messages=[{"role": "user", "content": "hi"}])
    except NotFoundError as e:
        return "NotFoundError " + str(e.status_code)
    except Exception as e:
        return type(e).__name__
    raise AssertionError("bad model name was accepted")

for n, f in [("models", models), ("chat", chat), ("stream", stream), ("bad model", bad_model)]:
    check(n, f)

使用 python tester.py sk-your-key 运行它。错误模型检查会记录你的 SDK 引发的任何错误类,这本身就是有用的信息。如果服务接受未知模型名称,它可能正在路由或别名化它,你应该找出原因。

检查 4:错误处理

你的应用程序会遇到失败,因此要有意识地观察它们。

  • 密钥错误: 更改密钥中的一个字符。期望 HTTP 401 和 JSON 错误正文,而不是 HTML 页面。
  • 格式错误的正文: 发送 {"model":"uncensored"} 且没有消息。期望返回带有可读消息的 4xx 错误。
  • 速率限制: 此 API 对每分钟请求返回 429,代码为 rate_limited,对过多并发请求返回 concurrency。临时过载也返回 429,带有 Retry-After: 5。

好的客户端将 429 视为等待并重试的信号,并将除 429 以外的 4xx 视为需要修复的 bug。编写一次重试规则,并通过同时启动十个请求来测试它。每种密钥类型的限制在 错误和速率限制页面上。

需要查找的兼容性差距

通过四项检查是一个好的开始。以下是克隆版本最常出现差异的地方,如果你的应用程序依赖于这些功能,请逐一测试:

  • 参数: 发送 temperature、top_p、stop、seed 和惩罚参数。有些服务器会静默忽略它们。使用固定的 seed 和低温度运行相同的提示词三次并比较输出。
  • 消息角色: 先尝试 system 消息,然后尝试长多轮历史。检查系统消息是否确实改变了行为。
  • 工具调用:请求调用你定义的函数,然后将结果作为 role: "tool" 消息发送回来。在流式输出模式下,tool_calls 以片段形式到达,你必须将它们拼接起来。
  • JSON 模式: 将 response_format 设置为 {"type":"json_object"} 并解析 20 条回复。
  • 正文大小: 此 API 接受最多 8 MB 的正文。超过限制的请求应失败并返回清晰的 4xx 错误,而不是挂起。

记录你发现的每个差距,并决定你的代码是否可以绕过它。将笔记保存在脚本旁边,因为下次提供商发布更新时,你将希望重新运行相同的检查并进行比较。如果你测试多个提供商,对每个提供商运行相同的脚本并将输出保存在表格中,以便差异一目了然,而不是隐藏在记忆中。缺少参数通常无害。不同的错误格式或流式输出损坏通常则不然。

通过测试并不能证明什么

绿色运行表示协议兼容性。它不说明回答质量、负载下的速度或价格。这些需要在你自己的提示词上单独测试。值得添加两项快速测试:一条接近你实际大小的长提示词请求(此端点具有 100,000 token 的上下文窗口),以及如果你的应用使用代理,则添加一条工具调用请求。

还要记住你正在针对什么进行测试。该服务托管一个开放权重模型,经过调整以在不拒绝内容的情况下为合法成人用途提供答案。它仅支持文本,不是任何模型供应商的官方 API。价格为每 1M 输入 token $0.15,每 1M 输出 token $0.50,列在 定价页面 上,失败的请求不收费,因此重复测试运行成本非常低。文档 列出了所有支持的参数。

问答

有在线工具可以测试 OpenAI 兼容接口吗?

任何 HTTP 客户端均可:curl、Postman 或使用 OpenAI SDK 的简短脚本。脚本的优势在于每次更改后都可以重新运行。

SDK 中应填入哪个基础 URL?

使用包含 /v1 的完整 URL,例如 https://api.uncensoredapis.com/v1。不要添加 /chat/completions,因为 SDK 会自动追加。

为什么看起来正确的请求会返回 404?

最常见的原因是 Base URL 缺少 /v1 或路径重复。请先通过 GET /v1/models 进行检查。

测试时如何检查剩余余额?

读取任何响应中的 X-Balance-USD 标头,或调用 GET /v1/balance。

只差一张表单,即可获得密钥

创建账户,复制密钥,更改基础 URL。这就是全部设置。