Главная/Агенты
Тестер API, совместимый с OpenAI: проверка любого эндпоинта

Вам не нужен специальный тестер API, совместимый с OpenAI, для проверки эндпоинта. Четыре запроса и короткий скрипт на Python покажут, ведёт ли базовый URL себя так же, как API OpenAI.
Обновлено
Ключевые моменты
- Начните с GET /v1/models, затем выполните один минимальный запрос на генерацию чата.
- Протестируйте потоковую передачу и прочитайте статистику использования в конце потока.
- Намеренно отправьте некорректные запросы, чтобы увидеть, как выглядят ошибки.
- Один скрипт может выполнить все проверки и вывести результат: успех или неудача.
Четыре важные проверки
Многие сервисы говорят, что они совместимы с OpenAI. Некоторые копируют только маршрут чата, некоторые меняют формат ошибок, некоторые теряют детали потоковой передачи. Тестер должен подтвердить то, на что опирается ваш клиентский код:
- Аутентификация и обнаружение:
GET /v1/modelsс ключом Bearer. - Минимальная генерация чата:
POST /v1/chat/completions. - Потоковая передача: тот же вызов с
stream: true. - Ошибки: что приходит в ответ при некорректном API-ключе, неверном имени модели и некорректном теле запроса.
Примеры ниже используют эндпоинт этого сайта, https://api.uncensoredapis.com/v1, и модель uncensored. Замените базовый URL и модель на те, которые вы тестируете. Если у вас ещё нет ключа, создайте его здесь; новые аккаунты могут получить пробный баланс $0,50 без привязки карты.
Проверка 1: список моделей с помощью curl
export API_KEY="sk-your-key"
curl -s -w "\nHTTP %{http_code}\n" \
https://api.uncensoredapis.com/v1/models \
-H "Authorization: Bearer $API_KEY"
Ожидайте HTTP 200 и объект JSON с массивом data. Каждый элемент имеет поле id. Здесь ID, который вы будете использовать везде, — это uncensored. Этот один вызов проверяет DNS, TLS, префикс пути и ключ, поэтому, если он не сработает, нет смысла тестировать что-либо ещё. Обычные причины — отсутствие /v1 в базовом URL, лишний слэш в конце или скопированный ключ с переносом строки.
Проверка 2: один минимальный запрос чата
curl -s https://api.uncensoredapis.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"uncensored","messages":[{"role":"user","content":"Reply with the word ok."}]}'
В ответе проверьте choices[0].message.content, finish_reason и объект usage с подсчётом токенов промпта и завершения. Используйте также заголовки: добавьте -i и ищите X-Request-Id, X-Balance-USD, X-RateLimit-Limit-Requests и X-RateLimit-Limit-Concurrency. Они удобны для логирования и отслеживания затрат в будущем. Этот же сервис также принимает POST /v1/responses, что описано в справочнике API.
Проверка 3: скрипт на Python, который тестирует всё
cURL подходит для первичной проверки, но скрипт, который можно запускать снова после каждого изменения, лучше. Он использует официальный пакет openai и выводит информацию о каждой проверке.
import sys
from openai import OpenAI, AuthenticationError, NotFoundError, RateLimitError
BASE = "https://api.uncensoredapis.com/v1"
MODEL = "uncensored"
client = OpenAI(base_url=BASE, api_key=sys.argv[1])
def check(name, fn):
try:
print("PASS", name, "-", fn())
except Exception as e:
print("FAIL", name, "-", type(e).__name__, e)
def models():
ids = [m.id for m in client.models.list().data]
assert MODEL in ids, ids
return ids
def chat():
r = client.chat.completions.create(
model=MODEL, messages=[{"role": "user", "content": "Say ok."}])
assert r.choices[0].message.content
return r.usage.total_tokens
def stream():
parts, usage = [], None
for c in client.chat.completions.create(
model=MODEL, stream=True,
messages=[{"role": "user", "content": "Count to five."}]):
if c.choices and c.choices[0].delta.content:
parts.append(c.choices[0].delta.content)
usage = getattr(c, "usage", None) or usage
assert parts
return f"{len(parts)} chunks, usage={usage}"
def bad_model():
try:
client.chat.completions.create(
model="no-such-model", messages=[{"role": "user", "content": "hi"}])
except NotFoundError as e:
return "NotFoundError " + str(e.status_code)
except Exception as e:
return type(e).__name__
raise AssertionError("bad model name was accepted")
for n, f in [("models", models), ("chat", chat), ("stream", stream), ("bad model", bad_model)]:
check(n, f)
Запустите его с помощью python tester.py sk-your-key. Проверка плохой модели фиксирует любой класс ошибок, который выбрасывает ваш SDK, что само по себе полезная информация. Если сервис принимает неизвестное имя модели, вероятно, он перенаправляет запрос или использует псевдоним, и вам стоит узнать, как именно.
Проверка 4: обработка ошибок
Ваше приложение будет видеть сбои, поэтому внимательно изучите их.
- Некорректный ключ: измените один символ в ключе. Ожидайте HTTP 401 и тело ошибки JSON, а не HTML-страницу.
- Некорректное тело: отправьте
{"model":"uncensored"}без полей messages. Ожидайте 4xx с понятным сообщением. - Лимиты запросов: этот API возвращает 429 с кодом
rate_limitedдля лимита запросов в минуту иconcurrencyдля слишком большого количества одновременных запросов. Временная перегрузка также возвращает 429, сRetry-After: 5.
Хороший клиент воспринимает 429 как сигнал подождать и повторить, а 4xx, кроме 429, как ошибку для исправления. Напишите правило повторной попытки один раз и протестируйте его, запустив десять запросов одновременно. Лимиты по типам ключей указаны на странице ошибок и лимитов запросов.
Пробелы в совместимости, на которые стоит обратить внимание
Успешное прохождение четырёх проверок — хорошее начало. Вот места, где клоны чаще всего отличаются, поэтому проверьте каждое, если ваше приложение от этого зависит:
- Параметры: отправьте
temperature,top_p,stop,seedи штрафы. Некоторые серверы игнорируют их молча. Запустите один и тот же промпт три раза с фиксированнымseedи низкой температурой и сравните результаты. - Роли сообщений: сначала попробуйте сообщение
system, затем длинную многотуровую историю. Убедитесь, что системное сообщение действительно меняет поведение. - Вызовы функций: попросите вызов функции, которую вы определили, затем отправьте результат обратно как сообщение с
role: "tool". В режиме потоковой передачиtool_callsприходят частями, которые нужно склеивать. - JSON-режим: установите
response_formatв{"type":"json_object"}и распарсите 20 ответов. - Размер тела: этот API принимает тела до 8 МБ. Запрос, превышающий лимит, должен завершаться ошибкой 4xx с понятным сообщением, а не зависать.
Запишите каждый найденный пробел и решите, может ли ваш код обойти его. Храните заметки рядом со скриптом, потому что в следующий раз, когда провайдер выпустит обновление, вы захотите снова запустить те же проверки и сравнить результаты. Если вы тестируете несколько провайдеров, запускайте идентичный скрипт против каждого и сохраняйте вывод в таблице, чтобы различия были видны сразу, а не терялись в памяти. Отсутствующий параметр обычно не вреден. Другой формат ошибок или сломанная потоковая передача — обычно уже проблема.
Что не доказывает успешная проверка
Зелёный запуск показывает совместимость протоколов. Он ничего не говорит о качестве ответов, скорости под нагрузкой или цене. Для этого нужны отдельные тесты на ваших собственных промптах. Два быстрых дополнения стоят того, чтобы их добавить: запрос с длинным промптом, близким к реальному размеру (у этого эндпоинта контекстное окно на 100 000 токенов), и запрос с вызовом функций, если ваше приложение использует агентов.
Также имейте в виду, против чего вы тестируете. Этот сервис размещает одну модель с открытыми весами, настроенную на ответы без отказов от ответа для законного использования взрослыми. Это только текст, и это не официальный API какого-либо поставщика моделей. Цены составляют $0,15 за 1 млн входных токенов и $0,50 за 1 млн выходных токенов, указаны на странице цен, а неудачные запросы не тарифицируются, поэтому повторные тестовые запуски обходятся очень дёшево. Документация перечисляет все поддерживаемые параметры.
Дополнительные руководства
Вопросы и ответы
Есть ли онлайн-инструмент для проверки эндпоинта, совместимого с OpenAI?
Подходит любой HTTP-клиент: curl, Postman или короткий скрипт с OpenAI SDK. Преимущество скрипта в том, что вы можете запускать его снова после каждого изменения.
Какой базовый URL нужно указать в SDK?
Используйте полный URL, включая /v1, например https://api.uncensoredapis.com/v1. Не добавляйте /chat/completions, так как SDK добавляет его сам.
Почему я получаю 404 на запрос, который выглядит правильно?
Самая частая причина — базовый URL без /v1 или с удвоенным путём. Сначала проверьте его с помощью GET к /v1/models.
Как проверить оставшийся баланс во время тестирования?
Читайте заголовок X-Balance-USD в любом ответе или вызовите GET /v1/balance.
Ключ всего в одной форме от вас
Создайте аккаунт, скопируйте ключ, измените базовый URL. Это вся настройка.