RU ▾

API LLM без цензуры, совместимый с OpenAIuncensoredapis.com

ГлавнаяАгенты

Тестер API, совместимый с OpenAI: проверка любого эндпоинта

Терминал отправляет тестовые запросы в куб шлюза API, каждый из которых возвращает зелёную галочку

Вам не нужен специальный тестер API, совместимый с OpenAI, для проверки эндпоинта. Четыре запроса и короткий скрипт на Python покажут, ведёт ли базовый URL себя так же, как API OpenAI.

Обновлено

Ключевые моменты

  1. Начните с GET /v1/models, затем выполните один минимальный запрос на генерацию чата.
  2. Протестируйте потоковую передачу и прочитайте статистику использования в конце потока.
  3. Намеренно отправьте некорректные запросы, чтобы увидеть, как выглядят ошибки.
  4. Один скрипт может выполнить все проверки и вывести результат: успех или неудача.

Четыре важные проверки

Многие сервисы говорят, что они совместимы с OpenAI. Некоторые копируют только маршрут чата, некоторые меняют формат ошибок, некоторые теряют детали потоковой передачи. Тестер должен подтвердить то, на что опирается ваш клиентский код:

  1. Аутентификация и обнаружение: GET /v1/models с ключом Bearer.
  2. Минимальная генерация чата: POST /v1/chat/completions.
  3. Потоковая передача: тот же вызов с stream: true.
  4. Ошибки: что приходит в ответ при некорректном API-ключе, неверном имени модели и некорректном теле запроса.

Примеры ниже используют эндпоинт этого сайта, https://api.uncensoredapis.com/v1, и модель uncensored. Замените базовый URL и модель на те, которые вы тестируете. Если у вас ещё нет ключа, создайте его здесь; новые аккаунты могут получить пробный баланс $0,50 без привязки карты.

Проверка 1: список моделей с помощью curl

export API_KEY="sk-your-key"
curl -s -w "\nHTTP %{http_code}\n" \
  https://api.uncensoredapis.com/v1/models \
  -H "Authorization: Bearer $API_KEY"

Ожидайте HTTP 200 и объект JSON с массивом data. Каждый элемент имеет поле id. Здесь ID, который вы будете использовать везде, — это uncensored. Этот один вызов проверяет DNS, TLS, префикс пути и ключ, поэтому, если он не сработает, нет смысла тестировать что-либо ещё. Обычные причины — отсутствие /v1 в базовом URL, лишний слэш в конце или скопированный ключ с переносом строки.

Проверка 2: один минимальный запрос чата

curl -s https://api.uncensoredapis.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Reply with the word ok."}]}'

В ответе проверьте choices[0].message.content, finish_reason и объект usage с подсчётом токенов промпта и завершения. Используйте также заголовки: добавьте -i и ищите X-Request-Id, X-Balance-USD, X-RateLimit-Limit-Requests и X-RateLimit-Limit-Concurrency. Они удобны для логирования и отслеживания затрат в будущем. Этот же сервис также принимает POST /v1/responses, что описано в справочнике API.

Проверка 3: скрипт на Python, который тестирует всё

cURL подходит для первичной проверки, но скрипт, который можно запускать снова после каждого изменения, лучше. Он использует официальный пакет openai и выводит информацию о каждой проверке.

import sys
from openai import OpenAI, AuthenticationError, NotFoundError, RateLimitError

BASE = "https://api.uncensoredapis.com/v1"
MODEL = "uncensored"
client = OpenAI(base_url=BASE, api_key=sys.argv[1])

def check(name, fn):
    try:
        print("PASS", name, "-", fn())
    except Exception as e:
        print("FAIL", name, "-", type(e).__name__, e)

def models():
    ids = [m.id for m in client.models.list().data]
    assert MODEL in ids, ids
    return ids

def chat():
    r = client.chat.completions.create(
        model=MODEL, messages=[{"role": "user", "content": "Say ok."}])
    assert r.choices[0].message.content
    return r.usage.total_tokens

def stream():
    parts, usage = [], None
    for c in client.chat.completions.create(
            model=MODEL, stream=True,
            messages=[{"role": "user", "content": "Count to five."}]):
        if c.choices and c.choices[0].delta.content:
            parts.append(c.choices[0].delta.content)
        usage = getattr(c, "usage", None) or usage
    assert parts
    return f"{len(parts)} chunks, usage={usage}"

def bad_model():
    try:
        client.chat.completions.create(
            model="no-such-model", messages=[{"role": "user", "content": "hi"}])
    except NotFoundError as e:
        return "NotFoundError " + str(e.status_code)
    except Exception as e:
        return type(e).__name__
    raise AssertionError("bad model name was accepted")

for n, f in [("models", models), ("chat", chat), ("stream", stream), ("bad model", bad_model)]:
    check(n, f)

Запустите его с помощью python tester.py sk-your-key. Проверка плохой модели фиксирует любой класс ошибок, который выбрасывает ваш SDK, что само по себе полезная информация. Если сервис принимает неизвестное имя модели, вероятно, он перенаправляет запрос или использует псевдоним, и вам стоит узнать, как именно.

Проверка 4: обработка ошибок

Ваше приложение будет видеть сбои, поэтому внимательно изучите их.

  • Некорректный ключ: измените один символ в ключе. Ожидайте HTTP 401 и тело ошибки JSON, а не HTML-страницу.
  • Некорректное тело: отправьте {"model":"uncensored"} без полей messages. Ожидайте 4xx с понятным сообщением.
  • Лимиты запросов: этот API возвращает 429 с кодом rate_limited для лимита запросов в минуту и concurrency для слишком большого количества одновременных запросов. Временная перегрузка также возвращает 429, с Retry-After: 5.

Хороший клиент воспринимает 429 как сигнал подождать и повторить, а 4xx, кроме 429, как ошибку для исправления. Напишите правило повторной попытки один раз и протестируйте его, запустив десять запросов одновременно. Лимиты по типам ключей указаны на странице ошибок и лимитов запросов.

Пробелы в совместимости, на которые стоит обратить внимание

Успешное прохождение четырёх проверок — хорошее начало. Вот места, где клоны чаще всего отличаются, поэтому проверьте каждое, если ваше приложение от этого зависит:

  • Параметры: отправьте temperature, top_p, stop, seed и штрафы. Некоторые серверы игнорируют их молча. Запустите один и тот же промпт три раза с фиксированным seed и низкой температурой и сравните результаты.
  • Роли сообщений: сначала попробуйте сообщение system, затем длинную многотуровую историю. Убедитесь, что системное сообщение действительно меняет поведение.
  • Вызовы функций: попросите вызов функции, которую вы определили, затем отправьте результат обратно как сообщение с role: "tool". В режиме потоковой передачи tool_calls приходят частями, которые нужно склеивать.
  • JSON-режим: установите response_format в {"type":"json_object"} и распарсите 20 ответов.
  • Размер тела: этот API принимает тела до 8 МБ. Запрос, превышающий лимит, должен завершаться ошибкой 4xx с понятным сообщением, а не зависать.

Запишите каждый найденный пробел и решите, может ли ваш код обойти его. Храните заметки рядом со скриптом, потому что в следующий раз, когда провайдер выпустит обновление, вы захотите снова запустить те же проверки и сравнить результаты. Если вы тестируете несколько провайдеров, запускайте идентичный скрипт против каждого и сохраняйте вывод в таблице, чтобы различия были видны сразу, а не терялись в памяти. Отсутствующий параметр обычно не вреден. Другой формат ошибок или сломанная потоковая передача — обычно уже проблема.

Что не доказывает успешная проверка

Зелёный запуск показывает совместимость протоколов. Он ничего не говорит о качестве ответов, скорости под нагрузкой или цене. Для этого нужны отдельные тесты на ваших собственных промптах. Два быстрых дополнения стоят того, чтобы их добавить: запрос с длинным промптом, близким к реальному размеру (у этого эндпоинта контекстное окно на 100 000 токенов), и запрос с вызовом функций, если ваше приложение использует агентов.

Также имейте в виду, против чего вы тестируете. Этот сервис размещает одну модель с открытыми весами, настроенную на ответы без отказов от ответа для законного использования взрослыми. Это только текст, и это не официальный API какого-либо поставщика моделей. Цены составляют $0,15 за 1 млн входных токенов и $0,50 за 1 млн выходных токенов, указаны на странице цен, а неудачные запросы не тарифицируются, поэтому повторные тестовые запуски обходятся очень дёшево. Документация перечисляет все поддерживаемые параметры.

Вопросы и ответы

Есть ли онлайн-инструмент для проверки эндпоинта, совместимого с OpenAI?

Подходит любой HTTP-клиент: curl, Postman или короткий скрипт с OpenAI SDK. Преимущество скрипта в том, что вы можете запускать его снова после каждого изменения.

Какой базовый URL нужно указать в SDK?

Используйте полный URL, включая /v1, например https://api.uncensoredapis.com/v1. Не добавляйте /chat/completions, так как SDK добавляет его сам.

Почему я получаю 404 на запрос, который выглядит правильно?

Самая частая причина — базовый URL без /v1 или с удвоенным путём. Сначала проверьте его с помощью GET к /v1/models.

Как проверить оставшийся баланс во время тестирования?

Читайте заголовок X-Balance-USD в любом ответе или вызовите GET /v1/balance.

Ключ всего в одной форме от вас

Создайте аккаунт, скопируйте ключ, измените базовый URL. Это вся настройка.