PT ▾

API LLM sem censura compatível com OpenAIuncensoredapis.com

InícioAgentes

Testador de API compatível com OpenAI: verifique qualquer endpoint

Terminal enviando solicitações de teste para um cubo de gateway de API, cada um retornando uma marca de verificação verde

Você não precisa de um testador de API compatível com OpenAI especial para verificar um endpoint. Quatro solicitações e um script curto em Python dizem a você se uma URL base realmente se comporta como a API da OpenAI.

Atualizado

Pontos principais

  1. Comece com GET /v1/models, depois uma conclusão de chat mínima.
  2. Teste o streaming e leia o uso no final do streaming.
  3. Envie solicitações incorretas propositalmente para ver como os erros aparecem.
  4. Um script pode executar todas as verificações e imprimir 'pass' ou 'fail'.

As quatro verificações importantes

Muitos serviços dizem ser compatíveis com OpenAI. Alguns copiam apenas a rota de chat, outros alteram o formato de erro, outros omitem detalhes do streaming. Um testador deve confirmar o que o código do seu cliente depende:

  1. Autenticação e descoberta: GET /v1/models com uma chave Bearer.
  2. Uma completacao de chat minima: POST /v1/chat/completions.
  3. Streaming: a mesma chamada com stream: true.
  4. Erros: o que retorna para uma chave inválida, um nome de modelo incorreto e um corpo malformado.

Os exemplos abaixo usam o endpoint deste site, https://api.uncensoredapis.com/v1, e o modelo uncensored. Substitua pela URL base e modelo do que você está testando. Se você ainda não tem uma chave, crie uma aqui; novas contas podem obter um crédito de teste grátis de $0,50 sem cartão.

Verificação 1: liste os modelos com curl

export API_KEY="sk-your-key"
curl -s -w "\nHTTP %{http_code}\n" \
  https://api.uncensoredapis.com/v1/models \
  -H "Authorization: Bearer $API_KEY"

Espere HTTP 200 e um objeto JSON com uma matriz data. Cada item tem um id. Aqui o ID que você usará em todos os lugares é uncensored. Esta única chamada verifica DNS, TLS, o prefixo do caminho e a chave, então se falhar aqui, não há ponto em testar qualquer outra coisa. As causas usuais são a falta de /v1 na URL base, uma barra final extra ou uma chave colada com uma quebra de linha.

Verificação 2: uma solicitação de chat mínima

curl -s https://api.uncensoredapis.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Reply with the word ok."}]}'

Na resposta, verifique choices[0].message.content, finish_reason e o objeto usage com contagens de tokens de prompt e completacao. Use também os cabeçalhos: adicione -i e procure por X-Request-Id, X-Balance-USD, X-RateLimit-Limit-Requests e X-RateLimit-Limit-Concurrency. Eles são úteis para registro e para rastreamento de custos posteriormente. O mesmo serviço também aceita POST /v1/responses, que a explicação da referência da API cobre.

Verificação 3: um script em Python que testa tudo

Curl é bom para uma primeira olhada, mas um script que você pode reexecutar após cada alteração é melhor. Este usa o pacote oficial openai e exibe cada verificação.

import sys
from openai import OpenAI, AuthenticationError, NotFoundError, RateLimitError

BASE = "https://api.uncensoredapis.com/v1"
MODEL = "uncensored"
client = OpenAI(base_url=BASE, api_key=sys.argv[1])

def check(name, fn):
    try:
        print("PASS", name, "-", fn())
    except Exception as e:
        print("FAIL", name, "-", type(e).__name__, e)

def models():
    ids = [m.id for m in client.models.list().data]
    assert MODEL in ids, ids
    return ids

def chat():
    r = client.chat.completions.create(
        model=MODEL, messages=[{"role": "user", "content": "Say ok."}])
    assert r.choices[0].message.content
    return r.usage.total_tokens

def stream():
    parts, usage = [], None
    for c in client.chat.completions.create(
            model=MODEL, stream=True,
            messages=[{"role": "user", "content": "Count to five."}]):
        if c.choices and c.choices[0].delta.content:
            parts.append(c.choices[0].delta.content)
        usage = getattr(c, "usage", None) or usage
    assert parts
    return f"{len(parts)} chunks, usage={usage}"

def bad_model():
    try:
        client.chat.completions.create(
            model="no-such-model", messages=[{"role": "user", "content": "hi"}])
    except NotFoundError as e:
        return "NotFoundError " + str(e.status_code)
    except Exception as e:
        return type(e).__name__
    raise AssertionError("bad model name was accepted")

for n, f in [("models", models), ("chat", chat), ("stream", stream), ("bad model", bad_model)]:
    check(n, f)

Execute-o com python tester.py sk-your-key. A verificação de modelo ruim registra qualquer classe de erro que seu SDK lançar, o que é informação útil por si só. Se o serviço aceitar um nome de modelo desconhecido, provavelmente está roteando ou criando um alias para ele, e você deve descobrir como.

Verificação 4: tratamento de erros

Sua aplicação verá falhas, então observe-as deliberadamente.

  • Chave inválida: altere um caractere na chave. Espere HTTP 401 e um corpo de erro JSON, não uma página HTML.
  • Corpo malformado: envie {"model":"uncensored"} sem mensagens. Espere um 4xx com uma mensagem legível.
  • Limites de requisições: esta API retorna 429 com o código rate_limited para solicitações por minuto e concurrency para muitas solicitações simultâneas. Uma sobrecarga temporária também retorna 429, com Retry-After: 5.

Um bom cliente trata 429 como um sinal para esperar e tentar novamente, e 4xx diferente de 429 como um bug a corrigir. Escreva a regra de retry uma vez e teste-a lançando dez solicitações ao mesmo tempo. Os limites por tipo de chave estão na página de erros e limites de taxa.

Lacunas de compatibilidade para procurar

Passar nas quatro verificações é um bom começo. Estes são os lugares onde os clones mais frequentemente diferem, então explore cada um se o seu aplicativo depender disso:

  • Parâmetros: envie temperature, top_p, stop, seed e as penalidades. Alguns servidores os ignoram silenciosamente. Execute o mesmo prompt três vezes com um seed fixo e uma temperatura baixa e compare as saídas.
  • Papéis de mensagem: tente uma mensagem system primeiro, depois um histórico longo de várias rodadas. Verifique se a mensagem do sistema realmente altera o comportamento.
  • Chamadas de ferramentas: solicite uma chamada para uma função que você define, depois envie o resultado de volta como uma mensagem role: "tool". No modo streaming, tool_calls chegam em pedaços que você deve concatenar.
  • Modo JSON: defina response_format para {"type":"json_object"} e analise 20 respostas.
  • Tamanho do corpo: esta API aceita corpos de até 8 MB. Uma solicitação acima do limite deve falhar com um 4xx claro, não ficar pendente.

Anote cada lacuna que encontrar e decida se o seu código pode contorná-la. Mantenha as anotações ao lado do script, porque na próxima vez que o provedor lançar uma atualização, você quererá reexecutar as mesmas verificações e comparar. Se você testar vários provedores, execute o script idêntico contra cada um e mantenha a saída em uma tabela, para que as diferenças sejam visíveis de relance em vez de enterradas na memória. Um parâmetro ausente geralmente é inofensivo. Um formato de erro diferente ou streaming quebrado geralmente não é.

O que a aprovação não prova

Uma execução verde mostra compatibilidade de protocolo. Não diz nada sobre qualidade da resposta, velocidade sob carga ou preço. Esses precisam de testes separados com seus próprios prompts. Duas adições rápidas valem a pena fazer: uma solicitação com um prompt longo próximo do seu tamanho real (este endpoint tem uma janela de contexto de 100.000 tokens) e uma solicitação de chamada de ferramenta se o seu aplicativo usar agentes.

Também tenha em mente o que você está testando. Este serviço hospeda um modelo de pesos abertos, ajustado para responder sem recusas de conteúdo para uso adulto legal. É apenas texto e não é a API oficial de nenhum fornecedor de modelos. Os preços são $0,15 por 1M de tokens de entrada e $0,50 por 1M de tokens de saída, listados na página de preços, e as requisições falhas não são cobradas, então execuções de teste repetidas custam muito pouco. A documentação lista todos os parâmetros suportados.

Perguntas e respostas

Existe uma ferramenta online para testar um endpoint compatível com OpenAI?

Qualquer cliente HTTP funciona: curl, Postman ou um script curto com o SDK da OpenAI. A vantagem de um script é que você pode reexecutá-lo após cada alteração.

Qual URL base devo colocar no SDK?

Use a URL completa incluindo /v1, por exemplo https://api.uncensoredapis.com/v1. Não adicione /chat/completions, pois o SDK o adiciona automaticamente.

Por que recebo 404 em uma solicitação que parece correta?

A causa mais comum é uma URL base sem /v1 ou com um caminho duplicado. Verifique-a com um GET para /v1/models primeiro.

Como verifico meu saldo restante durante os testes?

Leia o cabeçalho X-Balance-USD em qualquer resposta ou chame GET /v1/balance.

Sua chave está a um formulário de distância

Crie uma conta, copie a chave e altere a URL base. Essa é toda a configuração.