KO ▾

OpenAI 호환 무검열 LLM APIuncensoredapis.com

홈에이전트

OpenAI 호환 API 테스터: 임의의 엔드포인트 검증

API 게이트웨이 큐브로 테스트 요청을 보내는 터미널, 각 요청에 녹색 체크 표시가 표시됨

엔드포인트를 확인하려면 특별한 OpenAI 호환 API 테스터가 필요하지 않습니다. 네 가지 요청과 짧은 Python 스크립트로 Base URL이 실제로 OpenAI API처럼 작동하는지 확인할 수 있습니다.

업데이트

주요 포인트

  1. GET /v1/models로 시작한 다음 최소 채팅 완성 하나를 수행하세요.
  2. 스트리밍을 테스트하고 스트림 종료 시 사용량을 확인하세요.
  3. 오류가 어떻게 나타나는지 보기 위해 의도적으로 잘못된 요청을 보내세요.
  4. 하나의 스크립트로 모든 확인을 실행하고 통과 또는 실패를 출력할 수 있습니다.

중요한 네 가지 확인

많은 서비스가 OpenAI 호환이라고 말합니다. 일부는 채팅 경로만 복사하고, 일부는 오류 형식을 변경하며, 일부는 스트리밍 세부 정보를 생략합니다. 테스터는 클라이언트 코드에서 의존하는 항목을 확인해야 합니다:

  1. 인증 및 디스커버리: GET /v1/models 엔드포인트에 Bearer 토큰을 사용합니다.
  2. 최소 채팅 완료 요청: POST /v1/chat/completions.
  3. 스트리밍: stream: true로 동일한 호출.
  4. 오류: 잘못된 키, 잘못된 모델 이름 및 잘못된 본문에 대해 반환되는 내용.

아래 예시는 이 사이트의 엔드포인트 https://api.uncensoredapis.com/v1와 모델 uncensored를 사용합니다. 테스트 중인 기본 URL과 모델로 바꾸세요. 아직 키가 없다면 여기서 생성하세요. 새 계정은 카드 없이 $0.50 체험 크레딧을 받을 수 있습니다.

확인 1: curl로 모델 목록 나열

export API_KEY="sk-your-key"
curl -s -w "\nHTTP %{http_code}\n" \
  https://api.uncensoredapis.com/v1/models \
  -H "Authorization: Bearer $API_KEY"

HTTP 200과 data 배열이 포함된 JSON 객체를 기대합니다. 각 항목에는 id이 있습니다. 여기서 모든 곳에서 사용할 ID는 uncensored입니다. 이 한 번의 호출로 DNS, TLS, 경로 접두사 및 키를 확인하므로 실패하면 다른 것을 테스트할 필요가 없습니다. 일반적인 원인은 Base URL에 /v1이 누락되었거나, 끝에 불필요한 슬래시가 있거나, 키에 줄바꿈이 포함되어 복사된 경우입니다.

확인 2: 최소 채팅 요청 하나

curl -s https://api.uncensoredapis.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Reply with the word ok."}]}'

응답에서 choices[0].message.content, finish_reason 및 프롬프트 및 완료 토큰 수가 포함된 usage 객체를 확인하세요. 헤더도 확인하세요: -i를 추가하고 X-Request-Id, X-Balance-USD, X-RateLimit-Limit-Requests 및 X-RateLimit-Limit-Concurrency을 확인하세요. 이는 로깅과 나중에 비용 추적하는 데 유용합니다. 동일한 서비스는 POST /v1/responses도 받으며, 이는 API 레퍼런스 설명서에서 다룹니다.

확인 3: 모든 것을 테스트하는 Python 스크립트

Curl은 첫 번째 탐색에는 적합하지만, 변경 사항마다 다시 실행할 수 있는 스크립트가 더 좋습니다. 이 스크립트는 공식 openai 패키지를 사용하며 각 확인 결과를 보고합니다.

import sys
from openai import OpenAI, AuthenticationError, NotFoundError, RateLimitError

BASE = "https://api.uncensoredapis.com/v1"
MODEL = "uncensored"
client = OpenAI(base_url=BASE, api_key=sys.argv[1])

def check(name, fn):
    try:
        print("PASS", name, "-", fn())
    except Exception as e:
        print("FAIL", name, "-", type(e).__name__, e)

def models():
    ids = [m.id for m in client.models.list().data]
    assert MODEL in ids, ids
    return ids

def chat():
    r = client.chat.completions.create(
        model=MODEL, messages=[{"role": "user", "content": "Say ok."}])
    assert r.choices[0].message.content
    return r.usage.total_tokens

def stream():
    parts, usage = [], None
    for c in client.chat.completions.create(
            model=MODEL, stream=True,
            messages=[{"role": "user", "content": "Count to five."}]):
        if c.choices and c.choices[0].delta.content:
            parts.append(c.choices[0].delta.content)
        usage = getattr(c, "usage", None) or usage
    assert parts
    return f"{len(parts)} chunks, usage={usage}"

def bad_model():
    try:
        client.chat.completions.create(
            model="no-such-model", messages=[{"role": "user", "content": "hi"}])
    except NotFoundError as e:
        return "NotFoundError " + str(e.status_code)
    except Exception as e:
        return type(e).__name__
    raise AssertionError("bad model name was accepted")

for n, f in [("models", models), ("chat", chat), ("stream", stream), ("bad model", bad_model)]:
    check(n, f)

python tester.py sk-your-key로 실행하세요. 잘못된 모델 확인은 SDK가 발생시키는 모든 오류 클래스를 기록하며, 이는 그 자체로 유용한 정보입니다. 서비스에서 알 수 없는 모델 이름을 받아들이면 라우팅 또는 별칭 처리 중일 가능성이 높으므로 방법을 파악해야 합니다.

확인 4: 오류 처리

애플리케이션에서 실패를 보게 되므로 의도적으로 확인하세요.

  • 잘못된 키: 키의 문자 하나를 변경하세요. HTML 페이지가 아닌 HTTP 401 및 JSON 오류 본문을 기대하세요.
  • 본문 형식 오류: {"model":"uncensored"}를 messages 없이 보내세요. 읽을 수 있는 메시지가 포함된 4xx 응답을 기대하세요.
  • 속도 제한: 이 API는 분당 요청에 대해 rate_limited 코드와 동시 요청이 너무 많을 때 concurrency로 429를 반환합니다. 일시적인 과부하도 Retry-After: 5와 함께 429를 반환합니다.

좋은 클라이언트는 429를 기다리고 다시 시도하라는 신호로 처리하고, 429를 제외한 4xx를 수정해야 할 버그로 처리합니다. 재시도 규칙을 한 번 작성하고 동시에 열 개의 요청을 보내 테스트하세요. 키 유형별 제한은 오류 및 속도 제한 페이지에 있습니다.

확인해야 할 호환성 격차

네 가지 확인을 통과하는 것은 좋은 시작입니다. 클론이 가장 자주 다른 부분들이므로 앱이 이에 의존하는 경우 각 항목을 확인하세요:

  • 파라미터: temperature, top_p, stop, seed 및 페널티를 전송합니다. 일부 서버는 이를 무시합니다. 고정된 seed과 낮은 온도로 동일한 프롬프트를 세 번 실행하여 출력을 비교합니다.
  • 메시지 역할: 먼저 system 메시지를 시도한 다음 긴 다중 대화 기록을 사용하세요. 시스템 메시지가 실제로 동작을 변경하는지 확인하세요.
  • 도구 호출: 정의한 함수에 대한 호출을 요청한 다음 결과를 role: "tool" 메시지로 다시 보내세요. 스트리밍 모드에서는 tool_calls이 조각으로 도착하므로 연결해야 합니다.
  • JSON 모드: response_format을 {"type":"json_object"}로 설정하고 20개의 응답을 구문 분석하세요.
  • 본문 크기: 이 API는 최대 8 MB까지의 본문을 허용합니다. 제한을 초과하는 요청은 명확한 4xx 오류로 실패해야 하며, 응답이 무한정 기다리지 않아야 합니다.

찾은 각 격차를 기록하고 코드에서 우회할 수 있는지 결정하세요. 스크립트 옆에 메모를 보관하세요. 제공업체가 다음 업데이트를 출시할 때 동일한 확인을 다시 실행하고 비교하고 싶을 것이기 때문입니다. 여러 제공업체를 테스트하는 경우 동일한 스크립트를 각 제공업체에 대해 실행하고 출력을 표에 보관하여 차이점을 기억 속에 묻히지 않고 한눈에 볼 수 있게 하세요. 누락된 매개변수는 일반적으로 무해합니다. 다른 오류 형식 또는 손상된 스트리밍은 일반적으로 그렇지 않습니다.

합격이 증명하지 못하는 것

성공한 테스트는 프로토콜 호환성을 보여줍니다. 이는 답변 품질, 부하 시 속도 또는 가격에 대해 아무것도 말해 주지 않습니다. 이러한 항목들은 자체 프롬프트로 별도의 테스트가 필요합니다. 다음 두 가지를 추가하는 것이 좋습니다: 실제 크기에 가까운 긴 프롬프트를 사용한 요청(이 엔드포인트는 100,000개의 토큰 컨텍스트 창을 가짐), 및 앱에서 에이전트를 사용하는 경우 함수 호출 요청입니다.

테스트 대상도 기억하십시오. 이 서비스는 합법적인 성인 용도로 콘텐츠 필터링 없이 답변하도록 조정된 하나의 오픈 웨이트 모델을 호스팅합니다. 텍스트 전용이며, 어떤 모델 벤더의 공식 API도 아닙니다. 가격은 1M 입력 토큰당 $0.15, 1M 출력 토큰당 $0.50이며, 가격 페이지에 나열되어 있습니다. 실패한 요청은 청구되지 않으므로 반복 테스트 비용은 매우 적습니다. 문서에는 지원되는 모든 파라미터가 나열되어 있습니다.

질문과 답변

OpenAI 호환 엔드포인트를 테스트할 수 있는 온라인 도구가 있나요?

curl, Postman 또는 OpenAI SDK를 사용한 짧은 스크립트 등 모든 HTTP 클라이언트가 작동합니다. 스크립트의 장점은 변경 사항마다 다시 실행할 수 있다는 것입니다.

SDK에 어떤 기본 URL을 입력해야 하나요?

https://api.uncensoredapis.com/v1과 같이 /v1을 포함한 전체 URL을 사용하세요. SDK가 자동으로 /chat/completions을 붙이므로 추가하지 마세요.

올바른 요청에서 404 오류가 발생하는 이유는 무엇인가요?

가장 흔한 원인은 /v1이 없거나 경로가 중복된 base URL입니다. 먼저 GET /v1/models로 확인하세요.

테스트 중 남은 잔액을 어떻게 확인하나요?

어떤 응답이든 X-Balance-USD 헤더를 읽거나 GET /v1/balance를 호출하세요.

키는 양식 하나만 작성하면 받을 수 있습니다

계정을 생성하고 키를 복사한 후 base URL을 변경하세요. 설정은 이것으로 끝입니다.