TR ▾

OpenAI uyumlu sansürsüz LLM API'siuncensoredapis.com

Ana SayfaAgent'lar

OpenAI Uyumlu API Test Aracı: Her Uç Noktayı Doğrulayın

Terminalden API ağ geçesi küpüne test istekleri gönderiliyor, her biri yeşil onay işareti döndürüyor

Bir uç noktayı kontrol etmek için özel bir openai uyumlu api test aracına ihtiyacınız yok. Dört istek ve kısa bir Python betiği, bir base URL'in gerçekten OpenAI API gibi davranıp davranmadığını söyler.

güncellendi

Temel noktalar

  1. GET /v1/models ile başlayın, ardından tek bir minimal chat tamamlama isteği gönderin.
  2. Akışı test edin ve akışın sonunda kullanımı okuyun.
  3. Hataların nasıl göründüğünü görmek için kasıtlı olarak hatalı istekler gönderin.
  4. Tek bir betik tüm kontrolleri çalıştırabilir ve geçme veya başarısızlık sonucunu yazdırabilir.

Önemli olan dört kontrol

Çok sayıda hizmet OpenAI-uyumlu olduğunu söyler. Bazıları yalnızca chat rotasını kopyalar, bazıları hata formatını değiştirir, bazıları akış ayrıntılarını atar. Bir test aracı, istemci kodunuzun güvendiği şeyleri onaylamalıdır:

  1. Kimlik doğrulama ve keşif: GET /v1/models Bearer anahtarı ile.
  2. Minimal bir sohbet tamamlama: POST /v1/chat/completions.
  3. Akış: stream: true ile aynı çağrı.
  4. Hatalar: kötü bir anahtar, kötü bir model adı ve hatalı bir gövde için ne döndüğü.

Aşağıdaki örnekler bu sitin uç noktasını, https://api.uncensoredapis.com/v1 ve uncensored modelini kullanır. Test ettiğiniz herhangi bir şeyin base URL ve modelini yerine koyun. Henüz bir anahtarınız yoksa, buradan bir tane oluşturun; yeni hesaplar kart olmadan $0,50 deneme kredisi talep edebilir.

Kontrol 1: modelleri curl ile listele

export API_KEY="sk-your-key"
curl -s -w "\nHTTP %{http_code}\n" \
  https://api.uncensoredapis.com/v1/models \
  -H "Authorization: Bearer $API_KEY"

HTTP 200 ve bir data dizisi içeren JSON nesnesi bekleyin. Her öğenin bir id değeri vardır. Her yerde kullanacağınız kimlik uncensored şeklindedir. Bu tek çağrı DNS'i, TLS'i, yol önekini ve anahtarı kontrol eder; bu nedenle başarısız olursa başka bir şeyi test etmenin anlamı yoktur. Beklenen nedenler, temel URL'de eksik /v1, fazladan bir son eğik çizgi veya yeni satır karakteri ile yapıştırılan bir anahtardır.

Kontrol 2: tek bir minimal sohbet isteği

curl -s https://api.uncensoredapis.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Reply with the word ok."}]}'

Yanıttan choices[0].message.content, finish_reason ve istem ve tamamlama token sayıları içeren usage nesnesini kontrol edin. Başlıkları da kullanın: -i ekleyin ve X-Request-Id, X-Balance-USD, X-RateLimit-Limit-Requests ve X-RateLimit-Limit-Concurrency için bakın. Bunlar günlük tutma ve daha sonra maliyet takibi için kullanışlıdır. Aynı hizmet ayrıca POST /v1/responses kabul eder; bu API referans açıklaması tarafından kapsanır.

Kontrol 3: her şeyi test eden bir Python betiği

İlk bakış için curl iyidir, ancak her değişiklikten sonra yeniden çalıştırabileceğiniz bir betik daha iyidir. Bu betik resmi openai paketini kullanır ve her kontrolü raporlar.

import sys
from openai import OpenAI, AuthenticationError, NotFoundError, RateLimitError

BASE = "https://api.uncensoredapis.com/v1"
MODEL = "uncensored"
client = OpenAI(base_url=BASE, api_key=sys.argv[1])

def check(name, fn):
    try:
        print("PASS", name, "-", fn())
    except Exception as e:
        print("FAIL", name, "-", type(e).__name__, e)

def models():
    ids = [m.id for m in client.models.list().data]
    assert MODEL in ids, ids
    return ids

def chat():
    r = client.chat.completions.create(
        model=MODEL, messages=[{"role": "user", "content": "Say ok."}])
    assert r.choices[0].message.content
    return r.usage.total_tokens

def stream():
    parts, usage = [], None
    for c in client.chat.completions.create(
            model=MODEL, stream=True,
            messages=[{"role": "user", "content": "Count to five."}]):
        if c.choices and c.choices[0].delta.content:
            parts.append(c.choices[0].delta.content)
        usage = getattr(c, "usage", None) or usage
    assert parts
    return f"{len(parts)} chunks, usage={usage}"

def bad_model():
    try:
        client.chat.completions.create(
            model="no-such-model", messages=[{"role": "user", "content": "hi"}])
    except NotFoundError as e:
        return "NotFoundError " + str(e.status_code)
    except Exception as e:
        return type(e).__name__
    raise AssertionError("bad model name was accepted")

for n, f in [("models", models), ("chat", chat), ("stream", stream), ("bad model", bad_model)]:
    check(n, f)

python tester.py sk-your-key ile çalıştırın. Kötü model kontrolü, SDK'nızın fırlattığı hata sınıfını kaydeder; bu kendi başına yararlı bir bilgidir. Hizmet bilinmeyen bir model adını kabul ederse, büyük olasılıkla onu yönlendiriyor veya takma ad olarak kullanıyor demektir ve bunu öğrenmelisiniz.

Kontrol 4: hata işleme

Uygulamanız hatalarla karşılaşacaktır, bu yüzden onlara bilinçli olarak bakın.

  • Kötü anahtar: anahtardaki bir karakteri değiştirin. HTTP 401 ve bir JSON hata gövdesi bekleyin, HTML sayfası değil.
  • Hatalı istek gövdesi: {"model":"uncensored"} mesaj listesi olmadan gönderin. Okunabilir bir hata mesajı içeren bir 4xx yanıtı bekleyin.
  • Hız limitleri: bu API, dakika başına istekler için rate_limited koduyla 429 ve çok fazla eşzamanlı istek için concurrency döndürür. Geçici bir aşırı yüklenme de Retry-After: 5 ile 429 döndürür.

İyi bir istemci, 429 durum kodunu bekleme ve yeniden deneme sinyali olarak; 429 dışındaki diğer 4xx durum kodlarını ise düzeltilmesi gereken bir hata olarak ele alır. Yeniden deneme kuralını bir kez yazın ve aynı anda on istek başlatarak test edin. Anahtar türü başına limitler hatalar ve hız limitleri sayfasında belirtilmiştir.

Aranacak uyumluluk açıkları

Dört kontrolü geçmek iyi bir başlangıçtır. Klonların en sık farklı olduğu yerler şunlardır, bu nedenle uygulamanız buna bağlıysa her birini inceleyin:

  • Parametreler: temperature, top_p, stop, seed ve ceza parametrelerini gönderin. Bazı sunucular bunları sessizce yok sayar. Sabit bir seed ve düşük bir sıcaklık ile aynı istemi üç kez çalıştırın ve çıktıları karşılaştırın.
  • Mesaj rolleri: önce bir system mesajı deneyin, ardından uzun çoklu tur geçmişi. Sistem mesajının davranışı gerçekten değiştirip değiştirmediğini kontrol edin.
  • Araç çağrıları: tanımladığınız bir işleve çağrı yapmasını isteyin, ardından sonucu bir role: "tool" mesajı olarak gönderin. Akış modunda, tool_calls birleştirmeniz gereken parçalar halinde gelir.
  • JSON modu: response_format değerini {"type":"json_object"} olarak ayarlayın ve 20 yanıtı ayrıştırın.
  • Gövde boyutu: bu API 8 MB'a kadar gövdeleri kabul eder. Limitin üzerindeki bir istek, asılmak yerine net bir 4xx ile başarısız olmalıdır.

Bulduğunuz her açığı not edin ve kodunuzun bunu aşabilip aşamayacağına karar verin. Notları betiğin yanında tutun, çünkü sağlayıcı bir güncelleme yayınladığında aynı kontrolleri yeniden çalıştırmak ve karşılaştırmak isteyeceksiniz. Birden fazla sağlayıcıyı test ederseniz, aynı betiği her biri için çalıştırın ve çıktıları bir tabloda tutun, böylece farklılıklar hafızada kaybolmak yerine bir bakışta görünür hale gelir. Eksik bir parametre genellikle zararsızdır. Farklı bir hata formatı veya bozuk akış genellikle değildir.

Başarımın kanıtlamadığı şeyler

Yeşil bir çalıştırma protokol uyumluluğunu gösterir. Yanıt kalitesi, yük altında hız veya fiyat hakkında hiçbir şey söylemez. Bunlar için kendi istemlerinizde ayrı testler gerekir. Eklemeniz gereken iki hızlı ekleme vardır: gerçek boyutunuza yakın uzun bir istemle bir istek (bu uç noktanın 100.000 token bağlam penceresi vardır) ve uygulamanız ajanlar kullanıyorsa bir araç çağırma isteği.

Ayrıca neyi test ettiğinizi de aklınızda tutun. Bu hizmet, yasal yetişkin kullanımı için içerik reddi olmadan cevap verecek şekilde ayarlanmış tek bir açık ağırlıklı modeli barındırır. Yalnızca metin içerir ve herhangi bir model satıcısının resmi API'si değildir. Fiyatlar 1M istem token başına $0,15 ve 1M çıktı token başına $0,50'dir ve fiyatlandırma sayfasında listelenmiştir; başarısız istekler faturalandırılmaz, bu nedenle tekrarlanan test çalıştırmaları çok az maliyetlidir. dokümantasyon desteklenen her parametreyi listeler.

Sorular ve cevaplar

Bir OpenAI-uyumlu uç noktayı test etmek için çevrimiçi bir araç var mı?

Herhangi bir HTTP istemcisi işe yarar: curl, Postman veya OpenAI SDK ile kısa bir betik. Bir betiğin avantajı, her değişiklikten sonra yeniden çalıştırabilmenizdir.

SDK'ya hangi base URL'i eklemeliyim?

Tam URL'i /v1 dahil kullanın, örneğin https://api.uncensoredapis.com/v1. SDK bunu eklediği için /chat/completions eklemeyin.

Neden doğru görünen bir istekte 404 hatası alıyorum?

En yaygın neden, /v1 içermeyen veya çift yol içeren bir base URL'dir. Önce GET /v1/models ile kontrol edin.

Test sırasında kalan bakiyemi nasıl kontrol ederim?

Herhangi bir yanıtta X-Balance-USD başlığını okuyun veya GET /v1/balance çağrısı yapın.

Anahtarınız tek bir formun uzağında

Bir hesap oluşturun, anahtarı kopyalayın ve base URL'yi değiştirin. Kurulum bu kadar basit.