JA ▾

OpenAI互換の無検閲LLM APIuncensoredapis.com

ホームエージェント

OpenAI互換APIテスター:任意のエンドポイントを検証

テストリクエストを送信するターミナル、APIゲートウェイのキューブ、それぞれに緑のチェックマークが表示される

エンドポイントをテストするために特別なOpenAI互換APIテスターは必要ありません。4つのリクエストと短いPythonスクリプトで、Base URLが本当にOpenAI APIのように動作するかどうかを確認できます。

更新日:

主要ポイント

  1. GET /v1/models から始め、次に最小限のチャット補完を行います。
  2. ストリーミングをテストし、ストリームの最後に使用状況を読み取ります。
  3. エラーの表示を確認するために、意図的に不正なリクエストを送信します。
  4. 1つのスクリプトですべてのチェックを実行し、パスまたはフェイルを出力できます。

重要な4つのチェック

多くのサービスはOpenAI互換であると謳っています。チャットルーティングのみをコピーするものもあれば、エラー形式を変更するもの、ストリーミングの詳細を省略するものもあります。テスターは、クライアントコードが依存しているものを確認する必要があります。

  1. 認証とディスカバリ: Bearerキーを使用した GET /v1/models。
  2. 最小限のチャット完了: POST /v1/chat/completions。
  3. ストリーミング: stream: true を使用して同じ呼び出しを行う。
  4. エラー: 不正なキー、不正なモデル名、不正なボディに対して何が返されるか。

以下の例では、このサイトのエンドポイント https://api.uncensoredapis.com/v1 とモデル uncensored を使用します。テスト対象のベースURLとモデルに置き換えてください。まだキーを持っていない場合は、こちらで作成してください。新規アカウントはカードなしで$0.50のトライアルクレジットを受け取ることができます。

チェック1:curlでモデルを一覧表示

export API_KEY="sk-your-key"
curl -s -w "\nHTTP %{http_code}\n" \
  https://api.uncensoredapis.com/v1/models \
  -H "Authorization: Bearer $API_KEY"

HTTP 200 と data 配列を含むJSONオブジェクトが返されます。各項目には id が含まれます。ここで、どこでも使用するIDは uncensored です。この1回の呼び出しでDNS、TLS、パスプレフィックス、キーの検証を行うため、これが失敗すれば他のテストを行う意味はありません。一般的な原因は、ベースURLに /v1 が不足している、末尾に余分なスラッシュがある、またはキーに改行が含まれて貼り付けられていることです。

チェック2:最小限のチャットリクエスト

curl -s https://api.uncensoredapis.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Reply with the word ok."}]}'

レスポンスで、choices[0].message.content、finish_reason、およびプロンプトとコンプリーショントークンのカウントを含む usage オブジェクトを確認します。ヘッダーも使用してください。-i を追加し、X-Request-Id、X-Balance-USD、X-RateLimit-Limit-Requests、X-RateLimit-Limit-Concurrency を確認します。これらは後でのログ記録やコスト追跡に役立ちます。同じサービスは POST /v1/responses も受け付けます。これは APIリファレンス解説 でカバーされています。

チェック3:すべてのことをテストするPythonスクリプト

curlは最初の確認には適していますが、変更のたびに再実行できるスクリプトの方が優れています。これは公式の openai パッケージを使用し、各チェックの結果を出力します。

import sys
from openai import OpenAI, AuthenticationError, NotFoundError, RateLimitError

BASE = "https://api.uncensoredapis.com/v1"
MODEL = "uncensored"
client = OpenAI(base_url=BASE, api_key=sys.argv[1])

def check(name, fn):
    try:
        print("PASS", name, "-", fn())
    except Exception as e:
        print("FAIL", name, "-", type(e).__name__, e)

def models():
    ids = [m.id for m in client.models.list().data]
    assert MODEL in ids, ids
    return ids

def chat():
    r = client.chat.completions.create(
        model=MODEL, messages=[{"role": "user", "content": "Say ok."}])
    assert r.choices[0].message.content
    return r.usage.total_tokens

def stream():
    parts, usage = [], None
    for c in client.chat.completions.create(
            model=MODEL, stream=True,
            messages=[{"role": "user", "content": "Count to five."}]):
        if c.choices and c.choices[0].delta.content:
            parts.append(c.choices[0].delta.content)
        usage = getattr(c, "usage", None) or usage
    assert parts
    return f"{len(parts)} chunks, usage={usage}"

def bad_model():
    try:
        client.chat.completions.create(
            model="no-such-model", messages=[{"role": "user", "content": "hi"}])
    except NotFoundError as e:
        return "NotFoundError " + str(e.status_code)
    except Exception as e:
        return type(e).__name__
    raise AssertionError("bad model name was accepted")

for n, f in [("models", models), ("chat", chat), ("stream", stream), ("bad model", bad_model)]:
    check(n, f)

python tester.py sk-your-key で実行します。不明なモデルのチェックは、SDKが発生させるエラークラスを記録します。これはそれ自体が有用な情報です。サービスが不明なモデル名を受け入れる場合、ルーティングまたはエイリアス処理をしている可能性があり、その方法を確認する必要があります。

チェック4:エラー処理

アプリケーションでは失敗が発生するため、意図的にそれらを確認してください。

  • 不正なキー: キーの1文字を変更します。HTMLページではなく、HTTP 401とJSONエラーボディが期待されます。
  • 不正なボディ: messagesなしで {"model":"uncensored"} を送信します。読みやすいメッセージを持つ4xxが期待されます。
  • レート制限: このAPIは、1分あたりのリクエストに対して rate_limited コード、同時リクエストが多すぎることに対して concurrency で429を返します。一時的な過負荷も429を返し、Retry-After: 5 を含みます。

優れたクライアントは、429を待機して再試行するためのシグナルとして扱い、429以外の4xxを修正すべきバグとして扱います。再試行ルールを1回記述し、10個のリクエストを同時に送信してテストしてください。キータイプごとの制限は エラーとレート制限ページ に記載されています。

確認すべき互換性のギャップ

4つのチェックに合格することは良い出発点です。これらはクローンが最も異なる箇所であるため、アプリがそれに依存している場合は、それぞれを試してみてください。

  • パラメータ: temperature、top_p、stop、seed およびペナルティを送信します。一部のサーバーはこれらを無視します。固定された seed と低い温度で同じプロンプトを3回実行し、出力を比較してください。
  • メッセージのロール: まず system メッセージを試してから、長いマルチターン履歴を試してください。システムメッセージが実際に挙動を変化させることを確認します。
  • ツール呼び出し: 定義した関数への呼び出しを要求し、結果を role: "tool" メッセージとして送信します。ストリーミングモードでは、tool_calls は連結する必要がある断片として到着します。
  • JSONモード: response_format を {"type":"json_object"} に設定し、20回の返信を解析します。
  • ボディサイズ: このAPIは最大8 MBのボディを受け付けます。制限を超えるリクエストは、ハングすることなく明確な4xxで失敗すべきです。

見つけた各ギャップを記録し、コードで回避できるかどうかを判断してください。スクリプトの隣にメモを保管してください。次にプロバイダがアップデートをリリースしたとき、同じチェックを再実行して比較したいはずです。複数のプロバイダをテストする場合は、各プロバイダに対して同じスクリプトを実行し、出力をテーブルに保持して、違いが一目でわかるようにしてください。パラメータの欠如は通常害はありませんが、異なるエラー形式や壊れたストリーミングは通常害があります。

合格が証明しないもの

緑のランはプロトコルの互換性を示します。回答の品質、負荷時の速度、価格については何も示しません。これらには、独自のプロンプトでの別々のテストが必要です。追加すべきクイックな追加は2つあります:実際のサイズに近い長いプロンプトでのリクエスト(このエンドポイントは100,000トークンのコンテキストウィンドウを持つ)、およびアプリがエージェントを使用する場合のツール呼び出しリクエスト。

また、テスト対象が何かを心に留めておいてください。このサービスは、法的な成人用途に対してコンテンツ拒否なしで回答するように調整された1つのオープンウェイトモデルをホストしています。テキストのみであり、任意のモデルベンダーの公式APIではありません。価格は1M入力トークンあたり$0.15、1M出力トークンあたり$0.50で、価格ページ にリストされており、失敗したリクエストは課金されないため、繰り返しテスト実行のコストは非常に低いです。ドキュメント にはサポートされているすべてのパラメータがリストされています。

質問と回答

OpenAI互換エンドポイントをテストするオンラインツールはありますか?

curl、Postman、またはOpenAI SDKを使った短いスクリプトなど、任意のHTTPクライアントが使用できます。スクリプトの利点は、変更のたびに再実行できることです。

SDKにはどのベースURLを設定すべきですか?

https://api.uncensoredapis.com/v1 のように/v1を含む完全なURLを使用してください。SDKが末尾に追加するため、/chat/completionsは追加しないでください。

正しく見えるリクエストで404エラーが発生するのはなぜですか?

最も一般的な原因は、/v1が含まれていないか、パスが重複しているベースURLです。まず/v1/modelsへのGETリクエストで確認してください。

テスト中に残高を確認するにはどうすればよいですか?

任意のレスポンスのX-Balance-USDヘッダーを確認するか、GET /v1/balanceを呼び出してください。

キーはフォームを1つ記入するだけで手に入ります

アカウントを作成し、キーをコピーし、ベースURLを変更します。これでセットアップは完了です。