Hermes API：3行でクライアントを切り替え

OpenAI SDKをインストール

エンドポイントはOpenAI互換のため、すでに知っている公式SDKを使用できます。この方法により、アプリケーションロジックを書き換えることなく、他のベンダーから切り替えることができます。PythonおよびNode.js環境に対して標準のopenaiパッケージをサポートしています。

ストリーミングや関数呼び出しの機能との互換性を保証するために、SDKの最新バージョンを使用してください。クライアントライブラリはJSONシリアライズとHTTPトランスポートを自動的に処理するため、ネットワークの詳細ではなくモデルのパラメータに集中できます。

ベースURLとキーを設定

認証はAuthorizationヘッダー内のBearerトークンによって処理されます。ダッシュボードでメールアドレスとパスワードを使用してサインアップすることでキーを取得します。トライアルにはクレジットカードは必要なく、いつでもキーを再生成してアクセスを取り消すことができます。

ベースURLを専用エンドポイントに設定してください。これにより、すべてのリクエストがデフォルトのOpenAIクラウドではなく、無検閲モデルインフラストラクチャに送信されます。サインアップ直後の「APIキーを取得」ページでAPIキーを確認できます。

最初のリクエストを送信

接続性をテストするために標準的なチャット完了リクエストを送信します。モデルIDは常にuncensoredです。このモデルは、法的な成人利用に対してコンテンツ拒否なしで回答するように調整されており、クリエイティブライティング、ロールプレイ、または制限のない研究に最適です。

• テキスト生成にはPOST /v1/chat/completionsを使用します。
• コンテキストウィンドウは、プロンプトとcompletionを合わせて最大100,000トークンまでサポートします。
• リクエストは入力および出力トークンのカウントに基づいて課金されます。

Copycurl https://api.hermesllmapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

ストリーミング（SSE）を有効化

より良いユーザーエクスペリエンスのために、ストリーミングを有効にしてトークンが生成されるたびに受信してください。これにより、特に長い応答の場合に知覚されるレイテンシが削減されます。サーバーはクライアントがリアルタイムで解析できるサーバー送信イベント（SSE）を返します。

リクエストボディでstreamパラメータをtrueに設定します。SDKは到着したチャンクを順次返します。これは、応答全体が完了するのを待つのではなく、テキストを逐次表示したいチャットインターフェースに特に有用です。

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

ツール/関数呼び出しを使用

APIは関数呼び出しをサポートしており、モデルが外部ツールの実行のために構造化JSONを出力できます。toolsパラメータに関数を定義し、適切であればモデルはレスポンスでtool_callsを返します。

この機能はOpenAI仕様に記載されているとおりに動作します。関数名と引数を解析し、バックエンドロジックを実行し、結果を会話に戻すことができます。標準的なOpenAI SDKのツール呼び出しワークフローと完全に互換性があります。

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.hermesllmapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

利用可能なモデルを確認

接続を確認し、利用可能なオプションを確認するには、modelsエンドポイントをクエリしてください。現在、提供しているのは単一の専用モデルuncensoredのみです。このシンプルさは、モデルルーティングや汎用インフラの複雑さを回避し、予測可能な動作を保証します。

このエンドポイントは認証の問題をデバッグするためにも使用できます。リクエストが失敗した場合は、APIキーの有効性とネットワーク接続を確認してください。レスポンスには、コンテキストウィンドウのサイズやトークン制限を含むモデルの詳細がリストされます。

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.hermesllmapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

レート制限とエラーを処理

当APIでは、キーあたり1分あたり300リクエストの制限を設けています。これを超えると、429エラーが発生します。また、複雑なプロンプトや大きなコンテキストウィンドウのために、リクエストボディの最大8 MB制限もサポートしています。

一般的なエラーには、401（無効なAPI キー）と402（クレジット不足）があります。前払いクレジットは期限切れにならないため、都合の良いときにチャージしてください。高額な購入にはクレジットボーナスが自動的に適用されます：$50以上で+5%、$100以上で+10%。