Hermes API: переключите клиентскую библиотеку за три строки

Установите SDK OpenAI

Поскольку наш эндпоинт совместим с OpenAI, вы можете использовать знакомые вам официальные SDK. Этот подход позволяет переключиться с других поставщиков без переписывания логики приложения. Мы поддерживаем стандартный пакет openai для сред Python и Node.js.

Убедитесь, что вы используете последнюю версию SDK для обеспечения совместимости с функциями потоковой передачи и вызова функций. Библиотека клиента автоматически обрабатывает сериализацию JSON и HTTP-транспорт, поэтому вы можете сосредоточиться на параметрах модели, а не на деталях сети.

Настройте базовый URL и ключ

Аутентификация осуществляется с помощью токена Bearer в заголовке Authorization. Вы получаете ключ, зарегистрировавшись по электронной почте и паролю на нашей панели управления. Для пробного периода не требуется банковская карта, и вы можете сгенерировать новый ключ в любое время, чтобы отозвать доступ.

Установите базовый URL на наш выделенный эндпоинт. Это гарантирует, что все запросы будут отправляться в инфраструктуру нашей модели без цензуры, а не в стандартное облако OpenAI. Вы можете найти свой API-ключ на странице «Получить API-ключ» сразу после регистрации.

Отправьте первый запрос

Отправьте стандартный запрос на завершение чата, чтобы проверить подключение. Идентификатор модели всегда uncensored. Эта модель настроена на ответы без отказов в контенте для законного использования взрослыми, что делает ее идеальной для творческого письма, ролевых игр или неограниченных исследований.

• Используйте POST /v1/chat/completions для генерации текста.
• Контекстное окно поддерживает до 100 000 токенов для промпта и завершения.
• Запросы оплачиваются на основе количества входных и выходных токенов.

Copycurl https://api.hermesllmapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Включите потоковую передачу (SSE)

Для улучшения пользовательского опыта включите потоковую передачу, чтобы получать токены по мере их генерации. Это снижает воспринимаемую задержку, особенно для длинных ответов. Сервер возвращает события, отправляемые сервером (SSE), которые ваш клиент может обрабатывать в реальном времени.

Установите параметр stream в значение true в теле запроса. SDK будет выдавать фрагменты по мере их поступления. Это особенно полезно для интерфейсов чата, где вы хотите отображать текст постепенно, а не ждать завершения всего ответа.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Используйте вызов функций

Наш API поддерживает вызов функций, позволяя модели выводить структурированный JSON для выполнения внешних инструментов. Определите свои функции в параметре tools, и модель вернет tool_calls в ответе, если это уместно.

Эта функция работает точно так, как описано в спецификации OpenAI. Вы можете извлечь имя функции и аргументы, выполнить логику на бэкенде и передать результаты обратно в диалог. Она полностью совместима с рабочими процессами вызова инструментов в стандартных SDK OpenAI.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.hermesllmapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Проверьте доступные модели

Обратитесь к эндпоинту моделей, чтобы проверить подключение и увидеть доступные варианты. В настоящее время мы предлагаем одну выделенную модель: uncensored. Эта простота избавляет от сложности маршрутизации моделей или поддержки общей инфраструктуры, обеспечивая предсказуемое поведение.

Вы также можете использовать этот эндпоинт для отладки проблем аутентификации. Если запрос не выполнен, проверьте действительность вашего API-ключа и сетевое подключение. В ответе будет перечислена информация о модели, включая размер контекстного окна и ограничения токенов.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.hermesllmapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Обработка лимитов запросов и ошибок

Наш API устанавливает лимит в 300 запросов в минуту на ключ. Если вы превысите этот лимит, вы получите ошибку 429. Мы также поддерживаем лимит тела запроса 8 МБ для сложных промптов или больших контекстных окон.

Распространенные ошибки включают 401 (неверный ключ) и 402 (недостаточно средств). Предоплаченный баланс не сгорает, поэтому вы можете пополнить его в удобное время. Бонусы к балансу применяются автоматически для крупных покупок: +5% от $50 и +10% от $100.