Hermes API: İstemcinizi üç satırda değiştirin

OpenAI SDK'sını yükleyin

Uç noktamız OpenAI uyumlu olduğundan, zaten bildiğiniz resmi SDK'ları kullanabilirsiniz. Bu yaklaşım, uygulama mantığınızı yeniden yazmadan diğer sağlayıcılardan geçiş yapmanızı sağlar. Python ve Node.js ortamları için standart openai paketini destekliyoruz.

Akış ve fonksiyon çağırma özellikleriyle uyumluluğu garanti etmek için SDK'nın güncel bir sürümünü kullandığınızdan emin olun. İstemci kitaplığı JSON serileştirmesini ve HTTP aktarımını otomatik olarak yönetir, böylece ağ detaylarına odaklanmak yerine model parametrelerine odaklanabilirsiniz.

Temel URL ve Anahtarı Yapılandırın

Kimlik doğrulama, Authorization başlığında bir Bearer token aracılığıyla sağlanır. Anahtarınızı, panomuzda e-posta ve şifre ile kayıt olarak elde edersiniz. Deneme için kredi kartı gerekmez ve erişimi iptal etmek için anahtarınızı istediğiniz zaman yeniden oluşturabilirsiniz.

Temel URL'yi özel uç noktamıza ayarlayın. Bu, tüm isteklerin varsayılan OpenAI bulutuna değil, sansürsüz model altyapımıza gitmesini sağlar. API anahtarınızı, kayıttan hemen sonra 'API anahtarı al' sayfasında bulabilirsiniz.

İlk İsteğinizi Gönderin

Bağlantıyı test etmek için standart bir sohbet tamamlama isteği gönderin. Model kimliği her zaman uncensored şeklindedir. Bu model, yasal yetişkin kullanım için içerik reddi olmadan yanıt verecek şekilde ayarlanmıştır; yaratıcı yazarlık, rol yapma veya kısıtlamasız araştırma için idealdir.

• Metin üretimi için POST /v1/chat/completions kullanın.
• Bağlam penceresi, istem ve tamamlama için 100.000 token'a kadar destekler.
• İstekler, giriş ve çıktı token sayılarına göre ücretlendirilir.

Copycurl https://api.hermesllmapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Akışı Etkinleştir (SSE)

Daha iyi bir kullanıcı deneyimi için, token'lar oluşturulurken almak üzere akışı etkinleştirin. Bu, özellikle daha uzun yanıtlar için algılanan gecikmeyi azaltır. Sunucu, istemcinizin gerçek zamanlı olarak ayrıştırabileceği Sunucu Tarafı Olayları (SSE) döndürür.

İstek gövdenizde stream parametresini true olarak ayarlayın. SDK, parçalar geldikça onları iletecektir. Bu, tüm yanıtın bitmesini beklemek yerine metni kademeli olarak görüntülemek istediğiniz sohbet arayüzleri için özellikle yararlıdır.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Araç/Fonksiyon Çağırma Kullan

API'miz, modelin harici araç yürütme için yapılandırılmış JSON çıktısı vermesini sağlayan fonksiyon çağırma özelliğini destekler. Fonksiyonlarınızı tools parametresinde tanımlayın; model uygun olduğunda yanıtta tool_calls döndürür.

Bu özellik, OpenAI spesifikasyonunda belgelendirildiği gibi çalışır. Fonksiyon adını ve argümanlarını ayrıştırabilir, arka uç mantığınızı yürütebilir ve sonuçları sohbete geri besleyebilirsiniz. Standart OpenAI SDK fonksiyon çağırma iş akışlarıyla tam uyumludur.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.hermesllmapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Mevcut Modelleri Kontrol Et

Bağlantıyı doğrulamak ve mevcut seçenekleri görmek için modeller uç noktasını sorgulayın. Şu anda tek bir özel model sunuyoruz: uncensored. Bu sadelik, model yönlendirme veya genel altyapı karmaşıklığını önler ve öngörülebilir davranış sağlar.

Bu uç noktası kimlik doğrulama sorunlarını halletmek için de kullanabilirsiniz. İstek başarısız olursa, API anahtarınızın geçerliliğini ve ağ bağlantısını kontrol edin. Yanıt, bağlam penceresi boyutu ve token limitleri dahil olmak üzere model ayrıntılarını listeleyecektir.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.hermesllmapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Hız Limitleri ve Hataları Yönet

API'miz anahtar başına dakikada 300 istek için bir hız limiti uygular. Bu aşarsanız 429 hatası alırsınız. Karmaşık istemler veya büyük bağlam pencereleri için 8 MB istek gövdesi sınırını da destekliyoruz.

Yaygın hatalar 401 (geçersiz anahtar) ve 402 (yetersiz kredi) şeklindedir. Ön ödemeli kredi süresi dolmaz, bu nedenle istediğiniz zaman bakiye yükleyebilirsiniz. Daha büyük satın alımlar için kredi bonusları otomatik olarak uygulanır: $50'den +%5 ve $100'den +%10.