हेर्मीज़ API: अपने क्लाइंट को तीन पंक्तियों में बदलें

OpenAI SDK इंस्टॉल करें

चूंकि हमारा एंडपॉइंट OpenAI-संगत है, आप पहले से ज्ञात आधिकारिक SDKs का उपयोग कर सकते हैं। इस दृष्टिकोण से आप अन्य विक्रेताओं से बिना एप्लिकेशन लॉजिक बदले स्विच कर सकते हैं। हम Python और Node.js वातावरण के लिए मानक openai पैकेज का समर्थन करते हैं।

सुनिश्चित करें कि आप SDK का एक हालिया संस्करण उपयोग कर रहे हैं ताकि स्ट्रीमिंग और टूल कॉलिंग सुविधाओं के साथ संगतता की गारंटी मिल सके। क्लाइंट लाइब्रेरी स्वचालित रूप से JSON सीरियलाइजेशन और HTTP ट्रांसपोर्ट संभालती है, इसलिए आप नेटवर्क विवरणों पर ध्यान देने के बजाय मॉडल पैरामीटर पर ध्यान केंद्रित कर सकते हैं।

बेस URL और कुंजी कॉन्फ़िगर करें

प्रमाणीकरण Authorization हेडर में Bearer टोकन के माध्यम से किया जाता है। आप हमारे डैशबोर्ड पर ईमेल और पासवर्ड से साइन अप करके अपनी कुंजी प्राप्त करते हैं। ट्रायल के लिए क्रेडिट कार्ड की आवश्यकता नहीं है, और आप किसी भी समय एक्सेस रद्द करने के लिए अपनी कुंजी को पुनः उत्पन्न कर सकते हैं।

हमारे समर्पित एंडपॉइंट के लिए बेस URL सेट करें। यह सुनिश्चित करता है कि सभी अनुरोध डिफ़ॉल्ट OpenAI क्लाउड के बजाय हमारे बिना सेंसर मॉडल इंफ्रास्ट्रक्चर पर जाएं। आप साइनअप के तुरंत बाद 'API कुंजी प्राप्त करें' पेज पर अपनी API कुंजी पा सकते हैं।

अपना पहला अनुरोध भेजें

कनेक्टिविटी परीक्षण के लिए एक मानक चैट पूरक अनुरोध भेजें। मॉडल आईडी हमेशा uncensored होती है। यह मॉडल कानूनी वयस्क उपयोग के लिए सामग्री अस्वीकृति के बिना उत्तर देने के लिए ट्यून्ड है, जो रचनात्मक लेखन, रोलप्ले या असीमित शोध के लिए आदर्श है।

• टेक्स्ट जनरेशन के लिए POST /v1/chat/completions का उपयोग करें।
• कॉन्टेक्स्ट विंडो प्रॉम्प्ट और पूर्णता के लिए 100,000 टोकन तक समर्थन करती है।
• अनुरोध इनपुट और आउटपुट टोकन गणना के आधार पर चार्ज किए जाते हैं।

Copycurl https://api.hermesllmapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

स्ट्रीमिंग (SSE) सक्षम करें

बेहतर उपयोगकर्ता अनुभव के लिए, स्ट्रीमिंग सक्षम करें ताकि जनरेट होने पर टोकन प्राप्त हों। यह लंबे उत्तरों के लिए अनुभूत लेटेंसी को कम करता है। सर्वर सर्वर-सेंट इवेंट्स (SSE) लौटाता है जिन्हें आपका क्लाइंट रियल-टाइम में पार्स कर सकता है।

अपने अनुरोध बॉडी में stream पैरामीटर को true पर सेट करें। SDK चंक प्राप्त होते ही उन्हें लौटाएगा। यह उन चैट इंटरफ़ेस के लिए विशेष रूप से उपयोगी है जहाँ आप पूरे प्रतिक्रिया के समाप्त होने का इंतज़ार करने के बजाय पाठ को क्रमबद्ध रूप से प्रदर्शित करना चाहते हैं।

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

टूल/फ़ंक्शन कॉलिंग का उपयोग करें

हमारी API फ़ंक्शन कॉलिंग का समर्थन करती है, जिससे मॉडल बाहरी टूल निष्पादन के लिए संरचित JSON आउटपुट कर सकता है। अपने फ़ंक्शनों को tools पैरामीटर में परिभाषित करें, और मॉडल यदि उचित हो तो प्रतिक्रिया में tool_calls लौटाएगा।

यह सुविधा OpenAI स्पेसिफिकेशन में दस्तावेज के अनुसार पूरी तरह से काम करती है। आप फ़ंक्शन नाम और तर्कों को पार्स कर सकते हैं, अपनी बैकएंड लॉजिक को एक्जीक्यूट कर सकते हैं, और परिणामों को बातचीत में वापस फीड कर सकते हैं। यह मानक OpenAI SDK टूल-कॉलिंग वर्कफ़्लो के साथ पूरी तरह संगत है।

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.hermesllmapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

उपलब्ध मॉडल जाँचें

कनेक्टिविटी सत्यापित करने और उपलब्ध विकल्प देखने के लिए मॉडल्स एंडपॉइंट को क्वेरी करें। वर्तमान में, हम एक अकेले समर्पित मॉडल प्रदान करते हैं: uncensored। यह सरलता मॉडल रूटिंग या सामान्य इंफ्रास्ट्रक्चर की जटिलता से बचाती है, जो भविष्यवाणी योग्य व्यवस्था सुनिश्चित करती है।

आप प्रमाणीकरण मुद्दों को डिबग करने के लिए इस एंडपॉइंट का भी उपयोग कर सकते हैं। यदि अनुरोध विफल हो जाता है, तो अपनी API कुंजी वैधता और नेटवर्क कनेक्टिविटी की जाँच करें। प्रतिक्रिया मॉडल विवरण, कॉन्टेक्स्ट विंडो आकार और टोकन सीमाओं सहित सूचीबद्ध करेगी।

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.hermesllmapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

रेट लिमिट और त्रुटियों को संभालें

हमारी API प्रति कुंजी प्रति मिनट 300 अनुरोधों की एक सीमा लागू करती है। यदि आप इससे अधिक हो जाते हैं, तो आपको 429 त्रुटि मिलेगी। हम जटिल प्रॉम्प्ट्स या बड़े कॉन्टेक्स्ट विंडो के लिए 8 MB अनुरोध बॉडी सीमा का भी समर्थन करते हैं।

सामान्य त्रुटियों में 401 (अवैध कुंजी) और 402 (अपर्याप्त क्रेडिट) शामिल हैं। प्रीपेड क्रेडिट कभी समाप्त नहीं होता, इसलिए आप अपनी सुविधानुसार टॉप-अप कर सकते हैं। बड़ी खरीदारी के लिए क्रेडिट बोनस स्वचालित रूप से लागू होते हैं: $50 से +5% और $100 से +10%।