API Hermes: cambia client in tre righe

Installa l'SDK OpenAI

Poiché il nostro endpoint è compatibile con OpenAI, puoi utilizzare gli SDK ufficiali che già conosci. Questo approccio ti permette di passare da altri fornitori senza riscrivere la logica della tua applicazione. Supportiamo il pacchetto standard openai per gli ambienti Python e Node.js.

Assicurati di utilizzare una versione recente dell'SDK per garantire la compatibilità con le funzionalità di streaming e chiamata di funzioni. La libreria client gestisce automaticamente la serializzazione JSON e il trasporto HTTP, così puoi concentrarti sui parametri del modello piuttosto che sui dettagli di rete.

Configura Base URL e Chiave

L'autenticazione avviene tramite un token Bearer nell'intestazione Authorization. Ottieni la tua chiave iscrivendoti con email e password sul nostro dashboard. Non è necessaria una carta di credito per la prova, e puoi rigenerare la tua chiave in qualsiasi momento per revocare l'accesso.

Imposta il base URL sul nostro endpoint dedicato. Questo assicura che tutte le richieste vengano inviate alla nostra infrastruttura per il modello senza censura invece che al cloud OpenAI predefinito. Puoi trovare la tua chiave API nella pagina 'Ottieni chiave API' subito dopo l'iscrizione.

Invia la tua prima richiesta

Invia una richiesta standard di chat completions per testare la connettività. L'ID del modello è sempre uncensored. Questo modello è ottimizzato per rispondere senza rifiuti di contenuto per l'uso legale adulto, rendendolo ideale per la scrittura creativa, il roleplay o la ricerca senza restrizioni.

• Usa POST /v1/chat/completions per la generazione di testo.
• La finestra di contesto supporta fino a 100.000 token per prompt più completamento.
• Le richieste vengono addebitate in base al conteggio dei token di input e output.

Copycurl https://api.hermesllmapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Abilita lo streaming (SSE)

Per una migliore esperienza utente, abilita lo streaming per ricevere i token man mano che vengono generati. Questo riduce la latenza percepita, soprattutto per le risposte più lunghe. Il server restituisce Server-Sent Events (SSE) che il tuo client può analizzare in tempo reale.

Imposta il parametro stream su true nel corpo della richiesta. L'SDK restituirà i chunk man mano che arrivano. Questo è particolarmente utile per le interfacce chat dove desideri visualizzare il testo in modo incrementale invece di attendere che l'intera risposta sia completa.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Usa la chiamata di funzioni

La nostra API supporta la chiamata di funzioni, consentendo al modello di restituire JSON strutturato per l'esecuzione di strumenti esterni. Definisci le tue funzioni nel parametro tools, e il modello restituirà tool_calls nella risposta se appropriato.

Questa funzione funziona esattamente come documentato nella specifica OpenAI. Puoi analizzare il nome della funzione e gli argomenti, eseguire la logica del tuo backend e restituire i risultati alla conversazione. È completamente compatibile con i flussi di lavoro standard di chiamata di funzioni degli SDK OpenAI.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.hermesllmapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Verifica i modelli disponibili

Interroga l'endpoint dei modelli per verificare la connettività e vedere le opzioni disponibili. Al momento offriamo un unico modello dedicato: uncensored. Questa semplicità evita la complessità del routing dei modelli o delle infrastrutture generiche, garantendo un comportamento prevedibile.

Puoi anche usare questo endpoint per eseguire il debug dei problemi di autenticazione. Se la richiesta fallisce, verifica la validità della tua chiave API e la connettività di rete. La risposta elencherà i dettagli del modello, incluse le dimensioni della finestra di contesto e i limiti dei token.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.hermesllmapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Gestisci i limiti di richieste e gli errori

La nostra API impone un limite di 300 richieste al minuto per chiave. Se lo superi, riceverai un errore 429. Supportiamo anche un limite del corpo della richiesta di 8 MB per prompt complessi o finestre di contesto ampie.

Gli errori comuni includono 401 (chiave non valida) e 402 (credito insufficiente). Il credito prepagato non scade mai, quindi puoi ricaricare quando preferisci. I bonus di credito vengono applicati automaticamente per acquisti più grandi: +5% da $50 e +10% da $100.