Hermes API: 세 줄로 클라이언트 전환

OpenAI SDK 설치

당사의 엔드포인트는 OpenAI 호환이므로 이미 알고 있는 공식 SDK를 사용할 수 있습니다. 이 방식은 애플리케이션 로직을 다시 작성하지 않고도 다른 벤더로 전환할 수 있게 합니다. Python 및 Node.js 환경에서 표준 openai 패키지를 지원합니다.

스트리밍 및 함수 호출 기능과의 호환성을 보장하기 위해 SDK의 최신 버전을 사용하고 있는지 확인하세요. 클라이언트 라이브러리는 JSON 직렬화 및 HTTP 전송을 자동으로 처리하므로 네트워크 세부 사항보다 모델 매개변수에 집중할 수 있습니다.

Base URL 및 키 구성

인증은 Authorization 헤더의 Bearer 토큰을 통해 처리됩니다. 대시보드에서 이메일과 비밀번호로 가입하여 키를 얻습니다. 체험용에는 신용카드가 필요 없으며, 언제든지 키를 재생성하여 접근 권한을 취소할 수 있습니다.

Base URL을 전용 엔드포인트로 설정하세요. 이렇게 하면 모든 요청이 기본 OpenAI 클라우드 대신 무검열 모델 인프라로 전송됩니다. 가입 직후 'API 키 받기' 페이지에서 API 키를 확인할 수 있습니다.

첫 번째 요청 보내기

연결성을 테스트하기 위해 표준 채팅 완료 요청을 보내세요. 모델 ID는 항상 uncensored입니다. 이 모델은 합법적인 성인 사용에 대한 콘텐츠 거절 없이 답변하도록 조정되어 창의적 글쓰기, 역할극 또는 제한 없는 연구에 이상적입니다.

• 텍스트 생성에는 POST /v1/chat/completions를 사용하세요.
• 컨텍스트 창은 프롬프트와 completion을 합쳐 최대 100,000개의 토큰을 지원합니다.
• 요청은 입력 및 출력 토큰 수를 기준으로 청구됩니다.

Copycurl https://api.hermesllmapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

스트리밍(SSE) 활성화

더 나은 사용자 경험을 위해 스트리밍을 활성화하여 생성되는 토큰을 수신하세요. 이는 특히 긴 응답의 경우 지각된 지연 시간을 줄여줍니다. 서버는 클라이언트가 실시간으로 구문 분석할 수 있는 서버 전송 이벤트(SSE)를 반환합니다.

요청 본문에 stream 파라미터를 true로 설정하세요. SDK는 데이터가 도착하는 대로 청크를 반환합니다. 전체 응답이 완료될 때까지 기다리지 않고 텍스트를 단계적으로 표시하려는 채팅 인터페이스에 특히 유용합니다.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

도구/함수 호출 사용

당사 API는 함수 호출을 지원하여 모델이 외부 도구 실행을 위해 구조화된 JSON을 출력할 수 있게 합니다. tools 매개변수에 함수를 정의하면 모델은 적절한 경우 응답에 tool_calls을 반환합니다.

이 기능은 OpenAI 사양에 문서화된 대로 정확히 작동합니다. 함수 이름과 인수를 구문 분석하고 백엔드 로직을 실행한 후 결과를 대화에 다시 피드백할 수 있습니다. 표준 OpenAI SDK 도구 호출 워크플로우와 완전히 호환됩니다.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.hermesllmapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

사용 가능한 모델 확인

연결성을 확인하고 사용 가능한 옵션을 보기 위해 모델 엔드포인트를 쿼리하세요. 현재 단일 전용 모델인 uncensored만 제공합니다. 이 단순성은 모델 라우팅 또는 일반 인프라의 복잡성을 피하여 예측 가능한 동작을 보장합니다.

이 엔드포인트를 사용하여 인증 문제를 디버깅할 수도 있습니다. 요청이 실패하면 API 키 유효성 및 네트워크 연결을 확인하세요. 응답에는 컨텍스트 창 크기 및 토큰 제한을 포함한 모델 세부 정보가 나열됩니다.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.hermesllmapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

속도 제한 및 오류 처리

당사 API는 키당 분당 300개의 요청 제한을 시행합니다. 이를 초과하면 429 오류가 발생합니다. 또한 복잡한 프롬프트나 큰 컨텍스트 창을 위해 8 MB 요청 본문 제한도 지원합니다.

일반적인 오류로는 401(잘못된 키)과 402(크레딧 부족)이 있습니다. 선불 크레딧은 만료되지 않으므로 언제든지 충전할 수 있습니다. 대량 구매 시 크레딧 보너스가 자동으로 적용됩니다: $50 이상 구매 시 +5%, $100 이상 구매 시 +10%.