API Hermes: Chuyển đổi khách hàng của bạn chỉ với ba dòng mã

Cài đặt SDK OpenAI

Vì endpoint của chúng tôi tương thích với OpenAI, bạn có thể sử dụng các SDK chính thức mà bạn đã quen thuộc. Cách tiếp cận này cho phép bạn chuyển từ các nhà cung cấp khác mà không cần viết lại logic ứng dụng. Chúng tôi hỗ trợ gói openai tiêu chuẩn cho môi trường Python và Node.js.

Đảm bảo bạn đang sử dụng phiên bản SDK mới nhất để đảm bảo tương thích với các tính năng truyền phát và gọi hàm. Thư viện khách hàng tự động xử lý tuần tự hóa JSON và vận chuyển HTTP, vì vậy bạn có thể tập trung vào các tham số mô hình thay vì chi tiết mạng.

Cấu hình Base URL & Khóa

Xác thực được xử lý thông qua token Bearer trong tiêu đề Authorization. Bạn nhận được khóa bằng cách đăng ký với email và mật khẩu trên bảng điều khiển của chúng tôi. Không cần thẻ tín dụng cho bản dùng thử, và bạn có thể tạo lại khóa bất cứ lúc nào để thu hồi quyền truy cập.

Đặt base URL thành endpoint chuyên dụng của chúng tôi. Điều này đảm bảo tất cả các yêu cầu đều được gửi đến cơ sở hạ tầng mô hình không kiểm duyệt của chúng tôi thay vì đám mây OpenAI mặc định. Bạn có thể tìm thấy khóa API của mình trên trang 'Lấy khóa API' ngay sau khi đăng ký.

Gửi yêu cầu đầu tiên của bạn

Gửi một yêu cầu chat completion tiêu chuẩn để kiểm tra kết nối. ID mô hình luôn là uncensored. Mô hình này được tinh chỉnh để trả lời mà không có từ chối nội dung cho mục đích người trưởng thành hợp pháp, rất lý tưởng cho viết sáng tạo, nhập vai hoặc nghiên cứu không giới hạn.

• Sử dụng POST /v1/chat/completions cho tạo văn bản.
• Cửa sổ ngữ cảnh hỗ trợ tối đa 100.000 token cho prompt plus completion.
• Các yêu cầu được tính phí dựa trên số lượng token đầu vào và đầu ra.

Copycurl https://api.hermesllmapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Bật truyền phát (SSE)

Để cải thiện trải nghiệm người dùng, hãy bật truyền phát để nhận token khi chúng được tạo. Điều này giảm độ trễ cảm nhận, đặc biệt là đối với các phản hồi dài. Máy chủ trả về các Sự kiện được gửi bởi máy chủ (SSE) mà khách hàng của bạn có thể phân tích cú pháp theo thời gian thực.

Đặt tham số stream thành true trong thân yêu cầu của bạn. SDK sẽ trả về các chunk khi chúng đến. Điều này đặc biệt hữu ích cho các giao diện trò chuyện nơi bạn muốn hiển thị văn bản từng phần thay vì chờ toàn bộ response kết thúc.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Sử dụng gọi hàm

API của chúng tôi hỗ trợ gọi hàm, cho phép mô hình xuất JSON có cấu trúc để thực thi công cụ bên ngoài. Xác định các hàm của bạn trong tham số tools, và mô hình sẽ trả về tool_calls trong phản hồi nếu phù hợp.

Tính năng này hoạt động chính xác như được mô tả trong đặc tả OpenAI. Bạn có thể phân tích cú pháp tên hàm và đối số, thực thi logic backend của mình và đưa kết quả trở lại cuộc trò chuyện. Nó hoàn toàn tương thích với các quy trình gọi công cụ SDK OpenAI tiêu chuẩn.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.hermesllmapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Kiểm tra các mô hình có sẵn

Truy vấn endpoint models để xác minh kết nối và xem các tùy chọn có sẵn. Hiện tại, chúng tôi cung cấp một mô hình chuyên dụng duy nhất: uncensored. Sự đơn giản này tránh sự phức tạp của việc định tuyến mô hình hoặc cơ sở hạ tầng chung, đảm bảo hành vi dự đoán được.

Bạn cũng có thể sử dụng endpoint này để gỡ lỗi các vấn đề xác thực. Nếu yêu cầu thất bại, hãy kiểm tra tính hợp lệ của khóa API và kết nối mạng. Phản hồi sẽ liệt kê chi tiết mô hình, bao gồm kích thước cửa sổ ngữ cảnh và giới hạn token.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.hermesllmapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Xử lý giới hạn tốc độ & Lỗi

API của chúng tôi áp dụng giới hạn 300 yêu cầu mỗi phút trên mỗi khóa. Nếu bạn vượt quá giới hạn này, bạn sẽ nhận được lỗi 429. Chúng tôi cũng hỗ trợ giới hạn thân yêu cầu 8 MB cho các prompt phức tạp hoặc cửa sổ ngữ cảnh lớn.

Các lỗi phổ biến bao gồm 401 (khóa không hợp lệ) và 402 (thiếu tín dụng). Tín dụng trả trước không bao giờ hết hạn, vì vậy bạn có thể nạp tiền khi thuận tiện. Tiền thưởng tín dụng được áp dụng tự động cho các khoản mua lớn hơn: +5% từ $50 và +10% từ $100.