Tài liệu API

Xác thực và Base URL

The lite llm API yêu cầu một bearer token. Gửi khóa API của bạn trong Authorization header. Sử dụng URL cơ bản được cung cấp bên dưới cho tất cả các yêu cầu. Điều này hoạt động với bất kỳ khách hàng tương thích OpenAI nào.

Base URL: https://api.llmlite.cc/v1

Lấy khóa của bạn bằng cách đăng ký với Google hoặc email. Khóa sẽ hiển thị ngay lập tức. Sử dụng nó trong mọi yêu cầu.

Endpoint Hoàn thành Trò chuyện

Gửi tin nhắn đến /v1/chat/completions endpoint. endpoint. ID mô hình là uncensored. Nó xuất văn bản trực tiếp mà không chặn nội dung người trưởng thành hợp pháp.

Đây là cấu trúc yêu cầu cơ bản:

Copycurl https://api.llmlite.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list available models via get request"}]
  }'

Nhận phản hồi JSON chứa văn bản được tạo. Kiểm tra đối tượng sử dụng để xem số lượng token.

Tích hợp SDK Python

Sử dụng Python SDK OpenAI chính thức. Đặt base URL thành điểm cuối của chúng tôi. Đặt khóa API. Gọi chat.completions.create. Thư viện xử lý yêu cầu.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmlite.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Cài đặt SDK qua pip. Chạy tập lệnh của bạn. Model phản hồi với phần hoàn thành.

Thiết lập SDK Node.js

Khởi tạo client OpenAI trong Node. Cung cấp URL cơ sở và khóa API. Gọi phương thức hoàn thành trò chuyện. Điều này hoạt động cho các tập lệnh phía máy chủ hoặc API.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmlite.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Xử lý đối tượng phản hồi. Truy cập văn bản được tạo từ lựa chọn đầu tiên.

Streaming và Việc Sử Dụng Token

Bật phát trực tiếp bằng cách đặt stream: true. Nhận Sự kiện gửi qua máy chủ (SSE). Mỗi chunk chứa văn bản từng phần. Sử dụng token xuất hiện trong chunk cuối cùng.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Xử lý từng sự kiện khi chúng đến. Điều này làm giảm độ trễ cảm nhận đối với các đầu ra dài. Theo dõi đoạn cuối cùng để biết số lượng token chính xác.

Giới hạn, Lỗi và Ngữ cảnh

Cửa sổ ngữ cảnh là 100,000 token. Output tối đa là 16,000 token mỗi yêu cầu. Bạn nhận được 300 yêu cầu mỗi phút. Yêu cầu đồng thời bị giới hạn ở 8.

Xử lý lỗi một cách phù hợp. Mã trạng thái 401 nghĩa là khóa của bạn không hợp lệ. Mã trạng thái 402 cho biết không còn tín dụng. Mã trạng thái 429 nghĩa là bạn đã đạt đến giới hạn tốc độ. Tín dụng không bao giờ hết hạn. Lỗi là miễn phí.