Dokumentasi API

Autentikasi dan URL Dasar

The lite llm API memerlukan token bearer. Kirim kunci API Anda di Authorization header. Gunakan URL dasar yang disediakan di bawah ini untuk semua permintaan. Ini kompatibel dengan klien OpenAI apa pun.

URL Dasar: https://api.llmlite.cc/v1

Dapatkan kunci Anda dengan mendaftar menggunakan Google atau email. Kunci akan muncul secara instan. Gunakan kunci ini di setiap permintaan.

Endpoint Chat Completions

Kirim pesan ke /v1/chat/completions endpoint. endpoint. ID model adalah uncensored. Model ini menghasilkan teks secara langsung tanpa memblokir konten dewasa yang sah.

Berikut struktur permintaan dasar:

Copycurl https://api.llmlite.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list available models via get request"}]
  }'

Terima respons JSON dengan teks yang dihasilkan. Periksa objek penggunaan untuk jumlah token.

Integrasi SDK Python

Gunakan SDK Python OpenAI resmi. Atur URL dasar ke endpoint kami. Atur kunci API. Panggil chat.completions.create. Perpustakaan menangani permintaan tersebut.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmlite.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Instal SDK melalui pip. Jalankan skrip Anda. Model merespons dengan completion.

Pengaturan SDK Node.js

Inisialisasi klien OpenAI di Node. Berikan URL dasar dan kunci API. Panggil metode penyelesaian chat. Ini berfungsi untuk skrip sisi server atau API.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmlite.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Tangani objek respons. Akses teks yang dihasilkan dari pilihan pertama.

Streaming dan Penggunaan Token

Aktifkan streaming dengan mengatur stream: true. Terima Server-Sent Events (SSE). Setiap bagian berisi teks parsial. Penggunaan token muncul di bagian terakhir.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Proses setiap peristiwa saat tiba. Ini mengurangi latensi yang dirasakan untuk output panjang. Pantau potongan terakhir untuk hitungan token yang akurat.

Batas, Error, dan Konteks

Jendela konteks adalah 100.000 token. Output maksimum adalah 16.000 token per permintaan. Anda mendapatkan 300 permintaan per menit. Permintaan simultan dibatasi hingga 8.

Tangani kesalahan dengan tepat. Status 401 berarti kunci Anda tidak valid. Status 402 menunjukkan tidak ada kredit yang tersisa. Status 429 berarti Anda mencapai batas laju. Kredit tidak pernah kedaluwarsa. Kesalahan gratis.