API Documentatie

Authenticatie en basis-URL

De lite llm De API vereist een bearer token. Stuur je API-sleutel in de Authorization header. Gebruik de basis-URL hieronder voor alle requests. Dit werkt met elke OpenAI-compatible client.

Basis-URL: https://api.llmlite.cc/v1

Haal je sleutel op door je aan te melden met Google of e-mail. De sleutel wordt direct weergegeven. Gebruik hem bij elk verzoek.

Chat Completions Endpoint

Stuur berichten naar de /v1/chat/completions endpoint. De model-ID is uncensored. Het retourneert tekst direct zonder wettelijk volwassen inhoud te blokkeren.

Hier is een basisverzoekstructuur:

Copycurl https://api.llmlite.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list available models via get request"}]
  }'

Ontvang een JSON-respons met de gegenereerde tekst. Controleer het object 'usage' voor tokenaantallen.

Python SDK Integratie

Gebruik de officiële OpenAI Python SDK. Stel de base URL in op ons endpoint. Stel de API-sleutel in. Roep chat.completions.create. De bibliotheek verwerkt het verzoek.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmlite.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Installeer de SDK via pip. Voer je script uit. Het model reageert met de voltooiing.

Node.js SDK-instelling

Initialiseer de OpenAI-client in Node. Geef de basis-URL en API-sleutel op. Roep de chat-completies-methode aan. Dit werkt voor server-side scripts of API's.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmlite.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Verwerk het response-object. Haal de gegenereerde tekst op uit de eerste keuze.

Streaming en Token-gebruik

Activeer streaming door stream: true. Ontvang Server-Sent Events (SSE). Elke chunk bevat gedeeltelijke tekst. Tokenverbruik verschijnt in de laatste chunk.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Verwerk elk evenement zoals deze aankomt. Dit vermindert de waargenomen latentie voor lange uitvoer. Monitor de laatste chunk voor accurate tokenaantallen.

Limieten, fouten en context

Het contextvenster is 100.000 tokens. Maximaal uitvoer is 16.000 tokens per verzoek. Je krijgt 300 verzoeken per minuut. Gelijktijdige verzoeken zijn beperkt tot 8.

Verwerk fouten op de juiste manier. Een 401-status betekent dat je sleutel ongeldig is. Een 402-status geeft aan dat er geen tegoed meer is. Een 429-status betekent dat je de snelheidslimiet hebt bereikt. Tegoed verloopt niet. Fouten zijn gratis.