API-Dokumentation

Authentifizierung und Base URL

The lite llm Die API erfordert ein Bearer-Token. Senden Sie Ihren API-Schlüssel im Authorization header. Verwenden Sie die unten angegebene Basis-URL für alle Anfragen. Dies funktioniert mit jedem OpenAI-kompatiblen Client.

Base URL: https://api.llmlite.cc/v1

Holen Sie sich Ihren Schlüssel, indem Sie sich mit Google oder E-Mail registrieren. Der Schlüssel wird sofort angezeigt. Verwenden Sie ihn in jeder Anfrage.

Chat-Vervollständigungs-Endpunkt

Senden Sie Nachrichten an den /v1/chat/completions Endpunkt. Die Modell-ID lautet uncensored. Es gibt Text direkt aus, ohne legale Erwachseneninhalte zu blockieren.

Hier ist eine grundlegende Anforderungsstruktur:

Copycurl https://api.llmlite.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list available models via get request"}]
  }'

Erhalten Sie eine JSON-Antwort mit dem generierten Text. Überprüfen Sie das usage-Objekt für Token-Anzahlen.

Python SDK-Integration

Verwenden Sie das offizielle OpenAI Python-SDK. Legen Sie die Basis-URL auf unseren Endpunkt fest. Legen Sie den API-Schlüssel fest. Rufen Sie chat.completions.create. Die Bibliothek verarbeitet die Anfrage.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmlite.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Installieren Sie das SDK über pip. Führen Sie Ihr Skript aus. Das Modell antwortet mit der Vervollständigung.

Node.js-SDK-Einrichtung

Initialisieren Sie den OpenAI-Client in Node. Geben Sie die Basis-URL und den API-Schlüssel an. Rufen Sie die Methode für Chat-Vervollständigungen auf. Dies funktioniert für serverseitige Skripte oder APIs.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmlite.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Verarbeiten Sie das Antwortobjekt. Greifen Sie auf den generierten Text der ersten Option zu.

Streaming und Token-Nutzung

Aktivieren Sie Streaming, indem Sie stream: true. Empfangen Sie Server-Sent Events (SSE). Jeder Chunk enthält partiellen Text. Token-Nutzung erscheint im letzten Chunk.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Verarbeiten Sie jedes Ereignis, wie es eintrifft. Dies reduziert die wahrgenommene Latenz für lange Ausgaben. Überwachen Sie den letzten Chunk für genaue Token-Zählungen.

Limits, Fehler und Kontext

Das Context-Window umfasst 100.000 Tokens. Maximaler Output ist 16.000 Tokens pro Anfrage. Sie erhalten 300 Anfragen pro Minute. Gleichzeitige Anfragen sind auf 8 begrenzt.

Behandeln Sie Fehler angemessen. Ein 401-Status bedeutet, dass Ihr Schlüssel ungültig ist. Ein 402-Status zeigt an, dass kein Guthaben mehr vorhanden ist. Ein 429-Status bedeutet, dass Sie das Rate Limit erreicht haben. Guthaben verfällt nie. Fehler sind kostenlos.