API-dokumentation

Autentisering och bas-URL

The lite llm API:et kräver en bearer-token. Skicka din API-nyckel i Authorization header. Använd bas-URL:en nedan för alla begäranden. Detta fungerar med alla OpenAI-kompatibla klienter.

Bas-URL: https://api.llmlite.cc/v1

Hämta din nyckel genom att registrera dig med Google eller e-post. Nyckeln visas omedelbart. Använd den i varje begäran.

Slutpunkt för chattkomplettering

Skicka meddelanden till /v1/chat/completions endpoint. Modell-ID:t är uncensored. Den returnerar text direkt utan att blockera lagligt vuxet innehåll.

Här är en grundläggande begäransstruktur:

Copycurl https://api.llmlite.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list available models via get request"}]
  }'

Ta emot ett JSON-svar med den genererade texten. Kontrollera objektet för tokenantal.

Python SDK-integration

Använd det officiella OpenAI Python SDK:t. Ställ in bas-URL:en till vår slutpunkt. Ange API-nyckeln. Anropa chat.completions.create. Biblioteket hanterar begäran.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmlite.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Installera SDK:et via pip. Kör ditt skript. Modellen svarar med kompletteringen.

Node.js SDK-installation

Initiera OpenAI-klienten i Node. Ange bas-URL:en och API-nyckeln. Anropa metoden för chattkomplettering. Detta fungerar för serverbaserade skript eller API:er.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmlite.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Hantera svarobjektet. Hämta den genererade texten från det första valet.

Streaming och Tokenanvändning

Aktivera strömning genom att ställa in stream: true. Ta emot Server-Sent Events (SSE). Varje chunk innehåller delvis text. Tokenanvändning visas i den sista chunken.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Bearbeta varje händelse när den anländer. Detta minskar upplevd latens för långa utdata. Övervaka den sista biten för exakta tokenräkningar.

Gränser, fel och kontext

Kontextfönstret är 100 000 tokens. Max utdata är 16 000 tokens per begäran. Du får 300 begäranden per minut. Parallella begäranden är begränsade till 8.

Hantera fel lämpligt. En 401-status betyder att din nyckel är ogiltig. En 402-status indikerar att inget kredit finns kvar. En 429-status betyder att du träffade hastighetsbegränsningen. Kredit löper aldrig ut. Fel är gratis.