API Dokumentation
Integrer vores ukensurerede LLM i dit stack ved hjælp af den standard OpenAI-kompatible API. Send tekst, få tekst, uden afvisninger for lovligt voksent indhold.
Autentificering og Base URL
The lite llm API'et kræver en bearer-token. Send din API-nøgle i Authorization header. Brug base URL'en angivet nedenfor til alle anmodninger. Dette fungerer med ethvert OpenAI-kompatibelt klient.
Base URL: https://api.llmlite.cc/v1
Hent din nøgle ved at tilmelde dig med Google eller e-mail. Nøglen vises med det samme. Brug den i hver anmodning.
Chat Completions Endpoint
Send beskeder til /v1/chat/completions endpoint. Model-ID er uncensored. Den udskriver tekst direkte uden at blokere lovligt voksenindhold.
Her er en grundlæggende anmodningsstruktur:
curl https://api.llmlite.cc/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "list available models via get request"}]
}'Modtag et JSON-svar med den genererede tekst. Tjek objektet for tokenantal.
Python SDK-integration
Brug det officielle OpenAI Python SDK. Indstil base URL til vores endpoint. Indstil API-nøglen. Kald chat.completions.create. Biblioteket håndterer anmodningen.
from openai import OpenAI
client = OpenAI(base_url="https://api.llmlite.cc/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Installer SDK'et via pip. Kør dit script. Modellen svarer med completionen.
Node.js SDK-setup
Initialiser OpenAI-klienten i Node. Angiv base-URL'en og API-nøglen. Kald chat-completion-metoden. Dette fungerer til server-side-scripts eller API'er.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.llmlite.cc/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Håndter responsobjektet. Få adgang til den genererede tekst fra det første valg.
Streaming og Token-forbrug
Aktivér streaming ved at indstille stream: true. Modtag Server-Sent Events (SSE). Hver chunk indeholder delvis tekst. Tokenbrug vises i den sidste chunk.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)Behandle hvert event, mens det ankommer. Dette reducerer den opfattede latens for lange output. Overvåg den sidste chunk for nøjagtige tællinger af tokens.
Begrænsninger, fejl og kontekst
Kontekstvinduet er på 100.000 tokens. Max output er 16.000 tokens pr. anmodning. Du får 300 anmodninger i minuttet. Samtidige anmodninger er begrænset til 8.
Håndter fejl passende. En 401-status betyder, at din nøgle er ugyldig. En 402-status indikerer, at der ikke er kredit tilbage. En 429-status betyder, at du har ramt hastighedsbegrænsningen. Kredit udløber aldrig. Fejl er gratis.
Ofte stillede spørgsmål
Er den lette LLM API fuldt ud OpenAI-kompatibel?
Ja, det bruger de samme endpoints og JSON-struktur. Du skal kun ændre base_url og API-nøgle. Det virker med standard SDK'er.
Hvad sker der, hvis jeg løber tør for kredit?
Du modtager en 402-fejl. Opfyld med krypto for at fortsætte. Din eksisterende kredit udløber aldrig, så du kan betale, når det passer dig.
Hvor stort er kontekstvinduet?
Modellen understøtter i alt 100.000 tokens. Dette inkluderer både prompt og completion. Du kan sende lange dokumenter eller samtalehistorikker.
Generer din API-nøgle
Tilmeld dig, få nøglen, og skift base-URL'en. Det er alt, hvad der kræves.
