Documentație API

Autentificare și URL de bază

The lite llm API necesită un bearer token. Trimite cheia ta API în Authorization header. Folosește URL-ul de bază furnizat mai jos pentru toate solicitările. Acest lucru funcționează cu orice client compatibil OpenAI.

URL de bază: https://api.llmlite.cc/v1

Obțineți cheia înscriindu-vă cu Google sau email. Cheia apare imediat. Utilizați-o în fiecare solicitare.

Endpoint Completări Chat

Trimite mesaje la /v1/chat/completions endpoint. ID-ul modelului este uncensored. Outputează text direct, fără a bloca conținutul adult legal.

Iată o structură de solicitare de bază:

Copycurl https://api.llmlite.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list available models via get request"}]
  }'

Primește un răspuns JSON cu textul generat. Verifică obiectul de utilizare pentru numerele de tokeni.

Integrare SDK Python

Folosește SDK-ul oficial OpenAI Python. Setează URL-ul de bază către endpoint-ul nostru. Setează cheia API. Apelă chat.completions.create. Biblioteca gestionează solicitarea.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmlite.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Instalează SDK-ul prin pip. Rulează-ți scriptul. Modelul răspunde cu completarea.

Configurare SDK Node.js

Inițializați clientul OpenAI în Node. Furnizează URL-ul de bază și cheia API. Apelă metoda de completări chat. Acest lucru funcționează pentru scripturi server-side sau API-uri.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmlite.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Gestionați obiectul de răspuns. Accesați textul generat din prima opțiune.

Streaming și Utilizarea Tokenilor

Activați streaming-ul setând stream: true. Primește Server-Sent Events (SSE). Fiecare chunk conține text parțial. Utilizarea tokenilor apare în ultimul chunk.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Procesează fiecare eveniment pe măsură ce sosesc. Acest lucru reduce latența percepută pentru ieșiri lungi. Monitorizează ultimul fragment pentru numărătoarea precisă a tokenilor.

Limitări, Erori și Context

Fereastra de context are 100.000 de tokeni. Output-ul maxim este de 16.000 de tokeni per solicitare. Aveți 300 de solicitări pe minut. Solicitățile concurente sunt limitate la 8.

Gestionați erorile în mod corespunzător. Un status 401 înseamnă că cheia este invalidă. Un status 402 indică faptul că nu mai există credit. Un status 429 înseamnă că ați atins limita de rată. Creditul nu expiră niciodată. Erorile sunt gratuite.