Dokumentacja API

Uwierzytelnianie i URL bazowy

The lite llm API wymaga tokenu bearer. Wyślij swój klucz API w Authorization Nagłówek. Użyj adresu bazowego podanego poniżej do wszystkich żądań. To działa z dowolnym klientem kompatybilnym z OpenAI.

URL bazowy: https://api.llmlite.cc/v1

Pobierz klucz, rejestrując się za pomocą Google lub e-maila. Klucz pojawia się natychmiast. Używaj go w każdym zapytaniu.

Punkt końcowy Uzupełnień Czat

Wyślij wiadomości do /v1/chat/completions endpoint. ID modelu to uncensored. Generuje tekst bezpośrednio bez blokowania prawnego treści dla dorosłych.

Oto podstawowa struktura żądania:

Copycurl https://api.llmlite.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list available models via get request"}]
  }'

Otrzymaj odpowiedź JSON z wygenerowanym tekstem. Sprawdź obiekt użycia, aby uzyskać liczbę tokenów.

Integracja SDK Python

Użyj oficjalnego SDK Python OpenAI. Ustaw adres bazowy na nasz punkt końcowy. Ustaw klucz API. Wywołaj chat.completions.create. Biblioteka obsługuje żądanie.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmlite.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Zainstaluj SDK przez pip. Uruchom swój skrypt. Model odpowiada uzupełnieniem.

Konfiguracja SDK Node.js

Zainicjuj klienta OpenAI w Node. Podaj podstawowy adres URL i klucz API. Wywołaj metodę ukończenia czatu. Działa to dla skryptów po stronie serwera lub API.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmlite.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Obsłuż obiekt odpowiedzi. Uzyskaj wygenerowany tekst z pierwszego wyboru.

Strumieniowanie i zużycie tokenów

Włącz strumieniowanie, ustawiając stream: true. Otrzymuj zdarzenia wysłane przez serwer (SSE). Każdy chunk zawiera częściowy tekst. Użycie tokenów pojawia się w ostatnim chunku.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Przetwarzaj każde zdarzenie w miarę jego napływania. Zmniejsza to postrzeganą latencję dla długich wyjść. Monitoruj ostatni fragment pod kątem dokładnych liczb tokenów.

Limity, Błędy i Kontekst

Okno kontekstowe wynosi 100 000 tokenów. Maksymalny output to 16 000 tokenów na żądanie. Otrzymujesz 300 żądań na minutę. Żądania równoległe są ograniczone do 8.

Obsłuż błędy odpowiednio. Status 401 oznacza, że Twój klucz jest nieprawidłowy. Status 402 wskazuje, że nie pozostały już środki. Status 429 oznacza, że przekroczyłeś limit szybkości. Środki nie wygasają. Błędy są darmowe.