Τεκμηρίωση API

Authentication and Base URL

"Το lite llm Το API απαιτεί bearer token. Στείλτε το κλειδί API σας στο Authorization header. Χρησιμοποιήστε το base URL που παρέχεται παρακάτω για όλα τα αιτήματα. Αυτό λειτουργεί με οποιοδήποτε OpenAI compatible client.

Base URL: https://api.llmlite.cc/v1

Κτήστε το κλειδί API σας εγγεγράφοντας με Google ή email. Το κλειδί εμφανίζεται αμέσως. Χρησιμοποιήστε το σε κάθε αίτηση.

Τερματικό Συμπληρώματος Συζήτησης

Στείλτε μηνύματα στο /v1/chat/completions endpoint. Το model ID είναι uncensored. Εξάγει κείμενο απευθείας χωρίς να μπλοκάρει το νόμιμο περιεχόμενο ενήλικων.

Ακολουθεί μια βασική δομή request:

Copycurl https://api.llmlite.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list available models via get request"}]
  }'

Λάβετε μια απόκριση JSON με το παραγόμενο κείμενο. Ελέγξτε το αντικείμενο usage για μετρήσεις tokens.

Ενσωμάτωση SDK Python

Χρησιμοποιήστε το επίσημο OpenAI Python SDK. Ορίστε το base URL στο τερματικό σημείο μας. Ορίστε το API key. Καλέστε chat.completions.create. Η βιβλιοθήκη χειρίζεται το αίτημα.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmlite.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Εγκαταστήστε το SDK μέσω pip. Τρέξτε το σενάριό σας. Το μοντέλο απαντά με την ολοκλήρωση.

Ρύθμιση SDK Node.js

Αρχικοποιήστε τον πελάτη OpenAI σε Node. Παρέχετε τη βάση URL και το κλειδί API. Καλέστε τη μέθοδο chat completions. Αυτό λειτουργεί για σενάρια server-side ή APIs.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmlite.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Διαχειριστείτε το αντικείμενο απόκρισης. Πρόσβαστε το παραγόμενο κείμενο από την πρώτη επιλογή.

Ροή και Χρήση Tokens

Ενεργοποιήστε streaming ρυθμίζοντας stream: true. Λάβετε Server-Sent Events (SSE). Κάθε κομμάτι περιέχει μερικό κείμενο. Η χρήση tokens εμφανίζεται στο τελευταίο κομμάτι.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Επεξεργαστείτε κάθε γεγονός καθώς φτάνει. Αυτό μειώνει την αντιλαμβανόμενη καθυστέρηση για μακρές εξόδους. Παρακολουθήστε το τελευταίο τμήμα για ακριβείς μετρήσεις tokens.

Όρια, Σφάλματα και Context

Το παράθυρο συμφραζομένων είναι 100.000 tokens. Μέγιστη έξοδος 16.000 tokens ανά αίτημα. Έχετε 300 αιτήματα ανά λεπτό. Οι ταυτόχρονες αιτήσεις περιορίζονται στα 8.

Διαχειριστείτε τα σφάλματα κατάλληλα. Ο κωδικός 401 σημαίνει ότι το κλειδί σας είναι μη έγκυρο. Ο κωδικός 402 υποδηλώνει ότι δεν απομένει πιστωτικό υπόλοιπο. Το πιστωτικό υπόλοιπο δεν λήγει. Τα σφάλματα είναι δωρεάν.