Documentazione API
Integra il nostro LLM senza filtri nel tuo stack utilizzando l'API standard compatibile con OpenAI. Invia testo, ricevi testo, senza rifiuti per contenuti adulti legali.
Autenticazione e Base URL
Il lite llm L'API richiede un token bearer. Invia la tua chiave API in Authorization header. Usa l'URL di base fornito di seguito per tutte le richieste. Questo funziona con qualsiasi client compatibile con OpenAI.
Base URL: https://api.llmlite.cc/v1
Ottieni la tua chiave iscrivendoti con Google o email. La chiave viene visualizzata immediatamente. Usala in ogni richiesta.
Endpoint Chat Completions
Invia messaggi al /v1/chat/completions endpoint. endpoint. L'ID del modello è uncensored. Esegue testo direttamente senza bloccare i contenuti adulti legali.
Ecco una struttura di richiesta base:
curl https://api.llmlite.cc/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "list available models via get request"}]
}'Ricevi una risposta JSON con il testo generato. Controlla l'oggetto usage per i conteggi dei token.
Integrazione SDK Python
Utilizza l'SDK Python ufficiale di OpenAI. Imposta l'URL di base sul nostro endpoint. Imposta la chiave API. Chiama chat.completions.create. La libreria gestisce la richiesta.
from openai import OpenAI
client = OpenAI(base_url="https://api.llmlite.cc/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Installa l'SDK tramite pip. Esegui il tuo script. Il modello risponde con il completamento.
Setup SDK Node.js
Inizializza il client OpenAI in Node. Fornisci l'URL di base e la chiave API. Chiama il metodo chat completions. Questo funziona per script server-side o API.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.llmlite.cc/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Gestisci l'oggetto di risposta. Accedi al testo generato dalla prima scelta.
Streaming e Utilizzo dei Token
Abilita lo streaming impostando stream: true. Ricevi Server-Sent Events (SSE). Ogni chunk contiene testo parziale. L'utilizzo dei token appare nell'ultimo chunk.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)Elabora ogni evento man mano che arriva. Questo riduce la latenza percepita per le risposte lunghe. Monitora l'ultimo chunk per conteggi dei token accurati.
Limiti, Errori e Contesto
La finestra di contesto è di 100.000 token. L'output massimo è di 16.000 token per richiesta. Hai a disposizione 300 richieste al minuto. Le richieste concorrenti sono limitate a 8.
Gestisci gli errori in modo appropriato. Uno status 401 significa che la tua chiave non è valida. Uno status 402 indica che non rimane credito. Uno status 429 significa che hai raggiunto il limite di frequenza. Il credito non scade. Gli errori sono gratuiti.
Domande frequenti
L'API LLM lite è completamente compatibile con OpenAI?
Sì, utilizza gli stessi endpoint e la stessa struttura JSON. Devi solo cambiare l'URL di base e la chiave API. Funziona con SDK standard.
Cosa succede se rimango senza credito?
Ricevi un errore 402. Effettua un ricarico con criptovaluta per continuare. Il tuo credito esistente non scade mai, quindi puoi pagare quando è più conveniente.
Qual è la dimensione della finestra di contesto?
Il modello supporta un totale di 100.000 token. Questo include sia il prompt che il completamento. Puoi inviare documenti lunghi o cronologie di conversazioni.
Genera la tua chiave API
Registrati, ottieni la chiave e sostituisci l'URL di base. È tutto ciò che serve.
