Documentación de la API

Autenticación y URL base

El lite llm La API requiere un token bearer. Envía tu clave de API en el Authorization header. Usa la URL base proporcionada a continuación para todas las solicitudes. Esto funciona con cualquier cliente compatible con OpenAI.

URL base: https://api.llmlite.cc/v1

Obtén tu clave registrándote con Google o correo electrónico. La clave aparece inmediatamente. Úsala en cada solicitud.

Endpoint Chat Completions

Envía mensajes a la /v1/chat/completions endpoint. El ID del modelo es uncensored. Genera texto directamente sin bloquear contenido adulto lícito.

Aquí tienes una estructura básica de solicitud:

Copycurl https://api.llmlite.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list available models via get request"}]
  }'

Recibe una respuesta JSON con el texto generado. Consulta el objeto de uso para ver los recuentos de tokens.

Integración del SDK de Python

Usa el SDK oficial de Python de OpenAI. Establece la URL base en nuestro endpoint. Establece la clave API. Llama chat.completions.create. La biblioteca maneja la solicitud.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmlite.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Instala el SDK mediante pip. Ejecuta tu script. El modelo responde con la completación.

Configuración del SDK de Node.js

Inicializa el cliente de OpenAI en Node. Proporciona la URL base y la clave de API. Llama al método de finalizaciones de chat. Esto funciona para scripts del lado del servidor o APIs.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmlite.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Maneja el objeto de respuesta. Accede al texto generado desde la primera opción.

Streaming y Uso de Tokens

Habilita la transmisión estableciendo stream: true. Recibe Server-Sent Events (SSE). Cada chunk contiene texto parcial. El uso de tokens aparece en el último chunk.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Procesa cada evento a medida que llega. Esto reduce la latencia percibida para salidas largas. Monitorea el último fragmento para obtener recuentos de tokens precisos.

Límites, Errores y Contexto

La ventana de contexto es de 100.000 tokens. La salida máxima es de 16.000 tokens por solicitud. Obtienes 300 solicitudes por minuto. Las solicitudes concurrentes están limitadas a 8.

Gestiona los errores de forma adecuada. Un estado 401 significa que tu clave es inválida. Un estado 402 indica que no queda crédito. Un estado 429 significa que has alcanzado el límite de frecuencia. El crédito nunca caduca. Los errores son gratuitos.