Документація API

Аутентифікація та базовий URL

The lite llm API вимагає bearer token. Надішліть свій API-ключ у Authorization header. Використовуйте надану нижче базову URL-адресу для всіх запитів. Це працює з будь-яким клієнтом, сумісним з OpenAI.

Базовий URL: https://api.llmlite.cc/v1

Отримайте свій ключ, зареєструвавшись через Google або електронну пошту. Ключ з’явиться миттєво. Використовуйте його в кожному запиті.

Ендпоінт Chat Completions

Надсилайте повідомлення до /v1/chat/completions endpoint. endpoint. Ідентифікатор моделі — uncensored. Вона безпосередньо виводить текст, не блокуючи законний дорослий вміст.

Ось базова структура запиту:

Copycurl https://api.llmlite.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list available models via get request"}]
  }'

Отримайте відповідь у форматі JSON із згенерованим текстом. Перевірте об’єкт usage для кількості токенів.

Інтеграція SDK Python

Використовуйте офіційний OpenAI Python SDK. Встановіть базовий URL на нашу кінцеву точку. Встановіть API-ключ. Викличте chat.completions.create. Бібліотека обробляє запит.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmlite.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Встановіть SDK через pip. Запустіть свій скрипт. Модель відповідає виконанням.

Налаштування SDK Node.js

Ініціалізуйте клієнт OpenAI у Node. Вкажіть базовий URL та API-ключ. Викличте метод chat completions. Це працює для серверних скриптів або API.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmlite.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Обробіть об'єкт відповіді. Отримайте згенерований текст з першого варіанту.

Потокова передача та використання токенів

Увімкніть потокову передачу, встановивши stream: true. Отримуйте події, надіслані сервером (SSE). Кожен фрагмент містить частковий текст. Використання токенів з'являється в останньому фрагменті.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Обробляйте кожну подію по мірі надходження. Це зменшує сприйняту затримку для довгих виводів. Слідкуйте за останнім фрагментом для точних підрахунків токенів.

Ліміти, помилки та контекст

Розмір контекстного вікна становить 100 000 токенів. Максимальний обсяг виводу — 16 000 токенів за запит. Ви отримуєте 300 запитів на хвилину. Одночасні запити обмежені 8.

Гарно обробляйте помилки. Статус 401 означає, що ваш ключ недійсний. Статус 402 вказує на відсутність кредитів. Статус 429 означає, що ви досягли ліміту швидкості. Кредити не мають строку дії. Помилки є безкоштовними.