API Dokümantasyonu

Kimlik Doğrulama ve Temel URL

The lite llm API bir bearer token gerektirir. API anahtarınızı şu başlıkta gönderin: Authorization header. Aşağıda verilen temel URL'yi tüm istekler için kullanın. Bu, herhangi bir OpenAI uyumlu istemci ile çalışır.

Temel URL: https://api.llmlite.cc/v1

Google veya e-posta ile kayıt olarak anahtarınızı alın. Anahtar hemen görünür hale gelir. Her istekte bunu kullanın.

Sohbet Tamamlamaları Uç Noktası

Şuraya mesaj gönderin /v1/chat/completions endpoint. Model kimliği uncensored. Yasal yetişkin içeriği engellemeden doğrudan metin üretir.

Temel bir istek yapısı:

Copycurl https://api.llmlite.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list available models via get request"}]
  }'

Bir JSON yanıtı alın. Hatalar hiçbir şeye mal olmaz.

Python SDK Entegrasyonu

Resmi OpenAI Python SDK'sını kullanın. Temel URL'yi uç noktamıza ayarlayın. API anahtarını ayarlayın. Çağırın chat.completions.create. Kütüphane isteği halleder.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmlite.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

SDK'yı pip aracılığıyla yükleyin. Betiğinizi çalıştırın. Model tamamlama ile yanıt verir.

Node.js SDK Kurulumu

Node.js'de OpenAI istemcisini başlatın. Temel URL'yi ve API anahtarını sağlayın. Chat completions yöntemini çağırın. Bu, sunucu tarafı betikleri veya API'ler için çalışır.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmlite.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Yanıt nesnesini işleyin. Oluşturulan metni ilk seçenekten edinin.

Streaming ve Token Kullanımı

Ayarlayarak akışı etkinleştirin stream: true. Sunucu Tarafından Gönderilen Etkinlikleri (SSE) alın. Her parça kısmi metik içerir. Token kullanımı son parçada görünür.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Her olayı geldiği gibi işleyin. Bu, uzun çıktılar için algılanan gecikmeyi azaltır. Doğru token sayıları için son parçayı izleyin.

Limitler, Hatalar ve Bağlam

Bağlam penceresi 100.000 token'dır. Maksimum çıktı istek başına 16.000 token'dır. Dakikada 300 istek alırsınız. Eşzamanlı istekler 8 ile sınırlıdır.

Hataları uygun şekilde yönetin. 401 durumu anahtarınızın geçersiz olduğunu gösterir. 402 durumu kalan kredi olmadığını işaret eder. 429 durumu hız sınırına ulaştığınızı gösterir. Kredi süresi dolmaz. Hatalar ücretsizdir.