API दस्तावेज़ीकरण

प्रमाणीकरण और बेस यूआरएल

The lite llm API को एक बेयरर टोकन की आवश्यकता होती है। अपनी API कुंजी Authorization हेडर। सभी अनुरोधों के लिए नीचे दिए गए बेस यूआरएल का उपयोग करें। यह किसी भी OpenAI कम्पैटिबल क्लाइंट के साथ काम करता है।

बेस यूआरएल: https://api.llmlite.cc/v1

अपनी कुंजी Google या ईमेल से साइन अप करके प्राप्त करें। कुंजी तुरंत दिखाई देती है। हर अनुरोध में इसका उपयोग करें।

चैट कंप्लीशंस एंडपॉइंट

को संदेश भेजें /v1/chat/completions एंडपॉइंट। मॉडल आईडी है uncensored. यह कानूनी वयस्क सामग्री को ब्लॉक किए बिना सीधे टेक्स्ट आउटपुट करता है।

एक बेसिक अनुरोध संरचना:

Copycurl https://api.llmlite.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list available models via get request"}]
  }'

उत्पन्न टेक्स्ट के साथ एक JSON प्रतिक्रिया प्राप्त करें। टोकन गणना के लिए उपयोग ऑब्जेक्ट की जांच करें।

Python SDK इंटीग्रेशन

हमारे बेस URL को सेट करें। API कुंजी सेट करें। कॉल chat.completions.create. लाइब्रेरी अनुरोध संभालती है।

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmlite.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

SDK को pip के माध्यम से इंस्टॉल करें। अपना स्क्रिप्ट चलाएं। मॉडल कंप्लीशन के साथ प्रतिक्रिया देता है।

Node.js SDK सेटअप

Node में OpenAI क्लाइंट को इनिशियलाइज़ करें। बेस URL और API कुंजी प्रदान करें। चैट कम्प्लीशंस विधि को कॉल करें। यह सर्वर-साइड स्क्रिप्ट्स या APIs के लिए काम करता है।

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmlite.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

प्रतिक्रिया वस्तु हैंडल करें। पहले विकल्प से जनरेटेड टेक्स्ट एक्सेस करें।

स्ट्रीमिंग और टोकन उपयोग

सेटिंग करके स्ट्रीमिंग सक्षम करें stream: true. SSE प्राप्त करें। प्रत्येक चंक आंशिक पाठ शामिल करता है। टोकन उपयोग अंतिम चंक में दिखाई देता है।

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

प्रत्येक इवेंट को आने पर प्रक्रिया करें। यह लंबे आउटपुट के लिए अनुभवजन्य विलंबता को कम करता है। सटीक टोकन गणना के लिए अंतिम चंक की निगरानी करें।

सीमाएं, त्रुटियां, और संदर्भ

संदर्भ विंडो 100,000 टोकन की है। अधिकतम आउटपुट प्रति अनुरोध 16,000 टोकन है। आपको प्रति मिनट 300 अनुरोध मिलते हैं। समवर्ती अनुरोध 8 तक सीमित हैं।

त्रुटियों को उचित रूप से हैंडल करें। 401 स्टेटस का अर्थ है कि आपकी कुंजी अमान्य है। 402 स्टेटस का संकेत है कि कोई क्रेडिट शेष नहीं है। 429 स्टेटस का अर्थ है कि आप दर सीमा पर पहुंच गए हैं। क्रेडिट कभी समाप्त नहीं होता है। त्रुटियां मुफ्त हैं।