APIドキュメント
標準的なOpenAI互換APIを使用してスタックに当社の無制限LLMを統合します。テキストを送信し、テキストを取得します。法的な大人向けコンテンツについても拒否はありません。
認証とベースURL
The lite llm APIにはベアラートokenが必要です。APIキーを Authorization ヘッダー
ベースURL: https://api.llmlite.cc/v1
Googleまたはメールでサインアップしてキーを取得します。キーは即座に表示されます。すべてのリクエストで使用してください。
チャット完了エンドポイント
にメッセージを送信 /v1/chat/completions エンドポイント。モデルIDは uncensored法的な成人向けコンテンツをブロックすることなく、テキストを直接出力します。
基本的なリクエストの構造:
curl https://api.llmlite.cc/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "list available models via get request"}]
}'生成されたテキストを含む JSON 応答を受け取ります。トークン数は usage オブジェクトで確認できます。
Python SDK統合
公式 OpenAI Python SDK を使用します。ベース URL をエンドポイントに設定します。API キーを設定します。呼び出し chat.completions.create. ライブラリはリクエストを処理します。
from openai import OpenAI
client = OpenAI(base_url="https://api.llmlite.cc/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)pip経由でSDKをインストールします。スクリプトを実行します。モデルは完了で応答します。
Node.js SDKのセットアップ
NodeでOpenAIクライアントを初期化します。ベースURLとAPIキーを提供します。チャット完了メソッドを呼び出します。これはサーバーサイドスクリプトやAPIで機能します。
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.llmlite.cc/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);レスポンスオブジェクトを処理し、最初の選択肢から生成されたテキストにアクセスします。
ストリーミングとトークン使用量
streamをtrueに設定してストリーミングを有効にする stream: trueServer-Sent Events (SSE)を受信します。各チャンクには部分的なテキストが含まれます。トークン使用量は最後のチャンクに表示されます。
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)各イベントを到着時に処理します。これにより、長い出力に対する知覚されるレイテンシが削減されます。正確なトークンカウントのために最後のチャンクを監視します。
制限、エラー、コンテキスト
コンテキストウィンドウは100,000トークンです。最大出力は1リクエストあたり16,000トークンです。1分あたり300リクエストが利用可能です。並列リクエストは8に制限されます。
エラーを適切に処理します。401 ステータスはキーが無効であることを意味します。402 ステータスは残高がないことを示します。429 ステータスはレート制限に到達したことを意味します。残高は期限切れになりません。エラーは無料です。
よくある質問
Lite LLM APIは完全にOpenAI互換ですか?
はい、同じエンドポイントとJSON構造を使用します。base URLとAPIキーを変更するだけです。標準的なSDKと互換性があります。
クレジットが不足した場合どうなりますか?
402エラーが返されます。暗号通貨でチャージして続行してください。既存のクレジットは期限切れしないため、都合の良い時に支払いが可能です。
コンテキストウィンドウのサイズはどのくらいですか?
このモデルは合計で100,000トークンをサポートしています。これにはプロンプトと補完の両方が含まれます。長いドキュメントや会話履歴を送信できます。
APIキーの生成
サインアップし、キーを取得して、ベースURLを書き換えます。それだけで完了です。