API 문서

인증 및 Base URL

The lite llm API는 Bearer 토큰이 필요합니다. 다음에 API 키를 보내십시오. Authorization header. 아래에 제공된 베이스 URL을 모든 요청에 사용하세요. 이 설정은 모든 OpenAI 호환 클라이언트와 호환됩니다.

Base URL: https://api.llmlite.cc/v1

Google 또는 이메일로 가입하여 키를 받으세요. 키는 즉시 표시됩니다. 모든 요청에서 이 키를 사용하세요.

채팅 완료 엔드포인트

다음으로 메시지 전송 /v1/chat/completions 엔드포인트입니다. 모델 ID는 uncensored. 합법적인 성인 콘텐츠를 차단하지 않고 텍스트를 직접 출력합니다.

기본 요청 구조입니다:

Copycurl https://api.llmlite.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list available models via get request"}]
  }'

생성된 텍스트가 포함된 JSON 응답을 받습니다. 토큰 수는 사용량 객체를 확인하세요.

Python SDK 통합

공식 OpenAI Python SDK를 사용하세요. base URL을 우리 엔드포인트로 설정하세요. API 키를 설정하세요. 호출 chat.completions.create. 라이브러리는 요청을 처리합니다.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmlite.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

pip를 통해 SDK를 설치합니다. 스크립트를 실행합니다. 모델이 완료를 반환합니다.

Node.js SDK 설정

Node에서 OpenAI 클라이언트를 초기화합니다. 베이스 URL과 API 키를 제공하세요. 채팅 완료 메서드를 호출하세요. 이는 서버 사이드 스크립트 또는 API에서 작동합니다.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmlite.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

응답 객체를 처리합니다. 첫 번째 선택지에서 생성된 텍스트에 접근하세요.

스트리밍 및 토큰 사용량

stream을 true로 설정하여 스트리밍 활성화 stream: true. SSE를 받습니다. 각 청크에는 부분 텍스트가 포함됩니다. 토큰 사용량은 마지막 청크에 나타납니다.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

도착하는 각 이벤트를 처리합니다. 이는 긴 출력에 대한 지각된 지연 시간을 줄입니다. 정확한 토큰 카운트를 위해 마지막 청크를 모니터링합니다.

제한 사항, 오류 및 컨텍스트

컨텍스트 윈도우는 100,000 토큰입니다. 최대 출력은 요청당 16,000 토큰입니다. 분당 300회 요청이 제공됩니다. 동시 요청은 8개로 제한됩니다.

오류를 적절하게 처리하세요. 401 상태는 키가 유효하지 않음을 의미합니다. 402 상태는 크레딧이 남지 않았음을 나타냅니다. 429 상태는 속도 제한에 도달했음을 의미합니다. 크레딧은 만료되지 않습니다. 오류는 무료입니다.