Uncensored 추론 API 문서
표준 OpenAI 호환 엔드포인트와 투명한 토큰별 가격을 사용하여 몇 초 만에 분리된 LLM 추론 API를 시작하세요.
인증 및 Base URL
지정된 베이스 URL에서 API 키로 인증하세요. 이 엔드포인트는 베이스 URL 구성을 업데이트하여 모든 OpenAI 호환 SDK와 작동합니다. Google이나 이메일로 가입하면 즉시 키를 받게 되며, 전화번호는 필요하지 않습니다. https://api.apiinferencellm.com/v1 모든 요청에 필요한 유일한 베이스 URL입니다.
첫 번째 요청
표준 HTTP POST 요청을 사용하여 채팅 completion 엔드포인트에 첫 번째 프롬프트를 보내세요. 모델 식별자는 단순히 "uncensored"이며 텍스트 입력을 받아 즉시 생성합니다. YOUR_API_KEY를 대시보드에 표시된 자격 증명으로 바꾸세요.
curl https://api.apiinferencellm.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List the top 5 Python libraries for data analysis"}]
}'
이 요청은 합법적인 성인 콘텐츠에 대한 콘텐츠 필터 없이 직접 텍스트 응답을 반환합니다.
Python SDK 통합
베이스 URL과 API 키를 사용하여 OpenAI 클라이언트를 초기화하여 프로그래밍 방식으로 상호작용하세요. 라이브러리는 temperature와 top_p와 같은 모든 커스텀 매개변수를 보존하면서 직렬화를 자동으로 처리합니다.
from openai import OpenAI
client = OpenAI(base_url="https://api.apiinferencellm.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
클라이언트를 한 번 구성하고 애플리케이션 전체에서 재사용하여 일관된 성능을 확보하세요.
Node SDK 통합
OpenAI 패키지를 가져와서 기본 URL을 우리 추론 제공업체로 설정하세요. 이 방법은 이미 OpenAI 호환 서비스를 사용하는 기존 Node.js 프로젝트에서 작동합니다.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.apiinferencellm.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
구성 객체에 API 키를 전달하여 인증된 요청을 즉시 활성화하세요.
스트리밍 응답 및 토큰
실시간 토큰 전송을 위해 stream 파라미터를 true로 설정하여 스트리밍을 활성화하세요. 각 청크에는 부분 텍스트가 포함되며, 최종 청크에는 정확한 과금을 위한 총 토큰 사용량이 포함됩니다. 이 방법은 최대 16,000개의 토큰에 대한 긴 출력에서 지각된 지연 시간을 줄입니다.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
각 청크를 처리하기 전에 응답 상태를 확인하여 오류를 우아하게 처리하세요.
제한 사항, 오류 및 & 컨텍스트
분당 300개의 요청과 키당 최대 8개의 동시 요청을 준수하여 속도 제한을 관리하세요. 컨텍스트 창은 프롬프트와 완료를 합쳐 100,000개의 토큰을 지원합니다. 401 오류는 유효하지 않은 키를 의미하며, 402 오류는 더 많은 크레딧이 필요함을 의미합니다. 요청 본문이 8 MB 한도를 초과하면 요청이 즉시 실패합니다.
자주 묻는 질문
inference API의 베이스 URL은 무엇인가요?
기본 URL은 HTTPS://api.apiinferencellm.com/v1입니다. base_url 매개변수를 변경하여 모든 OpenAI 호환 SDK에서 작동합니다.
한 번의 요청으로 보낼 수 있는 토큰 수는 얼마나 되나요?
프롬프트와 completion을 합쳐 최대 100,000개의 토큰을 보낼 수 있습니다. 요청당 최대 출력은 16,000개의 토큰입니다.
429 오류가 발생하면 어떻게 되나요?
429 오류는 분당 300개 요청의 속도 제한에 도달했음을 의미합니다. 잠시 기다리거나 키당 동시 요청을 8개로 줄이세요.
지금 키 생성하기
등록하고 토큰을 복사한 후 엔드포인트를 업데이트하세요. 이것만 하면 됩니다.