Tài liệu cho API Suy luận Không kiểm duyệt
Bắt đầu với API suy luận LLM không kiểm duyệt chỉ trong vài giây bằng các endpoint tương thích chuẩn với OpenAI và mức giá minh bạch theo từng token.
Xác thực & Base URL
Bắt đầu bằng cách xác thực với khóa API của bạn tại URL cơ sở được chỉ định. Điểm cuối này hoạt động với bất kỳ SDK tương thích OpenAI nào bằng cách cập nhật cấu hình URL cơ sở. Bạn nhận được khóa ngay lập tức sau khi đăng ký bằng Google hoặc email, không cần số điện thoại. https://api.apiinferencellm.com/v1 là URL cơ sở duy nhất bạn cần cho tất cả các yêu cầu.
Yêu cầu đầu tiên
Gửi lời nhắc đầu tiên đến điểm cuối hoàn tất cuộc trò chuyện bằng cách sử dụng yêu cầu HTTP POST tiêu chuẩn. Định danh model chỉ đơn giản là "uncensored" và chấp nhận đầu vào văn bản để tạo ngay lập tức. Thay thế YOUR_API_KEY bằng thông tin xác thực được hiển thị trên bảng điều khiển của bạn.
curl https://api.apiinferencellm.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List the top 5 Python libraries for data analysis"}]
}'
Yêu cầu này trả về phản hồi văn bản trực tiếp mà không có bộ lọc nội dung dành cho người trưởng thành hợp pháp.
Tích hợp SDK Python
Khởi tạo client OpenAI với URL cơ sở và khóa API của bạn để tương tác theo chương trình. Thư viện tự động xử lý việc tuần tự hóa trong khi vẫn bảo toàn tất cả các tham số tùy chỉnh như nhiệt độ và top_p.
from openai import OpenAI
client = OpenAI(base_url="https://api.apiinferencellm.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
Cấu hình client một lần và tái sử dụng nó trong toàn bộ ứng dụng của bạn để có hiệu suất nhất quán.
Tích hợp SDK Node
Nhập gói OpenAI và đặt URL cơ sở trỏ đến nhà cung cấp suy luận của chúng tôi. Cách tiếp cận này hoạt động với các dự án Node.js hiện có đã sử dụng các dịch vụ tương thích OpenAI.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.apiinferencellm.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
Đặt khóa API của bạn trong đối tượng cấu hình để kích hoạt các yêu cầu xác thực ngay lập tức.
Phản hồi luồng & Token
Bật chế độ phát trực tiếp bằng cách đặt tham số stream thành true để nhận dữ liệu token theo thời gian thực. Mỗi chunk chứa văn bản một phần và chunk cuối cùng bao gồm tổng số token đã sử dụng để đảm bảo tính chính xác khi tính phí. Phương pháp này giảm độ trễ cảm nhận cho các đầu ra dài lên tới 16,000 token.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
Xử lý lỗi một cách tinh tế bằng cách kiểm tra trạng thái phản hồi trước khi xử lý từng chunk dữ liệu.
Giới hạn, Lỗi & Ngữ cảnh
Quản lý giới hạn tốc độ bằng cách tuân thủ 300 yêu cầu mỗi phút và 8 yêu cầu đồng thời mỗi khóa. Cửa sổ ngữ cảnh hỗ trợ 100.000 token cho cả prompt và hoàn tất kết hợp. Các lỗi như 401 cho biết khóa không hợp lệ, trong khi 402 có nghĩa là bạn cần thêm tín dụng. Yêu cầu sẽ thất bại ngay lập tức nếu bạn vượt quá giới hạn thân 8 MB.
Câu hỏi thường gặp
URL gốc cho API inference là gì?
URL cơ sở là HTTPS://api.apiinferencellm.com/v1. Nó hoạt động với bất kỳ SDK tương thích OpenAI nào bằng cách thay đổi tham số base_url.
Tôi có thể gửi bao nhiêu token trong một yêu cầu?
Bạn có thể gửi tối đa 100.000 token tổng cộng cho prompt và completion. Lượng đầu ra tối đa mỗi yêu cầu là 16.000 token.
Điều gì xảy ra nếu tôi nhận lỗi 429?
Lỗi 429 có nghĩa là bạn đã đạt giới hạn tốc độ 300 yêu cầu mỗi phút. Hãy đợi một chút hoặc giảm các yêu cầu đồng thời xuống 8 trên mỗi khóa.
Tạo khóa của bạn ngay bây giờ
Đăng ký, sao chép token, cập nhật endpoint. Thế là đủ.