無審查推理 API 文件
使用標準的 OpenAI 相容端點和透明的每 token 計價方式,幾秒鐘內即可開始使用無審查的 LLM 推理 API。
驗證與 Base URL
首先使用指定的基礎 URL 和您的 API 金鑰進行身份驗證。該端點與任何 OpenAI 相容 SDK 配合使用,只需更新基礎 URL 配置即可。註冊後(使用 Google 或電子郵件,無需電話號碼)立即獲得金鑰。 https://api.apiinferencellm.com/v1 是您所有請求所需的唯一基礎 URL。
首次請求
使用標準的 HTTP POST 請求向聊天補全端點發送第一個提示詞。模型標識符僅為 "uncensored",接受文本輸入以立即生成。將 YOUR_API_KEY 替換為儀表板上顯示的憑證。
curl https://api.apiinferencellm.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List the top 5 Python libraries for data analysis"}]
}'
此請求回傳針對合法成人內容無內容過濾的直接文字回應。
Python SDK 集成
使用您的基礎 URL 與 API 金鑰初始化 OpenAI 用戶端以進行程式化互動。程式庫會自動處理序列化,同時保留所有自訂參數,如 temperature 和 top_p。
from openai import OpenAI
client = OpenAI(base_url="https://api.apiinferencellm.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
配置一次客戶端並在整個應用程式中重複使用,以獲得一致的效能。
Node SDK 整合
匯入 OpenAI 套件並將基礎 URL 設定指向我們的推理提供者。這種方法適用於已經使用 OpenAI 相容服務的現有 Node.js 專案。
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.apiinferencellm.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
將您的 API 金鑰傳入設定物件,以立即啟用已驗證的請求。
串流回應與 Token
透過將 stream 參數設為 true 來啟用串流,以實現即時 token 交付。每個資料片段包含部分文字,最後一個片段則包含總 token 使用量,以確保計費準確。此方法可降低長輸出(高達 16,000 個 token)的感知延遲。
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
通過檢查響應狀態來優雅地處理錯誤,然後再處理每個數據塊。
限制、錯誤與上下文
遵循每分鐘 300 個請求和每個金鑰 8 個並行請求來管理速率限制。上下文視窗支援提示和完成內容總計 100,000 個 token。401 錯誤表示金鑰無效,而 402 表示您需要更多信用額度。如果超過 8 MB 的主體限制,請求將立即失敗。
常見問題
inference API 的基礎 URL 為何?
基礎網址為 HTTPS://api.apiinferencellm.com/v1。透過變更 base_url 參數,它可與任何 OpenAI 相容的 SDK 配合使用。
一次請求可以發送多少 Token?
您可以傳送提示詞和補完總計最多 100,000 token。每次請求的最大輸出為 16,000 token。
如果我收到 429 錯誤會發生什麼事?
429 錯誤表示您已達到每分鐘 300 次請求的速率限制。請稍作等待或將並發請求減少至每個金鑰 8 個。
立即產生金鑰
註冊、複製權杖、更新端點。就是這樣。