无审查推理 API 的文档
使用标准的 OpenAI 兼容端点和透明的按 token 定价,在几秒钟内开始使用无审查的 LLM 推理 API。
认证与基础 URL
首先使用 API 密钥在指定的基础 URL 处进行身份验证。该端点可与任何 OpenAI 兼容的 SDK 配合使用,只需更新基础 URL 配置即可。注册 Google 或电子邮件后,您将立即获得密钥,无需电话号码。 https://api.apiinferencellm.com/v1 所有请求所需的唯一基础 URL。
首次请求
使用标准的 HTTP POST 请求向聊天补全端点发送第一个提示。模型标识符仅为 "uncensored",接受文本输入以立即生成。将 YOUR_API_KEY 替换为仪表板上显示的凭据。
curl https://api.apiinferencellm.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List the top 5 Python libraries for data analysis"}]
}'
此请求返回针对合法成人内容的无过滤直接文本响应。
Python SDK 集成
使用您的基础 URL 和 API 密钥初始化 OpenAI 客户端以进行编程交互。该库自动处理序列化,同时保留所有自定义参数,如 temperature 和 top_p。
from openai import OpenAI
client = OpenAI(base_url="https://api.apiinferencellm.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
配置一次客户端,并在整个应用程序中重复使用它,以获得一致的性能。
Node SDK 集成
导入 OpenAI 包并将基础 URL 设置为指向我们的推理提供商。这种方法适用于已经使用 OpenAI 兼容服务的现有 Node.js 项目。
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.apiinferencellm.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
将 API 密钥放入配置对象中,以立即启用经过身份验证的请求。
流式响应与 Token
通过将 stream 参数设置为 true 启用流式传输,以实现实时令牌交付。每个数据块包含部分文本,最后一个数据块包含总令牌用量,以确保计费准确。此方法可将长输出(最高 16,000 个令牌)的感知延迟降低。
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
通过检查响应状态来优雅地处理错误,然后再处理每个数据块。
限制、错误 & 上下文
通过遵守每分钟 300 个请求和每个密钥 8 个并发请求来管理速率限制。上下文窗口支持提示和补全总共 100,000 个令牌。401 错误表示密钥无效,而 402 表示你需要更多余额。如果请求体超过 8 MB 限制,请求将立即失败。
常见问题
inference API 的基础 URL 是什么?
基础 URL 为 HTTPS://api.apiinferencellm.com/v1。通过更改 base_url 参数,它与任何 OpenAI 兼容 SDK 配合使用。
一次请求可以发送多少 token?
您可以为提示词和补全发送最多 100,000 个 token。每次请求的最大输出为 16,000 个 token。
如果我收到 429 错误会怎样?
429 错误表示您已达到每分钟 300 次请求的速率限制。稍作等待或减少每个密钥的并发请求数至 8 个。
立即生成密钥
注册,复制令牌,更新端点。就这样。