مستندات برای API استنتاج بدون سانسور

احراز هویت و URL پایه

ابتدا با URL پایه مشخص شده و کلید API خود احراز هویت کنید. این نقطه پایانی با هر SDK سازگار با OpenAI کار می‌کند و با به‌روزرسانی پیکربندی URL پایه، کلید خود را بلافاصله پس از ثبت‌نام با گوگل یا ایمیل دریافت می‌کنید، بدون نیاز به شماره تلفن. https://api.apiinferencellm.com/v1 تنها URL پایه‌ای است که برای تمام درخواست‌ها نیاز دارید.

اولین درخواست

ارسان اولین پرامپت به endpoint تکمیل چت با استفاده از یک درخواست HTTP POST استاندارد. شناسه مدل به سادگی "uncensored" است و ورودی متنی را برای تولید فوری می‌پذیرد. YOUR_API_KEY را با اعتباری که در داشبورد شما نمایش داده می‌شود جایگزین کنید.

Copycurl https://api.apiinferencellm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the top 5 Python libraries for data analysis"}]
  }'

این درخواست یک پاسخ متنی مستقیم بدون فیلترهای محتوا برای محتوای بزرگسالان قانونی برمی‌گرداند.

یکپارچه‌سازی SDK Python

کلاینت OpenAI را با URL پایه و کلید API خود مقداردهی اولیه کنید تا به‌طور برنامه‌نویسی تعامل داشته باشید. کتابخانه سریال‌سازی را به‌طور خودکار مدیریت می‌کند و تمام پارامترهای سفارشی مانند دما و top_p را حفظ می‌کند.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apiinferencellm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

کلاینت را یک بار پیکربندی کنید و در سراسر برنامه خود از آن استفاده کنید تا عملکرد یکدستی داشته باشید.

یکپارچه‌سازی Node SDK

پکیج OpenAI را ایمپورت کنید و URL پایه را به ارائه‌دهنده استنتاج ما تنظیم کنید. این رویکرد با پروژه‌های موجود Node.js که از سرویس‌های سازگار با OpenAI استفاده می‌کنند، کار می‌کند.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apiinferencellm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

کلید API خود را در شیء پیکربندی ارسال کنید تا درخواست‌های احراز هویت شده بلافاصله فعال شوند.

پاسخ‌های استریم و توکن‌ها

با تنظیم پارامتر stream روی true، قابلیت streaming را فعال کنید تا توکن‌ها به صورت بلادرسان ارسال شوند. هر قطعه شامل متن ناقص است و قطعه نهایی شامل مصرف کل توکن‌ها برای صورتحساب دقیق می‌شود. این روش تأخیر ادراک‌شده را برای خروجی‌های بلند تا 16,000 توکن کاهش می‌دهد.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

خطاها را با بررسی وضعیت پاسخ قبل از پردازش هر قطعه به شیوه‌ای مناسب مدیریت کنید.

محدودیت‌ها، خطاها و & زمینه

محدودیت‌های نرخ را با رعایت 300 درخواست در دقیقه و 8 درخواست همزمان به ازای هر کلید مدیریت کنید. پنجره زمینه از 100,000 توکن برای پرامپت و خروجی ترکیبی پشتیبانی می‌کند. خطاهایی مانند 401 نشان‌دهنده کلید نامعتبر است، در حالی که 402 یعنی به اعتبار بیشتری نیاز دارید. درخواست‌ها بلافاصله در صورت تجاوز به محدودیت بدنه 8 MB شکست می‌خورند.