Documentation for the Uncensored Inference API

प्रमाणीकरण & बेस URL

अपने API key के साथ specified base URL पर authenticate करें। endpoint किसी भी OpenAI-compatible SDK के साथ काम करता है base URL configuration को अपडेट करके। आप Google या email के साथ sign up करने के तुरंत बाद अपनी key प्राप्त करते हैं, बिना phone number की आवश्यकता के। https://api.apiinferencellm.com/v1 सभी अनुरोधों के लिए एकमात्र बेस URL है।

पहला अनुरोध

मानक HTTP POST अनुरूप का उपयोग करके चैट पूर्णता एंडपॉइंट पर अपना पहला प्रॉम्प्ट भेजें। मॉडल पहचानकर्ता सरल "uncensored" है और तत्काल जनरेशन के लिए टेक्स्ट इनपुट स्वीकार करता है। YOUR_API_KEY को अपने डैशबोर्ड पर दिखाई गई क्रेडेंशियल से बदलें।

Copycurl https://api.apiinferencellm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the top 5 Python libraries for data analysis"}]
  }'

यह अनुरोध कानूनी वयस्क सामग्री के लिए बिना सामग्री फ़िल्टर के एक प्रत्यक्ष टेक्स्ट प्रतिक्रिया लौटाता है।

Python SDK इंटीग्रेशन

प्रोग्रामेटिक रूप से इंटरैक्ट करने के लिए अपने बेस URL और API कुंजी के साथ OpenAI क्लाइंट को इनिशियलाइज़ करें। लाइब्रेरी सभी कस्टम पैरामीटर जैसे तापमान और top_p को बनाए रखते हुए स्वचालित रूप से सीरियलाइज़ेशन संभालती है।

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apiinferencellm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

क्लाइंट को एक बार कॉन्फ़िगर करें और अपनी एप्लिकेशन भर में इसे पुन: उपयोग करें ताकि निरंतर प्रदर्शन मिल सके।

Node SDK एकीकरण

OpenAI पैकेज को इम्पोर्ट करें और अपने बेस URL को हमारे इन्फरेंस प्रोवाइडर की ओर इशारा करने के लिए सेट करें। यह दृष्टिकोण मौजूदा Node.js प्रोजेक्ट्स के साथ काम करता है जो पहले से ही OpenAI-कम्पैटिबल सेवाओं का उपयोग करते हैं।

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apiinferencellm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

अपना API कुंजी configuration ऑब्जेक्ट में पास करें ताकि प्रमाणीकृत अनुरोध तुरंत सक्षम हों।

स्ट्रीमिंग रिस्पॉन्सेस और टोकन

रियल-टाइम टोकन डिलीवरी के लिए स्ट्रीम पैरामीटर को true पर सेट करके स्ट्रीमिंग सक्षम करें। प्रत्येक चंक आंशिक पाठ रखता है और अंतिम चंक सटीक बिलिंग के लिए कुल टोकन उपयोग शामिल करता है। यह विधि 16,000 टोकन तक लंबे आउटपुट के लिए अनुभव की गई लेटेंसी को कम करती है।

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

प्रत्येक चंक को प्रोसेस करने से पहले प्रतिक्रिया स्थिति जांचकर त्रुटियों को सहजता से हैंडल करें।

सीमाएं, त्रुटियां & संदर्भ

रेट लिमिट का पालन करके प्रबंधन करें प्रति मिनट 300 अनुरोध और प्रति कुली 8 संवर्धित अनुरोध। कॉन्टेक्स्ट विंडो प्रॉम्प्ट और कंप्लीशन दोनों के लिए 100,000 टोकन का समर्थन करती है। 401 जैसी त्रुटियां एक अमान्य कुली को इंगित करती हैं, जबकि 402 का अर्थ है कि आपको अधिक क्रेडिट की आवश्यकता है। यदि आप 8 MB बॉडी लिमिट से अधिक हो जाते हैं तो अनुरोध तुरंत विफल हो जाते हैं।