Dokumentation för den Obegränsade Inferens-API:et

Autentisering & bas-URL

Börja med att autentisera med din API-nyckel vid angiven bas-URL. Slutpunkten fungerar med alla OpenAI-kompatibla SDK:er genom att uppdatera bas-URL-konfigurationen. Du får din nyckel omedelbart efter att ha registrerat dig med Google eller e-post, utan telefonnummer. https://api.apiinferencellm.com/v1 är den enda bas-URL du behöver för alla förfrågningar.

Första förfrågan

Skicka din första prompt till chattkompletteringsändpunkten med en standard HTTP POST-förfrågan. Modellidentifieraren är helt enkelt "uncensored" och accepterar textinmatning för omedelbar generering. Ersätt YOUR_API_KEY med inloggningsuppgifterna som visas på din kontrollpanel.

Copycurl https://api.apiinferencellm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the top 5 Python libraries for data analysis"}]
  }'

Denna begäran returnerar ett direkt text svar utan innehållsfilter för laglig vuxeninnehåll.

Python SDK-integration

Initiera OpenAI-klienten med din bas-URL och API-nyckel för att interagera programmatiskt. Biblioteket hanterar serialisering automatiskt samtidigt som alla anpassade parametrar som temperatur och top_p bevaras.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apiinferencellm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Konfigurera klienten en gång och återanvänd den i hela din applikation för konsekvent prestanda.

Node SDK-integration

Importera OpenAI-paketet och ställ in bas-URL:en att peka mot vår inferensleverantör. Detta tillvägagångssätt fungerar med befintliga Node.js-projekt som redan använder OpenAI-kompatibla tjänster.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apiinferencellm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Skicka ditt API-nyckel i konfigurationsobjektet för att aktivera autentiserade begäranden omedelbart.

Strömningsresponser & tokens

Aktivera strömning genom att ställa in stream-parametern till true för realtidsleverans av tokens. Varje chunk innehåller delvis text och den sista chunken innehåller total tokenanvändning för korrekt fakturering. Denna metod minskar den upplevda latensen för långa utdata upp till 16,000 tokens.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Hantera fel på ett elegant sätt genom att kontrollera svarstatus innan du bearbetar varje bit.

Gränser, fel & kontext

Hantera hastighetsbegränsningar genom att följa 300 förfrågningar per minut och 8 samtidiga förfrågningar per nyckel. Kontextrutan stöder 100 000 tokens för både prompt och komplettering tillsammans. Fel som 401 indikerar en ogiltig nyckel, medan 402 betyder att du behöver mer kredit. Förfrågningar misslyckas omedelbart om du överskrider 8 MB-gränsen för kropp.