Dokumentation til den Ubegrænsede Inference API

Autentificering & Base URL

Start med at autentificere med din API-nøgle på den angivne base-URL. Endpointet fungerer med ethvert OpenAI-kompatibelt SDK ved at opdatere base-URL-konfigurationen. Du modtager din nøgle øjeblikkeligt efter tilmelding med Google eller e-mail, uden behov for telefonnummer. https://api.apiinferencellm.com/v1 er den eneste base URL, du har brug for til alle anmodninger.

Første anmodning

Send din første prompt til chat-completions endpoint ved hjælp af en standard HTTP POST-request. Model-identifikatoren er blot "uncensored" og accepterer tekstinput til øjeblikkelig generering. Erstat YOUR_API_KEY med legitimationsoplysningerne vist på dit dashboard.

Copycurl https://api.apiinferencellm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the top 5 Python libraries for data analysis"}]
  }'

Denne anmodning returnerer et direkte tekst svar uden indholdsfiltre for lovligt voksenindhold.

Python SDK-integration

Initialiser OpenAI-klienten med din base-URL og API-nøgle for at interagere programmatisk. Biblioteket håndterer serialisering automatisk, mens det bevarer alle tilpassede parametre som temperature og top_p.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apiinferencellm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Konfigurer klienten én gang og genbrug den i hele din applikation for konsistent ydelse.

Node SDK-integration

Importér OpenAI-pakken og indstil base URL'en til at pege på vores inference-udbyder. Denne tilgang fungerer med eksisterende Node.js-projekter, der allerede bruger OpenAI-kompatible tjenester.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apiinferencellm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Indtast din API-nøgle i konfigurationsobjektet for at aktivere autentificerede anmodninger straks.

Streaming-svar & tokens

Aktivér streaming ved at indstille stream-parameteren til true for real-time tokenlevering. Hver chunk indeholder delvis tekst, og den sidste chunk indeholder totalt tokenforbrug for præcis fakturering. Denne metode reducerer den opfattede latens for lange output op til 16,000 tokens.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Håndter fejl elegant ved at tjekke responsstatus før bearbejdning af hver chunk.

Begrænsninger, fejl & kontekst

Håndter rate limits ved at overholde 300 anmodninger i minuttet og 8 samtidige anmodninger per nøgle. Context-vinduet understøtter 100.000 tokens for både prompt og completion tilsammen. Fejl som 401 indikerer en ugyldig nøgle, mens 402 betyder, at du har brug for mere kredit. Anmodninger fejler øjeblikkeligt, hvis du overskrider 8 MB kroppens grænse.