Dokumentointi Uncensored Inference API:lle

Todennus & Base URL

Aloita todentaminen API-avaimellasi määritetyllä perus-URL:lla. Päätepiste toimii minkä tahansa OpenAI-yhteensopivan SDK:n kanssa päivittämällä perus-URL-konfiguraation. Saat avaimen välittömästi rekisteröitymisen jälkeen Googlella tai sähköpostilla, ilman puhelinnumeroa. https://api.apiinferencellm.com/v1 on ainoa perus-URL-osoite, jota tarvitset kaikkiin pyyntöihin.

Ensimmäinen pyyntö

Lähetä ensimmäinen prompti chat-completions-päätepisteeseen käyttämällä standardia HTTP POST -pyyntöä. Mallin tunniste on yksinkertaisesti "uncensored" ja se hyväksyy tekstisyötteen välittömään generointiin. Korvaa YOUR_API_KEY todellisella kirjainmerkillä, joka näkyy hallintapaneelissasi.

Copycurl https://api.apiinferencellm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the top 5 Python libraries for data analysis"}]
  }'

Tämä pyyntö palauttaa suorasanaisen tekstimuotoisen vastauksen ilman sisältösuodattimia lainmukaiselle aikuis sisällölle.

Python SDK -integraatio

Alusta OpenAI-asiakirjaimisto perus-URL-osoitteella ja API-avaimella vuorovaikutukseen ohjelmoitavasti. Kirjasto hoitaa sarjoituksen automaattisesti säilyttäen kaikki mukautetut parametrit kuten lämpötilan ja top_p.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apiinferencellm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Määritä asiakas kerran ja käytä sitä sovelluksesi läpi johdonmukaisen suorituskyvyn varmistamiseksi.

Node SDK -integraatio

Tuo OpenAI-paketti ja aseta base URL osoittamaan päättelytarjoajaamme. Tämä lähestymistapa toimii olemassa olevissa Node.js-projekteissa, jotka käyttävät jo OpenAI-yhteensopivia palveluita.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apiinferencellm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Vie API-avaimesi konfiguraatio-olioon ottaaksesi autentikoidut pyynnöt käyttöön välittömästi.

Streamausvastaukset & merkit

Ota käyttöön streamaus asettamalla stream-parametri arvoksi true reaaliaikaiseen tokenien toimitukseen. Jokainen lohko sisältää osittaisen tekstin ja viimeinen lohko sisältää kokonaiskäytön tarkkaa laskutusta varten. Tämä menetelmä vähentää havaittua viivepitkiin tuloksiin, jopa 16 000 tokeniin saakka.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Käsittele virheet joustavasti tarkistamalla vastauksen tila ennen jokaisen osan käsittelyä.

Rajoitukset, virheet & konteksti

Hallitse nopeusrajoja noudattamalla 300 pyyntöä minuutissa ja 8 samanaikaista pyyntöä avainta kohti. Kontesttilaajuus tukee 100 000 tunnista sekä promptiin että tulokseen yhteensä. Virheet kuten 401 viittaavat virheelliseen avaimeseen, kun taas 402 tarkoittaa, että tarvitset enemmän varoja. Pyyntö epäonnistuu välittömästi, jos ylität 8 Mt:n rungon rajan.