Dokumentasi untuk API Inferens Tanpa Sensor

Pengesahan & URL Asas

Mula dengan mengesahkan dengan kunci API anda di URL asas yang ditentukan. Hujung ini berfungsi dengan mana-mana SDK serasi OpenAI dengan mengemas kini konfigurasi URL asas. Anda menerima kunci anda serta-merta selepas mendaftar dengan Google atau e-mel, tanpa memerlukan nombor telefon. https://api.apiinferencellm.com/v1 ialah satu-satunya URL asas yang anda perlukan untuk semua permintaan.

Permintaan Pertama

Hantar arahan pertama anda ke endpoint penyelesaian sem menggunakan permintaan HTTP POST piawai. Pengenal pasti model hanyalah "uncensored" dan menerima input teks untuk penjanaan serta-merta. Gantikan YOUR_API_KEY dengan kelayakan yang dipaparkan di papan pemuka anda.

Copycurl https://api.apiinferencellm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the top 5 Python libraries for data analysis"}]
  }'

Permintaan ini mengembalikan respons teks langsung tanpa penapis kandungan untuk kandungan dewasa yang sah.

Integrasi SDK Python

Mulakan klien OpenAI dengan URL asas dan kunci API anda untuk berinteraksi secara programatik. Perpustakaan mengendalikan serialisasi secara automatik sambil mengekalkan semua parameter tersuai seperti suhu dan top_p.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apiinferencellm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Konfigurasikan klien sekali dan gunakan semula merentasi aplikasi anda untuk prestasi yang konsisten.

Integrasi SDK Node

Import pakej OpenAI dan tetapkan URL asas untuk menunjuk ke penyedia inferens kami. Pendekatan ini berfungsi dengan projek Node.js sedia ada yang sudah menggunakan perkhidmatan serasi OpenAI.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apiinferencellm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Masukkan kunci API anda dalam objek konfigurasi untuk membolehkan permintaan bertauliah serta-merta.

Respons Streaming & Token

Aktifkan penstriman dengan menetapkan parameter stream kepada true untuk penghantaran token secara masa nyata. Setiap pecahan mengandungi teks separa dan pecahan akhir termasuk jumlah penggunaan token untuk pengebilan yang tepat. Kaedah ini mengurangkan latensi yang dirasakan untuk output panjang sehingga 16,000 token.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Tangani ralat dengan anggun dengan memeriksa status respons sebelum memproses setiap pecahan.

Had, Ralat & Konteks

Urus had kadar dengan mematuhi 300 permintaan setiap minit dan 8 permintaan serentak setiap kunci. Jendela konteks menyokong 100,000 token untuk arahan dan penyelesaian digabungkan. Ralat seperti 401 menunjukkan kunci tidak sah, manakala 402 bermakna anda memerlukan lebih kredit. Permintaan gagal serta-merta jika anda melebihi had badan 8 MB.