Uncensored Inference API için dokümantasyon
Standart OpenAI uyumlu uç noktaları ve şeffaf token başına fiyatlandırma kullanarak kısıtsız LLM çıkarım API'sine saniyeler içinde başlayın.
Kimlik Doğrulama & Base URL
Belirtilen temel URL ile API anahtarınızla kimlik doğrulaması yaparak başlayın. Uç nokta, temel URL yapılandırmasını güncelleyerek herhangi bir OpenAI uyumlu SDK ile çalışır. Google veya e-posta ile kaydolduktan sonra anahtarınızı hemen alırsınız, telefon numarası gerekmez. https://api.apiinferencellm.com/v1 tüm istemler için tek temel URL'dir.
İlk İstek
Standart bir HTTP POST isteği kullanarak sohbet tamamlama uç noktasına ilk isteminizi gönderin. Model tanımlayıcısı basitçe "uncensored"dir ve hemen üretim için metin girdisi kabul eder. YOUR_API_KEY'i panoda gösterilen kimlik bilgisiyle değiştirin.
curl https://api.apiinferencellm.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List the top 5 Python libraries for data analysis"}]
}'
Bu istek, yasal yetişkin içerik için içerik filtreleri olmadan doğrudan bir metin yanıtı döndürür.
Python SDK Entegrasyonu
Temel URL ve API anahtarınızla OpenAI istemcisini başlatarak programlı olarak etkileşim kurun. Kütüphane, sıcaklık ve top_p gibi özel parametrelerin tümünü koruyarak serileştirmeyi otomatik olarak yönetir.
from openai import OpenAI
client = OpenAI(base_url="https://api.apiinferencellm.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
İstemciyi bir kez yapılandırın ve tutarlı performans için uygulamanız genelinde yeniden kullanın.
Node SDK Entegrasyonu
OpenAI paketini içe aktarın ve temel URL'yi çıkarım sağlayıcımıza işaret edecek şekilde ayarlayın. Bu yaklaşım, zaten OpenAI-uyumlu hizmetler kullanan mevcut Node.js projeleriyle çalışır.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.apiinferencellm.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
API anahtarınızı kimlik doğrulamalı istekleri hemen etkinleştirmek için yapılandırma nesnesine iletin.
Akış Yanıtları & Tokenlar
Gerçek zamanlı token teslimi için stream parametresini true olarak ayarlayarak akış özelliğini etkinleştirin. Her parça kısmi metin içerir ve son parça, doğru faturalandırma için toplam token kullanımını içerir. Bu yöntem, 16,000 tokena kadar uzun çıktılar için algılanan gecikmeyi azaltır.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
Hataları zarifçe yönetmek için her parçayı işlemeden önce yanıt durumunu kontrol edin.
Limitler, Hatalar & Bağlam
Dakikada 300 istek ve anahtar başına 8 eşzamanlı isteğe uyarak hız sınırlarını yönetin. Bağlam penceresi hem istem hem de tamamlama için birlikte 100,000 token destekler. 401 hataları geçersiz anahtarı, 402 hataları daha fazla kredi ihtiyacını gösterir. İstekler 8 MB gövde sınırını aşarsanız anında başarısız olur.
Sıkça sorulan sorular
Inference API için temel URL nedir?
Temel URL HTTPS://api.apiinferencellm.com/v1'dir. base_url parametresini değiştirerek herhangi bir OpenAI-uyumlu SDK ile çalışır.
Bir istekte kaç token gönderebilirim?
Prompt ve tamamlama için toplam 100.000 token'a kadar gönderebilirsiniz. İstek başına maksimum çıktı 16.000 token'dır.
Bir 429 hatası alırsam ne olur?
429 hatası, dakikada 300 istek hız sınırını aştığınızı gösterir. Kısa bir süre bekleyin veya anahtar başına eşzamanlı istekleri 8'e düşürün.
Anahtarınızı şimdi oluşturun
Kaydolun, token'ı kopyalayın, uç nokta adresini güncelleyin. Hepsi bu.