無制限推論APIのドキュメンテーション
標準的なOpenAI互換エンドポイントと透明なトークン単位の価格設定を使用して、数秒で無制限LLM推論APIの利用を開始しましょう。
認証 & ベースURL
指定されたベースURLでAPIキーを使用して認証することから始めましょう。このエンドポイントは、ベースURL設定を更新することで、あらゆるOpenAI互換SDKと連携します。Googleまたはメールアドレスでサインアップすると、電話番号不要でキーが即座に発行されます。 https://api.apiinferencellm.com/v1 すべてのリクエストに必要な唯一のベースURLです。
最初のリクエスト
標準のHTTP POSTリクエストを使用してチャット完了エンドポイントに最初のプロンプトを送信してください。モデル識別子は単に"uncensored"であり、テキスト入力を即座に生成に受け入れます。YOUR_API_KEYをダッシュボードに表示されている資格情報に置き換えてください。
curl https://api.apiinferencellm.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List the top 5 Python libraries for data analysis"}]
}'
このリクエストは、法的な成人向けコンテンツに対してフィルタリングなしで直接テキストレスポンスを返します。
Python SDK統合
OpenAIクライアントをベースURLとAPIキーで初期化してプログラム的にリクエストを送信します。ライブラリはシリアライズを自動で処理し、温度やtop_pなどのカスタムパラメータをすべて保持します。
from openai import OpenAI
client = OpenAI(base_url="https://api.apiinferencellm.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
クライアントを1回設定し、アプリケーション全体で再利用して一貫したパフォーマンスを実現してください。
Node SDKの統合
OpenAIパッケージをインポートし、ベースURLを当社の推論プロバイダーに設定します。このアプローチは、すでにOpenAI互換サービスを使用している既存のNode.jsプロジェクトで機能します。
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.apiinferencellm.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
APIキーを構成オブジェクトに渡して、認証済みリクエストをすぐに有効にします。
ストリーミングレスポンスとトークン
ストリーミングを有効にするには、streamパラメータをtrueに設定してリアルタイムのトークン配信を有効にします。各チャンクには部分的なテキストが含まれ、最終チャンクには正確な課金のための合計トークン使用量が含まれます。この方法により、最大16,000トークンの長い出力に対する知覚遅延を削減します。
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
各チャンクの処理前にレスポンスステータスを確認してエラーを適切に処理してください。
制限、エラー & コンテキスト
1分あたり300リクエスト、キーあたり8つの同時リクエストを遵守してレート制限を管理します。コンテキストウィンドウは、プロンプトと完了の両方で100,000トークンをサポートします。401エラーは無効なキーを示し、402エラーはより多くのクレジットが必要であることを意味します。リクエストボディの8 MB制限を超えると、リクエストは即座に失敗します。
よくある質問
推論APIのベースURLは?
ベースURLは HTTPS://api.apiinferencellm.com/v1 です。base_urlパラメータを変更することで、任意のOpenAI互換SDKと動作します。
1つのリクエストで送信できるトークン数はどのくらいですか?
プロンプトとcompletionを合わせて合計最大100,000トークンまで送信できます。1リクエストあたりの最大出力は16,000トークンです。
429エラーが発生した場合どうなりますか?
429 エラーは、1 分あたり 300 リクエストのレート制限に達したことを意味します。少し待ってから再試行するか、リクエストの頻度を減らしてください。
今すぐキーを生成
登録、トークンのコピー、エンドポイントの更新。これだけです。