JA ▾
API キーを取得

OpenAIより安価な代替:Base URLで切替

テキスト用の OpenAI の安価な代替手段は、通常 Base URL の変更で実現できます。URL、API キー、モデル ID を入れ替えるだけで、OpenAI SDK のコードは動作し続けます。正確なコード、差分、および節約額の計算方法はこちらをご覧ください。

更新日:

隣接する光るソケットにケーブルを差し替える様子。安価な API への Base URL 切り替えを表します。

Cheap AI APIs

主要ポイント

  1. Base URL を https://api.cheapaiapis.com/v1, に、API キーを、モデル ID を uncensored に変更します。
  2. テキストのみ:画像、音声、動画、埋め込み、ファインチューニングはなし。
  3. 料金は入力トークン100万トークンあたり$0.15、出力トークン100万トークンあたり$0.50で、前払い制です。
  4. 環境変数に設定を保持し、切り替えを元に戻せるようにしてください。

変更点と変更しない点

テキスト生成用の OpenAI の安価な代替手段を探している場合、移行は簡単です。新しい Base URL、新しい API キー、新しいモデル ID を設定するだけです。プロンプト、メッセージフォーマット、ストリーミングコード、関数定義の形状はそのまま維持されます。これが OpenAI 互換 API の利点であり、書き直しなしで午後中に移行をテストできる理由でもあります。

移行できないのはテキストチャット以外の機能です。このエンドポイントはチャット補完、responses メソッド、models リストを提供します。画像、音声、動画、埋め込み、ファインチューニングは行いません。製品がそれらを使用している場合は、その部分を現状維持し、テキスト呼び出しのみを移行してください。

設定このサービスの価値
ベース URLhttps://api.cheapaiapis.com/v1
モデル IDuncensored
認証Authorization: Bearer YOUR_KEY
エンドポイントPOST /v1/chat/completions, POST /v1/responses, GET /v1/models

Python、Node、curl での切り替え

Python の場合、クライアント作成時に新しい値を渡します:

from openai import OpenAI

client = OpenAI(
    base_url="https://api.cheapaiapis.com/v1",
    api_key="YOUR_KEY",
)

r = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "Answer in two sentences."},
        {"role": "user", "content": "Why do retries need jitter?"},
    ],
)
print(r.choices[0].message.content)

Node では次のようにします:

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.cheapaiapis.com/v1",
  apiKey: process.env.CHEAP_KEY,
});

const r = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Why do retries need jitter?" }],
});
console.log(r.choices[0].message.content);

また、プレーン HTTP の場合:

curl https://api.cheapaiapis.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Why do retries need jitter?"}]}'

切り替えを元に戻せるようにする

新しい値をハードコードしないでください。3つの設定を環境変数または設定オブジェクトに配置してください。新しいモデルが機能のいずれかに適合しない場合、数秒で元に戻すことができます。

import os
from openai import OpenAI

client = OpenAI(
    base_url=os.environ.get("LLM_BASE_URL", "https://api.cheapaiapis.com/v1"),
    api_key=os.environ["LLM_API_KEY"],
)
MODEL = os.environ.get("LLM_MODEL", "uncensored")

良いロールアウトでは、まず新しいエンドポイントにトラフィックの小さな割合(内部ツール1つ、またはリクエストの5%など)を送信し、出力を比較します。429 または 5xx エラーが発生した場合は、古いルートをフォールバックとして維持してください。レスポンスを読む際は、標準フィールドのみが安定して利用可能であるとみなしてください:choices[0].message.content、usage、finish_reason。

実際に異なる点

  • モデル。 独立したプロバイダが運用するオープンウェイトモデルは1つだけで、法的な成人利用においてコンテンツ拒否なしで回答するよう調整されています。どのベンダーの公式 API でもなく、ルータでもなく、残したモデルと全く同じ挙動を示すわけではありません。他のモデル向けに調整されたプロンプトには小さな編集が必要になる場合があります。
  • コンテキスト。 ウィンドウは 100,000 トークンで、プロンプトと補完を合計したものです。max_tokens はオプションです。
  • 機能。 SSE によるストリーミング、ツール呼び出し、JSON モード、temperature、top_p、stop、seed、ペナルティの透過的渡しがサポートされています。コードが使用する特殊な機能については docs を確認してください。
  • 制限。 完全なキーでは同時8リクエスト、1分あたり300リクエストが許可されます。最大ボディサイズは8 MBです。
  • 安全性。 コンテンツ拒否はデフォルトの動作ではありませんが、未成年者を含む性的コンテンツは決して許可されません。製品に独自のルールがある場合は、独自のフィルタを追加してください。

異なるモデルは引数のフォーマットが異なる可能性があるため、関数呼び出しと JSON モードを特にテストしてください。返された JSON を検証し、解析に失敗した場合はより厳格な指示で1回リトライしてください。

午後で完了する移行チェックリスト

  1. 呼び出しをリスト化します。 コード内でクライアントを作成または API を呼び出すすべての場所を検索します。それぞれをテキストチャットまたはそれ以外としてマークします。
  2. ログから30個の実プロンプトを収集します。個人情報を削除し、長いもの、ツールを使用するもの、JSON を期待するものをいくつか含めてください。
  3. 両方のエンドポイントでそれらをリプレイし、出力を並べて保存します。編集なしで許容できるものがいくつあるか数えます。
  4. ストリーミングを確認します。 stream: true を設定し、UI が最終的な使用量チャンクを処理できることを確認します。
  5. エラーを確認します。 無効なキーとリクエストのバーストを強制し、コードが 401 と 429 を適切に処理することを確認します。
  6. ゆっくりロールアウトします。フォールバックとして古いルートを維持します。
stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Explain idempotency keys briefly."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="")

ストリーミングリクエストはストリームが終了するまで同時実行スロットを保持することに注意してください。1つのページで複数のストリームを同時に開くと、1分あたり300リクエストの制限に達する前に、完全キーの8スロットが埋まることがあります。コード concurrency の 429 は、それが起こったことを示します。

自分の数字で節約額を計算する

ここでの料金は入力トークン1Mあたり$0.15、出力トークン1Mあたり$0.50で、前払い制、サブスクリプション不要です。他社の価格を記載するものではありません。現在ご利用のサービスの現在の料金を確認してください。次にこれを実行してください:

def monthly_cost(requests, in_tokens, out_tokens, in_rate, out_rate):
    return requests * (in_tokens * in_rate + out_tokens * out_rate) / 1_000_000

# here: 0.15 per 1M input, 0.50 per 1M output
mine = monthly_cost(30_000, 2_500, 600, 0.15, 0.50)
print(round(mine, 2))   # 20.25

手計算でこの金額を確認してください:各リクエストの入力コストは2,500 x 0.15 / 1M = $0.000375、出力コストは600 x 0.50 / 1M = $0.0003で、合計$0.000675です。30,000リクエストで掛け合わせると$20.25になります。現在ご利用のプロバイダの公開料率で同じ計算式を実行して比較してください。トークン単価だけでなく、書き換えや再試行のコストも比較に含めてください。

失敗または拒否されたリクエストは課金されず、クレジットは期限切れにならないため、使用が少ない月は追加コストがかかりません。

トライアルから始める

Google、またはメールとパスワードでサインアップし、API キーページ でワンクリックで $0.50 の試用クレジットを取得します。カードは不要で、7日間有効、1人1回限りの制限があります。上記の例のコストでは、$0.50 でそのサイズの約740リクエストが支払え、両方のプロバイダに対して独自の回帰プロンプトを実行して比較するのに十分な量です。

お支払いの準備ができたら、チャージは$20から$500までの任意の整数額で行え、$50で+5%、$100で+10%、$200で+15%が追加されます。暗号資産(TRC20上のUSDT、Base上のUSDC)でご利用いただけます。料金ページに現在の表が表示されます。プロンプトは学習に使用されません。

その場に留まるべき時

正直なアドバイス:製品が現在のプロバイダの画像、音声、埋め込みエンドポイントに依存している場合、契約上の理由で特定のベンダーのモデルが必要な場合、またはユーザーがそのベンダーの正確な挙動を期待している場合は、切り替えないでください。プロンプトを適応させるためのエンジニアリング時間が節約額を上回る場合、安価なルートも役立ちません。無検閲でトークン単位のモデルが適するテキスト呼び出しにこのサービスを使用し、残りはそのまま維持してください。

低コスト API に関するよくある誤解の概要については、決定する前に 安価なGPT APIのよくある誤解と事実 をお読みください。

コードを書き直す必要がありますか?

通常は不要です。チャット完了、ストリーミング、関数呼び出し、JSON モードは同じ形式を維持します。Base URL、API キー、モデル名を変更してください。

埋め込みや画像生成もここで利用できますか?

いいえ。このサービスはテキストのみで、画像、音声、動画の生成、埋め込み、ファインチューニングは提供しません。

回答は現在のモデルと一致しますか?

いいえ。これは、法的な成人向け利用においてコンテンツ拒否なしで回答するように調整された別のオープンウェイトモデルです。プロンプトをテストして調整してください。

コストを比較するにはどうすればよいですか?

月間入力トークン数と出力トークン数に$0.15と$0.50を1Mあたりで掛け合わせ、現在ご利用のプロバイダの公開料率と比較してください。

キーはフォームを1つ入力するだけで入手できます

アカウントを作成し、キーをコピーし、ベースURLを変更します。これでセットアップは完了です。

API キーを取得

https://api.cheapaiapis.com/v1