繁中 ▾
取得 API 金鑰

OpenAI 更便宜的替代方案:透過 Base URL 切換

文字處理方面,OpenAI 的平價替代方案通常只需更改 Base URL:替換 URL、金鑰與模型 ID,你的 OpenAI SDK 程式碼即可繼續運作。以下是具體程式碼、差異說明,以及計算節省金額的方法。

更新於

電纜被移動到相鄰的發光插座,代表切換至更便宜的 API 的 Base URL

Cheap AI APIs

重點摘要

  1. 將 Base URL 改為 https://api.cheapaiapis.com/v1, 金鑰,並將模型 ID 改為 uncensored。
  2. 僅支援文字:無影像、音訊、影片、嵌入或微調。
  3. 費率為每 1M 輸入 token $0.15 及每 1M 輸出 token $0.50,採預付額度制。
  4. 將設定保留在環境變數中,以便您可以切換回去。

你變更與不變更的內容

如果您想要用於文字生成的 OpenAI 更便宜替代方案,遷移過程很簡單:新的基礎 URL、新的金鑰和新的模型 ID。您的提示詞、訊息格式、串流程式碼和工具定義保持不變。這就是 OpenAI 相容 API 的好處,也是您可以在一個下午內測試遷移而無需重寫程式碼的原因。

無法遷移的是文字聊天以外的任何內容。此端點提供聊天補全、responses 方法和 models 列表。它不支援圖像、音訊、影片、嵌入或微調。如果您的產品使用這些功能,請將該部分保留在原處,僅遷移文字呼叫。

設定此服務的價值
Base URLhttps://api.cheapaiapis.com/v1
模型 IDuncensored
驗證Authorization: Bearer YOUR_KEY
端點POST /v1/chat/completions, POST /v1/responses, GET /v1/models

在 Python、Node 或 curl 中切換

在 Python 中,建立客戶端時傳入新值:

from openai import OpenAI

client = OpenAI(
    base_url="https://api.cheapaiapis.com/v1",
    api_key="YOUR_KEY",
)

r = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "Answer in two sentences."},
        {"role": "user", "content": "Why do retries need jitter?"},
    ],
)
print(r.choices[0].message.content)

在 Node 中:

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.cheapaiapis.com/v1",
  apiKey: process.env.CHEAP_KEY,
});

const r = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Why do retries need jitter?" }],
});
console.log(r.choices[0].message.content);

以及純 HTTP:

curl https://api.cheapaiapis.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Why do retries need jitter?"}]}'

使切換可逆

不要硬編碼新值。將三個設定放在環境變數或配置物件中,如果新模型不適合您的其中一項功能,您可以在幾秒內切換回去。

import os
from openai import OpenAI

client = OpenAI(
    base_url=os.environ.get("LLM_BASE_URL", "https://api.cheapaiapis.com/v1"),
    api_key=os.environ["LLM_API_KEY"],
)
MODEL = os.environ.get("LLM_MODEL", "uncensored")

良好的推出策略是首先將少量流量發送到新端點,例如一個內部工具或 5% 的請求,並比較輸出結果。將舊路由保留為 429 或 5xx 錯誤的後備。當您讀取回應時,僅將標準欄位視為穩定:choices[0].message.content、usage 和 finish_reason。

實際上的差異

  • 模型。 有一個開放權重模型,由獨立供應商運行,針對合法成人用途調整為不拒絕內容的回答。它不是任何供應商的官方 API,也不是路由器,其行為不會與您離開的模型完全相同。針對其他模型調整的提示詞可能需要小幅編輯。
  • 上下文。 上下文視窗為 100,000 個 token,計算提示詞加上補全。max_tokens 是可選的。
  • 功能。 支援透過 SSE 的串流輸出、工具呼叫、JSON 模式,以及溫度、top_p、stop、seed 和懲罰的傳遞。檢查 文件 以查看您的程式碼使用的任何特殊功能。
  • 限制。 完整金鑰允許 8 個並行請求和每分鐘 300 個請求。最大主體為 8 MB。
  • 安全性。 內容拒絕並非預設行為,但涉及未成年人的性內容絕對禁止。若你的產品有自有規則,可自行新增篩選條件。

特別測試工具呼叫和 JSON 模式,因為不同的模型可能會以不同的格式格式化參數。驗證您收到的 JSON,如果解析失敗,請使用更嚴格的指示重試一次。

一個可以在一個下午內完成的遷移檢查清單

  1. 列出您的呼叫。 在程式碼中搜尋建立客戶端或呼叫 API 的每個位置。將每個位置標記為文字聊天或其他內容。
  2. 從日誌收集 30 個真實提示詞,移除私人資訊,包含少數長提示詞、少數使用工具的提示詞,以及少數預期 JSON 輸出的提示詞。
  3. 重放它們至兩個端點並儲存輸出結果並排比較。計算多少結果無需修改即可接受。
  4. 檢查串流輸出。 設定 stream: true 並確保您的 UI 處理最終的使用量區塊。
  5. 檢查錯誤。 強制使用錯誤的金鑰和請求突發,並確認您的程式碼能合理地處理 401 和 429 錯誤。
  6. 緩慢推出, 保留舊路由作為後備。
stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Explain idempotency keys briefly."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="")

請記住,串流請求會在其串流結束前佔用其並行請求槽位。如果頁面同時開啟多個串流,完整金鑰的 8 個槽位可能會在達到每分鐘 300 個請求之前就被填滿。代碼為 concurrency 的 429 錯誤表示發生了這種情況。

使用您自己的數字計算節省金額

此處的費率為每 1M 輸入 token $0.15 和每 1M 輸出 token $0.50,採預付額度且無訂閱費。我們不聲明其他任何人的價格;請查看您現在使用的服務的當前定價。然後運行此程式:

def monthly_cost(requests, in_tokens, out_tokens, in_rate, out_rate):
    return requests * (in_tokens * in_rate + out_tokens * out_rate) / 1_000_000

# here: 0.15 per 1M input, 0.50 per 1M output
mine = monthly_cost(30_000, 2_500, 600, 0.15, 0.50)
print(round(mine, 2))   # 20.25

手動檢查該數字:每個請求的成本為 2,500 x 0.15 / 1M = $0.000375 的輸入加上 600 x 0.50 / 1M = $0.0003 的輸出,因此為 $0.000675。乘以 30,000 個請求,總計為 $20.25。使用您目前供應商的公布費率運行相同的函數並進行比較。在比較中包括任何重寫或重試的成本,而不僅是每個 token 的價格。

失敗或拒絕的請求不會收費,且額度永不過期,因此緩慢的月份不會產生額外費用。

從試用開始

使用 Google 或電子郵件和密碼註冊,然後在 API 金鑰頁面 上一鍵領取 $0.50 的免費試用額度。這不需要信用卡,持續 7 天,每人限領一次。以上述成本為例,$0.50 可支付約 740 次該大小請求的費用,這足以針對兩個供應商運行您自己的回歸提示詞並進行比較。

當您準備好付費時,儲值金額為 $20 至 $500 的整數,從 $50 起加 5%、從 $100 起加 10%、從 $200 起加 15%。您可以使用加密貨幣(TRC20 上的 USDT、Base 上的 USDC)。定價頁面 顯示當前表格。提示詞不用於訓練。

何時留在原地

誠實建議:如果您的產品依賴您目前供應商的圖像、音訊或嵌入端點,如果您因合約原因需要特定供應商的模型,或者如果您的用戶期望該供應商的精確行為,則不要切換。如果調整提示詞的工程時間超過節省的金額,較便宜的路线也無濟於事。在文字呼叫中使用此服務,其中無審查、按 token 付費的模型適合,並將其餘部分保留在原處。

有關低成本 API 常見誤解的概覽,請在做出決定之前閱讀 低成本 GPT API 誤解與事實。

問答

閱讀文件
我必須重寫程式碼嗎?

通常不需要。聊天補全、串流輸出、工具呼叫和 JSON 模式保持相同格式。只需變更 Base URL、金鑰和模型名稱。

我可以在此使用嵌入或圖像生成嗎?

不可以。該服務僅支援文字,無影像、音訊或影片生成、無嵌入向量且無微調。

回答會與我目前的模型一致嗎?

不可以。這是不同的開放權重模型,經過微調以在合法成人用途下無審查地回答,因此請測試你的提示詞並進行調整。

我該如何比較成本?

將每月輸入與輸出的 token 數量分別乘以每 1M token $0.15 與 $0.50,然後與目前供應商的公布費率進行比較。

僅需填寫表單,即可取得金鑰

建立帳號、複製金鑰、更改基礎 URL。這就是整個設定過程。

取得 API 金鑰

https://api.cheapaiapis.com/v1