便宜 LLM API 供應商:除了價格還要看什麼
廉價的 LLM API 供應商只有在總帳單低時才算便宜:輸出費率、呼叫失敗、上下文大小和過期額度都會被計算。使用此檢查清單,並計算每 1M 輸入 token 為 $0.15、每 1M 輸出 token 為 $0.50 的實際成本。
更新於

Cheap AI APIs
重點摘要
- 分別比較輸入與輸出價格,並使用您自己的 token 比例。
- 檢查上下文視窗、速率限制、計費錯誤、過期與資料使用。
- 此處每 1,000 份文件的摘要成本為 $3.25;1,000 篇生成故事的費用為 $1.575。
- $0.50 的試用無需綁卡且持續 7 天。
每百萬 token 的價格僅是報價的一半
僅根據定價頁面上的最低數字選擇供應商,在收到第一張實際帳單時就會失效。兩個供應商可能宣傳相同的輸入價格,但由於輸出定價方式、何種請求被計費以及重試花費的金額不同,您的總成本可能差異很大。
本文提供一份簡短檢查清單,您可將其應用於任何供應商,並以一個供應商為例進行說明:每 1M 輸入 token $0.15 與每 1M 輸出 token $0.50,即本站的費率。也請對其他供應商使用此清單。對於他們的數值,請閱讀他們當前的定價頁面,因為價格會變動。
檢查清單
| 檢查 | 為什麼這很重要 |
|---|---|
| 分別計算輸入與輸出價格 | 混合價格會隱藏您在哪一側支付最多 |
| 上下文視窗 | 小視窗會強制分塊,這意味著需要更多呼叫和重複的指令 |
| 失敗的請求會計費嗎? | 產生費用的錯誤與拒絕會使帳單膨脹 |
| 速率限制 | 低並行度會使便宜的批次處理變慢 |
| 最低儲值與過期 | 過期的額度就是您損失的錢 |
| 訂閱或預付 | 固定月費會懲罰用量少的月份 |
| 它到底是什麼模型? | 便宜可能意味著模型不同或較小,而非名稱所暗示的那樣 |
| 數據使用 | 提示詞會用於訓練嗎? |
| API 相容性 | OpenAI 相容意味著無需重寫程式碼且輕鬆切換 |
在您自己的小表格中為每個供應商填寫答案。供應商文件中的缺失也是一種答案。
輸入與輸出:比例決定一切
輸出 token 通常比輸入 token 更貴,因此您的應用程式行為很重要。以下是每 1M 輸入 token $0.15 與每 1M 輸出 token $0.50 下的兩種工作負載。
摘要。 20,000 token 的文件輸入,輸出 500 token。輸入:20,000 x $0.15 / 1,000,000 = $0.003。輸出:500 x $0.50 / 1,000,000 = $0.00025。每份文件總計 $0.00325,或 1,000 份文件 $3.25。輸入端佔帳單的 92%。
生成。 500 token 的提示詞產生 3,000 token 的故事。輸入:$0.000075。輸出:$0.0015。總計 $0.001575,或 1,000 次生成 $1.575。此處輸出佔帳單的 95%。
輸入便宜但輸出昂貴的供應商在第一個工作負載中獲勝,但在第二個中失敗。根據您的比例進行比較,而非標題數字。對於 10M 輸入 token 和 2M 輸出 token 的混合月份,此處帳單為 $1.50 + $1.00 = $2.50。
錯誤、重試與實際支付金額
帳面上最便宜的供應商,若部分呼叫失敗且你仍需付費,就會變得很貴。請確認失敗或被拒絕的請求是否會計費。在此則不會。請確認速率限制的行為:完整金鑰允許 8 個並行請求和每分鐘 300 個請求,試用金鑰則為 2 個和 60 個。超過限制時,API 會回傳 HTTP 429,並附上程式碼 rate_limited 或 concurrency,在暫時過載時也會回傳 429 並附上 Retry-After: 5。
禮貌地處理該情況,重試成本為零,因為被拒絕的請求從未執行。這是一個最小包裝器:
import time
from openai import OpenAI, RateLimitError
client = OpenAI(base_url="https://api.cheapaiapis.com/v1", api_key="YOUR_KEY")
def ask(prompt, retries=4):
for i in range(retries):
try:
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": prompt}],
)
return r.choices[0].message.content
except RateLimitError:
time.sleep(5)
raise RuntimeError("rate limited after retries")
串流輸出會佔用其並行槽位直到完成,因此一次串流 20 個回應的批次作業將受 8 個槽位上限限制,而非每分鐘的數字限制。
上下文視窗與分塊的隱藏成本
100,000-token 的上下文視窗由提示詞與補全內容共用,讓你能在一次請求中傳送長文件。若視窗較小,則需將其拆分,在每個區塊重複指示,並最後呼叫一次以合併結果。這意味著更多的請求、更多的輸入 token 以及更多的程式碼需維護。若你的工作負載涉及長輸入,請在比較價格前先檢查視窗大小。
具有長歷史記錄的聊天應用程式也適用。如果歷史記錄能容納,您可以保持簡單。即便如此,每次輪次重新發送歷史記錄都會消耗輸入 token,因此修剪仍然值得。相關閱讀 低成本 GPT API 誤解與事實,區分真實節省與行銷話術。
一個月實際用量的定價
透過一個小產品將各部分組合起來:一個擁有 300 名活躍用戶的寫作助手,每個用戶每月發送 40 個請求。總計 12,000 個請求。每個請求發送約 3,000 個輸入 token(指令、目前為止的故事)並返回 700 個 token。
- 輸入:12,000 x 3,000 = 36M token,成本為 36 x $0.15 = $5.40。
- 輸出:12,000 x 700 = 8.4M token,成本為 8.4 x $0.50 = $4.20。
- 總計:每月 $9.60,或每用戶 $0.032。
現在看看小變化會產生什麼影響。修剪歷史記錄使輸入降至每次請求 2,000 token,可節省 12M 輸入 token,即 $1.80。將輸出限制在 500 token 可節省 2.4M token,即 $1.20。如果供應商對失敗呼叫計費,且失敗率為 5%,則總帳單增加 5%。這些影響與兩個便宜供應商之間的價格差異一樣大,這就是檢查清單重要的原因。
模型是比較的另一半。如果一個模型需要三次嘗試才能遵循您的格式,較低的價格並不代表更低。在做出決定之前,請運行 20 個您的真實提示詞,並計算第一次就給出可用答案的數量。
預付、過期與儲值規則
關注兩項政策:額度是否過期,以及最低付款額是多少。此處額度永不過期,沒有訂閱,儲值金額為 $20 至 $500 的任意整數。獎金為 $50 起 +5%、$100 起 +10%、$200 起 +15%,因此 $100 儲值變為 $110 額度。您可以使用加密貨幣(TRC20 上的 USDT、Base 上的 USDC)付款。定價頁面 有表格。
在生成工作量方面,每則故事 $0.001575,$20 儲值可購買約 12,698 則故事。在摘要工作量方面,每份文件 $0.00325,$20 可購買約 6,153 份文件。這些是與任何其他供應商相當產品比較時的數據。
在承諾之前測試
最好的檢查方式就是使用你自己的提示詞。使用 Google 或電子郵件與密碼註冊,並在 API 金鑰頁面 領取 $0.50 試用額度。只需一鍵即可完成,無需綁定信用卡,有效期為 7 天,每人限領一次。由於該 API 與 OpenAI 相容,測試僅需更改基礎 URL。
curl https://api.cheapaiapis.com/v1/chat/completions \
-H "Authorization: Bearer YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"uncensored","messages":[{"role":"user","content":"Summarize: retries need backoff."}]}'
每個回應都包含 X-Balance-USD,讓你可以監控測試執行的實際成本。清楚了解提供內容:一個開放權重模型,由獨立供應商運行,針對合法成人用途進行調整,以無內容拒絕的方式回答。這不是任何模型供應商的官方 API,僅支援文字,無圖片、嵌入或微調。提示詞不會用於訓練。詳細資訊請見 文件。
更多指南
問答
閱讀文件每百萬 token 最低價一定最便宜嗎?
並非如此。輸出定價、計費的失敗請求、小的上下文視窗以及過期的額度都可能提高實際帳單。請根據你自己的輸入與輸出比例進行比較。
這裡的失敗請求會收費嗎?
否。失敗或遭拒的請求不會扣款,且額度永不失效。
如何以低成本測試供應商?
使用試用額度或少量儲值,並執行你的真實提示詞。此處 $0.50 的試用額度無需綁定信用卡,且有效期為 7 天。
這是大型模型供應商的官方 API 嗎?
不是。這是獨立供應商運行的一款開放權重模型,並非任何供應商的官方 API,也不是路由服務。
你的金鑰只需填寫表單即可取得
建立帳號、複製金鑰、更改基礎 URL。這就是整個設定過程。
https://api.cheapaiapis.com/v1