Ucuz LLM API Sağlayıcısı: Fiyat Dışında Ne Kontrol Edilmeli
Ucuz bir LLM API sağlayıcısı, toplam fatura düşükse sadece o zaman ucuzdur: çıkış oranları, başarısız çağrılar, bağlam boyutu ve süresi dolan kredi hepsi hesaba katılır. $0,15/1M giriş ve $0,50/1M output token maliyet hesaplamaları ile bu kontrol listesini kullanın.
güncellendi

Cheap AI APIs
Temel noktalar
- Giriş ve çıkış fiyatlarını ayrı ayrı karşılaştırın ve kendi token oranınızı kullanın.
- Bağlam penceresini, hız limitlerini, faturalandırılan hataları, süresi dolmayı ve veri kullanımını kontrol edin.
- Özetler burada 1.000 belge başına $3,25 tutar; 1.000 oluşturulan hikaye $1,575 tutar.
- $0,50'lık bir deneme için kart gerekmez ve 7 gün sürer.
Milyon token başına fiyat sadece teklifin yarısıdır
Fiyatlandırma sayfasındaki en düşük sayıya göre sağlayıcı seçmek ilk gerçek faturaya kadar işe yarar. İki sağlayıcı aynı giriş fiyatını ilan edebilir ve çıkışın nasıl fiyatlandırıldığı, hangi isteklerin faturalandırıldığı ve yeniden denemeler için ne kadar harcadığınız nedeniyle size çok farklı tutarlara mal olabilir.
Bu makale, herhangi bir sağlayıcıya uygulayabileceğiniz kısa bir kontrol listesi sunar, ardından bu sitedeki oranlar olan 1M giriş token başına $0,15 ve 1M çıkış token başına $0,50 ile bir örnek yapar. Kontrol listesini başkalarında da kullanın. Sayıları için fiyatlar değiştiğinden, mevcut fiyatlandırma sayfalarını okuyun.
Kontrol listesi
| Kontrol | Neden önemli |
|---|---|
| Giriş ve çıkış fiyatları ayrı ayrı | Ortalama fiyat, hangi taraftan en çok ödeme yaptığınızı gizler |
| Bağlam penceresi | Küçük bir pencere parçalama zorunluluğu yaratır; bu da daha fazla çağrı ve tekrarlanan talimatlar anlamına gelir |
| Başarısız istekler ücretlendirilir mi? | Paraya mal olan hatalar ve reddetmeler faturayı şişirir |
| Hız limitleri | Düşük eşzamanlılık, ucuz bir toplu işi yavaş bir hale getirir |
| Minimum bakiye yükleme ve sona erme | Süresi dolan kredi, kaybettiğiniz paradır |
| Abonelik veya ön ödemeli | Sabit aylık ücret, az kullanım olan ayları cezalandırır |
| Model gerçekten hangisi? | Ucuzluk, ismin ima ettiği farklı veya daha küçük bir model olabilir |
| Veri kullanımı | İstemler eğitim için kullanılıyor mu? |
| API uyumluluğu | OpenAI uyumlu olması, yeniden yazım gerektirmez ve kolay geçiş sağlar |
Her sağlayıcı için kendi küçük tablonuza cevapları yazın. Bir sağlayıcının dokümantasyonundaki boşluklar da bir cevaptır.
Giriş versus çıkış: oran belirleyicidir
Çıkış tokenları genellikle giriş tokenlarından daha pahalıdır, bu yüzden uygulamanızın ne yaptığı önemlidir. İşte $0,15/1M giriş ve $0,50/1M çıkış token için iki iş yükü.
Özetleme. 20.000 token'lık bir belge girer ve 500 token çıkar. Giriş: 20.000 x $0,15 / 1.000.000 = $0,003. Çıkış: 500 x $0,50 / 1.000.000 = $0,00025. Belge başına toplam $0,00325 veya 1.000 belge için $3,25. Giriş tarafı faturanın %92'sidir.
Üretme. 500 token'lık bir istem, 3.000 token'lık bir hikaye üretir. Giriş: $0.000075. Çıkış: $0.0015. Toplam $0.001575 veya 1.000 üretim için $1.575. Burada çıkış, faturanın %95'ini oluşturur.
Ucuz giriş ve pahalı çıkış sunan bir sağlayıcı ilk iş yükünde kazanır, ikincisinde kaybeder. Başlık rakamına göre değil, kendi oranınıza göre karşılaştırın. 10M giriş token ve 2M çıkış token ile karışık bir ay için fatura burada $1,50 + $1,00 = $2,50'dir.
Hatalar, yeniden denemeler ve aslında ödediğiniz tutar
Kağıt üzerinde en ucuz sağlayıcı, çağrılarınızın bir kısmı başarısız olursa ve bunlar için ödeme yaparsanız pahalı hale gelir. Başarısız veya reddedilen isteklerin faturalandırılıp faturalandırılmadığını sorun. Burada faturalandırılmıyorlar. Hız sınırlandırmasının nasıl davrandığını sorun: tam anahtar 8 eşzamanlı istek ve dakikada 300 istek izin verir; deneme anahtarı 2 ve 60. Bir limiti aşan API, rate_limited veya concurrency koduyla HTTP 429 döndürür ve geçici aşırı yük altında da Retry-After: 5 ile 429 döndürür.
Bunu nazikçe yönetirseniz yeniden deneme maliyeti sıfırdır, çünkü reddedilen istek hiç çalışmadı. İşte minimal bir sarmalayıcı:
import time
from openai import OpenAI, RateLimitError
client = OpenAI(base_url="https://api.cheapaiapis.com/v1", api_key="YOUR_KEY")
def ask(prompt, retries=4):
for i in range(retries):
try:
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": prompt}],
)
return r.choices[0].message.content
except RateLimitError:
time.sleep(5)
raise RuntimeError("rate limited after retries")
Akışlar, bitene kadar eşzamanlılık slotunu işgal eder; bu nedenle aynı anda 20 yanıt akış yapan bir toplu iş, dakikalık sayıya göre değil, 8 slot sınırına göre sınırlanır.
Bağlam penceresi ve parçalamanın gizli maliyeti
İstem ve tamamlama tarafından paylaşılan 100.000 token'lık bir pencere, uzun bir belgeyi tek bir istekte göndermenizi sağlar. Küçük bir pencereyle bölersiniz, her parçada talimatları tekrarlarsınız ve sonuçları birleştirmek için son bir çağrı eklersiniz. Bu daha fazla istek, daha fazla giriş token'ı ve bakımı gereken daha fazla kod demektir. İş yükünüz uzun girişler içeriyorsa, fiyata bakmadan önce pencereyi kontrol edin.
Aynı durum uzun geçmişleri olan sohbet uygulamaları için de geçerlidir. Geçmiş sığarsa, basit tutabilirsiniz. Yine de, geçmişin yeniden gönderilmesi her adımda girdi tokenları maliyetine neden olur, bu nedenle kısaltma hala değerlidir. İlgili bir okuma ucuz GPT API efsaneleri versus gerçekler, gerçek tasarrufları pazarlamadan ayırır.
Gerçek kullanımın bir ayı, fiyatlandırılmış
Parçaları küçük bir ürünle birleştirin: 300 aktif kullanıcısı olan ve her ay 40 istek gönderen bir yazım asistanı. Bu 12.000 istektir. Her biri yaklaşık 3.000 giriş token'ı (talimatlar, şimdiye kadar olan hikaye) gönderir ve 700 token döndürür.
- Giriş: 12.000 x 3.000 = 36M token, bu 36 x $0,15 = $5,40'a mal olur.
- Çıkış: 12.000 x 700 = 8.4M token, bu 8.4 x $0,50 = $4,20'a mal olur.
- Toplam: Aylık $9,60 veya kullanıcı başına $0,032.
Şimdi küçük değişikliklerin ne yaptığını görün. Geçmişi kısaltarak girişin istek başına 2.000 token'a düşmesini sağlamak 12M giriş token'ı, yani $1,80 tasarruf sağlar. Çıkışı 500 token'a sınırlandırmak 2.4M token'ı, yani $1,20 tasarruf sağlar. Başarısız çağrıları faturalandıran bir sağlayıcı, %5 hata oranıyla toplam faturaya %5 ekler. Bu etkiler, iki ucuz sağlayıcı arasındaki fiyat farkı kadar büyüktür; bu nedenle kontrol listesi önemlidir.
Model, karşılaştırmanın diğer yarısıdır. Formatınızı takip etmesi için üç deneme gerektiren bir model için daha düşük fiyat daha düşük değildir. Karar vermeden önce, gerçek istemlerinizin 20'sini çalıştırın ve ilk seferde kullanılabilir bir yanıt verenlerin sayısını sayın.
Ön ödemeli, sona erme ve bakiye yükleme kuralları
İki politikaya bakın: kredinin süresinin dolup dolmadığına ve minimum ödemeye. Burada kredi hiç sona ermez, abonelik yoktur ve bakiye yüklemeler $20 ile $500 arasında herhangi bir tam tutardır. Bonus $50'den +%5, $100'den +%10 ve $200'den +%15'tir, yani $100'lük bir bakiye yükleme $110 krediye dönüşür. Kripto (TRC20 üzerinde USDT, Base üzerinde USDC) ile ödeme yapabilirsiniz. fiyatlandırma sayfası tabloyu içerir.
Yukarıdaki oluşturma iş yükünde ($0,001575/hikaye) $20'lik bir bakiye yükleme yaklaşık 12.698 hikaye satın alır. Özet iş yükünde ($0,00325/belge) yaklaşık 6.153 belge satın alır. Bunlar, diğer herhangi bir sağlayıcının eşdeğerine karşı karşılaştırmanız gereken rakamlardır.
Bağlanmadan önce test edin
En iyi kontrol kendi istemlerinizdir. Google ile veya e-posta ve şifre ile kaydolun ve API anahtarı sayfası üzerinde $0,50'lık deneme kredisi talep edin. Tek tıklama ile olur, kart gerekmez, 7 gün sürer ve kişi başı bir kişiyle sınırlıdır. API OpenAI uyumlu olduğu için test bir base URL değişikliğidir.
curl https://api.cheapaiapis.com/v1/chat/completions \
-H "Authorization: Bearer YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"uncensored","messages":[{"role":"user","content":"Summarize: retries need backoff."}]}'
Her yanıt X-Balance-USD taşır, böylece test çalışmanızın gerçek maliyetini izleyebilirsiniz. Sunulan şey konusunda net olun: bağımsız bir sağlayıcı tarafından çalıştırılan ve yasal yetişkin kullanımı için içerik reddi olmadan yanıt verecek şekilde ayarlanmış tek bir açık ağırlıklı model. Bu, herhangi bir model satıcısının resmi API'si değildir ve yalnızca metindir; resim, gömme veya ince ayar yoktur. İstemler eğitim için kullanılmaz. Ayrıntılar dokümantasyonda yer alır.
Daha fazla kılavuz
Sorular ve cevaplar
Dokümantasyonu okuMilyon token başına en düşük fiyat her zaman en ucuz mudur?
Hayır. Çıktı fiyatlandırması, faturalandırılan hatalar, küçük bağlam pencereleri ve süresi dolan kredi gerçek faturayı artırabilir. Kendi giriş ve çıkış oranınıza göre karşılaştırın.
Başarısız istekler burada ücretlendirilir mi?
Hayır. Başarısız veya reddedilen istekler için ücret alınmaz ve kredi süresi dolmaz.
Bir sağlayıcıyı nasıl ucuza test ederim?
Deneme kredisi veya küçük bir bakiye yükleme kullanarak gerçek istemlerinizi çalıştırın. Burada 0,50 $'lık bir deneme için kart gerekmez ve 7 gün sürer.
Bu büyük bir model satıcısının resmi API'si mi?
Hayır. Bu, bağımsız bir sağlayıcı tarafından yürütülen açık ağırlıklı bir modeldir; herhangi bir satıcının resmi API'si veya bir yönlendirici değildir.
Anahtarınız tek bir formun uzağında
Bir hesap oluşturun, anahtarı kopyalayın ve base URL'yi değiştirin. Kurulum bu kadar basit.
https://api.cheapaiapis.com/v1