Penyedia API LLM Murah: Apa yang Perlu Diperiksa Selain Harga
Penyedia API LLM murah hanya murah jika total tagihan rendah: rasio output, panggilan gagal, ukuran konteks, dan kredit yang kedaluwarsa semuanya dihitung. Gunakan daftar periksa ini, dengan biaya terhitung $0,15 per 1 juta token input dan $0,50 per 1 juta token output.
Diperbarui

Cheap AI APIs
Poin utama
- Bandingkan harga input dan output secara terpisah dan gunakan rasio token Anda sendiri.
- Periksa jendela konteks, batas laju, kesalahan yang ditagih, masa berlaku, dan penggunaan data.
- Ringkasan berharga $3,25 per 1.000 dokumen di sini; 1.000 cerita yang dihasilkan berharga $1,575.
- Uji coba $0,50 tidak memerlukan kartu dan berlaku selama 7 hari.
Harga per juta token hanya setengah dari estimasi harga
Memilih penyedia berdasarkan angka terendah di halaman harga bekerja sampai tagihan nyata pertama. Dua penyedia dapat mengiklankan harga input yang sama dan tetap membebani Anda jumlah yang sangat berbeda, karena bagaimana output dibebankan, apa yang dihitung sebagai permintaan yang ditagih, dan berapa banyak yang Anda habiskan untuk mencoba lagi.
Artikel ini memberikan daftar periksa singkat yang dapat Anda terapkan ke penyedia mana pun, lalu menjalankan satu sebagai contoh: $0,15 per 1 juta token input dan $0,50 per 1 juta token output, tarif di situs ini. Gunakan daftar periksa ini pada yang lain juga. Untuk angka mereka, baca halaman harga terbaru mereka, karena harga berubah.
Daftar periksa
| Periksa | Mengapa ini penting |
|---|---|
| Harga input dan output secara terpisah | Harga gabungan menyembunyikan sisi mana yang Anda bayar paling banyak |
| Jendela konteks | Jendela kecil memaksa segmentasi, yang berarti lebih banyak panggilan dan instruksi berulang |
| Apakah permintaan yang gagal dibebankan biaya? | Kesalahan dan penolakan yang mengeluarkan biaya membengkakkan tagihan |
| Batas laju | Konkurensi rendah mengubah batch murah menjadi lambat |
| Top-up minimum dan kadaluarsa | Saldo yang kedaluwarsa adalah uang yang Anda hilangkan |
| Langganan atau prabayar | Biaya bulanan tetap menghukum bulan-bulan ringan |
| Model apa sebenarnya? | Murah bisa berarti model yang berbeda atau lebih kecil dari yang disarankan namanya |
| Penggunaan data | Apakah prompt digunakan untuk pelatihan? |
| Kompatibilitas API | Kompatibel dengan OpenAI berarti tidak perlu penulisan ulang dan pengalihan mudah |
Tulis jawaban untuk setiap penyedia dalam tabel kecil milik Anda sendiri. Celah dalam dokumentasi penyedia juga merupakan jawaban.
Input versus output: rasio yang menentukan
Token output biasanya lebih mahal daripada token input, jadi apa yang dilakukan aplikasi Anda penting. Berikut adalah dua pola beban kerja pada $0,15 per 1M input dan $0,50 per 1M output.
Ringkasan. Dokumen 20.000 token masuk dan 500 token keluar. Input: 20.000 x $0,15 / 1.000.000 = $0,003. Output: 500 x $0,50 / 1.000.000 = $0,00025. Total $0,00325 per dokumen, atau $3,25 untuk 1.000 dokumen. Sisi input adalah 92% dari tagihan.
Generasi. Prompt 500 token menghasilkan 3.000 token cerita. Input: $0,000075. Output: $0,0015. Total $0,001575, atau $1,575 untuk 1.000 generasi. Di sini output adalah 95% dari tagihan.
Penyedia dengan input murah dan output mahal memenangkan beban kerja pertama dan kalah pada yang kedua. Bandingkan berdasarkan rasio Anda, bukan pada angka utama. Untuk bulan campuran dengan 10 juta token input dan 2 juta token output, tagihan di sini adalah $1,50 + $1,00 = $2,50.
Kesalahan, percobaan ulang, dan apa yang benar-benar Anda bayar
Penyedia termurah di kertas menjadi mahal jika sebagian panggilan Anda gagal dan Anda membayarnya. Tanyakan apakah permintaan yang gagal atau ditolak ditagih. Di sini mereka tidak. Tanyakan bagaimana perilaku pembatasan laju: kunci penuh memungkinkan 8 permintaan konkuren dan 300 permintaan per menit, kunci uji coba 2 dan 60. Melebihi batas, API mengembalikan HTTP 429 dengan kode rate_limited atau concurrency, dan saat kelebihan beban sementara juga 429 dengan Retry-After: 5.
Tangani itu dengan sopan dan biaya percobaan ulang menjadi nol, karena permintaan yang ditolak tidak pernah berjalan. Berikut adalah pembungkus minimal:
import time
from openai import OpenAI, RateLimitError
client = OpenAI(base_url="https://api.cheapaiapis.com/v1", api_key="YOUR_KEY")
def ask(prompt, retries=4):
for i in range(retries):
try:
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": prompt}],
)
return r.choices[0].message.content
except RateLimitError:
time.sleep(5)
raise RuntimeError("rate limited after retries")
Aliran menempati slot konkurensinya hingga selesai, jadi pekerjaan batch yang meng-stream 20 respons sekaligus akan dibatasi oleh batas slot 8, bukan oleh angka per menit.
Jendela konteks dan biaya tersembunyi penggalan
Jendela 100.000 token, yang dibagi antara prompt dan penyelesaian, memungkinkan Anda mengirim dokumen panjang dalam satu permintaan. Dengan jendela kecil, Anda membaginya, mengulang instruksi di setiap potongan, dan menambahkan panggilan terakhir untuk menggabungkan hasilnya. Itu lebih banyak permintaan, lebih banyak token input, dan lebih banyak kode untuk dipelihara. Jika beban kerja Anda melibatkan input panjang, periksa jendela sebelum harga.
Hal yang sama berlaku untuk aplikasi obrolan dengan riwayat panjang. Jika riwayat muat, Anda dapat membuatnya sederhana. Namun demikian, mengirim ulang riwayat memakan token input setiap gilirannya, sehingga pemangkasan masih bermanfaat. Bacaan terkait adalah mitos versus fakta API GPT murah, yang memisahkan penghematan nyata dari pemasaran.
Sebulan penggunaan nyata, diberi harga
Gabungkan potongan-potongan tersebut dengan produk kecil: asisten penulisan dengan 300 pengguna aktif yang masing-masing mengirim 40 permintaan per bulan. Itu adalah 12.000 permintaan. Masing-masing mengirim sekitar 3.000 token input (instruksi, cerita sejauh ini) dan mengembalikan 700 token.
- Input: 12.000 x 3.000 = 36 juta token, yang berharga 36 x $0,15 = $5,40.
- Output: 12.000 x 700 = 8,4 juta token, yang berharga 8,4 x $0,50 = $4,20.
- Total: $9,60 per bulan, atau $0,032 per pengguna.
Sekarang lihat apa yang dilakukan perubahan kecil. Memangkas riwayat sehingga input turun menjadi 2.000 token per permintaan menghemat 12 juta token input, atau $1,80. Membatasi output pada 500 token menghemat 2,4 juta token, atau $1,20. Penyedia yang menagih panggilan gagal, dengan tingkat kegagalan 5%, menambah 5% ke seluruh tagihan. Dampak-dampak tersebut sebesar perbedaan harga antara dua penyedia murah, itulah mengapa daftar periksa itu penting.
Model adalah setengah lain dari perbandingan. Harga yang lebih rendah untuk model yang perlu tiga kali mencoba untuk mengikuti format Anda bukanlah harga yang lebih rendah. Sebelum Anda memutuskan, jalankan 20 prompt asli Anda dan hitung berapa banyak yang memberikan jawaban yang dapat digunakan pada percobaan pertama.
Prabayar, masa berlaku, dan aturan isi ulang
Lihat dua kebijakan: apakah kredit kadaluarsa, dan berapa pembayaran minimumnya. Di sini kredit tidak pernah kadaluarsa, tidak ada langganan, dan isi saldo adalah jumlah bulat apa pun dari $20 hingga $500. Bonusnya adalah +5% dari $50, +10% dari $100 dan +15% dari $200, sehingga isi saldo $100 menjadi $110 kredit. Anda dapat membayar dengan kripto (USDT di jaringan TRC20, USDC di jaringan Base). Halaman harga memiliki tabelnya.
Isi saldo $20 pada pola beban kerja generasi di atas ($0,001575 per cerita) membeli sekitar 12.698 cerita. Pada pola beban kerja ringkasan ($0,00325 per dokumen) itu membeli sekitar 6.153 dokumen. Ini adalah angka yang harus Anda bandingkan dengan penyedia lain yang setara.
Uji sebelum Anda berkomitmen
Pemeriksaan terbaik adalah prompt Anda sendiri. Daftar dengan Google, atau dengan email dan kata sandi, dan klaim kredit uji coba $0,50 di halaman kunci API. Ini membutuhkan satu klik, tidak memerlukan kartu, berlangsung 7 hari dan dibatasi satu per orang. Karena API kompatibel dengan OpenAI, ujiannya adalah perubahan URL dasar.
curl https://api.cheapaiapis.com/v1/chat/completions \
-H "Authorization: Bearer YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"uncensored","messages":[{"role":"user","content":"Summarize: retries need backoff."}]}'
Setiap respons membawa X-Balance-USD, sehingga Anda dapat memantau biaya nyata dari uji coba Anda. Jelas tentang apa yang ditawarkan: satu model bobot terbuka, dijalankan oleh penyedia independen dan disesuaikan untuk menjawab tanpa penolakan konten untuk penggunaan dewasa yang sah. Ini bukan API resmi dari vendor model mana pun, dan hanya teks, tanpa gambar, penyematan atau fine-tuning. Prompt tidak digunakan untuk pelatihan. Detailnya ada di dokumentasi.
Panduan lainnya
Tanya jawab
Baca dokumentasiApakah harga terendah per juta token selalu yang termurah?
Tidak. Penetapan harga output, kegagalan yang ditagih, jendela konteks kecil, dan kredit yang kedaluwarsa dapat menaikkan tagihan nyata. Bandingkan pada rasio input dan output Anda sendiri.
Apakah permintaan yang gagal dikenakan biaya di sini?
Tidak. Permintaan yang gagal atau ditolak tidak dikenakan biaya, dan kredit tidak pernah kedaluwarsa.
Bagaimana cara saya menguji penyedia dengan murah?
Gunakan kredit uji coba atau isi saldo kecil dan jalankan prompt Anda yang sebenarnya. Di sini, uji coba senilai $0,50 tidak memerlukan kartu dan berlaku selama 7 hari.
Apakah ini API resmi dari vendor model besar?
Tidak. Ini adalah satu model bobot terbuka yang dijalankan oleh penyedia independen, bukan API resmi dari vendor mana pun dan bukan perute.
Kunci Anda hanya selangkah lagi dari satu formulir
Buat akun, salin kunci, ubah URL dasar. Itu saja seluruh proses pengaturannya.
https://api.cheapaiapis.com/v1