Tani dostawca LLM API: Co sprawdzić poza ceną
Tani dostawca api llm jest tani tylko wtedy, gdy cały rachunek jest niski: stawki za output, nieudane zapytania, wielkość kontekstu i wygasający kredyt mają znaczenie. Skorzystaj z tej checklisty, z obliczonymi kosztami $0,15 za 1M tokenów wejścia i $0,50 za 1M tokenów wyjścia.
Zaktualizowano

Cheap AI APIs
Kluczowe punkty
- Porównuj ceny input i output osobno i użyj własnego stosunku tokenów.
- Sprawdź okno kontekstu, limity zapytań, błędy płatne, wygaśnięcie i wykorzystanie danych.
- Podsumowania kosztują tutaj $3,25 za 1 000 dokumentów; 1 000 wygenerowanych opowiadań kosztuje $1,575.
- Próba za $0,50 nie wymaga karty i trwa 7 dni.
Cena za milion tokenów to tylko połowa oferty
Wybór dostawcy na podstawie najniższej liczby na stronie cenowej działa do pierwszego prawdziwego rachunku. Dwa dostawcy mogą reklamować tę samą cenę input, a i tak zapłacisz różną kwotę z powodu sposobu wyceny outputu, tego, co liczy się jako zapytanie płatne, i tego, ile wydajesz na ponawianie.
Ten artykuł daje krótką listę kontrolną, którą możesz zastosować u dowolnego dostawcy, a następnie przeprowadza ją jako przykład: $0,15 za 1M tokenów wejścia i $0,50 za 1M tokenów wyjścia, stawki na tej stronie. Skorzystaj z listy kontrolnej również u innych. Aby poznać ich liczby, przeczytaj ich aktualną stronę cenową, ponieważ ceny się zmieniają.
Lista kontrolna
| Sprawdź | Dlaczego to ma znaczenie |
|---|---|
| Ceny input i output osobno | Uśredniona cena ukrywa, po której stronie płacisz najwięcej |
| Okno kontekstu | Małe okno wymusza dzielenie na fragmenty, co oznacza więcej zapytań i powtarzanie instrukcji |
| Czy nieudane zapytania są rozliczane? | Błędy i odrzucenia, które kosztują pieniądze, podnoszą rachunek |
| Limity zapytań | Niska współbieżność zamienia tani batch w wolny |
| Minimalne doładowanie i wygaśnięcie | Kredyt, który wygasa, to stracone pieniądze |
| Subskrypcja lub przedpłacony kredyt | Stała opłata miesięczna karze miesiące o małym ruchu |
| Jaki to model, szczerze mówiąc? | Tani może oznaczać inny lub mniejszy model niż sugeruje nazwa |
| Wykorzystanie danych | Czy prompty są używane do trenowania? |
| Kompatybilność API | Kompatybilność z OpenAI oznacza brak przepisywania i łatwe przełączanie |
Napisz odpowiedzi dla każdego dostawcy w małej tabeli. Luki w dokumentacji dostawcy to też odpowiedź.
Wejście versus wyjście: decyduje stosunek
Tokeny wyjściowe zwykle kosztują więcej niż tokeny wejścia, więc to, co robi Twoja aplikacja, ma znaczenie. Oto dwa przypadki użycia przy cenie $0,15 za 1M tokenów wejścia i $0,50 za 1M tokenów wyjścia.
Podsumowania. Dokument o wielkości 20 000 tokenów wchodzi, a wychodzi 500 tokenów. Wejście: 20 000 x $0,15 / 1 000 000 = $0,003. Wyjście: 500 x $0,50 / 1 000 000 = $0,00025. Razem $0,00325 za dokument, albo $3,25 za 1 000 dokumentów. Strona wejścia to 92% rachunku.
Generowanie. Prompt o 500 tokenów generuje 3,000 tokenów opowiadania. Input: $0.000075. Output: $0.0015. Razem $0.001575, czyli $1.575 za 1,000 generacji. Tutaj output to 95% rachunku.
Dostawca z tanim input i drogim output wygrywa w pierwszym przypadku użycia, a przegrywa w drugim. Porównuj według swojego stosunku, a nie według liczby na czołowej stronie. Za mieszany miesiąc z 10 mln tokenów input i 2 mln tokenów output rachunek wynosi tutaj $1,50 + $1,00 = $2,50.
Błędy, ponawianie i to, co faktycznie płacisz
Najtańszy dostawca na papierie staje się drogi, jeśli część Twoich zapytań się nie powiedzie i płacisz za nie. Zapytaj, czy nieudane lub odrzucone zapytania są rozliczane. Tutaj nie są. Zapytaj, jak zachowuje się limit zapytań: pełny klucz pozwala na 8 równoległych zapytań i 300 zapytań na minutę, klucz próbny na 2 i 60. Po przekroczeniu limitu API zwraca HTTP 429 z kodem rate_limited lub concurrency, a przy tymczasowym przeciążeniu również 429 z Retry-After: 5.
Obsłuż to uprzejmie, a koszt ponawiania wynosi zero, ponieważ odrzucone zapytanie nigdy nie zostało uruchomione. Oto minimalny wrapper:
import time
from openai import OpenAI, RateLimitError
client = OpenAI(base_url="https://api.cheapaiapis.com/v1", api_key="YOUR_KEY")
def ask(prompt, retries=4):
for i in range(retries):
try:
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": prompt}],
)
return r.choices[0].message.content
except RateLimitError:
time.sleep(5)
raise RuntimeError("rate limited after retries")
Strumienie zajmują swój slot konkurencji do momentu zakończenia, więc zadanie wsadowe, które strumieniuje 20 odpowiedzi jednocześnie, zostanie ograniczone limitem 8 slotów, a nie wartością na minutę.
Okno kontekstu i ukryty koszt dzielenia na fragmenty
Okno 100 000 tokenów, dzielone między prompt a uzupełnienie, pozwala wysłać długi dokument w jednym zapytaniu. Przy małym oknie go dzielisz, powtarzasz instrukcje w każdym fragmencie i dodajesz końcowe zapytanie do scalenia wyników. To więcej zapytań, więcej tokenów wejścia i więcej kodu do utrzymania. Jeśli Twoje zadanie obejmuje długie wejścia, sprawdź okno przed ceną.
To samo dotyczy aplikacji czatowych z długą historią. Jeśli historia się mieści, możesz ją utrzymać prostą. Mimo to ponowne wysyłanie historii kosztuje tokeny wejścia przy każdej turze, więc przycinanie nadal ma sens. Pokretny artykuł to mity vs fakty na temat tanich API GPT, który oddziela prawdziwe oszczędności od marketingu.
Miesiąc rzeczywistego użycia, wyceniony
Połącz kawałki w mały produkt: asystenta do pisania z 300 aktywnymi użytkownikami, którzy wysyłają 40 zapytań miesięcznie. To 12,000 zapytań. Każde wysyła około 3,000 tokenów wejścia (instrukcje, dotychczasowa historia) i zwraca 700 tokenów.
- Wejście: 12 000 x 3 000 = 36M tokenów, co kosztuje 36 x $0,15 = $5,40.
- Wyjście: 12 000 x 700 = 8,4M tokenów, co kosztuje 8,4 x $0,50 = $4,20.
- Razem: $9,60 miesięcznie, czyli $0,032 na użytkownika.
Teraz zobacz, co robią małe zmiany. Przycinanie historii, tak aby wejście spadało do 2 000 tokenów na zapytanie, oszczędza 12M tokenów wejścia, czyli $1,80. Ograniczenie wyjścia do 500 tokenów oszczędza 2,4M tokenów, czyli $1,20. Dostawca, który rozlicza nieudane zapytania, przy 5% wskaźniku błędów dodaje 5% do całego rachunku. Te efekty są tak duże jak różnica cenowa między dwoma tanimi dostawcami, dlatego lista kontrolna ma znaczenie.
Model to druga połowa porównania. Niższa cena za model, który potrzebuje trzech prób, aby podążać Twoim formatem, nie jest niższa. Przed podjęciem decyzji uruchom 20 swoich prawdziwych promptów i policz, ile z nich daje użyteczną odpowiedź za pierwszym razem.
Przedpłacony kredyt, wygaśnięcie i zasady doładowania
Szukaj dwóch polityk: czy kredyt wygasa, i jaka jest minimalna płatność. Tutaj kredyt nigdy nie wygasa, nie ma subskrypcji, a doładowania są w dowolnej kwocie całkowitej od $20 do $500. Bonus to +5% od $50, +10% od $100 i +15% od $200, więc doładowanie $100 staje się kredytem $110. Możesz zapłacić kryptowalutami (USDT na TRC20, USDC na Base). Na stronie z cenami znajduje się tabela.
Doładowanie $20 przy obciążeniu generacyjnym powyżej ($0.001575 za opowiadanie) kupuje około 12,698 opowiadań. Przy obciążeniu podsumowującym ($0.00325 za dokument) kupuje około 6,153 dokumentów. To są liczby do porównania z dowolnym innym dostawcą.
Przetestuj przed zobowiązaniem
Najlepszą kontrolą są Twoje własne prompty. Zaloguj się przez Google lub emailem i hasłem, i odbierz $0,50 darmowego kredytu próbnego na stronie klucza API. To jedno kliknięcie, nie wymaga karty, trwa 7 dni i jest ograniczone do jednego na osobę. Ponieważ API jest kompatybilne z OpenAI, testem jest zmiana Base URL.
curl https://api.cheapaiapis.com/v1/chat/completions \
-H "Authorization: Bearer YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"uncensored","messages":[{"role":"user","content":"Summarize: retries need backoff."}]}'
Każda odpowiedź zawiera X-Balance-USD, więc możesz śledzić rzeczywisty koszt swojego testu. Bądź jasny co do tego, co jest w ofercie: jeden model o otwartych wagach, uruchamiany przez niezależnego dostawcę i dostrojony do odpowiadania bez odmów treści dla prawnego użytku dorosłych. Nie jest to oficjalne API żadnego dostawcy modeli; to tylko tekst, bez obrazów, embeddingów ani dostrajania. Prompty nie są używane do trenowania. Szczegóły znajdziesz w dokumentacji.
Więcej przewodników
Pytania i odpowiedzi
Czytaj dokumentacjęCzy najniższa cena za milion tokenów jest zawsze najtańsza?
Nie. Wycena outputu, rozliczane błędy, małe okna kontekstu i wygasający kredyt mogą podnieść rzeczywisty rachunek. Porównaj na podstawie własnego stosunku promptów do outputu.
Czy nieudane zapytania są rozliczane tutaj?
Nie. Nieudane lub odrzucone żądania nie są rozliczane, a kredyt nigdy nie wygasa.
Jak przetestować dostawcę tanio?
Użyj darmowego kredytu próbnego lub wykonaj małe doładowanie i uruchom swoje prawdziwe prompty. Tutaj próba za $0,50 nie wymaga karty i trwa 7 dni.
Czy to oficjalne API dużego dostawcy modeli?
Nie. To jeden model o otwartych wagach uruchomiony przez niezależnego dostawcę, a nie oficjalne API żadnego dostawcy ani router.
Twój klucz jest o jeden formularz stąd
Utwórz konto, skopiuj klucz, zmień bazowy URL. To cała konfiguracja.
https://api.cheapaiapis.com/v1