PL ▾
Pobierz klucz API

Tańsza alternatywa dla OpenAI: zmiana base URL

Tańszą alternatywą dla openai w generowaniu tekstu jest zwykle zmiana adresu base URL: zamień URL, klucz i identyfikator modelu, a Twój kod OpenAI SDK będzie działał. Oto dokładny kod, co się różni i jak obliczyć oszczędności.

Zaktualizowano

Kabel przenoszony do sąsiedniego świecącego gniazda, reprezentujący zmianę base URL na tańsze API

Cheap AI APIs

Kluczowe punkty

  1. Zmień base URL na https://api.cheapaiapis.com/v1, klucz i ID modelu na uncensored.
  2. Tylko tekst: bez obrazów, audio, wideo, embeddingów ani dostrajania (fine-tuning).
  3. Stawki to $0,15 za 1M tokenów wejściowych i $0,50 za 1M tokenów wyjściowych, przedpłacone.
  4. Zachowaj ustawienia w zmiennych środowiskowych, aby móc przełączyć się z powrotem.

Co zmieniasz, a czego nie

Jeśli szukasz tańszej alternatywy dla openai w generowaniu tekstu, migracja jest niewielka: nowy base URL, nowy klucz i nowy identyfikator modelu. Twoje prompty, format wiadomości, kod strumieniowania i definicje funkcji zachowują swoją strukturę. To jest zaleta API kompatybilnego z OpenAI i właśnie dlatego możesz przetestować zmianę w popołudnie bez przepisywania kodu.

Czego nie przeniesiesz, to wszystko spoza czatu tekstowego. Ten endpoint oferuje chat completions, metodę responses i listę modeli. Nie obsługuje obrazów, audio, wideo, embeddingów ani fine-tuningu. Jeśli Twój produkt korzysta z tych funkcji, zostaw tę część tam, gdzie jest, i przenieś tylko wywołania tekstowe.

UstawienieWartość dla tej usługi
Bazowy URLhttps://api.cheapaiapis.com/v1
ID modeluuncensored
AutoryzacjaAuthorization: Bearer YOUR_KEY
EndpointyPOST /v1/chat/completions, POST /v1/responses, GET /v1/models

Zmiana w Pythonie, Node lub curl

W Pythonie przekaż nowe wartości przy tworzeniu klienta:

from openai import OpenAI

client = OpenAI(
    base_url="https://api.cheapaiapis.com/v1",
    api_key="YOUR_KEY",
)

r = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "Answer in two sentences."},
        {"role": "user", "content": "Why do retries need jitter?"},
    ],
)
print(r.choices[0].message.content)

W Node:

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.cheapaiapis.com/v1",
  apiKey: process.env.CHEAP_KEY,
});

const r = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Why do retries need jitter?" }],
});
console.log(r.choices[0].message.content);

I zwykłe HTTP:

curl https://api.cheapaiapis.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Why do retries need jitter?"}]}'

Uczyń zmianę odwracalną

Nie koduj na sztywno nowych wartości. Umieść trzy ustawienia w zmiennych środowiskowych lub obiekcie konfiguracyjnym, a jeśli nowy model nie jest dla nich odpowiedni, możesz przełączyć się z powrotem w kilka sekund.

import os
from openai import OpenAI

client = OpenAI(
    base_url=os.environ.get("LLM_BASE_URL", "https://api.cheapaiapis.com/v1"),
    api_key=os.environ["LLM_API_KEY"],
)
MODEL = os.environ.get("LLM_MODEL", "uncensored")

Dobra strategia wdrożeniowa najpierw wysyła małą część ruchu na nowy endpoint, na przykład jedno wewnętrzne narzędzie lub 5% zapytań, i porównuje wyjścia. Zachowaj starą trasę jako fallback dla błędów 429 lub 5xx. Czytając odpowiedź, traktuj tylko standardowe pola jako stabilne: choices[0].message.content, usage i finish_reason.

Co się faktycznie różni

  • Model. Istnieje jeden model o otwartych wagach, obsługiwany przez niezależnego dostawcę, dostrojony do odpowiadania bez odmów treści dla prawnego użytku. Nie jest to oficjalne API żadnego dostawcy, nie jest routerem i nie będzie zachowywać się dokładnie jak model, który opuszczasz. Prompty dostrojone do innego modelu mogą wymagać drobnych edycji.
  • Kontekst. Okno kontekstu ma 100 000 tokenów, licząc prompt plus completion. max_tokens jest opcjonalny.
  • Funkcje. Strumieniowanie przez SSE, wywoływanie funkcji, tryb JSON oraz przekazanie temperatury, top_p, stop, seed i kar są obsługiwane. Sprawdź dokumentację pod kątem wszelkich egzotycznych funkcji używanych w Twoim kodzie.
  • Limity. Pełny klucz pozwala na 8 równoległych zapytań i 300 na minutę. Maksymalna wielkość ciała to 8 MB.
  • Bezpieczeństwo. Odrzucanie treści nie jest domyślnym zachowaniem, ale treści seksualne z udziałem nieletnich są zawsze zabronione. Dodaj własne filtry, jeśli Twój produkt ma własne zasady.

Przetestuj szczególnie wywoływanie funkcji i tryb JSON, ponieważ inny model może formatować argumenty inaczej. Zweryfikuj zwracany JSON i spróbuj ponownie z ostrzejszą instrukcją, jeśli parsowanie się nie powiedzie.

Lista kontrolna migracji, która zmieści się w popołudniu

  1. Wypisz swoje wywołania. Przeszukaj kod pod kątem każdego miejsca, które tworzy klienta lub wywołuje API. Oznacz każde jako czat tekstowy lub coś innego.
  2. Zbierz 30 prawdziwych promptów z logów, z usuniętymi danymi prywatnymi, w tym kilka długich, kilka wykorzystujących narzędzia i kilka oczekujących formatu JSON.
  3. Odtwórz je przeciwko obu endpointom i zapisz wyjścia obok siebie. Policz, ile jest akceptowalnych bez edycji.
  4. Sprawdź strumieniowanie. Ustaw stream: true i upewnij się, że Twój UI obsługuje końcową porcję użycia.
  5. Sprawdź błędy. Wymuś użycie nieprawidłowego klucza i serię zapytań, a następnie potwierdź, że Twój kod poprawnie obsługuje kody 401 i 429.
  6. Wdrażaj powoli, zachowując starą trasę jako fallback.
stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Explain idempotency keys briefly."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="")

Pamiętaj, że zapytanie strumieniowe trzyma slot współbieżności aż do końca strumienia. Jeśli strona otwiera wiele strumieni naraz, 8 slotów pełnego klucza może się zapełnić zanim dojdzie do 300 na minutę. Błąd 429 z kodem concurrency mówi Ci, że tak się stało.

Oblicz oszczędności własnymi liczbami

Stawki to $0,15 za 1M tokenów wejściowych i $0,50 za 1M tokenów wyjściowych, przedpłacone i bez subskrypcji. Nie podajemy cen innych; sprawdź aktualną cenę usługi, której teraz używasz. Następnie uruchom to:

def monthly_cost(requests, in_tokens, out_tokens, in_rate, out_rate):
    return requests * (in_tokens * in_rate + out_tokens * out_rate) / 1_000_000

# here: 0.15 per 1M input, 0.50 per 1M output
mine = monthly_cost(30_000, 2_500, 600, 0.15, 0.50)
print(round(mine, 2))   # 20.25

Sprawdź tę liczbę ręcznie: każde zapytanie kosztuje 2 500 x 0,15 / 1M = $0,000375 za input plus 600 x 0,50 / 1M = $0,0003 za output, razem $0,000675. Pomnożone przez 30 000 zapytań daje to $20,25. Uruchom tę samą funkcję z opublikowanymi stawkami swojego obecnego dostawcy i porównaj. Uwzględnij koszt ewentualnych przepisania lub ponownych prób w porównaniu, a nie tylko ceny za token.

Nieudane lub odrzucone zapytania nie są rozliczane, a kredyt nigdy nie wygasa, więc wolniejszy miesiąc nie kosztuje nic ekstra.

Zacznij od wersji próbnej

Zarejestruj się za pomocą Google lub adresu e-mail i hasła, a następnie aktywuj kredyt próbny w wysokości $0,50 jednym kliknięciem na stronie klucza API. Nie wymaga podania karty, trwa 7 dni i jest dostępny w jednym egzemplarzu na osobę. Przy podanym koszcie $0,50 wystarcza na około 740 zapytań o takim rozmiarze, co pozwala uruchomić własne testowe prompty u obu dostawców i porównać wyniki.

Kiedy będziesz gotowy do płatności, doładowania przyjmują dowolną kwotę całkowitą od $20 do $500, z dodatkiem +5% od $50, +10% od $100 i +15% od $200. Możesz użyć kryptowalut (USDT na TRC20, USDC na Base). Strona z cenami zawiera aktualną tabelę. Prompty nie są wykorzystywane do trenowania modeli.

Kiedy zostać tam, gdzie jesteś

Szczera rada: nie zmieniaj, jeśli Twój produkt zależy od endpointów obrazu, audio lub embeddingów u obecnego dostawcy, jeśli potrzebujesz modelu konkretnego dostawcy z powodów kontraktowych, lub jeśli Twoi użytkownicy oczekują dokładnego zachowania tego dostawcy. Tańsza trasa też nie pomoże, jeśli czas inżynieryjny potrzebny do dostosowania promptów przekracza oszczędności. Użyj tej usługi do wywołań tekstowych, gdzie pasuje model bez cenzury, pay-per-token, a resztę zostaw tam, gdzie jest.

Aby uzyskać przegląd powszechnych mitów dotyczących tanich API, przeczytaj Mity vs Fakty na temat tanich API GPT przed podjęciem decyzji.

Pytania i odpowiedzi

Czytaj dokumentację
Czy muszę przepisywać swój kod?

Zazwyczaj nie. Dopełnienia czatu, strumieniowanie, wywoływanie funkcji i tryb JSON zachowują ten sam format. Zmień bazowy URL, klucz i nazwę modelu.

Czy mogę tutaj używać embeddingów lub generowania obrazów?

Nie. Usługa obsługuje tylko tekst, bez generowania obrazu, audio lub wideo, bez wektorów osadzeń i bez dostrajania.

Czy odpowiedzi będą zgodne z moim obecnym modelem?

Nie. To inny model o otwartych wagach, dostrojony do odpowiadania bez odrzuceń treści dla użytkowników pełnoletnich, więc przetestuj swoje prompty i dostosuj.

Jak porównać koszty?

Pomnóż miesięczną liczbę tokenów wejściowych i wyjściowych przez $0,15 i $0,50 za 1 mln tokenów, a następnie porównaj z opublikowanymi stawkami swojego obecnego dostawcy.

Twój klucz jest o jeden formularz stąd

Utwórz konto, skopiuj klucz, zmień bazowy URL. To cała konfiguracja.

Pobierz klucz API

https://api.cheapaiapis.com/v1