VI ▾
Lấy khóa API

Giải pháp thay thế OpenAI rẻ hơn: Chuyển đổi bằng Base URL

Một giải pháp thay thế openai rẻ hơn cho văn bản thường chỉ cần thay đổi base URL: hãy thay đổi URL, khóa và model ID, và mã OpenAI SDK của bạn vẫn hoạt động. Dưới đây là mã chính xác, những điểm khác biệt và cách tính toán khoản tiết kiệm của bạn.

Cập nhật

Một sợi cáp được chuyển sang ổ cắm lân cận đang phát sáng, đại diện cho việc chuyển đổi URL cơ sở sang API rẻ hơn

Cheap AI APIs

Điểm chính

  1. Thay đổi base URL sang https://api.cheapaiapis.com/v1, key và ID mô hình sang uncensored.
  2. Chỉ văn bản: không có hình ảnh, âm thanh, video, embedding hoặc tinh chỉnh.
  3. Giá là $0,15 cho 1M token đầu vào và $0,50 cho 1M token đầu ra, tín dụng trả trước.
  4. Giữ các cài đặt trong các biến môi trường để bạn có thể chuyển lại.

Những gì bạn thay đổi và những gì bạn không thay đổi

Nếu bạn muốn một giải pháp thay thế openai rẻ hơn cho việc tạo văn bản, quá trình di chuyển rất nhỏ: một base URL mới, một khóa mới và một model ID mới. Các prompt của bạn, định dạng tin nhắn, mã streaming và định nghĩa công cụ giữ nguyên hình dạng. Đó là lợi ích của một API tương thích OpenAI, và cũng là lý do bạn có thể kiểm tra việc di chuyển trong một buổi chiều mà không cần viết lại mã.

Những gì bạn không thể di chuyển là bất cứ thứ gì bên ngoài chat văn bản. Endpoint này cung cấp chat completions, phương thức responses và danh sách models. Nó không hỗ trợ ảnh, âm thanh, video, embeddings hoặc fine-tuning. Nếu sản phẩm của bạn sử dụng những tính năng đó, hãy giữ phần đó ở nơi cũ và chỉ di chuyển các lệnh gọi văn bản.

Cài đặtGiá trị cho dịch vụ này
URL gốchttps://api.cheapaiapis.com/v1
ID mô hìnhuncensored
Xác thựcAuthorization: Bearer YOUR_KEY
EndpointPOST /v1/chat/completions, POST /v1/responses, GET /v1/models

Chuyển đổi trong Python, Node hoặc curl

Trong Python, hãy truyền các giá trị mới khi bạn tạo client:

from openai import OpenAI

client = OpenAI(
    base_url="https://api.cheapaiapis.com/v1",
    api_key="YOUR_KEY",
)

r = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "Answer in two sentences."},
        {"role": "user", "content": "Why do retries need jitter?"},
    ],
)
print(r.choices[0].message.content)

Trong Node:

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.cheapaiapis.com/v1",
  apiKey: process.env.CHEAP_KEY,
});

const r = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Why do retries need jitter?" }],
});
console.log(r.choices[0].message.content);

Và HTTP đơn giản:

curl https://api.cheapaiapis.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Why do retries need jitter?"}]}'

Làm cho việc chuyển đổi có thể đảo ngược

Không mã hóa cứng các giá trị mới. Đặt ba cài đặt trong các biến môi trường hoặc một đối tượng cấu hình, và bạn có thể hoàn tác trong vài giây nếu mô hình mới không phù hợp với một tính năng của bạn.

import os
from openai import OpenAI

client = OpenAI(
    base_url=os.environ.get("LLM_BASE_URL", "https://api.cheapaiapis.com/v1"),
    api_key=os.environ["LLM_API_KEY"],
)
MODEL = os.environ.get("LLM_MODEL", "uncensored")

Một quá trình triển khai tốt sẽ gửi một phần nhỏ lưu lượng truy cập đến endpoint mới trước, ví dụ như một công cụ nội bộ hoặc 5% yêu cầu, và so sánh các đầu ra. Hãy giữ endpoint cũ làm dự phòng cho lỗi 429 hoặc 5xx. Khi bạn đọc phản hồi, hãy chỉ coi các trường tiêu chuẩn là ổn định: choices[0].message.content, usage và finish_reason.

Những gì thực sự khác biệt

  • Mô hình. Có một mô hình trọng số mở, được chạy bởi một nhà cung cấp độc lập, được tinh chỉnh để trả lời mà không từ chối nội dung cho mục đích người trưởng thành hợp pháp. Nó không phải là API chính thức của bất kỳ nhà cung cấp nào, không phải là bộ định tuyến, và nó sẽ không hoạt động chính xác như mô hình bạn đang rời bỏ. Các prompt được tinh chỉnh cho một mô hình khác có thể cần chỉnh sửa nhỏ.
  • Ngữ cảnh. Cửa sổ ngữ cảnh là 100.000 token, tính cả prompt và completion. max_tokens là tùy chọn.
  • Tính năng. Truyền phát qua SSE, gọi hàm, chế độ JSON, và việc chuyển tiếp temperature, top_p, stop, seed và các hệ số phạt được hỗ trợ. Hãy kiểm tra tài liệu cho bất kỳ tính năng lạ nào mà mã của bạn sử dụng.
  • Giới hạn. Một khóa đầy đủ cho phép 8 yêu cầu đồng thời và 300 yêu cầu mỗi phút. Kích thước tối đa của body là 8 MB.
  • An toàn. Việc từ chối nội dung không phải là hành vi mặc định, nhưng nội dung tình dục liên quan đến người chưa thành niên luôn bị cấm. Thêm bộ lọc của riêng bạn nếu sản phẩm của bạn có quy tắc riêng.

Hãy kiểm tra cụ thể gọi hàm và chế độ JSON, vì một mô hình khác có thể định dạng đối số khác. Hãy xác thực JSON bạn nhận được và thử lại một lần với hướng dẫn nghiêm ngặt hơn nếu quá trình phân tích cú pháp thất bại.

Một danh sách kiểm tra di chuyển vừa với một buổi chiều

  1. Liệt kê các lệnh gọi của bạn. Tìm kiếm trong mã mọi nơi tạo client hoặc gọi API. Đánh dấu mỗi lệnh gọi là chat văn bản hoặc một thứ gì đó khác.
  2. Thu thập 30 prompt thực tế từ nhật ký, với các chi tiết riêng tư đã được loại bỏ, bao gồm một vài prompt dài, một vài prompt sử dụng công cụ và một vài prompt dự kiến JSON.
  3. Phát lại chúng trên cả hai endpoint và lưu các đầu ra cạnh nhau. Đếm xem có bao nhiêu đầu ra có thể chấp nhận được mà không cần chỉnh sửa.
  4. Kiểm tra streaming. Đặt stream: true và đảm bảo giao diện người dùng của bạn xử lý chunk cuối cùng chứa thông tin sử dụng.
  5. Kiểm tra lỗi. Buộc một khóa không hợp lệ và một đợt yêu cầu, và xác nhận mã của bạn xử lý 401 và 429 một cách hợp lý.
  6. Triển khai chậm rãi, với tuyến cũ được giữ làm dự phòng.
stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Explain idempotency keys briefly."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="")

Hãy nhớ rằng một yêu cầu streaming giữ slot đồng thời của nó cho đến khi stream kết thúc. Nếu một trang mở nhiều stream cùng lúc, 8 slot của một khóa đầy đủ có thể bị lấp đầy trước khi đạt 300 yêu cầu mỗi phút. Một lỗi 429 với mã concurrency cho bạn biết rằng đó là những gì đã xảy ra.

Tính toán khoản tiết kiệm với các số liệu của riêng bạn

Mức giá ở đây là $0,15 cho mỗi 1 triệu token đầu vào và $0,50 cho mỗi 1 triệu token đầu ra, trả trước và không có gói đăng ký. Chúng tôi không nêu giá của bất kỳ ai khác; hãy xem giá hiện tại của dịch vụ bạn đang sử dụng. Sau đó hãy chạy điều này:

def monthly_cost(requests, in_tokens, out_tokens, in_rate, out_rate):
    return requests * (in_tokens * in_rate + out_tokens * out_rate) / 1_000_000

# here: 0.15 per 1M input, 0.50 per 1M output
mine = monthly_cost(30_000, 2_500, 600, 0.15, 0.50)
print(round(mine, 2))   # 20.25

Kiểm tra con số đó bằng tay: mỗi yêu cầu tốn 2.500 x 0,15 / 1M = $0,000375 cho đầu vào cộng 600 x 0,50 / 1M = $0,0003 cho đầu ra, vậy $0,000675. Nhân với 30.000 yêu cầu, nó là $20,25. Chạy cùng hàm đó với các mức giá công bố của nhà cung cấp hiện tại của bạn và so sánh. Bao gồm chi phí của bất kỳ lần viết lại hoặc thử lại nào trong phép so sánh, không chỉ giá trên mỗi token.

Các yêu cầu thất bại hoặc bị từ chối không bị tính phí, và tín dụng không bao giờ hết hạn, vì vậy một tháng chậm không tốn thêm chi phí.

Bắt đầu với bản dùng thử

Đăng nhập bằng Google hoặc bằng email và mật khẩu, sau đó nhận tín dụng dùng thử $0,50 chỉ với một cú nhấp chuột trên trang khóa API. Không cần thẻ, hết hạn sau 7 ngày và giới hạn một lần dùng cho mỗi người. Với chi phí ví dụ ở trên, $0,50 chi trả cho khoảng 740 yêu cầu có kích thước đó, đủ để chạy các prompt kiểm thử hồi quy của bạn trên cả hai nhà cung cấp và so sánh.

Khi bạn sẵn sàng thanh toán, các khoản nạp tiền là bất kỳ số nguyên nào từ $20 đến $500, với +5% từ $50, +10% từ $100 và +15% từ $200. Bạn có thể sử dụng tiền mã hóa (USDT trên TRC20, USDC trên Base). trang giá cả hiển thị bảng hiện tại. Các prompt không được sử dụng để huấn luyện.

Khi nào nên ở lại nơi bạn đang ở

Lời khuyên trung thực: đừng chuyển đổi nếu sản phẩm của bạn phụ thuộc vào các endpoint ảnh, âm thanh hoặc embedding từ nhà cung cấp hiện tại của bạn, nếu bạn cần một mô hình của nhà cung cấp cụ thể vì lý do hợp đồng, hoặc nếu người dùng của bạn mong đợi hành vi chính xác của nhà cung cấp đó. Một tuyến rẻ hơn cũng không giúp ích nếu thời gian kỹ thuật để thích ứng các prompt của bạn vượt quá khoản tiết kiệm. Hãy sử dụng dịch vụ này cho các lệnh gọi văn bản nơi một mô hình uncensored, trả theo token phù hợp, và giữ phần còn lại ở nơi cũ.

Để có cái nhìn tổng quan về những hiểu lầm phổ biến về các API giá rẻ, hãy đọc những hiểu lầm về API GPT giá rẻ so với sự thật trước khi bạn quyết định.

Hỏi đáp

Đọc tài liệu
Tôi có phải viết lại mã không?

Thường là không. Hoàn tất trò chuyện, truyền phát, gọi hàm và chế độ JSON giữ nguyên định dạng. Thay đổi URL cơ sở, khóa và tên mô hình.

Tôi có thể dùng nhúng hoặc tạo ảnh ở đây không?

Không. Dịch vụ chỉ xử lý văn bản, không tạo ảnh, âm thanh hay video, không nhúng và không tinh chỉnh.

Câu trả lời có phù hợp với mô hình hiện tại của tôi không?

Không. Đây là một mô hình trọng số mở khác, được tinh chỉnh để trả lời mà không từ chối nội dung, phù hợp cho người lớn hợp pháp, vì vậy bạn hãy thử các prompt và điều chỉnh.

Tôi so sánh chi phí như thế nào?

Nhân số token đầu vào và đầu ra hàng tháng của bạn với $0,15 và $0,50 trên 1 triệu token, sau đó so sánh với các mức giá công bố của nhà cung cấp hiện tại của bạn.

Bạn chỉ cần điền một biểu mẫu để có khóa

Tạo tài khoản, sao chép khóa, thay đổi URL cơ sở. Đó là toàn bộ thiết lập.

Lấy khóa API

https://api.cheapaiapis.com/v1