TH ▾
รับคีย์ API

ทางเลือกที่ประหยัดกว่า OpenAI: เปลี่ยน Base URL

ทางเลือกที่ประหยัดกว่า openai สำหรับข้อความมักทำได้เพียงเปลี่ยน base URL: สลับ URL, คีย์ และ model ID โค้ด OpenAI SDK ของคุณก็ยังคงทำงานต่อ นี่คือโค้ดที่แน่นอน สิ่งที่แตกต่าง และวิธีคำนวณการประหยัดของคุณ

อัปเดต

สายเคเบิลที่เคลื่อนไปยังซ็อกเก็ตเรืองแสงข้างเคียง แทนการเปลี่ยน base URL ไปยัง API ที่ประหยัดกว่า

Cheap AI APIs

ประเด็นสำคัญ

  1. เปลี่ยน base URL เป็น https://api.cheapaiapis.com/v1, คีย์ และ model ID เป็น uncensored
  2. เฉพาะข้อความ: ไม่มีรูปภาพ เสียง วิดีโอ การฝังตัว หรือการปรับแต่งเฉพาะทาง
  3. อัตราคือ $0.15 ต่อ 1M input tokens และ $0.50 ต่อ 1M output tokens แบบ prepaid
  4. เก็บการตั้งค่าในตัวแปรสภาพแวดล้อมเพื่อให้คุณสามารถสลับกลับได้

สิ่งที่คุณเปลี่ยนและสิ่งที่คุณไม่ต้องเปลี่ยน

หากคุณต้องการทางเลือกที่ประหยัดกว่า openai สำหรับ text generation การย้ายมีขนาดเล็ก: base URL ใหม่, คีย์ใหม่ และ model ID ใหม่ พรอมต์, รูปแบบข้อความ, โค้ด streaming และคำจำกัดความของ tool ของคุณยังคงรูปแบบเดิม นี่คือประโยชน์ของ API ที่เข้ากันได้กับ OpenAI และเป็นเหตุผลที่คุณสามารถทดสอบการย้ายได้ในบ่ายวันเดียวโดยไม่ต้องเขียนโค้ดใหม่

สิ่งที่ไม่สามารถย้ายได้คือทุกอย่างนอกเหนือจาก text chat เอนด์พอยต์นี้เสนอ chat completions, responses method และ models list ไม่รองรับ images, audio, video, embeddings หรือ fine-tuning หากผลิตภัณฑ์ของคุณใช้ส่วนเหล่านั้น ให้เก็บส่วนนั้นไว้ที่เดิมและย้ายเฉพาะ text calls

การตั้งค่ามูลค่าสำหรับบริการนี้
URL พื้นฐานhttps://api.cheapaiapis.com/v1
ID โมเดลuncensored
การตรวจสอบสิทธิ์Authorization: Bearer YOUR_KEY
เอนด์พอยต์POST /v1/chat/completions, POST /v1/responses, GET /v1/models

เปลี่ยนโค้ดใน Python, Node หรือ curl

ใน Python ให้ส่งค่าใหม่เมื่อสร้าง client:

from openai import OpenAI

client = OpenAI(
    base_url="https://api.cheapaiapis.com/v1",
    api_key="YOUR_KEY",
)

r = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "Answer in two sentences."},
        {"role": "user", "content": "Why do retries need jitter?"},
    ],
)
print(r.choices[0].message.content)

ใน Node.js:

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.cheapaiapis.com/v1",
  apiKey: process.env.CHEAP_KEY,
});

const r = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Why do retries need jitter?" }],
});
console.log(r.choices[0].message.content);

และ HTTP ธรรมดา:

curl https://api.cheapaiapis.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Why do retries need jitter?"}]}'

ทำให้การเปลี่ยนกลับได้

อย่า hard-code ค่าใหม่ ให้ตั้งค่าทั้งสามอย่างใน environment variables หรือ config object แล้วสามารถสลับกลับได้ภายในไม่กี่วินาทีหากโมเดลใหม่ไม่เหมาะกับฟีเจอร์ใดฟีเจอร์หนึ่งของคุณ

import os
from openai import OpenAI

client = OpenAI(
    base_url=os.environ.get("LLM_BASE_URL", "https://api.cheapaiapis.com/v1"),
    api_key=os.environ["LLM_API_KEY"],
)
MODEL = os.environ.get("LLM_MODEL", "uncensored")

การ rollout ที่ดีจะส่ง traffic สัดส่วนเล็กน้อยไปยัง endpoint ใหม่ก่อน เช่น internal tool เครื่องมือภายใน หรือ 5% ของคำขอ แล้วเปรียบเทียบผลลัพธ์ ให้เก็บ route เก่าไว้เป็น fallback สำหรับข้อผิดพลาด 429 หรือ 5xx เมื่ออ่าน response ให้พิจารณาเฉพาะฟิลด์มาตรฐานที่เสถียรเท่านั้น: choices[0].message.content, usage และ finish_reason

สิ่งที่แตกต่างกันจริง ๆ

  • โมเดล มีโมเดล open-weight เพียงตัวเดียว ซึ่งให้บริการโดยผู้ให้บริการอิสระที่ปรับแต่งมาให้ตอบคำถามโดยไม่มีการปฏิเสธเนื้อหาสำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย โมเดลนี้ไม่ใช่ API ทางการของผู้จัดจำหน่ายรายใดรายหนึ่ง ไม่ใช่ router และจะไม่ทำงานเหมือนโมเดลที่คุณทิ้งไว้ พรอมต์ที่ปรับแต่งสำหรับโมเดลอื่นอาจต้องแก้ไขเล็กน้อย
  • บริบท หน้าต่างบริบทรองรับ 100,000 โทเคน โดยนับรวมพรอมต์และ completion max_tokens เป็นค่าที่ไม่บังคับ
  • ฟีเจอร์ รองรับ streaming ผ่าน SSE, การเรียกใช้ฟังก์ชัน, โหมด JSON และการส่งผ่าน temperature, top_p, stop, seed และค่าปรับโทษต่างๆ ตรวจสอบ docs สำหรับฟีเจอร์พิเศษอื่นๆ ที่โค้ดของคุณอาจใช้
  • ขีดจำกัด คีย์แบบเต็มอนุญาตให้ทำ parallel requests ได้ 8 คำขอและ 300 คำขอต่อนาที ขนาด body สูงสุดคือ 8 MB
  • ความปลอดภัย การปฏิเสธเนื้อหาไม่ใช่พฤติกรรมเริ่มต้น แต่เนื้อหาเกี่ยวกับเพศที่เกี่ยวข้องกับผู้เยาว์จะไม่อนุญาตเด็ดขาด เพิ่มตัวกรองของคุณเองหากผลิตภัณฑ์ของคุณมีกฎเกณฑ์ของตัวเอง

ทดสอบการเรียกใช้ฟังก์ชันและโหมด JSON โดยเฉพาะ เนื่องจากโมเดลที่แตกต่างอาจจัดรูปแบบอาร์กิวเมนต์แตกต่างกัน ตรวจสอบ JSON ที่ได้รับกลับและลองใหม่หนึ่งครั้งด้วยคำสั่งที่เข้มงวดขึ้นหากการ parse ล้มเหลว

รายการตรวจสอบการย้ายที่ทำได้ภายในบ่ายวันหนึ่ง

  1. รายการคำขอของคุณ ค้นหาโค้ดทุกจุดที่สร้าง client หรือเรียก API ทำเครื่องหมายแต่ละจุดว่าเป็น text chat หรืออย่างอื่น
  2. รวบรวมพรอมต์จริง 30 ตัว จาก log โดยลบข้อมูลส่วนตัวออก รวมถึงพรอมต์ยาว ๆ บางตัว พรอมต์ที่ใช้ tools และพรอมต์ที่คาดหวัง JSON
  3. replay พรอมต์เหล่านี้ กับทั้ง endpoint และบันทึกผลลัพธ์เปรียบเทียบกัน นับจำนวนผลลัพธ์ที่ยอมรับได้โดยไม่ต้องแก้ไข
  4. ตรวจสอบ streaming ตั้งค่า stream: true และตรวจสอบให้แน่ใจว่า UI ของคุณจัดการ chunk usage สุดท้ายได้
  5. ตรวจสอบข้อผิดพลาด สร้างคีย์ที่ไม่ถูกต้องและ burst ของคำขอ แล้วยืนยันว่าโค้ดของคุณจัดการ 401 และ 429 ได้อย่างเหมาะสม
  6. rollout อย่างช้า ๆ โดยเก็บเส้นทางเดิมไว้เป็น fallback
stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Explain idempotency keys briefly."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="")

จำไว้ว่าคำขอแบบ streaming จะครอบครอง slot concurrency จนกว่า stream จะจบ หากหน้าเว็บเปิดหลาย stream พร้อมกัน slot 8 ของคีย์แบบเต็มอาจเต็มก่อนที่ขีดจำกัด 300 คำขอต่อนาทีจะถึง ข้อผิดพลาด 429 พร้อม code concurrency บอกคุณว่าเหตุการณ์นี้เกิดขึ้น

คำนวณการประหยัดด้วยตัวเลขของคุณเอง

อัตราที่นี่คือ $0.15 ต่อ 1M input tokens และ $0.50 ต่อ 1M output tokens แบบเติมเงินล่วงหน้าและไม่มีค่าสมาชิก เราไม่ได้ระบุราคาของผู้อื่น ดูราคาปัจจุบันของบริการที่คุณใช้อยู่ แล้วรันคำสั่งนี้:

def monthly_cost(requests, in_tokens, out_tokens, in_rate, out_rate):
    return requests * (in_tokens * in_rate + out_tokens * out_rate) / 1_000_000

# here: 0.15 per 1M input, 0.50 per 1M output
mine = monthly_cost(30_000, 2_500, 600, 0.15, 0.50)
print(round(mine, 2))   # 20.25

ตรวจสอบตัวเลขด้วยตนเอง: แต่ละคำขอมีค่าใช้จ่าย 2,500 x 0.15 / 1M = $0.000375 สำหรับ input บวก 600 x 0.50 / 1M = $0.0003 สำหรับ output รวมเป็น $0.000675 คูณด้วย 30,000 คำขอ ได้ $20.25 รันฟังก์ชันเดียวกันด้วยอัตราที่ผู้ให้บริการปัจจุบันของคุณประกาศไว้ แล้วเปรียบเทียบ รวมค่าใช้จ่ายในการแก้ไขหรือทำซ้ำในการเปรียบเทียบ ไม่ใช่แค่ราคาต่อโทเคน

คำขอที่ล้มเหลวหรือถูกปฏิเสธจะไม่ถูกเรียกเก็บเงิน และเครดิตไม่หมดอายุ ดังนั้นเดือนที่ใช้งานน้อยจึงไม่มีค่าใช้จ่ายเพิ่ม

เริ่มด้วยการทดลองใช้

สมัครด้วย Google หรือด้วยอีเมลและรหัสผ่าน แล้วรับเครดิตทดลองใช้ $0.50 ด้วยคลิกเดียวที่หน้า API key ไม่ต้องใช้บัตร ใช้ได้ 7 วัน และจำกัดเพียงหนึ่งต่อบุคคล ที่ต้นทุนตัวอย่างข้างต้น $0.50 ใช้สำหรับคำขอขนาดนั้นได้ประมาณ 740 คำขอ ซึ่งเพียงพอสำหรับการรันพรอมต์ regression ของคุณเองกับทั้งสองผู้ให้บริการและเปรียบเทียบ

เมื่อคุณพร้อมที่จะชำระเงิน การเติมเงินจะเป็นจำนวนเต็มตั้งแต่ $20 ถึง $500 พร้อมโบนัส +5% จาก $50, +10% จาก $100 และ +15% จาก $200 คุณสามารถใช้คริปโต (USDT บน TRC20, USDC บน Base) หน้า pricing แสดงตารางราคาปัจจุบัน พรอมต์ไม่ถูกใช้ในการฝึกโมเดล

เมื่อไหร่ควรอยู่ที่เดิม

คำแนะนำที่เป็นจริง: อย่าเปลี่ยนหากผลิตภัณฑ์ของคุณพึ่งพาเอนด์พอยต์สำหรับภาพ เสียง หรือ embedding จากผู้ให้บริการปัจจุบันของคุณ หากต้องการโมเดลจากผู้ผลิตเฉพาะสำหรับเหตุผลทางสัญญา หรือหากผู้ใช้ของคุณคาดหวังพฤติกรรมที่ตรงกันกับผู้ผลิตนั้น เส้นทางที่ราคาถูกกว่าก็ไม่ได้ช่วยหากเวลาทางวิศวกรรมในการปรับพรอมต์ของคุณมีมากกว่าเงินที่ประหยัดได้ ใช้บริการนี้สำหรับคำขอข้อความที่โมเดลแบบ uncensored ที่จ่ายตามโทเคนเหมาะสม และเก็บส่วนอื่นไว้ที่เดิม

เพื่อดูภาพรวมของตำนานทั่วไปเกี่ยวกับ API ราคาต่ำ อ่าน ตำนานกับข้อเท็จจริงเกี่ยวกับ GPT API ราคาถูก ก่อนตัดสินใจ

ถาม-ตอบ

อ่านเอกสาร
ฉันต้องเขียนโค้ดใหม่หรือไม่?

โดยทั่วไปไม่จำเป็น Chat completions, streaming, tool calling และ JSON mode ยังคงรูปแบบเดิม เปลี่ยน base URL, คีย์ API และชื่อโมเดล

ฉันสามารถใช้ embeddings หรือการสร้างภาพที่นี่ได้หรือไม่?

ไม่ บริการนี้มีเพียงข้อความ ไม่มีสร้างภาพ เสียง หรือวิดีโอ ไม่มี embeddings และไม่มี fine-tuning

คำตอบจะตรงกับโมเดลปัจจุบันของฉันหรือไม่?

ไม่ มันเป็นโมเดลแบบเปิดน้ำหนักที่ปรับแต่งมาเพื่อตอบคำถามโดยไม่มีการปฏิเสธเนื้อหาสำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย ดังนั้นให้ทดสอบพรอมต์ของคุณและปรับแต่ง

ฉันจะเปรียบเทียบต้นทุนได้อย่างไร?

นำจำนวนโทเคนอินพุตและเอาต์พุตรายเดือนของคุณคูณด้วย $0.15 และ $0.50 ต่อ 1M แล้วเปรียบเทียบกับอัตราที่ผู้ให้บริการปัจจุบันของคุณประกาศไว้

คีย์ของคุณอยู่ห่างแค่การกรอกแบบฟอร์มเดียว

สร้างบัญชี คัดลอกคีย์ และเปลี่ยน base URL นั่นคือการตั้งค่าทั้งหมด

รับคีย์ API

https://api.cheapaiapis.com/v1