TH ▾
รับคีย์ API

ผู้ให้บริการ LLM API ราคาถูก: สิ่งที่ต้องตรวจสอบนอกจากราคา

ผู้ให้บริการ API LLM ราคาถูกจะราคาถูกจริงก็ต่อเมื่อบิลรวมต่ำ: อัตราการส่งออก, การเรียกใช้ที่ล้มเหลว, ขนาดหน้าต่างบริบท และเครดิตที่หมดอายุ ล้วนมีผล ใช้รายการตรวจสอบนี้ พร้อมต้นทุนที่คำนวณแล้วที่ $0.15 ต่อ 1M โทเคนอินพุต และ $0.50 ต่อ 1M โทเคนเอาต์พุต

อัปเดต

ตาชั่งถ่วงเหรียญกับบล็อกข้อมูล แสดงถึงการตรวจสอบต้นทุนสำหรับผู้ให้บริการ LLM API

Cheap AI APIs

ประเด็นสำคัญ

  1. เปรียบเทียบราคาอินพุตและเอาต์พุตแยกกันและใช้อัตราโทเคนของคุณเอง
  2. ตรวจสอบหน้าต่างบริบท ขีดจำกัดอัตรา ข้อผิดพลาดที่เรียกเก็บเงิน การหมดอายุ และการใช้งานข้อมูล
  3. การสรุปข้อมูลมีราคา $3.25 ต่อ 1,000 เอกสารที่นี่; เรื่องราวที่สร้าง 1,000 เรื่องมีราคา $1.575
  4. เครดิตทดลอง $0.50 ไม่ต้องใช้บัตรและใช้งานได้ 7 วัน

ราคาต่อล้านโทเคนเป็นเพียงครึ่งหนึ่งของราคาเสนอ

การเลือกผู้ให้บริการโดยดูตัวเลขต่ำสุดในหน้าราคาใช้ได้จนกว่าจะเห็นบิลจริงครั้งแรก ผู้ให้บริการสองรายอาจประกาศราคาอินพุตเดียวกันแต่มีค่าใช้จ่ายต่างกันมาก เนื่องจากวิธีการคิดราคาเอาต์พุต สิ่งที่ถูกนับเป็นคำขอที่เรียกเก็บเงิน และจำนวนที่คุณใช้จ่ายในการลองใหม่

บทความนี้ให้รายการตรวจสอบสั้นๆ ที่คุณสามารถนำไปใช้กับผู้ให้บริการรายใดก็ได้ จากนั้นรันตัวอย่างหนึ่งราย: $0.15 ต่อ 1M อินพุตและ $0.50 ต่อ 1M เอาต์พุต ซึ่งเป็นอัตราบนเว็บไซต์นี้ ใช้รายการตรวจสอบกับรายอื่นด้วย สำหรับตัวเลขของพวกเขา อ่านหน้าราคาปัจจุบันของพวกเขา เพราะราคาเปลี่ยนแปลง

รายการตรวจสอบ

ตรวจสอบทำไมจึงสำคัญ
ราคาอินพุตและเอาต์พุตแยกกันราคาผสมบดบังว่าฝ่ายใดที่คุณจ่ายมากกว่า
หน้าต่างบริบทหน้าต่างขนาดเล็กบังคับให้แบ่งข้อความ ซึ่งหมายถึงการเรียก API มากขึ้นและต้องส่งพรอมต์ซ้ำ
คำขอที่ล้มเหลวถูกเรียกเก็บเงินหรือไม่?ข้อผิดพลาดและการปฏิเสธที่เสียเงินจะเพิ่มยอดบิล
ขีดจำกัดอัตราความพร้อมใช้งานพร้อมกันต่ำทำให้แบทช์ราคาถูกกลายเป็นแบทช์ที่ช้าลง
ยอดเติมเงินขั้นต่ำและการหมดอายุเครดิตที่หมดอายุคือเงินที่คุณเสียไป
แบบสมัครสมาชิกหรือแบบเติมเงินค่าธรรมเนียมรายเดือนคงที่ลงโทษเดือนที่ใช้งานน้อย
โมเดลนี้คือโมเดลอะไรกันแน่?ราคาถูกอาจหมายถึงโมเดลต่างหรือขนาดเล็กกว่าที่ชื่อสื่อไว้
การใช้ข้อมูลนำพรอมต์ไปใช้ในการฝึกโมเดลหรือไม่?
ความเข้ากันได้ของ APIเข้ากันได้กับ OpenAI หมายถึงไม่ต้องเขียนโค้ดใหม่และเปลี่ยนได้ง่าย

เขียนคำตอบสำหรับแต่ละผู้ให้บริการในตารางเล็กๆ ของคุณเอง ช่องว่างในเอกสารของผู้ให้บริการก็เป็นคำตอบเช่นกัน

อินพุตเทียบกับเอาต์พุต: อัตราส่วนเป็นตัวตัดสิน

โทเคนเอาต์พุตมักมีราคาสูงกว่าโทเคนอินพุต ดังนั้นสิ่งที่แอปของคุณทำจึงสำคัญ นี่คืองานสองประเภทที่ราคาอินพุต $0.15 ต่อ 1M และเอาต์พุต $0.50 ต่อ 1M

การสรุปเนื้อหา เอกสารขนาด 20,000 โทเคนถูกส่งเข้าไปและได้เอาต์พุต 500 โทเคน อินพุต: 20,000 x $0.15 / 1,000,000 = $0.003 เอาต์พุต: 500 x $0.50 / 1,000,000 = $0.00025 รวม $0.00325 ต่อเอกสาร หรือ $3.25 สำหรับ 1,000 เอกสาร ด้านอินพุตคิดเป็น 92% ของบิล

การสร้างเนื้อหา พรอมต์ขนาด 500 โทเคนสร้างเรื่องราวขนาด 3,000 โทเคน อินพุต: $0.000075 เอาต์พุต: $0.0015 รวม $0.001575 หรือ $1.575 สำหรับการสร้าง 1,000 ครั้ง ด้านเอาต์พุตคิดเป็น 95% ของบิล

ผู้ให้บริการที่มีอินพุตถูกแต่เอาต์พุตแพงจะชนะงานแรกและแพ้งานที่สอง เปรียบเทียบตามอัตราส่วนของคุณ ไม่ใช่ตัวเลขราคาหลัก สำหรับเดือนที่ใช้งานผสมผสาน 10M โทเคนอินพุตและ 2M โทเคนเอาต์พุต บิลที่นี่คือ $1.50 + $1.00 = $2.50

ข้อผิดพลาด การลองใหม่ และสิ่งที่คุณต้องจ่ายจริง

ผู้ให้บริการที่ถูกที่สุดในทางทฤษฎีอาจมีราคาแพงหากคำขอของคุณล้มเหลวและคุณต้องจ่ายสำหรับคำขอนั้น ถามว่าคำขอที่ล้มเหลวหรือถูกปฏิเสธมีการคิดเงินหรือไม่ ที่นี่ไม่คิดเงิน ถามว่าขีดจำกัดอัตราทำงานอย่างไร: คีย์เต็มอนุญาตคำขอพร้อมกัน 8 คำขอและ 300 คำขอต่อนาที คีย์ทดลองอนุญาต 2 และ 60 เมื่อเกินขีดจำกัด API จะส่ง HTTP 429 พร้อมโค้ด rate_limited หรือ concurrency และเมื่อโหลดเกินชั่วคราวจะส่ง 429 พร้อม Retry-After: 5

จัดการอย่างสุภาพและต้นทุนการลองใหม่จะเป็นศูนย์ เนื่องจากคำขอที่ถูกปฏิเสธไม่เคยทำงาน นี่คือ wrapper ขั้นต่ำ:

import time
from openai import OpenAI, RateLimitError

client = OpenAI(base_url="https://api.cheapaiapis.com/v1", api_key="YOUR_KEY")

def ask(prompt, retries=4):
    for i in range(retries):
        try:
            r = client.chat.completions.create(
                model="uncensored",
                messages=[{"role": "user", "content": prompt}],
            )
            return r.choices[0].message.content
        except RateLimitError:
            time.sleep(5)
    raise RuntimeError("rate limited after retries")

สตรีมจะครอบครองช่องความพร้อมใช้งานพร้อมกันจนกว่าจะเสร็จสิ้น ดังนั้นงานแบทช์ที่สตรีม 20 คำตอบพร้อมกันจะถูกจำกัดโดยขีดจำกัด 8 ช่อง ไม่ใช่โดยตัวเลขต่อนาที

หน้าต่างบริบทและต้นทุนที่ซ่อนอยู่ของการแบ่งข้อความ

หน้าต่าง 100,000 โทเคนที่แชร์ระหว่างพรอมต์และการสร้างคำตอบช่วยให้คุณส่งเอกสารยาวในคำขอเดียว ด้วยหน้าต่างขนาดเล็กคุณต้องแบ่งเอกสาร ส่งพรอมต์ซ้ำในแต่ละส่วน และเพิ่มคำขอสุดท้ายเพื่อรวมผลลัพธ์ นั่นหมายถึงคำขอมากขึ้น โทเคนอินพุตมากขึ้น และโค้ดที่ต้องบำรุงรักษาเพิ่มขึ้น หากงานของคุณเกี่ยวข้องกับอินพุตยาว ให้ตรวจสอบหน้าต่างก่อนราคา

สิ่งเดียวกันนี้ใช้กับแอปแชทที่มีประวัติการสนทนาที่ยาว หากประวัติพอดี คุณสามารถทำให้มันเรียบง่ายได้ แม้กระนั้น การส่งประวัติซ้ำในแต่ละรอบจะเสียโทเคนอินพุต ดังนั้นการตัดท้อยังคงคุ้มค่า การอ่านที่เกี่ยวข้องคือ ตำนานกับข้อเท็จจริงเกี่ยวกับ GPT API ราคาถูก ซึ่งแยกการประหยัดที่แท้จริงออกจากการตลาด

หนึ่งเดือนของการใช้งานจริง คิดราคา

นำชิ้นส่วนมารวมกันด้วยผลิตภัณฑ์เล็กๆ: ผู้ช่วยเขียนที่มีผู้ใช้ใช้งานจริง 300 คน ซึ่งแต่ละคนส่ง 40 คำขอต่อเดือน นั่นคือ 12,000 คำขอ แต่ละคนส่งอินพุตประมาณ 3,000 โทเคน (คำสั่งและเรื่องราวจนถึงปัจจุบัน) และได้รับเอาต์พุต 700 โทเคน

  • Input: 12,000 x 3,000 = 36M โทเคน ซึ่งคิดค่าใช้จ่าย 36 x $0.15 = $5.40
  • Output: 12,000 x 700 = 8.4M โทเคน ซึ่งคิดค่าใช้จ่าย 8.4 x $0.50 = $4.20
  • รวม: $9.60 ต่อเดือน หรือ $0.032 ต่อผู้ใช้

ตอนนี้ดูว่าการเปลี่ยนแปลงเล็กน้อยส่งผลอย่างไร การตัดประวัติเพื่อให้ input ลดลงเหลือ 2,000 โทเคนต่อคำขอ ช่วยประหยัด input tokens ได้ 12M หรือ $1.80 การจำกัด output ที่ 500 โทเคน ช่วยประหยัด tokens ได้ 2.4M หรือ $1.20 ผู้ให้บริการที่เรียกเก็บเงินสำหรับคำขอที่ล้มเหลว พร้อมอัตราความล้มเหลว 5% จะเพิ่มค่าใช้จ่ายรวมอีก 5% ผลกระทบเหล่านี้มีขนาดใหญ่พอๆ กับความแตกต่างของราคาระหว่างผู้ให้บริการราคาถูกสองราย นั่นคือเหตุผลที่รายการตรวจสอบจึงสำคัญ

โมเดลเป็นอีกครึ่งหนึ่งของการเปรียบเทียบ ราคาที่ต่ำกว่าสำหรับโมเดลที่ต้องลองสามครั้งเพื่อให้ปฏิบัติตามรูปแบบของคุณไม่ได้หมายความว่าราคาถูกกว่า ก่อนตัดสินใจ ให้รันพรอมต์จริงของคุณ 20 รายการ และนับจำนวนครั้งที่ให้คำตอบที่ใช้งานได้ตั้งแต่ครั้งแรก

กฎเครดิตแบบเติมเงินล่วงหน้า การหมดอายุ และการเติมเงิน

ดูนโยบายสองข้อ: ว่าเครดิตหมดอายุหรือไม่ และยอดเงินขั้นต่ำในการชำระเงินคือเท่าใด ที่นี่เครดิตไม่หมดอายุ ไม่มีบริการแบบสมาชิก และการเติมเงินเป็นจำนวนเต็มใดๆ ตั้งแต่ $20 ถึง $500 โบนัสคือ +5% จาก $50, +10% จาก $100 และ +15% จาก $200 ดังนั้นการเติมเงิน $100 จะกลายเป็นเครดิต $110 คุณสามารถชำระเงินด้วยคริปโต (USDT บน TRC20, USDC บน Base) ตารางอยู่ที่หน้า การกำหนดราคา

การเติมเงิน $20 ที่งานสร้างเนื้อหาข้างต้น ($0.001575 ต่อเรื่อง) ซื้อเรื่องราวได้ประมาณ 12,698 เรื่อง ที่งานสรุป ($0.00325 ต่อเอกสาร) ซื้อเอกสารได้ประมาณ 6,153 ฉบับ นี่คือตัวเลขที่ควรเปรียบเทียบกับผู้ให้บริการรายอื่นที่เทียบเท่า

ทดสอบก่อนตัดสินใจ

การตรวจสอบที่ดีที่สุดคือการใช้พรอมต์ของคุณเอง ลงชื่อเข้าใช้ด้วย Google หรือด้วยอีเมลและรหัสผ่าน และรับเครดิตทดลองใช้ $0.50 ที่หน้า API key ใช้เวลาคลิกเดียว ไม่ต้องใช้บัตร ใช้ได้ 7 วัน และจำกัดหนึ่งครั้งต่อบุคคล เนื่องจาก API เข้ากันได้กับ OpenAI การทดสอบคือการเปลี่ยน base URL

curl https://api.cheapaiapis.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Summarize: retries need backoff."}]}'

ทุกการตอบกลับมี X-Balance-USD ดังนั้นคุณสามารถติดตามต้นทุนจริงของการรันทดสอบของคุณได้ ชัดเจนในสิ่งที่นำเสนอ: โมเดลแบบเปิดน้ำหนักหนึ่งโมเดล ที่ให้บริการโดยผู้ให้บริการอิสระและปรับแต่งเพื่อตอบคำถามโดยไม่มีการปฏิเสธเนื้อหาสำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย ไม่ใช่ API ทางการของโมเดลผู้จัดจำหน่ายใด ๆ และเป็นข้อความเท่านั้น ไม่มีรูปภาพ การฝังตัว หรือการปรับแต่งละเอียด พรอมต์ไม่ถูกใช้ในการฝึกฝน รายละเอียดอยู่ใน เอกสาร

ถาม-ตอบ

อ่านเอกสาร
ราคาต่อล้านโทเคนที่ต่ำที่สุดถูกที่สุดเสมอหรือไม่?

ไม่ การกำหนดราคา output คำขอที่ล้มเหลวที่ถูกเรียกเก็บเงิน หน้าต่างบริบทขนาดเล็ก และเครดิตที่หมดอายุ สามารถเพิ่มบิลจริงได้ เปรียบเทียบตามอัตราส่วน input และ output ของคุณเอง

คำขอที่ล้มเหลวถูกเรียกเก็บเงินที่นี่หรือไม่?

ไม่ คำขอที่ล้มเหลวหรือถูกปฏิเสธจะไม่ถูกเรียกเก็บเงิน และเครดิตไม่หมดอายุ

ฉันทดสอบผู้ให้บริการราคาถูกได้อย่างไร?

ใช้เครดิตทดลองหรือเติมเงินเล็กน้อยแล้วรันพรอมต์จริงของคุณ ที่นี่เครดิตทดลอง $0.50 ไม่ต้องใช้บัตรและใช้งานได้ 7 วัน

นี่คือ API ทางการของซัพพลายเออร์โมเดลรายใหญ่หรือไม่?

ไม่ใช่ เป็นโมเดลแบบเปิดน้ำหนักที่ให้บริการโดยผู้ให้บริการอิสระ ไม่ใช่ API ทางการของซัพพลายเออร์รายใดรายหนึ่ง และไม่ใช่ระบบเร้าเตอร์

คีย์ของคุณอยู่ห่างแค่แบบฟอร์มเดียว

สร้างบัญชี คัดลอกคีย์ และเปลี่ยน base URL นั่นคือการตั้งค่าทั้งหมด

รับคีย์ API

https://api.cheapaiapis.com/v1