VI ▾
Lấy khóa API

Tín dụng API LLM miễn phí: Cách nhận và sử dụng

Nhận $0,50 tín dụng dùng thử chỉ với một cú nhấp chuột, sau đó xem chính xác nó mua được gì và cách phân bổ tín dụng này trong một tuần các bài kiểm tra hữu ích.

Cập nhật

Điểm chính

  1. Một cú nhấp chuột trên trang khóa API thêm $0,50; không cần thẻ, mỗi người chỉ nhận một lần.
  2. Tín dụng có hiệu lực trong 7 ngày và khóa dùng thử cho phép 2 yêu cầu đồng thời và 60 yêu cầu mỗi phút.
  3. $0,50 đủ cho khoảng 909 yêu cầu với 2.000 token đầu vào và 500 token đầu ra.
  4. Token đầu ra đắt hơn, vì vậy hãy đặt giới hạn max_tokens trong các bài kiểm tra.
Một biểu tượng token phát sáng đang đổ vào đồng hồ cát bên cạnh bảy ô, cho thử nghiệm 7 ngày

Những gì bạn nhận được và cách nhận

Hầu hết các tìm kiếm về llm api free credits đều kết thúc bằng một biểu mẫu, danh sách chờ hoặc bước lưu thẻ. Ở đây, quy trình ngắn hơn. Đăng ký bằng Google, hoặc bằng email và mật khẩu, mở trang khóa API và nhấn một nút để nhận $0,50 tín dụng dùng thử. Không có bước lưu thẻ, và mỗi người chỉ được nhận một lần.

Tín dụng có hiệu lực trong 7 ngày kể từ khi nhận. Khóa dùng thử cũng chạy với giới hạn thấp hơn: 2 yêu cầu đồng thời và 60 yêu cầu mỗi phút, so với 8 và 300 trên khóa đầy đủ. Điều đó đủ cho việc kiểm tra và các tập lệnh nhỏ, nhưng không đủ cho việc phát hành sản phẩm.

  1. Đăng ký bằng Google hoặc email.
  2. Mở trang khóa API và tạo một khóa API.
  3. Nhấn nút dùng thử để thêm $0,50.
  4. Chạy yêu cầu đầu tiên của bạn với mã bên dưới.

$0,50 mua được gì

Giá là $0,15 cho mỗi 1 triệu token đầu vào và $0,50 cho mỗi 1 triệu token đầu ra. Tín dụng dùng thử là $0,50, vì vậy nó bao gồm 3,33 triệu token đầu vào hoặc chính xác 1 triệu token đầu ra, hoặc bất kỳ sự kết hợp nào. Dưới đây là ý nghĩa của điều đó đối với các yêu cầu điển hình.

Cấu trúc yêu cầuChi phí mỗi yêu cầuYêu cầu cho $0,50
1.000 đầu vào, 200 đầu ra$0,000252.000
2.000 đầu vào, 500 đầu ra$0,00055khoảng 909
8.000 đầu vào, 1.000 đầu ra$0,0017khoảng 294
50.000 đầu vào, 2.000 đầu ra$0,0085khoảng 58

Kiểm tra một hàng: 2.000 token đầu vào tốn 2.000 x $0,15 / 1M = $0,0003. 500 token đầu ra tốn 500 x $0,50 / 1M = $0,00025. Tổng là $0,00055 và $0,50 / $0,00055 là khoảng 909. Hàng ngữ cảnh dài cho thấy tại sao các prompt lớn đốt tín dụng nhanh: chỉ 50.000 token đầu vào đã tốn $0,0075.

Các yêu cầu bị lỗi hoặc từ chối không bị tính phí, vì vậy một yêu cầu bị lỗi không sử dụng hết bất kỳ phần nào trong số đó.

Yêu cầu đầu tiên của bạn

Sử dụng bất kỳ SDK OpenAI nào. Chỉ có base URL, khóa và tên mô hình khác với cấu hình thông thường.

from openai import OpenAI

client = OpenAI(base_url="https://api.uncensoredendpoint.com/v1", api_key="YOUR_KEY")
r = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Say hello in five words."}],
)
print(r.choices[0].message.content)
print(r.usage)   # prompt_tokens, completion_tokens

In usage ngay từ đầu. Mọi phản hồi đều kèm theo tiêu đề X-Balance-USD, để bạn có thể theo dõi số dư tín dụng giảm dần sau mỗi lệnh gọi. Nếu một yêu cầu thất bại, tiêu đề và trường usage vẫn cho bạn biết những gì đã và chưa bị tính phí: các yêu cầu thất bại hoặc bị từ chối đều miễn phí, nên một lệnh gọi thất bại sẽ giữ nguyên số dư. Hãy kiểm tra điều này một cách có chủ đích bằng cách gửi một yêu cầu với tên mô hình không hợp lệ, để bạn biết xử lý lỗi của mình hoạt động trước khi dựa vào nó.

curl -i https://api.uncensoredendpoint.com/v1/models -H "Authorization: Bearer YOUR_KEY"
curl https://api.uncensoredendpoint.com/v1/balance -H "Authorization: Bearer YOUR_KEY"

Kế hoạch dùng thử 7 ngày

Bảy ngày và khoảng 900 yêu cầu kích thước trung bình sẽ đi được một chặng đường dài nếu bạn lên kế hoạch cho chúng. Một sự phân bổ hoạt động cho hầu hết các dự án:

  • Ngày 1, khoảng $0,02. Kiểm tra khói: một cuộc trò chuyện, một cuộc trò chuyện được truyền phát, một yêu cầu với công cụ, một yêu cầu với chế độ JSON. Xác nhận mỗi cái hoạt động với thư viện khách hàng của bạn.
  • Ngày 2 đến 3, khoảng $0,10. Kiểm tra chất lượng. Chạy 30 đến 50 prompt thực tế từ sản phẩm của bạn và đọc mọi câu trả lời.
  • Ngày 4 đến 5, khoảng $0,10. Kiểm tra hành vi. Kiểm tra cách mô hình xử lý prompt hệ thống, các cuộc hội thoại dài và các chủ đề mà người dùng của bạn sẽ đề cập.
  • Ngày 6 đến 7, phần còn lại. Kiểm tra tải ở giới hạn dùng thử: 2 cùng lúc, 60 mỗi phút. Xem một trình bao bọc thử lại phải làm gì.

Giữ một nhật ký nhỏ về prompt, câu trả lời, số lượng token và chi phí. Cuối cùng, bạn sẽ có chi phí trung bình cho mỗi yêu cầu, điều này cho phép bạn dự toán hóa đơn hàng tháng trước khi chi tiêu bất kỳ khoản nào.

Kéo dài tín dụng

Token đầu ra đắt hơn ba lần so với token đầu vào, vì vậy hãy hạn chế chúng trước tiên. Đặt max_tokens trên các bài kiểm tra chỉ cần câu trả lời ngắn và yêu cầu câu trả lời ngắn gọn trong prompt hệ thống. Tiếp theo, giữ cho prompt gọn gàng: chỉ gửi các lượt hội thoại bạn cần, không phải toàn bộ lịch sử.

Sử dụng seed cố định và nhiệt độ thấp khi so sánh các phiên bản prompt, để sự khác biệt đến từ thay đổi của bạn chứ không phải từ nhiễu lấy mẫu. Kiểm tra với các đầu vào ngắn trước, và chuyển sang các đầu vào dài chỉ sau khi các đầu vào ngắn vượt qua. Một tài liệu 90.000 token tốn $0.0135 cho đầu vào, tương đương với khoảng 54 cuộc trò chuyện nhỏ.

Tránh các vòng lặp gọi API không có giới hạn. Một lỗi thử lại mỗi giây có thể làm cạn kiệt tín dụng trong vài phút, vì vậy hãy đặt bộ đếm và điểm dừng cứng trong bất kỳ kịch bản nào bạn để chạy.

Theo dõi chi tiêu trong khi bạn kiểm tra

Một trình bao bọc nhỏ ghi lại token và chi phí cho mỗi lượt gọi API sẽ cung cấp cho bạn các con số thực tế thay vì phỏng đoán. Các hằng số dưới đây là giá được công bố cho mỗi token.

import csv, time
from openai import OpenAI

client = OpenAI(base_url="https://api.uncensoredendpoint.com/v1", api_key="YOUR_KEY")
IN_PRICE, OUT_PRICE = 0.15 / 1_000_000, 0.50 / 1_000_000

def run(prompt, label):
    t = time.time()
    r = client.chat.completions.create(
        model="uncensored",
        messages=[{"role": "user", "content": prompt}],
        max_tokens=300,
    )
    u = r.usage
    cost = u.prompt_tokens * IN_PRICE + u.completion_tokens * OUT_PRICE
    with open("trial_log.csv", "a", newline="") as f:
        csv.writer(f).writerow([label, u.prompt_tokens, u.completion_tokens,
                                round(cost, 6), round(time.time() - t, 2)])
    return r.choices[0].message.content

Sau một ngày sử dụng, hãy tổng hợp cột chi phí và chia cho số dòng. Trung bình đó là con số để đưa vào ngân sách của bạn. So sánh nó với bảng trên: nếu các prompt thực tế của bạn dài hơn bạn giả định, bạn sẽ thấy điều đó trong giờ đầu tiên, không phải trên hóa đơn đầu tiên của bạn.

Cách đánh giá bất kỳ ưu đãi tín dụng miễn phí nào

Cùng các câu hỏi áp dụng cho mọi nhà cung cấp, vì vậy hãy hỏi họ trước khi bạn xây dựng xung quanh gói miễn phí. Nó có cần thẻ không? Nó kéo dài bao lâu? Các giới hạn tốc độ trên khóa dùng thử là gì và chúng có khớp với kế hoạch kiểm tra của bạn không? Tín dụng có bị ràng buộc với một mô hình hay không, hay bạn có thể thử mô hình bạn định phát hành? Kiểm tra các điều khoản hiện tại của từng nhà cung cấp, vì các ưu đãi miễn phí thay đổi thường xuyên.

Một câu hỏi khác mà mọi người quên: điều gì xảy ra với tích hợp sau đó? Một endpoint tương thích OpenAI có nghĩa là mã bạn viết trong thời gian dùng thử sẽ chuyển sang gói trả phí, hoặc sang một máy chủ khác, bằng cách thay đổi base URL. Điều đó làm cho một bản dùng thử ngắn có rủi ro thấp ngay cả khi bạn quyết định chuyển sang nơi khác.

Những gì bản dùng thử không bao gồm

Hãy rõ ràng về các giới hạn. Dùng thử là để kiểm tra và nó kết thúc sau 7 ngày bất kể bạn đã sử dụng hết hay chưa. Nó không nâng giới hạn và bạn không thể nhận nó hai lần. Nó cũng không thay đổi bản chất của dịch vụ: một mô hình trọng số mở, do nhà cung cấp độc lập vận hành, được tinh chỉnh để trả lời mà không từ chối nội dung cho mục đích người trưởng thành hợp pháp. Nó chỉ là văn bản, không có hình ảnh, âm thanh, embedding hoặc tinh chỉnh, và nội dung tình dục liên quan đến người chưa thành niên không bao giờ được phép.

Các prompt không được sử dụng để huấn luyện. Tuy nhiên, đừng dán các bí mật hoặc dữ liệu khách hàng riêng tư vào bất kỳ bài kiểm tra nào, miễn phí hoặc trả phí. Hãy kiểm tra với dữ liệu tổng hợp trước.

Sau khi dùng thử: trả tiền cho nhiều hơn

Khi tín dụng hết, bạn chuyển sang tín dụng trả trước không có đăng ký. Bất kỳ số tiền nguyên nào từ $20 đến $500 đều được, thanh toán bằng tiền mã hóa (USDT trên TRC20, USDC trên Base). Nạp tiền lớn hơn thêm tiền thưởng: +5% từ $50, +10% từ $100 và +15% từ $200, vì vậy $100 cho $110 tín dụng và $200 cho $230. Tín dụng không bao giờ hết hạn.

Ở cấu hình 2.000 đầu vào, 500 đầu ra, một khoản nạp $20 là khoảng 36.000 yêu cầu. Xem trang giá cả để biết chi tiết, ghi chú giá endpoint cho các chi phí đã tính toán và tài liệu cho mọi tham số.

Hỏi đáp

Tôi có cần thẻ để nhận tín dụng miễn phí không?

Không. Bạn đăng ký bằng Google hoặc email và nhận $0,50 chỉ với một cú nhấp chuột trên trang khóa API.

Tín dụng dùng thử có thời hạn bao lâu?

Nó có hiệu lực trong 7 ngày kể từ khi nhận. Tín dụng chưa sử dụng sau thời gian đó sẽ bị mất.

Tôi có thể nhận nhiều lần không?

Không. Gói dùng thử chỉ dành cho một người.

Tín dụng trả tiền khác với tín dụng dùng thử không?

Tín dụng trả tiền không bao giờ hết hạn và khóa của bạn nhận được giới hạn đầy đủ là 8 yêu cầu đồng thời và 300 yêu cầu mỗi phút.

Khóa của bạn chỉ cách một bước

Tạo tài khoản, sao chép khóa, thay đổi URL cơ sở. Đó là toàn bộ thiết lập.

Lấy khóa APIĐọc tài liệu