Python quickstart

Gọi API AI bằng Python theo cách có thể đưa lên production

Request đầu tiên rất đơn giản; phần quan trọng là bảo vệ khóa, đặt timeout, giới hạn retry và ghi lại request ID.

Không hard-code API key

Đọc key và base URL từ biến môi trường. Không commit file .env, không đưa key vào notebook công khai và không gửi key đầy đủ trong ảnh chụp lỗi. Tạo khóa riêng cho development, staging và production.

Đặt timeout và retry có kiểm soát

Ứng dụng production phải có timeout kết nối và timeout đọc. Chỉ retry lỗi tạm thời như 429 hoặc 5xx, dùng exponential backoff và giới hạn số lần. Không retry vô hạn vì sẽ nhân chi phí và làm sự cố upstream nặng hơn.

Theo dõi chi phí trên từng feature

Gắn metadata hoặc khóa riêng cho từng feature nếu hệ thống hỗ trợ. Lưu model ID, token usage, latency và request ID. Dữ liệu này giúp biết feature nào tiêu tiền và model nào thực sự hiệu quả.

Checklist trước khi quyết định

  • Key nằm trong biến môi trường
  • Timeout đã cấu hình
  • Retry chỉ cho lỗi tạm thời
  • Log không chứa prompt nhạy cảm
  • Theo dõi token theo feature

Câu hỏi thường gặp

Trả lời ngắn, có thể kiểm tra

Cần SDK riêng của TokenHub không?

Không bắt buộc. Với endpoint tương thích, có thể dùng OpenAI SDK và thay base URL.

Nên dùng streaming không?

Streaming cải thiện cảm nhận cho chat, nhưng cần kiểm tra timeout và xử lý stream bị ngắt.

Đọc tiếp

Nội dung liên quan

Bắt đầu với một khóa API

Tạo tài khoản, chọn nhóm mô hình và theo dõi mức sử dụng trong cùng một bảng điều khiển.

Tạo tài khoản