Đổi endpoint, giữ lại cách gọi OpenAI quen thuộc
API tương thích giúp tái sử dụng SDK và cấu trúc request hiện có, nhưng model ID và mức tương thích từng endpoint vẫn phải được kiểm thử.
Python quickstart
Request đầu tiên rất đơn giản; phần quan trọng là bảo vệ khóa, đặt timeout, giới hạn retry và ghi lại request ID.
Đọc key và base URL từ biến môi trường. Không commit file .env, không đưa key vào notebook công khai và không gửi key đầy đủ trong ảnh chụp lỗi. Tạo khóa riêng cho development, staging và production.
Ứng dụng production phải có timeout kết nối và timeout đọc. Chỉ retry lỗi tạm thời như 429 hoặc 5xx, dùng exponential backoff và giới hạn số lần. Không retry vô hạn vì sẽ nhân chi phí và làm sự cố upstream nặng hơn.
Gắn metadata hoặc khóa riêng cho từng feature nếu hệ thống hỗ trợ. Lưu model ID, token usage, latency và request ID. Dữ liệu này giúp biết feature nào tiêu tiền và model nào thực sự hiệu quả.
Câu hỏi thường gặp
Không bắt buộc. Với endpoint tương thích, có thể dùng OpenAI SDK và thay base URL.
Streaming cải thiện cảm nhận cho chat, nhưng cần kiểm tra timeout và xử lý stream bị ngắt.
Đọc tiếp
API tương thích giúp tái sử dụng SDK và cấu trúc request hiện có, nhưng model ID và mức tương thích từng endpoint vẫn phải được kiểm thử.
Tạo khóa và gọi request đầu tiên.
Tổng chi phí bằng input, output và các request chạy lại; dự toán tốt phải dựa trên log thật thay vì ước lượng số từ.
Tạo tài khoản, chọn nhóm mô hình và theo dõi mức sử dụng trong cùng một bảng điều khiển.