TOZPIEĐang tải...
Compact GPT model for low-latency assistance and high-volume workloads
Khuyên dùng cho: Phù hợp cho các tác vụ Chat, Completions và triển khai production chịu tải cao.
import OpenAI from "openai";
const client = new OpenAI({
apiKey: "aig_live_YOUR_API_KEY",
baseURL: "https://api.tozpie.net/v1"
});
async function main() {
const completion = await client.chat.completions.create({
model: "GPT-3.5 Turbo",
messages: [{ role: "user", content: "Hãy giới thiệu năng lực của bạn." }],
stream: true,
});
for await (const chunk of completion) {
process.stdout.write(chunk.choices[0]?.delta?.content || "");
}
}
main();| Tham số | Kiểu dữ liệu | Mặc định | Mô tả |
|---|---|---|---|
| model | string | bắt buộc | Định danh mô hình cần sử dụng (ví dụ: "GPT-3.5 Turbo"). |
| messages | array | bắt buộc | Danh sách các đối tượng tin nhắn cấu thành lịch sử hội thoại. |
| stream |
| boolean |
| false |
| Nếu true, trả về luồng dữ liệu Server-Sent Events (SSE). |
| temperature | number | 1.0 | Độ biến thiên ngẫu nhiên của phản hồi (từ 0.0 đến 2.0). |
| max_tokens | integer | null | Số lượng tokens tối đa tạo ra trong kết quả phản hồi. |