
GPT 5.6 có 72 cấu hình khả thi. Cấu hình mặc định nào là phù hợp?
Ghi chú ngắn gọn về cách các lựa chọn mô hình và nỗ lực của GPT 5.6 tương ứng với việc mở rộng quy mô trong quá trình huấn luyện và suy luận, tạo ra 72 cấu hình.
Đúng vậy, có lẽ có quá nhiều lựa chọn để chọn trong bản phát hành GPT 5.6.
Tuy nhiên, trong bối cảnh các mô hình suy luận, tôi thấy thú vị khi những lựa chọn này ánh xạ vào việc mở rộng quy mô thời gian huấn luyện và thời gian suy luận như thế nào. Nếu chúng ta ánh xạ một cách lỏng lẻo các tùy chọn vào các biểu đồ o1 cổ điển, Sol, Terra và Luna đại diện cho ba kích thước mô hình và ngân sách huấn luyện dọc theo trục tính toán huấn luyện. Các cài đặt nỗ lực sau đó nằm trên trục tính toán thời gian suy luận.
Hình 1. Một ánh xạ lỏng lẻo từ các biểu đồ mở rộng quy mô o1 cổ điển của OpenAI sang các lựa chọn GPT 5.6. Ba tùy chọn mô hình đại diện cho các kích thước mô hình và ngân sách huấn luyện khác nhau, trong khi cài đặt nỗ lực đại diện cho tính toán thời gian suy luận.
Danh sách đầy đủ có ba lựa chọn mô hình và sáu cấp độ nỗ lực suy luận (Light, Medium, High, Extra High, Max và Ultra). Khi Work so với Codex và Standard so với Fast được bao gồm, ma trận cấu hình đầy đủ trở thành
Work/Codex × Sol/Terra/Luna × Light/Medium/High/Extra High/Max/Ultra × Standard/Fast
Điều đó cho chúng ta 2 × 3 × 6 × 2 = 72 cấu hình có thể.
Vậy, đâu là một mặc định tốt bây giờ? Luna với nỗ lực High? Sol với nỗ lực Light? Terra với nỗ lực Medium?
Chắc chắn, biểu đồ hiệu suất so với chi phí có thể giúp xác định các kết hợp đáng giá. Ví dụ, Luna với nỗ lực Extra High có thể tốt hơn và rẻ hơn Sol với nỗ lực Medium.
Hình 2. Điểm số Artificial Analysis Coding Agent Index v1.1 được vẽ biểu đồ so với chi phí API trên GPT 5.6 và một số mô hình so sánh. Hình dựa trên bài đăng phát hành GPT 5.6 của OpenAI trên X.
Nhưng đúng vậy, 72 cấu hình có thể khiến chúng ta có rất nhiều lựa chọn.

Nguồn tin: Sebastian Raschka. Bản dịch tiếng Việt do AI thực hiện, có thể có sai sót.