Claude Fable 5.2 có chi phí cao hơn GPT-6 Astra bất chấp giá niêm yết thấp hơn
Một bài kiểm tra đối đầu cho thấy Claude Fable 5.2 sử dụng gấp năm lần số token so với GPT-6 Astra, dẫn đến chi phí API thực tế cao hơn đáng kể.
Được dịch tự động từ bản gốc tiếng Anh.
Anthropic’s Claude Fable 5.2 và OpenAI’s GPT-6 Astra đã được thử nghiệm trên các tác vụ lập trình giống hệt nhau để so sánh hiệu quả thực tế. Mặc dù có mức phí API công bố thấp hơn, Fable 5.2 lại gây ra chi phí ước tính cao hơn 236% so với Astra do tiêu thụ quá nhiều token.
Chuyện gì đã xảy ra
Anthropic ra mắt Claude Fable 5.2 vào ngày 9 tháng 11, định vị nó là một mô hình vượt trội cho các công việc kỹ thuật đòi hỏi khắt khe. Công ty báo cáo rằng Fable 5.2 đã đánh bại GPT-6 Astra của OpenAI trên hai chuẩn đo lường lập trình lớn, FrontierCode 2.0 và FrontierSWE v2. Fable 5.2 cũng quảng bá mức phí API tiêu chuẩn thấp hơn so với đối thủ cạnh tranh, gợi ý lợi thế về chi phí cho các nhà phát triển.
Tuy nhiên, điểm số benchmark không phải lúc nào cũng phản ánh chi phí vận hành. Để điều tra chi phí thực sự khi sử dụng các mô hình này, một loạt các bài kiểm tra đã mô phỏng quy trình làm việc thực tế của nhà phát triển. Kết quả tiết lộ rằng mặc dù Fable 5.2 có giá thấp hơn mỗi triệu token, nó lại tiêu thụ nhiều token hơn đáng kể để hoàn thành cùng một tác vụ. Trong ba bài kiểm tra cụ thể, Fable 5.2 đã sử dụng khoảng gấp năm lần số token so với GPT-6 Astra.
Hóa đơn API ước tính cuối cùng cho Fable 5.2 là $13.39, so với chỉ $3.99 cho GPT-6 Astra. Sự chênh lệch này làm nổi bật khác biệt giữa giá niêm yết và chi phí thực tế. Chủ tịch OpenAI Greg Brockman đã lưu ý tại buổi ra mắt Astra rằng "giá mỗi tác vụ mới là điều quan trọng", một nhận định được ủng hộ bởi những phát hiện này.
Cách thức hoạt động
Các nhà cung cấp AI tính phí người dùng dựa trên token, tức là các đoạn văn bản mà mô hình đọc và viết. Cả Anthropic và OpenAI đều tính phí riêng cho token đầu vào và đầu ra, với các mức phí bổ sung cho token đầu vào được cache và token suy luận (reasoning). Token suy luận, đại diện cho quá trình tư duy nội bộ của mô hình, được tính phí như token đầu ra.
Claude Fable 5.2 niêm yết mức phí tiêu chuẩn ở mức $8 cho mỗi triệu token đầu vào không được cache và $40 cho mỗi triệu token đầu ra. Ngược lại, GPT-6 Astra tính phí $10 cho mỗi triệu token đầu vào và $50 cho mỗi triệu token đầu ra. Trên giấy tờ, Fable 5.2 trông rẻ hơn. Tuy nhiên, tổng chi phí phụ thuộc vào khối lượng token được tạo ra trong một phiên làm việc.
Trong thực tế, Fable 5.2 đã tạo ra nhiều token suy luận và đầu ra hơn rất nhiều so với Astra. Ví dụ, trong một tác vụ sửa lỗi, Fable 5.2 đã sử dụng hơn 17.000 token suy luận, trong khi Astra chỉ dùng 819. Mức sử dụng token cao này đã đẩy tổng chi phí của Fable 5.2 lên, lấn át mức phí thấp hơn mỗi token của nó. Cơ chế ở đây khá đơn giản: hiệu quả trong việc sử dụng token thường quan trọng hơn những khác biệt nhỏ về đơn giá.
Chi tiết chính
- Bài kiểm tra sửa lỗi: Cả hai mô hình đều sửa được tất cả 10 lỗi và vượt qua 50 bài kiểm tra ẩn. Fable 5.2 tốn $2.51 và mất 326 giây, trong khi Astra tốn $0.98 và mất 122 giây.
- Bài kiểm tra rà soát mã nguồn: Fable 5.2 đạt điểm 49/50, xác định 44 lỗi mà không có cảnh báo giả. Astra đạt điểm 45, bỏ sót một số lỗi nhưng chỉ tốn $0.95 so với $6.05 của Fable.
- Bài kiểm tra viết mã: Cả hai mô hình đều đạt điểm 50/50, viết các hàm kiểm tra VAT và IBAN hợp lệ từ đầu. Fable 5.2 tốn $4.83, trong khi Astra tốn $2.06.
- Mức sử dụng token: Trong tất cả các bài kiểm tra, Fable 5.2 đã xử lý 4.400.139 token đầu vào và 226.917 token đầu ra. Astra xử lý 884.143 token đầu vào và 39.494 token đầu ra.
- Tổng chi phí: Tổng chi phí ước tính cho Fable 5.2 là $13.39, trong khi GPT-6 Astra chỉ hết $3.99.
- Tốc độ: Fable 5.2 mất 2.157 giây để hoàn thành tất cả các tác vụ, trong khi Astra hoàn thành trong 832 giây.
Tại sao điều này quan trọng
Đối với các lãnh đạo kỹ thuật và nhà phát triển, so sánh này nhấn mạnh tầm quan trọng của việc giám sát hiệu quả token thay vì chỉ dựa vào giá niêm yết. Một mô hình có đơn giá thấp hơn có thể trở nên đắt đỏ nếu nó dài dòng hoặc kém hiệu quả trong quá trình suy luận. Các nhóm xây dựng tính năng ứng dụng AI phải đánh giá tổng chi phí sở hữu, bao gồm độ trễ và khối lượng token, để đưa ra lựa chọn nhà cung cấp sáng suốt.
Sự đánh đổi giữa chi phí và độ chính xác cũng rất quan trọng. Trong bài kiểm tra rà soát mã nguồn, Fable 5.2 tìm thấy ba lỗi nhiều hơn Astra. Đối với các ứng dụng rủi ro cao như hóa đơn tài chính, nơi một quy tắc xác thực bị bỏ sót có thể gây ra sai sót nghiêm trọng, chi phí cao hơn của Fable 5.2 có thể được biện minh. Tuy nhiên, đối với các tác vụ thường nhật nơi tốc độ và chi phí là ưu tiên, Astra cung cấp 91% khả năng phát hiện lỗi với chỉ 16% chi phí.
Nhà phát triển nên nhận ra rằng vị trí dẫn đầu benchmark không đảm bảo hiệu quả vận hành. Thử nghiệm thực tế tiết lộ rằng hành vi của mô hình biến đổi đáng kể tùy theo loại tác vụ. Hiểu rõ những sắc thái này cho phép các nhóm chọn đúng mô hình cho từng trường hợp sử dụng cụ thể, cân bằng giữa độ chính xác và ràng buộc ngân sách.
Bạn có thể làm gì
- Thử nghiệm cả hai mô hình trên khối lượng công việc cụ thể của bạn: Chạy các thử nghiệm quy mô nhỏ với cả Claude Fable 5.2 và GPT-6 Astra sử dụng mã nguồn của riêng bạn để đo lường mức sử dụng token và chi phí thực tế.
- Giám sát token suy luận: Hãy chú ý kỹ đến số lượng token suy luận được tạo ra, vì chúng đóng góp đáng kể vào chi phí đầu ra và có thể biến đổi rộng rãi giữa các mô hình.
- Đánh giá mức độ quan trọng của tác vụ: Sử dụng các mô hình chi phí cao hơn, độ chính xác cao hơn như Fable 5.2 cho các cuộc rà soát mã nguồn quan trọng hoặc gỡ lỗi phức tạp, và chuyển sang các mô hình hiệu quả hơn như Astra cho các tác vụ sinh mã thường nhật.
- Theo dõi độ trễ song song với chi phí: Cân nhắc khoản tiết kiệm thời gian mà các mô hình nhanh hơn mang lại, vì thời gian chờ giảm có thể cải thiện năng suất của nhà phát triển và trải nghiệm người dùng.
- Xem xét chiến lược caching: Tìm hiểu cách mỗi nhà cung cấp xử lý token đầu vào được cache, vì caching hiệu quả có thể giảm chi phí cho các truy vấn lặp đi lặp lại.
- Thiết lập cảnh báo ngân sách: Triển khai các giới hạn chi tiêu chặt chẽ và cảnh báo trong bảng điều khiển API của bạn để ngăn chặn hóa đơn bất ngờ từ các mô hình tiêu thụ nhiều token.



