Claude Sonnet 5.5 có giá niêm yết bằng một nửa so với Claude Opus 5.5, nhưng hai hệ thống theo dõi độc lập vẫn xếp hạng chúng khác nhau về chi phí cho một tác vụ. Lý do rất đơn giản: bạn trả tiền cho số lượng token mà mô hình sử dụng, và các mô hình sử dụng lượng token rất khác nhau. Hướng dẫn này chỉ cho bạn cách tự đo lường chi phí trên mỗi tác vụ với công việc của chính bạn.
Hai hệ thống theo dõi, hai câu trả lời
Tính trên mỗi triệu token, Sonnet 5.5 có giá $2 đầu vào và $10 đầu ra, trong khi Opus 5.5 có giá $4 và $20.
Trên Vals Index, Sonnet 5.5 có giá $21.34 cho mỗi bài kiểm tra và Opus 5.5 có giá $32.14, vì vậy Sonnet rẻ hơn trên mỗi bài kiểm tra.
Artificial Analysis, theo báo cáo của AI Weekly và các nguồn khác, đo lường kết quả ngược lại ở mức nỗ lực tối đa. Sonnet 5.5 đã sử dụng khoảng 193,000 token đầu ra cho mỗi tác vụ và tốn $7.60, trong khi Opus 5.5 sử dụng khoảng 119,000 và tốn $5.98.
Hai hệ thống theo dõi sử dụng các tác vụ khác nhau và các cài đặt nỗ lực khác nhau, vì vậy chúng không mâu thuẫn với nhau. Chúng cho thấy chi phí cho mỗi tác vụ phụ thuộc vào những gì bạn yêu cầu và mức độ bạn yêu cầu mô hình phải suy nghĩ.
Phép toán
Một mô hình có chi phí trên mỗi token rẻ hơn một nửa nhưng lại viết ra nhiều hơn 60% token thì tính riêng phần đầu ra vẫn có chi phí cao hơn khoảng 20%: 0.5 × 1.6 = 0.8. Thêm vào đầu vào, token được lưu vào bộ nhớ đệm (cache) và các lượt gọi công cụ bổ sung, khoảng cách đó có thể thu hẹp hoặc đảo ngược. Đó là những gì Artificial Analysis đã báo cáo ở mức nỗ lực tối đa.
Công thức là:
- Chi phí mỗi lần gọi = token đầu vào × giá đầu vào + token trong bộ nhớ đệm × giá bộ nhớ đệm + token đầu ra × giá đầu ra
- Chi phí mỗi tác vụ = tổng của mọi lần gọi cần thiết, bao gồm cả các lần thử lại
- Chi phí cho mỗi tác vụ hoàn thành = tổng chi phí ÷ số tác vụ thực sự vượt qua
Chỉ có con số cuối cùng mới cho bạn biết công việc hoàn thành có giá bao nhiêu.
Mức độ nỗ lực làm thay đổi câu trả lời
Mức nỗ lực mặc định của Opus 5.5 là trung bình và tư duy thích ứng không thể tắt đi. Một bài viết ghi nhận Sonnet 5.5 sử dụng khoảng 14,000 token đầu ra cho mỗi tác vụ ở mức nỗ lực thấp, 19,000 ở mức trung bình, 34,000 ở mức cao và 74,000 ở mức rất cao. Hãy coi những con số đó là của người kiểm tra đó, chứ không phải của bạn, nhưng hình thái của chúng rất quan trọng: cùng một mô hình có thể đắt hơn gấp năm lần cho mỗi tác vụ ở một cài đặt cao hơn.
Đưa những ý tưởng vào thực tế.
Từ một cải tiến cụ thể đến một website hoàn chỉnh, chúng tôi giúp bạn xác định phạm vi và triển khai.
Trao đổi về website của tôiTự động hóa AIChia sẻ mục tiêu của bạn. Chúng tôi thường phản hồi trong vòng 4 giờ kèm theo các câu hỏi và bước tiếp theo thiết thực.
Tự đo lường trong một buổi chiều
- Chọn 20 tác vụ thực tế từ công việc của bạn, đã loại bỏ dữ liệu của khách hàng.
- Chạy từng tác vụ trên mỗi mô hình ở cài đặt nỗ lực mà bạn dự định sử dụng.
- Từ khối lượng sử dụng mà mỗi API trả về, hãy ghi lại số token đầu vào, token trong bộ nhớ đệm và token đầu ra cho mọi lần gọi.
- Đánh dấu mỗi tác vụ là đạt hoặc không đạt, sử dụng quy tắc bạn đã viết trước khi bắt đầu.
- Ghi lại số phút bạn đã dành để xem xét và sửa chữa từng kết quả.
- Tính chi phí cho mỗi tác vụ hoàn thành, và cộng thêm thời gian đánh giá của bạn theo mức lương theo giờ của chính bạn.
Sử dụng một bảng như thế này để ghi lại:
| Mô hình và mức nỗ lực | Tác vụ đã đạt | Token (đầu vào / bộ nhớ đệm / đầu ra) | Chi phí API | Số phút đánh giá | Chi phí cho mỗi tác vụ hoàn thành |
|---|---|---|---|---|---|
| Mô hình và cài đặt của bạn | Số lượng của bạn | Tổng số của bạn | Chi phí của bạn | Số phút của bạn | Tổng số chia cho số lượng đạt |
[Bộ công cụ kiểm tra mù] của chúng tôi (https://premiersol.co/blog/how-to-test-ai-models-wordpress-tasks-blind-test) cung cấp cho bạn năm WordPress tác vụ và một bảng tiêu chí (rubric) để bắt đầu.
Phải làm gì với câu trả lời
- Sử dụng mô hình rẻ hơn ở mức nỗ lực thấp hoặc trung bình cho công việc thông thường.
- Chuyển một tác vụ sang mô hình lớn hơn chỉ khi mô hình rẻ hơn không vượt qua được ở mức nỗ lực chấp nhận được.
- Đo lường lại sau mỗi lần phát hành mô hình. Giá cả, thói quen sử dụng token và hành vi nỗ lực sẽ thay đổi.
Các câu hỏi thường gặp
Sonnet 5.5 có rẻ hơn Opus 5.5 không?
Tính trên mỗi token thì có: nó có giá niêm yết bằng một nửa. Tính trên mỗi tác vụ, điều đó phụ thuộc vào cài đặt nỗ lực và công việc. Vals và Artificial Analysis chỉ ra các hướng khác nhau.
Chi phí cho mỗi tác vụ hoàn thành là gì?
Tổng chi phí chia cho số lượng tác vụ đã vượt qua bài kiểm tra chất lượng của bạn. Nó tính cả chi phí cho các lần thất bại và thử lại.
Việc lưu vào bộ nhớ đệm (caching) có làm thay đổi mô hình nào rẻ hơn không?
Có thể. Các lần đọc từ bộ nhớ đệm có giá 0.20 đô la cho mỗi triệu token trên Opus 5.5, vì vậy một tác vụ đọc lại một ngữ cảnh lớn sẽ rẻ hơn so với giá niêm yết của nó. Hãy đo lường điều đó bằng các lời nhắc thực tế của bạn.
Đang chọn một mô hình cho một dự án thực tế?
Chúng tôi kiểm tra các mô hình trên các tác vụ của bạn, ghi lại chi phí cho mỗi tác vụ hoàn thành và thiết lập giới hạn chi tiêu trước khi ra mắt. Xem dịch vụ tích hợp AI. của chúng tôi
