Đây là bài viết được dịch bởi AI.
Chọn ngôn ngữ
Văn bản được tóm tắt bởi AI durumis
- Anthropic's Claude 3 hiện có sẵn trên GCP, hiện tại chỉ có Sonnet và Haiku khả dụng, Opus dự kiến sẽ ra mắt sớm.
- Kết quả đánh giá so sánh Claude 3 Haiku với Gemini bằng cách sử dụng RAG của H2O.ai cho thấy Claude 3 Haiku là lựa chọn tiết kiệm nhất với khả năng xử lý đầu vào và đầu ra cho mỗi triệu token.
- Có thể kết hợp sử dụng nhiều mô hình khác nhau bao gồm Claude 3 Haiku và Gemini để phù hợp với nhu cầu.
Claude 3 của Anthropic, một công cụ phổ biến hiện nay, đã có sẵn trên GCP.
(Thực ra nó đã có sẵn một thời gian rồi.)
Tuy nhiên, không phải tất cả các tính năng đều có sẵn, chỉ Sonnet và Haiku được hỗ trợ, trong khi Opus vẫn đang [ Coming Soon ].
H2O.ai đã sử dụng RAG để đánh giá các chỉ số sau:
Kết quả đánh giá từng LLM
Nguồn: https://github.com/h2oai/enterprise-h2ogpte/blob/main/rag_benchmark/results/test_client_e2e.md
Bảng so sánh với Gemini, mô hình tôi thường sử dụng:
Giá cả và độ chính xác của RAG của các mô hình LLM khả dụng trên GCP
Bên phải là bảng tóm tắt 5 mô hình LLM từ bảng trên.
Giá cả được tính cho mỗi 1 triệu token đầu vào và đầu ra.
Nhìn vào số lượng token, Claude 3 Haiku có vẻ là rẻ nhất hiện nay. (Thực ra Gemini Pro cũng không quá đắt.)
Bạn có thể kết hợp các mô hình khác nhau để phù hợp với nhu cầu.
