Ini adalah postingan yang diterjemahkan oleh AI.
Pilih Bahasa
Teks yang dirangkum oleh AI durumis
- Model Anthropic Claude 3 kini tersedia di GCP, saat ini hanya Sonnet dan Haiku yang tersedia, sedangkan Opus akan segera dirilis.
- Berdasarkan penilaian perbandingan Claude 3 Haiku dengan Gemini menggunakan RAG oleh H2O.ai, Claude 3 Haiku menawarkan harga terendah untuk input dan output per 1 juta token.
- Anda dapat menggunakan kombinasi model yang berbeda, termasuk Claude 3 Haiku dan Gemini, sesuai dengan kebutuhan Anda.
Anthropic's Claude 3 yang sedang tren sekarang dapat digunakan di GCP.
(Sebenarnya sudah bisa digunakan beberapa waktu yang lalu.)
Namun, belum semua fitur dapat digunakan, hanya Sonnet dan Haiku yang dapat digunakan, sedangkan Opus masih [Coming Soon].
Pertama-tama, berikut adalah metrik yang dinilai oleh H2O.ai menggunakan RAG:
Hasil penilaian per model LLM
Sumber:https://github.com/h2oai/enterprise-h2ogpte/blob/main/rag_benchmark/results/test_client_e2e.md
Berikut adalah tabel perbandingan dengan Gemini yang secara pribadi saya sukai.
Harga dan keakuratan RAG dari model LLM yang tersedia di GCP
Bagian paling kanan adalah tabel di atas yang hanya menyaring 5 model LLM.
Harga untuk setiap input dan output 1 juta token.
Jika dilihat dari token saja, Claude 3 Haiku saat ini tampaknya yang paling murah. (Sebenarnya, Gemini Pro juga tidak terlalu mahal.)
Anda dapat menggunakan kombinasi dari setiap model sesuai kebutuhan.
