Bu, AI tarafından çevrilen bir gönderidir.
Dil Seç
Text summarized by durumis AI
- Anthropic'in Claude 3'ü GCP'de kullanılabilir hale geldi ve şu anda yalnızca Sonnet ve Haiku kullanılabilir, Opus ise yakında çıkacak.
- H2O.ai tarafından RAG kullanılarak yapılan bir değerlendirmede, Claude 3 Haiku'nun Gemini ile karşılaştırıldığında milyon başına giriş ve çıkış maliyeti açısından en ucuz seçenek olduğu ortaya çıktı.
- İhtiyaca bağlı olarak, Claude 3 Haiku ve Gemini dahil diğer modelleri karıştırarak kullanabilirsiniz.
Günümüzde popüler olan Anthropic'in Claude 3'ü artık GCP'de kullanılabilir.
( Aslında kullanılabilir olması biraz zaman önce gerçekleşti. )
Henüz hepsi kullanılabilir değil, yalnızca Sonnet ve Haiku kullanılabilir, Opus ise hala [ Yakında ].
Öncelikle H2O.ai RAG'yi kullanarak değerlendirdiği ölçütler şunlardır:
LLM Bazlı Değerlendirme Sonuçları
Kaynak :https://github.com/h2oai/enterprise-h2ogpte/blob/main/rag_benchmark/results/test_client_e2e.md
Kişisel olarak tercih ettiğim Gemini ile karşılaştırma tablosu şu şekildedir:
GCP'de Kullanılabilir LLM Modellerinin Fiyatları ve RAG Doğruluğu
Sağdaki tabloda, yukarıdaki tablodaki 5 LLM modeli seçilmiştir.
Fiyatlar her biri 1 milyon token için giriş ve çıkış içindir.
Yalnızca token bazında bakıldığında, şu anda Claude 3 Haiku en ucuz gibi görünüyor. ( Aslında Gemini Pro da pahalı değildi. )
İhtiyaçlara göre her bir modeli birleştirerek kullanmak faydalı olabilir.
