यह एक AI अनुवादित पोस्ट है।
भाषा चुनें
durumis AI द्वारा संक्षेपित पाठ
- एन्थ्रोपिक का क्लाउड 3 अब GCP पर उपलब्ध है, और वर्तमान में केवल सॉनेट और हाकू उपलब्ध हैं, जबकि ओपस जल्द ही लॉन्च होने वाला है।
- H2O.ai द्वारा RAG का उपयोग करके क्लाउड 3 हाकू का जेमिनी के साथ तुलनात्मक मूल्यांकन करने पर, यह पाया गया कि क्लाउड 3 हाकू सबसे सस्ता मूल्य पर प्रति मिलियन टोकन के लिए इनपुट और आउटपुट प्रदान करता है।
- अपनी आवश्यकताओं के आधार पर, आप क्लाउड 3 हाकू और जेमिनी सहित विभिन्न मॉडल का संयोजन करके उपयोग कर सकते हैं।
हाल ही में लोकप्रिय Anthropic के Claude 3 को GCP में इस्तेमाल किया जा सकता है।
( वास्तव में इसे कुछ समय पहले ही इस्तेमाल किया जा सकता है। )
अभी तक सब कुछ इस्तेमाल करने योग्य नहीं है, केवल Sonnet और Haiku का उपयोग किया जा सकता है, Opus अभी [ जल्द ही आ रहा है ].
सबसे पहले, H2O.ai ने RAG का उपयोग करके निम्नलिखित मीट्रिक का मूल्यांकन किया है।
LLM के आधार पर मूल्यांकन परिणाम
स्रोत : https://github.com/h2oai/enterprise-h2ogpte/blob/main/rag_benchmark/results/test_client_e2e.md
व्यक्तिगत रूप से, मैं Gemini के साथ तुलना में तालिका पसंद करता हूँ।
GCP पर उपलब्ध LLM मॉडल की कीमत और RAG सटीकता
सबसे दाहिनी ओर, ऊपर की तालिका में से केवल 5 LLM मॉडल हैं।
कीमत प्रत्येक 1 मिलियन टोकन के लिए इनपुट और आउटपुट के लिए है।
केवल टोकन के आधार पर, ऐसा लगता है कि वर्तमान में Claude 3 Haiku सबसे सस्ता है। (वास्तव में, Gemini Pro भी महंगा नहीं था।)
आवश्यकता के अनुसार, इन मॉडलों का मिश्रण एक साथ इस्तेमाल किया जा सकता है।
