Dies ist ein von KI übersetzter Beitrag.
Sprache auswählen
Von durumis AI zusammengefasster Text
- Der Anthropic Claude 3 ist jetzt auf GCP verfügbar, derzeit sind nur Sonnet und Haiku verfügbar, Opus wird in Kürze veröffentlicht.
- Eine Bewertung von Claude 3 Haiku mit Gemini unter Verwendung von RAG durch H2O.ai hat ergeben, dass Claude 3 Haiku zum günstigsten Preis Eingabe und Ausgabe für eine Million Token ermöglicht.
- Je nach Bedarf können Sie eine Mischung aus Claude 3 Haiku, Gemini und anderen Modellen verwenden.
Der derzeit im Trend liegende Anthropic Claude 3 ist jetzt auf GCP verfügbar.
( Tatsächlich ist es schon eine Weile verfügbar. )
Es ist noch nicht alles verfügbar, nur Sonnet und Haiku sind verwendbar, Opus ist noch [ Coming Soon ].
Zunächst einmal sind dies die Metriken, die H2O.ai mit RAG bewertet hat.
Bewertungsergebnisse nach LLM
Quelle : https://github.com/h2oai/enterprise-h2ogpte/blob/main/rag_benchmark/results/test_client_e2e.md
Persönlich bevorzuge ich die folgende Tabelle im Vergleich zu Gemini.
Preise und RAG-Genauigkeit für LLM-Modelle, die auf GCP verfügbar sind
Ganz rechts sind nur die 5 LLM-Modelle aus der obigen Tabelle ausgewählt.
Der Preis gilt jeweils für Ein- und Ausgabe von 1 Million Token.
Wenn man nur Token betrachtet, scheint Claude 3 Haiku derzeit am günstigsten zu sein. ( Tatsächlich war Gemini Pro auch nicht teuer... )
Es ist sinnvoll, je nach Bedarf verschiedene Modelle zu kombinieren.
