Это сообщение переведено AI.
Выбрать язык
Текст, резюмированный ИИ durumis
- Модель Anthropic Claude 3 теперь доступна в GCP, в настоящее время доступны только Sonnet и Haiku, а Opus будет выпущен в ближайшее время.
- По результатам оценки, проведенной H2O.ai с использованием RAG, Claude 3 Haiku является наиболее доступным вариантом, позволяющим выполнить ввод и вывод на миллион токенов.
- При необходимости можно использовать комбинацию Claude 3 Haiku, Gemini и других моделей.
В последнее время популярный Claude 3 от Anthropic стал доступен на GCP.
(На самом деле, он доступен уже некоторое время).
До сих пор доступны только Sonnet и Haiku, Opus пока [Скоро].
Во-первых, вот показатели, которые H2O.ai получил с помощью RAG:
Результаты оценки для различных LLM
Источник: https://github.com/h2oai/enterprise-h2ogpte/blob/main/rag_benchmark/results/test_client_e2e.md
Лично я предпочитаю сравнивать с Gemini, вот таблица:
Цены и точность RAG для моделей LLM, доступных в GCP
Справа - таблица с 5 моделями LLM.
Цена указана за 1 миллион токенов на ввод и вывод.
Судя по количеству токенов, сейчас Claude 3 Haiku - самая дешёвая модель. (На самом деле, Gemini Pro тоже не был дорогой...).
Возможно, стоит комбинировать разные модели в зависимости от ваших потребностей.
