Gemini 1.5 Flash, GPT-4o ve Diğer LLM'lerin Fiyatları

Geçtiğimiz iki gün boyunca Google ve OpenAI, yeni yapay zekâ ile ilgili inanılmaz derecede çok sayıda açıklama yaptı.

Genel olarak, insanların merak ettiği noktalar iki ana başlık altında toplanabilir.

Performans ve fiyat. (Elbette daha birçok özellik var ancak bunları uzman blog yazarları inceliyor…)

Open AI - GPT

OpenAI her zamanki gibi, yeni GPT-4o'ı mevcut GPT-4T'den daha uygun fiyatlı hale getirdi. Performans konusunda, birçok blogda sayısız inceleme mevcut olduğu için bu konuya girmeyeceğim, burada sadece fiyat konusunu ele alacağım.

Temelde Open AI, GPT 3.5 Turbo'dan sonra ilk olarak GPT 4'ü piyasaya sürdükten sonra, yeni ürün çıkardığında her zaman fiyatlarını düşürdü. Elbette performans da iyileştirildi. Şu an için, daha düşük maliyetli bir seçenek tercih edilmesi gerekiyorsa 3.5 Turbo tercih edilmeli. Diğer durumlarda ise 4o kullanmak mantıklı görünüyor.

Anthropic - Claude 3

Anthropic son zamanlarda yeni ürün duyurusu yapmasa da, uygun fiyatlı Haiku ve yüksek performanslı Opus modelleri nedeniyle göz ardı edilemeyecek bir LLM şirketidir.

Giriş token fiyatı baz alındığında, üç şirket arasında en uygun fiyatlı olan Haiku, basit metin işleme işlemleri için en uygun seçenektir.

Hatta, Gemini Flash'ın piyasaya sürülmesinden önce Haiku, Gemini 1.0 Pro'dan bile daha iyi performans gösterdiği için oldukça kullanışlı bir LLM'ydi.

Google - Gemini

Google, iki farklı fiyatlandırma sistemi kullanıyor.

Bunlardan biri AI Studio, diğeri ise Vertex AI.

AI Studio, diğer şirketlerdeki gibi token tabanlı fiyatlandırmaya sahipken, Vertex AI ise sıra dışı bir şekilde karakter tabanlı fiyatlandırma kullanıyor.

Yukarıdaki tabloya bakarak değerlendirdiğimizde, 1 token ortalama 3 karakterden az (1-2 karakter) ise Vertex AI kullanmak daha uygun maliyetlidir, 3 karakterden fazla ise AI Studio daha uygun maliyetlidir. Ancak, genellikle İngilizce metinlerde karakter sayısı daha fazla olduğu için AI Studio daha uygun fiyatlıdır. Türkçe'de de son zamanlarda 1 token'ın birden fazla karakteri kapsadığı durumlar daha fazla olduğundan…

Neyse, sadece giriş token sayısı ve performans açısından bakıldığında, Gemini 1.5 Flash, 1.0 Pro'dan çok daha iyi. Yüksek performans gerektiren görevlerde ise 1.5 Pro daha avantajlı.

Genel Değerlendirme

Sadece performansa bakıldığında, MMLU (Massive Multitask Language Understanding) ölçütüne göre GPT-4o > Opus > 1.5 Pro sıralamasında yer alıyor gibi görünüyor.

Yüksek düzeyde entelektüel iş gerektiren durumlarda GPT-4o tercih edilebilir. Biraz daha uygun fiyatlı bir seçenek kullanmak isterseniz, Gemini 1.5 Pro'yu da kullanabilirsiniz. Bunları gerçekten kullanınca fark biraz daha belirgin hale geliyor, bu nedenle her kullanıcının kendine uygun olanı seçmesi gerekir.

Düşük maliyetle büyük miktarda metin işleme yapılması gerekiyorsa iki seçenek mevcuttur.

Giriş'e göre Çıkış'ın oranının düşük olduğu durumlarda (örneğin, büyük miktarda belge girip kısa bir sonuç almak gerekiyorsa) Claude 3 Haiku en uygun fiyatlıdır. Ancak, Haiku'nun çıkış maliyeti yüksektir, bunun tam tersi olarak Çıkış'ın oranının yüksek olduğu durumlarda (örneğin, belirli bir metni girip bunu düzenleme veya değiştirme talimatları verilmesi gibi) Gemini 1.5 Flash önerilir. Bu gibi durumlarda, çıkış maliyeti en düşük olan Flash'tır.

Özet ve Sonuç

"Fiyat önemli değil, en karmaşık görevleri yapmak istiyorum." -> GPT - 4o

"Ancak, giriş token sayısı 128K'dan fazla." (GPT - 4o yalnızca 128K'ya kadar olan tokenları işleyebilir) -> Opus

"Yüksek performans gerekiyor ancak daha uygun fiyatlı olmalı veya token sayısı 200K'dan fazla." (Opus yalnızca 200K'ya kadar olan tokenları işleyebilir) -> Gemini 1.5 Pro

En uygun fiyatlı LLM'ye ihtiyacım var. -> Haiku

Ancak, Giriş/Çıkış oranında Çıkış biraz daha fazla veya 200K token'ı aşıyor. -> Gemini 1.5 Flash