Bu sefer, iki gün üst üste Google ve OpenAI'den yeni AI ile ilgili çok sayıda duyuru geldi.

Genellikle insanların merak ettiği iki önemli konu var.

Performans ve fiyat. (Elbette daha birçok özellik var, ancak bunları uzman blog yazarları inceleyecek…)

Open AI - GPT

OpenAI her zaman olduğu gibi yeni 4o modeli, mevcut GPT-4T'den daha uygun fiyatlı. Performansı hakkında başka birçok blogda çok sayıda inceleme bulabilirsiniz, bu nedenle bu konuya değinmiyorum. Burada öncelikle fiyat üzerine konuşacağım.

Temel olarak OpenAI, GPT 3.5 Turbo'dan sonra ilk olarak GPT 4'ü yayınladıktan sonra, yeni bir ürün yayınladığında her seferinde fiyatı düşürdü. Elbette performans da artıyor. Şu an için elbette daha düşük bir maliyet seçmeniz gerekiyorsa 3.5 Turbo'yu kullanmanız gerekir. Diğer durumlarda 4o'yu kullanmanız iyi olabilir.

Anthopic - Claude 3

Anthropic yakın zamanda yeni bir ürün yayınlamadı ancak maliyet performans açısından Haiku ve yüksek performanslı Opus modelleri nedeniyle, LLM şirketlerinden biri olarak dikkate alınması gereken bir şirket.

Giriş token fiyatı baz alındığında, 3 şirket arasında en uygun fiyatlı Haiku, basit metinleri işlerken en uygun fiyatlı model.

Hatta, Gemini Flash çıkana kadar, Haiku, Gemini 1.0 Pro'dan daha iyi performans gösteriyordu, bu nedenle oldukça yararlı bir LLM.

Google - Gemini

Google iki fiyatlandırma sistemi kullanıyor.

Birisi AI Studio, diğeri ise Vertex AI.

AI Studio, diğer şirketler gibi token tabanlı fiyatlandırma kullanırken, Vertex AI, ilginç bir şekilde karakter tabanlı fiyatlandırma kullanıyor.

Yukarıdaki tabloya göre düşünürsek, 1 token ortalama 3 karakterden az (1-2 karakter) ise Vertex AI'de kullanmak daha uygun fiyatlıdır, 3 karakter veya daha fazla ise AI Studio daha uygun fiyatlıdır. Ancak genellikle İngilizce'de karakter sayısı fazla olduğu için, AI Studio daha uygun fiyatlıdır. Günümüzde Korece'de de 1 token'ın birçok karakterden oluştuğu durumlar sıkça yaşanıyor…

Neyse, hem giriş token'i hem de performansı göz önünde bulundurduğumuzda, Gemini 1.5 Flash, 1.0 Pro'dan çok daha iyi ve yüksek performans gerektiren görevler için 1.5 Pro daha avantajlı.

Genel Bakış

Sadece performansı baz aldığımızda, MMLU standardına göre GPT-4o > Opus > 1.5 Pro sıralaması görülüyor.

Yüksek düzeyde entelektüel görevler için GPT-4o'yu tercih edebilirsiniz. Daha uygun fiyatlı bir model kullanmak isterseniz, Gemini 1.5 Pro'yu da kullanabilirsiniz. Bunları gerçekten denediğinizde, kullanım deneyimleri biraz farklı oluyor, bu nedenle her kullanıcının kendine uygun olanı seçmesi gerekiyor.

Uygun fiyatlı, büyük hacimli metin işlemleri yapmak için iki seçenek var:

Giriş karşılığında çıktı oranı düşük olduğunda (Örneğin, büyük miktarda belgeyi girmeniz ve kısa bir çıktı elde etmeniz gerekiyorsa) Claude 3 Haiku en uygun fiyatlıdır. Ancak Haiku, çıktı maliyeti yüksektir, bu nedenle bunun tersi olarak, çıktı oranı yüksek olduğunda (Örneğin, belirli bir metni girdikten sonra onu düzeltmek veya değiştirmek için talimat vermek gibi) Gemini 1.5 Flash önerilir. Bu durumda, çıktı maliyeti en düşük olan Flash'tır.

Özet ve Sonuç

"Fiyat umurumda değil, en karmaşık görevleri yapmak istiyorum." -> GPT - 4o

"Ancak giriş token'inin boyutu 128K'dan fazla." (GPT - 4o, yalnızca 128K'ya kadar destekliyor) -> Opus

"Yüksek performans gerekli ancak fiyat biraz daha düşük olmalı veya token boyutu 200K'dan fazla olmalı." (Opus, yalnızca 200K'ya kadar destekliyor) -> Gemini 1.5 Pro

En uygun fiyatlı LLM'ye ihtiyacım var. -> Haiku

Ancak giriş/çıkış oranında çıktı daha fazla veya 200K token'i geçiyor. -> Gemini 1.5 Flash