สงครามราคา LLM ของ Google

เมื่อคืนที่ผ่านมา Google ได้ประกาศลดราคาของ Gemini Flash โดยลดราคาสูงสุดถึง 85%

ผมเพิ่งโพสต์เกี่ยวกับการลดราคาไปประมาณ 5 โพสต์ได้มั้ง...ดูเหมือนว่าตอนนี้ราคาจะลดลงจริง ๆ ตามที่โพสต์ไป

เมื่อไม่กี่วันที่ผ่านมา การลดราคา ผมเพิ่งโพสต์ไป แต่ผ่านไปไม่กี่วันก็ลดราคาอีกแล้ว

บทความเกี่ยวกับราคาที่ลดลงใหม่มีดังนี้

https://velog.io/@calmlake79/%EB%98%90..-%EA%B5%AC%EA%B8%80%EC%9D%B4-%EA%B0%80%EA%B2%A9%EC%9D%84

เอกสารของ Google ที่เกี่ยวข้องมีดังนี้

ดังนั้น เนื่องจากโพสต์เกี่ยวกับราคาบ่อยเกินไป ผมเลยจะสรุปก่อนแล้วค่อยหยุดโพสต์เกี่ยวกับราคาสักพัก

OpenAI ได้เปิดตัวผลิตภัณฑ์ GPT 3 Davinci เมื่อต้นปีที่แล้ว โดยมีราคา 1 ล้านโทเคน (Input/Output) สูงถึง 2 ดอลลาร์สหรัฐ

ราคาของ Gemini Flash ของ Google ที่ลดลงในครั้งนี้ I/O อยู่ที่ 0.01875 ดอลลาร์สหรัฐ / 0.075 ดอลลาร์สหรัฐ ตามลำดับ หากพิจารณาจาก Input จะเห็นว่าราคาต่างกันถึง 100 เท่า ลดลงเหลือ 1/100 (และหากใช้ Batch Prediction ความแตกต่างจะเพิ่มเป็น 200 เท่า)

แล้วประสิทธิภาพล่ะ? ผลลัพธ์ต่างกันมากจนไม่อยากเปรียบเทียบเลย Flash เป็น LLM ที่อยู่ในอันดับต้น ๆ ในหลาย ๆ ด้าน (ยกเว้น Flagship) และสามารถใช้ได้หลายภาษาโดยพื้นฐาน ในขณะที่ Davinci ในตอนนั้นยังไม่สามารถใช้ภาษาเกาหลีได้ดีนัก

การแข่งขันด้านราคาที่รวดเร็วแบบนี้เป็นเรื่องที่ไม่เคยเห็นมาก่อนในวงการ

ลดราคาลงครึ่งหนึ่งทุกๆ 3 เดือน เมื่อปีที่แล้ว ตอนที่เริ่มต้น Durumis (ดูรูมิส) ผมกังวลเรื่องค่าใช้จ่ายในการแปลเล็กน้อย แต่ตอนนั้น Google ก็ลดราคาอยู่แล้ว ผมเลยคิดว่า "เอาน่า Google คงจัดการเองได้แหละ" และก็เป็นจริงอย่างที่คิด

ตอนนี้ไม่ต้องกังวลเรื่องค่าใช้จ่ายในส่วนของ LLM อีกแล้ว สามารถเพิ่มฟีเจอร์ได้อย่างเต็มที่

แม้จะไม่มีการรับประกันว่าจะลดราคาต่อไปเรื่อย ๆ แต่ในปัจจุบันราคานี้ก็เพียงพอที่จะทดลองสิ่งที่อยากทำได้เกือบหมดแล้ว

หวังว่า Durumis (ดูรูมิส) จะพัฒนาต่อไปเรื่อย ๆ และทุกคนจะคาดหวังในตัวมันได้...