언어 선택
durumis AI가 요약한 글
- 구글이 Gemini Flash LLM의 가격을 최대 85%까지 인하하며, OpenAI GPT-3 Davinci 대비 100배 저렴한 가격을 제공한다.
- 특히 한국어 지원 및 성능 면에서 Gemini Flash가 압도적으로 우수하며, 빠른 가격 경쟁으로 인해 LLM 활용 비용 부담이 크게 감소했다.
- 두루미스는 LLM 비용 걱정 없이 기능 추가가 가능해지며, 앞으로 더욱 발전된 모습을 보여줄 것으로 기대된다
간밤에 구글에서 Gemini Flash 관련 가격인하 발표를 했다. 최대 85% 의 가격을 인하한다는 내용이었다.
내가 최근에 가격 인하 관련해서 포스팅만 5개 정도 한거 같은데.. 어쩌다 보니 그만큼 가격을 내리고 있다고 보면 될듯 하다.
몇일전 가격인하 관련 포스팅을 했는데, 몇일 사이에 또.. 인하를 했다.
새롭게 인하한 가격에 관련된 글은 다음과 같다.
관련된 구글 문서는 다음과 같다.
그래서, 한동안 가격 관련 포스팅을 너무 많이 해서 , 중간에 한번 정리하고 당분간은 가격 관련 포스팅을 안하려고 정리를 한번 하고 가려고 한다.
OpenAI 에서 작년 초 제품인 GPT 3 의 Davinci 가 Input/Output 1M 토큰당 가격이 무려 $2 이다.
이번에 인하된 구글의 Gemini Flash 가격은 I/O 가 각각 $ 0.01875 / $ 0.075 . Input 기준으로 했을때 가격차이가 무려 100배다. 100분의 1로 떨어졌다는 이야기. ( 게다가 Batch Prediction 을 쓰면 이 차이는 200배로 벌어진다. )
그렇다면 성능은? 비교하기에 미안할정도로 차이가 크다. Flash 는 다양한 분야에서 어쨌던 상위권에 있는 LLM이고, ( 플래그쉽을 제외하고 ) 기본적으로 다국어에 능한데, 당시의 Davinci 는 한국어조차 애매했던 제품이니까.
이렇게 빠르게 가격 경쟁이 이뤄지면서 인하되는 업계는 첨보는듯.
3개월마다 거의 반값으로 내리고 있는데, 작년에 두루미스를 시작할때 번역 비용이 살짝 걱정이 되긴 했지만 , 당시에도 구글이 가격을 인하하고 있었어서 "에이 구글이 알아서 해주겠지."라고 생각했는데, 실제로 해냈다.
이젠 적어도 LLM부분은 비용걱정을 거의 안하고, 기능을 마구 추가할 수 있는 상황.
앞으로도 계속 가격을 내린다는 보장은 없지만, 어쨌던 현재 수준의 가격만으로도 진짜 해보고 싶은건 거의 다 때려 넣을 수 있을꺼 같다.
점점 더 발전하는 두루미스에 대해 기대를 가질 수 있기를..
