- Google의 새 Gemini 라인업 - Experimental
- 구글이 Gemini 1.5 Pro, Flash, Flash 8B 실험 버전을 출시했으며, Pro와 Flash는 기존 버전보다 성능이 향상되었습니다. 특히 Flash 8B는 경량화된 모델로, 일부 작업에서 만족스러운 결과를 보여줍니다.
Gemini 1.5 Flash 8b
얼마전 Gemini Flash 8b 가 AI Studio에서 릴리즈 되었다.
우선 당분간 ( 10월14일까지 ) 가격이 과금되지 않는다. ( 이후에도 무료 티어가 존재하긴 하지만 분당 최대 15회 ,하루 1500 회 )
현재는 최대 분당 4천회가 무료로 서비스가 제공되고 있다. 그래서 일부 서비스에서도 적용하여 테스트를 해보고 있고, 다양하게 성능 및 퍼포먼스 테스트를 해봤다.
우선 성능.
확실히 Gemini Flash-002 와 비교하면 확실히 성능이 떨어진다. 구형 Flash-001 과 비슷한듯.
이전 글에서 Flash8b 가 Gemini Flash 001 과 비슷하다고 했는데, 실제로 사용해보니 그렇다.
발표된 가격이 Flash 와 비교해서 Flash-8b 는 절반 가격으로 발표되서, 현재는 조금 고민중. 이걸 계속 쓸수 있나...
정말 단순한 기능에서만 사용할 수 있을꺼 같다. 예를들면, 단순한 분류 작업등에서만 사용이 가능할듯 하다. 좀 복잡하게 사전지식등이 필요한 형태로 LLM 에게 작업을 시켜야 하는 경우에는 조금 아쉬움이 있다.
속도.
속도는 Flash 와 비교해서 "발표"상으로는 더 빨라졌다 하는데, 잘 모르겠다. 얼추 비슷해서 구별이 안되는 수준.
초당 4천번을 호출해보지 않아서 그속도는 잘 모르겠다. ( 앞으로도 쓸일은 없을듯 )
우선 AI Studio 를 쓰다 보니, 안전필터 이슈가 좀 있다.
뉴스 컨텐츠를 분류 시켰더니 안전필터 해제가 안되서 간혹 오류가 발생.
총평.
우선 AI Studio 만으로는 아직 전체적으로 원하는 사용이 조금 힘들다. Vertex AI 에 도입이 되면 다시 한번 테스트를 해봐야겠다.
댓글0