▲업스테이지 CI
업스테이지는 프렌들리AI와 손잡고 자사 거대언어모델(LLM) '솔라' 기반 번역 모델 인프라 구축 계약을 체결했다고 10일 밝혔다.
업스테이지는 솔라 LLM을 파인튜닝(미세조정)한 한국어-영어 번역 특화 모델을 응용프로그램 인터페이스(API) 형태로 공개했다.
단순 문장 번역을 넘어 전후 문맥을 종합해 의미를 추론하고, 대화 맥락과 흐름까지 파악하는 딥러닝 번역이 특징이다.
기계번역 평가의 바로미터로 꼽히는 메타의 '플로레스' 벤치마크 평가에서 오픈AI의 GPT-4, 딥엘(DeepL) 등을 뛰어넘을 정도로 정확도가 높은 것으로 평가된다.
업스테이지는 일일 최대 10만여건에 달하는 번역 트래픽을 효율적으로 처리하기 위해 프렌들리AI의 '프렌들리 전용 엔드포인트'를 도입했다. 트래픽 부하에 따라 그래픽처리장치(GPU) 할당량을 동적으로 조정하는 '자동 스케일링' 기능을 통해 서비스 운영을 자동화하고 비용을 크게 절감했다.
김성훈 업스테이지 대표는 “이번 협력을 통해 솔라 번역 모델의 서비스 비용을 효율화하게 됐다"며 “더 많은 사람들이 세계 최고 수준의 번역 모델을 빠르고 손쉽게 사용할 수 있을 것으로 기대한다"고 말했다.
;){kind=link}