모레, 허깅페이스 LLM 리더보드서 글로벌 1위 달성

MOREH모레, 모델 개발 3개월만...자체 플랫폼이 미세조정 핵심"

(사진=모레)

인공지능(AI) 인프라 솔루션 전문 모레가 허깅페이스의 '오픈 LLM 리더보드'에서 1위를 차지했다. 지난해 12월 업스테이지 등에 이어 다시 국내 기업이 대형언어모델(LLM) 기술로 글로벌 정상에 올랐다.

모레(대표 조강원)는 '모모(MoMo)-70B' 모델로 평균 77.29점을 기록, 18일 현재 1위를 기록 중이라고 밝혔다. 

모모-70B는 700억 매개변수의 LLM이다. 17일 처음 리더보드 1위에 올라 줄곧 정상을 지키고 있다. 이 외에도 이전 버전(1.8.4)과 2위에, 다른 버전은 10위에 오르는 등 모델 3개를 10위권에 올려 놓았다.

모레는 모델 개발 착수에서 1위 달성까지 3개월 만에 거둔 성과라고 강조했다.

알리바바의 큐원(QWEN)-72B를 베이스로 선택했다. 개발을 시작한 지난 10월 당시에는 큐원이 글로벌 개발자들 사이에서 가장 큰 인기를 누렸다.

모레 역시 뛰어난 '언어 활용 능력(Multi-Lingual)', 즉 다국어에 빠르게 적응해 신속한 학습이 가능하다는 점에 초점을 맞췄다고 설명했다.

미세조정 핵심으로 AI 플랫폼 ‘모아이(MoAI)’를 꼽았다. 모아이는 고도의 병렬화 처리 기법을 이용해 대규모 AI 모델을 효율적으로 학습하도록 돕는다는 설명이다.

세계 정상에 이어 국내 정상에도 도전하겠다고 밝혔다. 즉 '오픈 Ko-LLM 리더보드'에서 한국어 능력을 평가받을 계획이다.

임정환 모레 AI 그룹장은 “이번 1위 달성은 뛰어난 AI 모델 개발 능력과 플랫폼 기술이 더해져 거둔 성과"라며 "자체 플랫폼을 통해 대규모 AI 모델 개발 및 학습에 필요한 시간과 비용을 획기적으로 줄일 수 있었다"라고 말했다.

18일 현재 허깅페이스 오픈 LLM 리더보드 (사진=허깅페이스)

모레는 조강원 대표 등 토종 슈퍼컴퓨터 '천둥'을 개발한 서울대 매니코어프로그래밍연구단 출신들을 주축으로 2020년 9월 설립한 스타트업이다. 지난해 10월에는 KT와 AMD 등으로부터 2200만달러(약 300억원) 규모 시리즈B 라운드 투자를 받기도 했다.

KT와 협업, 한국어 기반 최대 규모인 2210억 매개변수 LLM 학습을 성공적으로 마무리했다고도 전했다. 앞으로도 공동 연구를 진행하며 향후 계획을 구체화할 계획이다.

한편 모레는 조강원 대표 등 토종 슈퍼컴퓨터 '천둥'을 개발한 서울대 매니코어프로그래밍연구단 출신들을 주축으로 2020년 9월 설립했다. 지난해 10월에는 KT, AMD 등으로부터 2200만 달러 규모 시리즈B 라운드 투자를 받기도 했다.