마음AI, 라마 3.1 기반으로 '온 프리미스' LLM 업그레이드

 

 

 

 

 

인공지능 전문기업 마음에이아이는 온프리미스(On-premise) LLM 제품인 ‘MAAL(Multilingual Adaptive Augmentation Language-model)’을 라마(Llama) 3.1 기반으로 업그레이드했다고 발표했다.

 

특히 마음AI의 MAAL은 한국어 언어모델의 다분야 사고력을 측정하는 LogicKor 평가에서 높은 점수(7.23점)를 기록하며, 오픈소스 기반 모델이 공통적으로 겪는 ‘한국어 능력이 크게 떨어지는’ 문제를 극복했다. 라마 3.1 모델도 이전 라마 3 기반 모델에 비해 성능이 크게 개선되었으나, 여전히 한국어 처리 능력에서 부족한 점이 있다. 이에 마음AI는 CoIT(Conversion of Intelligence Technique) 기법을 적용해 기존 모델의 우수한 영어 능력을 한국어로 치환함으로써, 한국어에서도 탁월한 성능을 발휘하도록 만들었다고 밝혔다.

 

이번 모델 성능 향상에 따라 고객사는 더욱 체계적인 답변을 받을 수 있게 되었다. 특히 ‘가드레일(안전하고 의도된 방향의 답변을 제공하기 위해 사전에 설정된 제약 조건)’ 등 기업 내에서 중요하게 사용되는 테스크에 대해서도 ChatGPT 4 Omni 못지않은 최상급 성능을 보였다. 이러한 성능 향상은 사내 LLM 활용도를 높임으로써 온프리미스 LLM 시장 규모가 실질적으로 크게 확대되는 데 기여할 것으로 예측된다.

 

마음AI는 자사의 학습 최적화 기술(Distributed Learning)을 활용하여 신속한 제품화를 이루었으며, 기존 고객사의 제품도 빠르게 최신 모델로 업그레이드하고 있다고 강조했다.

 

마음AI의 최홍섭 기술 대표는 “앞으로도 최고 수준의 오픈소스 모델이 출시될 때마다 신속하게 학습을 완료하고, 기존 고객 대상 업데이트를 지원하여 지속적인 최첨단 서비스를 제공하겠다”고 자신감을 내비쳤다.

 

한편, 최근 다양한 산업 분야의 기업들이 망 분리·보안 이슈 없이 업무 생산성을 높이기 위해 On-premise LLM을 적극 활용하고 있다. 마음AI는 모델 경량화 기술을 바탕으로 타사 대비 혁신적인 가격으로 솔루션을 제공하며 시장에서 경쟁력을 보유하고 있다.

 

장길수 ksjang@irobotnews.com

<저작권자 © 로봇신문사 무단전재 및 재배포금지>