[K-휴머노이드 로봇] "온디바이스 AI NPU 각광 받을 것"

 

 

 

▲지난 28일 열린 ‘K-휴머노이드 로봇의 현재와 미래’에서 김정욱 딥엑스(DEEPX) 부사장은 ‘인공지능과 NPU(Neural Processing Unit)의 미래’를 주제로 발표하고 있다.

 

지난 28일 열린 ‘K-휴머노이드 로봇의 현재와 미래’에서 김정욱 딥엑스(DEEPX) 부사장은 ‘인공지능과 NPU(Neural Processing Unit)의 미래’를 주제로 발표했다.

 

김 부사장은 먼저 "로봇산업계에서 아직 인공지능 반도체, 특히 온디바이스 프로세서에 대해 충분히 논의가 이뤄지지 않고 있는 것 같다"며 "현재 AI반도체가 어느 정도 수준까지 발전했는지 로봇산업계와 지식을 공유하고 싶다"고 말문을 열었다.

 

김 부사장은 왜 NPU가 이 시점에 주목받고 있는지 배경부터 얘기했다. "인텔 프로세서나 ARM(암) 프로세서는 순차적인 연산을 잘 하는데 반해, 그래픽 처리를 위한 병렬 프로세서인 엔비디아의 GPU는 AI 모델이 갖고 있는 병렬성과 맞아떨어지면서 AI 모델을 가속 처리할 수 있는 방법으로 발전해왔다"는 설명이다. 이에 반해 NPU는 오직 AI 연산을 가속화하기 위해 만들어졌다고 했다.

 

김 부사장은 NPU는 '학습'을 위한 NPU와 '추론'을 위한 NPU로 구분할 수 있다며, 온디바이스 AI 프로세서는 추론 전용이라고 말했다. 스케일 측면에선 서버급 NPU와 엣지 또는 온디바이스 NPU로 구분할 수 있는데, 서버급 NPU 개발기업들은 '타도 엔비디아'를 외치고, 엔비디아의 학습 기능까지 대체하려고 애썼으나 현실적으로는 그렇지 못했다고 말했다. 현재 국내에 나온 서버용 NPU 역시 추론 전용이다.

 

딥엑스는 추론 전용 온디바이스용 AI NPU 전문기업이다. 특허청 대통령 표창 수상, 대만 컴퓨텍스 혁신상 수상, AI 반도체 기업 최초 다보스 포럼 초청, 프로스트앤드설리번 2024 올해의 기업 선정 등을 통해 기술력을 인정받고 있으며, 국내외에서 많은 특허를 확보, AI반도체 원천 기술을 보유하고 있다. 올해 1월 열린 CES 2025에선 주최 측으로부터 ‘꼭 봐야할(Must-See)’ 기업으로 선정되기도 했다.

 

김 부사장은 "딥엑스의 미션인 ‘AI for Everyone & Everywhere’는 모든 사람이 언제 어디서나 AI를 쉽게 쓸 수 있는 사회를 만들겠다, 그리고 사회의 변곡점에서 중요한 역할을 하겠다는 의미를 담고 있다. 온디바이스 AI 반도체를 만들어 이 분야 게임체인저가 되는 것이 최종 목포"라고 말했다. 엔비디아 GPU로 300와트 이상의 전력을 소모하면서 3만 달러 정도의 가격으로 할 수 있는 일을, 4.5와트의 전력을 쓰면서 100달러 미만으로 할수 있는 솔루션을 만들겠다는 목표를 갖고 있다고 강조했다.

 

 

 

▲지난 28일 열린 ‘K-휴머노이드 로봇의 현재와 미래’에서 김정욱 딥엑스(DEEPX) 부사장은 ‘인공지능과 NPU(Neural Processing Unit)의 미래’를 주제로 발표하고 있다.

 

김 부사장은 앞으로 인공지능 프로세싱의 무게 중심이 '데이터센터'에서 '엣지 AI디바이스'로 옮겨갈 것이라고 예상했다. 자율성, 무인서비스, 개인 맞춤형 서비스, 프라이버시와 데이터 보안, AI서비스의 총비용(TCO), 탄소배출(ESG) 등의 요인으로 인해 데이터센터형 클라우드 서비스에서 엣지 디바이스쪽으로 무게 중심이 바뀌면서 온디바이스 AI NPU가 각광을 받을 것이란 설명이다.

 

김 부사장은 현재 현대자동차(로보틱스랩), 포스코DX 등과 추진하고 있는 로봇 플랫폼용 AI반도체 기술 개발, 물류창고 및 스마트팩토리를 위한 엣지 AI솔루션 기술 개발 등에 관해서도 언급했다.

 

딥엑스가 진행하고 있는 온디바이스 프로젝트인 ‘DX-LAIN’(코드네임)에 대해서도 소개했다. ‘LAIN’은 Last Invention이라는 의미다. 현재 LLM 모델은 클라우드 기반으로 처리하기 때문에 응답 속도가 빠르고 응답의 퀄리티도 상당히 좋은데, 딥엑스가 구상하고 있는 것은 중간에 SLM을 지원할 수 있는 솔루션을 집어넣어 클라우드의 오버헤드를 상당히 줄이면서 원하는 퀄리티의 솔루션을 얻을 수 있도록 하겠다는 것이다.

 

김 부사장은 현재 LG유플러스와 제휴해 ‘엑사원’과 ‘익시(ixi)’ 인공지능 기술을 활용해 ‘SLM 온디바이스’를 저전력으로 구현하는 데 노력하고 있으며 SLM 칩인 ‘DX-M2’ 개발을 추진하고 있다고 소개했다.

 

장길수 ksjang@irobotnews.com

<저작권자 © 로봇신문사 무단전재 및 재배포금지>