LG그룹이 자체 언어모델(LLM) ‘엑사원’을 고도화한다.

AI 반도체 스타트업 퓨리오사AI는 자사의 2세대 AI 추론 가속기인 ‘레니게이드’를 엑사원에 도입했다고 23일 밝혔다.

양사는 이번 협업을 바탕으로, 레니게이드를 기반으로 한 기업용 엑사원 AI 솔루션을 출시할 계획이다.

이번 레니게이드 적용 사업은 지난 8개월간 엑사원 3.5 모델에서 실증 테스트를 진행했으며, 퓨리오사 AI는 테스트 결과 레니게이드가 엑사원의 GPU 대비 전력당 성능을 2.25배 높였다고 밝혔다.

이는 전력 효율이 핵심인 생성형 AI 인프라 환경에서 GPU의 높은 소비전력을 절감한다.

AI 추론 가속기는 범용 GPU의 시스템을 AI 구성에만 최적화하도록 지원하는 기술로, 모든 연산을 고정밀 작업으로 수행하는 GPU와 달리 AI 추론만을 위해 저정밀 고속 연산을 가능하게 한다.

또 GPU는 외부 메모리 사용이 잦아 데이터 이동 전력이 많이 소모되는데, 가속기를 함께 사용하면 온칩 메모리를 통해 메모리 접근 거리와 빈도도 줄어든다.

AI 추론 가속기 레니게이드(RNGD)[퓨리오사AI 제공]

퓨리오사 AI의 2세대 제품은 1세대보다도 더 AI 추론에 특화됐으며, 내부 캐시·온칩 메모리 확장으로 병목현상을 최소화한 것으로 알려졌다.

한편 퓨리오사 AI는 이번 실증이 GPU 이외 하드웨어가 엔터프라이즈급 LLM 추론 환경에서 전면 도입된 첫 사례로, 글로벌 LLM 생태계에서 새로운 하드웨어 선택지를 제시했다고 밝혔다.

또 현재는 최신 엑사원 4.0 모델까지 지원할 수 있도록 NPU 기술과 소프트웨어를 고도화하고 있다.

앞으로 퓨리오사 AI는 레니게이드 기반의 온프레미스 턴키 형태 ‘엑사원 AI 솔루션’을 개발할 예정이다.

LG AI연구원 관계자는 “레니게이드는 성능과 비용 효율성, 모델 지원 속도 등이 가장 탁월하다”라고 말했다.

이어 “인프라를 구축하고 운영하는 데 필요한 모든 직·간접적인 ‘총소유비용(TCO)’ 절감 효과가 클 것으로 기대한다”라고 덧붙였다.

퓨리오사 AI 백준호 대표는 “단순한 기술 공급을 넘어 AI 인프라를 스스로 설계하고 운용하는 자격을 갖추고, 엑사원이 한국을 대표하는 파운데이션 모델로 자리매김하도록 협력하겠다”라고 말했다.

퓨리오사AI 백준호 대표 [퓨리오사AI 제공]