영국 반도체 설계 기업 Arm이 차세대 AI 온디바이스 플랫폼을 공개했다.

Arm은 10억 개 이상의 파라미터로 구성된 대형 모델도 온디바이스 AI로 구동이 가능하도록 하는 새 CPU ‘Arm 코덱스-A320’과 이를 탑재하는 ‘Armv9 엣지 AI’플랫폼을 개발했다고 28일 밝혔다.

엣지 AI는 이동통신 네트워크와 AI를 결합한 인프라로, 기존 AI 운영에 사용하는 대규모 데이터센터와 비교해 보안이 강하고 지연 시간이 짧은 것이 특징이다.

특히 신호에 대한 실시간 반응이 빠르기에 공장 내 자율주행 차량이나 스마트 카메라 등 사물인터넷(IoT) 분야에서 주로 사용된다.

armv9 엣지 플랫폼 발표회 [연합뉴스 제공]

아울러 새로운 CPU Arm 코텍스-A320은 AI 플랫폼의 핵심 시스템으로, 전작인 A-35와 비교해 기계학습 성능이 10배 증가한 것이 특징이다.

또 고급 보안 시스템을 자체적으로 갖춰 외부에 노출된 환경에서 작동할 때에도 안전하고, 민감한 데이터를 처리하는 엣지 디바이스에 최적화됐다.

한편 Armv9 엣지 AI 플랫폼은 에이전트 AI를 위한 대규모 언어모델과 소규모 언어모델 전부 호환이 가능하도록 설계됐다.

이를 통해 데이터 수집 시점에 가까운 곳에서 의사결정을 수행함으로써 지연 시간을 단축할 수 있다.

Arm은 내년부터 새로운 CPU를 양산한다는 방침이다.

Arm코리아 관계자는 “AI 모델이 복잡해지면서 점차 CPU에도 높은 성능과 많은 전력을 요구하고 있다”라고 말했다.

이어 “AI 디바이스를 계속 업데이트하는 것은 유연성을 높여 더 다양한 모델과 결합하기 위함”이라고 덧붙였다.