SK하이닉스가 AI 성능을 향상하는 가속기 카드 ‘AiM’의 최신 기술을 선보인다.

SK하이닉스는 최근 미국 캘리포니아주에서 열린 ‘AI 하드웨어&엣지 서밋 2024’에 참가해 첨단 제품을 공개했다고 19일 밝혔다.

AI 서밋은 글로벌 IT 기업과 유망 스타트업이 참가해 연구결과를 공유하고 산업 내 협력 기회를 모색하는 자리로, SK하이닉스는 ‘데이터센터부터 엣지 디바이스까지’라는 슬로건으로 참가했다.

AiM은 SK하이닉스의 지능형 반도체(PIM) 제품으로 최신 버전인 AiMX는 ‘GDDR6-AiM’ 칩을 사용해 LLM(대규모언어모델)에 특화됐다.

SK하이닉스는 AiMX가 메모리 내에서 일부 연산을 수행해 기존 메모리 대비 높은 대역폭과 우수한 에너지 효율성을 지녔으며, LLM 기반의 생성형 AI가 요구하는 컴퓨팅 성능을 구현할 수 있다고 밝혔다.

SK하이닉스의 AiM 칩과 카드 [SK하이닉스 제공]

이날 행사장에서는 메타(구 페이스북)의 최신 LLM 모델 ‘라마 3 70B’를 활용해 AiMX의 성능을 시연하는 자리가 마련됐다.

AiMX는 메모리 용량이 기존 16GB에서 32GB로 2배 증가했으며, 여러 데이터를 동시에 처리하는 기법 ‘멀티 배치’ 기술을 도입한 것이 특징이다.

아울러 SK하이닉스는 데이터센터뿐만 아니라 온디바이스 AI에도 적용 가능한 AiM 솔루션을 공개했다.

온디바이스 AI를 위한 맞춤형 제품을 통해 기존 메모리 인터페이스를 변경하지 않고도 성능을 높일 수 있다는 설명이다.

SK하이닉스 관계자는 “향후 모바일 D램이 AiM으로 대체되면 전체적으로 LLM의 속도와 에너지 효율이 3배 이상 개선될 것”이라고 말했다.

또 "향후 지속적인 AiM 고도화로 글로벌 기업들과 협력해 차세대 AI 가속기 생태계를 구축하겠다"라고 덧붙였다.