AI 확산과 함께 메모리 반도체의 경쟁 구도가 다시 바뀌고 있다.

고대역폭 메모리(HBM)가 AI 연산 성능의 핵심으로 부상한 데 이어, 적층 기술을 기반으로 하는 낸드플래시 제품 HBF(High Bandwidth Flash)가 새로운 먹거리로 주목을 받는다.

특히 AI가 요구하는 대용량 데이터 처리 과정에서 발생하는 데이터 병목현상을 해소할 수 있을 것으로 여겨지는 HBF를 중심으로 ‘차세대 하이브리드 메모리’의 개발 현황과 비전을 정리했다.

▲ HBF는 왜 주목을 받았나?

HBF는 낸드 플래시를 기반으로 한 고대역폭 메모리 기술로, 실리콘 관통 전극(TSV)을 이용해 다층으로 적층하는 구조를 취한다.

HBM이 DRAM 기반으로 초고속 연산용 메모리에 초점을 맞췄다면, HBF는 대용량 데이터 저장에 특화돼 있다.

두 기술은 상호 보완 관계를 갖게 되며, 이러한 성질 때문에 HBF는 ‘저장형 HBM’으로도 불린다.

HBF의 등장 배경으로는 AI와 대규모 언어모델(LLM) 확산으로 메모리 용량과 대역폭 요구가 폭증하면서 HBM의 열·신뢰성 한계가 꼽힌다.

반면 HBF는 낸드 구조를 기반으로 8~16배 더 큰 용량을 확보하면서, TSV 적층을 통해 HBM급의 대역폭을 구현할 수 있다.

이러한 구조는 핵심 데이터를 HBM에서, 대용량 저장 데이터는 HBF에서 병렬처리하는 계층형 메모리 구조를 가능하게 한다.

또 HBF는 비휘발성 낸드 기반이기 때문에 전력 소모가 낮고, 대규모 AI 모델 학습이나 추론 환경에서 GPU와 직접 연결해 저장 병목을 완화할 수 있다.

삼성전자, SK하이닉스, 샌디스크 등 주요 메모리 기업은 2026년 샘플 공급, 2027년 양산을 목표로 경쟁에 돌입했다.

업계 관계자는 "삼성전자 등 글로벌 반도체 기업은 대부분 AI 수요 확대에 맞춰 고대역폭 특성이 탑재된 차세대 낸드플래시 개발을 추진할 것으로 보인다."라고 말했다.

▲ 기업별 HBF 개발 전략은?

먼저 삼성전자는 HBF를 HBM과 SSD의 융합형 메모리로 발전시키는 전략을 세우고 있다.

GPU 제조사인 엔비디아, AMD와 협력해 AI 메모리 생태계 전반을 강화하는 동시에, 낸드 기반의 저전력·고용량 솔루션을 표준화하는 데 주력한다.

SK하이닉스는 샌디스크와 협력해 HBF 표준화 및 상용화를 추진 중이다.

양사는 2026년 하반기 HBF 시제품을 공개하고, 2027년 AI 추론 장치 탑재용 샘플을 공급할 계획이다.

특히 SK하이닉스는 기존 HBM 기술력과 낸드 적층 노하우를 접목해, 대용량 HBF의 안정적인 수율 확보와 발열 관리에 초점을 맞추고 있다.

마이크론 또한 HBM과 낸드 양쪽에서 기술 개발을 병행하며, AI 워크로드 전용 메모리 포트폴리오를 확장하고 있다.

글로벌 메모리 3강이 모두 HBF 경쟁에 뛰어든 셈으로, 향후 AI 반도체 시장 주도권이 DRAM이 아닌 낸드 진영으로 일부 이동할 가능성도 제기된다.

▲ HBF, AI·데이터센터 시대의 어떤 변화를 가져올까

HBF는 기존의 CPU·GPU 캐시, HBM, SSD 사이에 위치한 중간 계층 메모리로 기능하면서, AI 모델 학습에서 발생하는 데이터 병목과 지연 문제를 크게 줄일 수 있다.

낸드의 용량과 DRAM 수준의 대역폭을 결합했기 때문에 대규모 파라미터를 다루는 LLM과 멀티모달 AI 환경에서 처리 속도와 전력 효율을 동시에 높인다.

데이터센터에서는 HBF 채택으로 GPU–스토리지 간 대역폭 병목이 완화되고, 연산 효율이 향상될 것으로 기대를 받고 있다.

특히 고성능컴퓨팅(HPC) 분야에서는 메모리 공간 확장을 통해 고속 입출력 성능과 비용 효율을 동시에 확보할 수 있다.

또 CXL(Compute Express Link) 기술과 결합되면, AI 서버 간 메모리 자원을 풀링해 활용하는 분산형 구조로 진화할 수 있다.

이에 따라 우리나라 정부 역시 차세대 메모리 기술을 국가 전략산업으로 지정하고 연구개발 투자를 확대 중이다.

대표적으로 ‘지능형 반도체 기술개발 사업’에 1조 원 이상을 투입하고, PIM(Processing-In-Memory) 및 AI 반도체 설계 생태계와 연계한 인력 양성·인프라 고도화를 추진한다.

AI 반도체 특화 펀드를 조성해 기업의 초기 투자 리스크를 분담하고, MPW(다중프로젝트 웨이퍼), POC(개념증명) 등 상용화 단계별 지원을 체계화했다.

단순한 물리 성능 향상이 아니라 시장 수요 기반의 제품 설계와 차별화된 사업화 전략을 중점으로, AI 반도체 도입 기업에는 세제 혜택과 보조금 지원도 병행한다.

AI·반도체 분야는 고비용·고위험 산업인 만큼, 정부와 민간의 역할 분담과 지속 가능한 투자 생태계 조성이 핵심이 될 전망이다.