KT가 AI 스타트업과 소규모 기업들의 인프라 투자 부담을 경감할 수 있는 구독형 사업을 추진한다.

KT는 최근 고성능 GPU 구독형 서비스인 ‘K GPUaaS’의 제공을 시작했다고 4일 밝혔다.

K GPUaaS는 KT가 확보한 엔비디아 GPU ‘H100’을 월 구독 방식으로 이용할 수 있도록 한 서비스로, 초기 인프라 투자와 유지보수 부담을 낮추는 것이 특징이다.

이를 통해 이용 기관은 AI 개발 속도를 높이고 관련 경쟁력을 강화할 수 있다.

현재 GPUaaS 장비는 충북청주강소특구에 구축되어 있으며, 스마트 IT부품·시스템을 중점으로 하는 기술 특화 연구기관으로 알려졌다.

구체적으로는 GPU 활용 컨설팅과 오픈 이노베이션 프로그램 등 AI 개발과 사업화 과정에서 필요한 지원을 제공한다.

KT는 이번 적용 사례를 기반으로 국내 기업과 연구기관 전반으로 서비스 확대를 추진할 계획이다.

또 AI 딥러닝 학습과 추론, 데이터 분석 등 고성능 연산 수요가 높은 기관의 GPU 접근성을 높일 수 있을 것으로 기대했다.

아울러 K GPUaaS는 ‘인피니밴드’ 기반 초고속 네트워크를 통해 GPU 서버 간 지연을 최소화해 대규모 분산 학습 환경을 구현하도록 구성됐다.

특히 GPU 가상화 분할 기술을 적용해 GPU를 작업량에 맞게 나누어 사용할 수 있도록 해 자원 활용 효율이 상승했다는 설명이다.

KT 관계자는 “모든 인프라와 데이터, 네트워크는 국내에서 관리되는 구조다”라고 강조했다.

이어 “첫 레퍼런스를 확보한 만큼, 더 많은 고객이 비용 부담 없이 고성능 GPU 환경을 활용할 수 있도록 지원해 나갈 것”이라고 덧붙였다.

AI 인프라 구독 서비스 GPUaaS 개시 [KT 제공]

한편 GPUaaS는 초기 고가 하드웨어 구축 방식과 비교해 비용 구조와 운영 방식 전반을 변화시키는 서비스 모델로, 사용량 기반 과금 체계와 온디맨드 방식의 자원 확장성 확보가 특징이다.

기존 온프레미스 GPU 구축은 장비 구매와 전력·냉각 설비, 유지보수, 전담 인력 운영 등에서 상당한 선투자 비용이 요구되며, 특정 시점의 수요 변동에 따라 과도한 용량을 보유하거나 성능 확장을 위해 추가 투자가 불가피했다.

반면 GPUaaS는 초기 비용 없이 필요한 시점에 GPU 자원을 활용하는 구조로 전환되면서 고정비 부담이 감소하고, 장기 기준 비용 절감 효과가 크다는 평가가 제시되고 있다.

운영 측면에서도 차이가 나타난다. GPUaaS 제공 사업자가 하드웨어 유지보수와 보안 업데이트, 모니터링을 포함한 운영 전반을 담당하기 때문에 이용 기업은 인프라 관리 부담이 줄어들고, 연구·개발 중심의 운영 구조로 전환이 가능하다.

GPU 자원 확장 역시 즉시 가능한 방식으로 구성돼 수요 증가 시 대기 없이 자원을 추가할 수 있으며, 구축형 방식에서 발생하는 하드웨어 조달과 설치 지연 문제가 해소된다.

최신 GPU 접근성에서도 GPUaaS는 주기적 갱신 없이 최신 칩 아키텍처를 활용할 수 있는 장점이 있으며, 구축형은 고가 장비를 직접 교체해야 한다는 제약이 따른다.

실제로 클라우드 제공 기업에게 GPUaaS는 새로운 수익 모델로 주목을 받고 있다.

이러한 성장 배경에는 AI 학습과 추론 수요 증가가 있으며, 이에 따라 GPUaaS에 참여하는 신규 사업자는 경쟁적인 가격 전략으로 시장에 진입하려는 시도 역시 이어지는 추세다.

국내에서는 텔코·IT기업의 GPU 확보 경쟁이 이어지면서 GPUaaS는 공공·산업계의 접근성을 높이는 방향으로 활용 범위가 넓어지고 있다.

GPU 수용량 확보 규모가 증가하고, 쿠팡·네이버 등 신규 사업자가 인프라 투자를 확대하며 자원 판매 구조가 형성되는 흐름도 감지된다.

내부적으로는 기업이 자체 GPU 팜을 구축해 자사 AI 워크로드에 활용하고, 남는 자원을 GPUaaS 형태로 외부에 판매하는 방식이 도입되면서 운영 안정성과 자산 회수 구조가 강화될 것으로 보인다.