AICT 기업으로의 전환을 추진하는 KT가 태국에 LLM 플랫폼을 구축했다.

KT는 태국 ‘자스민’ 그룹과 협력해 현지에서 태국어 LLM 플랫폼 구축 프로젝트를 성공적으로 마무리했다고 15일 밝혔다.

해당 프로젝트는 지난해 3월 자스민 그룹의 IT 계열사 ‘JTS’와 관련 계약을 체결한 후 1년여 간에 걸쳐 진행됐다.

국내 기업이 해외에 종합 AI 인프라를 구축하고 제공한 것은 KT가 최초다.

프로젝트의 핵심은 LLM 운영 관리 환경 ‘LLM 옵스’와 AI 서비스 인프라 ‘GPU 팜’을 구축하는 것이며, 이후 태국어 전용 모델까지 개발했다.

LLM 옵스는 다양한 LLM 모델의 학습·배포·운영 전 과정을 관리하며, 이 과정에서 사용되는 GPU를 관리하기 위한 GPU 팜도 현지에 따로 조성했다.

KT가 구축한 태국어 전용 LLM 플랫폼 [KT 제공]

향후 JTS는 새로운 플랫폼을 기반으로 현지 기업과 기관에 GPU 구독 서비스(GPUaaS)를 공급할 방침이다.

KT도 앞으로 JTS의 기술 파트너로서 AI 플랫폼을 고도화하고 신규 서비스 발굴 등에서 협력을 이어가게 된다.

한편 KT는 이번 LLM 개발에서 국내 기업 ‘업스테이지’와 협력한 것으로 알려졌다.

KT는 지난 2023년 업스테이지에 투자했으며, 이번 프로젝트를 통해 국내 AX 생태계가 발전할 것으로 기대했다.

KT AI사업전략담당 이진형 상무는 “태국어 특화 LLM 플랫폼 개발과 상용화는 KT의 AI 기술력과 글로벌 사업 역량을 다시 한번 입증한 성과”라고 강조했다.

이어 “이번 프로젝트에서 얻은 경험과 노하우를 포함해 기존 마이크로소프트, 팔란티어와의 전략적 제휴를 기반으로 AI·클라우드 상품 라인업도 다각화하겠다”라고 덧붙였다.