SKT가 국내 문화와 한국어에 특화된 소버린 AI 모델을 배포한다.

SKT는 자체 개발한 A.X 4.0의 표준 모델 1종과 경량 모델 2종을 합쳐 총 3종의 LLM(거대언어모델)을 AI 개발자 플랫폼 ‘허깅페이스’에 오픈소스 공개했다고 3일 밝혔다.

이를 통해 AI 서비스의 대중화와 생태계 활성화에 기여한다는 설명이다.

먼저 A.X 표준모델은 매개변수 720억 개 규모로, 이는 엔비디아의 ‘NVLM-D-72B’나 메타의 ‘Llama3 70B’ 등 빅테크 모델과 비슷한 수준이다.

보통 AI는 파라미터 수가 많을수록 성능이 향상되지만, SKT는 한국어 처리에 집중하면서 효율을 높이고 데이터 보안을 강화했다고 밝혔다.

실제로 A.X 4.0은 테스트 결과 동일한 한국어 소통에서 오픈AI의 GPT-4o보다 33% 이상 높은 효율을 기록한 것으로 알려졌다.

SKT AI 학습용 슈퍼컴퓨터 '타이탄' [SKT 제공]

또 한국어 능력 평가 벤치마크인 ‘KMMLU’에서 GPT-4o의 72.5점보다 높은 78.3점을 받았다.

SKT는 A.X 4.0이 주로 기업 내부 서버에 직접 설치해 사용할 수 있는 ‘온프레미스’ 방식으로 제공되며, 국내 사업 환경에 최적화됐다고 밝혔다.

특히 A.X 모델은 알리바바의 AI 모델 ‘큐원 2.5’에 한국어 데이터를 추가로 학습시켜 성능을 강화한 바 있다.

이어 경량화 모델 A.X 4.0 Light는 KMMLU에서 일반 모델보다 약간 낮은 64.15점을 획득했다.

다만 경량화 모델끼리 비교했을 때는 높은 효율을 보이며, 경량 모델임에도 최대 1만 6384 토큰 길이의 텍스트를 처리할 수 있어 비교적 장문의 대화를 처리하는 능력을 갖췄다.

향후 SKT는 이달 중으로 수학 문제와 코드 개발에 특화된 추론 강화 모델을 공개할 방침이다.

SKT 관계자는 “현재 A.X 4.0은 통화 요약 등에 사용되고 있지만, 향후 그룹 내 다양한 서비스에 접목될 예정이다”라고 말했다.

이어 “경량화 모델은 빠른 응답 속도와 낮은 운용 비용으로 좋은 AI 선택지로서 경쟁력을 가질 것”이라고 덧붙였다.