SK텔레콤이 자체 개발한 ‘텔코’ LLM(거대 언어모델) 기반의 ‘AI 고객센터’가 본격 도입된다.

SK텔레콤은 지난달부터 시작된 ‘AI 고객센터’의 베타 서비스가 성공하면서 정식 시스템 전환을 결정했다고 18일 밝혔다.

텔코는 통신에 특화한 언어모델로, SK텔레콤은 해외 주요 LLM 업체들과 협력해 텔코를 개발해온 바 있다.

특히 다른 LLM과의 가장 큰 차이점은 여러 모델을 오가는 ‘스위치’ 방식으로, 기존 SKT의 LLM '에이닷엑스'·오픈AI의 '챗 GPT'·앤트로픽의 '클로드' 모델을 번갈아 가며 활용하는 것이 가능하다.

이는 사용자가 요청하는 프로세스 ‘쿼리’에 따라 가장 정확한 답을 제시하는 모델을 선택하여 사용할 수 있기에 정확도가 높은 것이 특징이다.

SKT는 텔코가 출시되던 지난 4월 당시 스위치 기능을 통해 LLM 성능이 약 35% 향상됐다고 밝힌 바 있다.

AI 지식 검색 도우미를 사용하는 상담사 [SKT 제공]

한편 AI 고객센터의 대표적인 기능으로는 상담사가 고객에게 필요한 정보를 빠르게 찾아 안내하는 ‘AI 지식 검색 도우미’가 꼽힌다.

서비스업 특성상 상담사는 다양한 분야의 질문을 받게 되는데, 이를 해결하기 위해 상담사가 정보를 찾는 과정이 상담 시간의 대부분을 차지한다.

그러나 AI 지식 검색 도우미를 사용하면 ‘챗 GPT’와 유사하게 AI가 즉시 관련 정보를 취합해 전달하기에 상담 시간을 획기적으로 줄일 수 있다.

SKT는 내년부터 모든 고객 상담 업무에 AI 기능을 전면 도입할 계획이라고 밝혔다.

아울러 지식 검색 도우미 외에도 AI를 활용한 서류 자동 처리 기능이 구축됐는데, 문자와 이메일 등 다양한 형태의 서류를 AI가 자동으로 분류하고 처리하는 것이 특징이다.

SKT는 해당 기능이 상담부터 상품 가입·해지 등에 필요한 증빙 서류 처리 속도를 크게 단축한다고 밝혔다.

최종적으로는 서류 내용까지 AI가 한 번에 판독하도록 시스템을 고도화하는 것이 목표다.

SKT 관계자는 “우선 다음 달부터 텔코 LLM으로 상담 결과를 분류·요약하는 반복작업 자동화 기능이 도입된다”라고 말했다.

이어 “향후 텔코 LLM을 기반으로 다양한 기술을 고객 상담 업무에 활용해 고객 서비스 업계를 선도하겠다”라고 덧붙였다.