- AI 모델 학습 및 추론에 필요한 연산 시간 약 25% 단축시킬 수 있어 모델 개발에 유용

카카오브레인이 AI 모델의 훈련 및 추론 속도를 향상할 수 있는 성능 라이브러리 ‘트라이던트(Trident)’를 깃허브에 공개했다고 26일 밝혔다.

‘트라이던트’란 오픈 AI의 GPU(그래픽 처리장치) 프로그래밍 언어인 ‘트리톤(Triton)’을 기반으로 구현한 라이브러리(코드의 집합)다.

‘트라이던트’는 AI 모델 개발에 필요한 연산들을 최적화하여 구현하고, 메타(구 페이스북)가 개발한 머신러닝 프레임워크 ‘파이토치(PyTorch)’와 같은 사용 방법을 제공한다.

이를 통해 AI 개발자는 복잡하고 어려운 GPU 최적화 과정을 거치지 않을 수 있어 AI 학습 및 추론에 필요한 연산 시간을 기존 대비 25%가량 단축할 수 있게 되었다.

현재 ‘트라이던트’와 같이 AI 개발을 돕는 프로그램은 많지 않은데, 이는 연산 속도를 높이면서도 같은 추론 성능을 도출하는 성능 라이브러리 개발에는 소프트웨어와 하드웨어에 대한 폭넓은 지식과 노하우를 가진 AI 전문가가 많이 필요하기 때문이다.

카카오브레인은 AI 연구 과정에서의 기술적 장벽을 낮추고, 개발자들이 AI의 무한한 가능성을 탐구할 수 있도록 지원하고자 ‘트라이던트’ 공개를 결정했다고 밝혔다.

카카오브레인은 앞으로 개발자가 자주 사용하는 연산 중심으로 ‘트라이던트’의 업그레이드를 이어나갈 계획이며, 회사가 추구하는 핵심 기업 가치인 ‘공유와 협력’을 실현해 나가겠다고 전했다.

카카오브레인 김일두 각자 대표는 “다수의 AI개발자들이 거대 AI 모델을 쉽게 개발할 수 있도록 지원하고자 성능 라이브러리 ‘트라이던트’ 공개를 결정했다”라고 말했다.

또 “대규모 언어 모델, 이미지 생성 모델 등의 기초 연구뿐만 아니라 주요 기술 공개와 같은 AI 생태계 발전에 기여하는 활동을 꾸준히 이어나갈 것”이라는 뜻을 밝혔다.

AI 모델 개발을 위한 머신러닝 성능 라이브러리 '트라이던트' [카카오브레인 제공]