IoT 보안 전문기업 쿤텍이 온디바이스 AI의 보안을 강화하기 위해 한국전자통신연구원(ETRI)와 협력한다.

쿤텍은 ETRI와 협력해 과학기술정보통신부가 지원하는 ‘AI 난독화 기술 개발’ 과제를 추진한다고 16일 밝혔다.

이번 과제는 온디바이스 AI 모델이 외부로 유출되거나 역공학을 통해 복제되는 것을 방지하는 연구개발 프로젝트로, 클라우드에 의존하지 않고 디바이스 내부에서 직접 AI 연산이 이뤄지는 환경에서의 보안성을 높이는 것을 목표로 한다.

쿤텍은 최근 AI 기술이 모바일·자동차·로봇·산업설비 등 다양한 산업에 탑재되면서, AI 모델의 무단 복제·탈취·재사용에 대한 우려가 커지고 있다고 밝혔다.

특히 개인정보나 의료·산업 기밀 등 민감 데이터를 다루는 AI 응용 분야에서는 모델 기밀 유지가 필수적이라는 설명이다.

온디바이스 AI 정보유출 개념도 [쿤텍 제공]

기존에도 워터마크와 단순 암호화 등 보안 조치가 존재했지만, 성능 저하를 유발하거나 한계점이 명확해 보안 대책으로 보기 어렵다는 지적이 제기돼 왔다.

이에 쿤텍은 AI 모델과 실행 코드 전반을 난독화하여 외부 분석과 복제를 어렵게 만드는 보안 기술을 개발 중이다.

이 기술은 AI 모델뿐 아니라 데이터 전처리와 후처리 단계까지 보호 범위를 확장해 전체 실행 과정에서 정보 유출을 차단한다.또 난독화 강도에 따라 보안성과 성능 간 균형을 조정할 수 있어 실제 상용 제품 환경에서 유연하게 적용할 수 있을 전망이다.

쿤텍은 이번 기술을 통해 AI 모델의 구조, 가중치, 실행 로직 등이 역공학이나 디컴파일 공격으로 노출되는 위험을 근본적으로 차단하고, 온디바이스 AI의 보안 표준을 제시할 것으로 기대했다.

쿤텍 방혁준 대표는 “온디바이스 AI가 산업 전반으로 확산되는 상황에서 여전히 보안은 가장 취약한 부분으로 남아 있다”라고 말했다.

이어 “이번 연구를 통해 AI 자산 보호와 제품 신뢰성 강화를 동시에 달성하고, 온디바이스 AI 보안의 새로운 기준을 마련하겠다”라는 포부를 밝혔다.