LG전자가 서울대학교와 손잡고 AI 보안 기술 고도화를 위한 전문 산학 연구센터를 설립한다.

LG전자는 최근 서울대와 ‘Secured AI 연구센터’ 설립을 위한 양해각서(MOU)를 체결했다고 15일 밝혔다.

앞으로 양측은 AI 보안 핵심 기술 확보부터 안전한 AI 서비스 구현까지 다양한 산학과제를 공동 수행한다.

신설 연구센터는 LLM(대규모 언어 모델) 에이전트 보안 강화 기술, 데이터 유출 방지 기술 등 안전한 AI 생태계를 만드는 기술을 집중적으로 연구·개발한다.

구체적으로 소프트웨어 개발 및 운영의 전 과정에 보안 체계를 적용한 ‘머신러닝 특화 보안 운영(MLSecOps)’ 모델을 확립한다고 밝혔다.

연구의 배경으로는 LLM 에이전트의 활용도가 확대됐으나 이와 동시에 거짓 정보를 생성하는 ‘할루시네이션’이나 데이터 외부 탈취 시도 등이 증가한 점이 꼽혔다.

Secured AI 연구센터 구축 협약식 [LG전자 제공]

이러한 위협에 기존 ‘개발운영(DevOps)’과 ‘머신러닝운영(MLOps)’ 방식으로는 종합적인 대응이 어려운 만큼, 보안에 더욱 집중한 체계를 구현해 통합 대책을 마련한다는 목표다.

또 데이터 수집부터 학습, 배포, 운영, 폐기까지 이어지는 전 과정에서 침입 탐지, 데이터 보호 등의 통합 역할을 수행하며 실제 산업 환경에 적용 가능한 AI 보안 플랫폼을 개발한다는 계획이다.

초대 센터장은 서울대학교 전기정보공학부 학부장인 홍용택 교수가 맡는다.

홍 교수는 국제정보디스플레이학회(SID) 펠로우, 한국과학기술한림원 정회원으로, 2025년 대한민국 과학기술훈장 혁신장을 수상한 바 있다.

LG전자에서는 CTO부문 임효준 차세대컴퓨팅연구소장이 연구 과제를 점검 및 조율하는 역할을 담당한다.

차세대컴퓨팅연구소는 차세대 보안, 블록체인, 양자 컴퓨팅, 분산 컴퓨팅 등 미래 기술을 선제적으로 확보하고 혁신적인 비즈니스 가치를 창출하는 역할을 수행하는 조직이다.

LG전자 CTO 김병훈 부사장은 “가전, 모빌리티, 로봇 등 다양한 분야에서 AI 기술이 활용되면서 보안과 안전성이 필수로 떠오르고 있다”라고 강조했다.