딥페이크 탐지 소프트웨어가 개발됐다.

5일 경찰청 국가수사본부는 딥페이크 탐지 소프트웨어를 개발하여 딥페이크를 이용한 범죄 단속을 위해 본격적으로 활용한다고 밝혔다.

▲ 딥페이크 탐지 소프트웨어 자료사진. [연합뉴스 제공]

딥페이크는 기존 영상을 다른 영상에 겹쳐서 만들어 내는 이미지 합성기술이다. 최근 인공지능(AI) 기술의 급격한 발달과 함께 딥페이크 이용 범죄의 위협이 증대되고 있으며, 특히 제22대 총선을 앞두고 딥페이크 영상을 이용한 허위정보 유포 또는 여론조작에 대한 우려가 심화되고 있는 상황이다.

딥페이크 탐지 소프트웨어는 딥페이크 영상으로 의심되는 영상을 시스템에 업로드하면 통상 5분~10분 내에 영상의 진위 여부를 판별한다. 또 판별이 완료됨과 동시에 결과보고서를 즉각 창출해 수사에 곧바로 활용할 수 있도록 한다.

해당 소프트웨어의 진위 여부 탐지율은 약 80% 수준이다. 경찰청은 탐지율이 100%가 아닌 점을 감안하여 증거자료보다는 수사 방향을 설정하는 자료로 활용한다는 방침이다.

아울러 딥페이크 영상 선거범죄에 대해서는 학계, 기업 등 AI 전문가로 구성된 민간 자문위원의 교차 검증을 거치도록 하여 해당 소프트웨어의 오탐지 가능성도 최소화할 예정이다.