과학기술정보통신부는 AI가 생성한 콘텐츠를 워터마크 처리로 구별하도록 하는 방향을 정하고 기술적인 방식에 대해 업계와 구체적인 검토를 진행 중이다.

오픈 AI와 구글 등 인공지능(AI) 빅테크가 AI가 생성한 음성·시각 콘텐츠에 'AI가 만들었다'는 표식(워터마크)을 넣기로 백악관과 합의한 데 이어 우리 정보기술(IT) 당국도 AI 생성물에 워터마크를 넣도록 하는 방침을 세운 것으로 25일 파악됐다.

과기정통부 핵심 관계자는 "AI 생성물에 워터마크를 넣는 방안을 AI 업계와 협의를 통해 추진 중"이라고 설명했다.

딥페이크 기술을 악용한 인권 침해나 가짜 뉴스 확산 등 생성형 AI 기술이 초래할 수 있는 부작용을 최소화하고 AI 생성에 사용된 원본 콘텐츠 저작권을 보호할 목적으로 오픈 AI 등 미국의 주요 AI 기업 7곳이 지난달 미국 정부와 워터마크 사용을 공식화한 것과 같은 맥락이다.

다만, AI 생성물에 워터마크를 어떤 식으로 표시할지 기술적인 부분은 과기정통부와 업계가 협의를 진행 중이다.

[로이터/연합뉴스 제공]

영상이나 이미지 속 또는 텍스트의 시작·끝 지점에 'AI 생성물'이라고 가시적으로 표기하는 방법이 우선 꼽히지만, 콘텐츠 제작자가 AI 생성물 워터마크를 의도적으로 달지 않았을 경우에는 걸러내기 쉽지 않다는 한계가 있다.

이에 맨눈으로 인식되는 워터마크 대신 기계가 AI 생성물임을 자동으로 알아차리는 '비시각적 워터마크'를 넣는 방안이 국내외에서 연구되고 있다.

AI 학습용 데이터 묶음(데이터 세트)에 워터마크 처리를 하면 거대언어모델(LLM) 등을 거쳤을 때 AI가 만든 콘텐츠임을 기계적으로 식별하는 기술이다.

AI 당국의 한 관계자는 "AI 생성물에 워터마크를 넣는 시도가 AI 산업을 위축시킨다고 우려할 수도 있지만, AI 기술 활용을 막을 수 없는 상황에서 AI 생성물임을 정당하게 밝히고 널리 활용하도록 하는 지침을 주는 것이 AI 산업 발전에 더 긍정적일 수 있다"고 말했다.

인공지능(AI) 분야 세계 4대 석학으로 꼽히는 앤드류 응 미국 스탠퍼드대 교수도 미국 AI 기업의 워터마크 사용 결정에 대해 "(AI 윤리에 관한) 대부분의 자발적 약속은 측정할 수 없지만 이는 측정할 수 있는 구체적이고 실행할 수 있는 약속"이라며 "어떤 콘텐츠가 AI로 생성된 것인지 아닌지 알 수 있다면 사회가 더 나아질 것"이라고 평가했다.

한편, 정부는 국회 계류 중인 '인공지능기본법안'이 통과되기 전이라도 AI 부작용을 막을 수 있는 기술적인 보완 대책을 다음 달 안으로 내놓겠다는 방침을 밝혔다.

박윤규 과기정통부 차관은 최근 기자간담회에서 "가짜뉴스 등 AI 부작용이나 의도적인 AI 오남용 시도에 대한 기술적인 대책을 만들어야 한다는 생각을 갖고 있다"고 말했다.