미국, 영국, 유럽연합(EU)이 법적 구속력이 있는 최초의 인공지능(AI) 사용에 관한 국제 조약에 서명할 예정인 가운데, 기업들은 국가별 규제가 혁신을 저해할 수 있다는 우려를 표명하고 있다.

5일(현지 시각) 파이낸셜타임즈(FT)에 따르면 미국, EU, 영국은 이날 공공 및 민간 부문 시스템의 규제에 대한 접근 방식에서 인권과 민주적 가치를 강조하는 유럽평의회 AI 협약에 서명할 것으로 예상된다.

이 협약은 캐나다, 이스라엘, 일본, 호주를 포함한 50여 개국이 2년에 걸쳐 초안을 작성했다.

이 협약은 서명국들이 AI 시스템의 유해하고 차별적인 결과에 대해 책임을 질 것을 요구한다. 또한 이러한 시스템의 결과물이 평등과 프라이버시 권리를 존중하고, AI 관련 권리 침해의 피해자가 법적 구제 수단을 갖도록 한다.

영국의 과학혁신기술부 장관인 피터 카일은 “AI만큼 빠르게 변화하는 혁신이 있는 만큼 전 세계적으로 이 첫 걸음을 내딛는 것이 정말 중요하다"라며 “이는 전 세계적으로 실질적인 이빨을 가진 최초의 [협약]이며, 매우 이질적인 국가들을 하나로 모으는 것이기도 한다"라고 밝혔다.

그는 “이렇게 다양한 국가들이 이 조약에 서명하기를 희망한다는 사실은 실제로 우리가 AI가 제기하는 도전에 대해 글로벌 커뮤니티로 부상하고 있다는 것을 보여준다"라고 덧붙였다.

이 조약은 법적 강제력이 있다고 강조하지만 비평가들은 벌금과 같은 제재 수단이 없다는 점을 지적하고 있다. 준수 여부는 주로 모니터링을 통해 측정되는데, 이는 상대적으로 약한 형태의 강제력이다.

협의회 협상 책임자인 한네 준처는 5일 서명을 받기 위해 대회가 열리면 10명의 참가자가 가장 먼저 이 협약을 승인할 것으로 예상된다고 밝혔다.

그녀는 “이것은 [협약]이 유럽을 넘어서는 것이며이 서명자들이 협상에 매우 투자하고 그 결과에 만족한다는 것을 확인시켜준다"라고 말했다.

바이든 행정부의 한 고위 관리는 FT에 미국은 “AI 기술이 인권과 민주적 가치에 대한 존중을 보장하기 위해 최선을 다하고 있다”라며 “이 분야에서 유럽평의회의 핵심 부가가치를 확인했다"라고 말했다.

이 조약은 각국 정부가 빠르게 진화하는 AI 소프트웨어를 감독하기 위해 새로운 규정, 약속 및 협약을 개발하는 가운데 나온 것이다. 여기에는 유럽의 AI법, 지난 10월에 합의된 G7 협약, 그리고 지난 11월 미국과 중국을 포함한 28개국이 서명한 블레츨리 선언이 포함된다.

미국 의회는 아직 AI 규제에 대한 광범위한 프레임워크를 통과시키지 못했지만, 많은 AI 스타트업이 소재한 캘리포니아의 의원들은 지난주에 이를 통과시켰다. 업계에서 의견이 분분한 이 법안은 주 주지사의 서명을 기다리고 있다.

지난달 발효된 EU 규정은 최초의 주요 지역 법률이지만, 영국의 카일 장관은 이 규정이 AI 소프트웨어를 개발하는 기업들 사이에서 여전히 분열을 일으키고 있다고 지적했다.

그는 “예를 들어 메타와 같은 회사는 이 규정 때문에 최신 라마 제품을 EU에 출시하지 않고 있다. 따라서 개별 지역을 넘어서는 기준선이 있는 것은 정말 좋은 일이다"라고 말했다.

EU의 AI법은 다른 국가에 선례를 남기려는 시도로 여겨졌지만, 새로운 조약의 서명은 소위 브뤼셀 효과에 의존하지 않고 보다 응집력 있는 국제적 접근 방식을 보여준다.

유럽위원회의 가치 및 투명성 담당 부위원장인 베라 주로바는 “많은 국제 파트너들이 AI 협약에 서명할 준비가 되어 있는 것을 보게 되어 매우 기쁘다. 이 새로운 프레임워크는 AI 애플리케이션의 설계, 개발 및 사용을 위한 중요한 단계를 설정하여 AI 혁신이 인권, 민주주의, 법치라는 우리의 가치를 존중한다는 신뢰와 안심을 가져다줄 것이다"라고 말했다.

이어 주로바 부위원장은 “이것이 바로 유럽 AI법의 기본 원칙이었으며, 이제 이 법은 전 세계의 청사진 역할을 하고 있다"라고 덧붙였다.