AI와 딥페이크 음란물(인공지능총서)

인공지능 기술 발전에 따른 딥페이크 음란물 문제를 다룬다. 딥페이크는 누구나 쉽게 접근할 수 있고, 사실과 구별이 어려울 정도로 정교해져 성범죄 피해가 급증하고 있다. 특히 10대 청소년들의 장난으로 인식되는 문제를 지적하며, 법적·제도적 대응의 필요성을 강조한다.

[목 차]

AI와 딥페이크, 그리고 음란물

01 AI와 딥페이크

02 딥페이크 사기와 명예훼손 등

03 딥페이크와 초상권 침해

04 딥페이크 음란물과 인격권 침해

05 음란의 판단 기준

06 딥페이크 음란물 제작자의 책임

07 AI 개발 및 학습 관여자의 책임

08 딥페이크 음란물에 대응하는 현행법과 한계

09 딥페이크 워터마크와 신속 차단

10 디지털 리터러시

[본 문]

요즘은 전문 지식이 없는 사람도 자신의 스마트폰으로 쉽게 딥페이크를 제작할 수 있게 됐다. 그뿐만 아니라 일반인이 만든 딥페이크 사진이나 영상도 진짜와 가짜를 구분하기 어려울 정도로 정교해졌다. 앱스토어에 딥페이크 앱을 검색하면 무료로 쓸 수 있는 앱이 헤아릴 수 없을 정도로 많다. 아예 카메라 앱에 딥페이크 기술을 탑재한 것도 있고, 상대방과 통화 중에 자신의 얼굴을 딥페이크 기술로 바꿀 수 있는 앱도 쉽게 구할 수 있다.

－01_“AI와 딥페이크” 중에서

우리나라는 미국과 달리 재산권은 법률에 의해서만 창설될 수 있다. 이를 ‘물권법정주의’라 한다. 아직까지 이를 재산권으로 규정하고 있는 법률이 없기 때문에 우리나라에서는 재산권으로서 퍼블리시티권은 인정되지 않고 있다. 일부 하급심에서 ‘독립한 경제적 가치는 그 자체로 보호할 가치가 있다는 점에 비추어 해석상 이를 독립적인 권리로 인정할 수 있다’는 판결도 있지만 아직까지 대법원의 판결이 없고, 주류 판례는 이를 인정하지 않고 있다.

－03_“딥페이크와 초상권 침해” 중에서

최근 성폭력처벌법 제14조의2 제1항이 개정되기 전에는 ‘반포 등을 할 목적’이 있는 사람만 처벌할 수 있었다. 이럴 경우 반포 목적이 없었다고 주장하는 딥페이크 음란물 제작자를 처벌할 수 없다는 한계가 있었다. 이러한 비판이 제기되자 국회가 법을 개정해서 이제는 제3자에게 반포 목적이 있었는지와 관계없이 딥페이크 음란물 제작자를 처벌할 수 있게 된 것이다.

－06_“딥페이크 음란물 제작자의 책임” 중에서

우리나라 정부와 국회도 딥페이크 워터마크 제도를 도입하려는 법 제정을 추진하고 있다. 이러한 제도가 마련될 경우 AI로 만든 가짜 정보와 실제 사실을 효율적으로 구분할 수 있으며, 딥페이크를 이용한 범죄를 사전에 예방할 수 있다는 장점이 있는 반면, 가상 정보에 대한 표시를 기술적으로 회피·조작하거나 실제 사실을 가상정보로 거짓 표시할 경우 사회적 혼란을 야기할 수도 있다는 우려의 목소리도 있다.

－09_“딥페이크 워터마크와 신속 차단” 중에서