딥페이크 허위정보 대응을 위한 연구 - 연구서 2024-06

이 보고서는 인공지능 기술의 급속한 발전과 함께 대두된 딥페이크 기술의 활용 및 이로 인한 사회적, 정치적, 법적 문제를 심층적으로 분석하고 이에 대응하기 위한 방안을 제시한다. 특히, 딥페이크 기술이 불러일으킬 수 있는 허위정보의 확산, 성범죄, 사기 등 다양한 사회적 악영향을 조명하며, 이를 예방하고 해결하기 위한 기술적, 법적, 산업적 접근 방안을 모색했다. 딥페이크 기술의 원리와 발전 현황을 설명하며, 국내외에서 제안된 대응 정책과 규제 사례를 종합하여 딥페이크 문제에 대한 현실적인 대응 방안을 논의하고, 딥페이크 이용자에 대한 실험 연구 결과를 바탕으로 구체적인 정책적 제언을 담았다.

[목 차]

01. 서론 : 연구 배경과 문제의식 1

02. 딥페이크의 원리와 현황 7

1. 딥페이크의 개념과 기술적 원리 7

1) 딥페이크 101 8

2) 딥페이크의 잠재력 12

3) 딥페이크의 발전 현황 16

2. 딥페이크 활용 사례 20

1) 긍정적 활용 20

2) 부정적 활용 27

3. 딥페이크 대응방안과 한계 33

1) 기술적 대응 33

2) 산업적 대응 36

3) 법･제도적 대응 39

03. 딥페이크 연구의 지형 52

1. 딥페이크의 사회적 영향 : 가능성과 위험성 53

2. 딥페이크를 활용한 허위정보의 효과 56

3. 딥페이크 이용자 연구 60

4. 딥페이크 허위정보 대응을 위한 해법 모색 65

04. 연구문제와 연구방법 69

1. 연구문제 69

2. 연구방법 73

1) 자료 수집 73

2) 응답자 정보 74

05. 이용자 연구 결과 75

1. 딥페이크 이용 현황 및 인식 조사 75

1) 딥페이크 이용 현황 76

2) 딥페이크 기술에 대한 인식 80

2. 딥페이크 영상 및 대응책의 효과에 대한 실험 연구 87

1) 실험 설계 및 방법 87

2) 실험 결과 94

3. 이용자 연구 결과의 요약 및 해석 102

1) 이용 현황 및 인식 조사 결과의 요약 및 해석 103

2) 실험 연구 결과의 요약 및 해석 103

06. 전문가 자문 결과 107

1. 딥페이크 기술에 대한 진단과 평가 109

1) 딥페이크 기술을 바라보는 시각 109

2) 딥페이크 범죄의 배경과 원인 110

3) 딥페이크 기술이 언론에 미치는 영향 112

2. 법적 처벌 강화 113

3. 플랫폼 규제 및 사업자 책무 강화 116

4. 딥페이크 탐지 기술 개발 등 기술적 차원의 해법 117

5. 교육을 통한 미디어 리터러시 증진 119

6. 종합 정리 122

07. 결론 124

1. 연구의 요약 124

2. 논의 및 시사점 127

1) 연구의 함의 127

2) 제언 128

참고문헌 138

부록 1 : 이용자 설문지 145

부록 2 : 전문가 질문지 158