AI 시대의 개인정보 처리(큰글자책)(인공지능총서)

AI 알고리즘의 불투명성은 데이터 오·남용과 차별적 의사 결정을 초래할 수 있다. 신용평가, 채용, 범죄 예측 등에서 알고리즘 편향성이 문제가 되지만, 이를 통제할 규제는 부족하다. 이 책은 AI 시대의 개인정보 보호법과 윤리적 기준을 살펴보며, 기술 발전과 개인정보 보호 사이의 균형을 모색한다.

 

[목 차]

AI, 데이터 처리의 효용과 위험

 

01 데이터의 가치와 개인정보

02 AI와 개인정보 자기 결정권

03 AI와 ｢개인정보보호법｣

04 알고리즘 규제와 데이터

05 프로파일링과 개인정보

06 딥페이크와 프라이버시

07 생체 인식과 개인정보

08 AI와 개인 위치 정보

09 정보 주체의 대응권

10 AI와 정보 보호

[본 문]

비유컨대, 워터 파크 이용 계약을 개인정보 처리와 비교할 수 있다. 개인은 자신의 신발과 옷을 운영자가 관리하는 보관함에 담아 두게 되는데, 운영자는 개인 소지품의 구별을 위해 개인을 인식할 수 있도록 보관함에 고유 번호를 사전에 부여한다. 보관함의 물건은 개인 소유지만, 운영자가 안전하게 관리해야 한다. 보관함의 고유 번호 자체로 내용물이 드러나고 개인이 특정되지는 않지만, 운영자는 관리상 필요한 마스터키를 통해 개인을 식별할 수 있다. 운영자가 관리 책임을 벗어나 고객 물품을 거래하여 불법 유통하면 안 되지만, 무형의 개인정보는 물리적으로 점유가 이전되지 않는다. 이 경우 개인 소지품은 데이터에 해당하지만 개인을 식별할 수 있는 개인정보라고 볼 수는 없다.

－01_“데이터의 가치와 개인정보” 중에서

 

공개된 개인정보에 대하여 “개인정보 처리자가 정보 주체 이외로부터 수집한 개인정보를 처리하는 때에는 정보 주체의 요구가 있으면 즉시 다음 각 호의 모든 사항을 정보 주체에게 알려야 한다.”라는 개인정보법 제20조제1항을 적용할 때 ‘정보 주체 이외로부터 수집한 개인정보’에 대한 정보 주체의 수집 동의는 실익을 갖지 못한다. 그렇지만 동의 획득이 아닌 다른 적법 요건인 개인정보법 제15조 제1항 제2호에서 제6호까지는 동의를 얻는 경우가 아니지만 이에 준하는 경우다. 그래서 이들 경우에도 개인정보를 수집하거나 그 수집 목적의 범위에서 개인정보를 이용할 수 있다. 이러한 처리 대상인 개인정보에 문언상 공개된 개인정보와 같이 정보 주체 이외로부터 수집한 개인정보가 배제되는 사항이 아니다. 개인정보법 제15조 제1항 제2항에 따라 정보 주체에게 법정사항 네 가지를 고지하고 동의를 얻지 않는 경우라도 그 수집·이용에 대한 제재가 없음은 공개된 개인정보의 통지와 비교된다.

－03_“AI와 ｢개인정보보호법｣” 중에서

 

‘프라이버시 패러독스(privacy paradox)’는 AI로 인한 사회적 편익과 개인 프라이버시 권리의 잠재적 침식 사이에서 생기는 저항감과 긴장 관계의 역설적 구조를 뜻한다. AI 기술은 다양한 개인정보를 분석해 사회적·경제적 이익을 창출하지만, 데이터 처리 과정에서 개인의 프라이버시가 침해될 수 있기 때문이다. 공개된 데이터의 불명확한 소유권과 동의 없는 수집·이용은 개인정보의 무단 사용과 개인 감시 문제를 악화할 수 있다. 이용자로서는 AI 서비스의 효용에도 불구하고 개인정보의 노출·추적·저장 등이 악순환될 수 있음을 우려한다. 제공자의 경우 AI 서비스의 가치 창출을 위해 개인정보가 필수적이어서 이용자에게 더 많은 개인정보를 요구해야 한다. 여기서 저항적 긴장 상태가 유발된다.

－06_“딥페이크와 프라이버시” 중에서

 

그런데 AI가 고도의 자율성을 기술적으로 형성하고 있지만 실질적인 예측이나 통제가 어려울 뿐만 아니라 AI에 의한 특정된 결정은 알고리즘의 적용으로 구현되는 결과에 불과하다는 견해도 간과할 수 없다. AI의 자율성은 개발자의 설계와 사용자의 설정에 기초한 추정된 의사의 표시이고 임의적 자발성이 없으므로 AI에 대한 독립적이고 포괄적인 법인격의 전면적 인정은 오히려 AI 기술 사용자의 책임 회피로 귀결될 수 있기 때문이다. 반면 인간의 자유의사에 기초한 책임 귀속이 아니라 형사 책임 비난은 사회적 요구와 기대를 행위자가 충족하지 못한 결과에 대한 사회적 비난으로 이해하는 행위 책임론을 주목해야 한다.

－09_“정보 주체의 대응권” 중에서