AI 생애 주기와 법의 재구성(AI문고)

AI를 하나의 완성된 기술이 아니라 데이터 수집, 정제, 설계, 학습, 검증, 배포, 의사 결정, 프롬프트, 생성물 활용, 폐기와 재학습으로 이어지는 과정으로 본다. 개인정보, 저작권, 편향, 설명 가능성, 이의 제기권, 프롬프트 책임, 잊힐 권리는 서로 분리된 쟁점이 아니다. 사후 규제 중심의 법을 넘어, AI의 전 생애를 따라 권리와 책임을 재구성해야 한다고 말한다. AI문고. aiseries.oopy.io에서 필요한 인공지능 지식을 찾을 수 있다.

[목 차]
  

AI 생애 주기에 따른 법의 적용

01 데이터 수집 단계: 개인정보, 저작권 보호와 충돌

02 데이터 전처리·정제 단계: 차별과 편향 내재화

03 모델 설계 단계: 기술 설계와 책임 귀속

04 모델 학습 단계: 저작권 침해와 TDM 예외 

05 모델 검증 및 시험 단계: 안전성과 책임 테스트

06 서비스 배포 단계: 설명 가능성과 투명성 요구

07 AI 의사 결정 단계: 자동화된 결정과 권리 침해

08 이용자 인터페이스 단계: 프롬프트와 책임 교차

09 2차 사용 단계: 생성물의 저작권과 법적 귀속

10 폐기와 재학습 단계: 데이터 제거권과 잊힐 권리

[본 문]
  

공공 데이터는 ‘정보의 민주화’와 ‘산업 활성화’라는 이중적 목적하에 개방되고 있다. AI 학습을 목적으로 한 민간 기업의 데이터 활용이 늘어남에 따라 공공 데이터의 이용 가능 범위와 그 법적 조건을 둘러싼 논의가 본격화되고 있다. 공공데이터법은 원칙적으로 비영리적 목적을 전제로 하되, 일부는 상업적 활용도 허용하지만 구체적 조건은 기관마다 상이하다. 문제는 ‘상업적 목적’이라는 개념의 정의와 적용에서 발생한다. 단순히 영리 기업이 이용한다는 이유로 상업적 목적이라고 단정할 수 없으며, AI 연구나 모델 개발 등은 그 자체로 학문적 또는 공익적 목적을 가질 수도 있다. 이러한 모호성은 데이터 이용자에게 과도한 법적 불확실성을 초래하고, 반대로 공공기관에는 책임 회피의 여지를 남긴다.

－01_“데이터 수집 단계: 개인정보, 저작권 보호와 충돌” 중에서

AI 설계자는 기술 중립성을 내세워, 자신이 단지 도구를 만들었을 뿐 결과에 대해 책임이 없다고 주장하는 경우가 있다. 그러나 현실에서는 알고리즘이 인간의 판단을 대체하거나 결정 구조를 형성하는 경우가 많아, 기술 중립성은 더 이상 책임 회피의 근거가 될 수 없다. 오히려 알고리즘의 설계 방향성이나 조정 가능성이 존재한다면, 이는 의도적 개입으로 평가되어야 한다. (…) 기술 중립성은 면책 사유가 아니라, 그 주장을 입증해야 할 책임의 근거가 되어야 한다. 알고리즘이 사회적 결정 구조에 미치는 영향력이 커진 만큼 설계자는 자신의 기술이 사회에 미칠 결과를 예측하고, 그에 대한 윤리적·법적 책임을 함께 져야 한다. 법 제도는 이러한 기준을 명확히 설정하고, 중립성 주장의 한계를 제시해야 한다.

－03_“모델 설계 단계: 기술 설계와 책임 귀속” 중에서

AI 시스템이 어떻게 판단했는지를 설명하는 방식은 단일하지 않으며, 설명의 내용과 수준은 설명을 요구하는 주체의 성격에 따라 달라져야 한다. 일반 이용자, 피해자, 정부 기관, 규제 기관, 감시 시민단체 등은 각기 다른 정보 수준과 해석 능력을 보유하고 있으므로, 획일적인 설명 제공은 실효성이 낮고 오히려 혼란을 초래할 수 있다. 법적으로는 설명 요구권이 존재하더라도, 그것이 어떤 방식으로 충족되어야 하는지는 개별법에서 명확히 규정되어 있지 않다. 예를 들어 개인정보보호법이나 행정절차법은 설명 요구의 기본권적 성격을 인정하지만, 구체적 내용이나 형식은 미비하다. 이에 따라 법정 다툼 시 설명이 ‘충분했는지 여부’에 대한 판단이 자의적으로 이루어질 수 있다.

－06_“서비스 배포 단계: 설명 가능성과 투명성 요구” 중에서

AI가 학습한 데이터 기반으로 새로운 결과물을 생성하는 과정에서 기존 콘텐츠와 유사하거나 실질적으로 동일한 표현이 생성되는 경우, 저작권 침해 여부가 핵심 쟁점이 된다. 특히 이미지, 음악, 문장 등은 학습 데이터의 특정 표현을 복제하거나 변형하여 사용하는 과정에서 무단 이용 문제가 발생할 수 있다. 법적으로는 ‘실질적 유사성’과 ‘접근 가능성’이 저작권 침해 판단의 기준이 되며, AI가 생성한 결과물이 원저작물의 표현 형식을 모방하거나 반복했을 경우, 비록 우연일지라도 침해 책임이 성립할 수 있다. 또한 학습 과정이 공정 이용 예외에 해당하더라도 결과물 사용은 별개의 침해 행위로 평가될 수 있다는 점에서 주의가 필요하다.

－09_“2차 사용 단계: 생성물의 저작권과 법적 귀속” 중에서