AI와 거버넌스 정치(인공지능총서)

AI는 정책 결정과 시민 참여를 확대할 수 있지만 여론 조작, 데이터 권력 집중 등 민주주의를 위협할 가능성도 크다. AI가 정부 운영, 법적 규제, 감시 사회, 기후 위기 대응, 신재생에너지, 사이버 안보 등 다양한 분야에서 어떻게 활용될지 탐색하며, AI 시대의 민주주의와 정치 시스템의 방향을 제시한다. AI가 민주주의를 강화할지, 새로운 권위주의를 초래할지는 인간의 선택에 달려 있다.

[목 차]

AI 시대, 결국 정치적 문제다

01 AI 거버넌스

02 AI와 지방자치

03 AI 시대의 법제 정비

04 AI와 감시 사회

05 AI와 기후 위기 정치

06 AI 시대 시민운동

07 AI와 재생에너지 정책

08 AI 저널리즘과 사이버 안보

09 AI의 페이크 뉴스

10 ESG에 AI 접목하는 기관·기업

[본 문]

일반 시민들은 자기 학습을 위해 웨어러블 디바이스를 몸에 장착하며 그것에 근거한 사회복지 혜택이나 건강 프로그램을 적용받기도 한다. 세금도 이러한 활동에 근거해 부과될 것이다. 정부는 시민들을 위해 피트니스 트래커를 제공·운영하는 데, 관련 데이터의 수집을 통해서 건강보험이나 기타 사회복지의 서비스 범위와 정도가 결정 된다. 이것은 자발적 정치 참여라기보다 강요된 정치 참여라고 할 수 있다. 어쩌면 AI는 강요된 정치 참여를 유도하는지도 모른다.

－01_“AI 거버넌스” 중에서

이제 디지털 플랫폼 정부를 통해 모든 데이터가 상호 연결된다. 디지털 플랫폼에서 시민, 기업, 정부 등이 함께 사회적 문제를 해결하며, 새로운 가치를 창출할 수 있는 정부로 변신한다. 이는 디지털 경제의 핵심이다. 데이터 유통의 신뢰성 확보를 통한 이용자들의 안전한 데이터 활용을 위해 국가 차원에서 신뢰 기반을 확보하기 위한 제도적 기반 구조를 구축하는 중이다. 상생 발전을 위한 기반 구조 구축으로 디지털 플랫폼의 순기능적인 측면이 기대되지만 의도치 않은 역기능과 부작용이 우려되기도 한다.

－03_“AI 시대의 법제 정비” 중에서

기술철학자 마크 쾨켈버그(Mark Coeckelbergh)는 광의의 AI 행위자 연결 네트워크 속 기술ᐨ인간 주체라는 역동적인 상호작용의 맥락을 강조하는 ‘기술수행(Technoperformances)’ 개념을 추가한다. 이 개념을 통해 그는 자본주의에 의해 구성된 AI의 기술 권력을 언급하며 인간성 상실 문제를 경고한다. AI의 논리 구조는 개별 주체라고 할 수 있는 이용자의 말, 생각, 동작, 사회생활, 감정, 일 등 일상적인 기술수행에 영향을 미치고 체화될 것이다. 쾨켈버그는 이러한 삶이 정착되면 될수록 인간에게 새로운 정체성이 재구성되어 AI의 ‘수행적 권력 기제’에 예속될 수밖에 없다는 점을 경계했다.

－06_“AI 시대 시민운동” 중에서

가짜 뉴스 규제는 현재 SNS와 AI 제반 기술에 기반한 규제의 기준이나 정도 등을 결정하는 것이 중요하다. 플랫폼은 자유 공간으로서 개인의 인격 발현과 표현의 자유가 증진되는 곳이다. 근래 AI와 저변 기술의 발전은 플랫폼에 기계적 생성물이나 그에 기반한 표현물이 대량으로 작성되고 유통될 수 있는 여지를 남긴다. 디지털 환경 내 모든 정보의 진위 판단을 개인의 합리적 의사결정 능력에만 의존한다면 가짜 뉴스의 폐해를 막기 어려울 것이다.

－09_“AI의 페이크 뉴스” 중에서