사회-물질적 맥락으로부터 분리된 '순수한 인공지능'은 존재하지 않는다
인공지능의 ‘뒷것들’을 통해 정치・권력・노동・환경을 다시 보다
이제 우리는 채용 과정에서 알고리즘의 선택을 기다리고, 복지 대상자를 데이터로 선별하며, 치안과 감염병 대응에 인공지능과 데이터 기술을 활용한다. 우리는 점점 더 많은 판단을 인공지능에 위임하지만, 정작 인공지능이 무엇으로 만들어지고 어떤 사회적 조건 속에서 작동하는지에 대해서는 충분히 묻지 않는다. 김은성의 신간 『순수한 인공지능은 없다』는 바로 이 질문에서 출발한다. 저자가 말하는 “순수한 인공지능은 없다”란 인공지능이 도덕적으로 타락했다는 뜻이 아니다. “사회적・물질적 맥락으로부터 분리된 인공지능은 애초에 존재할 수 없다”는 의미이다. 알고리즘 뒤에 있는 사람과 사회, 권력과 노동, 에너지와 환경을 함께 보아야 한다. 인공지능 뒤에는 데이터와 노동이 있다. 플랫폼과 자본, 국가와 제도가 있고, 다시 그 뒤에는 막대한 에너지와 물, 자원을 소비하는 물질적 인프라가 있다.
이 책에서는 인공지능이 어떻게 새로운 권력과 정치의 장을 재배치하는지, 플랫폼 자본과 감시의 메커니즘은 어떻게 작동하고, 자동화가 노동을 대체하는 동시에 어떤 새로운 노동을 만드는지 살핀다. 나아가 인공지능과 사회적 관계, 탈식민주의와 문화, 복지 불평등, 예측 치안과 안전, 팬데믹 대응에 이르기까지 인공지능이 사회 곳곳에서 일으키는 변화와 긴장을 들여다본다. 우리가 마주하는 인공지능의 앞모습이 아니라, 그 뒤편에서 작동하는 수많은 관계와 조건, 즉 인공지능의 ‘뒷것들’을 추적한다.
빛에 가려 미처 보지 못했던 인공지능 시대의 그림자들
『순수한 인공지능은 없다』 1부에서는 인공지능과 정치경제의 관계를 살핀다. 국가 권력과 플랫폼 자본에서부터 알고리즘 통치성과 인플루언서의 관심 권력에 이르기까지 인공지능이 만들어내는 새로운 권력의 스펙트럼을 분석한다. 호혜와 신뢰에 기반한 도덕경제, 인간과 비인간의 관계를 포착하는 신유물론적 관점까지 교차시키며 플랫폼 경제의 복잡한 지형을 보여준다. 또한 인공지능 자동화가 노동을 대체하는 동시에 어떤 새로운 노동과 ‘그림자 노동’을 만드는지, 인간만이 가진 암묵지가 자동화 과정에서 어떤 의미를 갖는지도 짚어본다.
2부에서는 인공지능이 우리의 사회적 관계와 문화, 복지에 미치는 영향을 탐색한다. 버추얼 아이돌과 인공지능 애착, 문화 제국주의, 디지털 식민주의, 데이터 기반 복지 행정의 ‘자동화된 불평등’ 등을 통해 인공지능이 인간의 관계와 사회적 질서를 어떻게 다시 구성하는지를 살펴본다.
3부에서는 인공지능과 안전을 주제로, 인간이 의사결정 권한을 위임한 인공지능 에이전트에서 발생할 수 있는 ‘주인-대리인 문제’와 복수의 인공지능이 상호작용하는 복잡계의 위험을 분석하고, 팬데믹 시기 한국의 디지털 역학과 예측 치안의 형성 과정을 통해 기술과 국가, 제도가 결합하는 구체적인 현장을 살펴본다.
마지막 4부에서는 인공지능을 작동시키는 가장 거대한 ‘뒷것’ 가운데 하나인 에너지와 환경에 주목한다. 인공지능은 저절로 작동하는 비물질적인 기술이 아니라 거대한 데이터센터와 에너지망, 물과 천연자원에 의존하는 물리적 시스템이다. 대형언어모델의 확장과 함께 급증하는 에너지 수요, 데이터 과학이 환경 감시와 정책 결정에 가져오는 가능성과 한계를 살펴보며 인공지능과 환경의 관계를 다시 묻고 있다.
미래는 아직 정해지지 않았다
결국 이 책이 보여주는 것은 인공지능의 미래가 기술 자체에 의해 이미 결정된 것이 아니라는 사실이다. 저자는 특정 사회이론 하나로 인공지능을 규정하기보다 과학기술학, 정치경제학, 도덕경제학, 조직사회학, 후기구조주의, 행위자-연결망 이론 등 다양한 이론적 관점을 교차시키며 인공지능의 복잡성과 불확실성을 드러낸다. 인공지능을 둘러싼 낙관과 비관 사이에서 한쪽의 답을 선택하기보다, 우리가 어떤 기술과 제도, 관계를 만들어갈 것인지 질문하는 것이 이 책이 제안하는 새로운 출발점이다. 그 결과 『순수한 인공지능은 없다』는 인공지능의 미래를 예언하는 책이 아니라, 이미 우리 사회에서 작동하고 있는 인공지능을 어떻게 이해하고, 어떤 미래를 만들어갈 것인지 질문하는 책이 된다. 인공지능을 둘러싼 찬반의 익숙한 논쟁에서 한 걸음 물러나, 우리가 미처 보지 못했던 인공지능의 ‘뒷것들’을 들여다볼 때 비로소 인공지능의 진짜 모습이 보이기 시작할 것이다.
PART 1 인공지능의 정치와 경제
∎ 〈인공지능 정치의 변검술〉 정치경제학 및 민주주의 이론에서부터 후기구조주의, 나아가 신유물론에 이르는 다양한 사회학적 렌즈를 투영하여 인공지능 정치의 다면성을 조망한다.
∎ 〈인공지능 권력의 스펙트럼〉 인공지능을 매개로 작동하는 국가 및 플랫폼 자본의 도구주의적 권력을 조명하고, 인플루언서의 관심 권력을 분석한다.
∎〈플랫폼의 정치경제, 도덕경제, 그리고 신유물론 관점〉 플랫폼 경제를 입체적으로 조망하는 세 가지 이론적 축으로서 정치경제학, 도덕경제학, 그리고 신유물론을 깊이 있게 살펴본다.
∎〈플랫폼 정치경제의 감각적 전환과 이에 대한 도전〉 멀티모달 인공지능에 의해 이루어지는 데이터의 다양한 감각 양식으로의 전환을 ‘감각 번역’이라는 개념으로 분석한다. 감각 번역은 감시 자본주의를 더욱 강화하는 기제로, 이 장에서는 플랫폼 기업들이 최근 멀티모달 인공지능 개발에 주력하는 이유를 설명한다.
∎〈인공지능 자동화, 암묵지, 플랫폼 노동〉 인공지능 도입에 따른 노동 환경의 변화를 암묵지와 플랫폼 노동의 특성을 중심으로 고찰한다.
PART 2 인공지능과 사회, 문화, 복지
∎ 〈인공지능 애착과 사회적 관계의 변화〉 인공지능 애착에 대한 지배적 담론과 달리, 버추얼 아이돌 사례를 통해 기존과 다른 새로운 관점을 제시한다.
∎ 〈인공지능과 탈식민주의〉 최근 생성형 인공지능의 확산은 영어권 중심 문화 제국주의를 강화하는 동시에, 역설적으로 비영어권 문화의 세계화를 촉진하는 양면성이 있다. 이러한 맥락에서 탈식민주의적 관점에서 인공지능이 문화에 미치는 영향을 살펴본다.
∎ 〈데이터 과학과 복지 불평등〉 인공지능과 빅데이터의 도입이 초래한 복지 체제의 재편과 그 과정에서 나타나는 사회적 불평등 문제를 살펴본다.
PART 3 인공지능과 안전
∎ 〈인공지능 에이전트의 주인-대리인 문제들과 정상 사고의 가능성〉 인공지능 에이전트가 초래할 수 있는 위험을 ‘주인-대리인 이론’을 통해 다각도로 해부한다.
∎ 〈팬데믹과 한국 디지털 역학의 탄생〉 2014년 조류독감 위기 대응 시기부터 코로나19 역학조사 지원시스템의 완성에 이르기까지 한국형 디지털 역학을 만든 기술적・사회적・제도적 요인들을 살펴본다.
∎ 〈예측 치안의 '마이너리티 리포트'〉 예측 치안에 내재한 권력과 정치를 추적하는 비판적・역사적 접근, 인식 문화 연구, 예측 기술의 사회적 수용성 연구를 두루 짚어본다.
PART 4 인공지능과 에너지 그리고 환경
∎ 〈인공지능의 '뒷것' 에너지〉 인공지능은 에너지 등 거대한 물리적 인프라구조에 의존하고 있다. 이 장은 인공지능 산업이 자원을 흡수하는 '추출주의'를 설명하기 위해 행위자-연결망 이론을 동원한다.
∎ 〈데이터 과학과 환경 정치의 미래〉 데이터 과학으로 인해 환경 정치는 재편되고 있다. 환경 센서 기술의 발달에 따른 ‘정밀 모니터링’에는 사회적 불평등 및 민주주의와 빅데이터 감시의 긴장이 존재하고 있다.
∎ 〈데이터 과학과 증거 기반 환경 정책〉 데이터 과학이 지니는 한계와 가능성을 규명한다. 인과적 설명 부족으로 데이터과학은 의사결정의 합리적 근거로는 한계를 지니지만, 전략환경영향평가, 정책 자원 배분 등의 영역에서는 유용한 방법이 될 수 있다.
