*****이광석, 김지훈, 홍기빈, 장석준 강력 추천!*****
*****2024년 도이처 기념상 수상, 전 세계 15개 국가 수출*****
“오늘날 AI 기술 권력과 주류 우파 기술주의 담론에 맞서서 우리에게 중요한 대항 논리와 비판적 반박의 근거를 마련해주는 책.”
- 이광석(기술생태학자, 서울과학기술대 교수)
“새로운 시대상에 마르크스주의적 입장이 내놓는 묵직한 응수.”
- 홍기빈(정치경제학자, 글로벌정치경제연구소 소장)
“‘마스터 알고리즘’에 대한 탁월한 유물론적 비판이자 21세기 학제간 미디어학의 모범 사례.”
- 김지훈(중앙대학교 영화미디어학센터 디렉터, 《위기미디어》 저자)
“기계 지능의 신도들이 손쉬운 통제의 유토피아와 멸종의 파국을 동시에 선포하는 지금, AI 독점의 과거와 미래에 대한 결정적 통찰을 제공하는 끈기 있고 영리한 작업.”
- 사이먼 섀퍼(케임브리지대학교 과학사학과 교수, 《리바이어던과 공기펌프》 공저자)
“수탈과 저항, 자동화와 투쟁의 이야기가 이 열정적인 책의 지면을 가로지른다. 놀라운 학문적 성취인 동시에 인공지능 정치학을 새롭게 사유하기 위한 정치적 무기가 될 책.”
- 산드로 메자드라(볼로냐대학교 예술학부 교수, 《인지자본주의와 전 지구적 경제위기》 공저자)
인공지능은 무엇으로 만들어졌으며, 그 주인은 누가 되어야 하는가?
'AI가 노동자를 대체하는' 지금 이 시대에 필요한 독창적 사유의 등장
인공지능 기술이 날로 확장하는 오늘날, AI가 우리의 일자리를 빼앗을 것이라는 전망은 점차 현실이 되고 있다. 전 세계적으로 수많은 개발자, 상담원, 사무보조원, 번역가, 창작자, 디자이너 등의 노동자가 AI로 ‘대체’되는 현상이 벌어지고 있으며, 앞으로는 더 많은 직업군이 AI에 대체될 것이라는 예측이 이어진다. 그런데 이런 사태를 마주한 사람들의 반응은 비교적 온건한 듯하다. 부당해고를 당한 때처럼 고용주에 항의하거나 노동부에 도움을 요청하거나 문제를 공론화하고 여론을 모으기보다, 많은 사람들은 이를 그저 어쩔 수 없는 일로 받아들인다. 마치 증기기관의 발명으로 마부가 자리를 잃고 전보의 발명으로 우체부가 실업한 것처럼, 인류의 진보에 따른 거스를 수 없는 시대적 흐름이라고 생각하면서 말이다. 그런데 이는 정말 ‘어쩔 수 없는 일’일까? 비판적 AI 연구를 선도하는 동시대적 지성인인 이탈리아의 철학자 마테오 파스퀴넬리는 AI 기술이 그 개발 초기부터 지금까지 항상 노동자들의 분업과 사회적 관계를 기계화한 것이었음을 주장하며, 이 기술의 진정한 주권이 누구에게 있는지를 묻는다.
이 책은 유물론적 관점으로 AI의 역사를 다시 쓴다는 독창적이고도 야망 있는 기획이다. AI 시대를 맞아 새롭게 부상하는 학문 분야인 비판적 AI 연구의 대표적인 저작이자, 디지털 자본주의라는 자본의 현대적 변용을 분석한 동시대의 정치경제학 저술이기도 하다. 기술사와 사회사, 정치경제학과 과학철학, 통계학과 수학 등 다양한 학제를 넘나들며 AI 기술의 사회적 기원을 밝히는 이 책은 2024년 마르크스주의 전통에서 가장 혁신적이고 탁월한 저술에 수여되는 학술상인 도이처 기념상을 수상했으며, 지금까지 전 세계 15개 국가로 수출되었다. 이번 한국어판에서는 원서 출간 이후 진척된 논의를 담은 한국어판 서문과 기술생태학자 이광석의 해제를 통해 더욱 풍부하고 시의적인 논의를 제공한다.
이 책에서 저자는 현대적 컴퓨터의 시초라 불리는 찰스 배비지의 차분기관부터 지금의 AI 시대를 연 프랭크 로젠블랫의 퍼셉트론까지 AI의 역사를 쓴다. 기존의 AI 역사가 ‘인공지능이 인간 지능의 생물학적 특성을 본떠 만든 것’이라는 기술과학적 관점으로만 서술돼온 것과 달리, 이 책은 기술 개발 당시의 사회·경제·정치적 동학을 포함함으로써 더욱 총체적인 AI의 역사를 정립하고자 한다. 저자가 탐구한 새로운 인공지능의 사회사는 기계가 자동화해온 것이 인간 두뇌의 작동방식이 아니라 노동 현장에서의 사회적 분업과 협력이었으며, 기계는 노동자들의 지식과 숙련기술을 추출해 기계에 축적함으로써 노동자를 대체하려는 자본의 꾸준한 시도로서 발전돼왔다는 점을 선명하게 보여준다. (이 책의 제목인 ‘주인의 눈’은 산업화 시대 노동자들의 분업을 감시·측정·통제하던 공장주들의 눈처럼, 산업기계부터 AI까지 이어지는 지금의 기술은 노동에 대한 자본의 관리 도구로 기능하고 있다는 비유를 담고 있다.) 더 나아가 저자는 지금의 AI가 학습하고 활용하는 데이터 또한 인간에게서 추출된 유산임을 지적한다.
이를 통해 저자는 우리에게 이렇게 묻고자 한다. 인공지능의 진짜 주인은 누가 되어야 하는가? AI를 통한 빅테크와 국가기관의 통제 및 지배가 날로 심화하는 오늘날, 이 책은 이러한 질문을 통해 AI 기술에 얽힌 신화와 권능에 도전하고 그에 개입할 정치적 가능성을 열어젖히고자 한다.
인공지능은 뇌의 신경세포가 아니라 노동에서 왔다!
AI의 진짜 역사를 다시 쓰는 AI 사회기술사
인공지능의 시대를 맞은 우리 사회에는 AI에 관한 여러 가지 신화가 떠돈다. 그중 가장 대표적인 것은 ‘인공지능은 뇌의 신경세포 같은 인간 지능의 생물학적 속성을 본떠 만들었다’는 것일 테다. 이같이 기술이 순수하게 과학적인 발견으로 만들어졌다는 기술 내재주의적 관점은 지금의 AI 기술을 가치중립적이고 자연스러운 것으로 제시한다. 따라서 이를 비판하거나 거스르는 것을 어렵게 만들고, 기술의 개발과 활용 전반에 자리한 사회경제적 조건, 권력과 불평등, 정치의 문제를 가려버린다.
이 책은 기술의 역사적‧사회적 맥락을 고려하는 외재주의적 관점을 통해 기술의 내적 논리에 영향을 미친 경제적‧정치적 요인까지 규명하는 AI의 ‘사회기술사’를 쓴다. 저자는 과학사 분야에서 주로 쓰여온 역사적 인식론의 방법을 활용해 전 지구적 경제 동학 내 사회적 실천, 노동 도구, 과학적 추상의 변증법적 전개에 주목하며 AI와 알고리즘적 사고를 탐구하고자 한다.
현대 컴퓨터의 시초라 불리는 찰스 배비지의 차분기관부터 딥러닝 기술의 기초가 된 프랭크 로젠블랫의 퍼셉트론까지 알고리즘 기술의 역사를 따라가며, 저자는 이 기술들이 독립된 공학자의 천재성이나 사회와 무관한 과학적 발견이 아니라, 노동자들의 분업과 사회적 관계를 모방하여 만들어졌음을 논증한다. 기술은 노동자들의 기술과 지식, 창의성을 포착해 그것을 기계적 산물로 전환해왔고, 그를 통해 노동을 자동화하여 노동력을 대체해왔다. 산업기계부터 인공지능까지 반복된 이러한 기술 발전의 역사를 저자는 (마르크스의 ‘노동가치론’에 대응하여) ‘노동자동화론’으로 이론화한다.
배비지의 차분기관부터 로젠블랫의 퍼셉트론까지
AI의 사회적 기원을 밝히는 유물론적 기술 비평
이 책은 이러한 논지를 전개하는 9개의 장으로 구성된다. 1장은 본격적인 AI의 역사를 탐색하기 전에 이 기술의 중심 개념인 알고리즘 자체를 다시 사유하고자 한다. 저자는 알고리즘을 서구 컴퓨터과학의 전유물이 아니라 모든 문명에 존재해온 물질적 사고의 형식으로 읽어낸다. 그에 따르면 알고리즘적 사고와 실천은 주로 사회경제적 문제를 해결하기 위한 물질적 추상으로 출현했으며, 다름 아닌 노동이 바로 최초의 알고리즘이다.
이어지는 1부와 2부는 각각 산업화 시대와 정보화 시대에 기계 지능이 어떻게 발전해왔는지 다룬다. 1부의 첫 장인 2장에서는 현대 컴퓨터의 시초라 불리는 찰스 배비지의 차분기관과 해석기관의 설계 과정을 살핀다. 이 산업기계들은 수기 계산을 수행하던 노동자들의 분업 체계를 흡수하여 자동화하고, 그와 동시에 생산에 필요한 노동을 쪼개고 측정하여 통제한다. 3장은 19세기 영국 사회에서 촉발된 ‘기계 문제’를 검토하면서 현재 AI로 인해 떠오른 정신노동과 기술적 실업, 지식 소외의 문제가 이 시기부터 활발히 논의되었음을 짚는다. 4장은 카를 마르크스의 일반 지성과 총노동자 개념을 중심으로 지식, 노동, 기계의 관계를 분석한다. 초기에 마르크스는 지식의 축적이 해방적 가능성을 지닐 수 있다고 보았지만, 이후에는 지식이 기계 속에 응고되어 노동자에게 적대적인 힘으로 작동한다는 점에 주목하며 분업과 협업으로 이루어진 집합적 노동의 힘을 강조하게 된다. 5장은 산업화 시대에서 정보화 시대로의 이행 과정에서 노동이 어떻게 추상적 에너지와 추상적 형식으로 이분화되었는지 설명하면서, 이후 등장할 사이버네틱스와 AI의 이론적‧역사적 조건을 정리한다.
정보화 시대를 다루는 2부에 들어서면, 6장은 사이버네틱스와 자기조직화 이론을 중심으로 현대 연결주의 AI의 계보를 그린다. 그리고 신경망 원형, 세포 자동자, 퍼셉트론 등의 자기조직적 인공신경망 또한 당대의 기술적‧사회적 협업 구조를 투영해 만들어진 것임을 밝힌다. 7장에서는 연결주의 이론과 게슈탈트 이론 사이의 대립을 소개하며 연결주의 AI가 하려는 것이 논리적 추론의 자동화가 아니라 시각적 분류 작업의 자동화, 즉 패턴 인식의 자동화라는 점을 짚는다. 다시 말해 오늘날 AI는 ‘생각하는 기계’보다 ‘분류하는 기계’에 가깝다는 것이다. 8장은 신자유주의 경제학자 프리드리히 하이에크가 시장의 자율성을 논하기 위해 연구한 마음의 자기조직화 이론이 어떻게 연결주의 패러다임과 연결되는지 분석한다. 이를 통해 AI 기술과 경제 이데올로기가 얼마나 깊이 얽혀 있는지가 드러난다. 9장은 최초의 머신러닝 알고리즘으로 평가되는 프랭크 로젠블랫의 퍼셉트론 개발 과정을 살핀다. 저자는 이미지를 통계적으로 분류하는 퍼셉트론의 수학적 기반이 컴퓨터과학이 아니라 심리측정학, IQ 테스트, 우생학 같은 사회적 분류 및 통제 기술에서 왔음을 지적하며, 현대 AI가 그 기원에서부터 사회적 위계화와 통제의 역사를 품고 있음을 보여준다.
현대판 ‘주인의 눈’을 해체하고
기술의 주권을 탈환하는 AI 정치학을 향하여
이 책의 제목인 ‘주인의 눈’은 기술적이면서도 정치적인 비유이다. 이는 본래 산업화 시대에 공장 전체를 조망하며 노동자들의 분업을 감시하고 통제했던 자본가의 관리 체계를 뜻하는 표현이었다. 저자가 분석하는 자동화의 역사에서 배비지의 산업기계가 수행한 것도 바로 공장주의 눈이 하듯이 노동을 분해하고 측정한 뒤 통제하는 작업이었다. 이후 사회 내 분업이 대규모로 확장되며 주인의 눈은 전 지구적 자본의 운영과 같은 새로운 통제 기술로 진화했으며, 이것이 디지털 기술과 결합해 궁극적으로는 현재의 AI 알고리즘이 되었다는 것이 저자의 설명이다. (한편으로 이 표현은 현재 AI 패러다임인 딥러닝이 인지 이론이 아니라 시각 노동 혹은 패턴 인식을 자동화하려는 기술에서 출현했다는 것을 절묘하게 암시하기도 한다.) AI의 형태를 띤 현대판 ‘주인의 눈’은 수많은 사람들의 데이터를 들여다보고 수집하는 소수의 빅테크 기업들을 중심으로 그 어느 때보다 정교한 전 지구적 관리 체계를 만들어내고 있다.
이 새로운 주인의 눈에 우리는 어떻게 저항할 수 있을까? 결론에서 저자는 기술 발전의 원리로 이론화했던 노동자동화론을 현재의 AI 독점체를 분석하고 그것에 대항할 수 있는 실천적 도구로 제시한다. 노동의 자동화로서 기술이 탄생한다면, 기술의 재전유와 재발명은 그것을 구성했던 사회적 관계의 매트리스 속으로 들어감으로써만 가능하다는 것이다. 따라서 현재의 기술에 비판적으로 개입하는 기술 정치는 기술적인 것이 아니라 정치적인 방식으로만 비로소 시작될 수 있다. 우리는 인간의 노동으로 만들어졌고 인간에게서 추출한 데이터로 운용되는 이 기술의 진짜 주인이 누구인지를 묻고 그 주권을 되찾아오는 정치를 구성해야 한다. 그리고 더 나아가 기술 시스템의 근간이 되는 노동 조직과 사회적 관계를 해방하고 탈식민화하는 근본적인 정치적 변혁을 불러와야 한다. 이 같은 AI 정치학의 가능성을 열어내려는 이 책은 전 지구가 AI라는 물신에 잠식되고 있는 지금, 판을 뒤엎기 위해 꼭 필요한 이론적‧실천적 무기가 되어줄 것이다.
*****이광석, 김지훈, 홍기빈, 장석준 강력 추천!*****
*****2024년 도이처 기념상 수상, 전 세계 15개 국가 수출*****
“오늘날 AI 기술 권력과 주류 우파 기술주의 담론에 맞서서 우리에게 중요한 대항 논리와 비판적 반박의 근거를 마련해주는 책.”
- 이광석(기술생태학자, 서울과학기술대 교수)
“새로운 시대상에 마르크스주의적 입장이 내놓는 묵직한 응수.”
- 홍기빈(정치경제학자, 글로벌정치경제연구소 소장)
“‘마스터 알고리즘’에 대한 탁월한 유물론적 비판이자 21세기 학제간 미디어학의 모범 사례.”
- 김지훈(중앙대학교 영화미디어학센터 디렉터, 《위기미디어》 저자)
“기계 지능의 신도들이 손쉬운 통제의 유토피아와 멸종의 파국을 동시에 선포하는 지금, AI 독점의 과거와 미래에 대한 결정적 통찰을 제공하는 끈기 있고 영리한 작업.”
- 사이먼 섀퍼(케임브리지대학교 과학사학과 교수, 《리바이어던과 공기펌프》 공저자)
“수탈과 저항, 자동화와 투쟁의 이야기가 이 열정적인 책의 지면을 가로지른다. 놀라운 학문적 성취인 동시에 인공지능 정치학을 새롭게 사유하기 위한 정치적 무기가 될 책.”
- 산드로 메자드라(볼로냐대학교 예술학부 교수, 《인지자본주의와 전 지구적 경제위기》 공저자)
인공지능은 무엇으로 만들어졌으며, 그 주인은 누가 되어야 하는가?
'AI가 노동자를 대체하는' 지금 이 시대에 필요한 독창적 사유의 등장
인공지능 기술이 날로 확장하는 오늘날, AI가 우리의 일자리를 빼앗을 것이라는 전망은 점차 현실이 되고 있다. 전 세계적으로 수많은 개발자, 상담원, 사무보조원, 번역가, 창작자, 디자이너 등의 노동자가 AI로 ‘대체’되는 현상이 벌어지고 있으며, 앞으로는 더 많은 직업군이 AI에 대체될 것이라는 예측이 이어진다. 그런데 이런 사태를 마주한 사람들의 반응은 비교적 온건한 듯하다. 부당해고를 당한 때처럼 고용주에 항의하거나 노동부에 도움을 요청하거나 문제를 공론화하고 여론을 모으기보다, 많은 사람들은 이를 그저 어쩔 수 없는 일로 받아들인다. 마치 증기기관의 발명으로 마부가 자리를 잃고 전보의 발명으로 우체부가 실업한 것처럼, 인류의 진보에 따른 거스를 수 없는 시대적 흐름이라고 생각하면서 말이다. 그런데 이는 정말 ‘어쩔 수 없는 일’일까? 비판적 AI 연구를 선도하는 동시대적 지성인인 이탈리아의 철학자 마테오 파스퀴넬리는 AI 기술이 그 개발 초기부터 지금까지 항상 노동자들의 분업과 사회적 관계를 기계화한 것이었음을 주장하며, 이 기술의 진정한 주권이 누구에게 있는지를 묻는다.
이 책은 유물론적 관점으로 AI의 역사를 다시 쓴다는 독창적이고도 야망 있는 기획이다. AI 시대를 맞아 새롭게 부상하는 학문 분야인 비판적 AI 연구의 대표적인 저작이자, 디지털 자본주의라는 자본의 현대적 변용을 분석한 동시대의 정치경제학 저술이기도 하다. 기술사와 사회사, 정치경제학과 과학철학, 통계학과 수학 등 다양한 학제를 넘나들며 AI 기술의 사회적 기원을 밝히는 이 책은 2024년 마르크스주의 전통에서 가장 혁신적이고 탁월한 저술에 수여되는 학술상인 도이처 기념상을 수상했으며, 지금까지 전 세계 15개 국가로 수출되었다. 이번 한국어판에서는 원서 출간 이후 진척된 논의를 담은 한국어판 서문과 기술생태학자 이광석의 해제를 통해 더욱 풍부하고 시의적인 논의를 제공한다.
이 책에서 저자는 현대적 컴퓨터의 시초라 불리는 찰스 배비지의 차분기관부터 지금의 AI 시대를 연 프랭크 로젠블랫의 퍼셉트론까지 AI의 역사를 쓴다. 기존의 AI 역사가 ‘인공지능이 인간 지능의 생물학적 특성을 본떠 만든 것’이라는 기술과학적 관점으로만 서술돼온 것과 달리, 이 책은 기술 개발 당시의 사회·경제·정치적 동학을 포함함으로써 더욱 총체적인 AI의 역사를 정립하고자 한다. 저자가 탐구한 새로운 인공지능의 사회사는 기계가 자동화해온 것이 인간 두뇌의 작동방식이 아니라 노동 현장에서의 사회적 분업과 협력이었으며, 기계는 노동자들의 지식과 숙련기술을 추출해 기계에 축적함으로써 노동자를 대체하려는 자본의 꾸준한 시도로서 발전돼왔다는 점을 선명하게 보여준다. (이 책의 제목인 ‘주인의 눈’은 산업화 시대 노동자들의 분업을 감시·측정·통제하던 공장주들의 눈처럼, 산업기계부터 AI까지 이어지는 지금의 기술은 노동에 대한 자본의 관리 도구로 기능하고 있다는 비유를 담고 있다.) 더 나아가 저자는 지금의 AI가 학습하고 활용하는 데이터 또한 인간에게서 추출된 유산임을 지적한다.
이를 통해 저자는 우리에게 이렇게 묻고자 한다. 인공지능의 진짜 주인은 누가 되어야 하는가? AI를 통한 빅테크와 국가기관의 통제 및 지배가 날로 심화하는 오늘날, 이 책은 이러한 질문을 통해 AI 기술에 얽힌 신화와 권능에 도전하고 그에 개입할 정치적 가능성을 열어젖히고자 한다.
인공지능은 뇌의 신경세포가 아니라 노동에서 왔다!
AI의 진짜 역사를 다시 쓰는 AI 사회기술사
인공지능의 시대를 맞은 우리 사회에는 AI에 관한 여러 가지 신화가 떠돈다. 그중 가장 대표적인 것은 ‘인공지능은 뇌의 신경세포 같은 인간 지능의 생물학적 속성을 본떠 만들었다’는 것일 테다. 이같이 기술이 순수하게 과학적인 발견으로 만들어졌다는 기술 내재주의적 관점은 지금의 AI 기술을 가치중립적이고 자연스러운 것으로 제시한다. 따라서 이를 비판하거나 거스르는 것을 어렵게 만들고, 기술의 개발과 활용 전반에 자리한 사회경제적 조건, 권력과 불평등, 정치의 문제를 가려버린다.
이 책은 기술의 역사적‧사회적 맥락을 고려하는 외재주의적 관점을 통해 기술의 내적 논리에 영향을 미친 경제적‧정치적 요인까지 규명하는 AI의 ‘사회기술사’를 쓴다. 저자는 과학사 분야에서 주로 쓰여온 역사적 인식론의 방법을 활용해 전 지구적 경제 동학 내 사회적 실천, 노동 도구, 과학적 추상의 변증법적 전개에 주목하며 AI와 알고리즘적 사고를 탐구하고자 한다.
현대 컴퓨터의 시초라 불리는 찰스 배비지의 차분기관부터 딥러닝 기술의 기초가 된 프랭크 로젠블랫의 퍼셉트론까지 알고리즘 기술의 역사를 따라가며, 저자는 이 기술들이 독립된 공학자의 천재성이나 사회와 무관한 과학적 발견이 아니라, 노동자들의 분업과 사회적 관계를 모방하여 만들어졌음을 논증한다. 기술은 노동자들의 기술과 지식, 창의성을 포착해 그것을 기계적 산물로 전환해왔고, 그를 통해 노동을 자동화하여 노동력을 대체해왔다. 산업기계부터 인공지능까지 반복된 이러한 기술 발전의 역사를 저자는 (마르크스의 ‘노동가치론’에 대응하여) ‘노동자동화론’으로 이론화한다.
배비지의 차분기관부터 로젠블랫의 퍼셉트론까지
AI의 사회적 기원을 밝히는 유물론적 기술 비평
이 책은 이러한 논지를 전개하는 9개의 장으로 구성된다. 1장은 본격적인 AI의 역사를 탐색하기 전에 이 기술의 중심 개념인 알고리즘 자체를 다시 사유하고자 한다. 저자는 알고리즘을 서구 컴퓨터과학의 전유물이 아니라 모든 문명에 존재해온 물질적 사고의 형식으로 읽어낸다. 그에 따르면 알고리즘적 사고와 실천은 주로 사회경제적 문제를 해결하기 위한 물질적 추상으로 출현했으며, 다름 아닌 노동이 바로 최초의 알고리즘이다.
이어지는 1부와 2부는 각각 산업화 시대와 정보화 시대에 기계 지능이 어떻게 발전해왔는지 다룬다. 1부의 첫 장인 2장에서는 현대 컴퓨터의 시초라 불리는 찰스 배비지의 차분기관과 해석기관의 설계 과정을 살핀다. 이 산업기계들은 수기 계산을 수행하던 노동자들의 분업 체계를 흡수하여 자동화하고, 그와 동시에 생산에 필요한 노동을 쪼개고 측정하여 통제한다. 3장은 19세기 영국 사회에서 촉발된 ‘기계 문제’를 검토하면서 현재 AI로 인해 떠오른 정신노동과 기술적 실업, 지식 소외의 문제가 이 시기부터 활발히 논의되었음을 짚는다. 4장은 카를 마르크스의 일반 지성과 총노동자 개념을 중심으로 지식, 노동, 기계의 관계를 분석한다. 초기에 마르크스는 지식의 축적이 해방적 가능성을 지닐 수 있다고 보았지만, 이후에는 지식이 기계 속에 응고되어 노동자에게 적대적인 힘으로 작동한다는 점에 주목하며 분업과 협업으로 이루어진 집합적 노동의 힘을 강조하게 된다. 5장은 산업화 시대에서 정보화 시대로의 이행 과정에서 노동이 어떻게 추상적 에너지와 추상적 형식으로 이분화되었는지 설명하면서, 이후 등장할 사이버네틱스와 AI의 이론적‧역사적 조건을 정리한다.
정보화 시대를 다루는 2부에 들어서면, 6장은 사이버네틱스와 자기조직화 이론을 중심으로 현대 연결주의 AI의 계보를 그린다. 그리고 신경망 원형, 세포 자동자, 퍼셉트론 등의 자기조직적 인공신경망 또한 당대의 기술적‧사회적 협업 구조를 투영해 만들어진 것임을 밝힌다. 7장에서는 연결주의 이론과 게슈탈트 이론 사이의 대립을 소개하며 연결주의 AI가 하려는 것이 논리적 추론의 자동화가 아니라 시각적 분류 작업의 자동화, 즉 패턴 인식의 자동화라는 점을 짚는다. 다시 말해 오늘날 AI는 ‘생각하는 기계’보다 ‘분류하는 기계’에 가깝다는 것이다. 8장은 신자유주의 경제학자 프리드리히 하이에크가 시장의 자율성을 논하기 위해 연구한 마음의 자기조직화 이론이 어떻게 연결주의 패러다임과 연결되는지 분석한다. 이를 통해 AI 기술과 경제 이데올로기가 얼마나 깊이 얽혀 있는지가 드러난다. 9장은 최초의 머신러닝 알고리즘으로 평가되는 프랭크 로젠블랫의 퍼셉트론 개발 과정을 살핀다. 저자는 이미지를 통계적으로 분류하는 퍼셉트론의 수학적 기반이 컴퓨터과학이 아니라 심리측정학, IQ 테스트, 우생학 같은 사회적 분류 및 통제 기술에서 왔음을 지적하며, 현대 AI가 그 기원에서부터 사회적 위계화와 통제의 역사를 품고 있음을 보여준다.
현대판 ‘주인의 눈’을 해체하고
기술의 주권을 탈환하는 AI 정치학을 향하여
이 책의 제목인 ‘주인의 눈’은 기술적이면서도 정치적인 비유이다. 이는 본래 산업화 시대에 공장 전체를 조망하며 노동자들의 분업을 감시하고 통제했던 자본가의 관리 체계를 뜻하는 표현이었다. 저자가 분석하는 자동화의 역사에서 배비지의 산업기계가 수행한 것도 바로 공장주의 눈이 하듯이 노동을 분해하고 측정한 뒤 통제하는 작업이었다. 이후 사회 내 분업이 대규모로 확장되며 주인의 눈은 전 지구적 자본의 운영과 같은 새로운 통제 기술로 진화했으며, 이것이 디지털 기술과 결합해 궁극적으로는 현재의 AI 알고리즘이 되었다는 것이 저자의 설명이다. (한편으로 이 표현은 현재 AI 패러다임인 딥러닝이 인지 이론이 아니라 시각 노동 혹은 패턴 인식을 자동화하려는 기술에서 출현했다는 것을 절묘하게 암시하기도 한다.) AI의 형태를 띤 현대판 ‘주인의 눈’은 수많은 사람들의 데이터를 들여다보고 수집하는 소수의 빅테크 기업들을 중심으로 그 어느 때보다 정교한 전 지구적 관리 체계를 만들어내고 있다.
이 새로운 주인의 눈에 우리는 어떻게 저항할 수 있을까? 결론에서 저자는 기술 발전의 원리로 이론화했던 노동자동화론을 현재의 AI 독점체를 분석하고 그것에 대항할 수 있는 실천적 도구로 제시한다. 노동의 자동화로서 기술이 탄생한다면, 기술의 재전유와 재발명은 그것을 구성했던 사회적 관계의 매트리스 속으로 들어감으로써만 가능하다는 것이다. 따라서 현재의 기술에 비판적으로 개입하는 기술 정치는 기술적인 것이 아니라 정치적인 방식으로만 비로소 시작될 수 있다. 우리는 인간의 노동으로 만들어졌고 인간에게서 추출한 데이터로 운용되는 이 기술의 진짜 주인이 누구인지를 묻고 그 주권을 되찾아오는 정치를 구성해야 한다. 그리고 더 나아가 기술 시스템의 근간이 되는 노동 조직과 사회적 관계를 해방하고 탈식민화하는 근본적인 정치적 변혁을 불러와야 한다. 이 같은 AI 정치학의 가능성을 열어내려는 이 책은 전 지구가 AI라는 물신에 잠식되고 있는 지금, 판을 뒤엎기 위해 꼭 필요한 이론적‧실천적 무기가 되어줄 것이다.