[목 차]
디지털 문명 앞에 선 인간
01 기술과 인간학
02 디지털 사회와 신체 기관의 확장
03 인공지능과 디지털 사회의 재편
04 인공지능과 기억의 위기
05 디지털 네트워크와 알고리즘 통치성
06 디지털 네트워크와 정치의 위기
07 디지털 네트워크와 성찰적 삶의 위기
08 디지털 네트워크와 노동의 위기
09 인공지능과 전쟁의 변화
10 인공지능 사회와 인간의 소외
[본 문]
그렇다면 인간으로 존재하기 위해서 기술이 필요하다는 것을 강조하는 것만으로 기술에 대한 논의는 충분할까? 기술의 유한성 혹은 기술의 한계는 무엇일까? 이를 위해 우리는 다시 프로메테우스가 가진 지식에 대해 살펴보아야 한다. 프로메테우스가 가진 앎은 프로메테이아(pro-metheia)인데, 이것은 미래에 대한 앎이자 기대함이다. 즉 미래는 아직 오지 않았지만, 이에 대응하기 위해 준비하는 태도와 통찰하는 인간의 독특한 활동이다. 이에 반해 에피메테우스(Ephi- metheus)는 잊기 쉬운 자, 실수하는 자라는 특징을 가지고 있다. 이것은 인간의 연약한 면을 반영하고 있다. (…) 인간은 약한 존재로 태어났으나, 불(기술)을 통해 신처럼 문명을 창조하는 존재가 될 수 있었다. 그러나 그 창조의 힘은 동시에 인간이 직면해야 할 위험과 책임을 의미하기도 한다. 이로 인해 인간은 독특한 운명에 노출된 채 살아갈 수밖에 없는 운명을 가지게 된 것이다. 따라서 우리는 기술의 양면성을 염두에 두고서 기술에 접근해야 한다.
－01_“기술과 인간학” 중에서
플랫폼의 투명성 보고서는 공식 요청의 수치 일부만 보여줄 뿐, 이러한 비가시적 압력까지 충분히 드러내지 못한다. 바로 이 지점에서 플랫폼의 딜레마가 발생한다. 정부 요구를 거부하면 서비스 전체가 차단되거나 사업이 위협받고, 이를 수용하면 표현의 자유를 훼손하고 국가 권력의 검열에 협조한다는 비판을 받는다. (…) 결국 오늘날 인터넷은 자유로운 연결의 공간으로 남아 있으면서도 동시에 국가 권력과 플랫폼 기업의 협상, 압박, 타협 속에서 끊임없이 분할되고 조정되는 공간이 되었다. 그리고 이런 통제의 방식은 그 변화의 중심에서, 자유의 보편성을 해치지 않는 것처럼 보이면서 실제로는 국가별 통제를 정교하게 집행하게 만드는 핵심 기술로 자리 잡고 있다.
－03_“인공지능과 디지털 사회의 재편” 중에서
그 결과 우리는 지금 민주주의가 이성과 판단의 장이 아니라, 대중 동원과 맹목적 추종의 장으로 점점 변질되고 있는 현실을 목도하고 있다. 디지털 시스템은 대중을 감정적으로 결속시키고, 반복된 이미지와 선별된 메시지에 의해 특정 정치 집단이나 인물을 절대화하게 만든다. 그들은 판단하는 것이 아니라 ‘반응’한다. 이 반응은 알고리즘적으로 조정되며, 개별 유권자의 욕망은 이미 사전에 시뮬레이션된 모델 안에서 정렬된다. 군중은 더 이상 사유의 공동체가 아니라, 반사 작용의 집합체가 되며, 이러한 감정적 동일시는 ‘텔레크라시’−미디어 기술에 의해 형성된 정치 체제−를 통해 유지되고 강화된다. 이는 프로이트가 말한 군중 심리의 현대적 변형이며, 민주주의의 근간을 무너뜨리는 기술적 군중 정치의 양상이다.
－06_“디지털 네트워크와 정치의 위기” 중에서
이러한 비인간화는 전쟁 윤리와 국제인도법의 핵심 원리인 민간인과 전투원의 구별 원칙을 약화시킨다. 전통적으로 이 구별은 법적 판단과 윤리적 숙고를 요구하는 문제였으나, AI 체계에서는 그것이 점점 더 확률값의 문제로 대체된다. 특정 메신저 그룹 참여, 이동 경로의 특이성, 유심 교체 빈도, 온라인 활동과 같은 간접 지표들이 위험 징후로 읽히면서, 실제로는 무고한 사람도 전투원과 유사한 패턴을 보인다는 이유만으로 표적이 될 수 있다. 따라서 여기서 발생하는 문제는 단순한 기술적 오차가 아니라, 생명권의 침해가 체계적으로 내장된 구조적 윤리 문제와 연결되어 있다. 더욱 심각한 것은 이러한 체계가 민간인 피해를 실수가 아니라 허용 가능한 오류로 인정한다는 점이다. 어떤 표적을 제거하기 위해 몇 명의 민간인 희생이 수용 가능한지를 수치화하는 순간, 어린이의 죽음, 병원과 학교의 파괴와 같은 무고한 시민의 학살이 당연시되고, 여기서 발생하는 도덕적 문제는 인공지능의 연산 속의 숫자로 환원된다. 단지 전쟁의 피해자는 효율과 전략의 운영 속에서 그들의 고유한 가치를 상실한다.
－09_“인공지능과 전쟁의 변화” 중에서
인간은 아직 주체인가, 아니면 관리 대상인가
인공지능이 인간의 기억, 판단, 감정, 노동까지 재구성하는 ‘문명적 사건’임을 날카롭게 분석한다. 산업혁명이 인간의 신체를 기계에 종속시켰다면, AI 혁명은 인간의 정신 활동 자체를 알고리즘에 편입시키고 있다. 기억은 외부 장치로 이전되고, 선택과 판단은 추천 시스템과 데이터 분석에 의해 유도되며, 인간은 점점 ‘생각하는 존재’에서 ‘관리 가능한 데이터’로 재구성된다. 이러한 변화를 세 가지 차원에서 해부한다. 개인의 차원에서는 기억과 사고의 외재화가 인간의 내면성과 자율성을 약화시키는 과정을 추적하고, 사회의 차원에서는 알고리즘 통치가 자유와 통제를 어떻게 재편하는지를 드러낸다. 나아가 자본주의의 차원에서는 인간의 삶 전체가 데이터로 전환되어 새로운 축적의 대상이 되는 구조를 비판한다. 특히 노동의 변화에 대한 분석은 인상적이다. AI와 플랫폼은 노동을 세분화하고 실시간으로 측정하며, 인간을 자율적 주체가 아닌 ‘최적화된 수행자’로 재편한다. 겉으로는 자유롭고 유연해 보이지만, 실제로는 더 정교하고 지속적인 통제 구조가 작동하고 있다는 점을 지적한다. 우리는 기술을 사용하는가, 아니면 기술에 의해 조직되는가라는 질문을 던지며, AI 시대의 위기는 기술의 문제가 아니라 결국 인간 주체성의 문제라고 말한다.