AI 위험사회와 정치(AI총서)

SNS 알고리즘이 확증 편향과 분노를 키우며 민주주의의 기반을 어떻게 약화하는지 분석한다. 위험사회론을 토대로 기술·정치·인지 환경을 재해석하며, 우리가 다시 판단의 주권을 회복하기 위한 새로운 정치적 상상력을 제안한다. AI총서. aiseries.oopy.io에서 필요한 인공지능 지식을 찾을 수 있다.

[목 차]

확증편향 시대, 알고리즘은 누구를 위한 것인가

01 인간을 위해 설계된 AI, 인간을 왜곡하다

02 좋아요와 클릭 사이, 민주주의는 사라진다

03 AI는 어떻게 사회를 극단화하는가?

04 팩트는 사라지고, 믿음만 남는다

05 위험사회, 기술이 만든 불확실성

06 알고리즘은 새로운 재난이 될 수 있는가?

07 투명한 듯 불투명한 알고리즘의 권력

08 정치가 아니던 것이 정치가 되는 순간

09 재난 담론 30년, 정치화되는 한국 사회의 위험

10 민주주의를 위한 알고리즘은 가능한가?

[본 문]

누가 AI를 가르칠 것인가. 어떤 인간이, 어떤 가치관을 가지고, 어떤 목적을 위해 AI를 설계할 것인가.

불완전한 교사가 불완전한 가르침을 제공할 때, 그 제자로서 AI는 결코 그 한계를 벗어날 수 없다. 오히려 그 한계를 그대로 복제하고, 더 정교하게, 더 빠르게, 더 보편적인 체계로 확장해 버릴 수 있다. 결국 우리는 AI를 통해 인간을 가르치는 시대에 진입했지만, 실상은 불완전한 인간이 만든 AI가 다시 인간을 되가르치고 있는 상황에 처한 것이다. 이것이 바로 AI 시대가 안고 있는 역설이다. 기술은 더 정확해지고, 더 효율적이며, 더 광범위한 학습이 가능해졌지만, 그 토대 위에는 여전히 인간의 불완전성과 편향이 깔려 있다. AI가 아무리 많은 데이터를 학습하더라도, 그것이 윤리적 성찰이나 철학적 사유를 담보할 수는 없다.

－01_“인간을 위해 설계된 AI, 인간을 왜곡하다” 중에서

앞서 살펴보았듯, 정보를 전달하는 언론은 사회적으로 큰 책임을 수반하는 행위자다. 그러나 이 책임이 알고리즘 기반의 AI로 이전되면서, 구조적 문제가 발생한다. AI는 책임을 지지 않으며, 구독자의 클릭과 체류 시간을 늘리기 위해 보다 자극적이고 감정적인 프레이밍을 선택할 가능성이 높아진다. 즉, 알고리즘은 사용자의 흥미를 유발하는 방향으로 작동하며, 그 과정에서 정보의 균형성과 공익성은 희생될 수 있다.

－03_“AI는 어떻게 사회를 극단화하는가?” 중에서

이제 문제는, 이러한 위험 해석과 담론의 전개가 AI 알고리즘에 의해 조율되기 시작했다는 점이다. 재난이 발생하면 사람들은 뉴스를 보고 검색을 하며 정보를 찾는다. 그런데 어떤 뉴스가 먼저 보이는가? 어떤 해시태그가 실시간 트렌드로 떠오르는가? 누가 먼저 사람들의 타임라인에 등장하는가? 이 모든 것은 이제 알고리즘이 결정한다. 알고리즘은 클릭과 반응을 우선한다. 그렇기 때문에 더 자극적이고 감정적인 정보일수록 먼저 확산한다. 공포와 분노, 혐오와 음모는 빠르게 퍼지고, 차분한 설명과 복잡한 분석은 뒤로 밀린다. 그렇게 알고리즘은 재난에 대한 해석을 편향시키고, 특정한 담론을 ‘주류’처럼 만들며, 위험의 구조 자체를 재편성한다.

－06_“알고리즘은 새로운 재난이 될 수 있는가?” 중에서

최근 들어 재난 담론의 정치화는 더욱 복잡한 국면으로 접어들고 있다. 그리고 그 중심에는 AI 알고리즘이라는 새로운 기술적 행위자가 있다. AI는 개개인의 취향과 정치적 성향에 따라 서로 다른 정보와 해석을 제공한다. (…) AI 알고리즘은 결코 중립적이지 않다. 알고리즘은 객관적이고 중립적으로 보이는 정보를 제공하지만, 실제로는 사용자들이 더 오래 체류하고 자주 클릭하는 자극적인 콘텐츠를 우선 배치한다. 결국 이로 인해 재난을 둘러싼 사회적 인식은 더욱 양극화하고, 소통은 불가능한 서로 다른 현실이 만들어진다.

－09_“재난 담론 30년, 정치화되는 한국 사회의 위험” 중에서