AI조차 편향에서 벗어나지 못한다 - 세상의 프레임에 휘둘리지 않고 나를 지키는 판단력을 기르는 법

세상은 ‘사실’이 아니라 ‘편향’으로 움직인다!

 

AI 오류와 잘못된 알고리즘이 지배하는 세상에서

내 생각의 주도권을 되찾는 법

 

하버드와 스탠퍼드대 엘리트들이 인지 편향을 공부하는 이유는 뭘까?

왜 우리는 수만 개의 ‘좋아요’가 찍힌 가짜 뉴스를 의심 없이 믿어버릴까?

AI가 제시하는 답에서 기울어진 생각을 읽어낼 수 있을까?

 

무엇 하나 온전히 내 생각대로 판단하기가 어려운 시대다. 쉴 틈 없이 쏟아지는 자극적인 이슈들, SNS 알고리즘이 떠먹여 주는 가짜 뉴스, 그리고 완벽한 정답처럼 여겨지는 AI의 답변 속에서 우리는 쉽게 정보에 휘둘리고 선택의 주도권을 넘겨버리곤 한다. 우리가 알고리즘에 쉽게 조종당하고 이를 무비판적으로 수용하는 건 우리의 지능이 부족해서가 아니다. 애초에 인간의 뇌가 ‘사실’보다 ‘편향(편견)’에 이끌리도록 작동하며, 방대한 인간의 데이터를 학습한 AI 역시 편향의 늪에서 결코 자유로울 수 없기 때문이다. 노벨경제학상 수상자 허버트 사이먼의 말처럼, “정보가 풍요로워질수록 우리의 주의력은 빈곤해지고 감정적인 편향이 우리를 지배”하는 것이다.

 

하버드와 스탠퍼드 등 세계 최고의 명문대생들이 앞다투어 ‘인지 편향’을 필수 교양으로 배우는 이유가 바로 여기에 있다. 그들은 세상을 움직이는 심리 규칙이 합리적 이성이 아닌 대중의 ‘편향’에 있다는 사실에 주목한다. 이 책은 세상과 알고리즘이 인지 편향을 어떻게 무기로 휘두르는지, 반대로 대중이 어떻게 그 희생양이 되어 생각의 통제권을 잃어버리는지를 보여준다. 2년간 당첨되지 않은 번호에 전 재산을 건 ‘이탈리아의 복권 사건’이나, 상위 0.1%의 성공 신화만 보고 섣불리 뛰어드는 맹신 등은 인지 편향에 대한 무지가 우리의 일상을 어떻게 망가뜨리는지 증명한다. 우리가 인지 편향을 반드시 알아야 하는 이유는 명확하다. 누군가 치밀하게 설계해 놓은 프레임과 AI가 제시하는 기울어진 정답에 속아 넘어가, 맹목적인 군중 심리에 휩쓸려 내 판단력을 잃지 않기 위해서다.

 

인지 편향은 무조건 피해야 할 덫이 아니라, 세상을 읽어내는 가장 훌륭한 도구다. 이 책은 그동안 수많은 학문에 흩어져 있던 복잡한 인지 편향 이론들을 단 하나의 흐름으로 완벽하게 체계화했다. 이 책을 통해 알고리즘이 지배하는 수동적인 삶에서 벗어나, 흔들리지 않는 객관적인 눈으로 세상을 통찰하고 온전한 내 생각의 주도권을 되찾는 삶으로 나아갈 수 있을 것이다.

[목 차]

추천의 글

프롤로그 세상은 왜 인지 편향으로 움직이는가

 

서장_인지 편향의 기초와 이 책의 학습법

 

● 인지 편향이란 결국 편견이다

인지 편향이란 대체 어떤 학문인가 │ 230년 전 ‘인지 편향에 관한 가장 오래된 기록’ │ 사이먼, 카너먼, 트버스키… 인지 편향이 지금에 이르기까지 │ 인간은 때때로 비합리적인 판단을 한다 │ 사람들은 왜 당첨되지 않는 복권을 계속 사는가 │ 아시아 질병 문제와 프레이밍 효과 │ ‘휴리스틱’은 생각만큼 해롭지 않다

 

● 체계화되지 않은 기존의 인지 편향 입문

조각조각 흩어진 지식들 │ 본질을 파악하기가 어렵다

 

● 인지 편향의 주요 이론을 체계화한 입문서

추상화된 요인을 익히기가 어려운 이유 │ 편견을 부르는 4가지 요인 │ 넓게 펼쳐진 인지 편향을 한데 엮다

* 요약

 

1장 사고 습관_굳어진 사고방식이 편견을 부른다

 

● 사고 습관은 어디에서 비롯되는가

인간의 두 가지 사고 체계 시스템 1 vs. 시스템 2 │ 똑똑한 사람도 걸려드는 덫

 

● 인간에게는 왜 사고 습관이 필요한가

시스템 2가 쉽게 작동하지 않는 것은 ‘인지 경제성’ 때문이다 │ 시스템 1을 더 자주 쓰는 것은 ‘인지 부하’ 때문이다 │ 인간이 짧은 시간 동안 기억할 수 있는 정보는 단 7개

 

● 대표적인 시스템 1은 무엇인가

시장 가격을 무시하고 비싼 값에 사게 만드는 효과 │ 할인 가격표에 속지 말라!

 

● 사람들은 자기 자신을 전혀 모른다

능력 없는 사람일수록 자신을 높게 평가한다 │ 잘되면 제 복, 못되면 조상 탓 │ 와이너의 귀인 이론 │ 나를 지켜주는 안전장치는 무엇인가 │ 사람들은 ‘나쁜 사람은 늘 나쁜 행동만 한다’고 믿는다 │ 낙관적일수록 건강하다 │ “별일 없을 거야”라는 말은 사실일까?

 

● 모호한 기억과 인지 편향

목격자 증언은 정확하지 않다 │ 어린 시절의 기억은 쉽게 재구성된다 │ 역시 내 그럴 줄 알았다 │ 재판에서 증언을 믿기 힘든 이유 │ 사후 확신 편향이 나타나는 3가지 조건 │ 치과보다 편의점이 많다고 느끼는 이유는 무엇일까? │ 연설할 때는 초두 효과와 최신 효과를 노려라! │ 3월 10일, 당신은 무엇을 하고 있었는가 │ 뉴스와 가용성 휴리스틱

* 요약

* COLUMN 생존 편향에 사로잡히지 않으려면?

 

2장 감정_마음 상태가 편견을 부른다

 

● 호불호, 감정의 영향에 대해서

석유 파동 당시 사재기의 원인은? │ 우리는 왜 우울할 때 더 우울해지는가 │ 한 발짝 물러서서 자신을 바라보다 │ 닛케이 지수는 날씨가 결정한다? │ 흔들다리 효과와 오귀인의 기막힌 관계 │ ‘사려다 만 시계’의 나쁜 점을 찾는 이유

 

● 득보다 실이 더 고통스럽다

사람들은 손실과 관련된 결정은 최대한 피하려 한다 │ 미국 폴라로이드사의 파산 │ 27년간 적자를 낸 콩코드 여객기 │ 아르바이트를 할 때는 ‘이것’을 고려하자! │ “숙제해”라는 말이 도움이 되지 않는 까닭 │ 절대 보지 말라고 하면 보고 싶어진다 │ 학생들이 건강한 식품을 고르게 하라! │ 프랑스에서 열에 아홉 이상이 장기 기증 동의자인 이유

 

● 믿고 싶은 것만 믿는 사람들

사람은 식염수와 모르핀을 착각한다 │ 사람은 결국 듣고 싶은 말만 듣는다 │ ‘내년 신입 사원들은 잘할 것’이라는 예측이 빗나가는 이유 │ 31세 여성 린다의 편향 │ 어린아이가 타조를 새라고 받아들이지 못하는 이유 │ 의사는 스테레오타입을 중시한다?! │ A형은 성실하다 │ 내 의사와 상관없이 선택을 유도하는 것은 바람직한 일인가

* 요약

 

3장 사람_내 주변의 사람들이 편견을 부른다

 

● 나의 중심으로 세상이 돌아간다는 착각

선수의 성적을 극적으로 끌어올리는 한 가지 │ 과제는 얼마든지 해결할 수 있다고 생각하는 것이 좋다 │ 셀리그먼의 개와 학습된 무기력 │ 외모가 육군 지휘관의 평가에 영향을 미치는 이유 │ 하나가 싫으면 열이 싫다 │ 사람들은 권위에 쉽게 복종한다 │ 병에 걸리는 건 평소 행실이 나빠서다 │ 온라인에서도 힘을 발휘하는 효과 │ 내가 당신을 좋아하면 당신도 날 좋아하겠지 │ 당신은 세상의 중심이 아니다 │ 당신의 거짓말은 대부분 들통나지 않았다 │ 그 제품이 팔리지 않는 것은 ‘저주’ 때문일지도 모른다

 

● 친한 사람일수록 더 믿음이 가는 이유

기업의 파벌과 집단을 망치는 덫 │ 내가 아니어도 누군가는 하겠지 │ 인터넷은 이 현상 때문에 악플의 온상이 되었다 │ 운세가 맞아떨어지는 것처럼 느껴지는 이유는?

 

● 왜 나에게는 관대하고 타인에게는 엄격한가

이 화재는 위험하지 않다 │ 품절 대란! 벌써 100만 명이 쓰고 있습니다! │ 사람 셋이 모여도 문수의 지혜는 나오지 않는다 │ ‘설득의 심리학’과 인지 편향 │ 사람의 마음을 움직이는 설득의 6가지 원칙 │ 다트머스 대학생들이 성적을 올릴 수 있었던 이유 │ 타인에게는 엄격하고 자신에게는 관대한 당신 │ 그건 다 네 탓이야 │ 과도한 ‘자기중심성’에서 벗어나는 방법 │ 공은 어디에 있을까?

* 요약

 

4장 정보와 사물_나를 둘러싼 정보와 사물이 편견을 부른다

 

● 인간은 사물과 사건을 이렇게 인식한다

누구도 ‘착시’에서 벗어나지 못한다 │ 의족이 몸의 일부처럼 느껴지는 이유 │ 압정 상자가 늘 압정 상자인 것은 아니다 │ 사각형은 왜 항상 지면과 평행할까?

 

● 정보가 많을수록 더 혼란스럽다

처음 보는 새 │ 인간이 천 년이 넘도록 천동설에 사로잡혀 있었던 이유 │ 다른 사람들이 미디어에 속아서 걱정이야! │ 선택받으려면 이유가 필요하다 │ 메뉴가 너무 많으면 고르지 못한다

 

● 강렬할수록 미래보다는 현재에 더 집중한다

이 효과는 고객 경험에 활용할 수 있다 │ 나중에 얻을 50만 원보다 지금 얻는 10만 원이 좋다 │ 저금은 안 하지만 순수 보장형 보험은 가입한다 │ 가구 제조사 이케아에서 유래한 효과 │ 마음에 안 들면 30일 이내 무료 반품! │ 코카콜라가 로고며 광고며 자판기에 항상 빨간색을 쓰는 이유

 

● 폭동과 시위의 한 끗 차이

말도 안 되게 싼 스마트폰은 미끼다 │ 사람은 비교를 통해 가치를 다르게 매긴다 │ 같은 뉴스가 ‘폭동’이 되기도 하고 ‘시위’가 되기도 한다 │ 그런데 고릴라는 보셨나요? │ 대화 상대가 바뀌어도 왜 알아차리지 못하는가 │ 선택과 판단에서 나타나는 3가지 오류 │ 사람들은 ‘위험하다는 뉴스’에 휘둘린다

* 요약

 

에필로그 인지 편향과 건강하게 공존하기 위해

* COLUMN 선조들도 알고 있었던 인지 편향

[본 문]

정치가는 인지 편향을 누구보다 능숙하게 다룬다. 정치가들이 이용하는 편향 가운데 잘 알려진 것이 ‘프레이밍 효과(framing effect)’다. 정보를 제시하는 사람이 사실의 일부를 잘라내 인식의 틀을 만들었을 때 나타나는 효과를 가리킨다. 이는 정보를 받아들이는 사람은 특정 부분을 잘라내 만든 틀로 상황을 평가할 수밖에 없음을 보여준다.

예를 들어 2001년 전 미국 대통령 조지 부시는 국정 연설에서 세금 감면에 관해 이야기했는데, ‘세금을 덜어준다’는 말을 그대로 “세금 감면”이라고 표현하지 않고 “세금 구제tax relief”라고 표현했다.

_p.15~16

 

소셜 미디어를 즐겨 쓰는 사람들은 자신과 관심사나 취향이 비슷한 이들의 게시물을 자주 접하게 된다. 거기에는 자신의 생각과 일치하는 내용이 많아서 자연히 본인의 의견이 긍정적으로 강화된다. 그러다 보니 그릇된 생각을 품고 있을 때는 생각 오류가 크게 커질 수 있다. 자기가 굳게 믿는 신념과 맞아떨어지는 증 거만 찾고 헤아려 가설을 검증하려 하니 바로잡을 도리가 없다 .

_p.71~72

 

최근에는 많은 사람이 AI로 데이터를 어떻게 활용해야 하는지에 주목하는데, 애초에 데이터 자체가 잘못되었다면 이를 활용하는 것 자체가 무의미하다. 데이터를 분석해서 문제를 해결하려 애쓰고 있음에도 좀처럼 성과가 나오지 않을 때는 혹시 내가 생존 편향에 빠져 있는 것은 아닌지 스스로 점검해 보는 자세가 중요하다.

_p.113

 

우리의 일상은 선택의 연속이다. 진학이나 취직 같은 큰 선택이 아니더라도 점심으로 뭘 먹을지, 어떤 영화를 볼지 등 늘 무언가를 선택해야 한다. 당연한 이야기지만, 우리가 어떤 선택을 할 때 나머지 선택지는 포기해야만 한다. 물론 자신이 고르지 않은 선택지에서 이익을 얻었던 경우도 있다. 그 이익을 ‘기회비용’이라 부른다. 미래에 얻을 수 있었을 이익을 그 선택지를 고르지 않은 탓에 잃었다는 관점에서 ‘일실 이익(lost profit)’이라고 부르기도 한다.

_p.135

 

우리는 스테레오타입을 사용할 때 개개인의 특성이나 사실을 무시하고 집단 전체가 같은 특징을 가지고 있다고 판단하기 때문이다. 일반화된 특징에서 비어진 부분은 무시해 버린다. 따라서 ‘새는 하늘을 나는 동물’이라는 스테레오타입이 형성되면, 어린아이들은 난생처음 펭귄이나 타조를 봤을 때 새라고 인식하지 못할지도 모른다.

_p.152

 

최근에는 온라인에서도 단순 노출 효과가 나타난다는 사실이 밝혀졌다. 그동안 단순 노출 효과에 관한 연구는 실제로 대면한 상태에서 직접 대상에 노출되는 것을 전제로 이루어졌으나, 온라인으로도 거듭 노출되면 실제 관계와 같은 수준으로 친밀감과 호감이 높아진다는 결과가 나왔다. 연애 관계에서도 온라인을 통해 같은 효과를 얻을 수 있다. 데이팅 어플리케이션에서 만난 상대도 온라인을 통해 여러 번 소통하다 보면 단순 노출 효과로 친밀감을 충분히 높일 수 있다고 시사하는 연구도 있다.

_p.178

 

인간의 시각에도 편향이 작용한다. 특히 잘 알려진 것이 착시다. 착시란 시각적인 착각을 뜻하며 밝기, 색, 크기, 길이, 모양, 방향, 깊이, 운동 착시 등이 있다. 착각의 대부분은 착시라는 말도 있다. 그리고 착시는 어떤 사람이 관찰하든, 아무리 주의 깊게 관찰하든 분명히 나타난다고 말한다. 이것은 인간의 시각이 지닌 특징이기도 하다. 시각은 눈앞에 있는 대상을 비디오카메라로 녹화하듯이 인식하지는 못한다. 정보를 무의식적으로 선택하고 가공해서 기록한다.

_p.220