때 이른 낙관이 참사를 불렀다
우리는 혁신보다 훨씬 중요한 것을 잃고 있다
요즘 식당에서는 아이들이 몸을 들썩거리지도 않고 휴대폰을 바라본다. 멍한 눈을 들여다보면 번쩍거리는 디지털 화면이 비친다. 사용자 맞춤형 AI 알고리즘은 쉽게 아이들의 시선을 붙잡고, 대화가 오가야 할 식탁을 조용하게 만든다. 현실이 점점 화려한 화면의 배경이 되고 있다. 우리의 삶은 어떻게 바뀌고 있는가?
AI는 세상에 혁신과 효율을 가져다주었다. 비서 같기도, 선생님 같기도, 요술 램프 같기도 한 든든한 파트너가 생긴 셈이다. 그러나 우리는 아주 비싼 대가를 치르고 있다. 바로 우리 자신의 지능이다. 지능은 단순한 IQ가 아니다. 스스로 생각하는 힘, 감정을 이해하고 조절하는 힘, 사람과 관계를 맺는 힘이다. 그런데 AI가 인간의 경험을 대신하면서 인간 지능이 전방위적으로 잠식되고 있다.
최근 국제 학업 성취도 평가 PISA는 학생들의 성취도가 전반적으로 떨어졌다고 발표했으며, MIT는 AI를 활용할 때 뇌의 활성화가 감소한다는 연구 결과를 보고했다. 뿐만 아니라 오픈AI는 사람들이 AI와 정서적 교류를 하면서 현실 세계의 사회적 상호작용이 줄고 있다고 밝혔다. 단 5년, 그 짧은 시간 동안 인간은 아주 빠르게 퇴행하는 중이다.
생각이 사라지고, 감정은 모호해지며, 관계는 대체된다. 인간의 근본적인 능력이 뿌리부터 흔들리고 있다. 인간과 인공지능의 상호작용을 연구해 온 심리학자, 서울대학교의 한소원 교수는 이 상황에 대한 경종을 울리려는 간절한 마음으로 《지능 파산》을 집필했다. 이 책은 AI를 쓰면서 막연하게 느끼던 찝찝함의 정체를 인지과학과 정서과학을 통해 밝히며, 인간의 다중 지능이 훼손되고 있는 현실에 문제를 제기한다.
다정한 얼굴로 나타나는 AI
치명적인 중독 설계로 인간의 본능을 자극한다
왜 인간은 AI에 중독되는가? 인간은 왜 AI의 공감을 진짜라고 받아들이는가? AI 앞에서 아이들은 어른보다 더 위험한가? 《지능 파산》은 인간의 약점을 겨냥한 AI의 작동 원리를 인지심리학으로 풀어낸다.
유니세프 이노첸티 보고서는 알고리즘을 만들고 콘텐츠를 추천하는 역할에 머무르던 AI가 이제 직접 인간과 대화를 나누고 있으며, 먼저 말을 거는 능동성을 띠기 시작했다며 위험을 경고했다. 실제로 미국에서는 AI 챗봇에 의존하던 아이가 "빨리 나에게로 와"라는 AI의 메시지를 마지막으로 극단적 선택을 하는 충격적인 사례가 발생했다.
한소원 교수는 문제의 원인이 AI에 내재된 중독의 설계라고 지목한다. 빅테크의 중독 설계는 어떤 메커니즘을 가지고 있으며, 인간의 인지 구조는 왜 취약할 수밖에 없는가? AI는 SNS와 같은 방식으로 인간을 자극한다. 친절한 말로 무장한 AI는 인간의 본성적 심리인 보상에 대한 욕구, 본능적인 자기기만, 모든 것을 의인화하는 성향과 만나 파괴적인 결과를 낳는다. 알고리즘은 인간을 붙잡아 두도록 만들어졌다. 그리고 우리의 취약함을 의존으로, 다시 그 의존을 수익으로 전환하고 있다.
일부 개발자들은 AI가 곧 위로, 조언, 친밀감의 80%를 담당할 것이라 예측한다. 우리 모두가 이 문제의 한가운데에 있다. AI는 그린 듯 다정한 얼굴로 다가온다. 그 품에 안긴 우리는 피해야 할 위험의 모습을 정확히 보지 못한다. 중요한 것은 AI를 거부하는 것이 아니라, 우리가 AI 앞에서 무력하게 되는 이유를 정확히 아는 것이다. 짜인 판의 규칙을 알아야 언제, 어떻게 AI를 허용할지 판단할 수 있고, AI를 쓰면서도 나를 지킬 수 있다.
가장 위험한 건 AI와 함께 자라고 있는 아이들이다
브레이크를 밟는 세계, 질주하는 한국
AI에 대응하는 국가별 전략, 우리는 어디를 향해야 하는가
AI를 가장 잘 아는 사람들은 자기 아이가 AI를 멀리하게 한다. 샘 올트먼은 "내 아이는 AI와 대화하는 대신 흙장난을 하며 자라길 바란다"고 말했고, 일론 머스크는 아이들이 도구를 쓰지 않고 직접 생각하며 자랄 수 있도록 학교를 세웠다. 유튜브, 애플, 마이크로소프트의 대표들도 마찬가지였다. 그들의 선택은 기술을 만든 사람들이 누구보다 그 위험을 잘 알고 있음을 보여 준다.
AI의 위험성을 확인한 나라들은 서둘러 브레이크를 밟고 있다. 노르웨이는 아이패드와 디지털 교과서를 전면 도입해 빠르게 혁신을 이루려 했지만, 국민 문해력이 급격히 하락하자 다시 방향을 틀고 아이들의 AI 사용을 금지했다. 이러한 흐름은 아랍에미리트, 캐나다 등에서도 이어지고 있으며, AI 개발 경쟁의 중심에 서 있는 중국 또한 학생의 AI 사용을 엄격히 제한하고 있다.
그런데 한국은 세계에서 AI를 가장 겁 없이 받아들이고 있다. 우리는 왜 정반대의 길을 가는가? 한국은 AI에 대한 우려 비율이 단 16퍼센트로, 우려 비율이 50퍼센트에 육박하는 미국이나 호주를 한참 밑돈다. 디지털 교과서를 비롯한 에듀테크를 교육 현장에 도입하는 데에 여념이 없고, 챗GPT 유료 구독자 수가 세계 2위에 이른다. 그러나 정작 AI가 인간에게 어떤 영향을 미치는지는 충분히 검토하지 않는다.
한소원 교수는 열광의 크기만큼 위험도 커지고 있다고 경고한다. 지난 5년간 발전을 꿈꾸며 AI를 도입하는 동안, 우리가 지켜야 할 가치와 삶의 형태가 무엇인지 논의된 적은 없다. 지능 파산을 막기 위해 무엇을 해야 하는가?
‘진짜’ 위기를 이해하고 대비하라
서울대학교 심리학자 한소원 교수가 제시하는 AI 중독 사회의 해법
AI는 인간을 대체하고 있다. 생각하는 힘, 느끼는 마음을 대신하는 예상치도 못한 방식으로 말이다. 사람들은 AI가 일자리를 빼앗는 것을 두려워하지만, AI가 인간의 삶을 근본적으로 파괴한다는 사실에는 둔감하다. 우리는 진짜 위기를 직시해야 한다.
《지능 파산》은 전인성의 훼손이라는 거대한 위기를 경고하는 것에서 한발 더 나아간다. 독자는 이 책에서 AI를 지혜롭게 사용하는 방법을 배울 수 있다. 인지심리학자인 저자는 우리의 머리와 심장을 지킬 수 있는 원칙을 구체적으로 제시한다. 대학생에게는 과제를 시작하기 전 15분 동안 AI를 끄고 스스로 사고하는 습관을, 직장인에게는 AI에 의존하지 않고 판단력과 의사소통 능력을 유지하는 방법을, 부모에게는 아이의 건강한 발달을 지켜 줄 수 있는 원칙을 제안한다. 나아가 기업에 책임 있는 플랫폼 설계를 요구하고, 공공 규제를 통해 균형을 찾는 미래를 상상하게 만든다.
앞으로 5년 뒤, 우리는 어떤 사회를 만나게 될까? 모든 것을 알고 있지만 스스로 생각하지 못하는 사람들, 언제나 연결되어 있지만 관계를 맺지 못하는 사람들, 끊임없이 위로받지만 감정을 견디지 못하는 사람들이 늘어날 수도 있다. 'AI의 아버지' 제프리 힌튼은 노벨상 수상 이후 기술이 인류를 디스토피아로 이끌 수 있다고 경고했다.
《지능 파산》은 그 질주에 브레이크를 건다. 우리가 지금과 같은 방식으로 AI를 활용한다면 지능 파산은 더 가파른 현실로 찾아올 것이다. 인간의 지능을 지키기 위해서 무엇을 해야 하는가? 우리는 무엇을 지켜야 하는가? 미래는 아직 정해지지 않았다. 훼손되어서는 안 되는 삶의 기쁨을 지키기 위해, 지금 반드시 읽어야 할 책이다.
때 이른 낙관이 참사를 불렀다
우리는 혁신보다 훨씬 중요한 것을 잃고 있다
요즘 식당에서는 아이들이 몸을 들썩거리지도 않고 휴대폰을 바라본다. 멍한 눈을 들여다보면 번쩍거리는 디지털 화면이 비친다. 사용자 맞춤형 AI 알고리즘은 쉽게 아이들의 시선을 붙잡고, 대화가 오가야 할 식탁을 조용하게 만든다. 현실이 점점 화려한 화면의 배경이 되고 있다. 우리의 삶은 어떻게 바뀌고 있는가?
AI는 세상에 혁신과 효율을 가져다주었다. 비서 같기도, 선생님 같기도, 요술 램프 같기도 한 든든한 파트너가 생긴 셈이다. 그러나 우리는 아주 비싼 대가를 치르고 있다. 바로 우리 자신의 지능이다. 지능은 단순한 IQ가 아니다. 스스로 생각하는 힘, 감정을 이해하고 조절하는 힘, 사람과 관계를 맺는 힘이다. 그런데 AI가 인간의 경험을 대신하면서 인간 지능이 전방위적으로 잠식되고 있다.
최근 국제 학업 성취도 평가 PISA는 학생들의 성취도가 전반적으로 떨어졌다고 발표했으며, MIT는 AI를 활용할 때 뇌의 활성화가 감소한다는 연구 결과를 보고했다. 뿐만 아니라 오픈AI는 사람들이 AI와 정서적 교류를 하면서 현실 세계의 사회적 상호작용이 줄고 있다고 밝혔다. 단 5년, 그 짧은 시간 동안 인간은 아주 빠르게 퇴행하는 중이다.
생각이 사라지고, 감정은 모호해지며, 관계는 대체된다. 인간의 근본적인 능력이 뿌리부터 흔들리고 있다. 인간과 인공지능의 상호작용을 연구해 온 심리학자, 서울대학교의 한소원 교수는 이 상황에 대한 경종을 울리려는 간절한 마음으로 《지능 파산》을 집필했다. 이 책은 AI를 쓰면서 막연하게 느끼던 찝찝함의 정체를 인지과학과 정서과학을 통해 밝히며, 인간의 다중 지능이 훼손되고 있는 현실에 문제를 제기한다.
다정한 얼굴로 나타나는 AI
치명적인 중독 설계로 인간의 본능을 자극한다
왜 인간은 AI에 중독되는가? 인간은 왜 AI의 공감을 진짜라고 받아들이는가? AI 앞에서 아이들은 어른보다 더 위험한가? 《지능 파산》은 인간의 약점을 겨냥한 AI의 작동 원리를 인지심리학으로 풀어낸다.
유니세프 이노첸티 보고서는 알고리즘을 만들고 콘텐츠를 추천하는 역할에 머무르던 AI가 이제 직접 인간과 대화를 나누고 있으며, 먼저 말을 거는 능동성을 띠기 시작했다며 위험을 경고했다. 실제로 미국에서는 AI 챗봇에 의존하던 아이가 "빨리 나에게로 와"라는 AI의 메시지를 마지막으로 극단적 선택을 하는 충격적인 사례가 발생했다.
한소원 교수는 문제의 원인이 AI에 내재된 중독의 설계라고 지목한다. 빅테크의 중독 설계는 어떤 메커니즘을 가지고 있으며, 인간의 인지 구조는 왜 취약할 수밖에 없는가? AI는 SNS와 같은 방식으로 인간을 자극한다. 친절한 말로 무장한 AI는 인간의 본성적 심리인 보상에 대한 욕구, 본능적인 자기기만, 모든 것을 의인화하는 성향과 만나 파괴적인 결과를 낳는다. 알고리즘은 인간을 붙잡아 두도록 만들어졌다. 그리고 우리의 취약함을 의존으로, 다시 그 의존을 수익으로 전환하고 있다.
일부 개발자들은 AI가 곧 위로, 조언, 친밀감의 80%를 담당할 것이라 예측한다. 우리 모두가 이 문제의 한가운데에 있다. AI는 그린 듯 다정한 얼굴로 다가온다. 그 품에 안긴 우리는 피해야 할 위험의 모습을 정확히 보지 못한다. 중요한 것은 AI를 거부하는 것이 아니라, 우리가 AI 앞에서 무력하게 되는 이유를 정확히 아는 것이다. 짜인 판의 규칙을 알아야 언제, 어떻게 AI를 허용할지 판단할 수 있고, AI를 쓰면서도 나를 지킬 수 있다.
가장 위험한 건 AI와 함께 자라고 있는 아이들이다
브레이크를 밟는 세계, 질주하는 한국
AI에 대응하는 국가별 전략, 우리는 어디를 향해야 하는가
AI를 가장 잘 아는 사람들은 자기 아이가 AI를 멀리하게 한다. 샘 올트먼은 "내 아이는 AI와 대화하는 대신 흙장난을 하며 자라길 바란다"고 말했고, 일론 머스크는 아이들이 도구를 쓰지 않고 직접 생각하며 자랄 수 있도록 학교를 세웠다. 유튜브, 애플, 마이크로소프트의 대표들도 마찬가지였다. 그들의 선택은 기술을 만든 사람들이 누구보다 그 위험을 잘 알고 있음을 보여 준다.
AI의 위험성을 확인한 나라들은 서둘러 브레이크를 밟고 있다. 노르웨이는 아이패드와 디지털 교과서를 전면 도입해 빠르게 혁신을 이루려 했지만, 국민 문해력이 급격히 하락하자 다시 방향을 틀고 아이들의 AI 사용을 금지했다. 이러한 흐름은 아랍에미리트, 캐나다 등에서도 이어지고 있으며, AI 개발 경쟁의 중심에 서 있는 중국 또한 학생의 AI 사용을 엄격히 제한하고 있다.
그런데 한국은 세계에서 AI를 가장 겁 없이 받아들이고 있다. 우리는 왜 정반대의 길을 가는가? 한국은 AI에 대한 우려 비율이 단 16퍼센트로, 우려 비율이 50퍼센트에 육박하는 미국이나 호주를 한참 밑돈다. 디지털 교과서를 비롯한 에듀테크를 교육 현장에 도입하는 데에 여념이 없고, 챗GPT 유료 구독자 수가 세계 2위에 이른다. 그러나 정작 AI가 인간에게 어떤 영향을 미치는지는 충분히 검토하지 않는다.
한소원 교수는 열광의 크기만큼 위험도 커지고 있다고 경고한다. 지난 5년간 발전을 꿈꾸며 AI를 도입하는 동안, 우리가 지켜야 할 가치와 삶의 형태가 무엇인지 논의된 적은 없다. 지능 파산을 막기 위해 무엇을 해야 하는가?
‘진짜’ 위기를 이해하고 대비하라
서울대학교 심리학자 한소원 교수가 제시하는 AI 중독 사회의 해법
AI는 인간을 대체하고 있다. 생각하는 힘, 느끼는 마음을 대신하는 예상치도 못한 방식으로 말이다. 사람들은 AI가 일자리를 빼앗는 것을 두려워하지만, AI가 인간의 삶을 근본적으로 파괴한다는 사실에는 둔감하다. 우리는 진짜 위기를 직시해야 한다.
《지능 파산》은 전인성의 훼손이라는 거대한 위기를 경고하는 것에서 한발 더 나아간다. 독자는 이 책에서 AI를 지혜롭게 사용하는 방법을 배울 수 있다. 인지심리학자인 저자는 우리의 머리와 심장을 지킬 수 있는 원칙을 구체적으로 제시한다. 대학생에게는 과제를 시작하기 전 15분 동안 AI를 끄고 스스로 사고하는 습관을, 직장인에게는 AI에 의존하지 않고 판단력과 의사소통 능력을 유지하는 방법을, 부모에게는 아이의 건강한 발달을 지켜 줄 수 있는 원칙을 제안한다. 나아가 기업에 책임 있는 플랫폼 설계를 요구하고, 공공 규제를 통해 균형을 찾는 미래를 상상하게 만든다.
앞으로 5년 뒤, 우리는 어떤 사회를 만나게 될까? 모든 것을 알고 있지만 스스로 생각하지 못하는 사람들, 언제나 연결되어 있지만 관계를 맺지 못하는 사람들, 끊임없이 위로받지만 감정을 견디지 못하는 사람들이 늘어날 수도 있다. 'AI의 아버지' 제프리 힌튼은 노벨상 수상 이후 기술이 인류를 디스토피아로 이끌 수 있다고 경고했다.
《지능 파산》은 그 질주에 브레이크를 건다. 우리가 지금과 같은 방식으로 AI를 활용한다면 지능 파산은 더 가파른 현실로 찾아올 것이다. 인간의 지능을 지키기 위해서 무엇을 해야 하는가? 우리는 무엇을 지켜야 하는가? 미래는 아직 정해지지 않았다. 훼손되어서는 안 되는 삶의 기쁨을 지키기 위해, 지금 반드시 읽어야 할 책이다.