AI 신의 탄생 인간의 종말 - 초지능의 탄생 그 이후 벌어질 일들

벤 버냉키 (노벨경제학상 수상자, 전 미국 연방준비제도 의장)

매우 높은 수준의 AI가 왜 인간을 멸종시킬 위험성이 있는지 명확하고 설득력 있게 설명한다. 누구나 한번쯤 꼭 읽어봐야 할 책이다.

 

맥스 테그마크 (MIT 물리학과 교수, ⟪인공지능은 무엇이 되려 하는가⟫ 공저자)

이 책은 이 시대에 가장 중요한 책이다.

 

대니얼 코코타일로 (AI 퓨처스 프로젝트 전무이사, <AI 2027> 공저자)

모든 사람이 당장 이 책을 읽어야 한다. 지금 이 글을 읽고 있는 당신도. 언젠가 마지못해 이렇게 인정할 가능성이 높다. ‘우리는 그때 유드코스키와 소아레스의 말을 들었어야 했다’라고.

 

R.P. 에디 (전 백악관 국가안보회의 국장)

지금이 마지막 경고다. 오늘 당장 이 책을 읽고 주변에 전파하라. 그리고 안전장치를 요구하라. 나는 여전히 인류에 희망을 건다. 하지만 그에 앞서 우리는 먼저 깨어나야 한다.

 

요슈아 벤지오 (튜링상 수상자, 현대 딥러닝의 창시자, 몬트리올대학교 컴퓨터 과학 교수)

이 책은 AI가 세상을 어떻게 극적으로 바꿀 수 있는지 그 위험성을 깨닫게 하는 시나리오를 제시한다. 이런 가능성을 탐구하는 일은 인류가 모르는 척하면 안 될 핵심적인 위험과 질문을 수면 위로 끌어올린다.

 

얀 탈린 (스카이 공동창립자, 실존적 위험 연구센터 공동설립자)

인류를 멸망에 이끌 최종 보스, 초지능을 만들자고 우리 내면을 움직이는 거부하기 어려운 충동에 맞서 살아남는 법을 다룬 결정판이다.

 

비탈릭 부테린 (암호화폐 이더리움 창시자)

더 빠른 기술 발전을 열렬히 지지하는 이들조차 왜 초지능 AI만큼은 유독 위험하다고 주장하는지 그 근본적인 이유를 이해하고 싶다면 읽어야 할 좋은 책이다.

 

존 울프스탈 (전 미국 대통령 국가안보보좌관 특별보좌관)

초지능 AI의 탄생이 인류 전체의 멸종으로 이어질 가능성을 확실하게 주장하는 책이다. 전 세계 모든 국가는 그 위험을 명확히 인식하고, 효과적인 공동 대응에 나서야 한다.

 

에밋 쉬어 (전 오픈AI 임시 CEO)

오늘날 AI 발전 방향이 얼마나 위험한지 누구나 이해할 수 있을 만큼 명료하고 쉬운 언어로 풀어낸다.

 

바트 셀먼 (코넬대학교 컴퓨터 과학 교수)

정책입안자, 언론인, 연구자, 일반인 모두가 반드시 읽어야 할 책이다. 탁월한 필력으로 쓰인 이 뛰어난 책은 AI에 관한 모든 논의를 시작하기 위한 중요한 출발점이 될 것이다.

 

조앤 파이겐바움 (예일대학교 컴퓨터 과학 석좌교수)

저자들은 컴퓨터 과학자들이 정교하게 설계한 게 아닌 '스스로 자라난' 초지능 AI에 내재된 위험을 명확하고 쉬운 언어로 설명한다. AI를 규제해야 할지, 한다면 어떻게 규제해야 할지에 관한 논의를 이해하고 참여하고 싶은 사람이라면 누구나 읽어봐야 한다.

 

크리스토퍼 클라크 (케임브리지대학교 역사학 흠정교수)

AI가 초래할 위험을 제대로 판단하려면, 먼저 최악의 시나리오를 이해해야 한다. 이 책은 AGI와 초지능을 개발하려는 인류의 욕망이 얼마나 끔찍하게 잘못될 수 있는지 매우 명료하고 엄밀하게 설명한다. 때가 더 늦으면 안 된다. 경고는 이미 울리고 있다.

 

스콧 애런슨 (텍사스대학교 오스틴캠퍼스 컴퓨터 과학 석좌교수)

케임브리지대학교 역사학 흠정교수

 

휴 프라이스 (케임브리지대학교 트리니티칼리지 철학과 명예교수)

AI의 위험성에 대한 경고는 흔히 ‘AI 산업이 더 많은 제품을 팔기 위해 만들어낸 과장된 위협’쯤으로 치부된다. 이 책은 그 생각이 틀렸음을 명확히 보여준다. 두 저자는 지금과 같은 형태의 인공지능이 등장하기 전부터 위험을 꾸준히 경고해왔다. 이 책을 읽고, 그들이 과연 무엇을 잘못 짚었는지 직접 판단해보라.

 

도로시 수 코블 (럿거스대학교 노동학 명예석좌교수)

인류를 모두 죽일 수 있는 생각하는 기계를 만들려는 광기와 오만을 적나라하게 포착한다. 여전히 그 광기와 오만은 끝나지 않았다. 하지만 저자들이 말하듯, 살아 있는 한, 희망은 있다.

 

존 N.T (‘잭’ 셰너핸, 전 미국 국방부 합동인공지능센터 초대 국장)

현재 AI 수준을 고려하면, AI가 인류를 멸종시킬 것이라는 주장에는 회의적이다. 하지만 그런 회의적인 사고 자체가 내 상상력의 한계일 수도 있음을 인정한다. AI의 발전 속도를 고려하면, 지금이야말로 최악의 결과를 막기 위해 신중하고 현실적인 대비가 필요하다. 이 책은 최악을 대비하는 방향을 제시하는 중요한 책이다.

 

그외 추천사

모든 면에서 진지한 책이다. 섬뜩할 만큼 날카롭게 분석한다. 두 저자는 초지능 AI에게 인간은 필요하지 않으며, 그 능력으로 인간을 제거할 수 있다고 주장한다. 이 책은 우리가 자멸의 벼랑 끝에서 멈추길 바라는 절박하고도 품격 있는 호소문이다.

_피오나 힐, 전 백악관 국가안보회의 선임국장

 

기술을 잘 모르더라도 충분히 이해할 수 있을 만큼 쉽고, 그 어떤 사람이라도 깊은 문제의식을 갖게 하는 책이다. AI의 폭주가 인류 멸망으로 이어지리라 단정할 수 없더라도 그 가능성에 눈감지 말아야 한다. 이 문제는 지금, 우리가 주목해야 할 가장 중대한 주제다.

_수전 스폴딩, 전 미국 국토안보부 차관

 

모든 사람이 사서 읽어야 할 기념비적인 책이다.

_스티브 배넌, 전 백악관 수석전략가 겸 고문

 

이 책은 오늘날 AI 시대에 가장 중요한 책이 될지도 모른다. 유드코스키와 소아레스는 우리가 초지능을 안전하게 맞이할 준비가 전혀 되어 있지 않다고 경고하며, 인류가 멸종을 향한 궤도에 올라탔다고 말한다. 저자들은 비유와 명료한 설명을 통해 인류가 스스로 구할 마지막 기회가 지금이라고 절박하게 호소한다.

_팀 어반, TED 강연 5000만 이상 조회수를 기록한 작가, 블로그 '웨이트 벗 와이' 창설자

 

이 책은 신뢰성과 명료함, 냉철함과 긴박함을 갖춘 소신을 보여준다. 책은 기술자, 정책 입안자, 시민 모두에게 너무 늦기 전에 AI라는 실존적 위험과 맞서야 한다고 촉구한다. 미래를 걱정하는 사람이라면 반드시 읽어야 한다.

_엠마 스카이, 예일대학교 잭슨글로벌정책대학원 선임연구원

 

이 책은 인류 역사상 가장 중대한 기술적 이상향과 파국의 대결을 통찰력 있게 조명한다. 초지능 AI가 탄생해 인류를 파멸시키기 전에 우리는 막을 수 있다. 아니, 반드시 막아야만 한다.

_조지 처치, 하버드대학교 와이스연구소 창립 핵심 연구진

 

AI의 실제적 위험이라는 긴박한 내용을 다루면서도 냉정하게 바라보고 쉽게 설명하는 책이다. 당신이 회의론자든 신봉자든 상관 없다. 저자들의 논지를 제대로 이해한다면, AI가 인류에 유익한 방향으로 발전하도록 노력할 것이다.

_브루스 슈나이어, 저명한 암호학자, 보안계의 구루, ⟪해커의 심리⟫ 저자

 

세계에서 가장 중요한 주제를 쉽게 설명하는 탁월한 입문서다. 머지않아 초지능 AI가 탄생할지도 모른다. 이 책은 그 의미를 진지하게 다루며, 곧 닥칠 현실을 단도직입적으로 설명한다.

_스콧 알렉산더, 온라인 커뮤니티 '애스트럴 코덱스 텐' 창립자

 

이 책을 읽다 보면 정말로 마음이 움직인다. 우리는 지금 인류가 지배종으로 존재하는 마지막 시대를 살고 있을지도 모른다. 유드코스키와 소아레스 같은 이들이 우리 편에 있다는 점이 참으로 다행이다. 그들이 우리에게 남은 짧은 시간을 헛되이 쓰지 말라고 일깨워주고 있으니까 말이다.

_그라임스, 음악가

 

이 책은 단순한 경고가 아니다. 긴박한 위험 앞에서 명확하게 경종을 울리는 화재경보다. 통제되지 않은 초지능 AI는 인류의 존속 자체를 위협한다. 지금 우리의 행동이 인류의 미래를 결정한다는 사실을 냉정하게 상기시키는 책이다.

_마크 러팔로, 배우

 

내가 수년간 읽은 책 중 가장 중요한 책이다. 나는 이 책을 모든 정치인과 기업 경영자에게 건네고, 그들이 다 읽을 때까지 지켜볼 것이다. 두 저자는 인류가 재앙을 향해 잠든 채 걸어가고 있음을 경고하고, 우리가 깨어나길 바라며 간절히 나팔을 불고 있다.

_스티븐 프라이, 배우이자 작가

 

안전장치 없이 초지능 AI가 탄생한다면, 위험에 처하는 것은 일자리나 예술이 아니라 모든 것이다. 이 책은 과장하지 않는다. 진실을 말한다. 지금 행동하지 않으면, 다음 기회는 없을 수 있다.

_프랜시스 피셔, 배우

 

치밀한 연구를 보여주는 책이다. 무모한 AI 개발이 인류에게 가하는 심각한 위험을 설득력 있게 경고한다.

_알렉스 윈터, 배우이자 영화감독

 

한때 SF 영역이었던 초지능이 거의 문 앞까지 와 있다. 초지능이 탄생하면 무슨 일이 일어날지 확실히 알 수는 없다. 하지만 업계 전체가 모르는 척 귀를 막고 있는 시기에 꼭 필요한 화두를 던지는 이 책이 존재한다는 사실이 다행이다.

_리브 보에리, 과학 커뮤니케이터, 자선사업가, 포커 대회 WSOP 브레이슬릿 위너

 

AI의 위험성 문제를 가장 솔직하고 쉽게 설명한다. 지금까지 읽은 AI 위험 관련 책 중 최고의 책이다.

_이샨 웡, 전 레딧 최고경영자

 

등골이 서늘해지는 책이다. AI 기업들이 초지능 AI를 향해 무모하게 질주하면 어떤 재앙이 벌어질지 논증하고, 가능성 있는 인류 멸망 시나리오를 제시하며, 이 파멸적인 상황을 바꾸기 위해 무엇을 해야 할지 제안한다. 저자들은 우리가 불장난을 하고 있다는 사실을 상당히 설득력 있게 설명한다.

-⟨AARP⟩

 

놀라울 만큼 읽기 쉽고, 소름 끼칠 만큼 현실적이다.

-⟨가디언⟩