수학의 유희 - 퍼즐과 역설에 관한 위대한 문제들(Philos 시리즈 51)

백만 독자가 사랑하고 수학·과학계가 존경한 거장

마틴 가드너가 25년간 탐구한 도전적 문제들

‘수학 게임(Mathematical Games)’의 정수

 

정수론, 산술, 기하학, 확률, 위상수학, 게임이론, 무한 등

12개 대주제로 엮은 궁극의 수학책

 

미국의 저명한 수학 및 과학 저술가 마틴 가드너(Martin Gardner, 1914~2010)가 1956~1981년 사이 《사이언티픽아메리칸(Scientific American)》에 연재한 ‘수학 게임’ 칼럼을 집대성했다. 반세기 이상 전 세계의 최신 수학적 성과를 소개하며 수학의 대중화를 이끈 마틴 가드너는, 자신의 경력에서 최고로 꼽는 인기 있는 수학 칼럼 50편을 엄선 및 보완 집필하여 유희 수학의 결정판으로 선보였다. 2004년 “The Colossal Book of Mathematics(위대한 수학책)”라는 제목으로 출간되어, 전문가든 아마추어든 수학에 관한 호기심 있는 독자를 위한 필독서로 자리 잡았다.

이 책은 국내에 필로스 시리즈 51번, 『수학의 유희』로 아르테에서 선보인다. 이 책의 해제자 김민형 수학자는 마틴 가드너를 추억하며, 20년이 지나 드디어 한국에 출간되는 것을 반가워했다. ‘전무후무한 수학/과학의 고전’이자, ‘청년기의 김민형을 문제 풀이와 수학의 세계로 이끈 책’이기 때문이다.

다루는 주제는 12개로 ‘산술과 대수학, 평면기하학, 입체기하학, 대칭, 위상수학, 확률, 무한, 조합론, 게임과 결정이론, 물리학, 논리와 철학’으로 폭넓다. 이 책만큼 우리의 세계가 수학적 세계로 둘러싸여 있다는 사실을 흥미롭게 일깨우는 책이 있을까? 수학 애호가들과 수학자들 사이에서 밈처럼 통하는 말이 있다. “저주받을 마틴 가드너!”라는 표현이다. “평범한 일상을 살고 있던 우리에게 그의 수학이 바이러스처럼 찾아온다. 그의 매혹적인 문제에 감염되면 다른 건 다 잊고 몰두해 풀어야만 하기 때문에!”(수학자 이선 에이킨/모턴 데이비스) 이제 한국 독자들이 감염될 차례이다. 유희 가득한 마틴 가드너의 세계에 푹 빠져들어 보자.

 

가장 즐거운 길로, 깊은 사유에 이르는

경이로운 수학이 여기에 있다

 

마틴 가드너를 아는 사람이라면 잘 알겠지만, 이 책은 수학 지식의 주입식 서술을 배격한다. 흥미롭고 매력적이며 철학적인, 혹은 예술적인 화두 하나를 던지고, 그를 이리 굴리고 저리 굴리며 수학과 과학의 근본 ‘원리’로 기막히게 안내한다. 저자의 또 다른 직업이었던 마술사처럼 말이다. 수학공식에 익숙하든 익숙지 않든, 그 과정은 경탄과 놀라움의 연속이다.

회문(palindrome)과 대칭의 아름다움, 공간을 가득 채운 에셔(M. C. Escher)의 테셀레이션(tessellation) 그림, 스콧 김(Scott Kim)의 ‘반전’ 작품인 앰비그램, 욕실이나 성당에서 볼 수 있는 무한의 타일링, 뫼비우스띠와 클라인병 등 기하학적 세계를 보여 준다.

마틴 가드너와 함께라면, 세상의 차원을 넘어서는 일 또한 가능하다. 2차원의 평면 세계에서 살아 보기도 하고, 4차원공간과 그 이상의 우주를 상상할 수 있는 수학적 세계를 소개한다. “4차원 교회”에서는 플라톤의 동굴로 향하고 마술과 수학의 만남을 기획한다.

프랙털의 자연에서 경이로움을 느끼게 하고, 문제 이면에 자리한 공식을 발견하여 정교한 아폴론적 미에 빠져들게 한다. 유명하지만 난해한 몬티홀문제를 이렇게 재미있고 쉽게? 죄수의 역설 등 확률 게임에 이르면 머리에 쥐가 나고 과몰입하게 될 수도 있지만, 평생 수학을 통한 대중과의 소통을 추구한 가드너의 열정은 유희와 아름다움으로 결실을 맺는다. 

[목 차]

머리말 9

 

1부 산술과 대수학

1장 원숭이와 코코넛 13

2장 유한차분 계산법 21

3장 회문: 단어와 숫자 36

 

2부 평면기하학

4장 정폭 곡선 51

5장 렙-타일 62

6장 피에트 하인의 초타원 76

7장 펜로즈 타일 93

8장 경이로운 플래니버스 116

 

3부 입체기하학과 더 높은 차원들

9장 나선 141

10장 구 쌓기 154

11장 구와 초구 164

12장 4차원 교회 179

13장 초입방체 193

14장 비유클리드기하학 209

 

4부 대칭

15장 회전과 반사 225

16장 스콧 김의 놀라운 창작물 235

17장 M. C. 에셔의 예술 250

 

5부 위상수학

18장 클라인병과 다른 곡면들 267

19장 매듭 280

20장 도넛: 연결된 것과 매듭지은 것 297

 

6부 확률

21장 확률과 모호성 319

22장 비추이적 주사위와 다른 역설들 334

23장 더 많은 비추이적 역설들 347

 

7부 무한

24장 무한후퇴 367

25장 알레프-0과 알레프-1 380

26장 초과제 394

27장 프랙털 뮤직 405

28장 초현실수 427

 

8부 조합론

29장 헥사플렉사곤 445

30장 소마 큐브 459

31장 생명 게임 472

32장 종이접기 487

33장 램지 이론 503

34장 불가리아 솔리테어와 기타 무한해 보이는 과제들 523

 

9부 게임과 결정이론

35장 성냥갑 게임학습기계 539

36장 스프라우트와 브뤼셀 스프라우트 555

37장 해러리의 일반화된 틱택토 565

38장 뉴 엘레우시스 577

 

10부 물리학

39장 시간 여행 593

40장 시간이 과연 멈출 수 있을까? 610

41장 귀납과 확률 622

42장 단순함 635

 

11부 논리와 철학

43장 예상치 못한 교수형 651

44장 뉴컴의 역설 666

45장 아무것도 아님 680

46장 모든 것 703

 

12부 잡다한 문제들

47장 멜로디 만드는 기계들 721

48장 수학적 동물원 736

49장 괴델, 에셔, 바흐 760

50장 세상을 놀라게 한 여섯 가지 발견 776

 

저자의 수학 문헌 802

해제 | 김민형 803

추천사 | 김상현, 김재경 806

찾아보기 807

[본 문]

놀랍고 기쁘게도, W. W. 노턴(W. W. Norton)의 내 담당 편집자 로버트 웨일(Robert Weil)은 독자들에게 가장 큰 반응을 불러일으켰다는 점에서 내가 “최고”라고 생각하는 칼럼 50편을 골라 여러분이 지금 들고 있는 이 무거운, 그리고 내 경력에 관한 한 최종판 같은 책을 만들자고 제안해 주었다.(10쪽)

 

덴마크의 주요 잡지에 피에트 하인은 “초타원은 원이나 타원과 같은 설득력 있는 통일성을 가지고 있지만 덜 자명하고 덜 평범하다”라고 썼다. 피에트 하인은 “초타원은 새로운 유행 이상의 것이다”라며 말을 이어 갔다. “그것은 더 단순한 1, 2차 곡선, 직선, 원뿔이 가진 답답함에서 벗어나게 해 준다”.(79쪽)

 

G. K. 체스터턴(G. K. Chesterton)은 외계 생명체가 인간 신체의 특징 중 얼마나 많은 것이 왼쪽과 오른쪽에 중복되어 있는지 관찰하면, 우리가 심장을 양쪽에 하나씩 갖고 있다고 합리적으로 추론할 것이라고 주장한 적이 있다. 그가 말하길, 세상은 “실제보다 약간 더 수학적이고 규칙적인 것 같고, 정밀함은 환히 들여다보이지만, 그것의 비정밀함은 숨겨져 있고, 그것의 야생성은 대기 중이다”. 어디서나 “정확성에서 한 치의 조용한 탈선이 존재하는데 이는 모든 것에서 불가사의한 요소이며 …… 우주에서의 은밀한 반역 같은 것”이다. 이 구절은 펜로즈의 평면적 세계에 대한 적절한 묘사다.(102쪽)

 

생각해 보면 재미있는 것은, 플래니버스의 환경이 발생시킨 다소 이색적인 설계 압박이 우리로 하여금 메커니즘을 다른 방식으로 생각하게 만들어 오래된 문제들에 대한 완전히 새로운 해결책을 떠오르게 해 줄 수 있다는 것이다. 그 결과로 나온 설계가 스테리버스적으로 실용적이라면, 그것은 항상 공간을 절약하는 특징을 가진다.(128쪽)

 

초구의 다른 많은 성질은 하위 차원의 구로부터 유추하여 예상할 수 있는 것들이다. 원은 중심점을 중심으로 회전하고, 구는 중심선을 중심으로 회전하며, 4차원 구는 중심 평면을 중심으로 회전한다. 일반적으로 회전하는 n차원 구의 회전축은 n-2의 공간이다.(165쪽)

 

기하학자 H. S. M. 콕세터는 “그의 이상한 나라의 앨리스는 케이크를 조금 먹은 것으로도 크기가 바뀌었는데, 삼각형의 변이 무한대에 가까워질 때도 그 넓이는 계속 유한할 수 있다는 가능성을 그가 받아들일 수 없었다는 것은 이상한 역설이다”라고 말했다.

콕세터가 무슨 생각으로 이 말을 했는지는 M. C. 에셔의 <원형 극한 III(Circle Limit III)>을 살펴보면 파악할 수 있다. 이 1959년 널목판화(에셔가 한 그림에 여러 가지 색을 사용한 희귀한 작품 중 하나)는 앙리 푸앵카레가 구축한 쌍곡 평면의 유클리드 모델을 기반으로 한 쪽매맞춤이다. 푸앵카레의 독창적인 모델에서 유클리드 평면 위의 모든 점은 원둘레 내부(하지만 둘레 위는 아닌)의 한 점에 대응된다. 원 너머에는, 에셔가 표현한 것처럼, “절대적 무(無, nothingness)”가 있다.

플랫 랜드 사람들이 이 모델 위에 산다고 상상해 보자. 중심에서 바깥으로 이동할수록 우리에게는 그들의 크기가 점차 작아지는 것처럼 보일 것이다. 그들이야 자신들의 측정 도구가 비슷하게 작아지니 어떠한 변화도 인식하지 못하겠지만 말이다. 경계에서는 그들의 크기가 0이 될 테지만, 그들은 결코 그 경계에 도달할 수 없다. 계속 균일한 속도로 경계를 향해 나아간다면, 그들의 속도는 (우리 눈에는) 꾸준히 감소하지만, 그들에게는 그것이 일정하게 보인다. 따라서 우리에게 유한하게 보이는 그들의 우주가 그들에게는 무한하다. 쌍곡 빛은 측지선을 따르지만 그 속도는 경계로부터의 거리에 비례하기 때문에 우리 눈에는 경계와 직각을 이루며 만나는 원호로 보이는 경로를 따른다.(214~215쪽)

 

에셔의 많은 그림에는 정다면체 및 준정다면체 형태들에 경이를 느끼는 감정적 반응이 반영되어 있다. 에셔는 다음과 같이 썼다. “우리의 종종 혼란스러운 사회 속에서 그 다면체들은 조화와 질서에 대한 인간의 갈망을 탁월한 방식으로 상징하지만 동시에 그 완벽함은 경외감을 불러일으키면서 우리 자신의 무력함을 느끼게 한다. 정다면체들은 절대적으로 비인간적인 특성을 갖고 있다. 그것들은 인간의 머리에서 발명된 것이 아닌바, 인류가 지구에 등장하기 훨씬 전부터 지각에 결정체로 존재했기 때문이다. 그리고 구 형태에 관해서라면―우주가 구들로 구성되어 있지 않은가?”(257쪽)

 

최근 매듭이론에서 가장 놀라운 발전은 존스다항식을 이해하는 가장 좋은 방법이 통계역학과 양자이론의 측면에서 이해하는 것임을 발견한 것이다! 현재는 에든버러대학교에서 은퇴한 마이클 아티야 경(Sir Michael Atiyah)이 이러한 연관성을 최초로 발견했고, 그 후 프린스턴고등연구소의 에드워드 위튼이 그 연관성을 발전시키는 데 선구적인 연구를 수행했다. 매듭이론은 현재 초끈이론이라는, 기본입자를 아주 작은 고리로 취급하여 설명하는 이론과 양자장론에 응용되고 있다. 오늘날의 물리학자와 위상수학자들 사이에는 매우 활발한 상호작용이 이루어지는 중이다. 물리학에서의 발견이 위상수학에서의 새로운 발견으로 이어지고 있고, 그 반대의 경우도 마찬가지다. 그 결과가 어디로 이어질지는 아무도 예측할 수 없다.(291쪽)

 

아리스토텔레스는 플라톤의 『파르메니데스(Parmenides)』에서 힌트를 얻어, 플라톤의 이데아론에 대한 자신의 유명한 “제3인간” 비판에 이 후퇴를 사용했다. 모든 사람이 이상적이고 영원한 원형의 ‘사람’과 무언가 공통점을 가지고 있기 때문에 똑같다면, 어떻게 (아리스토텔레스가 묻기를) 우리는 한 사람이 ‘사람’과 똑같다는 사실을 또 다른 원형을 가정하지 않고 설명할 수 있을까? 그리고 똑같은 추론이 제3의, 제4의, 제5의 원형을 요구하고, 그런 식으로 점점 더 이상적인 세계로의 후퇴로 이어지지 않을까? 무한후퇴에 대한 유사한 반감은 아리스토텔레스가 제안하고 수많은 후대 철학자들이 정교하게 다듬은, 우주가 반드시 제1원인을 가져야 한다는 논증에도 깔려 있다.(368쪽)

 

강한 규칙성을 보이는 프랙털 중 가장 잘 알려진 것은 유한한 영역을 완전히 채우는 페아노곡선(Peano curve)과 1904년 스웨덴 수학자 헬게 폰 코흐(Helge von Koch)가 발견한 아름다운 눈송이 곡선이다. 코흐눈송이는 그림에서 중앙의 모티프를 둘러싼 어두운 “바다”의 경계로 나타나는 것이다.(411쪽)

 

수천 년 전의 것으로 추정되는 중국 퍼즐 탱그램(칠교놀이)은 얇은 재료로 만들어진 정사각형을 일곱 조각으로 분할하여 다른 도형으로 재배열하는 게임이다. 3차원에서 이에 상응하는 적합한 게임을 개발하기 위한 노력이 여러 차례 있었다. 내 생각엔 덴마크의 작가 피에트 하인이 발명한 소마 큐브가 가장 성공적이었다.(459쪽)

 

콘웨이의 생명 게임에 대한 나의 1970년 칼럼은 전 세계 컴퓨터 해커들 사이에서 즉시 열광적인 반응을 불러일으켰고 ‘생명’ 형태를 탐구하려는 그들의 열기는 불법적으로 사용된 컴퓨터 시간으로 인해 국가에 수백만 달러의 비용을 발생시켰다고 추정되었다. 이름을 밝힐 수 없는 한 컴퓨터 전문가는 자신의 책상 밑에 비밀 스위치를 설치했다. 상사 중 한 명이 방에 들어오면 그는 버튼을 눌러 컴퓨터 화면을 생명 게임 화면에서 회사 프로젝트 화면으로 전환하곤 했다.(481쪽)

 

루트에서 위쪽으로 유한한 트리에 번호를 매겨 모델링한 특별한 경우의 스멀리언의 공 게임이 그림의 왼쪽에 나와 있다. 우리는 임의의 끝점을 그것이 붙어 있는 선분과 함께 잘라 낼 수 있고, 그런 다음 원하는 곳에 원하는 만큼 많은 새 가지를 트리에 추가할 수 있다. 단, 모든 새 점은 제거된 점보다 차수가 낮아야 한다.(526쪽)

 

보스빈니크는 다음과 같이 마무리한다. “기계 체스 플레이어에게 국제 그랜드마스터 타이틀이 수여되는 시간이 올 것입니다.…… 그리고 두 세계 챔피언 대회가, 하나는 인간을 위해, 하나는 로봇을 위해 필요하게 될 것입니다. 후자의 토너먼트는 당연히 기계들 사이의 경기가 아니라 제작사와 프로그램 운영자 사이의 경기가 될 것입니다.”(549쪽)

 

1967년 당시 리즈대학교의 수학과 학생이었던 데이비드 하트숀(David Hartshorne)에게서 받은 편지는 위와 같이 시작했다. 머지않아 영국의 다른 독자들도 케임브리지 캠퍼스에서 갑자기 생겨난 종이와 연필로 하는 이 재미있는 게임에 대해 내게 편지를 보내왔다. 이 게임의 기원을 추적하는 데 성공했다는 소식을 전하게 되어 기쁘다. 당시 케임브리지 시드니 서식스칼리지에서 수학을 가르치던 존 호턴 콘웨이와 당시 케임브리지에서 추상 컴퓨터프로그래밍 이론을 연구하던 대학원생 마이클 스튜어트 패터슨(Michael Stewart Paterson)의 공동창작품이었다. 이 게임은 종이 위의 n개 점으로 시작한다. 점 3개만으로도 스프라우트는 틱택토보다 분석하기 더 어려워서 초보자들은 처음에 서너 개 점만 가지고 플레이하는 것이 가장 좋다.(555쪽)

 

유희 수학자들에게 특별히 관심을 끄는 특징을 가진 동물을 전시하도록 설계된 동물원은 그동안 없었지만, 그런 동물원이 있다면 재미도 있고 교육적일 것 같다. 상상해 보자면, 그것은 두 개 동으로 나뉘어 있어서, 한 동은 살아 있는 동물이, 다른 동은 그림, 복제본, 상상의 생명체를 그린 애니메이션 등이 전시되어 있을 것이다. “수학동물원(mathzoo)”의 후원자들은 회문이면서 위아래로 뒤집어도 동일한 《주누주(ZOONOOZ)》라는 뉴스레터를 통해 새로운 동물 식구에 대한 정보를 계속해서 받을 수 있을 것이다.(736쪽)