필즈상 천재가 아닌 사람들의 수학 분투기(생각하는 청소년29)

필즈상으로 읽는 천재들의 골 때리는 도전기
수학이 두려웠던 당신에게, 이제 다른 이야기를 들려드립니다

수학 시간은 언제부턴가 낯선 나라의 언어를 억지로 암기하는 시간처럼 느껴지고, 공식을 외우고 대입하고 답을 맞히고 또 잊어버리는 일의 반복이 된다. 그러다 보면 어느새 스스로에게 '수포자'라는 이름표를 붙이고 수학의 세계와 담을 쌓아버리게 된다. 그런데 조금만 다른 방향에서 바라보면 어떨까. 수학은 원래 공식이 아니라 질문에서 시작되는 학문이다. ‘왜 이렇게 되는 걸까?’, ‘다른 방법은 없을까?’, ‘이 둘 사이에는 어떤 관계가 있을까?’ 하는 질문들이 쌓이고 쌓여 인류의 수학은 지금껏 발전해 왔다. 문제는 우리가 받아온 수학 교육이 그 질문의 과정을 통째로 생략하고 오직 정답만을 요구해 왔다는 점이다. 그러니 수학이 재미없고 어렵게 느껴지는 것은 어쩌면 당연한 일이다.

이 책은 그 잃어버린 질문의 과정을 되찾아주기 위해 쓰였다. 공식과 증명 대신 사람의 이야기로, 수학이라는 세계의 문을 다시 한번 열어젖히고자 한다. 4년에 한 번, 만 40세 미만의 수학자에게만 주어지는 필즈상. 흔히 ‘수학계의 노벨상’이라 불리지만 사실 노벨상보다 받기 훨씬 어려운 이 상을 거머쥔 수학자들의 이야기는, 우리가 교과서에서 상상해 온 완벽한 천재의 이미지와는 사뭇 다르다. 그들은 실패하고, 방황하고, 포기하고 싶었던 순간을 수없이 겪은 지극히 인간적인 존재들이었다. 바로 그 인간적인 이야기들이, 수학과 멀어진 우리를 다시 그 세계의 문 앞으로 데려다줄 것이다.

4년에 한 번, 가장 젊고 가장 치열한 수학자들의 잔치

필즈상은 단순한 상이 아니다. 4년마다 열리는 세계수학자대회(ICM)에서 수여되며, 반드시 만 40세 미만이어야 한다는 나이 제한이 이 상을 더욱 특별하게 만든다. 노벨상은 나이 제한이 없어 평생의 연구가 쌓이면 언젠가 기회가 올 수 있지만, 필즈상은 다르다. 젊음과 천재성과 행운이 동시에 교차하는 단 한 번의 찰나에만 주어진다. 매번 수상자가 발표될 때마다 전 세계 수학계가 술렁이는 이유가 바로 여기에 있다.

금메달 앞면에는 아르키메데스의 얼굴이 새겨져 있고, 그 옆에는 라틴어로 된 문구가 적혀 있다. “자신을 뛰어넘어라, 세계를 파악하라.” 이 짧은 문구는 필즈상이 단순히 뛰어난 계산 능력을 치하하는 상이 아님을 말해준다. 인류가 아직 이해하지 못한 수학의 세계를 새롭게 개척하고, 그 지평을 넓혀나간 상상력과 도전 정신을 기리는 상이다. 상금은 약 1만 5천 캐나다 달러로 노벨상에 비하면 미미한 수준이지만, 수학자들 사이에서 이 메달이 갖는 무게는 그 어떤 물질적 보상과도 비교할 수 없다.

그렇다면 이 상을 받은 수학자들은 어떤 사람들일까. 흔히 상상하듯 어릴 때부터 모든 시험에서 만점을 받고, 인간 계산기처럼 복잡한 숫자를 순식간에 처리하는 그런 천재들일까. 이 책은 그 선입견을 조용히, 그러나 강하게 뒤집는다. 필즈상 수상자들의 면면을 들여다보면 오히려 놀라운 공통점이 발견된다. 그들은 모두 ‘왜?’라는 질문을 포기하지 않은 사람들이었고, 틀린 길을 수백 번 걷고도 다시 지도를 펼친 사람들이었으며, 때로는 수학 바깥의 세계에서 헤매다가 결국 수학 안에서 자신의 언어를 찾아낸 사람들이었다.

포기란 없다: 수포자 시인부터 숲속의 은둔자까지

2022년, 한국의 허준이 교수가 필즈상을 수상했을 때 전 세계 수학계는 물론 한국 사회 전체가 들썩였다. 그런데 많은 사람들을 더욱 놀라게 한 것은 수상 소식 자체가 아니라 그의 과거였다. 허준이 교수는 스스로를 한때 ‘수학을 포기한 학생’이라고 불렀다. 시를 쓰고 싶었고, 수학과는 거리를 두고 싶었던 청년. 물리학을 전공했다가 그마저도 흥미를 잃고 방황하던 시절, 어느 교수의 말 한마디에 이끌려 뒤늦게 수학의 세계로 걸어 들어갔다. 그리고 그는 조합론과 대수기하학이라는 전혀 다른 두 세계를 하나로 잇는 다리를 놓아 수학의 역사를 새로 썼다. 그의 이야기가 특별한 이유는 단순히 ‘한국인 최초’이기 때문만이 아니다. 수포자라는 이름표가 결코 운명이 아니라는 것을, 정답을 빨리 찾는 것보다 좋은 질문을 오래 붙들고 있는 것이 더 중요하다는 것을 몸소 증명해 보였기 때문이다.

한편 수학의 역사를 통틀어 가장 극적인 이야기라면 단연 그리고리 페렐만을 빼놓을 수 없다. 러시아 출신의 이 수학자는 100년 넘게 아무도 풀지 못한 난제 ‘푸앵카레 추측’을 혼자서, 7년 동안, 거의 외부와 단절된 채 풀어냈다. 더 놀라운 것은 그 증명을 저명한 학술지가 아닌 인터넷 아카이브에 아무런 예고 없이 툭 올려버렸다는 사실이다. 전 세계 수학자들이 내용을 검증하는 데만 수년이 걸렸고, 결국 증명은 완벽한 것으로 확인되었다. 수학계는 그에게 필즈상과 100만 달러의 상금을 안겼다. 그러나 페렐만은 둘 다 거절했다. “나는 이미 내가 원하는 것을 얻었다.” 그 한마디를 남기고 그는 상트페테르부르크의 작은 아파트로 돌아가 조용히 숲속 산책을 이어가고 있다.

허준이와 페렐만, 두 사람의 이야기는 서로 달라 보이지만 결국 같은 진실을 가리킨다. 수학의 세계에서 진정으로 위대한 것은 빠른 계산도, 화려한 수상 경력도 아니다. 포기하지 않고 질문을 붙드는 것, 그리고 답에 가닿았을 때의 순수한 기쁨을 아는 것. 그것이 수학자를 수학자이게 만드는 힘이다.

수학은 지금 이 순간에도 세상을 움직이고 있다

수학이 어렵고 추상적으로 느껴지는 또 다른 이유는, 그것이 우리의 현실 삶과 아무런 관계가 없는 것처럼 보이기 때문이다. 그런데 정말 그럴까. 오늘 아침 유튜브가 당신에게 추천한 영상은 어떻게 선택되었을까. 인터넷 쇼핑몰에서 결제할 때 카드 정보가 안전하게 보호되는 원리는 무엇일까. 화성 탐사선이 수억 킬로미터를 날아가 정확히 목표 지점에 착륙하는 것이 어떻게 가능할까. 챗GPT 같은 인공지능이 사람의 말을 이해하고 대화를 이어가는 원리는 무엇일까.

이 모든 것의 밑바닥에는 수학이 있다. 유튜브의 추천 알고리즘은 선형대수학과 확률론을 기반으로 작동한다. 인터넷 보안을 떠받치는 암호 체계는 소수(素數)의 성질을 이용한 정수론에서 나왔다. 화성 탐사선의 궤도는 미분방정식으로 계산되며, 인공지능이 언어를 이해하는 방식은 고차원 벡터 공간의 기하학에 기반한다. 필즈상을 받은 수학자들이 칠판에 끄적인 낙서 같은 공식들이, 수십 년이 지나 세상을 바꾸는 기술이 된다.

실제로 필즈상 수상자들의 연구가 현실 세계에 미친 영향은 놀랍다. 1994년 수상자 장피에르 세르의 대수기하학 연구는 현대 암호학의 기초가 되었고, 2010년 수상자 세드리크 빌라니의 최적 수송 이론은 물류 최적화와 머신러닝 분야에 직접 응용되고 있다. ‘쓸모없어 보이는’ 순수수학이 수십 년 후 세상에서 가장 쓸모 있는 기술로 돌아오는 것, 이것이 수학의 경이로운 역설이다.

정답보다 중요한 것은 질문을 포기하지 않는 것

이 책은 수학과 현실 사이의 이 눈부신 연결고리를 독자들이 직접 느낄 수 있도록 다양한 사례와 함께 풀어낸다. 코딩을 잘하고 싶다면 수학과 친해져야 하는 이유, 소수점 하나의 오차가 우주 탐사의 성패를 가르는 이야기, 수학자가 국가 보안을 책임지는 암호 전쟁의 현장까지. 수학은 현실과 동떨어진 상아탑 안의 유희가 아니라, 지금 이 순간에도 우리가 사는 세상의 언어로 작동하고 있다는 사실을 이 책은 생생하게 보여준다.

수학을 잘하기 위해 이 책을 읽지 않아도 된다. 성적을 올리기 위해 읽지 않아도 된다. 그저 이 이야기들을 읽으며 ‘나도 언젠가 이런 질문을 품어볼 수 있겠다’는 생각이 한 번이라도 스쳐 간다면, 그것으로 충분하다. 천재는 타고나는 것이 아니라, ‘왜?’라는 질문을 끝까지 붙들고 있는 사람이 되어가는 것이니까.