마음의 모델 - 물리학 공학 그리고 수학을 통해 본 우리의 뇌

물리학, 공학, 수학을 통해 본 ‘뇌’ 우리는 통상 “수학”이라고 하면 과학자, 수학자, 또는 공학자가 어떤 복잡한 관계에 대한 자신의 지식을 종이 위의 기호로 간단하게 표현하는 이미지를 떠올릴 수 있다. 수학적 기호가 올바르게 사용되면 방대한 양의 정보를 모호함의 여지없이 깔끔하게 압축하여 하나의 그림처럼 만들 수 있고, 이렇게 만들어진 그림은 천 마디 말 이상의 효과를 내며 주변 및 후대에도 간편하게 전달될 수 있다. 〈마음의 모델〉에 의하면 뇌에 대한 연구를 비롯한 생물학 연구는 물리학과 같은 다른 과학 분야에 비해 수학을 늦게 받아들였다. 문제에 대한 수학적 분석을 하려면 먼저 그 문제를 단순화해야 하는데, 이런 방식으로 엄청나게 다양하고 복잡한 생물 현상들을 모두 설명하기에는 쉽지 않기 때문이다. 하지만 생물학의 이런 다양성과 복잡성이야말로 생물학 연구에 돌파구를 만들기 위해 수학이 필요하게 만든다. 〈마음의 모델〉 도입부에서 저자가 제시한 대로 어떤 숲에 토끼와 여우, 이 두 종류의 동물만 산다고 가정해 보자. 여우는 토끼를 잡아먹고, 토끼는 풀을 먹는다. 시간이 흘렀을 때 여우와 토끼의 개체 수는 어떻게 변할까? 이 간단해 보이는 생물학 문제가 직관만으로는 상상하는 데 제약이 있을 수밖에 없으며, 서술적인 방식으로 완벽하게 설명하기는 매우 번거롭거나 또는 아예 불가능할 것이다. 어떤 상황에 대한 정확한 예측을 하기 위해서는 그 상황을 구성하는 변수들과 그 변수들 사이의 관계를 정확하게 정의해야 한다. 즉, 수학을 활용해야 한다. 1920년대에 제시된 포식자와 피식자의 상호작용에 관한 로트카-볼테라Lotka-Volterra 모델은 두 개의 수식 계산을 통해 여우 또는 토끼가 결국 모두 사라질지, 또는 개체 수가 줄어들고 늘어나기를 영원히 반복할지를 알아낼 수 있게 해준다. 이런 방식으로 수학은 우리가 생물학을 더 쉽게 이해할 수 있게 해준다. 수학이 없다면 우리는 타고난 인지 능력의 한계에 의해 제약을 받을 수밖에 없다. 850억 개의 뉴런으로 구성된 인간의 뇌는 수학 없이 이해하기에는 너무 복잡한 생물학적 대상의 적절한 사례이다. 뇌를 구성하는 기본 단위인 뉴런 하나하나가 화학 및 전기반응을 일으키면서 주변의 뉴런들과 복잡한 상호작용을 하기 때문이다. 뇌는 인지와 의식을 담당하며 우리의 느낌, 생각, 행동, 정체성을 지배한다. 또한 계획을 세우고, 기억을 저장하고, 열정을 느끼고, 선택을 하고, (잠재적 경쟁자인) 인공지능에 대한 영감을 제공하는 것도 뇌이며, 정신질환의 원인도 뇌 안에 존재한다. 하나의 세포 집합체로 구성된 뇌가 몸과 주변 세계와 상호작용하면서 이 모든 일을 어떻게 해내는지 이해하려면 다양한 수준에서의 수학적 모델링이 필요하다. 이를 쉽게 설명하고 일반 독자들의 접근을 용이하게 하기 위해 〈마음의 모델〉 내용 구조는 낮은 수준(단일 세포에 대한 물리학적 설명)에서 높은 수준(인간의 행동에 대한 수학적 설명)으로 올라가는 형태로 배치되었으며, 수학과 생물학의 통합을 위해 노력한 과학자들에 관한 이야기 또한 다루고 있다. 따라서 표지(특히 부제)가 주는 편견과는 달리 수학에 대한 전문적인 지식이 없어도 충분히 즐기며 읽을 수 있다.

들어가는 말 1. 공 모양의 소 9 2. 뉴런은 어떻게 스파이크를 생성하는가 23 3. 계산 방법의 학습 61 4. 기억의 생성과 유지 99 5. 흥분과 억제 139 6. 시각의 단계 179 7. 신경 암호의 해독 217 8. 낮은 차원에서의 움직임 259 9. 구조에서 기능으로 289 10. 합리적인 의사결정 323 11. 보상은 어떻게 행동을 유도하는가 357 12. 뇌에 대한 대통일이론 393 수식 설명 420 감사의 말 434 참고문헌 437 찾아보기 454