수학과 철학을 넘나든 20세기 최고의 지성 화이트헤드, 그가 남긴 수학 교양서의 명저
과학과 철학을 아우르는 수학의 참된 가치와 본질을 말하다!

사람마다 다르겠지만 수학이라는 과목은 학창 시절 겪게 되는 가장 큰 두려움의 대상이기도 하다. 그래서 어떤 이들은 수를 다루는 학문은 자신의 성향과 너무 다르다며 가능한 한 수학과 거리를 두는 쪽으로 진로를 잡기도 한다. 하지만 그럼에도 불구하고 수학을 완벽히 벗어날 방법은, 적어도 교육을 받는 동안에는 없다. 공교육 그리고 대학까지 포함에서 학생들이 수학을 공부하는 방법은 일종의 ‘수련’에 가깝다. 기본 공식을 익히고 관련 문제를 푸는 일련의 과정은 교육의 근본 목적이라 할 수 있는 원리를 통한 깨달음이기보다 시험 문제를 풀기 위한 연습에 가깝다. 미분과 적분을 풀 수는 있어도, 그것이 물리학에서 그토록 까다롭게 여기던 무한에 대한 관념을 쉽게 기술하게끔 했다는 점은 간과한다. 원의 면적과 구의 체적은 계산해낼 수 있지만 원주율(π, 파이)이 내포하는 우주적 신비감에 감탄해본 학생이 얼마나 있을까.
‘과학의 언어’라고 일컬어지는 수학은 고대의 철학부터 현대의 과학과 공학 등 인간 이성이 관여하는 모든 영역에 폭넓게 작용하는 학문이다. 결국 수학은 모든 자연과학의 출발을 알리는 생각의 언어로서 시작되었으며, 고대 철학자를 오늘날 수학자와 동일시하는 것도 같은 맥락으로 볼 수 있다. 하지만 아이러니하게도 오늘날 철학과 수학은 전혀 다른 영역을 뜻하는 과목으로 인식된다.
많은 사람들이 수학을 배배 꼬인 수와 도형으로 이루어진 복잡한 퍼즐 같은 문제를 다루는 과목으로 생각하는 것은, 어쩌면 수학의 근본 목적인 철학적 사고를 배제한 오늘날의 교육방식 때문이기도 하다.
한평생 교육자로 살다 간 저명한 수학자이자 철학자인 화이트헤드는 수학이 가진 의미와 그 아름다움을 학생들이 제대로 맛보지 못한다는 사실에 안타까워했다. 이는 서구에서 지금도 중고등학생들의 필독서로 꼽히는 『화이트헤드의 수학이란 무엇인가(An Introduction to Mathematics)』를 그가 집필한 이유이기도 하다.
화이트헤드는 오늘날 수학과 철학이란 두 영역에서 결코 빼놓을 수 없는 중요 인물로 수학의 확장과 방법론을 명확하게 제시했으며, 그 사유는 형이상학까지 닿아 현대철학에 혁명적 공헌을 남겼다. 그는 수학의 체계성을 확립하는 데 관심이 많았으며 수제자인 버트런드 러셀과 세 권에 걸쳐 『수학 원리』를 저술하여 수리논리학에 획기적인 업적을 남겼다. 또한 교육에도 관심이 많아 교육 강연집인 『교육의 목적』을 내기도 하였다.

『화이트헤드의 수학이란 무엇인가』는 수학과 철학을 아우르는 대학자가, 수학의 참된 가치와 그 본질을 망각한 채 학생들이 수학의 복잡한 기호체계와 수학적 기법의 연습에만 몰두하게 만드는 교육현장에 느낀 아쉬움에서 출발하였다. 인간 이성의 사고체계가 유용한 과학으로 진보할 수 있게끔 한 수학의 발전상과 핵심 이론, 인류가 공유하는 이론과 정의의 표준화를 꾀할 수 있게 한 수학의 방법론을 체계적이고 효율적으로 조목조목 짚어가는 화이트헤드의 강의는 현대인에게 꼭 필요한 교양수업이다.
또한 수학의 근원, 수의 의미, 이성적 사고를 가능하게 한 기호화, 물리학의 발전을 견인한 수학의 방법론, 철학적 사유를 통해 도달한 추상성의 성립까지, 가장 오래된 학문으로서 과학의 모든 분야에 강력한 영향력을 미치는 수학을 명쾌히 풀어내어 대중 수학서로서도 손색이 없다.

수학은 무엇에 관한 학문인가?
자연현상을 탐구하는 데 수학은 어떤 사고의 도구를 제공하는가?
수학의 존재 이유를 알면 수학이 즐겁다!

이 책에서 저자는 기본적으로 모든 사상 체계와 생각의 틀을 수학으로 보고 있다. 우리가 의식하지 못하는 사이에 수학은 우리가 사고하는 데 있어 일종의 운영체제와 같은 역할을 맡고 있다는 것이다.
‘여기에서 저기까지는 거리가 멀다’는 인식은 거리를 수량으로 나타낼 수 있는 관념이 공감대를 형성했기 때문이고, ‘무엇이 있다 없다’를 0인지 아닌지로 가늠하는 것도 0에 대한 인식에 공감하기 때문이다. 조금 더 깊이 들어가 숫자 0이 우리에게 안겨주는 효용성은 ‘아무것도 없다’는 인식을 뛰어넘는다. 10, 200, 3000, 이런 식으로 아라비아 기수법을 혁명적으로 쉽게 만들었으며, 수식에서 좌변에 특정 식을 놓고 우변에 ‘=0’을 놓게 함으로써 대수학의 발전을 꾀하였다. 이는 전혀 특별한 이야기가 아니다. 우리가 일상에서 너무나 당연히 사용하는 0의 효용이며, 대부분의 사람들이 구체적인 설명은 못해도 은연중에 알고 있는 사실이다.
이 밖에도 음수와 양수, 수리물리학, 거리와 무게, 기하학, 미분과 적분 등 우리가 학교에서 배웠던 기본적인 수학 이론들이 꼬리에 꼬리를 물고 나온다. 하지만 교과서와 다른 부분이 있다. 아마도 그것은 학교에서도 잘 가르쳐주지 않은 내용일 것이다. 수학의 각 내용들은 어떤 필요에 의해 생겼으며, 그것이 우리 삶에 어떤 의미를 주는가이다.

저자는 책의 도입에서 ‘수학의 추상성’(1장)을 다룬다. 이는 어쩌면 수학의 존재 이유이기도 하다. 인간이 이해하는 자연에 대한 추상적 관념을 모든 이들이 오차 없이 정확히 같은 값으로 이해할 수 있는 방법, 그것이 수학이다. 이 과정에서 필연적으로 생겨난 온갖 기호와 수식은 수학이 말하는 관념에 필요한 언어적 도구일 뿐이지 그 자체가 수학은 아니라는 점을 저자는 강조한다. 화이트헤드는 이렇게 말한다.

“우리가 수학이라는 학문의 명성에 부응하는 데 실패하는 이유는 간단하다. 수학 문제의 엄밀한 표기를 위해 고안된, 소위 수학적 기법 정도만 학생들에게 익숙하도록 할 뿐 그 근본 개념까지 이해시켜주지 않기 때문이다. 따라서 이런 불행한 학생들은 수학 개념의 일반적 성질은 못 본 채 수학의 단편지식만 습득하는 데 몰두했음을 나중에 깨닫게 된다. …… 이 책에 담긴 글들은 수학 자체를 가르치기 위한 것이 아니다. 다만 수학을 나름대로 시작하는 학생들이 수학이 무엇에 관한 학문인지, 자연현상을 탐구하는 데 왜 수학이 필연적으로 엄밀한 사고의 도구로 사용되는지 알게 하는 데 목적이 있다. 각 단원마다 소개되는 세부적 추론 내용은 오로지 예를 들어 보이기 위해 넣은 것이다. 아울러 보편적 논증과정이 쉽게 이해될 수 있도록 최대한 주의를 기울였다. 다소 생소할지도 모를 기술방식이나 부호가 드문드문 눈에 띄겠지만 그것 역시 예시를 목적으로 쓰였음을 밝혀둔다.” (본문 12~13쪽)

수학의 추상성을 설명한 후 저자는 변수(2장)에 대해 언급한다. 수학 그중에서도 대수학은 어찌 보면 임의(any)와 어떤(some)에 대한 내용으로 귀결된다는 화이트헤드의 말은 너무나 명확하게 들린다. ‘임의의 수’와 ‘어떤 수’를 기술하는 방식으로 x, y, z 같은 변수가 만들어졌으며, 이는 대수학에서 방정식을 낳게 하여 우리가 구하고자 하는 미지의 값을 논리적으로 밝힐 수 있는 방법론을 제시했고, 간결하면서도 아름다운 수학적 정의를 가능하게 하였다. 또한 변수의 개념은 2차원, 3차원으로 확장하여 값의 분포와 수식의 패턴을 선형이나 입체적으로 그려내면서 눈부신 기하학(16장)의 발전을 이룬다. 이 모든 것은 바로 ‘임의’와 ‘어떤’이라는 수학적 관념에서 출발했다는 명쾌한 해석에 이어, 3장 ‘수학의 적용체계’로 이어질 때쯤이면 독자는 수학의 복잡성보다는 그 단순한 패턴의 아름다움에 집중하게 될 것이다. 여기서는 수학보다는 물리학의 발전을 다루며 수학으로 볼 수 있는 외연을 넓혀준다. “수학공식의 적용에 있어 중요한 관건은 명료한 개념을 갖추되 관측된 현상과의 관련성을 바르게 진단하는 것이다”라는 그의 말대로 수학은 불명료한 자연현상을 명료하게 기술하는 방식으로 이용되어왔다. 그런 부분이 가장 두드러진 분야가 바로 물리학이다. 뉴턴의 실험부터 전자기학의 공식까지 그 적용에 수학이 차지한 절대적인 비중을 강조한다.
이에 대해 좀 더 깊이 다룬 4장 ‘동역학’에서는 물리학이 이룬 ‘현상에 대한 구체적 기술’이 수학을 통해 가능했음을 보여준다. 그것은 세계를 ‘감지하는’ 불분명하고 주관적인 인간의 감각이 ‘설명할 수 있는’ 원리로 잡혀갔음을 뜻한다. 이에 대해 화이트헤드는 이렇게 말한다.

“우리의 모든 감각이란 시간?공간상의 사물들의 변화된 배치?구성을 우리가 나름대로 비교 파악한 결과라는 결론에 도달하게 된다. ‘운동의 법칙’, ‘즉 사물의 배치?구성의 변화에 관한 법칙이 물리과학의 궁극적 법칙이라는 주장이 이어져나온다. 상식적 사고로는 우연과 임의로만 여길 일을, 자연철학 탐구에 수학을 적용함으로써 과학은 체계적으로 수행할 수 있게 되었다.” (본문 47~48쪽)

이런 기본적인 수학의 태생과 관련된 의미, 그 필요성에 대해 언급하고서야 대학자는 각각의 수학 개념에 관해 기술하기 시작한다. 수학의 기호체계(5장), 허수(7장), 좌표기하학(9장), 원뿔곡선(10장), 함수(11장), 삼각법(13장), 급수(14장), 미분과 적분(15장)으로 이어지는 그의 강의는 정확히 수학의 필요성에 기초해 펼쳐진다. 너무 복잡한 수학적 설명은 경우에 따라 배제하고, 각각의 개념들이 서로 어떻게 유기적으로 연결되는지에 주안점을 두어 세심히 설명한다. 또한 언제나 수학이 의미하는 사고와 철학적 구심점을 잃지 않게 하여, 그 세부적인 뜻을 다 파악하지 못하더라도 수학의 전반적 의미와 체계에 대해서는 확실히 이해할 수 있게 한다는 것이 이 책의 가장 큰 장점이다.

수학은 교양이다!
대가의 명쾌한 강의가 선사하는 유쾌한 수학 파노라마!

이 책의 제목인 ‘수학이란 무엇인가’는 사실 굉장히 묵직한 주제이다. 그 질문에 답하는 것만으로도 세상과 인간을 둘러싼 상당 부분을 논할 수밖에 없다. 화이트헤드는 수학자였지만 철학 분야에서도 형이상학의 새로운 기틀을 마련한 대철학자로 칭송받는 인물이다. 그런 그가 전문인이 아닌 일반인을 대상으로 ‘수학이란 무엇인가’에 대한 답을 한 권에 걸쳐 풀어냈다는 것은 큰 의미를 지닌다.
『화이트헤드의 수학이란 무엇인가』는 수학을 교양으로서 다시 한 번 접하길 원하는 성인과 현재 수학을 ‘과목’으로서 접하는 학생들, 그리고 수학을 가르치거나 연구하는 학자들에게 유용한 책으로 다가올 것이다.
많은 사람들이 수학에 재미를 못 느끼는 이유는 간단하다. 의미에 대한 이해보다는 내용의 암기와 응용을 위한 연습을 강요받기 때문이다. 화이트헤드는 이 책에서 말한다. 대부분의 사람들이 알고 있는 것과 다르게 수학자들은 수식의 계산을 귀찮아하고 좋아하지도 않는다고. 수학은 생각을 다루는 학문이다. 이 책은 수학의 그런 점을 설명한 책이다. 수학 교과서의 단원명과 비슷한 차례를 보겠지만, 설명하는 방법은 분명 다르다. 경우에 따라서는 수식보다는 역사에 관한 이야기를 하든가, 아예 복잡하거나 어려워질 여지가 있다면 굳이 설명하지 않겠다며 과감히 넘어간다. 대가의 강의는 그렇게 심플하지만, 그 어떤 현대수학의 새로운 분야 내용에도 공통으로 적용되는 보편적 수학 원리에 초점을 정확히 맞추어 강조한다.

1. 수학의 추상성 2. 변수 3. 수학의 적용체계 4. 동역학 5. 수학의 기호체계 6. 수의 일반화 7. 허수 8. 허수(앞 장에 이어) 9. 좌표기하학 10. 원뿔곡선 11. 함수 12. 자연의 주기성 13. 삼각법 14. 급수 15. 미분학 16. 기하학 17. 양