좋은 수학 교육의 필요성에 대하여

초등학교 3학년인 사촌동생(일란성 쌍둥이 숙녀들)과 밥을 먹으며 얘기를 하다가, 초등학교 3학년이 1+1=2 를 이해하지 못하면 바보인가 아닌가에 대해 얘기를 하게 되었습니다. 일단 그 때 이해를 못한다고 바보는 아니다라고 답을 한 다음, 아무래도 수학을 공부하는 사람으로서 1+1=2 라는 사실엔 그리 호락호락하지 아닌 무언가가 있다는 얘기를 해주고 싶었지만, 초등학생에게 그걸 얘기하는 건 무리가 있었고, 그래도 뭔가를 알려주고 싶어 "일 더하기 일은 영 일수도 있다"라고 진지하게 말해 주었습니다. 좋아라 식탁을 치며 저를 비웃기 시작하는 녀석들에게, 종이와 연필을 가져오게 하여 나름대로는 페다고지컬하게(!!) 설명을 해 주었습니다. 알아들은 듯도 하고, 모르는 듯 하는 반응을 보이다가 "1+1=0 이 틀렸다는 게 아니라, 1+1=2 를 이해 못하는게 바보라니깐.." 라는 조금의 현명함이 있는 대답에 무릎을 꿇어 주었습니다.
제가 아이들에게 가르쳐 주고 싶었던 것은 1+1=2 가 참이되게 하는 것만큼이나 1+1=0 가 참이 되게 하는 수의 체계가 있다는 것, 즉 자신이 아닌 것만이 진리가 아님을 인정할 수 있는 관용의 태도였습니다.
홍세화씨의 "쎄느강은 좌우를 나누고 한강은 남북을 가른다" 라는 책에는 '수학과 글쓰기 1, 2 '라는 두개의 글이 있습니다. 고등학교 시절에 친구가 읽고 있는 책을 잠시 뺏어, 다른 글은 안 읽고 그 둘만 읽은 적이 있습니다. 프랑스의 교육이 수학을 많이 강조한다는 사실을 바탕으로, 나름의 주장을 펴 나가는 글입니다.
저는 그보다는 조금더 진한 수학의 이야기를 담아 얘기를 하고 싶습니다.


칸토어와 러셀, 수학이 서 있는 기초에 대해 많이 고민했던 두 수학자의 말을 인용하겠습니다.
먼저 칸토어라는 수학자의 말입니다. "The essence of mathematics lies in its freedom. 수학의 본질은 그 자유로움에 있다." 칸토어는 중학교 수학의 첫 시간에 배우는 집합의 이론을 만들어 낸 사람입니다. 힐버트라고 하는 수학자는 집합론에 대해 "No one will drive us from the paradise that Cantor has created. 누구도 칸토어가 창조한 낙원으로부터 우리를 쫓아내지는 못할 것이다." 라고 말했습니다. 일단 "수학의 본질이 자유로움에 있다"는 다소 어안을 벙벙하게 하는 칸토어의 말은 계속 이야기를 해 나가는 와중에서 이해되기를 바라는 마음을 갖고, 건너뛰기로 하겠습니다.
다음은 제가 요즘 푹 빠져 있는 버틀란드 러셀의 말입니다. "mathematics is only the art of saying the same thing in different words. 수학이란 같은 것을 다른 말로 얘기하는 예술(기술)이다." 대학생들이 쓰는 수학 교과서를 보신 분은 아시겠지만, 정말 나쁜 수학책은 첫 시작부터 수많은 분량을 단어를 "정의"하는 데만 사용합니다. 수학은 정말 지독한 암기 과목으로서의 성질을 가지고 있습니다. 험난한 대한민국의 교육과정을 거치신 분은 아시겠지만, 다른 건 몰라도 수학만큼은 제때제때의 흐름을 따라가지 않고서는 나중에 가서 몰아서 하기가 어렵습니다. 로그함수 하나를 알기 위해서는(제가 배웠던 교과과정을 따르면)지수함수를 먼저 알아야 되고, 그러려면 그 전에 지수법칙을 알아뒀어야 할테고, 또 그러려면 그 전에 실수가 뭔지 무리수, 유리수가 뭔지를 알아뒀어야 하기 때문입니다. 새로운 단어의 정의에는 이미 알고 있는 단어만을 사용할 수 있습니다. 새로운 것의 이해란 기존의 것 없이는 불가능합니다. 이말은 새로 얻은 진리가 있다 하더라도 그것은 기존의 언어로 표현할 수 있다는 말입니다. 물론 이럴 경우에 그 표현이란 오늘 우연히 보게 된 SBS "웃찾사" 수준의 개그가 될 수도 있습니다. 아무튼 이렇게 떠드는 동안 러셀의 말이 대충 이해되었으리라 생각됩니다.
앞으로 할 이야기의 기반이 조금 쌓였으므로 이제 기하학 얘기를 하겠습니다. 고대 그리스의 유클리드라는 사람은 기하학에 대한 책을 한 권 썼습니다. 이 책의 위대함은 지금 수학을 하는 방법과 별 다를 바 없는 형식으로서 논리를 전개한 최초의 책이라는 사실에 있습니다. 즉 필수적인 용어에 대해 정의를 하고, 자명하다고 생각되는 몇 가지 명제('공리'라고 함)를 참이라고 약속한 다음에, 그러고 나면 필연적으로 참이 되는 명제 즉 '정리'들을 끌어내는 형식이라는 얘기입니다. 이 책이 서양에서는 '성서' 다음으로 많은 사람이 본 책이라 일컬어집니다. 즉 서양문명사를 이 책을 빼놓고는 얘기할 수 없는 요소가 있다는 뜻입니다. 서양의 기하학은 오랜동안 이 책에서 제시한 정의와 공리를 그 진리의 기초에 두고 그 위에 거대한 체계를 쌓아왔습니다. 대한민국의 고교과정까지 배우는 수학의 기하학 부분은 이렇게 쌓아올려진 거대한 체계에서 가져온 것입니다. 이것이 소위 '유클리드 기하학'입니다.
여기서 다시 한 번 주의를 기울여야 할 사실은, 거대한 체계의 뿌리는 거대함과 대비되는 작은 분량의 정의와 공리에 있다는 것입니다. 그런데 여기 심각한 하나의 문제점이 있었는데 이들 공리(단지 다섯개만이 제시되었습니다)중 다섯번째 공리('제5공리'라 하겠습니다) 즉 '주어진 직선 A와 그 직선을 지나지 않는 주어진 한점을 지나는 A와 평행한 직선은 하나뿐이다'라는 사실이 과연 애초부터 참이라고 인정해야 할 '공리'인지, 아니면 다른 공리들로부터 추론해낼 수 있는 '정리'인지의 논쟁이 있어 왔다는 것입니다.
르장드르라는 훌륭한 수학자는 이 명제가 공리가 될 필요가 없음을 주장하며 증명까지 해냈습니다. 미리 말하자면 이 증명엔 틀린 부분이 있습니다. 예전에 직접 이걸 한번 읽어보려고 했었는데, 조금 읽다가 말았습니다. 제가 읽다만 이유는 간단합니다. 이런 수학자들이 작성한 증명에서 틀린 부분을 찾는건 어렵기도 하거니와, 할 수 있다 생각해서 도전한다해도 그걸 꼼꼼이 따져보는 것은 너무 피곤한 일이 되어 버리기 때문입니다. 모든 걸 의심했던 사색의 대가 칸트마저도 그 공리가 참이라는 건 태어나기전부터 자명한 것임을 안다고 쪽팔리는 주장을 하고 말았습니다. 공자는 모르는 것을 모른다고 하는 것이 아는 것이라고 했습니다.
그러나 그 쪽팔린 칸트를 우리가 이해해주지 못할게 없는 것은 그 공리를 기초로 해서 거대한 진리의 체계가 완벽하게 만들어져왔다는 사실 때문입니다. 제5공리엔 함부로 도전할 수 없는, 긴 역사를 통해 쌓여온 진리가 주는 권위가 있었던 것입니다.
이 긴 이야기는 저 공리를 '임의의 두 직선은 언제나 한 점에서 만난다'와 같은 식으로 제5공리를 대체할 명제를 만들어보는 시도 끝에 이런 경우도 완벽한 진리의 체계가 생겨나더라 하는 결론으로 일단락 되게됩니다. 하나 짚고 넘어가야 할 것은 이 시도가 결코 쉬운 일이 아니라는 것이라는 사실입니다. 이 시도가 요구하는 것이란 "엄청나게 풍요로운 진리를 안겨다 주었거니와 그렇기에 반드시 참이어야만 할 사실"을 부정하기를 요구하기 때문입니다. 이 공리를 포기함으로서, 수학은 또 하나의 거대한 진리의 체계 즉 '비유클리드 기하학'을 탄생시켰습니다. 이 이론은 얼마후 상대성원리의 언어가 됨으로서 그 진가를 발휘합니다.
여기서 경이로운 사실은 새로운 진리가 얻어졌다고 해서 기존의 진리가 부정되는 것이 아니라, 둘다 옳음이 성립하는 새로운 체계가 만들어 진다는 것이지요. 그리고 또한 새로운 '비유클리드 기하학'의 이론이 만들어 지는 과정에서 기존의 '유클리드 기하학'의 이론들이 새로운 체계에서 유비적으로 갖게 될 의미를 찾아내기 위해 엄청난 재창조의 과정이 일어났습니다.('직선'이라는 가장 기본적인 것마저도 새로운 이해를 요구받습니다) 수학의 본질이 자유로움에 있다는 칸토어의 말은, 수학적 진리마저도 수학자 자신이 선택한 전제들에 의해 쓰여진다는 뜻으로 받아들이면 작은 이해의 실마리를 얻을 수 있지 않을까 생각합니다. 그리고 이것이 바로 수학의 진정한 매력입니다.

사실 이상의 이야기를 통해 제가 진짜 하고 싶었던 말은 이것입니다. 무언가가 나타내는 현상, 논의의 끝자락만 보고 물고 늘어져서는 문제가 해결되지 않을 수도 있다는 것입니다. 진리만을 주는 체계를 허물어뜨리기는 어려운 일입니다. 그러나 더 어려운 것은 진리만을 주는 체계를 허물어뜨릴 필요성을 느끼기가 힘들다는 데 있겠지요. '역사란 무엇인가'의 주제는 결국 역사책을 읽기 전에 역사가를 보라는 것입니다. 역사적 사실마저도 역사가의 전제에 의해 선택된 것일 뿐이라는 생각입니다. '과학혁명의 구조'에 나오는 패러다임 이야기도 결국은 똑같은 주제를 같습니다. 과학자의 실험마저도 얻고 싶은 결론에 의지해서 수행됩니다.

역사의 어느 순간은, 논의를 한줄한줄 꼼꼼하게 따져가는 것이 아니라, 그 기반이 되는 전제를 묻는 데 집중할 것을 요구합니다. 전제가 파괴된다는 것은, 패러다임을 버린다는 것은, 당연하게도 혼란을 야기하고 고통을 요구합니다. 위대한 칸트마저도 제5공리를 버릴 수 없었으니까요. 그러나 이러한 혼란의 아픔이 없이는, 우리를 새로운 존재로 변화시킬 상대성원리를 가져다줄, 위대한 진리를 가질 수가 없습니다. 새로워진다는 것은 가진 것을 부정하는 용기를 필요로 합니다. 유명한 한 구절을 더 인용하는 것으로 마치겠습니다. "새는 스스로 알을 깨고 나온다. 알은 세계이다. 태어나려는 것은 하나의 세계를 깨트려야 한다."

One Response to “좋은 수학 교육의 필요성에 대하여”

  1. 수학도 says:

    '대학생들이 쓰는 수학 교과서를 보신 분은 아시겠지만, 정말 나쁜 수학책은 첫 시작부터 수많은 분량을 단어를 “정의”하는 데만 사용합니다.'
    이 말에 왠지 공감이 갔습니다. 정의만 주구장창 외우다보면 왜 그리 수학이 재미없게 느껴지는지; 도대체 이런 걸 왜 도입할까 하는 생각이 들 때가 있어요 T_T. 정말 어떤 교재로 공부하느냐도 공부의 재미에 큰 영향을 주는 것 같습니다. (동기부여가 저는 굉장히 중요하게 느껴지더군요..) 암튼 좋은 글 잘 읽었습니다~.