필자는 이 질문에 답을 내기 위해 지난 40년간을 달려왔다고 해도 과언이 아니다. 오랜 시간 학생들을 가르쳐 오면서 이 질문에 대한 답을 나 자신도 이해할 수 없는 알쏭달쏭한 대답으로 얼버무리고 말았으니 얼마나 창피한 세월을 보내 왔는지 후회스럽다.
여기에 필자의 견해를 붙여 보면 "세상을 보는 눈이 수학이다"라고 말하고 싶다. 대상이 보이는 것이든, 보이지 않는 것이든, 추상적이든, 구체적이든 관계없이 존재하는 대상은 수학이라는 언어로 볼 수 있도록 해 준다는 뜻이다.
수학은 3000여 년 전부터 각 시대의 사상, 종교, 산업, 철학과 맞물려 관심분야를 달리해 왔다. 고대 바빌로니아와 이집트에서는 수, 그리스 시대에는 기하학, 17세기에는 운동과 변화 그리고 공간에 대한 연구가 이어져 왔다. 요즘 수학자들은 '패턴'을 연구하는 것에 관심을 집중하고 있다. 수의 패턴, 모양의 패턴, 운동의 패턴, 행동의 패턴, 반복되는 우연한 사건에 대한 패턴 등이다. 그것들은 실재하는 것과 가상의 것, 동적인 것과 정적인 것, 실생활과 정신 내면의 것들 등의 형태를 가지고 있다. 이것들에는 실제로 보이는 것과 보이지 않는 것들도 있다.
수학은 인간이 볼 수 있는 것은 물론이고 보이지 않는 것도 보이게 하는 눈을 가지고 있다. 거대한 금속 덩어리인 비행기가 하늘에서 떨어지지 않고 비행하는 것은 무엇 때문인지 보이는가. 도대체 무엇으로 설명할 수 있을까. 그것은 수학으로만 설명되고 보일 수 있다. 바로 다니엘 베르누이가 발견한 방정식으로만 볼 수 있다. 거꾸로 공중에 사과를 놓으면 떨어지는 것은 무엇일까를 설명하려면 뉴턴의 운동과 역학 법칙에서 말하는 것들을 수학적 도구인 미적분을 동원해서 중력의 존재를 말해야 볼 수 있다.
이런 것들이 실감 나지 않는다면 늘 휴대하고 다니는 모바일 폰을 보자. 지구 반대편에 있는 사람들과도 통화를 하고 동영상을 보기도 하고 문자메시지를 보내는 것이 가능한 배경에는 분명 무언가 있는 것은 확실하지만 단지 눈에 보이지 않을 뿐이다. 이것을 이해하려면 전자기파를 이해해야 한다. 전자기파를 제대로 이해하려면 맥스웰 방정식으로 이것들이 작동하는 것을 볼 수 있다.
지금 이 시각에도 내일 날씨를 예측하기 위해서 미적분 방정식을 풀고, 보험회사는 통계학과 확률이론을 기반으로 사고 확률을 예측해서 이것에 맞게 보험료를 책정하고 있다. 지금까지는 '수학자'라는 특수한 직업을 가진 사람들이 수학으로 무엇을 하는지를 알아보았다. 그렇다면 수학을 전공하지도 않을 것인데 굳이 어려운 수학을 공부해야 하느냐고 반문하는 학생들이 있을 것이다. 이들에게 들려주고 싶은 몇 가지 조언이 있다.
이것이 창의적 인간의 기본적인 요소다. 한 가지 예를 들어 보자. 요즘 웬만한 정보는 검색만 하면 찾아낼 수 있는 시대에 우리는 살고 있다. 우리 뇌에 저장되어 있지 않은 정보를 인터넷이라는 외부저장장치를 통해서 도움을 받는다. 그 정보가 진짜인지 가짜인지는 검색하는 본인의 판단에 따라서 달라진다. 마찬가지로 앞으로 세상은 인공지능(AI)의 도움을 받아서 아주 풍부한 정보를 쉽고 정교하게 얻어 낼 것이다. 그런데 중요한 것은 머신러닝이라고 부르는 딥러닝을 통해서 내어 놓은 결과물을 어떻게 활용해야 할지가 인간의 의사결정에 큰 영향을 끼친다. 그러기 위해서는 지금보다 더 창의적인 사고를 가진 사람이 필요하다. 이것은 앞으로 인류가 직면하게 될 생존의 문제다. 논리적이고 사고력 깊은 창의적 생각을 가르치는 과목이 수학이다.
현재에도 과학이 인류의 삶을 좌우하는 시대에 살고 있지만 앞으로의 시대도 그러하리라 예상된다. 아니, 더 심해질 것으로 예상된다. 과학 중에서도 물리학이 문명의 이기들을 쏟아 내고 있다. 물리학은 수학과 불가분의 관계에 있다. 위대한 업적을 남긴 수학자가 동시에 물리학이나 천문학에 큰 족적을 남긴 것도 바로 이러한 이유에서다.
그런데 수학을 바탕으로 한 것들이 과학에만 영향을 주는 것이 아니라 일상 업무나 생활에서도 중요하게 사용되고 있다. 회사에서는 업무와 관련된 데이터를 엑셀로 가공해서 정보를 만들어 내고 이 정보를 다른 정보와 혼합 가공해서 회사에 필요한 지식을 생산해 낸다. 이 지식들은 머신러닝을 통해 체계적으로 관리되어 회사의 최고경영자는 필요할 때마다 꺼내 보면서 경영에 중요한 판단을 할 때 결정적인 지혜를 가지게 된다.
일반 가정에서 주택 담보대출을 내었다. 연 이율이 2% 인상되었다면 도대체 한 달에 얼마를 은행에 더 내어야 한다는 말인가. 집을 처분해야 하나, 아니면 계속 유지해야 하나. 이것이 생존의 문제이고 수학 문제다. 한 마디로 말하면 현대를 살아가는 우리들의 삶 속에는 분석적이고 비판적인 자세로 사물을 관찰하고, 생각하고 수용하면서 살아야 한다는 뜻이다. 이것이 바로 우리가 수학을 배우는 이유다.
임채오 원리수학연구소 소장