기자명 진가연 기자 (iebbi@skku.edu)

만일 아인슈타인이 1,2,3밖에 모르는 원시 사회에서 태어났다면 평생 동안 수학을 연구한 결과는 10진법 정도를 발명하는 데 그쳤을 것이다.                                                                                            - 랠프 린턴

사회와 문화의 연관성을 보여주는 이 말은 문화 현상으로 외부상황과 지속적으로 소통하며 발전한 수학사를 잘 표현하고 있다. 수학사를 제대로 이해하려면 △방법 △이론 △개념 등 수학 내부적인 문제에 집중하기보다 그 수학이 발전하게 된 외부 조건들을 먼저 이해해야 한다. 즉 학문으로서 수학의 △정의 △개념 △방법에 대한 고찰 위주인 유럽의 수학과 계산술이 중심이 된 동양의 수학의 발전은 전혀 별개인 것으로 볼 수 있다. 따라서 동양 수학사를 다룰 때에는 유럽 수학과의 대비를 통해 부각되는 특이성이 어떻게 이뤄졌는지에 관심의 초점을 맞춰야 한다.

우리가 수학하면 쉽게 떠올리는 서양 수학은 고대 그리스부터 현대에 이르기까지 그 역사와 발전 방향이 자세히 알려져 있다. 그러나 동양의 수학, 특히 한국의 수학에 대해서는 사람들이 많은 관심을 갖지도 자세히 알려져 있지 않은 것이 현실이다. 대다수의 사람들은 한국의 수학에 대해 중국 수학의 축소판이나 복사판 정도로 오해하고 있으며, 한국에도 수학사가 있었냐는 반응을 보인다.

그러나 우리나라에서도 독자적으로 수학이 형성되고 발전해 왔던 것은 부인할 수 없다. 열, 스물과 같은 수의 이름은 십, 이십과 같은 중국의 이름과 다른 방식으로 만들어져 왔다는 사실만 보더라도 이러한 점을 알 수 있다.

한국 수학의 시작은 『한국수학사』의 저자 단국대학교 김용운 석좌교수에 따르면 “문자의 자유로운 사용이 가능했던 중국의 관료 조직이 도입된 시기 이후”로 볼 수 있다. 특히 고대 사회는 농업 중심의 사회였기에, 당시 수학의 핵심은 토지에서 나오는 생산물을 정확히 측정해 세금을 부과하는 문제로 많이 연결됐다.
때문에 고구려 소수림왕 때에는 토지측량과 세금계산 등 세무 회계를 전문적으로 담당하는 기술 관리를 제도적으로 뒀으며, 이들은 실용적인 계산술을 도입해 율령정치의 기틀을 닦기도 했다. 특히 백제의 경우 무한급수의 문제를 이용한 일종의 해석학이 발전했으며, π의 값을  3.1415926〈π〈3.1415927 로 매우 정확하게 셈하기도 했다. 신라 통일 후인 신문왕 때는 ‘국학’이란 정식 교육기관에서 『산학(算學)』을 가르쳤다. 산학은 당시까지 발전했던 수학적 지식의 총서로, 동시대의 일본이나 중국의 형식에 치우친 산학제도보다 훨씬 현실적인 내용을 담고 있었다.

고려 시대에는 통일신라시대의 제도를 거의 그대로 답습하였으며, 궁정과학의 수준을 벗어나지 못했다. 고려 왕조가 망한 원인 중 하나도 이처럼 조세 부과에 따르는 농지 측량 기술이 낙후됐기 때문이라는 시각도 있다. 따라서 조선시대에는 필연적으로 통일신라나 고려시대와 마찬가지로 정치 기술상의 필요 때문에 수학지식에 대한 수요가 늘어나게 됐다. 특히 세종은 산술적 기초에 주목하여 산사의 양성과 임용을 꾀하였고, 스스로도 정인지로부터 ‘산학계몽’에 관한 강의를 받았다고 한다.

이처럼 조선 초기는 고위관료들도 산학을 배울 정도로 수학에 대한 관심이 높았으며, 제곱근 풀이와 방정식에 대한 이해는 조선 학자들이 같은 시대 명나라나 청나라 학자들보다 훨씬 앞섰다. 작은 나뭇가지인 산가지만으로 고차방정식을 풀어낸 홍정하 같은 전문 수학자가 출현한 것도 이때다. 홍길주는 제곱근과 방정식에 대한 수준 높은 조선 수학의 전통아래서 기존 방법과 다른 새로운 제곱근 풀이법을 고안해내기도 했다. 현재에도 높은 수학적 지식을 요구하는 ‘개평법’ 대신, 원래 수를 반으로 나눠 1부터 오름차순으로 빼기를 반복해 더 이상 뺄 수 없을 때 이 수를 2배 해 다음에 빼고자 했던 수와 비교하는 새로운 제곱근 공식을 개발했던 것이다.

이처럼 우리가 잘 알지 못했던 한국 수학사는 실용성을 바탕으로 발전해왔다. 잠시 주춤하던 시기가 있었지만 꾸준하게 세계 수학에 접근했으며, 이제는 세계 수학에 상당한 기여를 할 만큼 성장도 했다. 점점 한국수학의 장래를 점치는 것이 당연한 일처럼 여겨지는 이 시점, 지금부터라도 우리 수학사에 자부심을 갖고 관심을 가져보는 것이 어떨까.