기자명 성대신문 (webmaster@skkuw.com)
수수께끼가 재미있는 이유는 쉬워 보이는 반면 풀기 어렵기 때문이다. 마찬가지로 수학의 난제들은 보기엔 간단하지만 풀기 어렵기 때문에 그 존재 자체로 수학자들을 즐겁게 한다. 수학의 난제를 푸는 일은 단순히 답을 알아내는 것이 아니라 그 문제가 수학적으로 완벽히, 어떤 경우에도 성립함을 증명하는 것을 의미한다. 때문에 눈대중으로 봐도 당연히 참인 것 같은 문제들이 의외로 어려운 난제일 수 있는 것이다. 많은 난제들이 있지만 그 중에서 문제를 쉽게 이해할 수 있는 △골드바흐의 추측 △4색문제 △NP 복잡도에 대해 알아보자.  

'골드바흐의 추측'은 1742년 골드바흐라는 사람이 스위스 최고의 수학자 오일러에게 편지를 보내며 함께 적어보낸 것으로 '2보다 큰 모든 짝수는 두 개의 소수의 합으로 표현할 수 있다'는 추측이다. 예를 들자면 4=2+2, 6=3+3, 8=3+5... 로 직접 분해해보면 알겠지만 계속 맞아떨어진다. 현재 10억대 수까지 이 추측에 들어맞음이 밝혀졌으나 그 이상의 수에서도 이 추측이 맞아떨어진다는 것을 알 수는 없다. 따라서 이런 수학적 난제는 귀납적 방법이 아닌 보편적으로 모든 경우에 해당할 수 있는 확실한 수학적 증명이 필요하다.

그리고 또 다른 난제인 4색문제는 지도를 생각하면 간단히 이해할 수 있다. 어떤 지도든지, 각각 나라들의 색이 겹치지 않게 색칠하는 것에는 4가지 이하의 색깔만이 필요할 뿐이다.  4색문제라 일컬어지는 이 문제에서 중요한 것은 색이 아니라 도형인데, 즉 '2차원 상에 4가지 이상의 색으로 칠해야만 구분이 가능한 도형이 있을 수 있나' 하는 것이 이 난제의 궁극적인 문제이다. 각 나라만큼이나 복잡한 구조를 가진 도형이 또 있을까. 현재까지 지도업자들의 경험에 따라 그런 도형이 존재하지 않는다는 것이 확실시됐지만, 이 역시 수학적인 증명은 아니므로 4색문제는 여전히 풀리지 않는 문제로 남아있다.  

NP 복잡도는 계산학이나 컴퓨터 알고리즘 분야이며, 쉬운 예로 몇십군데의 도시를 방문해야 하는 외판원에게 가장 효율적인 방문경로를 찾아주는 것을 들 수있다. 재미있게도 이 난제는 게임과 많은 연관을 지녔는데 테트리스를 가장 효율적으로 하는 방법과도 관계가 있다. 수학자들의 연구에 따르면 다음에 어떤 모양의 벽돌이 내려올지 미리 알면서도 벽돌들을 가장 효과적으로 없앨 방법은 찾지 못했다고 한다. 그러니까 가장 효율적으로 테트리스를 할 수 있는 사람은 이 세상에 존재하지 않는 것이다. 게다가 우리가 잘 알고있는 프리셀 게임에서 3만 2천가지의 판 중 11982번째 판이 풀리지 않고 있는 것도 이 난제와 연관이 있다.

이 외에도 원형물체를 가장 효율적으로 쌓는 방법, 쌍소수가 무한하다는 것 등의 재미있는 난제가 많이 있다. 난제를 통해 알 수 있듯이 수학의 본래 목적은 계산위주의 입시가 아니라 문제를 풀어내고 증명하는 것이다. 우리는 한꺼번에 너무 많은 공식을 외워가며 수학을 대하다보니 수학 본래의 재미를 느끼지 못하는 듯 하다. 추리소설의 인기가 증명해 주고 있듯이 모르는 문제의 단서를 찾아 하나하나 풀어가는 과정은 누구에게나 재미있는 일이다. 수학은 호기심에서 시작되며 그것을 증명하는 일은 수수께끼와 같은 재미가 있다. 지금도 수많은 수학자들은 그 풀릴 듯 풀리지 않는 문제를 풀기 위해 평생을 바치고 있다.  

임진아 기자
kredo@skku.edu