정수 3개를 3제곱해서 더하면 33이 되는 수는?!

경칩이 지나고 세상이 깨어나는 3월이 왔건만, 코로나19의 여파로 여전히 사회는 꽁꽁 얼어 있다. 실내에만 있어 몸도 마음도 둔해지는 요즘, 3월에 어울리는, 3으로 도배가 된 수학계의 유명 퍼즐이자 정수론의 오래된 문제를 소개하려 한다.

문제는 간단하다. ‘각각 3제곱해서 더하면 33이 되는 3개의 정수를 찾아라!’. 이해를 돕기 위해 1로 예를 들면 1=13+03+03이므로 (1, 0, 0)이 정답이 될 수 있다. 혹은 29라는 숫자가 있다면 29=33+13+13으로, 29의 답은 (3, 1, 1)이 된다. 이 문제는 1부터 차례로 100, 1000까지 나아간다. 작은 숫자부터 답을 찾아보라. 계산이 간단해서 누구나 해볼 수 있으며 시간만 있으면 답을 찾을 수 있어 수학을 특별히 잘하지 않더라도 즐길 수 있는 퍼즐이다. 일명 ‘3제곱의 합’(sum of three cubes) 문제다.

고대부터 이어져 온 디오판토스 방정식

‘3제곱의 합’은 수론에서 자주 볼 수 있는 부정 다항 방정식으로, ‘디오판토스 방정식’의 한 종류다. 디오판토스 방정식은 정수로 된 해만을 허용하며 미지의 변수와 변수의 수보다 적은 방정식을 주고 해를 찾도록 하는 문제를 말한다. 간단하면서도 답을 찾는 과정이 복잡해 오랫동안 정수론자에게 사랑받아 온 분야이기도 하고, 헬레니즘 시기인 3세기 무렵부터 퍼즐이나 문제의 형태로 널리 알려져 왔을 만큼 대중에게도 익숙한 숫자 퍼즐 형태이기도 하다.

모르는 사람이 없을 ‘페르마의 마지막 정리’도 디오판토스 방정식의 일종이다. 정리는 “n이 2보다 더 큰 정수일 때, xn+yp=zn 만족하는 정수 x, y, z는 존재하지 않는다”는 내용인데, 형태가 단순하기 짝이 없는데도 풀리는 데 358년이나 걸린 걸 보면 디오판토스 방정식의 어려움을 가늠해 볼 수 있다. 물론 모든 디오판토스 방정식이 그만큼 어려운 건 아니다. 3제곱해서 더하면 1이 되는 숫자를 찾는 것만큼 쉬운 문제도 있으니 말이다. 그러면 오늘의 주인공, 33은 어떨까?

출처: 픽사베이

64년 만에 해답 찾은 33

3제곱의 합 문제가 처음 제시된 건 1954년이었다. 처음에는 100 이하의 자연수만 따졌다. 차례차례 계산해서 답이 있는 숫자와 없는 숫자를 찾아냈다. 답이 있는 숫자를 조금 나열하면 ‘1, 2, 3, 6, 7, 8, 9, 10, 11, 12, 15, 16, ..., 33, 34, ...’이 있는데, 중간에 빠진 4, 5, 13, 14 같은 수는 ‘9로 나누면 나머지가 4나 5인 수’이다. 이 경우 해답이 존재하지 않는다는 것이 금방 증명됐다. 100 이하의 수 중 해답이 존재하지 않는 조건을 만족하는 수는 22개였다. 그리고 금방 답을 찾은 수는 69개였다. 얼마 지나지 않은 1963년, 또 하나의 숫자의 답을 찾았다. 그런데 나머지 8개 숫자의 답을 도통 찾기 어려웠다. 결국 이후 긴 시간 동안 많은 수학자가 3제곱의 합 문제의 답을 찾기 위해 노력했고, 그중 대부분이 풀렸으나 딱 33과 42가 풀리지 않은 채 남아 있었다.

침체됐던 3제곱의 합 문제에 센세이션을 일으킨 건 바로 작년 이맘때, 2019년 3월이었다. 영국 브리스톨대학교 수학자 앤드류 부커가 33의 답을 찾았다는 소식이 들린 것이다. 부커는 답을 좀 더 효율적으로 탐색할 수 있는 알고리듬을 짜고 슈퍼컴퓨터를 이용해 이 알고리듬을 따라 수를 차례로 입력하도록 했다. 그리고 2019년 2월 27일 오전 9시 5분, 역사적인 순간을 마주한다. 답을 찾았다는 기록이 뜬 것이다.

부커는 떨리는 마음으로 답을 검증했다. 구하는 과정은 그토록 힘겨웠지만 더해서 확인하는 것은 한 순간이었다. 정답이었다. 부커는 당시를 회상하며 “문자 그대로 기뻐서 펄쩍 뛰었다”고 말했다. 64년 동안이나 수학자들을 괴롭히던 33의 정답은 다음과 같았다.

(8,866,128,975,287,528)³ + (–8,778,405,442,862,239)³ + (–2,736,111,468,807,040)³ = 33

이렇게 생겼으니 사람이 찾아낼 수 없는 것도 무리가 아니다. 부커는 “답을 안 보고 외울 수 있냐”는 동료의 질문에 웃으며 “기억 못한다”고 답하기도 했다.

디오판토스 방정식 유의 문제의 의의는, 그것이 단순히 어떤 답을 가지고 있느냐가 아니라 그 문제를 풀기 위해 얼마나 수학이 발전했느냐에 있다. 페르마의 마지막 정리도 수학적으로 큰 의미가 있는 이유라 그것을 푸는 과정에서 새로운 이론이 탄생하고 여러 이론이 어우러지며 상호 발전에 기여했기 때문이다. 33의 3제곱의 합 문제도 마찬가지였다.

오랫동안 고전하던 33을 해결한 뒤 얼마 지나지 않아, 같은 방법으로 42도 해답을 찾았다. 답을 찾아가는 새로운 방법, 아이디어, 그것이 수학을 다음 단계로 발전시키는 원동력이 된 것이다. 이제 100 아래의 수는 모두 베일을 벗었지만 숫자는 무한하기에 이 문제의 끝은 없다. 지금은 1000 이하의 수로 확대돼 다시 고전을 반복하고 있다.

현재 남은 수 중 가장 작은 수는 114이다. 114는 언제, 어떤 방법에 의해 풀릴 것이며 또 어떤 발전을 가져올까? 작년 3월 사람들을 놀라게 했던 33의 소식처럼, 곧 다가올 4월에 114 문제도 해답이 찾아오길 기대해 본다. 

박현선 기자 | tempus1218@donga.com

동아사이언스 <수학동아>에서 수학 기사를 쓴다. 사람들이 싫어하는 ‘수학’이란 학문을 어떻게 하면 즐겁게 전할 수 있을지 고민하며 나날을 보내고 있다.