4월 30일 부처님 오신 날을 맞아 불교와 무척 어울리는 수학 개념을 소개할까 한다. 접하기는 쉬워도 도무지 쉽게 다가오지 않는 개념, ‘무한’이다.
불교는 기원전 6세기경 인도 고타마 붓다에 의해 창시된 종교로, 진리를 깨달아 ‘깨우친 사람’이 되고자 하는 종교다. 불교 철학에서는 시간과 세계가 무한하다고 본다. 대승불교의 가장 중요한 경전 중 하나인 <화엄경>에 이런 구절이 등장한다.
‘하늘 위 높은 곳 인드라신의 궁전 지붕 위에는 작은 수정 모양의 보석 형상을 한 무수한 장식이 달려 있습니다. 그것은 아주 복잡한 그물 모양을 이루면서 여러 형태로 짜여 있죠. 빛의 반사 때문에 이 일체의 보석들은 인간계의 대륙과 대양을 포함하여 전 우주를 반사할 뿐 아니라, 동시에 그것들은 일체의 보석마다 반사돼 모든 상들을 빠짐없이 담고 서로를 반사하고 있습니다.’
우리가 살고 있는 우주를 하나 속의 전체, 전체 속의 하나가 서로 망처럼 연결된 무한의 그물 형상이라고 묘사한 것이다. 그렇다면 수학에서 ‘무한’은 어떻게 정의될까?
무한 개념 정립하고 비판에 시달린 칸토어
무한이란 ‘수, 양, 공간, 시간 따위에 제한이나 한계가 없음’을 뜻하는 말이다. 하지만 수학적인 관점에서 보면 이 표현은 지나치게 모호하다. 3차원에 사는 우리가 5차원의 세계가 어떤 모양인지 상상하기 어려운 것처럼, 유한한 삶을 사는 인간이 무한을 직관적으로 이해하기는 매우 어려웠다. 그래서 오랫동안 무한은 엄밀하게 정의되지 못했다.
무한대를 나타내는 수학 기호 ‘∞’가 처음 등장한 건 1655년 영국 수학자 존 윌리스의 책이었다. 그러나 여전히 무한의 개념은 ‘매우 큰 수’ 정도의 이해 범위를 넘어서지 못했고 가우스나 레온하르트 오일러 같은 위대한 수학자들도 무한의 성질을 정확히 설명하지 못했다. 신의 영역이라고만 여겨지던 무한을 처음으로 엄밀히 정의한 건 19세기 러시아 출신 독일 수학자 게오르크 칸토어였다.
게오르크 칸토어(출처:위키미디어)
칸토어는 일대일 대응을 이용해 집합의 크기를 정의한 뒤, 이를 바탕으로 어떤 주어진 수열 a1, a2, a3, ...에 대해 아무리 큰 수 M을 골라도 aN, aN+1, aN+2, ...이 모두 M보다 커지는 N을 찾을 수 있다는 ‘무한’을 증명하는 데 성공했다. 하지만 세기의 발견에 기뻐하기는커녕 당대 수학자들은 칸토어의 무한집합론을 ‘수학적 질병’이라며 강하게 비판했다. 칸토어의 무한은 그동안 직관적으로 인식하던 부분과 전체의 개념을 완전히 뒤집었기 때문이다.
부분과 전체는 같다
무한을 이해하려면 먼저 집합과 집합 사이의 크기를 비교할 수 있어야 한다. 두 집합이 있을 때, 어느 한 집합에 속하는 각 원소에 다른 집합의 유일한 원소가 대응될 때 일대일 대응이라고 하고 ‘두 집합의 크기가 같다’고 한다. 예를 들어 {2, 3, 5}와 {x, y, z}라는 집합이 있을 때 2와 x가, 3과 y와 5와 z를 서로 유일하게 짝지을 수 있고 남는 원소가 없으므로 두 집합은 일대일 대응이며 ‘같은 크기’라고 할 수 있다.
이제 자연수와 짝수의 집합을 생각해 보자. 짝수는 자연수의 사이사이에 홀수와 번갈아 가며 등장하는 수다. 자연수의 집합={1, 2, 3, 4, 5, 6, ...}일 때 짝수의 집합={2, 4, 6, ...}와 같이 진행한다. 즉 짝수의 집합은 자연수의 집합에 포함되는 ‘부분’이다. 그렇다면 집합의 크기는 어떨까?
직관적으로 생각하면 자연수의 집합이 짝수의 집합보다 두 배 더 많은 원소를 가지고 있을 것 같다. 짝수의 집합과 홀수의 집합의 크기를 더한 것이 자연수의 집합의 크기와 같아야 한다고 말이다. 그런데 칸토어는 이 두 집합이 일대일 대응하며 원소의 개수가 같음을 증명했다. 무한에서는 부분이 전체일 수 있다는 뜻이다.
또한, 무한하다고 무조건 집합의 크기가 같은 것이 아니며, 무한집합끼리도 크기 비교가 가능하다는 것을 밝혔다. 자연수와 짝수, 유리수는 크기가 같은 집합인데 실수는 자연수보다 크기가 큰 무한집합이라는 것을 증명한 것이다. 이런 발견은 당시 파격을 넘어 충격으로 다가왔다. 칸토어는 여러 수학자들에게 비판을 받다가 우울증 증세를 보였고 결국 망상증에 시달리다 병원에서 사망했다. 그의 유명한 어록 ‘수학의 본질은 자유로움에 있다’는 이러한 배경에서 나왔다.
아직도 정복되지 않은 ‘무한’
살아생전 인정받지는 못했지만 칸토어의 업적으로 인류는 드디어 무한을 수학적으로 정의할 수 있게 됐다. 20세기 최고의 수학자 중 한 명인 다비트 힐베르트는 “아무도 우리를 칸토어가 만든 낙원에서 쫓아낼 수 없다”고 말했다. 여전히 인류는 무한을 완전히 이해하지 못한다. 그러나 칸토어가 선사한 낙원이 있는 한, 무한한 세계로의 탐구는 계속 이어질 것이다.
박현선 기자 | tempus1218@donga.com
동아사이언스 <수학동아>에서 수학 기사를 쓴다. 사람들이 싫어하는 ‘수학’이란 학문을 어떻게 하면 즐겁게 전할 수 있을지 고민하며 나날을 보내고 있다.
