다 셀 수 없는 것들

1. 보이지만 믿을 수 없다

1877년 6월 29일, 칸토어는 데데킨트에게 편지를 썼다. 막 증명을 하나 끝낸 참이었다. 그런데 그 결과 때문에 정작 자신이 가만히 앉아 있을 수가 없었다.

당시 그는 서른두 살로, 할레 대학교에서 가르치고 있었다. 편지에 적으려던 결과가 뒤집어 놓은 것은 남의 정리가 아니었다. 그 자신이 여태 믿어 온 생각이었다.

선분 위의 점과 정사각형 안의 점을 하나씩 짝지을 수 있다. 선분의 모든 점에 정사각형의 점이 하나씩 대응하고, 정사각형의 모든 점도 빠짐없이 제 짝을 찾는다. 남는 것도, 모자라는 것도 없다. 정사각형은 선분보다 차원이 하나 높다. 점도 훨씬 더 많이 들어 있어야 할 것 같다.

그런데 짝을 지을 수 있느냐를 기준으로 보면, 둘의 점은 똑같이 많다.

칸토어는 편지에서 이 결과가 너무나 뜻밖이고 새로워서, 데데킨트가 옳고 그름을 판단해 주기 전에는 도무지 마음을 가라앉히기 어려울 것 같다고 했다. 그리고 훗날 수없이 인용될 한 문장을 프랑스어로 적었다. 나는 그것을 보지만, 믿지는 못하겠다.

편지의 나머지 부분은 독일어인데, 이 문장만 프랑스어다. 여기서 언어를 바꾸었다는 사실은 알 수 있다. 왜 바꾸었는지는 이 한 문장만으로 알 수 없다. 사흘 뒤 데데킨트는 답장을 보냈다. 논증을 살펴보았지만 빈틈을 찾지 못했다며 축하했다. 칸토어의 이 말은 흔히 하나의 철학적 태도로 소개된다. 자기 손으로 증명해 놓고도 마음으로는 받아들이기를 거부한 사람의 말로.

실제 사정은 그보다 평범하고, 그만큼 더 실감 난다. 동료에게 논증 검토를 부탁하는 사적인 편지였다. 자신도 의심스러울 만큼 낯선 결과를 막 얻어 낸 사람이, 누군가에게 한 번 더 봐 달라고 청한 것이다.

데데킨트는 곧바로 진짜 핵심도 짚었다. 그렇게 짝지으면서 연속성까지 지킬 수는 없다. 선분 위의 점들이 서로 가까이 있다는 관계가 정사각형에서도 그대로 보존되도록 짝지을 수는 없다는 뜻이다.

점의 수가 같다고 해서 1차원과 2차원의 차이가 사라지는 것은 아니다. 드러난 것은 따로 있다. 짝을 지을 수 있는지만으로는 차원을 정의할 수 없다는 사실이다.

이 글은 짝짓기를 무한의 크기를 재는 데 쓰기 시작한 뒤 무슨 일이 벌어졌는지를 다룬다.

더 눈여겨볼 일은 그다음에 일어났다. 이 방법으로 칸토어는 누구도 반박하지 못할 결론들을 얻었다. 그런데도 어떤 이들은 그런 결론에 이르는 방법 자체를 허용해서는 안 된다고 보았다.

결론이 옳으냐 그르냐를 다투는 것이 아니었다.

어디까지 해야 무언가를 증명했다고 할 수 있느냐를 다투고 있었다.

짝짓기 자체는 조금도 신기한 방법이 아니다. 목자가 양 떼를 확인할 때부터 쓰던 방식이다. 세지 않고, 남는 것이 있는지만 본다. 1편에서 서로 다른 대상을 서로 다른 기호로 세던 서기관들도 이 방법을 썼다. 이상해지는 것은 이 방법을 아무리 세어도 끝이 나지 않는 것들에 적용할 때다.

2. 다 셀 수 있는 것과 없는 것

제대로 설명하려면 먼저 우리가 일상에서 하는 동작 하나를 뜯어봐야 한다.

두 무더기 가운데 어느 쪽이 더 많은가. 보통은 각각 세어 본 다음 비교한다. 하지만 세지 않아도 되는, 더 원초적인 방법이 있다. 이쪽에서 하나, 저쪽에서 하나를 집어 한 쌍으로 묶어 치운다. 다시 한 쌍을 치우고, 또 한 쌍을 치운다. 두 무더기가 동시에 바닥나면 양이 같다. 한쪽이 먼저 바닥나고 다른 쪽에 남으면, 남은 쪽이 더 많다. 이 방법에는 장점이 하나 있다. 각 무더기에 몇 개가 있는지 몰라도 된다.

그러니 끝까지 셀 수 없는 것에도 쓸 수 있다.

자연수는 하나 다음에 또 하나가 이어져 끝이 없다. 짝수도 끝없이 이어진다. 일상의 직관으로는 짝수가 자연수의 절반뿐이니 더 적어야 한다.

하지만 짝을 지어 보면 이렇다. 1에는 2, 2에는 4, 3에는 6을 붙이고 계속 나아간다. 모든 자연수에 짝수가 하나씩 대응하고, 모든 짝수도 빠짐없이 짝을 찾는다. 어느 쪽에도 남는 것이 없다. 그러므로 둘은 똑같이 많다.

칸토어 이전에도 이 결과를 알아챈 사람은 있었다. 대개는 경고로 받아들였다. 무한에 일상의 많고 적음을 들이대면 우스운 꼴이 된다는 경고였다. 갈릴레이도 200여 년 앞서 이런 경우를 다루었다. 그의 결론은 많다, 적다, 같다는 말 자체가 무한에는 적용되지 않는다는 것이었다. 앞선 사람들은 여기서 멈추라는 신호를 읽었다. 더는 묻지 말라는 뜻으로 받아들였다. 칸토어는 그 경고를 거꾸로 사용했다. 정지 표지판을 이정표로 삼았다.

앞선 사람들이 여기까지라고 말한 자리에서, 그는 물었다. 그 너머로 가면 무엇이 보일까.

끝까지 세지 않고도 쓸 수 있는 방법이 짝짓기라면, 써 보자는 것이다. 자연수와 하나씩 짝지을 수 있는 것들은 모두 같은 크기로 친다. 그는 이런 것들을 한 줄로 늘어놓을 수 있다고 했다. 하나도 빠뜨리지 않고 1번, 2번, 3번 하고 번호를 붙일 수 있다는 뜻이다. 그러고는 그전까지 아무도 진지하게 묻지 않았던 질문을 던졌다. 한 줄로 늘어놓는 일조차 불가능한 무리가 있을까. 1874년에 발표한 논문에서 그의 대답은 ‘있다’였다.

그 논문은 실은 두 가지를 증명했다. 첫째, 정수 계수 다항방정식의 근이 될 수 있는 실수, 곧 대수적 실수 전체는 한 줄로 늘어놓을 수 있다. 둘째, 실수들을 어떤 순서로 한 줄에 늘어놓더라도 그 줄에 없는 실수가 반드시 있다. 제목에는 첫 번째 결과만 담겼다. 대수적 실수 전체의 집합이 지닌 한 성질을 다룬다는 제목이었다. 실수는 한 줄로 늘어놓을 수 없다는 가장 명료한 문장은 서론 끝의 덧붙임으로만 인쇄되었다. 바이어슈트라스는 투고할 원고에는 그 말을 넣지 말라고 조언하면서, 나중에 교정쇄를 볼 때 덧붙여도 된다고 했다. 칸토어는 그대로 따랐다. 데데킨트에게 보낸 편지에서는 출판된 논문에 제약이 생긴 데에는 현지 사정도 한몫했다고 썼다. 어떤 사정인지는 말하지 않았다.

두 결과를 합치면 곧바로 알 수 있다. 어떤 정수 계수 다항방정식의 근도 아닌 실수가 존재한다. 우연히 그런 수가 하나 있다는 데서 끝나는 것이 아니다. 실수 전체의 크기는 한 줄로 늘어놓을 수 있는 것들의 크기와 다르다는 사실이 드러난다. 이 추론을 잘 보아 둘 필요가 있다. 뒤에 벌어질 모든 논쟁의 씨앗이 여기 있기 때문이다.

두 결과를 묶으면 크기를 비교하는 것만으로 초월수의 존재를 끌어낼 수 있다. 그러나 1874년의 원논문에는 임의의 실수열에서 그 열에 빠진 실수를 구성하는 중첩 구간 방법도 들어 있다. 대수적 실수를 차례로 나열한 데 이 방법을 적용하면 초월수 하나를 정할 수 있다. 따라서 아무런 구성도 하지 않는 존재 증명이라고 해서는 안 된다. 여기서는 널리 퍼진 연대의 혼동도 바로잡아야 한다. 1874년의 증명은 나중에 유명해진 대각선 논법이 아니었다.

그가 쓴 것은 구간 안에 더 작은 구간을 거듭 넣는 방법이었다. 누군가 끝없이 긴 실수 목록을 내놓았다고 하자. 어떤 구간 안에서 목록의 순서에 따라 적절한 수 둘을 골라 새 왼쪽 끝점과 오른쪽 끝점으로 삼는다. 그러면 더 작은 구간이 생긴다. 그 안에서 다시 고르고 다시 좁힌다. 이 과정을 계속한다. 이렇게 한없이 포개지는 구간들로 결정되는 지점은 원래 목록에 있을 수 없다. 이 논증은 실수의 연속성에 기대고 있다. 훗날처럼 숫자의 각 자리를 바꾸는 방식이 아니다.

두 증명 사이에는 17년의 간격이 있고, 발상도 전혀 다르다. 후대의 교과서들은 곧잘 1891년의 방법을 1874년 논문에 붙여 놓는다. 그렇게 한 사람이 따로 해낸 두 작업이 하나로 납작해졌다.

최근의 자료로 더 뚜렷해진 사실이 또 하나 있다. 1873년 말 칸토어와 데데킨트는 긴밀히 편지를 주고받았다. 그 가운데 대수적 수를 한 줄로 늘어놓을 수 있다는 부분에는 데데킨트의 실질적인 기여가 있었다. 칸토어는 당시 사적인 편지로 감사를 전했다. 데데킨트의 의견과 몇몇 요점을 정리한 방식이 큰 도움이 되었다고 했다. 그러나 인쇄된 논문에는 데데킨트의 이름이 없었다. 그 뒤 데데킨트는 칸토어의 편지에 답하지 않았다. 두 사람의 서신 왕래는 거의 3년 동안 끊겼다가 1876년 10월에야 다시 이어졌다.

따라서 두 가지를 나누어 보아야 한다. 첫 번째 정리의 증명에는 데데킨트의 몫이 있다. 반면 실수는 한 줄로 늘어놓을 수 없다는 두 번째 정리를 칸토어 자신의 성과로 돌릴 근거는 여전히 매우 강하다.

3. 혼자만의 싸움은 아니었다

후대의 대중적인 이야기에서 이 역사는 흔히 한 사람이 수학계 전체에 맞선 싸움으로 그려진다.

양극단 모두 틀렸다. 수학계가 한목소리로 그를 미친 사람 취급했다는 말도, 반대한 사람은 크로네커 하나뿐이었다는 말도 맞지 않는다. 그의 작업은 층위에 따라 서로 다르게 받아들여졌다.

초기의 점집합 연구 방법은 빠르게 해석학 연구에 들어갔다. 이미 1870년대에 쓰는 사람들이 있었다. 1883년 일반 집합론의 기초를 다룬 그의 책이 나왔을 때에는 상당히 호의적인 논평도 있었다. 1890년대가 되자 그와 데데킨트가 사용한 집합의 언어가 새로운 세대의 수학으로 퍼지기 시작했다.

1890년에서 1891년 사이 그는 독일 수학자 협회 창립에 참여했고 초대 회장을 맡았다. 집합론에서 그가 남긴 마지막 두 편의 중요한 논문은 1895년과 1897년에 발표되었다. 두 편 모두 당시 가장 영향력 있는 수학 학술지 가운데 하나에 실렸고, 그 편집장은 클라인이었다.

그러니 1890년대 칸토어가 전문 수학계에서 추방되었다는 이야기는 학계의 제도적 사실과 맞지 않는다. 더 정확히 말하면, 그의 핵심 생각에는 여전히 논쟁이 있었지만 이제는 변방의 괴상한 주장쯤으로 무시할 수 없었다. 반대하는 쪽도 감정만 앞세운 것은 아니었다.

어떤 이들은 무한한 전체를 이미 완결된 수학적 대상으로 취급하는 데 반대했다. 실제 대상을 내놓지 않는 존재 증명도 거부했다. 이 문제는 아래에서 따로 살펴볼 것이다. 다른 이들은 그가 틀렸다고 생각하지 않았다. 다만 초한에 관한 이런 연구가 너무 추상적이고 당장 어디에 쓰이는지 모르겠다고 여겼다. 당시 대부분의 사람에게 초기의 초한 순서수는 쓸모없는 사변처럼 보였다. 특히 한 사람을 살펴보면, 지지 아니면 박해라는 이분법은 유지하기 어려워진다.

미타그레플레르는 칸토어의 중요한 지지자였다. 그의 연구가 국제적으로 발표될 장을 마련해 주었다. 그런데 1885년 무렵, 바로 그 지지자가 몹시 추상적인 원고 한 편은 발표하지 말라고 권했다. 이런 연구는 어쩌면 100년쯤 앞서 있으며 지금 내놓으면 오히려 그의 앞날에 해가 될 수 있다는 취지였다. 칸토어는 크게 언짢아했고, 그 뒤 그 학술지와 거리를 두었다. 철학적인 반대는 아니었다. 독자가 이해할 수 있을지, 발표할 때가 되었는지를 가늠하는 편집자의 판단에 더 가까웠다.

한 사람이 당신의 가장 중요한 지지자이면서, 동시에 당신이 가장 잘해 낸 것을 넣어 두라고 권하는 사람일 수 있다.

이 말이 지지와 박해로 갈라놓는 도식보다 실제 학문 세계에 더 가깝다. 기꺼이 발표의 장을 마련해 주는 사람이, 특정 원고에 대해서는 너무 멀리 나아가 독자가 따라갈 수 없다고 생각할 수 있다. 두 가지는 얼마든지 함께 성립한다.

4. 대각선

1891년, 칸토어는 또 다른 증명을 발표했다. 훗날 대각선 논법이라고 불리게 된 증명이다. 1874년의 증명보다 훨씬 간단하고, 훨씬 넓게 적용된다. 기호를 하나도 쓰지 않고도 끝까지 따라갈 수 있다.

먼저 이런 것을 생각해 보자. 두 가지 중 하나를 고르는 자리가 끝없이 이어지는 열이다. 각 자리에는 두 가지 가능성만 있다. ‘가’ 아니면 ‘나’를 적는다. 자리는 무한히 많고, 어느 자리에서나 둘 중 하나를 고른다.

이제 누군가 목록을 가져와, 이런 열을 전부 적어 놓았다고 주장한다. 1번, 2번, 3번으로 끝없이 이어지는 목록에 하나도 빠짐없이 들어 있다는 것이다.

첫째 줄의 첫째 자리를 보자. ‘가’가 적혀 있으면 새로 만들 열의 첫째 자리에 ‘나’를 쓴다. ‘나’가 있으면 ‘가’를 쓴다. 이제 둘째 줄의 둘째 자리를 보고, 마찬가지로 반대 것을 고른다.

셋째 줄의 셋째 자리, 넷째 줄의 넷째 자리. 같은 방식으로 계속 나아간다.

이렇게 만든 새로운 열을 보자.

이 열은 목록의 첫째 줄일 수 없다. 첫째 자리가 다르기 때문이다. 둘째 줄일 수도 없다. 둘째 자리가 다르다. 셋째 줄일 수도 없다. 셋째 자리가 다르다. 목록에서 어느 줄을 골라도, 반드시 그 줄과 다르다.

그러므로 전부 적어 놓았다는 그 목록의 주장은 거짓이다.

이 논증이 겨냥하는 것은 실수만이 아니다. 어느 집합이든 각 원소에 대해 두 가지 중 하나를 고르는 선택 전체, 다시 말해 그 집합의 모든 부분집합을 한데 모은 것이 대상이다. 결론은 이렇다. 어떤 집합이 주어지든, 그것보다 크기가 반드시 더 큰 집합을 만들 수 있다. 요즘 교과서는 흔히 실수의 소수점 아래 숫자를 바꾸는 방식으로 이를 설명한다. 그것은 나중에 만들어진 편리한 형태이지, 1891년 원문의 유일한 형태가 아니다. 이 논증에서 가장 아름다운 것은 무엇을 증명했느냐보다, 상대가 내민 것을 어떻게 되돌려 상대에게 쓰느냐에 있다.

목록에서 무엇이 빠졌을지 미리 짐작할 필요가 없다. 목록 자체를 이용해, 거기 없는 대상을 분명한 규칙으로 정한다. 당신이 몇 줄을 내놓든 나는 그 줄들을 쓴다. 내놓은 만큼 모두 가져다 쓴다. 목록이 빈틈없을수록 새로운 열도 더 거침없이 만들어진다.

바로 이 점에서 1874년의 증명보다 힘이 세다. 앞선 증명은 실수의 성질을 사용해야 했으므로 실수에만 쓸 수 있었다. 지금 살펴본 방식에는 줄마다 자연수 번호가 붙은 목록만 있으면 된다. 이를 임의의 집합으로 넓힐 때에는, 그 집합에서 멱집합으로 가는 임의의 사상에서 출발한다. 그리고 각 원소 가운데 그 사상으로 자신에게 대응된 집합에 속하지 않는 원소들만 모아 부분집합을 만든다.

이렇게 해야 어떤 집합이든 그 멱집합의 크기가 원래 집합보다 반드시 더 크다는 결론에 이른다.

그 논증이 끝내 데려가는 곳은 여기다. 어떤 집합을 내놓아도 더 큰 집합을 만들 수 있다. 그러니 가장 큰 것은 없다.

무한은 하나의 수량이 아니다. 끝없이 위로 이어지는 계단이다.

2편에서 본 홀짝을 이용한 귀류법, 4편의 이중 귀류법도 이 논증과 같은 계열이다. 모두 먼저 상대의 가정을 받아들인다. 그런 다음 그 가정이 스스로 더는 버틸 수 없는 자리까지 걸어가게 한다.

5. 크로네커가 원한 것

이 논쟁을 이해하려면 우선 ‘그는 무한을 싫어했다’는 말을 지우는 편이 좋다. 크로네커의 계획은 수학을 가능한 한 정수의 연산으로, 그리고 유한하고 명확하며 실행할 수 있는 절차로 환원하는 것이었다. 그에게 진정으로 기초가 되는 대상은 정수였다. 분수와 대수적 수, 나아가 해석학의 대상까지 정수 사이의 산술적 관계로 다룰 수 있어야 했다.

무언가가 존재한다고 할 때에도, 없다고 가정하면 모순이 생긴다는 귀류법만으로는 충분하지 않았다. 되도록 유한한 방법을 제시해 그 대상을 실제로 만들어 낼 수 있어야 했다. 그를 대표하는 말로 자주 인용되는 독일어 문장이 있다. 정수는 신이 만들었고, 나머지는 모두 인간의 일이다.

이 문장의 출처를 거슬러 올라가는 길은 하나다. 현재 확인할 수 있는 가장 이른 인쇄 기록은 그가 직접 발표한 논문이 아니다. 그가 죽은 뒤 베버가 1893년에 쓴 추모 글이다. 크로네커는 1891년 말에 세상을 떠났으니, 아주 가까운 시점에 쓰인 동시대인의 회고다. 그렇지만 현장에서 받아 적은 기록은 아니다.

널리 알려진 이야기에서는 이 말을 1886년의 어느 강연에 배치하곤 한다. 근거가 있을 수는 있다. 하지만 그가 직접 쓴 1886년 강연 원고를 찾기 전까지는, 그런 귀속과 1893년의 인쇄 기록을 같은 수준의 증거로 묶어서는 안 된다. 베버도 누군가 갑자기 종교적 격언을 내뱉는 장면을 묘사한 것이 아니었다. 하나의 수학적 강령을 요약하고 있었다.

이제 충돌이 어디서 일어났는지 분명히 볼 수 있다.

가산성과 비가산성을 함께 놓으면 고전적인 존재 논증이 나온다. 하지만 그것이 1874년 원논문의 전부는 아니다. 거기 담긴 구간 절차는 초월수를 정하는 데에도 쓸 수 있다. 그러므로 크로네커와 칸토어의 차이를, 이 증명은 대상을 전혀 구성하지 않았다는 말로 단순화해서는 안 된다. 완결된 무한 전체를 인정할 것인가, 유한한 절차를 요구할 것인가, 더 넓은 존재 기준을 허용할 것인가 하는 논쟁 속에서 보아야 한다.

새로운 것을 받아들이기 싫어한 한 사람의 문제가 아니었다. 존재한다는 말의 뜻을 두고 두 가지 입장이 같은 정리에서 맞부딪친 것이다.

두 입장 모두 나름의 이치가 있다. 한쪽은 말한다. 없을 수 없음을 증명했으니 있다. 다른 쪽은 말한다. 있다고 했으면 보여 달라. 일상에서라면 두 번째 요구는 조금도 까다롭지 않다.

당신이 수납장에 드라이버가 있다고 하고, 내가 꺼내 달라고 한다. 그게 무리한 요구는 아니다.

그렇다고 크로네커를 훗날 구성주의의 선지자로 꾸며서도 안 된다. 자신의 연구에서도 이 기준을 언제나 철저하게 지킨 것은 아니었다. 해석학 연구에서는 전통적인 도구도 사용했다. 그가 남긴 것은 금지 목록이라기보다 산술화라는 방법론적 강령에 가깝다.

지난 글에서 보았듯, 지금까지 확인할 수 있는 ‘산술화’의 가장 이른 용례는 그가 1887년에 쓴 논문에 나온다. 그런데 후대가 이 말로 한데 묶은 많은 작업은 정작 그 자신이 반대했던 것들이었다.

6. 크로네커를 향한 비난

크로네커가 칸토어를 억눌렀다는 이야기는 여럿 전해진다. 하나씩 살펴보면 근거의 단단함이 크게 다르다. 가장 확실한 사건은 1877년의 게재 지연이다.

그해 7월 12일, 칸토어는 베를린의 한 수학 학술지에 원고를 보냈다. 11월까지도 실리지 않자 데데킨트에게 보내는 편지에서 몹시 불만을 토로했다. 한때는 원고를 거두어 다른 곳에 내려고도 했다. 데데킨트는 그러지 말라고 만류했다. 논문은 결국 보통 1878년으로 표기되는 권에 실렸다. 투고했고, 오래 기다렸고, 철회를 생각했다는 사건의 흐름은 분명하다.

하지만 누가 지연을 일으켰는지는 그만큼 분명하지 않다.

이 기록을 연구한 사람들이 쓰는 표현은 이렇다. 크로네커가 그 학술지의 편집진 주변에서 큰 영향력을 행사했으므로, 지연에 그가 관련되었을 가능성이 높다. 즉 인맥과 입장, 다른 자료들을 토대로 내린 역사적 판단이다. ‘이 원고를 보류하기로 결정한다’고 적힌 문서가 있는 것은 아니다.

대중 전기들이 자주 잘못 쓰는 또 하나의 확실한 사실이 있다. 1877년 크로네커는 그 학술지에 공식적으로 이름을 올린 편집자가 아니었다. 정식 편집장은 따로 있었고, 1880년까지 그 자리를 지켰다. 크로네커가 편집자로 등재된 것은 1881년이며, 단독으로 맡은 것은 1889년 이후다.

그러므로 ‘크로네커가 편집장으로서 1877년에 칸토어의 논문을 묵살했다’는 문장은 틀렸다. 쓸 수 있는 것은 여기까지다. 그는 베를린 수학계와 그 학술지에서 큰 영향력을 지녔다. 그의 반대가 원고 처리에 영향을 주었으리라 의심할 근거는 있다. 그러나 당시 공식적인 결정권은 그에게 없었다.

그 밖으로 나가면 증거는 급격히 얇아진다. 독일의 모든 학술지를 장악해 칸토어의 발표를 막았다는 말은 명백히 성립하지 않는다. 칸토어는 이후 다른 주요 학술지에 많은 논문을 실었다. 모든 승진을 크로네커가 거부권 한 번으로 막았다는 주장을 제도적 사실로 쓰려면, 별도로 임용위원회의 기록이 있어야 한다. 두 사람의 수학적 충돌에서 거꾸로 추론해서는 안 된다. 그중에서도 따로 뜯어볼 가치가 가장 큰 것은 가장 널리 퍼진 한마디다. 대중적인 이야기에서는 크로네커가 칸토어를 직접 ‘젊은이들을 타락시키는 자’라고 불렀다고 한다.

거슬러 올라가 확인할 수 있는 핵심 출처는 쇤플리스가 1927년에 쓴 글이다. 그런데 그 글의 뜻은 크로네커가 칸토어를 그렇게 불렀다는 것이 아니다. 원문의 취지는 이렇다. 크로네커의 태도가, 칸토어는 연구자로서도 교사로서도 젊은이들을 타락시키는 사람이라는 인상을 줄 수밖에 없었다고 말해도 지나치지 않다. 차이는 아주 크다.

첫째, 1927년은 크로네커가 죽은 지 36년, 그 충돌이 벌어진 지 약 40년이 지난 때다.

둘째, 원문은 그의 태도가 그런 인상을 주었다고 말한다. 현장에서 나온 욕설을 옮겨 적은 것이 아니다.

그 뒤 영향력 있는 영어 전기는 첫머리에서 크로네커의 생각을 이렇게 요약했다. 칸토어는 과학의 사기꾼이자 배신자이며 젊은이들을 타락시키는 자라는 것이다. 백과사전과 대중서가 이를 거듭 인용하면서, 마지막 표현은 차츰 따옴표가 붙은 크로네커 자신의 발언으로 바뀌었다. 10편에서도 한 번 본 과정이다. 모양이 같다. 누군가 먼저 요약을 했고, 뒤에 온 사람들이 그 요약에 붙어 있던 물음표를 떼어 냈다.

두 이야기가 전해진 과정에는 또 하나의 공통점이 있다. 앞선 경우에는 1896년의 기록에 기반한 전기에서 문학적인 장면 하나가 자라났고, 1937년에 그 물음표가 사라졌다. 이번에는 1927년에 적힌 한 가지 인상이 똑같이 1937년의 그 책에서 인용문이 되었다. 같은 책이 같은 일을 두 번 했다. 평생 서로를 원수로 여겼다는 이야기로는 도저히 담을 수 없는 사실이 또 하나 있다.

1884년 여름 처음으로 크게 앓은 뒤, 칸토어 자신도 한동안 몸이 쇠약해지고 기분이 가라앉은 것을 사람들 사이의 마찰과 연결했다. 8월 18일 미타그레플레르에게 보낸 편지에서, 자신을 괴롭게 하는 것은 힘든 연구가 아니라 피할 수도 있었던 마찰이라고 썼다. 이후 그는 크로네커와 화해하기로 마음먹고 편지를 보냈다. 기록에 따르면 크로네커의 답장은 정중하고 인간적이었다. 이를 계기로 두 사람의 사적인 관계는 만족스러운 수준으로 회복되었다.

수학적 견해 차이가 사라진 것은 아니다. 하지만 1884년 이후 두 사람이 사적으로 절교한 상태에 있었던 것도 아니다. 이견은 종이 위에 남았고, 서로 말을 끊는 데까지 가지는 않았다.

7. 병

이 절에서는 말할 수 있는 것과 말해서는 안 되는 것 사이의 간격이 특히 크다.

말할 수 있는 것은 네 가지다. 칸토어 자신이나 동시대인이 병세를 분명히 기록한 시점. 대학 문서에 병가가 기록된 시점. 신뢰할 만한 자료에 입원 사실이 남은 시점. 그리고 나중에 그를 치료한 의사나 역사학자들이 어떤 용어를 썼는가.

해서는 안 되는 일은 세 가지다. 오늘날의 진단 기준으로 이미 세상을 떠난 사람을 진단하지 않는다. 저술 내용에서 질병을 거꾸로 추론하지 않는다. 외부 사건과 정신적 위기가 시간상 가까이 일어났다고 곧바로 그 사건을 병의 원인으로 쓰지 않는다. 이 선을 지키며 자료를 읽으면 다음과 같다.

처음으로 명확한 기록이 남은 심각한 발병은 1884년 초여름이다. 6월 21일 미타그레플레르에게 쓴 편지에서 칸토어는 그동안 상태가 좋지 않았으며, 지금은 학문 연구를 할 만큼 정신이 맑지 못하다고 했다. 이때는 비교적 빨리 회복했다. 현대 전기들은 흔히 1884년에 입원했다고 단정해서 쓴다. 하지만 현재 공개되어 확인할 수 있는 기록은 그 위기가 언제 있었는지에 관해서는 상당히 탄탄한 반면, 정확한 입원일과 퇴원일에 관해서는 훨씬 덜 분명하다.

1899년에서 1900년 사이에도 기록이 눈에 띄게 두꺼워진다. 대학의 행정 책임자가 담당 장관에게 그의 건강 상태를 보고하면서, 이번 위기가 특히 심각하다고 적었다. 재직과 관련된 행정 문서다. 그 뒤 몇몇 겨울 학기의 강의 기록에는 병가 중이라는 말이 명시되어 있다. 1911년부터 1913년까지도 병가가 이어졌고, 1913년 여름에 퇴직했다. 단단한 증거들이지만, 반드시 병가라고 써야 한다. 매 학기 병원에 입원해 있었다는 말로 바꿔치기해서는 안 된다.

학문 생활에서 물러났다는 이야기와 맞지 않는 사실도 있다. 그가 마지막으로 가르친 과목은 1910~1911년 겨울 학기의 해석역학이었다. 퇴직 뒤에도 학부 업무에 참여했다. 학부 문서에는 늦게는 1914년 5월 16일의 서명까지 남아 있다. 그렇다면 ‘크로네커 때문에 미쳤다’는 말은 어떨까.

가장 중요한 초기 출처는 여기서도 1927년의 쇤플리스다. 그는 십수 년간 이어진 두 사람의 불화가 칸토어의 마음을 갉아먹었다고 썼다. 동시에 평생 연속체 문제와 씨름한 것도 영향을 미쳤을 수 있다고 보았다.

그런데 후대의 이야기가 거의 언제나 빼놓는 결정적인 문장이 있다. 쇤플리스 자신이, 1884년의 우울을 전적으로 크로네커 탓으로 돌리는 것은 근본적으로 잘못이라고 말했다.

처음의 이야기는 학문적 갈등과 그 난제가 계기가 되었을 수도 있다는 것이었다. 나중에야 그것이 박해 때문에 미쳤다는 이야기로 압축되었다.

그 이야기는 1937년에 나온 영어 대중 수학자 전기를 거치며 한 번 더 널리 퍼졌다. 10편에서 다룬 바로 그 책이다. 인물 사이의 충돌과 아버지와 아들의 관계, 정체성 문제를 엮어 매우 극적인 심리 전기를 만들었다. 후대의 수학사가들은 이 부분의 신뢰성을 강하게 비판했다. 하지만 오랫동안 읽을 만한 다른 영어 전기가 드물었으므로, 그 이야기는 유난히 쉽게 퍼졌다. 기록에 근거한 연구는 두 가지를 바로잡았다. 서로 반대 방향으로.

하나, 칸토어 자신이 1884년에 사람들 사이의 마찰을 그때의 침체를 불러온 계기로 본 것은 사실이다. 그러므로 반대로 갈등이 아무 영향도 주지 않았다고 할 수도 없다. 둘, 나중에 의사들이 남긴 회고와 발병의 주기를 보면, 외부 갈등을 병의 원인으로 삼을 수는 없다. 많아야 발병을 촉발하거나 상태를 악화시킨 요인이다.

그중 한 기록은 너무 깊이 연구하다 무너졌다는 문학적 인과관계를 특히 잘 허문다. 오랫동안 그를 돌본 주치의는 그가 앓고 있을 때 오히려 가족에게 수학을 하도록 권해 주라고 했다. 수학 연구가 그를 진정시키고 회복에 도움이 되었기 때문이다.

현대 문헌에 자주 나오는 그 병명을 다룰 때에는 매우 절제해야 한다. 나중에 칸토어를 치료한 한 의사는, 발병이 되풀이되면서도 그 사이에는 다시 일할 수 있었던 경과를 당시의 임상 용어로 설명했다. 일부 현대 역사가들은 이것이 남에게 시달려 미쳤다는 이야기보다 자료에 더 잘 맞는다고 본다. 쓸 수 있는 것은 여기까지다. 한 발짝 더 나아가면, 100년 전에 죽었고 온전한 병력 기록도 없으며 다시 진찰할 수도 없는 사람에게 진단서를 발급하는 셈이다.

이 문제를 따져 묻는 것은 누군가의 명예를 지키려는 일이 아니다. 누가 그를 미치게 했다는 주장이 성립하는 순간, 이 역사 전체의 의미가 달라지기 때문이다. 서로 다른 두 기준을 둘러싼 이야기가 악의를 둘러싼 이야기로 바뀐다. 악의가 중심인 쪽이 말하기도 쉽고 기억하기도 쉽다. 대신 실제로 무엇을 다투었는지는 가려 버린다.

정작 다투던 그 문제는 100년 뒤에도 여전히 논쟁거리였다.

8. 존재한다는 것은 무슨 뜻인가

1900년, 힐베르트는 파리 국제수학자대회에서 그 유명한 문제 목록을 내놓았다. 맨 첫자리에 놓인 것은 연속체 문제였다. 이때쯤 그것은 더는 칸토어 개인의 연구 계획이 아니었다. 미래 수학의 의제 맨 앞으로 올라서 있었다. 나중에 힐베르트는 그보다 더 유명해진 말도 했다. 누구도 수학자들을 칸토어가 만들어 놓은 이 낙원에서 내쫓을 수 없다는 취지였다. 이 말은 보통 칸토어가 마침내 승리했음을 보여 주려고 인용된다.

하지만 이 말이 보여 주는 것은 따로 있다. 그때까지도 누군가 나서서 내쫓아서는 안 된다고 말해야 했다면, 실제로 내쫓으려는 사람이 있었다는 뜻이다. 말한 사람은 당시 독일 수학계에서 가장 영향력 있는 인물 가운데 하나였다. 그런 그가 이미 여러 해 동안 쓰여 온 것을 옹호하고 있었다. 논쟁은 1900년에 끝나지 않았다. 이름을 바꾸고 사람을 바꾸어, 다시 30년을 싸웠다.

처음의 문제로 돌아가 보자. 1874년 칸토어는 가산성을 통해 크기를 비교하는 새로운 시야를 열었고, 나열된 실수들에서 그 목록에 빠진 실수를 정할 수 있는 구간 절차도 제시했다. 그러므로 단순히 존재를 이끌어 내는 추론, 대상을 구성하는 절차, 완결된 무한 전체를 받아들이는 일은 서로 구분해야 한다. 크로네커가 요구한 존재는 또 다른 것이었다. 있다고 했으면 하나를 만들어 달라. 명확한 규칙으로, 유한한 단계 안에. 일상 언어에서는 이 두 뜻을 나누지 않는다. 서랍에 펜이 하나 있다고 하면 보통은 꺼내 보여 줄 수 있다는 뜻이다. 하지만 수학에서 ‘있다’는 말은 달리 쓰일 수도 있다. 없으면 모순이 생긴다는 것을 증명했다는 뜻으로.

대부분의 경우 사람들은 이것이 서로 다른 두 가지라는 사실을 알아채지 못한다. 대부분은 정말로 꺼내 보여 줄 수 있기 때문이다.

일상에서는 거의 언제나 그렇다. 냉장고에 우유가 있다. 이 책에 그 문장이 있다. 이 열쇠 꾸러미에 문을 여는 열쇠가 있다. 어느 말이든 그 자리에서 실제로 보여 줄 수 있다.

그러니 아무도 묻지 않는다. 꺼내 보여 줄 수 없다면, 그래도 ‘있다’는 말이 성립할까.

증명은 있다고 하는데 정작 내놓을 수 없을 때에야 차이가 드러난다. 그때 다투는 것은 이미 그 정리가 옳으냐가 아니다. ‘있다’는 말을 어떻게 써야 하느냐다. 증명은 서로 다른 용법에서 어떤 결과가 나오고 그 용법들이 어떤 관계에 있는지 밝혀 줄 수 있다. 하지만 상대가 같은 기초 전제를 받아들이지 않는다면, 증명 하나만으로 양쪽에 같은 존재 기준을 강요할 수는 없다. 수학은 이 문제를 두고 다시 30년을 더 다투게 된다. 다음번에 논쟁이 벌어질 때에는 전선도 이번보다 훨씬 길게 뻗는다.

수의 계산은 계속된다. 무엇을 수학으로 쳐야 하는지는, 아직 한 번도 계산이 끝난 적이 없다.

사료와 더 읽을거리

아래 자료는 본문에 나오는 역사적 세부 사항과 해석상의 차이를 다룬다. 소장 기록과 고대 문학, 현대의 재구성은 같은 종류의 증거가 아니다.

• 칸토어의 1874년 대수적 실수 논문 원문
• 로버트 그레이: 칸토어와 초월수
• 칸토어의 세 가지 논증: 가산성, 실수, 대수적 실수
• 세인트앤드루스 대학교 제공 『과학자 전기 사전』의 칸토어 항목
• 다이저의 칸토어·데데킨트 서신 자료: 1874년 논문의 출판