통약 불가능성

1 바다에 던져진 사람

대부분의 사람에게 익숙한 이야기가 하나 있다. 대개 이런 식으로 들었을 것이다.

피타고라스학파는 만물이 수라고 믿었다. 그런데 학파의 한 사람이 정사각형의 한 변과 대각선을 같은 단위로 남김없이 잴 수 없다는 사실을 발견했다. 학파의 신조를 뒤엎는 발견이었다. 그가 이 사실을 밖에 알리자, 동료들이 배 위에서 그를 바다에 던져 버렸다. 빈틈없이 갖춰진 이야기다. 신조가 있고, 발견이 있고, 충돌이 있고, 처벌이 있다. 순서마저 딱 들어맞는다.

게다가 고리마다 바로 앞의 고리에 걸려 있다. 만물이 수라고 믿었으니 그 발견은 치명적이었다. 치명적이었으니 비밀에 부쳐야 했다. 비밀을 깼으니 그는 죽어 마땅했다. 어느 한 고리만 빼도 나머지가 풀린다. 이처럼 아귀가 꼭 맞는다는 사실부터 눈여겨볼 필요가 있다. 실제로 일어난 일은 좀처럼 이런 모양을 하지 않는다. 확인할 수 있는 부분은 듣는 사람이 생각하는 것보다 훨씬 적다.

만물이 수라는 말을 피타고라스 본인이 했다고 전하는 초기 사료는 하나도 없다. 믿을 만한 출처는 아리스토텔레스인데, 그가 말한 대상은 ‘이른바 피타고라스학파’였고, 내용도 후대 교과서에 나오는 그 한마디와는 거리가 멀다. 히파소스가 통약 불가능성을 발견했다고 직접 확인해 주는 믿을 만한 동시대 기록도 없다. 고대 후기에는 비밀 누설과 처벌, 익사에 관한 여러 전설이 분명히 있었다. 그렇다고 동료들이 그를 배 밖으로 던졌다는 현대의 장면까지 확인되는 것은 아니다. 수학의 기초 위기에 대해서는, 앞서 관련 가설들이 나온 뒤 1928년에 두 독일 학자가 훗날 큰 영향을 미친 체계적인 설명을 내놓았다.

이 네 가지 가운데 가장 늦게 등장한 것은 위기 이야기도 아니다. 동료들이 그를 배에서 던졌다는 대목은 출처조차 찾을 수 없다. 대중적인 글들 속에서 자라난 장면인데, 정확히 언제 생겼는지는 아무도 밝혀내지 못했다.

이것들은 군데군데 생긴 작은 실수가 아니다. 나란히 놓으면 일정한 모양이 드러난다. 고리 하나하나가 자신이 이어 붙인 양쪽의 이야기보다 더 늦게 나타났고, 더 완결되어 있으며, 더 이야기하기 좋다.

이 이야기가 이천 년을 살아남은 것은 누군가 거듭 사실을 확인했기 때문이 아니다. 오히려 그 반대다. 써먹기에 너무 좋았고, 너무 매끄럽게 이어졌다. 너무 매끄러워서 멈추고 확인할 생각을 하지 않게 했다. 한 문장 안에 신조와 반례, 충돌과 결말을 한꺼번에 담아 주고, 수학에 시체 한 구까지 얹어 준다. 수학사에서 이렇게 말할 수 있는 대목은 흔치 않다.

그런데 그 밑에 있는 사실은 진짜다. 정사각형의 변과 대각선은 정말로 같은 단위로 남김없이 잴 수 없다. 기원전 4세기에는 이미 증명이 나와 있었고, 누구나 아는 표준적인 예로 쓰이고 있었다.

이 아래층과 위층은 증거의 단단함이 전혀 다르다. 위층은 거의 전부 수백 년 뒤에 전해 들은 이야기다. 아래층에는 플라톤과 아리스토텔레스가 있다. 발견은 사실이다. 발견자가 누구인지는 모른다. 발견이 이루어진 순간을 남긴 기록은 전혀 없다.

이 글에서 하려는 일은 이 두 층을 분리하는 것이다. 어느 쪽이 버틸 수 있는지, 어느 쪽을 나중에 덧대었는지, 덧대면서 무엇을 더했고 왜 그래야 했는지를 살펴보려 한다.

그러려면 먼저 조금 불편한 사실을 받아들여야 한다. 앞선 글에서는 주장 하나하나 뒤에 저울에 올릴 수 있는 점토판 한 장을 놓을 수 있었다. 이번에는 그런 물건이 없다. 할 수 있는 일은 어떤 말이 처음 등장한 연도를 하나씩 붙인 뒤, 그 말이 가리키는 사건과 얼마나 떨어져 있는지 보는 것뿐이다.

그렇게 연도 자체가 이 글의 가장 중요한 증거가 된다.

연도를 줄 세우는 것은 투박한 방법이다. 하지만 여기서는 다른 어떤 방법보다 믿을 만하다. 어떤 말이 늦게 나타날수록 그 사이에 끼어들 수 있었던 손은 많아진다. 그리고 그 손마다 이야기를 이전보다 조금 더 완전하게 만들 이유가 있다.

앞선 글은 연습판을 지우고 다시 시작하는 아이에게서 끝났다. 아이가 자기 글씨를 지워도 점토판은 남았다. 삼천여 년 뒤 누군가 그것을 땅에서 파내어 크기를 재고 번호를 붙였다.

이번에는 지울 물건조차 남아 있지 않다.

2 이름은 있고 물건은 없다

단 하나도 없다.

피타고라스, 히파소스, 테오도로스, 테아이테토스, 에우독소스. 이 다섯 이름 뒤에는 그들이 직접 썼다고 확인할 수 있는 수학 유물이 하나도 없다. 일부가 부서진 것도, 글씨를 알아보기 어려운 것도 아니다. 아예 0이다. 이유의 절반은 재료에 있다.

고전기 그리스인들이 흔히 쓰던 필기 도구 가운데 밀랍판이 있었다. 나무판이나 상아판에 얕은 홈을 파고 밀랍을 부은 다음, 금속이나 뼈로 만든 뾰족한 필기구로 밀랍 표면을 긁어 글씨를 썼다. 필기구 반대쪽 끝은 납작한 주걱 모양이었다. 틀리면 밀랍을 다시 눌러 펴서 흔적을 지웠다. 두 장이나 여러 장에 구멍을 뚫어 끈으로 묶을 수도 있었다. 거듭 쓰라고 만든 물건이었다. 그러니 아무것도 남기지 않도록 만든 물건이기도 했다.

밀랍판에 통일된 규격은 없었다. 손바닥에 올라가는 작은 판부터 길이가 20~30센티미터인 여러 장짜리 판까지 실물이 남아 있다. 대영박물관에는 높이 약 34센티미터, 너비 16센티미터인 상아 필기판 한 묶음이 있다. 그렇다고 이 후대의 유물들을 곧바로 기원전 5세기 어느 수학자의 책상에 놓였던 도구로 간주해서는 안 된다. 이런 종류의 물건이 오랫동안 존재했다는 것만 알려 줄 뿐, 특정한 사람이 어떤 판을 썼는지는 알려 주지 않는다.

또 하나는 파피루스였다. 파피루스는 축축한 흙 속에서 썩는다. 오늘날 그리스어 파피루스가 대량으로 출토되는 곳은 그리스가 아니라 건조한 이집트다. 이탈리아 남부와 에게해 일대의 기후는 이런 물건을 남겨 두지 않는다.

더 철저하게 사라지는 것도 있었다. 고대인들은 지울 수 있는 바닥에 그림을 그리고 계산했다. 고운 모래나 먼지를 뿌린 판은 수업이 끝나면 손으로 쓱 밀어 버렸다. 이런 작업면은 유물이 될 기회조차 없다. 밀랍은 펴서 지울 수 있고, 파피루스는 썩고, 먼지는 그날 사라진다. 수학 활동이 아무리 활발했어도 고고학적 기록은 거의 0일 수 있다.

이 대목은 거꾸로 읽기 쉽다. 고고학적 기록이 거의 없다는 것은 당시 수학 활동이 드물었다는 뜻이 아니다. 흔적을 남기지 않는 물건으로 수학을 했다는 뜻일 뿐이다. 비용이 거의 들지 않고 언제든 다시 시작할 수 있는 작업면은 계산하기에 더없이 좋다. 바로 그래서 후대 사람들이 찾아보기에는 더없이 나쁘다. 이유의 나머지 절반은 전승 방식에 있다.

현존하는 『원론』 완질 필사본 가운데 제작 연대가 확실한 가장 오래된 것은 서기 888년 콘스탄티노폴리스에서 완성되었다. 스테파노스라는 서기관이 파트라이의 아레타스에게 의뢰받아 열세 권을 베꼈다. 이 필사자와 에우클레이데스 사이에는 1,180여 년이 놓여 있다.

그보다 앞선 것은 조각뿐이다. 이집트 옥시링코스에서 『원론』 제2권의 낱장 일부가 출토되었는데, 비교적 최근의 고문서학적 판정은 그 연대를 서기 1세기 말에서 2세기 초로 앞당겼다. 더 이른 쪽으로 잡아도 에우클레이데스와는 400년이나 떨어져 있다. 게다가 명제 하나와 작은 도형 일부만 남아 있다.

그 사이에 몇 사람의 손을 거쳤는지는 알 수 없다. 필사본의 계보를 그리면 어떤 사본이 어느 계열에 속하는지는 알 수 있지만, 에우클레이데스에게서 오늘까지 몇 번이나 베껴졌는지는 셀 수 없다. 1,200년에 걸친 필사 역사에서 원형이 된 사본과 곁가지 대부분이 사라졌다. 오늘 보이는 것은 나무 끝뿐이다. 떨어져 나간 가지의 수는 셀 수 없다.

손을 한 번 거칠 때마다 무슨 일이든 일어날 수 있었다. 한 줄을 빠뜨리거나 두 번 쓰고, 용어를 고치고, 증명을 보충하고, 도형을 다시 그렸다. 곁에 적힌 주석이 본문으로 들어가기도 했고, 명제 번호를 새로 붙이기도 했으며, 어려운 증명을 더 쉬운 것으로 바꾸기도 했다.

에우클레이데스에게서 오늘에 이르는 경로는 대략 이렇다. 처음의 그리스어 전통이 계속 필사되다가 서기 4세기에 테온의 편집본이 나왔고, 이를 거쳐 비잔티움의 그리스어 필사본 체계로 들어갔다. 그와 함께 그리스어 텍스트는 아랍어권으로도 전해졌다. 알하자지, 이스하크, 타비트 등의 번역본과 개정본이 그 전파에 관여했다. 12세기부터는 바스의 아델라르 등 여러 사람을 통해 아랍어본이 다시 라틴어로 옮겨졌다. 르네상스 이후 그리스어 필사본과 라틴어 전통이 다시 만났고, 마침내 인쇄본과 현대의 교감 작업으로 이어졌다.

어느 구간도 곧은 길은 아니었다. 아랍어 전승 구간만 해도 번역본과 개정본, 여러 계열이 섞인 판본 사이의 관계가 이미 정리하기 어려울 만큼 복잡하다.

수량을 볼 때도 조심해야 한다. 중세 그리스어 『원론』 사본은 백 단위로 세지만, 정말 고대에 가까운 파피루스는 조각 단위로 센다. 자료가 많아 보인다면 많은 쪽은 늦은 시대다.

그러니 메소포타미아와 그리스가 남긴 것은 정반대다. 한쪽은 물건을 남겼지만 사람을 충분히 남기지 못했다. 다른 한쪽은 사람의 이름을 남겼지만 그들이 손댔던 종이 한 장을 남기지 못했다.

이 대비에는 한 겹이 더 있다. 메소포타미아에 이름이 전혀 없는 것은 아니다. 설형문자 전통에는 서기관의 서명도 있고 장서의 소유자를 밝혀 적은 글도 있다. 다만 학교 연습판 상당수에는 애초에 이름을 쓰지 않았다. 학생이 같은 문제를 세 번 베끼는 판에 굳이 서명할 사람은 없다. 반대로 그리스에 이름이 있다고 해서 그 이름을 믿어도 되는 것은 아니다. 히파소스가 가장 좋은 예다. 실제로 살았던 사람에게 수백 년 뒤 그의 것이 아닌 발견이 달라붙을 수 있다. 이름이 있으면 마음이 놓이기 쉽다. 이 글이 다루는 것은 바로 그 안도감을 믿을 수 없다는 사실이다.

메소포타미아의 익명성은 불안하게 한다. 누가 했는지 모르기 때문이다. 그리스의 실명은 안심하게 한다. 누가 했는지 알기 때문이다. 그러나 앞의 불안은 증거의 성격에서 나오고, 뒤의 안도는 이야기하는 습관에서 나온다. 누가 썼는지 모르는 점토판도 적어도 그 시대 사람이 쓴 것은 확실하다. 책마다 거듭 나오는 이름은 수백 년 뒤에야 붙었을 수 있다.

3 자료가 오래될수록 수학자와는 멀어진다

피타고라스 본인에 관해 온전히 남은 전기 세 편은 모두 로마 제국 시대의 저술이다. 그가 죽은 뒤 약 700~800년이 지난 시기다. 본인이 썼다고 확인되는 저술도 없고, 동시대에 그의 생애를 연속해서 적은 전기도 없다. 자료를 모두 연대순으로 놓으면 이상한 일이 드러난다. 기원전 6세기 말 크세노파네스는 그가 강아지 울음소리에서 죽은 친구의 영혼을 알아보았다며 비웃었다. 영혼의 윤회 이야기이지 수학 이야기가 아니다.

기원전 500년 무렵 헤라클레이토스는 그가 아는 것이 많고 여기저기서 지식을 모은다며 공격했다. 살아 있을 때나 죽은 지 얼마 안 되어 이미 이름난 지식 추구자였다는 증거다. 기하학에서 어떤 업적을 이루었다는 증거는 아니다. 기원전 430년대의 헤로도토스도 피타고라스학파라는 집단을 알았지만, 그가 이야기한 것은 장례 의식의 금기였다.

기원전 380년대에 플라톤이 그의 이름을 분명히 언급한 유일한 대목은, 추종자들이 독특한 피타고라스식 생활로 이름났다는 내용이다. 정리도, 무리량도, 화음에 관한 실험도 한마디 나오지 않는다.

아리스토텔레스는 기원전 4세기 후반에 ‘이른바 피타고라스학파’를 많이 논했다. 수와 조화, 우주론을 이야기했지만 수학적 업적을 피타고라스 개인에게 직접 돌리는 일은 극히 드물었다. 그가 주로 쓰는 표현은 ‘이른바 피타고라스학파’이지 ‘피타고라스가 말했다’가 아니다.

그런데 시간이 흐를수록 이 사람은 점점 더 수학자다워진다. 제국 시대의 전기에 이르면 정리를 증명하고, 무리량을 발견하고, 교육과정을 세우고, 손수 실험까지 한다.

부르케르트는 1962년 독일어 원저와 1972년 영어 개정판에서 이 순서를 펼쳐 보였다. 그의 논의가 힘을 갖는 까닭은 피타고라스가 수학을 몰랐다고 단언해서가 아니다. 한 가지 방향을 짚어 주기 때문이다. 수학자 피타고라스는 자료의 시기가 늦어질수록 점점 더 살이 붙었다.

그는 또 다른 경로도 살폈다. 고대 수학사가 에우데모스는 『기하학사』를 썼지만 지금은 사라졌고, 주로 서기 5세기 프로클로스가 남긴 요약 일부를 통해 전해진다. 그 요약에는 피타고라스가 기하학을 자유로운 교양 교육으로 만들고 무리량과 정다면체를 발견했다는 문장이 있다. 오랫동안 기원전 4세기 에우데모스의 증언으로 받아들여진 문장이다. 부르케르트는 언어와 구조, 출처를 비교한 끝에 여러 수학적 발견을 피타고라스에게 직접 돌리는 부분은 후대 전통에 속할 가능성이 더 크다고 보았다. 이를 에우데모스 본인의 말인 양 연대를 거슬러 올려서는 안 된다는 것이다.

즈무트는 이처럼 강한 회의에 반대한다. 그의 요점은 후대의 특정 이야기가 참이라고 입증하는 데 있지 않다. 증거를 인정하는 문턱이 터무니없이 높은 것은 아닌지 묻는다. 기원전 6세기 자료는 소실이 극심하다. 기록이 침묵한다는 이유로 초기의 과학 활동을 거의 모두 후대로 미룰 수는 없다. 탈레스에서 히포크라테스에 이르는 동안, 그리스 기하학이 산발적인 실용적 결과에서 증명을 추구하는 연구로 바뀌었다는 것은 분명하다. 사료의 공백이 역사의 공백은 아니다.

둘의 진짜 차이는 방법에 있다. 한쪽은 후대에 업적을 모조리 학파의 시조에게 돌리는 주장부터 입증해야 하며, 초기 사료의 침묵은 강한 경고라고 본다. 다른 쪽은 자료가 이토록 심하게 사라진 상황에서 그 침묵을 활동이 없었다는 증거로 삼을 수 없다고 본다.

늦게 나온 자료를 모두 걷어 내면 대략 이런 사실이 남는다. 피타고라스라는 사람이 있었고, 기원전 6세기 말에 이미 지혜로운 인물로 유난히 널리 알려져 있었다. 그의 이름으로 전해지는 생활 규범이 있었으며, 기원전 5세기의 헤로도토스도 4세기의 플라톤도 그것을 알았다. 그는 아마 사모스 출신이었고, 마흔 살쯤 이탈리아 남부 크로톤으로 옮겼다가 말년에 그곳을 떠나 메타폰툼에서 죽었다.

이 연대들은 몇 가지 동시대적 관계를 맞춰 추산한 것이다. 출생 기록이 아니다. 오차는 적어도 십 년 단위다.

이 글에 나오는 생몰 연도는 거의 모두 그렇게 이해해야 한다. 히파소스는 기원전 5세기 전반에 활동했다는 정도만 말할 수 있다. 테오도로스의 연대는 주로 플라톤 대화편에서 설정한 나이에 의존한다. 테아이테토스는 흔히 기원전 약 415~369년으로 적지만, 출생 연도는 대화편 속 청년의 모습에서 거꾸로 계산한 값이다. 어느 전투와 관련하여 죽었는지는 지금도 해석이 갈린다. 에우클레이데스는 믿을 만한 생몰 연도조차 없고, 기원전 300년 무렵 활동했다는 위치만 잡을 수 있다.

이런 연대는 시간의 흐름을 정리할 때 편리하다. 그렇다고 현대의 양력 출생 기록처럼 받아들여서는 안 된다.

반면 스스로 지워야 할 문장들은 이렇다. 그가 그 정리를 증명했다. 그가 무리량을 발견했다. 그가 수학 교육과정을 세웠다. 그가 직접 외줄 현악기인 모노코드로 실험을 했다. 모두 초기 증거가 허용하는 선을 넘어선다.

공동체 자체는 어떨까. 5년간의 침묵, 장막 너머로 듣는 강의, 가입 전 5년의 심사, 재산 공유. 이 세부 사항들이 가장 완전하게 갖춰진 판본은 서기 300년 무렵의 이암블리코스에게서 나온다. 사건으로부터 약 830년 뒤다. 기원전 5~4세기의 어떤 텍스트도 그런 제도가 있었다고 입증하지 않는다. 다만 단단한 사실 하나가 있다. 이 글에서 가장 사람의 일다운 사실이기도 하다.

이탈리아 남부의 이 인맥망에는 정치적 영향력이 있었고, 그들은 그 대가를 치렀다. 비교적 설득력 있게 재구성하려면 적어도 두 차례로 나누어야 한다. 기원전 510년 무렵, 말년의 피타고라스는 크로톤에서 정치적 적대에 부딪혀 결국 메타폰툼으로 이주했다. 두 번째는 기원전 450년 무렵이다. 기원전 4세기 아리스토크세노스의 단편으로 전하는 바에 따르면, 피타고라스학파 사람들이 밀론의 집에서 모임을 열던 중 누군가 불을 질렀다. 살아남은 사람도 있었고, 이후 구성원들은 뿔뿔이 흩어졌다.

기원전 2세기 무렵의 폴리비오스는 더 넓은 그림을 전한다. 마그나 그라이키아의 피타고라스파 회관들이 불탔고, 그 뒤 여러 도시에서 살인과 정파 싸움, 정치적 혼란이 벌어졌다는 것이다. 회관은 단수가 아니라 복수다. 사건에서 약 300년 뒤에 쓴 기록이지만 이 단서는 중요하다. 교실 하나에 불이 난 일이 아니었다. 이탈리아 남부 여러 폴리스를 가로질러 일어난 결사체의 위기였다.

믿을 만한 사상자 수는 없다. 고고학적으로 확인된 그 집도 없다. 두 사람만 탈출했다는 식의 세부 사항은 후대 판본마다 생존자의 이름부터 다르다. 말할 수 있는 것은 이 정도뿐이다. 한 무리의 사람들이 결사 활동과 정치적 위치 때문에 폭력을 당했고, 각지로 흩어졌으며, 대부분은 이름을 남기지 못했다.

이들은 그 지역에서 변두리에 머물던 학자들이 아니었다. 크로톤과 메타폰툼은 모두 마그나 그라이키아의 식민도시였고, 타란토에는 스파르타의 배경이 있었다. 도시들은 서로 경쟁했고, 저마다 귀족과 민중 사이의 정치적 갈등을 겪었으며, 이탈리아 토착 집단들과도 관계를 맺어야 했다. 학파가 자리 잡았다는 곳은 실제로는 독립적이고 호전적인 여러 도시국가였다. 이 인맥망을 지금 가장 조심스럽게 표현한다면 사적 결사체이자 정치적 연결망이다. 현대적 의미의 정당도 아니고, 더더욱 수도원도 아니다.

4 한 번의 수업

이 이야기에서 현장에 가장 가까운 자료는 전기가 아니다. 수업 장면을 묘사한 대목이다.

플라톤이 기원전 370년대 무렵 쓴 『테아이테토스』에는 이런 장면이 있다. 젊은 테아이테토스가 선생 테오도로스의 수업을 떠올린다. 선생은 학생들 앞에서 그림을 그려 증명했다. 넓이가 3제곱단위인 정사각형의 한 변과 단위 길이는 같은 단위로 남김없이 잴 수 없다. 넓이가 5제곱단위인 정사각형도 마찬가지다. 선생은 예를 하나씩 늘려 가다가 17에 이르러, 무슨 이유에선지 멈추었다.

그러자 테아이테토스와 친구가 한 가지 일을 했다. 끝없이 이어지는 이 개별 사례들을 하나의 부류로 묶어 보려 한 것이다.

플라톤이 그린 테아이테토스의 모습은 아주 구체적이다. 아테네 수니온 지역 출신이며 에우프로니오스의 아들이다. 젊고 수학적 재능이 뛰어났으며, 생김새가 소크라테스를 닮았다는 말까지 나온다. 대화편이 시작될 때 그는 코린토스 방면의 전투에서 다친 데다 병까지 얻어, 사람들에게 실려 아테네로 돌아오는 중이다.

테오도로스는 키레네 출신이다. 플라톤은 그를 나이 든 수학 교사로 그렸다. 플라톤 자신이 이 세대와 거의 동시대를 살았으므로, 테오도로스가 실존 인물이라는 점은 상당히 확실하다. 어려운 것은 생몰 연도다. 대화편에 나오는 나이와 극중 시점을 바탕으로 거꾸로 추산할 수밖에 없다.

한 가지 더 기억해 둘 만하다. 초기 자료는 이 두 사람을 피타고라스학파라고 부르지 않는다. 무리량을 연구했다는 이유만으로 자동으로 피타고라스학파에 넣는 것은 후대에 그 이름의 범위를 넓히던 전형적인 방식이다. 이 수업 대목에는 단단한 정보가 꽤 많다.

플라톤 시대에 통약 불가능성은 숨겨 놓은 금기가 아니었다. 수업에서 사례마다 보여 줄 수 있는 주제였다. 듣고 난 학생들의 반응도 공포가 아니라 분류와 일반화였다. 선생이 가장 간단한 경우, 곧 정사각형의 한 변과 대각선은 다시 설명하지 않았다는 점에서 보통 이 예는 이미 익숙했으리라고 추론한다.

왜 17에서 멈추었는지에 관한 설명은 거의 전부 추측이다. 어떤 이는 나머지를 구하는 특정한 방법으로 설명한다. 어떤 이는 직각삼각형을 계속 이어 그려 나선 모양을 재구성하는데, 17에 이르면 거의 한 바퀴를 돈다는 것이다. 애초에 플라톤이 역으로 복원할 수 있는 알고리즘을 숨겨 놓은 적이 없다고 보는 사람도 있다. 본문은 방법을 말하지 않는다. 17을 아무리 우아하게 설명하는 방안이라도 그 자체가 증거가 되지는 않는다. 그렇다면 가장 간단한 경우의 증명은 어떤 모습이었을까.

아리스토텔레스가 『분석론 전서』에서 그 구조를 내비친다. 그는 기발한 새 발견을 소개하고 있지 않다. 귀류법을 설명하면서 정사각형의 변과 대각선을 익숙한 표준 사례로 가져온다.

정사각형의 한 변과 대각선을 같은 자로 남김없이 잴 수 있다고 가정하자. 그러면 두 선분의 길이는 각각 그 자의 정수배이므로 정수 두 개를 얻는다. 먼저 두 정수를 더는 함께 반으로 나눌 수 없을 때까지 줄인다. 정사각형의 관계에 따라 대각선에 해당하는 정수의 제곱은 변에 해당하는 정수의 제곱의 두 배다. 따라서 대각선 쪽 정수의 제곱은 짝수이고, 그 정수 자체도 짝수일 수밖에 없다. 그것을 어떤 수의 두 배로 적어 다시 대입하면 이번에는 변 쪽 정수의 제곱도 짝수가 된다. 그러니 변 쪽 정수 역시 짝수다. 둘 다 짝수라면 함께 반으로 나눌 수 있다. 하지만 이미 더 나눌 수 없을 때까지 줄여 놓은 뒤였다.

그러므로 그런 자는 존재하지 않는다.

이 증명에서 눈여겨볼 점이 있다. 처음부터 끝까지 무엇을 재지도 않았고, 어떤 수의 값도 계산하지 않았다. 그저 그런 자가 존재한다고 가정하고 그 가정을 따라갔을 뿐인데, 끝에 가니 한 수가 짝수이면서 동시에 짝수일 수 없어야 한다. 재지 못했다는 말이 아니다. 잴 수 없다는 말이다. 둘 사이는 아주 멀다. 기원전 4세기 사람들은 이미 후자의 이야기를 하고 있었다.

이 증명은 한숨에 말할 수 있을 만큼 짧다. 두 선분이 각각 얼마나 긴지 알 필요도 없다. 공통된 자가 존재한다고 가정한 뒤, 그 가정이 스스로 자신에게 부딪히게 하면 된다.

아리스토텔레스는 뼈대만 주었을 뿐 모든 단계를 적지는 않았다. 비슷한 형태의 완전한 증명은 『원론』 제10권의 필사본 전승 말미에 남아 있으며, 보통 명제 117이라고 부른다. 그러나 여기에도 한 겹이 더 있다. 하이베르크는 비판적 교감본을 만들면서 이를 나중에 붙은 자료로 판정했고, 에우클레이데스의 본문으로 인정하지 않았다. 아리스토텔레스가 언급한 증명과 분명 같은 계열이지만, 현존 필사본은 에우클레이데스 본인보다 이미 천여 년 뒤의 것이다. 이 거리를 뛰어넘어 그 구체적인 텍스트를 다시 기원전 5세기까지 끌어올릴 수는 없다.

기억해 둘 말이 하나 더 있다. 그리스인들이 처음부터 무리수라고 말한 것은 아니다. 두 선분에 공통된 자가 없다고 말했다. 그때 쓴 단어는 부정의 접두사와 측정을 뜻하는 말이 합쳐진 것으로, 글자 그대로 ‘함께 잴 수 없다’는 뜻이다. 가장 중립적이고, 이른 시기에 확실히 확인되는 수학 용어다. 말해서는 안 된다는 뜻은 전혀 없으며, 플라톤도 대화편에서 공개적으로 논한다. 앞선 글에서 예일대학교의 둥근 점토판을 이야기했다. 기원전 19~17세기의 서기관이 그 위에 정사각형의 대각선과 변의 비를 극도로 정밀하게 적어 놓았다.

그 점토판이 한 일은 지금의 증명과 다르다. 그것은 매우 정밀하지만 유한한 수치를 주었다. 어떤 공통된 자도 존재하지 않는다고 말한 적도, 말하려 한 적도 없다. 한쪽은 어떻게 계산할지를 묻고, 다른 한쪽은 존재하는지를 묻는다. 같은 대각선을 두고 던진 서로 다른 질문이다.

이 차이를 알면 바빌로니아인들이 이미 무리수를 발견했다고 말할 수 없는 이유도 알 수 있다. 점토판의 수치는 오늘날 계산에 써도 충분할 만큼 정밀하다. 그러나 얼마나 정밀한가와 공통된 자가 있는가는 서로 만나지 않는 질문이다. 백 자리를 더 정확히 구한다고 해서 저절로 부존재의 증명이 되지는 않는다.

5 부끄러운 것은 모른다는 것

통약 불가능성의 발견이 정말로 충격을 일으켰다면, 기원전 5~4세기 자료에 무엇인가 남아 있어야 한다.

플라톤은 『법률』 제7권에서 이름 없는 아테네인의 입을 빌려 감정이 실린 말을 한다. 이 아테네인은 길이와 넓이, 부피에 이처럼 같은 단위로 남김없이 잴 수 없는 관계가 있다는 사실을 아주 늦게야 알았고, 알게 되었을 때 놀랐다고 한다. 널리 퍼진 이런 무지를 돼지에 빗대며 자신뿐 아니라 그리스 세계 전체가 부끄럽다고 말한다.

말투가 상당히 거칠다. 사정 봐주지 않는 비유를 썼고, 부끄러움의 범위를 자기 자신에서 그리스 전체로 넓혔다. 기원전 4세기 자료 가운데 감정이 격해졌다고 할 만한 구절을 찾는다면 이것이 가장 가깝다. 바로 찾던 증거처럼 보인다.

그런데 그가 부끄러워한 것은 통약 불가능성이 아니다. 통약 불가능성을 몰랐다는 사실이다.

그는 곧이어 이런 지식은 젊은이들이 반드시 배워야 한다고 말한다. 해롭지도 어렵지도 않은 문제이며, 서로 놀이하듯 문제를 내 줄 수도 있다고 한다. 노인들이 판 위에서 말을 옮기며 노는 것보다 훨씬 고상하다는 것이다.

결국 이 글에서 다룬 기원전 4세기 자료 가운데 유일하게 감정이 드러나는 구절은, 너무 무서운 것이니 숨겨야 한다고 말하지 않는다. 이걸 모르는 사람이 있다니 너무 창피하므로 아이들이 배워야 한다고 말한다.

방향이 정반대다. 위기 서사에는 알고 나서 견딜 수 없었다는 반응이 필요하다. 이 자료가 보여 주는 것은 몰랐다는 게 부끄럽다는 반응이다.

양쪽으로 해석할 수 있는 말도 아니다. 바로 뒤에 이어지는 모든 문장은 교육 쪽으로 나아간다. 봉쇄 쪽으로 가는 문장은 하나도 없다.

아리스토텔레스 쪽은 더 평온하다. 정사각형 대각선의 증명을 귀류법의 표준 예제로 쓴다. 현대 논리학 교재에서 예를 드는 태도와 똑같다. 위기도 없고, 경악도 없고, 금기도 없다. 살아남은 자료들을 반응에 따라 늘어놓으면 이런 사슬이 보인다.

테오도로스는 사례를 하나씩 증명한다. 테아이테토스는 무한히 많은 사례들을 분류한다. 플라톤은 젊은이들의 교육에 넣어야 한다고 요구하면서 놀이로 배울 수도 있다고 말한다. 아리스토텔레스는 논리학 수업의 모범 사례로 삼는다.

이 네 사람이 걸쳐 있는 시간은 대략 백 년이다. 어느 순간 그 발견 때문에 공포가 일어났다면 이 백 년의 어느 지점에는 걸려 있어야 한다. 그런데 어디에도 걸려 있지 않다. 마침내 『원론』 제10권은 이를 명제 115개에 이르는 분류 이론으로 키워 낸다. 전체 열세 권 가운데 가장 방대한 권이며, 명제 수만 따져도 거의 4분의 1을 차지한다.

제10권이 다루는 것은 후대의 의미에서 무리수를 소수로 전개하는 일이 아니다. 선분과 넓이 같은 양 사이의 통약 가능성과 통약 불가능성, 그리고 지정된 기준 선분에 대해 정의하는 하나의 분류 체계다. 후반부에서는 여러 유형을 거듭 작도하고, 이름 붙이고, 구별한 다음, 각각의 유일성과 서로의 관계를 증명한다.

명제 115개라는 수는 누군가 이 주제를 끝까지 탐구할 수 있는 영역으로 삼아 오랫동안 작업했다는 뜻이다. 현대 역사가들은 대체로 이 권을 여러 세대의 작업을 모은 것으로 본다. 에우클레이데스 혼자 무에서 만들어 낸 것이 아니다. 물론 침묵이 그들이 결코 충격받지 않았다는 증거는 될 수 없다. 아무도 적지 않은 일을 후대 사람이 알 길은 없다.

그러나 눈에 보이는 흐름은 가르치고, 증명하고, 일반화하고, 분류하고, 체계로 엮는 일이다. 봉쇄가 아니다. 수업 과제가 되고 아동 교육의 권장 사항이 되었다고 해서 더 이른 시기의 충격까지 배제할 수는 없다. 다만 현존 자료는 그 기초 위기가 있었다고 입증하지 못한다.

이 사슬을 배 위의 이야기 옆에 놓으면 둘이 같은 일을 말하지 않는다는 것을 알 수 있다. 심지어 감정의 종류도 다르다. 한쪽에는 침묵, 추방, 신벌, 익사가 있다. 다른 한쪽에는 도형 그리기, 분류, 문제 내기, 놀이가 있다. 둘 사이에는 500년이 넘는 간격이 있고, 늦은 쪽이 훨씬 요란하게 쓰여 있다.

6 서로 다른 판본들

히파소스 이야기는 하나의 이야기를 베낀 여섯 사본이 아니다. 원래 달랐던 몇 가지 모티브가 서서히 가까워지며 모인 것이다.

가장 이른 것은 서기 75~100년 사이의 플루타르코스에게 나온다. 피타고라스학파는 비밀을 함부로 글로 남기지 않았으며, 어떤 은밀한 기하학 이론이 그것을 받을 자격 없는 사람들에게 새어 나가자 신의 뜻이 큰 재앙으로 위협했다고 전한다. 이름은 없다. 동료들의 살인도 없다. 이미 가정된 사건에서 520년 이상 지난 때다.

서기 190~200년 무렵 클레멘스는 히파소스를 열두 개의 오각형으로 이루어진 구와 연결하고, 여기에 바다에서의 죽음까지 잇는다. 이름이 명시된 히파소스가 처벌과 결부되는 첫 대목이다. 사건에서는 약 640년 뒤다.

가장 자세히 쓴 사람은 이암블리코스다. 그래서 가장 조심해야 한다. 그의 책은 서기 300년 무렵에 나왔다. 한 대목에서는 히파소스가 열두 오각형으로 이루어진 그 구조를 처음 공개하고 그려 보였기 때문에 불경한 자에게 돌아가는 운명을 바다에서 맞았다고 한다. 그러면서 진짜 발견자는 여전히 피타고라스 본인이었다고 덧붙인다. 다른 대목에서는 통약 가능성과 불가능성에 관한 이론을 자격 없는 자에게 처음 누설한 사람이 공동체의 미움을 받아 쫓겨났으며, 그가 이미 죽었다는 뜻으로 무덤까지 세웠다고 한다. 이 판본에는 이름도 없고 실제 죽음도 없다. 조금 뒤에는 구에 내접하는 정십이면체를 누설한 자가 신의 노여움으로 바다에서 죽었다고 먼저 말하고, 곧이어 어떤 사람들은 같은 운명을 통약 불가능성을 누설한 자에게 돌린다고 적는다.

그의 글에서 두 이야기는 이미 서로 바꿔 놓을 수 있다. 그러나 아직 하나로 합쳐지지는 않았다. 사건에서 약 750년 뒤에 쓰인 대목이다. 더 뒤로 가면 파포스가 『원론』 제10권 주석에서 무리량의 공개와 익사를 분명하게 연결한다. 반면 구체적인 이름은 오히려 불안정하다. 이 자료들을 순서대로 놓으면 아주 조심스러운 형성 과정을 그려 볼 수 있다.

첫 단계. 서기 1세기에는 지식을 비밀로 지켜야 하며, 누설하면 신벌을 받는다는 모티브가 이미 있었다. 하지만 인물도 죽는 방식도 구체적인 수학 내용도 아직 고정되지 않았다.

둘째 단계. 적어도 두 갈래의 더 구체적인 이야기가 나타났다. 하나는 히파소스, 정십이면체, 바다에서의 죽음이다. 다른 하나는 이름 없는 사람, 통약 불가능성, 추방 또는 무덤이다. 이암블리코스가 두 판본을 나란히 적었다는 사실은 당시 이미 서로 바꿔 쓸 수 있었지만 아직 합쳐지지는 않았음을 보여 준다.

셋째 단계. 무리량을 누설한 사람에게 익사가 명백히 붙었다. 남은 마지막 한 걸음은 쉽다. 다른 이야기에서 히파소스가 이미 바다에서 죽은 사람이니, 두 사람을 하나로 합치면 된다.

여기서는 조심해야 한다. 연대순으로 늘어놓을 수 있다고 해서 일직선의 변천 과정이 확정되는 것은 아니다. 후대의 저자들이 지금은 사라진 더 이른 책을 공통으로 이용했을 가능성도 충분하다. 여러 이본을 펼쳐 보면 차이는 네 곳에 모여 있다.

누설된 내용이 같지 않다. 은밀한 기하학 정리일 때도 있고, 통약 가능성과 불가능성의 이론일 때도 있으며, 정십이면체일 때도 있다. 더 구체적으로는 정십이면체를 구에 내접시키는 방법이라고 한다. 이 셋이 원래 하나의 비밀이었다고 말하는 초기 출처는 없다.

사람도 같지 않다. 플루타르코스는 이름을 말하지 않는다. 이암블리코스도 한 대목에서는 익명이고, 다른 대목에서야 히파소스다. 파포스의 경우도 확고하지 않다. 히파소스가 곧 통약 불가능성의 발견자라는 등식은 모든 고대 이본이 공유하는 핵심이 아니다.

처벌도 같지 않다. 신이 재앙을 내리겠다고 위협하거나, 추방되거나, 살아 있는데 무덤이 세워지거나, 바다에서 목숨을 잃는다. 동료들이 회의를 열어 표결로 그를 배에서 던지기로 했다고 말하는 판본은 하나도 없다.

죄의 성격도 같지 않다. 자격 없는 자에게 비밀을 누설한 것, 신을 공경하지 않은 것, 침묵을 깨뜨린 것, 피타고라스에게 돌아가야 할 성과를 공개해 개인적인 명성을 얻은 것이 각각 죄가 된다. 마지막 경우는 모든 발견을 학파의 시조에게 돌리는 후대 전기의 이념에 특히 잘 들어맞는다. 여기서 벗겨 내야 할 말이 하나 더 있다. 너무 그럴듯해서 문제인 말이다. 그리스인들이 이 양들을 ‘말할 수 없는 수’라 부른 것은 종교적 비밀이었기 때문이라는 주장이다.

앞서 보았듯, 수학에서 가장 일찍 분명하게 확인되는 말은 ‘함께 잴 수 없다’는 뜻이었다. 발설 금기의 의미는 없었다. 그리스어에 ‘말할 수 없는’, ‘말하지 않은’, ‘누설해서는 안 되는’을 뜻하는 다른 단어가 실제로 있으며, 그와 가까운 어휘군이 비밀과 발설 금지를 가리킬 수도 있다. 하지만 이 말을 수학 용어와 뒤섞어 무리수라는 이름 자체가 원래 신비로운 금기를 뜻했다고 한다면, 그것은 어원을 지어내는 일이다. 수학 지식의 누설을 종교적 불경으로 쓴 것은 500~800년 뒤의 이야기들이지, 기원전 5세기의 수학 용어가 아니다.

그렇다면 히파소스라는 사람은 실존했을까. 실존했다. 증거도 나쁘지 않다.

아리스토텔레스는 『형이상학』에서 히파소스를 헤라클레이토스와 함께 언급하며, 이들이 불을 제1원리로 삼았다고 말한다. 추정되는 그의 활동 시기에서 약 한 세기밖에 떨어져 있지 않은 기록이며, 그에 관한 가장 단단한 증거다. 또 하나는 아리스토크세노스에게서 나온다. 히파소스가 지름은 같고 두께는 다른 청동 원판 네 장으로 음높이의 관계를 연구했다고 한다. 현대의 실험적 분석에 따르면 적어도 물리적으로 가능한 장치다.

그러니까 실존한 히파소스가 있었다. 초기 자연철학의 인물이었고, 수의 비율을 연구하는 일과 관련이 있었다.

그 밖의 사항은 모두 불안정하다. 출신지, 학파 소속, 저술이 있었는지까지 모두 서로 엇갈리는 전승이 있다. 이암블리코스의 명단조차 그를 서로 다른 도시에 넣는다.

그가 실제로 살았다는 사실은 중요하다. 이야기가 아무것도 없는 데서 만들어진 것은 아니라는 뜻이다. 실존 인물의 몸 위에서 자랐다는 뜻이다.

그래서 벗겨 내기가 더 어렵다. 히파소스가 완전히 허구라면 그런 사람은 없었다는 한마디로 끝낼 수 있다. 하지만 그는 있었다. 아리스토텔레스가 그의 이름을 보았다. 걷어 내야 할 것은 그 사람이 아니다. 남들이 나중에 그의 몸에 매달아 놓은 것들이다.

7 위기는 어느 해에 만들어졌나

이제 두 번째 층을 볼 차례다.

기초 위기라는 말이 체계적인 형태를 갖춘 것은 1928년이다. 하세와 숄츠의 『그리스 수학의 기초 위기』에서였다. 이 역시 갑자기 생겨난 것은 아니다. 타네리는 이미 1887년 『그리스 기하학』에서 가장 이른 피타고라스파 기하학이 모든 양을 통약 가능한 것으로 여겼으리라는 가설을 세우고, 통약 불가능성의 발견을 일종의 논리적 추문이라고 불렀다.

하세와 숄츠의 논증 구조는 무척 현대적이다. 먼저 초기의 보편적 산술을 상정한다. 피타고라스학파는 측정할 수 있는 세계를 궁극적으로 정수와 그 비율로 다룰 수 있다고 믿었다는 것이다. 그런데 통약 불가능성이 수의 비로 나타낼 수 없는 양을 만들어 낸다. 그렇다면 체계 전체가 흔들려야 한다. 뒤이어 에우독소스의 비례론이 이를 복구한다. 믿음, 재앙, 위기, 복구. 네 막으로 완결된다.

나중에 크노르는 이 구도가 어디서 나왔는지 짚었다. 이 연구는 특정한 강의 맥락에서 나왔다. 당시에는 현대 수학의 기초 문제가 가장 격렬하게 논의되고 있었고, 하세와 숄츠는 명시적으로 19~20세기 수학의 기초 문제를 고대에 견주었다. 다시 말해 ‘제1차 기초 위기’는 처음부터 현대인 자신의 위기에서 가져온 범주로 고대를 이름 붙인 말이었다. 현대인은 고대에서 자기 시대에 가장 익숙한 연극을 본 것이다.

이 가설은 나중에 또 다른 역사 서술의 틀을 만드는 데도 힘을 보탰다. 통약 불가능성 때문에 수의 길이 막혔으니 그리스인들은 대수학을 기하학 속에 숨길 수밖에 없었다는 설명이다. 입증되지 않은 한 차례의 위기가 또 하나의 역사적 양상 전체를 설명하기 시작했다.

호이루프는 이 역사 서술의 역사를 돌아보며, 이른바 그리스 수학의 기초 위기를 아예 가정된 판단이라고 불렀다. 그 틀 자체가 이미 수학사의 연구 대상이 된 것이다. 반박은 몇 층으로 나뉜다.

크노르의 첫 반박은 가장 간단하다. 하세와 숄츠는 고대 자료에서 위기를 입증한 것이 아니다. 그런 발견이라면 당연히 위기를 일으켰으리라고 먼저 판단했다. 내가 피타고라스파였다면 충격받았을 것이다. 이것은 역사적 증거가 아니다.

둘째. 위기론이 성립하려면 기존 비례론이 통약 불가능성과 맞닥뜨리자 제대로 작동하지 못하고, 수학 활동이 심각한 기초적 장애를 겪어야 한다. 그러나 기원전 450~350년의 자료에는 그런 중단이 나타나지 않는다. 히포크라테스와 아르키타스의 작업은 계속해서 비례의 사고를 폭넓게 사용했다. 가정된 마비를 행동의 흔적으로 찾을 수 없다.

셋째. 부르케르트는 전제부터 건드린다. 만물이 수라는 말이 모든 길이의 비는 정수의 비라는 뜻이었다는 증거는 없다. 아리스토텔레스가 말하는 수는 무엇보다 단위들로 이루어진 다수다. 그가 묘사하는 존재론은 후대 교과서의 ‘모든 양은 유리수로 쓸 수 있다’는 문장과 아주 멀다. 이 전제가 고대인들의 명시적인 공리였던 적이 없다면, 통약 불가능성이 학파의 최고 신조를 뒤집었다는 고리는 끊어진다.

그러니 가장 널리 퍼진 이야기는 첫 고리에서부터 두 번의 번역을 요구한다. 먼저 아리스토텔레스의 존재론을 모든 길이의 비는 정수의 비라는 명제로 번역하고, 그다음 기하학의 반례 하나가 그것을 무너뜨리게 한다. 첫 번째 번역을 뒷받침하는 고대 텍스트는 없다.

넷째. 후대 문헌에 비밀과 신벌, 죽음이 나오는 것은 사실이다. 위기론이 즐겨 인용하는 감정적 증거가 바로 이것들이다. 그러나 플루타르코스 이후에야 나타나므로 500년 이상 늦다. 내용도 비밀 누설과 경건함에 관한 것이지, 수학의 기초에 논리적 모순이 생겼다는 이야기가 아니다. 종교적 비밀의 누설을 수학철학의 위기로 옮겨 읽는 것은 현대의 해석이다.

크노르는 결국 고대의 기초 위기를 현대의 허구라고 불렀다. 통약 불가능성이 중요하지 않다는 뜻이 아니다. 위기라는 사건이 사료로 입증된 적 없다는 뜻이다. 그것은 심리적이고 제도적인 사건이어야 하는데, 사료에서 찾을 수 없다. 이름을 가진 발견자는 또 다른 층의 재구성이다. 1945년의 논문은 이 재구성이 널리 퍼지는 중요한 계기였지만, 확정할 수 있는 출발점은 아니다.

1945년 폰 프리츠는 「메타폰툼의 히파소스에 의한 통약 불가능성의 발견」이라는 논문을 발표했다. 이미 있던 히파소스 귀속설을 체계적으로 논증하고, 정오각형과 정십이면체를 통해 발견의 경로까지 설명하려 했다. 수학적으로는 아름다운 재구성이다. 사료에는 그 사이를 직접 잇는 문장이 없다. 히파소스가 정십이면체를 거쳐 통약 불가능성을 발견했다는 경로 전체를 곧바로 확인하기에는 현존 자료가 부족하다. 고대 후기의 이본들을 나란히 놓는다고 저절로 발견 과정의 기록이 되지는 않는다.

그러나 전문 수학사 연구의 장에서 발표되었기에, 후대 교과서는 이를 손쉽게 사실 한 줄로 압축할 수 있었다.

20세기 중반 이후 그리스 수학에 거대한 혁명이 일어났다는 종류의 큰 서사와, 이렇게 이름이 붙은 발견자가 아주 자연스럽게 결합했다. 통사들은 그것을 더 넓은 독자층에 전했다. 다시 대중적 글쓰기를 거치면서, 신벌로 바다에서 죽었다는 고대의 이야기는 서서히 현대적인 범죄 현장으로 고쳐졌다. 발견은 배 위에서 이루어졌고, 다른 사람들이 그를 바다에 던졌으며, 피타고라스 본인이 사형을 선고했다는 것이다. 극적으로 빈틈없는 판본이다. 공교롭게도 모든 자료 가운데 가장 늦고 가장 근거가 없는 층이기도 하다.

이 세 고리의 연도를 나란히 놓아 보자.

통약 불가능성 자체는 기원전 5세기. 비밀 누설과 신벌 이야기는 서기 1세기부터이니 500년 이상 뒤다. 기초 위기는 1928년. 히파소스 귀속설을 체계적으로 논증한 중요한 작업은 1945년. 동료들이 그를 배 밖으로 던졌다는 이야기는 더 뒤이며 출처도 찾을 수 없다. 오늘에 가까워질수록 이야기는 더 완전해진다.

8 위기 없이 받아들이기

통약 불가능성이라는 난점은 실제로 해결되었다. 해결 방식은 위기 서사가 상상하는 것과 아주 달랐다.

『원론』 제5권에는 하나의 비례론이 남아 있다. 에우클레이데스의 본문에는 이름이 적혀 있지 않지만, 현대 수학사는 대체로 그 핵심을 에우독소스와 연결한다. 이 이론의 가장 영리한 점은 공통된 자를 아예 찾으려 하지 않는다는 것이다. 두 양의 비를 하나의 수로 적지도 않는다.

두 비가 같은지 판정하는 방법을 말로 풀면 이렇다. 첫 번째 양의 쌍과 두 번째 양의 쌍에서 각각 임의의 정수배를 취해 서로 비교한다. 첫 번째 쌍에서 앞의 양에 취한 정수배가 뒤의 양에 취한 정수배보다 크거나, 같거나, 작을 때, 두 번째 쌍에서도 각각에 똑같은 배수를 적용한 결과가 언제나 똑같이 크거나, 같거나, 작다면 두 비는 같다고 본다. 정수배를 어떻게 골라도 그래야 한다.

이렇게 하면 두 선분을 함께 잴 자를 영원히 찾을 수 없어도, 그 비는 여전히 엄밀하게 비교할 수 있다.

정의가 읽기에 복잡한 까닭은 비가 얼마인지 말해 주지 않기 때문이다. 두 비가 어떤 조건에서 같다고 할 수 있는지만 알려 준다. 말로 바로 집어내고 싶었던 어떤 것을, 검토해야 할 관계들의 체계로 바꾸어 놓는다. 두 비가 같은지 판정하려면 가능한 모든 정수배를 고려해야 한다. 얻는 것은 엄밀함이고, 내주는 것은 간편함이다.

이 방법은 통약 가능한 양과 불가능한 양을 똑같이 대한다. 골치 아픈 대상을 없애려 하지도, 없는 척하지도 않는다. 같음을 판정하는 기준을 바꾼다. 공통된 척도가 없어도 적용할 수 있는 기준으로 바꾼 것이다.

에우독소스가 통약 불가능성에 대처하려고 이렇게 했는지에 관해서는, 고대 저자가 직접 동기를 밝힌 기록이 없다. 기능으로 보면 문제를 완벽히 처리한다. 인과관계로 말할 수 있는 것은 통약 불가능한 양이 보편적인 비례론을 필요하게 만든 중요한 배경이었다는 정도다. 위기를 수습하려고 그가 이 정의를 발명했다고 쓰면 지나치다. 오히려 크노르의 재구성은 점진적이다. 테아이테토스의 분류 작업과 초기에 양을 서로 거듭 빼던 비례 방법에서 기술적 한계가 점차 드러났고, 에우독소스식 이론은 적용 범위를 넓히는 다음 걸음이었다는 것이다.

여기서 널리 퍼진 설명 하나를 더 내려놓을 수 있다. 그리스인들은 원래 산술로 모든 것을 처리했는데, 무리량을 발견하자 산술이 무너져 어쩔 수 없이 기하학으로 숨어들었다는 설명이다.

이 설명은 여러 곳에서 맞지 않는다. 그리스의 기하학 연구는 분명 통약 불가능성을 안 뒤에 처음 나타난 것이 아니다. 이미 있던 전통이 왜 자기 자신에게로 방향을 틀었는지를 위기로 설명할 수는 없다. 『원론』 제7~9권은 매우 발달한 정수론이다. 서로소, 소수, 최대공약수, 홀짝이 모두 들어 있다. 전권의 명제 465개 가운데 변두리를 차지하는 내용이 아니다. 더구나 그리스인이 말한 수와 양은 원래 서로 다른 범주의 대상이었다. 통약 불가능한 양을 두고 새로운 수를 발견해 놓고 수로 인정하기를 거부했다고 말하는 순간, 이미 현대의 실수 개념으로 고대의 개념을 고쳐 쓰게 된다.

가장 중요한 점은 기원전 4세기의 그리스인들이 이를 피하지 않았다는 것이다. 제10권의 명제 115개는 끝까지 파고든 모습이지 비켜 간 모습이 아니다.

강도를 낮춘 설명이라면 성립할 수 있다. 통약 불가능성은 실제로 수와 연속량 사이의 기술적 구별을 강화했다. 그 결과 보편적 비례론은 공통 단위 없이도 기하학적 양을 다룰 수 있어야 했다. 이 구별이 그리스 수학의 표현 방식에 영향을 미쳤다는 것은 사실이다.

그러나 이것은 수학적 구조가 방법을 빚은 일이다. 심리적 위기 때문에 도망간 일이 아니다. 앞 문장은 쓸 수 있다. 뒤 문장은 쓸 수 없다.

바다에 던져졌다는 사람에게 돌아가 보자. 구조에 관한 사실은 단단하다. 정사각형의 한 변과 대각선은 같은 단위로 남김없이 잴 수 없다. 기원전 4세기 사람들은 그것을 증명했고, 가르쳤고, 분류했고, 교육에 관한 권고에 넣었다.

사람에 관한 이야기는 무르다. 발견자의 이름이 남아 있지 않다. 발견의 순간도 남아 있지 않다. 히파소스라는 실존 인물은 있었지만, 그가 이 발견을 했다고 확인하는 믿을 만한 동시대 기록은 없다. 후대 전설 속 연결은 하나씩 따로 따져야 한다. 뒤의 서술이 피해자 한 명을 채워 넣었고, 그보다 더 뒤의 서술이 위기 하나를 채워 넣었다.

두 번의 보충은 같은 방향을 향한다. 구조적 사실에는 주인공도 전환점도 없다. 그저 성립해 있을 뿐이다. 사람 하나를 넣으면 주인공이 생긴다. 거기에 붕괴 하나를 더하면 전환점이 생긴다. 구조적인 사실은 그 안에 사람이 없으면 이야기를 이어 갈 수 없다. 그래서 사람 하나가 들어갔다.

이 글은 처음부터 끝까지 그 사람을 찾지 못했다. 찾은 것은 실존했던 자연철학자, 키레네의 늙은 선생, 아테네로 실려 돌아오던 청년, 그리고 이탈리아 남부 도시국가들의 충돌 속에서 흩어져 버린 사람들이다. 마지막 사람들은 대부분 이름조차 남기지 못했다. 이들 가운데 누군가가 그 발견 때문에 바다에 던져졌다는 것을 입증할 믿을 만한 자료는 없다. 가장 단단한 사실이 오히려 가장 이야기답지 않다. 누군가 어떤 일이 불가능하다는 것을 증명했다. 그가 누구인지는 남지 않았다.

그리고 그 불가능한 일을 나중에 어떻게 다루었는지는, 어느 판본의 이야기보다 마음에 담아 갈 만하다.

아무도 그 공통된 자를 찾지 못했다. 존재하지 않았기 때문이다. 그렇다고 이제부터 두 선분을 비교할 수 없다고 선언한 사람도 없었다.

바뀐 것은 제3의 것이었다. 두 비가 같다는 말의 뜻이었다.

새로운 설명은 그 자가 어디 있느냐고 묻지 않는다. 그저 임의의 정수배를 취해 시험해 보라고 요구한다. 어떻게 시험해도 양쪽의 대소 관계가 일치해야 한다.

그러자 원래 손에 넣을 수 없었던 것을, 말하는 방식을 바꾸어 손에 넣었다.

돌아서 피해 간 것이 아니다. ‘손에 넣는다’는 말을 다시 정의했다. 공통된 자가 없어도 해낼 수 있는 일로 정의한 것이다.

이 움직임은 앞으로도 여러 번 나타난다. 그때마다 이름이 달라진다. 그리고 매번 바뀌는 것은 닿을 수 없었던 대상이 아니라, 그 대상에 닿았다고 할 기준이다.

수를 계산하는 일은 계속된다. 무엇을 수학으로 쳐야 하는지는 아직 한 번도 셈이 끝난 적이 없다.

사료와 더 읽을거리

아래 자료는 본문에서 다룬 역사적 세부 사항과 해석상의 논쟁에 해당한다. 박물관 소장 기록, 고대의 문헌 서술, 현대의 재구성은 같은 종류의 증거가 아니다.

• 카를 허프먼: 피타고라스
• 클레이 수학연구소: 에우클레이데스의 『원론』
• 에우클레이데스, 제5권 정의 5–6
• 하세와 숄츠: 『그리스 수학의 기초 위기』(1928)
• 크노르의 저서: 서문과 학술 서평
• 「제논이 히파소스에게서 이어받은 것」, Hyperboreus 23.2(2017)