상상으로 만들어 낸 양

1 서른 문제

1535년 초 베네치아에서 두 사람이 상대에게 서른 문제씩을 냈다.

문제는 봉인해 공증인에게 맡겼다. 기한도 정했다. 그날이 되면 풀이를 내놓기로 했다.

한쪽의 이름은 피오르였다. 그에게는 비장의 무기가 하나 있었다. 특정한 유형의 삼차방정식을 푸는 방법이었다. 스승인 시피오네 델 페로에게서 배운 규칙이었다. 볼로냐 대학에서 산술과 기하학을 가르치던 델 페로는 이미 1515년 무렵 이 방법을 알고 있었지만, 한 번도 공개하지 않았다.

이 연도는 주의해서 보아야 한다. 오늘날 수학사 연구에서 대체로 받아들이는 시점이지만, 연도가 적힌 친필 원고가 남아 있어 못 박을 수 있는 것은 아니다. 결과는 남았고, 발견한 날은 남지 않았다. 피오르는 서른 문제 거의 전부를 이 한 가지에 걸었다. 상대의 이름은 타르탈리아였다. 그가 낸 서른 문제는 여러 종류가 뒤섞여 있었다.

타르탈리아가 훗날 한 말에 따르면, 정식으로 문제를 받기 얼마 전 그는 마침내 피오르가 믿고 있던 유형의 방정식을 푸는 일반적인 방법을 스스로 찾아냈다. 그리고 두 시간쯤 만에 상대의 서른 문제를 모두 풀었다. 피오르는 한 문제도 풀지 못했다. 후세에 이 대결은 수없이 되풀이되어 전해졌고, 대개 두 천재가 현장에서 암산을 겨뤘다는 데 초점이 맞춰졌다. 실제로 벌어진 일은 한쪽이 판돈을 잘못 건 승부에 더 가까웠다.

대결의 구조는 간명하다. 한 사람은 비밀 하나에 가진 패를 모두 걸었고, 다른 사람은 서로 다른 종류의 문제를 준비했다. 비밀이 뚫리자 판세는 그날로 뒤집혔다. 여기서 세 가지를 먼저 짚어 두자. 이 글 뒤에서도 거듭 필요해질 이야기다.

첫째, 원자료에 적힌 연도는 여기서 쓴 것보다 한 해 빠르다. 당시 베네치아에서는 3월 1일에 새해가 시작되었기 때문이다. 2월은 아직 전년도에 속했다. 지금의 연도 구분으로 바꾸면 1535년 2월이다. 원문에 적힌 연도를 그대로 옮겨 쓰면 흔히 생기는 한 해짜리 오차다.

둘째, 요즘 이야기에서 흔히 등장하는 내기는 서른 차례의 잔치다. 하지만 일차 사료에 가까운 자료의 표현은 그렇게 깔끔하지 않다. 명예, 그리고 푼 문제 수에 따라 받는 얼마간의 보수를 언급할 뿐이다. 서른 문제, 봉인, 공증인, 기한. 여기까지는 자료가 있다. 서른 차례의 잔치에는 없다.

셋째, 가장 중요한 대목이다. 1535년의 이 대결에 관해 가장 값진 자료는 타르탈리아가 11년 뒤 직접 정리해 펴낸 책에서 나온다. 그는 당사자인 동시에 편집자였다. 그렇다면 1515년 무렵 발견된 해법은 왜 1535년까지도 소수의 손안에서만 돌고 있었을까.

그 이유를 밝힌 당사자의 말은 한 줄도 발견되지 않았다. 그럴듯하게 재구성하면 이렇다. 당시 북이탈리아에서 응용수학을 가르치던 사람들의 직업적 명성은 공개적인 문제 풀이 대결과 단단히 얽혀 있었다. 혼자만 아는 방법은 일자리를 구하고, 자리를 지키고, 경쟁자에게 도전할 때 쓸 수 있는 직업상의 자산이었다. 이런 제도 안에서 멋진 풀이 하나를 비밀 병기로 간직하는 일은 경제적으로 이해할 만하다.

그러나 이것은 제도를 설명하는 말이지, 그가 직접 한 말은 아니다. 오늘날의 이야기는 여기서 한 발 더 나아가 대결에서 지면 자동으로 교수직을 잃었다고 하곤 한다. 그 ‘자동으로’를 뒷받침할 자료는 없다. 이 사람들이 어떤 신분이었는지도 살펴볼 필요가 있다.

미리 말해 둘 것이 하나 더 있다. 이 글에는 서로를 비난하는 네 사람이 등장하는데, 그들이 남긴 자료는 몹시 불균형하다. 누군가는 자기 손으로 편집한 과거사를 잔뜩 남겼고, 누군가는 인쇄된 수학책 한 권만 남겼으며, 누군가는 아무것도 남기지 않았다. 목소리가 크다는 것과 그 말이 옳다는 것은 다른 문제다.

그러니 이 대목부터 이어지는 두 절에서는 양쪽이 모두 인쇄해 남긴 것과 한쪽만 주장한 것을 계속 구별해 갈 것이다. 이 규칙을 가장 먼저 알아낸 사람에게는 대학의 자리가 있었다. 타르탈리아는 가르치는 일, 기술에 관한 저술, 공개 도전으로 이름을 쌓았다. 타르탈리아는 본래 ‘말더듬이’라는 뜻의 별명이다. 1512년 프랑스군이 브레시아로 쳐들어왔을 때, 그는 어머니와 여동생과 함께 대성당으로 피했다. 프랑스 병사의 칼에 아래턱과 위턱을 다쳤고, 그 뒤로 말하기가 어려워졌다. 1537년에 나온 그의 첫 책은 포탄이 어떻게 날아가는지를 다뤘으며, 가장 이른 시기의 사격표가 실려 있었다. 그는 책 앞의 헌사에서 처음에는 이웃을 해치고 나아가 인류를 파괴할 수도 있는 기술을 완성해 가는 일이 수치스럽고 잔인하다고 생각했다고 썼다. 그래서 연구를 접었을 뿐 아니라 적어 둔 계산과 글까지 찢어 불태웠다고 했다. 나중에 늑대가 양 떼를 덮치려는 것을 보고 모든 목자가 방비에 동의하자, 더는 감추지 말아야겠다고 생각해 책을 인쇄했다는 것이다. 그 늑대는 오스만 튀르크를 가리켰다. 뒤에 등장할 카르다노는 수학 교육과 의학, 대학과 유력자들의 인맥 사이를 오갔다. 페라리에게도 공개 대결은 곧 직업상의 자산이 되었다.

16세기 이탈리아에는 오늘날처럼 하나로 정돈된 수학자의 진로가 없었다. 공개 대결은 여흥이 아니었다. 일자리를 구하는 방법 가운데 하나였다.

그러므로 왜 곧장 출판하지 않았느냐고 오늘날의 학계 규범을 들이대며 되물을 수는 없다. 1530년대의 독립적인 교사에게 공개란 모든 경쟁자에게 그 방법을 나눠 주는 일이었다. 비밀로 남겨 두면 자신만이 낼 수 있는 문제, 자신만이 풀 수 있는 기술 자산이 되었다.

2 한쪽이 남긴 글

1539년, 카르다노는 그 규칙을 갖고 싶었다.

남아 있는 자료를 보면, 연초에 두 사람은 먼저 중개인을 통해 편지를 주고받았다. 1월에 카르다노 쪽에서는 두 가지 방안을 제시했다. 타르탈리아의 이름을 밝혀 자신의 책에 규칙을 싣거나, 비밀을 지키겠다고 약속할 수 있다는 것이었다. 타르탈리아는 나중에 직접 출판할 생각이어서 처음에는 거절했다. 2월에도 편지가 오갔다. 말투는 부드러워졌다가 거칠어졌다가 했다. 카르다노는 밀라노의 한 권력자가 그를 만나고 싶어 할지도 모른다는 말도 꺼냈다. 타르탈리아는 결국 밀라노로 갔다.

타르탈리아의 훗날 설명에 따르면, 두 사람은 1539년 3월 25일 카르다노의 집에서 만났다. 그는 이 기회에 그 유력자를 만나려 했지만 뜻을 이루지 못했다. 이어 삼차방정식의 규칙을 시의 형태로 카르다노에게 전했다. 그 운문으로 된 풀이법은 실제로 글이 남아 있다. 완전한 증명이 아니라 몇 가지 유형의 삼차방정식을 다루는 절차였다. 그리고 맹세가 나온다. 이 대목에서는 출처부터 분명히 해야 한다.

지금 남아 있는 것 가운데 맹세의 전문을 담은 가장 이른 기록은 타르탈리아가 1546년에 펴낸 그 책이다. 말하는 사람은 타르탈리아다. 그가 서술하는 사건의 날짜는 1539년 3월 25일이다. 약 7년의 간격이 있다. 두 사람이 서명한 1539년의 서약서도, 중립적인 증인이 남긴 회합 기록도 현존하지 않는다.

그가 극적으로 엮은 대화에서 카르다노는 거룩한 복음과 신사의 신의를 걸고 맹세하는 사람으로 나온다. 타르탈리아에게서 들은 발견을 절대로 출판하지 않을 뿐 아니라, 암호로 적어 두어 자신이 죽은 뒤에도 다른 사람이 알아볼 수 없게 하겠다고 한다. 그러자 타르탈리아는 이렇게까지 맹세하는데도 믿지 못한다면 오히려 자신이 신의 없는 사람으로 여겨져야 한다고 말한다. 우리가 가진 것은 타르탈리아가 7년 뒤에 그 맹세를 이렇게 기록했다는 사실이다. 카르다노가 그 자리에서 실제로 무슨 말을 했는지에 대한 기록은 없다.

카르다노 쪽에서 공개한 이야기는 틀이 다르다.

1545년의 『아르스 마그나』에서 그는 타르탈리아가 자신에게 규칙을 전해 주었다고 인정했다. 그 발견을 자신의 독창적인 업적으로 둔갑시키지도 않았다. 다만 이 유형의 삼차방정식 해법을 처음 발견한 사람으로는 더 앞선 볼로냐의 교수를 들었고, 타르탈리아는 피오르와 경쟁하는 과정에서 이를 독립적으로 재발견했다고 썼다. 또 규칙을 얻은 뒤 자신이 계속 증명을 찾고 적용 범위를 넓혔으며, 페라리가 사차방정식을 완성했다고 강조했다.

이 계보는 이렇다. 델 페로가 처음 발견했고, 타르탈리아가 독립적으로 다시 발견했으며, 카르다노가 증명하고 체계화했고, 페라리가 확장했다.

시간의 앞뒤를 뒤집어서는 안 되는 대목이 있다. 『아르스 마그나』는 1545년에 나왔다. 타르탈리아가 맹세의 전문을 인쇄하기 1년 전이다. 그러므로 이 책을 맹세를 어겼다는 비난에 대한 카르다노의 답변으로 읽어서는 안 된다. 실제로 공개 반격에 나선 사람은 페라리였고, 그 시작은 1547년이었다.

카르다노는 왜 자신에게 출판할 권리가 있다고 생각했을까. 전통적으로 전해지는 이야기는 이렇다. 1543년 무렵 그는 페라리와 함께 볼로냐로 가서, 세상을 떠난 델 페로의 사위를 만났다. 남겨진 자료를 살펴보고 타르탈리아가 최초 발견자는 아니었음을 확인했다는 것이다.

오늘날 수학사 연구는 이 확인 작업의 큰 줄기를 대체로 받아들인다. 그러나 볼로냐에 도착한 정확한 날짜, 펼쳐 본 노트, 그 방에 서 있던 사람들에 관한 세부는 주로 나중의 논쟁에서 나온 설명으로 전해진다. 이것들을 모두 1545년 책의 본문 속으로 거꾸로 밀어 넣어서는 안 된다. 사위가 보관했다는 원래 노트도 오늘날 온전한 친필 기록으로 남아 있지 않다. 한 차례의 확인 작업이 누군가에게 공식을 출판할 권리가 있는지를 결정했는데, 정작 확인 대상이었던 노트 자체는 전해지지 않는다. 양쪽의 윤리적 논리는 모두 나름대로 성립한다.

카르다노 쪽의 논리는 이렇다. 자신이 지키겠다고 한 것은 타르탈리아의 비밀이다. 같은 발견을 다른 사람이 앞서 독립적으로 해낸 사실이 드러났다면, 타르탈리아가 독점적인 우선권을 갖지 못하는 결과를 영원히 독점하게 둘 수는 없다. 더구나 페라리의 사차방정식 해법은 삼차방정식의 해법을 불러와야 한다. 계속 출판하지 않는다면 페라리가 독립적으로 얻은 성과까지 묶어 두게 된다.

타르탈리아 쪽의 논리는 이렇다. 비밀을 지키겠다는 맹세는 카르다노 개인을 구속한다. 누가 더 먼저 독립적으로 발견했든, 그 개인적인 약속이 없어지지는 않는다. 후세에도 앞의 논리를 누구나 인정할 약속의 해제 조항이 아니라 윤리적인 허점을 파고든 구실로 받아들이는 경우가 많다.

1547년부터 1548년까지 페라리는 공개 도전장을 여섯 번 냈고, 타르탈리아는 답변을 여섯 번 인쇄했다. 인쇄물 열두 편과 두 사람이 주고받은 예순두 문제는 오늘날 영인·정리본으로 온전히 보존되어 있다.

그러니 이 공개 설전은 후세가 지어낸 이야기가 아니다. 열두 편은 당시 실제로 인쇄되었고, 지금도 한 글자 한 글자가 남아 있다. 마지막 만남은 통상 1548년 8월 10일 밀라노에서 있었던 것으로 본다. 수학사 연구에서는 대체로 페라리가 뚜렷한 우세를 보였고 타르탈리아가 이후 자리를 떠났다고 판단한다.

하지만 영화로 옮기기 가장 좋은 현장의 세부들은 자료가 받쳐 주지 못한다. 시민들로 가득 찬 성당, 직접 사회나 판정을 맡은 총독, 수많은 지지자를 데려온 페라리와 형제만 동행한 타르탈리아, 첫날이 끝나자 그날 밤 도시를 떠나는 장면. 중립적인 회의록 한 장을 펼쳐 놓고 하나하나 확인할 수 있는 내용이 아니다. 믿을 만한 현대의 서술은 공식 대결이 어떻게 진행되었는지에 관해 알려진 자료가 극히 적고, 그마저 주로 타르탈리아 자신이 뒤늦게 남긴 짧고 의심스러운 기록에 기대고 있다고 명시적으로 경고하기도 한다.

이 절 전체에서 말하려는 것은 사실 하나다. 인쇄가 논쟁을 뒷받침하는 증거의 형태를 바꾸었다.

전에는 누가 나에게 무슨 말을 했다는 이야기가 구전과 함께 사라졌다. 이제 비난과 모욕, 수학 문제와 날짜를 복제하고, 보내고, 보관하고, 400년 뒤에 글자 단위로 대조할 수 있게 되었다. 카르다노가 1546년에 상대의 책을 본 뒤 1545년으로 돌아가 초판을 몰래 고칠 수는 없다. 타르탈리아도 1546년의 고발을 저절로 1539년 현장에서 작성된 문서로 바꿀 수는 없다. 인쇄는 누구나 공개적으로 검증할 수 있는 시간상의 고정점을 제공했다.

그렇다고 인쇄가 오늘날의 논문 우선권 제도를 저절로 만들어 낸 것은 아니다. 원고는 여전히 인쇄보다 앞설 수 있었고, 비밀리에 구두로 전한 내용도 발견의 역사에서 증거가 될 수 있었으며, 출판자가 적어 놓은 연도는 해당 지역의 역법과 함께 읽어야 했다. 인쇄가 가져온 것은 공개적으로 비교할 수 있는 판본과 날짜의 증거다. 재인쇄와 판차, 인쇄 오류와 역법을 구별하는 일은 여전히 서지학의 몫이다.

여기서 이 분쟁의 가장 묘한 점이 드러난다.

불균형에는 또 한 겹이 있다. 욕설 섞인 공방이 잘 보존된 것은 바로 그것이 공개적인 싸움이었기 때문이다. 열두 편은 애초부터 사람들에게 읽히려고 인쇄되었다. 반면 맹세가 한쪽의 판본으로만 남은 까닭은 바로 사적인 자리에서 이루어졌기 때문이다. 공개된 다툼은 증거를 남기고, 사적인 약속은 남기지 않는다.

그래서 후대가 이 사건을 아는 방식은 한쪽으로 기울어 있다. 가장 시끄러웠던 부분이 가장 또렷하고, 가장 결정적인 부분이 가장 흐릿하다.

양쪽의 공개 설전에 대해서는 후세가 아주 많이 안다. 인쇄물 열두 편이 글자 하나까지 남아 있다. 그러나 가장 중요한 그 사적인 맹세에 대해서는, 7년 뒤 한쪽이 써 놓은 글만 있다.

3 열세 가지

『아르스 마그나』는 모두 40장으로 이루어져 있으며, 1545년 뉘른베르크에서 인쇄되었다.

이 책은 삼차방정식을 여러 종류로 나눈다. 11장부터 23장까지 열세 유형의 삼차방정식을 하나씩 다룬다. 사차방정식도 여러 형태로 나뉜다. 저자가 그것들을 오늘날처럼 하나의 식으로 쓸 수 있다는 사실을 몰라서 그런 것은 아니다.

지난 글에서 보았듯, 당시의 대수학은 양수 계수와 음수 계수를 하나의 수 체계 안에서 다루지 않았다. 오늘날에는 어떤 양을 등호 왼쪽에서 오른쪽으로 옮겨도 부호만 바뀐다. 당시에는 그것이 다른 종류의 방정식으로 넘어간다는 뜻일 수 있었다. 지난 글의 여섯 유형과 이 글의 열세 유형은 같은 벽의 서로 다른 두 면이다. 앞서 그 여섯 유형이 여섯 개의 규칙이 아니라 하나의 벽이 가진 여섯 면이라고 했다. 여기에도 같은 벽이 있다. 차수가 높아져 면이 더 많아졌을 뿐이다.

그런데 몇십 년 뒤에는 다른 무언가가 이 벽에 구멍을 낸다. 구멍은 여기가 아닌 다른 곳에 뚫린다.

이 절에서는 우선 벽을 세워 두고, 다음 절에서 그 구멍을 이야기하자.

양수와 음수 계수를 함께 쓰는 현대의 다항식을 1545년으로 곧장 투사하면, 저자가 일부러 같은 일을 반복한다고 오해하기 쉽다. 실제 사정은 정반대였다. 음수가 아직 계수 체계의 평범한 구성원이 되지 못했기에, 어느 쪽에 더하는가에 따라 식을 따로 나누어 서술해야 했다. 이 책 37장에는 유난히 유명한 대목이 있다. 문제는 지극히 간단해 보인다. 10을 두 부분으로 나누되, 두 부분의 곱이 40이 되게 하라. 실수의 범위에서는 불가능하다. 합이 10이면 곱은 커 봐야 25다.

그는 이차방정식을 푸는 방식대로 계산을 이어 가서 서로 짝을 이루는 두 대상을 얻는다. 각각 5가 있고, 여기에 마이너스 15의 제곱근에서 나온 부분이 하나는 더해지고 하나는 빼진다. 현대의 말로 쓰면 5에 마이너스 15의 제곱근을 더한 것과, 5에서 마이너스 15의 제곱근을 뺀 것이다. 여기서 정말 중요한 것은 그의 태도다. 그는 그것을 버리지 않았다.

잠시 멈춰 볼 만한 장면이다. 이 문제에는 답이 없다고 곧장 말해도 되는 자리에서 그는 계산을 계속하기로 했다. 궤변 같은 것이기는 해도 연산은 해야 한다고 말했다. 그리고 두 대상을 곱했다. 형식적인 계산을 따라가자 실제로 40이 돌아왔다.

두 부분의 합은 10이다. 그는 이 조건을 성립시켰다. 두 부분의 곱은 40이다. 이 조건도 성립시켰다. 대신 그 두 부분은 수가 아니었다.

그렇게 모든 조건을 만족하는 한 쌍을 얻었다. 다만 그것들이 무엇인지는 알지 못했다. 지난 글에서 본 ‘허구’라는 신분은 이런 순간에 만들어졌다. 문제를 해결해 주지는 않는다. 그저 문제를 일단 탁자 위에 올려 둘 수 있게 해 준다. 그런데 탁자 위에 남겨 두는 일이 나중에는 결정적인 한 걸음이었음이 드러났다. 내다 버린 것은 제 발로 돌아오지 않는다.

영어 번역에는 흔히 ‘마음의 고통을 제쳐 두고’라고 옮기는 구절이 있다. 이로 인해 생기는 정신적인 고문은 접어 두고, 곱셈을 계속하자는 뜻이다. 끝에 붙은 유명한 평은 이렇다. 이 산술의 정묘함은 마침내 더없이 정묘한 데 이르렀으며, 동시에 더없이 쓸모없는 데 이르렀다는 것이다. 그의 행동은 그의 평보다 훨씬 앞서 있었다. 입으로는 쓸모없다고 하면서, 손은 이미 대수의 규칙을 따라 계산을 끝냈다.

이와 똑같은 몸짓이 지난 글에도 한 번 나왔다. 누군가는 음수를 허구라고 부르면서 동시에 방정식을 다루는 기술 속에 넣었다. ‘허구’라는 말은 대상을 쫓아내는 말이 아니었다. 남아 있어도 되는 신분을 마련해 주는 말이었다. 여기서는 ‘궤변’이 같은 일을 한다.

다만 흔히 엉뚱한 자리에 놓이는 이야기가 하나 있다. 10을 두 부분으로 나누는 이 예는 이차 문제다. 카르다노가 음수의 제곱근을 써서 이미 삼차방정식을 풀었다는 사례가 아니다. 그 벽은 다른 곳에 있었고, 그는 일찍부터 거기에 부딪혔다. 그것도 규칙을 손에 넣은 지 얼마 되지 않았을 때였다. 비밀 병기를 막 얻은 사람이 어떤 곳에서는 그것이 걸려 버린다는 사실을 알아차렸는데, 정작 병기를 건네준 사람은 당신이 잘못 다뤘다고 말한 셈이다.

타르탈리아가 나중에 공개한 1539년의 편지를 보면, 카르다노는 운문으로 된 풀이법을 받은 지 얼마 지나지 않아 여러 예를 넣어 규칙을 시험했다. 그중 하나는 현대의 기준으로 보면 바로 가장 곤란한 유형에 속한다. 그는 타르탈리아에게 의문을 제기했다. 돌아온 답장은 카르다노의 조작에 문제가 있다는 내용이었고, 타르탈리아는 점점 더 강한 후회와 경계심을 드러냈다. 다시 말해 카르다노는 이미 1539년에 그 규칙이 막히는 지점에 부딪혀 있었다.

그런데 1545년의 책에 관해 대중적인 수학사에서 자주 틀리게 쓰는 사실이 있다. 삼차방정식을 다룬 장들에서 그는 이런 대상을 사용해 그 유형의 문제를 끝까지 풀어내지 않았다. 책에는 오늘날의 관점에서 세 실근을 갖는 삼차방정식이 분명히 있다. 하지만 자신의 근호 계산 규칙을 적용하면 제곱근 안에 음수가 나올 수밖에 없는 경우에는, 그 공식을 따라 더 나아가지 않았다.

그러므로 세 가지를 구별해야 한다.

그는 벽이 있다는 것을 알았다. 다른 문제에서는 손을 뻗어 벽 너머의 연산을 만져 보기도 했다. 그 연산을 삼차방정식의 그 경우로 체계적으로 가져온 사람은 따로 있었다.

4 기약인 경우

이제 그 벽이 무엇인지 분명히 해 보자. 여기서는 기호가 하나도 필요 없다. 먼저 일반적인 삼차방정식에서 변수를 바꾸어 제곱항을 없앤다. 이 방법의 핵심은 최종 답을 곧바로 짐작하는 데 있지 않다. 구하려는 근이 두 보조량의 합으로 나뉜다고 가정하는 데 있다.

식을 정리하면 두 보조량은 두 조건을 동시에 만족해야 한다. 둘을 곱한 값이 원래 방정식으로 결정되고, 각각을 세제곱해 더한 값도 원래 방정식으로 결정된다.

그러면 문제가 한 단계 내려온다. 두 세제곱의 값은 마침 보통의 이차 문제 하나에서 나오는 두 답이다.

여기서 길이 갈라진다.

원래의 삼차방정식에 실근이 하나뿐일 때는 이 보조적인 이차 문제가 대개 두 실수를 내놓는다. 각각의 세제곱근을 구한 다음 더하면 된다. 모든 과정이 여전히 실수 안에서 이루어진다.

반면 원래 삼차방정식의 실근이 서로 다른 세 개일 때는 보조 이차 문제의 판별 상황이 정확히 뒤집힌다. 두 답이 더는 실수가 아니다. 그것을 계산하려면 먼저 음수의 제곱근을 구해야 한다. 마지막에 찾으려는 세 답은 분명 모두 실수선 위에 있는데, 근호를 따라가는 길은 도중에 어쩔 수 없이 실수선을 벗어난다. 계산하다 우연히 생긴 사고도 아니고, 더하기와 빼기 부호를 잘못 고른 것도 아니다. 방향을 바꿔 보아도 소용없다. 이 길을 따라가려면 달리 갈 곳이 없다.

두 중간량은 오늘날 말하는 켤레 한 쌍을 이룬다. 각각에서 적절한 세제곱근을 택하면 다시 한 쌍의 양이 나온다. 둘을 더할 때 실수가 아닌 부분이 서로 지워져 실수가 돌아온다. 서로 맞물리는 다른 두 조합의 세제곱근을 택하면 나머지 두 실근도 얻는다. 실수가 아닌 중간량은 답을 오염시키지 않는다. 오히려 세 개의 참된 답을 한꺼번에 담아 부호화하는 구조다.

이 경우의 가장 극적인 지점은 세 문장에 담겨 있다.

이 문제에는 가짜 답이 없다. 세 답은 모두 참되다. 그런데 당시의 최신 대수적 일반 해법으로 그 답들에 닿으려면, 아직 합법적인 신분이 없는 대상을 통과해야 한다. 지난 글의 음수는 빚과 방향에서 자라났다. 적어도 가리킬 수 있는 반대편이 이미 있었다. 이쪽은 아무것도 가리킬 수 없다. 그런데 그것을 쓰지 않으면 답도 얻을 수 없다. 더 정확히 말하면, 그것을 쓰지 않고서는 그 길로 답을 얻을 수 없다. 이 단서가 중요하다. 다음 대목에서 다룰 것이다.

이 말에도 경계가 있다.

그 공식에서 서로 다른 세 실근이 나오는 경우 음수의 제곱근이 등장한다는 말은 옳다. 하지만 어떤 방법을 쓰더라도 반드시 이런 대상이 필요하다고 말하면 너무 강하다. 훗날에는 삼각함수를 써서 실수의 범위 안에서만 이 근들을 나타낼 수 있게 된다.

더 엄밀한 진술은 19세기에야 나온다. 계수가 유리수인 삼차다항식이 유리수 범위에서 기약이고, 동시에 세 실근을 갖는다면, 실수 범위의 보통 제곱근과 세제곱근만으로 그 근들을 표현할 수 없다. 이 증명은 1843년에 나왔다. ‘기약’이라는 조건을 빼서는 안 된다. 삼차식에 이미 유리근이 하나 있다면 먼저 인수분해할 수 있다. 그러면 물론 그 길을 피해 갈 수도 있다.

그러므로 실제 사정은 이렇다. 그 유형의 경우에 당시의 그 길을 따라가려면 반드시 이것을 지나야 했다. 그 길은 당시에 새로 얻은 중요한 대수적 일반 해법이었지만, 근을 구하는 온갖 방법 가운데 유일한 길은 아니었다. 같은 부류의 다른 길로 바꿔도 피해 갈 수 없다는 사실은 300년 뒤에야 증명되었다.

5 어느 기술자

이 일을 해낸 사람은 라파엘레 봄벨리다. 1526년 볼로냐에서 세례를 받았고, 1572년에 세상을 떠났다.

봄벨리는 대학의 수학 교수가 되는 길을 걷지 않았다. 그가 자란 세계는 공학과 측량, 치수 사업의 세계였다. 건축가이자 기술자인 스승 밑에서 배웠고, 그 스승은 교황청의 재정 기관을 위해 배수와 토지 공사를 한 사람이었다.

봄벨리가 맡은 사업 가운데 자료가 가장 풍부하게 남은 것은 토스카나의 한 습지와 토지를 정비한 일이다. 1549년 무렵 후원자가 개발권을 얻었고, 1551년에는 이미 봄벨리가 토지 경계를 기록하고 공사 업무에 참여했다는 문서가 있다. 사업은 1555년 무렵 중단되었다가 재개되어, 1560년 전에 중요한 단계를 마쳤다. 이 일들로 그는 치수 기술자로 이름을 얻었다. 1561년에는 로마에서 테베레강의 다리 하나를 복구하려는 시도에도 참여했고, 뒤에는 다른 습지의 배수 사업에 자문을 하기도 했다.

그를 단순히 아마추어 수학자라고 부르면 오히려 가장 중요한 점을 놓친다. 땅과 물길, 경계와 공사 현장으로 생계를 꾸리던 사람이 16세기에 가장 대담한 추상대수학 저술 가운데 하나를 썼다.

이 두 사실 사이에 뚜렷한 인과관계가 있는 것은 아니다. 억지로 찾아낼 필요도 없다. 다만 이 정도는 말할 수 있다. 날마다 습지의 경계를 정해야 하는 사람이라면, 무언가가 정말 그곳에 있다는 말이 무엇을 뜻하는지 나름의 기준을 갖고 있었을 법하다.

그 책도 1572년에 갑자기 쓰인 것은 아니다. 공사가 잠시 멈춘 1550년대 중반에 집필을 시작했고, 1557년 무렵에는 이미 쓰고 있었다. 애초의 구상은 다섯 권이었다. 1572년에 먼저 세 권이 출판되었다. 뒤의 두 권, 기하학 부분은 정식으로 출판되지 않았다. 미간행 원고는 1923년에야 다시 발견되었고, 1929년에 정리되어 나왔다. 봄벨리 자신도 독자들이 그가 미친 짓을 한다고 여길 것임을 알고 있었다.

그 유형의 삼차방정식을 논하면서 그는 많은 사람이 자신의 생각을 기괴하고, 무모하고, 관례를 벗어난 것으로 여길 것이라고 말했다. 자신도 처음에는 이것이 참되기보다는 궤변에 가깝다고 생각했음을 인정했다. ‘궤변’은 27년 전 카르다노도 썼던 말이다.

그는 독자에게 경고도 했다. 이 부분에서는 정신의 힘을 최대한 쏟아야 하며, 그렇지 않으면 아주 쉽게 미혹된다는 것이다. 27년 전의 그 사람은 마음의 고통을 제쳐 두자고 했다. 27년을 사이에 둔 두 사람이 같은 부류의 말을 썼다.

이 점은 겉보기보다 중요하다. 두 사람은 서로 다른 편에 서 있다. 한 사람은 쓸모없다고 했고, 다른 사람은 규칙을 세웠다. 그런데 그것과 마주한 마음의 상태를 말할 때는 같은 어휘를 쓴다. 그것이 사람에게 주는 느낌은 27년 동안 달라지지 않았다. 차이는 뒤의 사람이 멈추지 않았다는 데 있다. 그는 거듭 연구한 끝에 일관된 연산과 증명을 줄 수 있음을 알아냈고, 계속 나아가기로 했다. 그가 한 일은 세 단계로 나눌 수 있다.

첫째, 그는 음수의 제곱근을 고장 난 보통의 근호처럼 취급하지 않았다. 두 기본 대상에 별도의 이름을 붙였다. 직역하면 대략 ‘마이너스의 플러스’와 ‘마이너스의 마이너스’다. 훗날의 허수단위에 각각 플러스와 마이너스 부호를 붙인 것에 대략 해당하지만, 물론 그는 오늘날의 문자 기호를 쓰지 않았다.

둘째, 연산 규칙 한 벌을 마련했다. 보통의 양수와 음수, 그리고 이 두 대상을 서로 곱하면 무엇이 나와야 하는가. 같은 방향끼리 곱하면 보통의 음수가 되고, 한쪽과 반대쪽을 곱하면 보통의 양수가 된다. 더하거나 뺄 때는 보통 부분끼리 모으고, 그 특별한 부분은 같은 종류끼리 모은다. 다시 말해 그는 처음으로 이 대상들을 그저 용인하는 데서 그치지 않고 곱셈표를 주었다.

곱셈표를 주는 일과 정의를 주는 일은 다르다. 정의는 그것이 무엇인지 답해야 한다. 곱셈표는 그것을 어떻게 계산하는지만 답한다. 그가 준 것은 후자였다. 그 뒤 200여 년 동안 사람들은 그것으로 계산하는 한편, 앞의 질문에도 답하려 애썼다.

이 구분은 이 연재에 이미 등장했다. 5편의 그 주석가는 구의 부피 앞에서 멈췄다. 계산법조차 아직 없었기 때문이다. 여기서는 거꾸로다. 계산법이 있고, 믿을 만하기까지 하다. 없는 것은 대상이다.

셋째 단계가 이 역사의 핵심이다. 봄벨리는 실근이 4라는 사실이 이미 알려진 예를 골랐다. 그 방법대로 계산하면 도중에 실수가 아닌 양 한 쌍이 나오며, 각각의 세제곱근을 다시 구해야 한다. 앞의 문제는 바로 여기서 걸렸다. 음수의 제곱근만 해도 기묘한데, 음수의 제곱근을 품은 수의 세제곱근은 어떻게 구한단 말인가. 그는 대담한 가정을 했다. 그 복잡한 세제곱근 자체도 보통의 수 하나에 같은 종류의 단순한 대상을 더한 꼴로 쓸 수 있지 않을까.

그다음에는 직관만 믿고 억지로 짐작하지 않았다. 가정한 식 전체를 세제곱하고, 자신이 마련한 연산표에 따라 전개한 뒤, 보통 부분과 실수가 아닌 부분을 항목별로 비교했다. 그러자 한쪽의 세제곱근은 2에 그 대상 한 단위를 더한 꼴로 쓸 수 있었다. 다른 쪽은 정확히 그 짝이었다. 2에서 같은 대상을 뺀 꼴이었다. 둘을 더하니 실수가 아닌 부분은 완전히 사라지고, 정확히 4가 남았다.

이 단계의 설득력은 답이 맞았다는 데 있지 않다. 답이 4라는 것은 애초에 알고 있었다. 설득력은 처음부터 끝까지 모든 단계가 자신이 정한 규칙대로 진행되었고, 중간 어디에서도 별도의 허가가 필요하지 않았으며, 마지막에는 계산이 스스로 매듭지어졌다는 데 있다.

이렇게 처음으로 한 가지가 뚜렷하게 모습을 드러냈다.

음수의 제곱근은 오류의 표시가 아니다. 중간 결과는 실수가 아닐 수도 있다. 그런 두 중간 결과가 대수의 규칙을 온전히 따른다. 그리고 마지막에는 둘이 함께, 실제로 존재한다는 것을 이미 아는 실근 하나를 내놓는다. 봄벨리가 현대의 복소수 이론을 제시한 것은 아니다. 복소평면도, 현대적인 수체의 정의도 없었다. 그가 보여 준 것은 관념의 역사에서 더 실질적인 다른 사실이었다. 이 대상들로 쉽게 무너지지 않는 계산 언어를 이룰 수 있다는 것.

‘쉽게 무너지지 않는다’는 말이 중요하다. 새로운 대상은 어디서 가장 쉽게 죽는가. 아무도 믿어 주지 않아서가 아니라, 계산하다 어느 단계에서 자기모순에 빠져 죽는다. 봄벨리는 일련의 규칙과 성공적인 계산 예로 그런 의심을 크게 줄였다. 그렇다고 후대의 의미에서 체계 전체의 무모순성을 증명한 것은 아니다. 대상을 체계적으로 해석하는 일은 아직 남아 있었다. 한편 당시 이 책을 읽은 사람이 얼마나 되었는지는 숫자로 말할 수 없다. 믿을 만한 초판 인쇄 부수도, 판매 장부 한 권도 전해지지 않는다.

수용의 역사 자체에도 논쟁이 있다. 한쪽 전통은 이 책의 중요성을 크게 강조한다. 연산 체계가 이미 매우 완성도 높았고, 훗날 중요한 수학자들이 읽고 높이 평가했기 때문이다. 다른 전통은 16세기와 17세기에 이 책이 실제로 얼마나 퍼졌고 직접 어떤 영향을 미쳤는지를 보면, 후세의 고전적 지위가 떠올리게 하는 만큼 크지는 않았다고 지적한다.

그러니 실제로 일어난 일은 이렇다. 1572년에 봄벨리가 해낸 일 때문에 유럽 수학계가 이튿날부터 이 대상들을 집단으로 인정한 것은 아니다. 책이 존재했다는 것은 입증할 수 있다. 훗날 중요한 수학자들이 읽었다는 것도 입증할 수 있다. 그러나 후대의 명성을 거꾸로 대입해 1570년대에 방대한 독자층이 있었다고 추론할 수는 없다. 발명과 수용은 나누어 보아야 한다. 책은 아직 독자를 얻기 전에도 이미 옳을 수 있다.

6 250년

1572년부터 19세기 초까지를 가장 정확하게 요약하는 말은 ‘이 대상들이 250년 동안 거부당했다’가 아니다. 사용이 먼저였고, 그 존재를 두고 마음을 놓게 된 것은 나중이었다.

수학자들은 음수의 제곱근을 형식적 도구로 점점 더 자주 사용했다. 17세기와 18세기에 방정식론, 로그, 삼각함수, 무한급수가 그것을 더 많은 계산 속으로 끌어들였다. 어느 단계에 이르면 해석학의 어떤 계산들은 이것 없이 하는 편이 오히려 더 번거로워졌다. 1748년 오일러가 복소 매개변수를 통해 지수함수와 삼각함수를 이어 준 것은 그 유명한 이정표다. 그러면서도 이것이 대체 무엇인지에 대해서는 여전히 불안이 남았다.

그러니 같은 수학자가 한 페이지에서는 그것을 ‘불가능한 것’이라 부르고, 다음 페이지에서는 능숙하게 활용하는 일이 얼마든지 가능했다. 논리적으로 인격이 분열된 것이 아니다. 근대 초기 수학에서는 연산의 정당성과 대상이 존재할 자격이 아직 하나로 묶이지 않았다는 사실이 드러난 것이다. 지난 글 7절에서도 같은 이야기를 했다. 그때 대상은 음수였다. 이번의 회색 지대는 더 길고 더 어둡다. 이름은 1637년에 등장한다.

데카르트는 『기하학』 제3권에서 방정식의 근을 논하며, 이른바 참근과 거짓근이 언제나 실재하는 것은 아니며 때로는 그저 상상된 것이라고 썼다. 방정식의 차수만큼 많은 근을 상상할 수는 있지만, 그 상상한 것에 대응하는 양이 하나도 없을 때가 있다는 말이었다.

따라서 이 말은 처음 쓰인 맥락부터 분명 격하하는 뜻을 품고 있었다. 실재하는 것과 대비되어, 상상할 수는 있지만 그에 대응하는 양까지 있는 것은 아니라는 뜻이었다.

이 대비를 똑바로 보아야 한다. 그는 그것이 틀렸다고 말하지 않았다. 계산해도 결과가 나오지 않는다고 하지도 않았다. 대응하는 양이 없다고 했다. 수가 반드시 어떤 양이어야 하는 체계에서는, 이 말이 곧 그것은 수가 아니라는 말이다.

다만 그가 순전히 욕하려고 이 말을 썼다고 하면, 그것도 조금은 현대의 감각을 과거에 들이대는 셈이다. 더 정확하게 말하면 그의 맥락에서 이 단어는 존재론적 지위가 충분하지 않다는 뜻이다. 찬사는 아니다. 그 폄하의 힘은 상상만 있고 대응하는 양은 없다는 대비에서 나오지, 감정 섞인 욕설에서 나오지 않는다.

이것은 이 글의 제목이 역사적으로 정확한 이유이기도 하다. 처음에는 수학자의 상상력이 새로운 세계를 창조했다는 후세의 낭만적인 찬사가 아니었다. 오히려 이런 말에 가까웠다. 그런 근이 있다고 상상할 수는 있다. 하지만 실제로 그에 해당하는 양은 없다.

1685년에 월리스는 이미 이런 양의 기하학적 해석을 찾고 있었다. 방향 있는 선분과 기하학적 비례에서 출발해, 음수의 제곱근을 평면의 수직 방향에 놓고 이해해 보려 했다. 그는 글의 첫머리부터 이런 양이 흔히 ‘상상된 양’이라고 불린다고 말한다. 이 무렵에는 그 용어가 영어의 수학 언어에도 들어왔다는 뜻이다. 지난 글에서 양방향의 직선을 그리면서도 음수가 무한 너머의 영역이라고 믿었던 사람이 바로 그다.

그런데 왜 보통 그를 복소평면의 창시자라고 하지는 않을까. 후대와 같은 완전한 일대일 대응을 세우지 못했기 때문이다. 음수의 제곱근 하나를 수직으로 놓인 선 하나로 나타낼 수 있다는 것만으로는 부족하다. 실수 부분과 실수가 아닌 부분으로 이루어진 모든 수를 평면 위의 점이나 방향 있는 선분에 대응시키고, 덧셈과 곱셈, 길이와 회전각이 모두 대수 연산과 맞아떨어지게 해야 한다. 그에게는 핵심적인 기하학적 직관이 있었지만, 이렇게 완결된 체계를 만들지는 못했다.

수학사에는 이 구분이 거듭 나타난다. 무엇의 생김새를 알아보는 것과 그것을 완전한 대응 관계 안에 자리 잡게 하는 것 사이에는 큰 거리가 있다.

라이프니츠는 이런 양을 많이 사용했고, 그것이 존재와 비존재 사이에 놓여 있다는 기묘한 표현도 남겼다. 이런 태도는 계산을 거부한 것이 아니다. 그것이 무엇인지 너무 일찍 답하기를 거부한 것이다.

허수단위를 나타내는 문자는 집필 시점과 출판 시점을 구별해야 한다. 이 기호를 체계적으로 사용하기 시작한 공은 보통 오일러가 1777년에 완성한 논문에 돌린다. 그러나 그 논문은 1794년에야 출판되었다.

그렇다고 오일러가 그때부터 실수를 전혀 하지 않은 것은 아니다. 18세기에는 아직 현대적인 가지 선택 규칙이 확립되지 않았다. 그는 때때로 음이 아닌 실수에만 안심하고 적용할 수 있는 제곱근 규칙을 두 음수에 그대로 옮겨 쓰다가 부호를 잘못 얻기도 했다.

그러니 앞사람들은 계산할 줄 몰랐고 오일러가 나타나자 모든 것이 정확해졌다는 식으로 역사를 써서는 안 된다. 몇몇 부호 규칙에서는 봄벨리가 오히려 대단히 조심스러웠다.

무언가에 익숙해질수록 다른 곳에서 가져온 규칙을 거기에 잘못 적용하기 쉽다. 반대로 낯설면 한 단계마다 멈춰 서서 생각하게 된다. 그것을 처음으로 제대로 그려 낸 사람은 측량사이자 지도 제작자였다.

그는 1797년 덴마크 왕립과학원에 논문을 제출했고, 1799년에 덴마크어로 출판했다. 방향과 길이를 갖는 유향선분을 이런 양과 체계적으로 연결했다. 덧셈은 선분의 끝에 다음 선분의 시작을 이어 붙이는 것에 해당한다. 곱셈에서는 길이끼리 곱하고 방향각끼리 더한다. 이것은 이미 현대의 복소평면에 매우 가까웠다. 그런데 이 사람은 옳은 발견과 수용이 같은 일이 아니라는 사실을 보여 주는 더없이 좋은 반례도 제공했다.

그의 논문은 국제적인 독자들이 거의 눈길을 주지 않던 덴마크 과학원의 간행물에 실렸다. 언어마저 덴마크어였다. 논문은 거의 한 세기 동안 잠들어 있었다. 19세기 말 덴마크의 수학사 연구를 통해서야 다시 주목받았고, 1897년에 프랑스어 번역본이 나온 뒤 비로소 국제적으로 우선권을 인정받았다.

1806년에는 다른 사람이 독립적으로 작은 책 한 권을 인쇄해, 이런 양을 평면기하학으로 나타냈다. 그는 이름난 대학 교수가 아니었고, 초판도 사적으로 소규모로 낸 것이어서 처음부터 큰 반향을 일으키지는 못했다. 1813년 무렵 관련 내용이 한 수학 연보를 통해 다시 공개적인 논의에 들어왔다. 이를 계기로 그의 방법은 앞의 사람보다 더 직접적으로 프랑스의 수학계에 전해졌다.

가우스의 경우가 가장 복잡하다. 그는 1799년 박사학위 논문에서 이미 대수학의 기본정리를 다루며 이 세계 가까이 다가갔다. 관련된 기하학적 직관도 일찍부터 분명 갖고 있었다. 하지만 정말 공개적이고 명시적인 선언은 1831년에 나왔다. 그 글에서 그는 실수인 정수 하나에 또 다른 실수인 정수와 허수단위의 곱을 더한 꼴의 대상을 산술 그 자체의 대상으로 삼았다.

1830년대에 해밀턴은 기하학적 해석을 보완하는 다른 길을 걸었다. 마이너스 1의 제곱근이 대체 어디에 존재하는지 묻기보다, 애초부터 이런 수를 두 실수로 이루어진 순서쌍으로 정의하자는 길이었다.

그는 1833년 무렵 이 생각을 제시했고, 1837년에 완성된 형태로 발표했다. 이런 두 순서쌍을 더할 때는 첫째 성분끼리, 둘째 성분끼리 더하면 된다. 곱셈은 둘째 방향의 단위를 자기 자신과 곱하면 정확히 마이너스 1이 되도록, 특별한 순서쌍의 곱으로 정의한다. 그러면 이른바 허수단위는 먼저 신비한 제곱근으로 존재해 줄 필요가 없다. 그저 순서쌍 체계 안의 특정한 원소일 뿐이다.

이것은 수직축 하나를 그리는 일보다 한 층 더 깊다. 기하학이 그것을 어떻게 볼 수 있는지 알려 준다면, 이런 구성은 이미 받아들인 실수와 명확한 연산 규칙만으로 그것을 만들어 낼 수 있음을 알려 준다. 그렇다면 기하학적 해석은 수용의 원인이었을까, 수용 뒤에 따라온 결과였을까. 물어볼 가치가 있는 질문이다. 대중적인 서술은 거의 한결같이 이렇게 쓰기 때문이다. 모두가 믿지 않았는데, 나중에 누군가 복소평면을 그렸고, 그때부터 모두가 믿었다.

연표 자체가 이 단선적인 인과관계를 반박한다. 봄벨리는 1572년에 이미 계산하고 있었고, 월리스는 1685년에 해석을 시도했으며, 18세기에는 이것이 삼각법과 해석학의 핵심 연산에 들어와 있었다. 모두 완전한 평면 표현이 등장하기 전에 일어난 일이다. 반대로 그 측량사는 그려 냈다는 사실만으로 수용이 저절로 이루어지지 않음을 보여 주었다. 그의 완전한 기하학적 설명은 거의 한 세기 동안 외면당했다.

그러므로 오늘날의 수학사 연구에 더 잘 들어맞는 설명은 이렇다. 기하학화는 오랫동안 사용한 결과이면서, 동시에 그 지위를 더 확고하게 만든 원인 가운데 하나다. 먼저 200여 년 동안 계산이 되었다. 그 뒤 차츰 그릴 수 있고, 정의할 수 있고, 하나의 완전한 수 체계의 구성원으로 삼을 수 있다는 여러 답을 얻었다. 이 순서는 지난 글에서 본 음수의 경우와 거의 같다. 다만 더 오래 걸렸고, 그 사이의 200년이 더 어두웠다.

음수는 빚과 방향 같은 설명을 빌릴 수 있었다. 실수가 아닌 양에도 이 200여 년 동안 기하학적 설명을 붙이려는 시도가 있었다. 그러나 널리 받아들여지면서 체계적으로도 서로 맞물리는 해석은 아직 마련되지 않았다.

7 정방향, 역방향, 옆방향

1831년, 가우스는 그 글에서 한 가지 불만을 털어놓았다.

그는 과거에 ‘양’, ‘음’, ‘상상’, 심지어 ‘불가능’ 같은 어색한 말을 쓰는 대신, 세 기본 방향을 가령 정방향, 역방향, 옆방향의 단위로 생각했더라면 이 대상들을 둘러싼 신비로운 어둠은 거의 생기지 않았을 것이라고 말했다.

다시 말해 1831년에는 이미 유럽에서 가장 권위 있는 수학자 가운데 한 사람이 지적하고 있었다. 문제의 일부는 이 양들이 너무 터무니없다는 데 있지 않았다. 수학자들이 붙인 이름이 줄곧 터무니없는 것이라는 암시를 주었다는 데 있었다.

지난 글의 마지막 절에서 보았듯, 많은 언어에서 음수의 첫 이름은 중립적인 분류명에서 나오지 않았다. 손실, 부족, 빚, 부정, 뺄셈, 반대 방향에서 나왔다. 나중에 대상은 형식적으로 동등한 지위를 얻었지만, 옛 이름은 그대로 남았다.

이번의 이름은 지난번보다 더 눈에 거슬린다. 이것은 생각으로 지어낸 것이라고 대놓고 말하기 때문이다. 그리고 이 이름들은 구별해야 한다. 한데 섞어 목록 하나로 만들어서는 안 된다. ‘궤변적인 것’은 1545년 카르다노에게서 나온다. 봄벨리도 나중에 같은 말을 써서, 자신도 처음에는 이것이 궤변에 더 가깝다고 생각했다고 했다. ‘상상된 것’은 1637년 데카르트에게서 나온다. 훗날 실제로 굳어진 이름은 이것이었다.

‘불가능한 것’은 17세기와 18세기에 점차 흔해졌다. 가우스는 1831년에 옛 용어를 돌아보면서 ‘상상된 것’과 ‘심지어 불가능한 것’을 함께, 어둠을 불러온 오래된 이름으로 꼽았다. ‘터무니없는 것’은 조심해서 다루어야 한다. 지난 글에서 살펴본 전통에서 ‘터무니없는 수’는 주로 음수나 음의 해를 가리켰다. 완성된 개념으로서의 순허수를 뜻한 것이 아니다. 15세기 수학자들이 허수를 ‘터무니없는 수’라고 불렀다고 하면, 음수가 받아들여진 역사를 이 글의 수용사로 슬쩍 바꿔치기하는 셈이다.

다만 이 구분 자체로도 좋은 역사적 진술 한 문장을 만들 수는 있다. 음수조차 여전히 터무니없다고 불리던 때에, 음수의 제곱근이 앉을 자리가 미리 마련되어 있었을 리 없다. 그렇다면 나중에라도 이 이름을 바꾸지 않은 이유는 무엇일까.

어느 수학자 대회가 표결로 이 나쁜 이름을 유지하기로 결정한 것은 아니다. 더 그럴듯한 설명은 용어의 관성이다. 이 이름이 철학적으로 잘못된 인상을 준다는 점을 충분히 깨달았을 무렵에는, 이미 각국의 교과서와 실수부·허수부, 실수축·허수축, 방대한 전문 문헌 속에 깊이 들어가 있었다. 전문 용어는 일단 자리를 잡으면 더 이상 일상 언어의 글자 뜻에만 매이지 않는 경우가 많다.

게다가 이름을 바꾸는 일은 애초에 수학 문제가 아니다. 바꾸려면 교과서를 손보고, 기호를 손보고, 수십 개 언어에서 이미 짝을 이룬 단어들을 손봐야 한다. 얻는 것은 오해 하나의 제거이고, 치르는 비용은 이미 돌아가는 체계 전체의 재배열이다. 이 거래를 맡아 할 사람이 없었다. 한편 중국어 쪽으로 오면, 이 글은 한 군데를 비워 두어야 한다.

확인할 수 있는 자료에서는 ‘虚数’라는 두 글자를 어느 중국어 번역자가 어느 해, 어느 책에서 처음 용어로 정했는지 확정할 만한 증거를 찾지 못했다.

안전하게 확인할 수 있는 것은 이 정도다. 현대 중국어에서 허수는 실수와 짝을 이루며, 일본어의 같은 용어와 한자 형태가 같다. 청나라 말기와 메이지 시기에 걸쳐 중국과 일본 사이에서는 서양 학문의 용어가 양방향으로 대량 이동했다.

그러나 글자 모양이 같다는 사실만으로 반드시 일본이 먼저 만든 뒤 중국으로 전했다고 입증할 수는 없다. 19세기 중엽 중국에는 이미 서양 대수학을 번역하는 활동이 있었다. 지난 글에서 언급한 사람들이 낸 수학 번역서는 청말에 일본의 새 용어를 대규모로 받아들이기 전의 책들이다. 따라서 이 용어는 특히 책마다 초판을 직접 확인해야 한다. 일본어 한자어처럼 보인다는 이유로 출처를 거꾸로 추론할 수는 없다. 지난 글에서도 비슷한 빈칸 두 곳을 남겼다. 음수를 가리키는 다른 번역어가 경쟁한 적이 있는지, 그리고 중국어 용어 ‘相反数’의 유래가 무엇인지였다.

두 글에 남은 이 네 군데의 빈칸은, 그럴듯하게 완성된 계보로 채우기보다 찾지 못했다고 쓰는 편이 낫다.

그래도 말할 수 있는 것은 하나 있다. ‘虚’라는 글자는 단순한 상상보다 한 발 더 나아간다. 비어 있음, 실재하지 않음, 아직 실재로 있지 않다는 고전 중국어의 빛깔을 품고 있다. 유럽의 원래 단어가 지나온 폄하의 역사를 이 한자는 아주 정확하게 받아 냈다. 부정확한 번역어는 대개 쓰이는 동안 닳아 없어지기 마련이다. 이 번역은 원래 단어의 흠까지 함께 옮겨 올 만큼 정확했다.

8 그곳을 지나서

이 글과 지난 글을 나란히 놓으면 두 대상이 수학에 들어온 방식이 완전히 다르다는 것을 알 수 있다.

음수는 밀려 들어왔다. 계산 과정의 중간에 자연스럽게 나타났고, 장부에는 그에 대응하는 현실이 있었으며, 방향에서는 손가락으로 가리킬 반대편이 이미 있었다. 다툼의 대상은 쓸모가 있는지가 아니라 수가 될 자격이 있는지였다. 이번의 대상은 들어올 수밖에 없도록 내몰렸다.

아무도 그것을 원하지 않았다. 어디에도 그에 대응하는 양이 없었다. 데카르트가 이름을 붙일 때 분명히 한 말도 바로 그것이었다. 이것에 대응하는 양은 없다는 것.

하지만 앞에서 본 기약 삼차방정식에서는 세 답이 모두 실수인데, 근호를 따라 답을 찾아가려면 반드시 여기를 지나야 했다. 허수가 수학자에게 가짜 근을 찾아 준 것이 아니다. 정반대로, 허수는 먼저 세 실근으로 가는 길의 중간 구간으로 나타났다. 이 모양은 기억해 둘 만하다. 앞의 여러 글에서 본 것과 다르기 때문이다.

3편의 그 빈틈은 한눈에 보이는 그림 속에 숨어 있었다. 4편의 그 자기 서술은 당사자가 스스로 적어 놓았다. 7편의 그 대상에는 저항하는 사람도, 변호하는 사람도 있었고, 저항에는 논증이 있었다.

이번의 대상은 신분이 아직 정해지지 않은 경유지와 같다. 하필 그 근호의 길이 이곳을 지난다. 지난 글의 대상은 적어도 빚 한 건을 가리키며 내가 바로 이것이라고 말할 수 있었다. 이번 것은 아무것도 가리킬 수 없다. 게다가 이 경유지는 목적지도 출발점도 아니다. 길 한가운데 있다. 들어갔으면 나와야 하고, 나오고 나면 그것은 사라져 버린다.

그래서 음수보다 변호하기가 더 어렵다. 음수는 적어도 답 안에 남아, 사람들이 그것을 가리키며 이것이 무엇이냐고 물을 수 있다. 이번 것은 남아 있지도 않는다. 도중에만 나타났다가 마지막에 스스로 사라지는 것의 존재를 어떻게 논증할 것인가. 200여 년 동안 부분적인 설명을 내놓는 사람은 끊이지 않았고, 그것을 사용하는 수학자도 점점 늘어났다. 그러나 체계적인 해석과 보편적인 수용이 함께 찾아오지는 않았다. 마지막에 얻은 세 답에는 그것의 흔적이 조금도 없다. 200여 년 동안 쓰이는 사이, 그것에 관한 설명도 조금씩 자라났다. 다만 한 사람이 안심하고 계산한다고 해서 다른 사람도 안심하는 것은 아니었다.

계산할 수 있다. 계산하면 맞는다. 몇 번을 계산해도 맞는다. 그래도 계산을 마치면 그 질문이 남는다. 대체 무엇인가. 200여 년 동안 연산은 멀리 나아갔지만, 설명과 인정이 같은 보폭으로 따라오지는 않았다.

지난 글의 끝에서 이런 말을 인용했다. 수학은 먼저 계산은 되지만 설명은 할 수 없는 것들을 만들어 내고, 뒤늦게 돌아와 정의를 넓혀 그것들을 받아들인다. 이 말을 한 사람은 19세기에 살았다. 그가 본 가장 좋은 예가 바로 여기 있다. 먼저 봄벨리가 곱셈표를 주어, 적어도 그것이 쉽게 무너지지는 않는다는 것을 보여 주었다. 낮에는 습지에서 토지의 경계를 기록하던 사람이었다. 그다음 누군가 그것을 그려 보려 했다. 하지만 그려 낸 사람은 100년 동안 외면당했다.

그다음 누군가는 그것을 두 실수로 이루어진 순서쌍으로 정의했다. 이제는 먼저 신비한 제곱근으로 존재할 필요가 없어졌다.

문제의 일부가 이름에 있다고 지적한 사람도 있었다. 그 이름은 지금도 바뀌지 않았다. 실수와 허수를 처음 듣는 학생은 누구나 두 단어에서 먼저 암시를 받는다. 한쪽은 진짜이고, 다른 쪽은 가짜라는 암시다. 17세기가 남긴 암시이며, 당시에는 실제로 그런 뜻으로 한 말이었다. 다만 그 말을 한 사람은 ‘대응하는 양이 없다’고 했는데, 학생에게는 ‘존재하지 않는다’로 들린다. 그 둘 사이에는 300년의 수학이 놓여 있다.

수의 계산은 계속된다. 무엇을 수학으로 칠 것인지는 아직 한 번도 셈이 끝난 적이 없다.

사료와 더 읽을거리

아래 자료는 본문에 나오는 역사적 세부와 해석상의 논쟁에 관한 것이다. 소장 기록, 고대의 문학적 서술, 현대의 재구성은 같은 종류의 증거가 아니다.

• 타르탈리아와 카르다노: 당사자들이 주고받은 원자료의 번역
• 『과학자 전기 사전』: 봄벨리
• 봄벨리의 『대수학』 번역
• 방첼의 연구를 다룬 수학사 논문
• 세인트앤드루스 대학교: 베셀
• 세인트앤드루스 대학교: 아르강