수학 · 07 / 25
터무니없는 수
음의 항을 계산하는 것, 음의 해를 답으로 남기는 것, 수의 한 종류로 인정하는 것은 같은 일이 아니다.
이 글의 차례
1 불가능한 질문 하나
이런 문제가 있다.
아버지는 쉰여섯 살, 아들은 스물아홉 살이다. 몇 년이 더 지나야 아버지의 나이가 아들의 두 배가 될까?
식을 세워 계산하면 답은 마이너스 2다.
1831년, 한 영국 수학자가 수학을 어떻게 공부할 것인지 다룬 책에서 이 문제를 풀었다. 그는 이 결과가 터무니없다고 했다. 문제를 너무 좁게 물은 탓이라는 것이다. 그러고는 질문을 고쳐 썼다. 음의 부호는 그 일이 2년 뒤가 아니라 2년 전에 있었다고 알려 준다. 질문을 바꾸고 나니 2는 그저 평범한 양수였다. 이 사람이 드모르간이다. 당시 그는 따로 떼어 놓은 음의 양은 산술의 틀 안에서 이해할 수 없다고 보았다. 이 문제 바로 앞에서도 이렇게 썼다. 실재한다는 의미에서 보자면 음의 양도 허수와 마찬가지로 상상의 산물이며, 아무것도 없는 데서 수를 빼는 일은 음수의 제곱근만큼이나 상상할 수 없다고.
그런데 이때는 이미 서기 1830년대였다. 영국에는 철도가 있었고, 증기 인쇄기가 있었으며, 노동자와 중산층 독자를 위한 값싼 백과사전도 있었다. 드모르간 자신도 그런 백과사전 하나에 글을 썼다. 브라마굽타가 완성된 부호 법칙을 기록한 628년으로부터 1,200년 뒤였다. 『구장산술』의 정·부 계산법까지 거슬러 올라가면 간격은 더 벌어진다. 이 격차는 아주 선명한 경계선처럼 보인다. 동양은 일찌감치 받아들였는데 서양은 천 년이나 버텼다는 것이다.
대중적인 수학사에서 거의 빠지지 않는 이야기다. 모양새도 참 편안하다. 한쪽은 영리하고 다른 쪽은 고집스럽다. 게다가 시간 차가 워낙 커서 기억에도 잘 남는다.
이 글은 어느 쪽의 명예를 회복해 주려는 글이 아니다. 그 시간 차를 뜯어 보고, 대체 무엇을 재고 있는지 묻는 글이다. 뜯어 보면 그것이 재는 것은 이해력의 차이가 아니라 각지의 사람들이 어떤 질문에 답하고 있었느냐의 차이라는 사실이 드러난다. 이 말에 들어 있는 단어는 거의 하나하나 다시 풀어 보아야 한다.
우선 놓치기 쉬운 사실부터 보자. 바로 그 대목에서 드모르간은 마이너스 2를 아주 정확하게 사용했다. 음의 부호가 시간의 방향이 뒤집혔다는 뜻임을 알았고, 그에 따라 질문을 바로잡았다. 음수를 받아들이지 않았다는 사람이 방금 음의 부호로 문제의 잘못된 질문을 고친 셈이다. 먼저 가장 중요한 단어부터 뜯어 보자. ‘받아들인다.’ 음수를 받아들이는 일은 하나가 아니라 적어도 네 가지다.
첫째, 계산 절차의 중간에 음의 항이 나타나도 되는가. 둘째, 음의 항을 일관되게 계산할 수 있는가, 믿을 만한 부호 법칙이 있는가. 셋째, 음의 값을 어떤 종류의 문제에서는 최종 답으로 남겨도 되는가. 넷째, 음수를 양수와 동등한 자격을 가진 수의 한 종류로 인정할 수 있는가. 중국에서도, 인도에서도, 아랍어 수학과 유럽에서도 이 네 가지가 동시에 일어나지는 않았다. 순서도 같지 않았다.
한 전통에서는 첫째를 두고 받아들였다고 한 뒤, 다른 전통은 넷째를 기준으로 재면 거짓 대칭이 만들어진다.
드모르간은 음의 부호를 쓸 줄 몰랐던 사람이 아니다. 아주 능숙하게 썼고, 그 문제에서 부호가 정확히 무엇을 가리키는지도 알았다. 그가 받아들이려 하지 않은 것은 넷째였다.
이 글에서는 네 가지 일의 시간표를 각각 따라가 보려 한다. 끝까지 가 보면 어느 곳이든 몇몇 일에서는 빨랐고 다른 일에서는 늦었으며, 그 빠름과 늦음의 조합도 저마다 달랐음을 알게 된다. 하나의 경계선은 서로 엇갈리는 네 장의 시간표로 바뀔 것이다.
엇갈리는 방식도 제멋대로가 아니다. 첫째와 둘째는 거의 모든 곳에서 일찍 이루어졌고, 셋째는 어디서나 조건이 붙었다. 넷째는 이 글에서 다루는 근대 유럽의 자료에서 특히 명확하게 나타나지만, 그렇다고 다른 전통에서는 관련 질문이 나온 적이 없다고 단정할 수는 없다. 차이는 누가 영리했느냐에 있지 않다. 누가 무엇을 물었느냐에 있다. 이 한 문장이 이 글의 전부다. 나머지는 네 장의 시간표를 하나씩 펼쳐 보이는 일이다.
2 얻음과 잃음은 서로 반대다
『구장산술』은 제8장 「방정」에서 정·부 계산법을 도입한다.
산가지를 배열해 놓고 한 열에서 다른 열을 빼다 보면 서로 반대되는 두 상태가 생긴다. 정·부 계산법은 그것을 다룬다. 같은 이름을 가진 것끼리, 다른 이름을 가진 것끼리 어떻게 빼고 더하는지, 그리고 양을 빈자리에서 빼면 음이 되고 음을 빈자리에서 빼면 양이 된다는 것이 규칙의 핵심이다. 가장 중요한 대목은 3세기 유휘의 주석이다. 두 종류의 산가지는 얻음과 잃음이 서로 반대이므로 정과 부라는 이름을 붙여야 한다고 했다. 얻는 것과 잃는 것이 반대이니 ‘정(正)’과 ‘부(負)’로 구별해 부른다는 말이다. 색깔도 적었다. 양의 산가지는 붉게, 음의 산가지는 검게 한다. 색을 쓰지 않을 때는 산가지를 놓는 방향으로 구분한다.
이 문장에서는 잠시 멈춰 볼 만하다. 산가지 배열에서 서로 반대되는 두 종류의 양을 구별하는 가장 직접적인 방법은 새 기호를 만드는 것이 아니었다. 색을 바꾸거나 놓는 방식을 바꾸는 것이었다.
5편에서도 말했듯, 붉은 산가지와 검은 산가지에 관한 문헌 전통은 있다. 하지만 한나라 때 모든 계산에서 늘 두 색깔의 산가지를 따로 썼다고 입증할 만큼 실물 증거가 충분하지는 않다. 확실한 것은 산가지 자체의 상태로 구분했다는 점이다. 옆에 별도의 기호를 써 놓고 구분한 것이 아니다.
그러므로 여기서 정과 부는 무엇보다 계산 과정에서 얻음과 잃음이 반대되는 두 종류의 산가지에 붙인 이름이다.
원자료가 강하게 뒷받침하는 것은 이렇다. 음의 산가지는 방정의 소거 과정에 안정적으로 들어갈 수 있었고, 빈자리에서 양의 산가지를 빼서 만들 수도 있었으며, 덧셈과 뺄셈의 규칙도 갖추고 있었다. 반면 저자가 이미 마이너스 3을 산가지 배열이나 문제의 맥락에서 떼어 내어 독립적으로 존재하는 추상적인 수로 이해했다는 주장은 증거가 훨씬 약하다.
좀 더 구체적으로 말해 보자. 산가지 배열에서 음이라는 것은 어느 한 칸의 산가지가 다른 상태로 놓였다는 뜻이다. 자리도 있고, 이웃한 칸도 있으며, 그 단계의 소거에서 맡은 쓰임도 있다. 그 칸에서 꺼내 홀로 놓고 이것이 무엇이냐고 묻는 데까지, 이 계산 절차의 글들은 나아가지 않는다. 이 대목의 본문에는 양과 음의 곱셈·나눗셈 체계가 완전하게 제시되어 있지 않다. 음의 값은 우선 방정을 푸는 절차 안에서 부호를 지닌 항목으로 쓰였다.
달리 말하면, 명사가 아니라 동사에서 생겨난 것이다. 빼는 동작이 끝나고 나면 어느 한 칸에 한 상태가 남고, 그 상태에 이름이 필요하다. 이름을 얻고 나서는 계산이 끝날 때까지 뒤따르는 모든 단계에 참여할 수 있다. 하지만 계산이 끝나면 사라진다. 최종 답에는 그것이 붙어 나오지 않기 때문이다.
그러니 『구장산술』의 음을 일회적인 오류나 부족분에 불과했다고 하는 것은 너무 약한 설명이다. 이미 현대 정수 체계의 독립된 대상이었다고 하는 것은 너무 강한 설명이다.
5편에서는 산가지 계산이 실제로 어떤 모습이었는지 다루었다. 이 말들은 산가지 배열, 위치, 변환 관계를 통해 이해해야 한다. 현대의 행렬과 부호 있는 수를 그대로 과거에 들이부어서는 안 된다.
송·원대에 이르면 눈에 보이는 확장이 일어난다. 진구소의 개방(근을 구하는) 절차 같은 계산법은 더 높은 차수의 다항식 계수 배열에도 양과 음의 상태를 사용했다. 현대의 복원을 통해서는 최고차항이 음이거나 상수항이 음인 다항식을 산가지 절차로 계속 계산하는 모습까지 볼 수 있다. 13세기의 양휘는 방정의 전통을 새롭게 정리하고 해설했다. 주세걸의 천원술과 사원술에 이르면 양의 계수와 음의 계수는 이미 다항식 계산의 일부였다. 음의 항이 선형 소거의 한정된 상태에서 벗어나 더 넓은 계수 연산으로 들어간 것이다.
앞의 네 가지 기준으로 보면, 첫째는 아주 일찍 성립했고 둘째는 방정의 범위 안에서 성립했다. 셋째는 어떤 양을 다루느냐에 달려 있었다. 이 계산법 문헌들은 넷째의 질문을 명시적으로 전개하지 않았다. 그렇다고 당시 아무도 그 문제를 생각하지 않았다는 뜻은 아니다.
5편에서도 같은 신중함이 필요했다. 그때 경계해야 했던 잘못은 계산법의 전통을 문명의 성격으로 써 버리는 것이었다. 이번에 경계할 잘못은 한 가지 일이 일찍 이루어졌다는 사실을 네 가지 모두 일찍 이루어졌다는 말로 바꾸는 것이다.
두 오류의 작동 방식은 같다. 한 전통에서는 가장 강한 면을 골라내고, 다른 전통에서는 가장 약한 면을 골라낸 뒤 둘을 나란히 놓는다.
책에 그 질문이 나오지 않는다는 것과 당시 아무도 생각해 보지 않았다는 것은 다른 이야기다. 정수란 무엇인가라는 현대의 질문은 다른 관심사에서 자라났다. 그 관심사는 이 글 후반부에 가서야 등장하며, 아주 구체적인 출처도 있다.
이 구분은 앞으로도 거듭 필요할 것이다. 한 전통이 어떤 질문에 답하지 않았다면, 답할 능력이 없어서일 수도 있지만 거기서는 그 질문이 애초에 문제가 되지 않았기 때문일 수도 있다. 두 경우의 역사적 의미는 전혀 다르다.
3 재산과 빚
628년에 쓰인 브라마굽타의 책은 제18장에서 부호 있는 수의 산술을 매우 명확하게 제시한다.
산스크리트어의 전문 용어 자체에 일상적인 뜻이 들어 있다. 양의 쪽에 쓰인 말은 재산, 부, 얻은 것이고, 음의 쪽에 쓰인 말은 빚, 부족분이다. 영에는 비어 있음을 뜻하는 말이 쓰였다. 여기서 재산과 빚은 후대 사람이 가르치기 편하라고 덧붙인 비유가 아니다. 전문 언어 자체를 이룬 말들이다. 대략 제30송부터 제35송까지의 내용을 줄이면 이렇다.
재산끼리 더하면 여전히 재산이고, 빚끼리 더하면 여전히 빚이다. 재산과 빚을 더할 때는 그 차를 취하고, 둘이 같으면 영이다. 양과 음에 영을 더하면 원래 부호가 유지된다. 음에서 양을 빼거나 양에서 음을 빼면 크기를 더한다. 양과 음을 곱하면 음, 음과 음을 곱하면 양이다. 영에 양이나 음을 곱하면 모두 영이다. 부호 법칙만 놓고 보면 이미 매우 안정된 체계다. 앞서 나눈 네 가지 가운데 둘째는 7세기 인도에서 완성되어 있었다.
이 규칙들은 특정 유형의 문제를 풀려고 그때그때 적은 것도 아니다. 일반 규칙으로 한 줄씩 나열되어 있다. 마치 표처럼.
표로 정리했다는 사실 자체가 중요하다. 어떤 문제의 풀이 속에 들어 있는 규칙 하나는 그 문제의 일부다. 규칙들을 모아 표로 만들면 필요할 때 가져다 쓸 수 있는 것이 된다. 7세기에 이미 그런 표가 있었다는 사실은 기억할 만하다. 유럽에서 그만큼 명확한 표가 나오기까지는 아직 오랜 시간이 남아 있었기 때문이다.
다만 이 대목을 승리의 역사로 써 버리지 못하게 붙잡아 주는 것이 있다. 영에 관한 부분이다.
그는 어떤 수에 영을 더하고 빼고 곱하는 일은 올바르게 처리했다. 그러나 영 나누기 영은 영이라고 정했다. 영이 아닌 수를 영으로 나누는 경우에는 분모가 영인 표현을 남겼을 뿐, 현대적 의미에서 잘 정의된 몫을 제시하지 못했다.
단순한 부주의가 아니다. 영으로 나누기는 어떤 값과 같다고 정할 일이 아니라 해서는 안 되는 연산이라고 명확히 판정되기까지 아주 오랜 시간이 걸렸다. 브라마굽타에게 그것은 아직 규정을 내려도 되는 자리였다. 이 사례는 영과 음수가 서로 다른 문제임도 보여 준다. 7세기에 부호 법칙은 완성될 수 있었지만, 같은 사람의 손에서도 영의 산술적 성질에는 빈틈이 남았다. 둘을 묶어 인도인이 영과 음수를 발명했다고 말하면, 성숙도가 다른 두 작업을 하나로 눌러 버리게 된다.
그러므로 영에 처음으로 산술 규칙을 부여했다고 말할 수는 있다. 현대적인 영의 대수 이론을 완전하게 세웠다고 말할 수는 없다. 더 중요한 말은 500년 뒤에 나온다.
바스카라 2세의 『대수학』은 1150년 무렵의 책이다. 두 번째 근이 나온 문제 뒤에서 그는 그 값이 문제의 뜻에 맞지 않으므로 여기서는 취하지 않는다고 했다. 콜브룩의 번역 전통에서 핵심이 되는 마지막 구절은 이렇다. 사람들은 음의 절대수를 인정하지 않는다.
후대의 이차 문헌은 이 말을 흔히 음의 근을 인정하지 않는다는 말로 줄인다. 뜻은 대체로 맞지만, ‘음의 근’보다 ‘음의 절대수’라는 표현을 남겨 둘 가치가 있다. 논쟁의 초점이 모든 음의 부호 연산을 부정하는 데 있지 않고, 본래 절대적인 수량을 나타내야 하는 미지수에 음의 값을 주는 데 있었을 가능성을 보여 주기 때문이다. 이 구절을 뒤집어 인도도 사실 음수를 받아들이지 않았다는 증거로 쓸 수는 없다. 같은 전통 안에서 빚, 반대 방향, 양과 음의 부호 법칙은 이미 능숙하게 사용되고 있었다.
500년 간격을 두고 살았던 두 저자 가운데 한 사람은 완성된 부호 법칙을 기록했고, 다른 사람은 특정한 음의 근 하나를 거부했다. 두 일은 충돌하지 않는다. 같은 전통 안에서 함께 일어났다.
앞사람만 고르면 인도는 일찌감치 음수를 완전히 받아들였다는 결론이 나온다. 뒷사람만 고르면 인도 역시 받아들이지 않았다는 결론이 나온다. 둘 다 네 가지를 하나로 눌러 버린 말이다. 이 사례가 입증하는 것은 다른 사실이다. 연산의 대상이 되는 음의 양과 특정 미지수의 해로 인정받는 음의 양은 서로 다른 자격을 필요로 한다.
인도에 관해 가장 안전하게 내릴 수 있는 결론은 이렇다. 산술과 대수의 계산 과정에서 음의 양은 얼마든지 계속 존재할 수 있었다. 재산과 빚, 동쪽과 서쪽, 증가와 감소처럼 의미가 자연스럽게 짝을 이루는 양에서는 음의 부호에 실제적인 해석을 줄 수 있었다. 반면 미지수가 사람 수, 길이, 물건 수처럼 음이 아닌 값만 가질 수 있는 것을 나타낼 때는 음의 근이 문제의 뜻에 맞지 않는다고 판정될 수 있었다. 오늘날 교과서에서도 이름만 바뀌었을 뿐 똑같은 일을 한다. 근이 두 개 나왔지만 하나를 버린다. 길이는 음수일 수 없기 때문이다.
차이는 오늘날 학생은 버린 값도 여전히 수이며, 다만 이 문제에 맞지 않을 뿐이라는 것을 안다는 데 있다. 당시 사람에게는 그 생각이 필요하지 않았다. 그 대상은 애초에 수의 범주 안에 들어 있지 않았기 때문이다. 같은 행동이 1150년에는 사람들이 무엇을 인정하지 않는가라는 말로 기록되었고, 오늘날에는 ‘버린다’는 한마디로 기록된다.
첫째와 둘째는 성립한다. 셋째는 양의 종류에 달려 있다. 빚의 잔액에는 최종적으로 음이라는 의미를 부여할 수 있다. 원숭이 마이너스 다섯 마리에는 그럴 수 없다.
상식처럼 보이는 이 구분이 바로 셋째의 전부다. 음의 값을 답으로 남겨도 되는가는 그 양에 자연스러운 반대편이 있느냐에 달렸다. 반대편이 있으면 음의 부호는 방향이다. 반대편이 없으면 음의 부호는 문제에 잘못이 있다는 뜻이다.
맨 처음의 부자 나이 문제는 정확히 그 중간에 있다. 시간에는 반대편이 있으니 마이너스 2를 읽어 낼 수 있다. 하지만 원래 질문은 ‘앞으로’를 물었고, 앞으로에는 반대편이 없다.
그래서 그 수학자는 음의 부호가 건넨 정보는 남기고 질문의 방식을 바꾸었다.
섬세한 처리다. 음의 부호가 무의미하다고 하지도 않았고, 마이너스 2가 수라고 하지도 않았다. 그가 한 말은 이것이다. 이 기호가 알려 주는 것은 당신이 방향을 잘못 물었다는 사실이다.
4 모자람과 남음
지난 편에서 다룬 9세기의 『대수학』에는 여섯 종류의 방정식이 있었다. 수, 근, 제곱의 계수는 모두 양수로 유지되었다. 하나의 통일된 식을 쓸 줄 몰라서가 아니다. 수와 근과 제곱을 양의 크기로 이해하던 당시의 관념과 일치하는 방식이었다.
그 책의 또 다른 특징도 여기서 떠올릴 만하다. 현대적인 대수 기호 체계 없이, 본문의 양과 연산을 주로 말로 표현했다는 점이다. 말로 쓰인 양은 부호를 마음대로 바꾸어도 되는 대상으로 여기기가 더 어렵다. 문장으로 적힌 것에는 그것이 무엇인지에 대한 뜻이 자연스럽게 따라붙는다.
그러나 후대의 아랍어 대수는 ‘음수를 거부했다’는 말보다 훨씬 복잡하다. 알카라지의 다항식 계산에서는 빼는 항목도 대수 연산에 참여할 수 있었다. 12세기의 알사마왈에 이르면 부호 법칙이 명확하게 서술된다. 음의 쪽은 부족, 손실, 감소라고 불렀고, 양의 쪽은 증가, 남는 것이라고 불렀다. 그는 음과 양을 곱하면 음이고 음과 음을 곱하면 양임을 알았다. 빈자리에서 양의 항을 빼면 음의 항이 남고, 빈자리에서 음의 항을 빼면 양의 항이 남는다는 것도 알았다.
다시 말해, 다항식 구조의 일부인 음의 계수를 피하지는 않았다.
이때 쓰인 말이 흥미롭다. 부족과 남음, 손실과 증가. 이 말들이 가리키는 것은 수가 아니라 상태다. 어떤 항목이 모자라는 쪽에 있거나 남는 쪽에 있는 것이다.
상태로 이름을 붙였다는 사실은 이 문헌들이 관계를 통한 해석을 제시했음을 보여 준다. 하지만 이름만으로 그것을 독립된 대상으로 취급할 수 없었다고 입증할 수는 없다. 2절에서 유휘가 말한 얻음과 잃음의 반대도 같은 명명 방식이다. 수천 킬로미터와 900년을 사이에 두고 있다. 두 곳 모두 서로 반대되는 한 쌍의 처지가 먼저 있었고, 그 처지에서 이름을 가져왔다. 먼저 ‘음’이라는 대상을 만든 뒤 그것이 무엇을 나타낼 수 있을지 찾아다닌 사람은 없었다. 그렇다면 왜 근은 여전히 양을 기본으로 삼았을까?
근, 수, 양은 여전히 측정할 수 있는 양의 크기라는 범주에 속했기 때문이다. 반면 음의 항은 흔히 빼는 항, 부족한 항, 다른 쪽과 서로 상쇄되는 항목으로 이해되었다. 일괄적인 금지령이 있었던 것이 아니다. 문제가 가진 뜻과 대수적 대상의 범위가 서로 달랐던 것이다. 이 점은 이 역사 전체를 이해하는 데 중요하다.
셋째에 어디서나 조건이 붙는 이유가 바로 여기에 있다. 음의 근을 피한다고 해서 음수를 모른다는 뜻은 아니다. 그 문제 체계에서 근이라는 말이 길이 하나, 어떤 개수, 얼마의 돈을 뜻하며, 그런 것에는 반대편이 없다는 뜻일 수 있다.
지난 편에서는 왜 방정식을 반드시 여섯 유형으로 나누어야 했는지 이야기했다. 이제 그 설명을 마저 할 수 있다. 통일된 식을 쓰려면 계수가 음의 부호를 가질 수 있어야 하는데, 당시 음의 부호가 붙은 양은 홀로 설 수 있는 대상이 아니었다. 그것이 그를 가로막았다. 여섯 유형은 그 제약이 빚어낸 모양이다. 한 체계가 어디까지 뻗어 있는지는 받아들인 것보다 거부한 것이 더 잘 드러낼 때가 많다. 여섯 유형은 규칙 여섯 개가 아니라 한 벽의 여섯 면이었다.
중세의 음의 해를 다룬 한 고전적인 연구도 바로 이 구분을 한다. 부호 법칙을 아는 것, 형식적으로 음의 값이 나타나는 것, 음의 해를 인정하는 것은 세 층위라는 것이다. 초기 유럽도 같은 모습을 보인다.
『산반서』가 처음 쓰인 것은 1202년이다. 하지만 1202년 판본은 전해지지 않으며, 현존 텍스트는 1228년 개정본의 전통에 속한다. 제13장의 상업, 동업, 가정법 계산에서는 형식상 영 아래로 내려간 자산을 빚으로 해석한다. 마이너스 돈 한 자루로 해석하지 않는다.
이는 이후 유럽의 실무에서 오랫동안 나타나는 특징과 잘 맞는다. 음수를 양수와 존재론적으로 동등한 수의 한 종류라고 먼저 약속하지 않아도, 음의 값을 빚이라는 해석으로 남겨 둘 수 있었다. 꽤 간편한 방안이다. 골치 아픈 문제를 말뜻에 떠넘기면 된다. 이 수가 음인 것이 아니라 돈의 방향이 반대라는 것이다. 매번 알맞은 반대편을 찾을 수만 있다면 더 어려운 질문에는 영원히 답하지 않아도 된다.
상업의 세계에서는 반대편을 거의 언제나 찾을 수 있었다. 빚진 것과 가진 것, 들어오는 것과 나가는 것, 번 것과 잃은 것.
그러니 상인이 수학자보다 먼저 편안해진 것은 생각이 더 열려 있어서가 아니다. 그들이 다루는 양에는 하나하나 방향이 따라붙었기 때문이다.
따라서 그 책이 한 일은 특정한 상업 맥락에서 형식상의 음의 값을 새롭게 해석할 수 있도록 한 것이지, 음수를 정식으로 받아들인 것이 아니다. 여기까지 오면 네 가지 가운데 앞의 두 가지는 네 지역 모두에서 성립했거나 성립에 가까워졌다. 차이는 셋째와 넷째에 모인다.
정말 어려운 것은 이 두 가지다. 앞의 두 가지는 계산할 수 있는가를 묻고, 뒤의 두 가지는 계산해 낸 것을 수로 쳐 줄 것인가를 묻는다. 계산은 기술의 문제이고, 수로 인정하는 것은 자격의 문제다. 앞에서 본 계산 절차의 글들로 돌아가면, 자격의 문제는 아직 이렇게 탁자 위에 올라와 있지 않다.
이 분포는 동서양을 가르던 그 경계선에 정확히 반박한다. 동양은 받아들이고 서양은 저항했다면 첫째와 둘째에서 차이가 나야 한다. 실제로는 둘 다 어디서나 성립했다. 넷째는 이후 유럽의 몇몇 기초론 논의에서 명시적인 질문이 되었다. 이런 자료의 분포가 다른 곳에서는 한 번도 묻지 않았다는 증거는 아니다. 왜 하필 그곳이었는지는 다음 절에서 다룬다. 답은 2천 년 전의 책 한 권과 관련이 있다.
5 수란 무엇인가
가장 깊은 층위의 저항은 음의 부호를 이해하지 못하는 데서 나온 것이 아니었다. 수란 대체 무엇인가라는 데서 나왔다. 2천 년 동안 유럽인의 첫 수학 수업은 이렇게 시작되었다. 1은 단위이며, 수는 여러 단위로 이루어진 다수다.
즉 수란 세어서 얻는 것이다. 3은 단위 세 개이고, 7은 단위 일곱 개다.
이 문장은 『원론』 제7권의 첫머리에 있다. 3편에서 말했듯, 그 책의 공준은 종이 위에 놓여 2천 년 동안 질문을 받았다. 반면 정의는 경계심을 풀게 하기 쉽다. 그저 말뜻을 설명하는 것처럼 보이기 때문이다.
하지만 말뜻이 정해지고 나면 그 뒤 2천 년 동안 무엇을 말할 수 있는지도 함께 정해진다. 이 정의대로라면 마이너스 3은 무엇인가. 무엇 세 개를 센 것인가. 길이, 넓이, 부피는 별도의 부류인 ‘양’에 속했고, 양이란 크기였다. 아무것도 없는 것보다 작은 길이 역시 놓일 자리가 없었다.
이것은 한 책의 주장에 그치지 않았다. 교육 체계 전체의 출발점이었다. 교육받은 사람은 어떤 대수를 배우기 전에 이미 수는 세어서 얻는 것이라고 배워 두었다. 나중에 와서 셀 수 없는 수를 받아들이라고 하는 것은 입문 첫 수업을 무효로 돌리라는 말과 같았다. 이런 저항에는 분명한 논리적 핵심이 있었다. 갑에서 을을 뺀다는 것이 갑에서 을만큼 덜어 내는 일이라고 해 보자. 그렇다면 갑이 을보다 작지 않을 때만 그 결과는 원래 수량의 일부로 남는다.
갑이 을보다 작을 때도 갑에서 을을 뺀 결과가 여전히 수라고 하려면 적어도 한 가지는 바꾸어야 한다. 뺄셈을 물리적으로 덜어 내는 동작에서 형식적 조작으로 바꾸거나, 수를 절대적인 양에서 방향이나 상태를 가진 양으로 바꾸거나, 모든 덧셈에 역이 있도록 수의 범위를 넓혀야 한다. 훗날 현대적인 정의는 실제로 세 길을 모두 걸었다.
그러니 저항의 내용은 사실 매우 정확했다. 새 기호 하나를 받아들이기 싫었던 것이 아니다. 그 기호 하나 때문에 뺄셈, 수, 양 가운데 어느 것도 바꾸고 싶지 않았던 것이다. 세 가지 모두 대수를 조금이라도 배우기 전에 이미 배운 것이었다.
더구나 셋은 저마다 다른 것들의 기초이기도 했다.
여기서 한 가지 설명이 나온다. 그 책은 유럽 수학에서 무엇을 수라 하고, 양이라 하고, 비라 하는지에 유난히 강한 규범적 힘을 행사했으며, 음수는 그 틀 안에 자리가 없었다는 것이다. 마침 16~17세기에는 음수와 함께 한층 더 불편한 다른 종류의 대상도 나타났다. 둘 다 이등급 취급을 받기 쉬웠다.
시사하는 바가 있는 설명이지만 거기에는 서열이 끼어 있다. 유럽의 몇몇 수학 전통이 양에 관한 이론의 제약을 더 강하게 받았고 기초에 대한 설명을 더 요구했다는 말은 자료로 뒷받침할 수 있다. 하지만 유럽이 철학적으로 더 진지했기 때문에 다른 곳보다 늦게 받아들였다고 하면 이미 가치 판단이다. 반례도 유럽 안에 있다. 상인의 대수, 좌표기하, 곡선 연구는 대개 기초 문제가 해결되기를 기다리지 않고 일을 시작했다.
길이 뚫리기 전, 가장 날카로운 일격은 비례에 관한 난문에서 왔다. 아르노의 논증은 이렇다. 형식대수에 따르면 마이너스 1 대 1은 1 대 마이너스 1과 같다. 교차해서 곱하면 양쪽 모두 플러스 1이 나오기 때문이다.
그런데 비를 여전히 크기 사이의 비로 이해하면, 왼쪽은 작은 양 대 큰 양이고 오른쪽은 큰 양 대 작은 양이다. 한쪽은 1보다 작아야 하고 다른 쪽은 1보다 커야 한다. 어떻게 같을 수 있는가. 음의 부호를 보고 이상하게 느꼈다는 정도의 이야기가 아니다. 예전의 비가 가진 의미와 새로운 기호 연산 규칙을 동시에 적용해서 생긴 모순이다. 이 반론의 출처는 보통 1667년에 나온 기하학 저술로 거슬러 올라간다. 정말 중요한 것은 라이프니츠의 반응이다.
그는 형식적으로 계산이 되니 아르노가 틀렸다고 말하지 않았다.
그는 이 반론에 힘이 전혀 없는 것은 아니라고 인정했다. 18세기 초 음의 양과 비례에 관한 논의에서 그가 택한 해결 방향은 전제 자체를 의심하는 것이었다. 음의 양도 보통의 양의 크기처럼 같은 크기 비례의 틀에 들어가야 하는가. 음의 양은 반대 상태나 방향, 또는 계산에서 좋은 효과를 내는 가공의 대상으로 이해할 수도 있다. 이 한 걸음이 결정적이다.
저항이 감정이 아니라 논증을 갖춘 것이었음을 보여 주기 때문이다. 그 저항을 넘어서는 방법도 더 좋은 비유를 찾는 일이 아니었다. 비라는 개념 자체의 적용 범위를 바꾸는 일이었다.
이 절은 이 글의 전환점이다. 앞에서는 각지에서 음수를 어떻게 썼는지를 이야기했다. 여기서부터는 누군가 그것이 무슨 자격으로 수가 되는지 캐묻기 시작한다.
앞에서는 음수의 문제가 관념의 문제처럼 보였다. 어떤 사람은 납득했고 어떤 사람은 납득하지 못했다는 식이다. 비례의 난문은 이를 기술적인 문제로 바꾸어 놓는다. 두 규칙 체계가 동시에 성립하면 충돌하므로 어느 한쪽의 일부를 포기해야 한다. 어느 쪽을 포기할지는 직관만으로 결정할 수 없다.
인터넷에서 흔히 보이는, 어느 해에 라이프니츠가 아르노의 주장이 전적으로 옳다고 명확히 인정했다는 말은 지나치다. 그는 분명 이 난문을 진지하게 다루었다. 하지만 그것을 특정한 발언 한 문장으로 적으려면 그의 라틴어 논문과 편지, 판본 계통으로 돌아가 한 단어씩 대조해야 한다.
6 터무니없음, 가공, 거짓
그 부정적인 이름들을 한 목록에 뭉뚱그릴 수는 없다. 언제나 같은 대상을 가리킨 것이 아니기 때문이다.
디오판토스는 오늘날의 표기법으로 쓰면 음의 해가 나오는 방정식을 만났을 때, 그 결과나 문제의 설정을 터무니없고 성립 불가능하다고 했다. 그 문제의 결과가 터무니없다고 한 것이지, 먼저 음수라는 대상을 만들어 놓고 이름을 붙인 것이 아니다.
이 구분은 목록에 오른 모든 이름에 적용된다. 어떤 결과가 터무니없다고 말하는 것과 어떤 부류의 대상이 터무니없다고 말하는 것은 아주 다르다. 앞의 말은 문제 하나를 평가하고, 뒤의 말은 수의 한 종류를 평가한다.
슈티펠의 1544년 책에는 ‘터무니없는 수’와 같은 표현이 명확히 등장한다. 영 아래에 있는 형식적인 수를 ‘가공의 수’라고 부르기도 했다. 초기 근대의 용어로서 ‘터무니없는 수’의 출처를 찾을 때 가장 적절한 자료 가운데 하나다. 카르다노도 1545년의 『위대한 기법』에서 음의 해를 다루며 가공의 수, 가공의 방정식 같은 표현을 쓴다.
최근의 연구가 강조한 점이 있다. 16~17세기에 ‘가공’은 무의미하다는 말과 같지 않았다. 가공의 대상도 계산할 수 있었고 올바른 결과를 낼 수 있었다. 다만 수량으로 곧바로 해석할 수는 없었다. 가공이라고 부르는 것은 내쫓는 일이 아니라, 남아 있을 수 있는 신분을 마련해 주는 일이었다. 이 신분은 다음 편에서도 다시 쓰인다. 훨씬 더 중요한 자리에 쓰인다.
계산은 되는데 설명은 안 되는 것에 일단 가공이라는 명분을 주어 안에 남겨 둔다. 나중에 해석을 찾으면 신분을 바꿔 준다. 이 방법은 이어지는 200년 동안 거듭 사용되었다. 데카르트가 1637년에 말한 ‘거짓 근’은 주로 오늘날의 음의 근을 가리킨다. 그와 별도로 말한 ‘상상의 근’은 실수가 아닌 근을 가리킨다. 거짓, 가공, 상상, 불가능을 모두 음수의 동의어로 취급하면 음수의 역사와 다음 편에서 다룰 역사가 뒤엉켜 버린다.
월리스의 1685년 책은 전환기의 모습을 놀라울 만큼 잘 보여 준다. 한편으로는 대수 기호가 글자 그대로라면 아무것도 없는 것보다 적은 양을 뜻하는 듯하다고 말한다. 다른 한편으로는 바르게 이해하기만 하면 음의 양은 무용하지도 터무니없지도 않다고 곧바로 강조한다.
그가 내놓은 물리적 설명은 이렇다. 플러스 3이 앞으로 3야드 가는 것이라면 마이너스 3은 뒤로 3야드 가는 것이다. 책에는 양쪽으로 뻗는 직선 그림도 실려 있다. 이 선은 이후 완전한 수직선을 명확하게 보여 주는 가장 이른 사례 가운데 하나로 자주 꼽힌다.
그런데 같은 사람의 같은 책에 오늘날에는 무척 이상해 보이는 추론도 남아 있다.
예전의 분수에 관한 직관에 따르면, 양인 분모를 영까지 점점 줄여 가면 몫은 점점 커져서 영에 이를 때 무한대로 향한다. 분모를 더 줄여 영을 넘어 음의 값으로 만들면 결과는 형식상 음수가 된다.
그래서 그는 한때 음의 값이 무한을 지나간 뒤의 어떤 영역에 있다고 생각했다. 현대 실수의 순서에서는 물론 성립하지 않는다. 마이너스 1은 영보다 작다. 무한보다 큰 것이 아니다.
하지만 이 대목은 사료로서 대단히 중요하다. 같은 사람이 이미 방향 있는 직선이라는 해석을 얻었으면서도, 여전히 음수를 옛 비례와 크기의 연속적인 그림 속에 밀어 넣으려 했던 것이다.
이른바 수용은 한 번도 말끔하게 이루어진 적이 없다. 그는 음수의 옹호자이면서 현대의 순서 구조와 양립할 수 없는 해석도 지니고 있었다. 사람을 수용파와 반대파로 가르면 가장 재미있는 부분을 잃는다.
이 글에 등장하는 거의 모든 사람이 양쪽에 동시에 서 있다. 슈티펠은 터무니없다고 부르면서 계산할 수 있었다. 카르다노는 가공이라고 부르면서 방정식을 푸는 기법에 넣을 수 있었다. 데카르트는 거짓 근이라고 했지만 변환을 써서 거짓 근을 참된 근으로 바꾸는 법을 알았다. 뉴턴은 음과 음의 곱이 양이 되는 구조적 증명을 내놓지 않았어도 이미 네 사분면에서 자유롭게 도형을 그렸다. 이론으로는 거부하고 실무에서는 거리낌 없이 썼다. 모순이 아니다. 이것이 이 역사의 큰 줄기다.
오일러의 대수 교과서는 18세기 중엽에 쓰여 1770년 무렵 출판되었다. 그는 재산과 빚, 얻음과 잃음 같은 예로 양과 음을 설명했다. 양수는 영 위에, 음수는 영 아래에 있다고 곧바로 말했고, 부호 법칙을 대수의 기초 규칙으로 사용했다. 계산의 실무에서만큼은 슈티펠이나 드모르간 같은 강한 망설임이 없었다.
그러나 여러 해석은 여전히 나란히 놓여 있었다. 음의 부호는 때로 뺄셈이라는 조작이었고, 때로 양의 성질이었으며, 또 때로는 반대 방향이나 빚이었다. ‘아무것도 없는 것보다 적다’는 말에는 수를 여전히 절대적인 크기로 이해하는 생각도 비친다. 그는 19세기 후반의 방식처럼 추상적인 구조 하나로 이 의미들을 통일하지 않았다. 이를 잘 요약하는 말이 있다. 연산의 확장은 먼저 성공할 수 있지만, 그 새로운 대상들이 대체 무엇인지 엄밀하게 설명하는 일은 계속 뒤처질 수 있다는 것이다.
따라서 오일러가 음수를 올바로 이해할 줄 몰랐던 것은 아니다. 실제로 그의 대수 실무는 이미 훨씬 현대적이었다. 다만 수란 무엇인가에 관한 생각에는 초기 근대의 양 개념이 겹겹이 퇴적되어 있었다.
다시 드모르간으로 돌아가자. 그의 변화는 뚜렷했고, 단계적으로 일어났다. 1835년 피콕을 논평할 때만 해도 처음에는 기호대수를 보고 홀린 기호들이 의미를 찾아 사방을 헤매는 것 같다고 여겼다. 하지만 피콕의 생각은 그를 조금씩 바꾸었다.
1840년 백과사전의 「음의 양과 불가능한 양」 항목을 쓸 때는 이미 세 단계를 명확히 구별했다. 먼저 기호를 정하고, 그 기호가 따를 법칙을 정하고, 그 법칙에서 결과를 이끌어 낸다는 것이다. 1842년 대수의 기초에 관한 논문에서는 공리화에 한층 더 가까워졌다. 홀린 기호들에서, 기호를 먼저 정하고 법칙을 정하는 데 이르기까지 걸린 시간은 5년이었다.
그렇다고 의미는 전혀 중요하지 않다는 데까지 간 것은 아니다. 그는 평생 형식 체계가 결국에는 해석을 얻으리라고 기대했다. 당장 해석이 없는 기호도 연산이 성공한다면 남겨 둘 수 있지만, 역사가 더 넓은 의미를 찾아 줄 것이라고 생각했다.
7 우선 계산이 되게 하라
이 글 전체를 가로지르는 양상이 하나 있다. 문명을 넘어 반복된다. 알사마왈은 다항식에서 음의 항을 계속 계산할 수 있었지만, 그 전통에서는 여전히 보통 음의 양을 근으로 삼지 않았다. 조작할 수 있는 범위가 해로 존재를 인정받는 범위보다 넓었다. 카르다노도 음의 해를 가공이라고 불렀지만 그렇다고 계산을 멈추지는 않았다. 가공이라는 말은 바로 유용한 대상을 연산 안으로 먼저 들여보내 주는 언어였다.
뉴턴은 음과 음을 곱하면 왜 양이 되는지 현대적인 구조적 증명을 내놓지 않았지만, 네 사분면과 양의 근·음의 근을 자유롭게 써서 곡선을 연구했다. 가장 멋진 증언은 드모르간 자신에게서 나온다. 그는 대수의 역사를 돌아보며, 결과를 만들어 내는 능력이 결과를 설명하는 능력보다 앞서 달리는 상태가 있었다고 말했다. 당장은 설명할 수 없는 계산도 거듭 올바른 결과를 낸다면 일단 남겨 두고 더 일반적인 해석을 찾을 이유가 있다고까지 보았다.
그러므로 먼저 쓰고 나중에 이해했다는 것은 현대인이 옛사람을 변호하려고 만든 이야기가 아니다. 19세기 수학자 스스로 알아차린 역사적 양상이다. 이 연재에서도 벌써 두 번 등장했다. 두 번 모두 당사자가 직접 한 말이었다.
4편의 그 사람은 역학적 방법으로 답을 찾아낼 수 있지만 그것은 증명이 아니므로 다시 증명해야 한다고 했다. 5편의 그 사람은 아직 스스로 믿을 만한 이유를 갖고 있지 않으니 차라리 이 대목을 의문으로 남겨 두겠다고 했다. 이번에 말하는 사람은 더 나중의 자리에서 돌아본다. 자기 일 하나가 아니라 한 학문 전체의 습관을 이야기한다.
듣기보다 훨씬 드문 통찰이다. 한 분야 안에 있는 사람이 자기 분야에서 반복되는 행동을 알아보기는 어렵다. 보통은 오랜 시간이 지나고 같은 행동이 여러 번 되풀이되어야 누군가 그것을 알아본다. 그런데 드모르간은 자신이 그 행동의 몇 번째 반복을 수행하는 와중에 그것을 알아보았다. 알아보았다고 기준을 느슨하게 하지도 않았다. 당장 설명할 수 없는 것에도 언젠가는 설명이 필요하다고 보았다. 다만 지금 당장일 필요는 없었다.
아주 특이한 입장이다. 자기 분야가 일을 먼저 저지르고 나중에 보고하는 일이 많다는 점을 인정하면서도, 그 보고만큼은 언젠가 반드시 해야 한다고 고집한다.
세 사람, 서로 다른 세 세기, 세 언어. 같은 일을 세 가지 모습으로 말한다. 나는 계산할 수 있지만 인정하지 않는다. 나는 계산법조차 없으므로 쓰지 않는다. 이 학문은 계산은 되는데 설명은 안 되는 일이 흔하다. 그가 이 말을 하던 때, 손에는 마침 안으로 들어오고 있는 사례 하나가 들려 있었다. 그렇다면 마지막에 그것을 정당한 것으로 만든 것은 무엇이었을까. 길은 세 갈래였다.
첫째는 형식화다. 피콕은 1830년의 책에서 대수를 일반화된 산술에서 해방하자고 제안했다. 그는 산술대수와 기호대수를 구별했다. 전자의 문자는 여전히 보통의 양수를 가리킨다. 후자는 무엇보다 기호와 그 기호를 연산하는 법칙을 연구한다.
그의 유명한 원리는 훗날 흔히 ‘형식의 불변’으로 요약되었다. 산술대수에서 정당한 조작으로 얻은 동치 형식은 기호의 범위가 확장된 뒤에도, 정해진 연산 법칙을 유지하는 한 계속 동치여야 한다는 것이다.
핵심적인 변화는 마이너스 3이 실은 어떤 신비로운 양이라는 사실을 드디어 발견한 것이 아니다. 식이 정당한 대수 연산에 참여하기 위해 양의 크기로 먼저 해석될 필요가 없어졌다는 것이다. 이 문장은 천천히 읽어야 한다. 없앤 것은 결론 하나가 아니라 문턱 하나였다.
그전에는 어떤 기호든 대수에 들어오려면 먼저 신분을 밝혀야 했다. 너는 어떤 양의 크기를 나타내는가. 그 뒤로는 정해진 법칙을 따르기만 하면 되었다. 신분은 나중에 말해도 되고 끝내 말하지 않아도 되었다. 음수와 다음 편에서 다룰 그 부류의 대상은 이로써 제도적인 자리를 얻었다.
한켈의 1867년 책은 이 길을 하나의 일반 원리로 정리했다. 새로운 대상을 들여오는 근거는 새로운 수 하나하나를 예전 방식의 양으로 환원하는 데 있지 않다. 확장된 체계가 적절한 대수 법칙을 보존하는 데 있다.
둘째는 기하화다.
가장 쓰기 쉬운 오답은 이런 것이다. 데카르트가 좌표계를 발명했으므로 음수는 수직선으로 해석되었다. 물론 그의 1637년 해석기하는 기호와 곡선의 관계를 크게 넓혔다. 하지만 그 자신이 여전히 음의 근을 거짓이라고 불렀다. 좌표 기법이 존재한다고 해서 음수의 존재론적 문제가 저절로 해결된 것은 아니다.
더 직접적인 자료는 월리스의 앞뒤 운동과 양방향 직선이다. 뉴턴도 산술서 첫머리에서 양을 긍정적인 것과 부정적인 것으로 나누고, 재산과 빚, 전진과 후퇴, 반대 방향으로 그은 선으로 부호를 설명했다. 1704년에 발표한 3차 곡선 연구에서는 이미 평면의 여러 방향과 영역에 놓인 곡선을 폭넓게 사용했다.
19세기 초에는 몇몇 저자가 방향 있는 선분과 기하학적 표현을 더 발전시켰다. 음을 영보다 작은 길이로 이해할 필요 없이, 같은 축 위에서의 반대 방향으로 이해할 수 있게 되었다.
무엇이 풀렸는가. 마이너스 석 자가 어떻게 길이일 수 있느냐는 직관적인 난점이 풀렸다. 석 자는 여전히 길이다. 음의 부호가 기록하는 것은 방향이다.
모든 것이 풀린 것은 아니다. 빚, 온도, 추상적인 방정식의 근은 글자 그대로의 선분이 아니다. 더구나 대수의 모든 법칙을 증명하려면 방향 있는 선 그림 하나로는 여전히 부족하다.
기하학적 해석 자체가 옛 짐을 지고 있을 수도 있다. 앞서 보았듯, 양방향 직선을 제시한 바로 그 사람은 음수가 무한 너머의 어떤 영역에 있다고도 믿었다. 그림 한 장으로 방향을 설명할 수는 있어도 순서까지 설명할 수는 없다. 수직선은 강력한 해석 모형이지, 현대 정수의 논리적 구성 자체는 아니다.
셋째는 앞서 말한 연산 자체의 성공이다. 세 길의 무게는 이렇게 따져 볼 수 있다.
음수가 어떻게 조건 없는 대수적 자격을 얻었느냐고 묻는다면 형식화의 비중이 가장 크다. 피콕의 돌파구는 정당한 기호라면 모두 먼저 평범한 산술적 양으로 해석되어야 한다는 문턱을 없앤 데 있었다.
보통의 수학자와 학생들이 왜 마침내 음수를 이상하게 느끼지 않게 되었느냐고 묻는다면, 기하화와 응용을 들러리로 낮출 수 없다. 방향, 빚, 좌표는 거듭 사용할 수 있는 의미를 제공했다. 형식 체계가 드모르간이 비웃었던 홀린 기호들로 전락하지 않도록 붙잡아 주었다.
이 역사를 형식주의가 직관주의를 저절로 이긴 이야기로 쓰는 데는 명시적인 반대도 있다. 19세기에 오랫동안 이어진 것은 확장, 엄밀성, 직관적으로 이해할 수 있음 사이의 협상이었다.
협상이라는 말은 정확하다. 규칙이 더 넓게 적용되기를 바라는 마음, 모든 단계에 근거가 있기를 바라는 마음, 사람이 이해할 수 있기를 바라는 마음이 서로 잡아당긴다. 하나를 극단으로 밀어붙이면 나머지 둘이 다친다.
3편에서도 이 셋을 한 번 배합했다. 그때는 증명에서 그림을 내쫓는 대신 눈에 의존하지 않아도 되었다. 대가는 읽기 어려워졌다는 것이었다.
이번에는 다른 것을 교환했다. 기호가 먼저 양으로 해석되어야 한다는 요구를 없애는 대신 음수와 그 뒤에 들어올 더 많은 대상이 정당한 지위를 얻었다. 수가 정해진 연산에 참여하기 위해 더는 특정한 구체적 양을 먼저 가리킬 필요가 없어진 것이다. 물론 여전히 여러 구체적인 해석을 가질 수 있다. 두 거래의 방향은 같다. 눈에 보이는 것을 하나 놓아주고 더 잘 작동하는 규칙을 하나 얻는다.
이 글의 논쟁은 하나하나 뜯어 보면 모두 이 셋의 배합을 바꾸는 일이다.
8 이름 속의 상처
그 이름들에는 저마다 어디서 왔는지가 묻어 있다.
라틴어 전통에서 음을 나타내는 형용사는 부인하다, 부정하다, 아니라고 하다는 뜻의 말에서 나왔다. 본래 현대 정수를 위해 특별히 만든 중립적인 명칭이 아니었다. 근대 대수는 이를 가져와 음의 수, 음의 양이라는 표현을 만들었고, 이후 여러 유럽 언어로 들어갔다. 반대편의 말은 놓다, 정하다, 긍정하다는 쪽에서 왔다. 영어에서 일상적으로 읽는 또 다른 말, 마이너스(minus)는 더 직접적이다. 라틴어의 더 적다, 무엇보다 적다는 말에서 왔다. 이 언어의 역사에는 음수가 처음에 자족적인 대상의 한 종류가 아니라 빼는 것, 모자라는 것, 부정하는 것으로 이해되었던 흔적이 남아 있다.
유럽만의 일도 아니다. 산스크리트어의 그 말은 본래 재산의 반대인 빚이었다. 아랍어의 그 말은 본래 증가의 반대인 감소와 부족이었다. 이 전문 용어들은 모두 관계, 이익과 손실, 모자람과 남음에서 수학으로 들어왔다.
어느 곳도 중립적인 분류명에서 출발하지 않았다. 이 모든 언어에서 그 부류의 대상을 처음 지목한 방식은 그것이 무엇인가가 아니라 무엇이 모자라는가였다는 뜻이다.
그러니 이름 속의 상처는 단순한 수사가 아니다. 많은 언어는 처음에 음수를 중립적인 정수 범주로 이름 붙이지 않았다. 손실, 부족, 빚, 부정, 뺄셈, 반대 방향에서 이름을 가져왔다. 나중에 대상은 동등한 형식적 지위를 얻었지만 옛 이름은 남았다. 다음 편에서는 이것이 더 눈에 밟힐 것이다. 그 부류의 이름은 오늘날까지도 상상으로 만들어 냈다고 말한다. 중국어도 사정은 같지만, 뜻밖의 반전이 하나 있다.
『구장산술』의 ‘부(負)’가 무엇을 뜻했는지 짚을 때 가장 안전한 근거는 현대의 어원 이야기가 아니라 유휘 자신의 설명이다. 두 종류의 산가지는 얻음과 잃음이 서로 반대이므로 정과 부로 이름 붙인다는 말이다.
수학의 맥락에서 ‘부(負)’는 잃음의 쪽에 놓이며 ‘정(正)’과 반대되는 범주를 이룬다. 고대 중국어의 負에는 짐을 지다, 빚을 지다, 부족하다, 패배하다 같은 인접한 뜻도 있었다. 그 가운데 어느 어원적 의미에서 수학 용어가 직접 나왔는지는 전승된 문헌만으로 복원하기 어렵다. 이를 단순히 빚으로 옮기면 중국의 자료를 인도식으로 만들어 버린다. 뜻밖의 반전은 청나라 말기에 있다. 정과 부는 19세기에 서양 대수를 접하고 급히 만들어 낸 새 번역어가 아니었다.
중국에는 다시 쓸 수 있는 고전 수학 용어가 이미 천 년 넘게 쌓여 있었다. 이선란과 그 주변의 근대 수학 문헌은 아주 자연스럽게 정수(正數), 부수(負數), 정과 부의 여러 수라는 말을 계속 썼다. 관련 문헌에는 정에 정을 곱하면 정이고, 부에 부를 곱해도 정이라고 직접 적혀 있기까지 하다.
따라서 이는 영에서 시작한 번역이라기보다 옛 용어를 서양식 대수 체계 속에 다시 놓은 일에 가깝다. 지난 편에서 말했듯, 중국어의 ‘알고리즘(算法)’, ‘영(零)’, ‘사인(正弦)’, ‘대수(代數)’는 저마다 경로가 다르다. 오래된 토착어도 있고, 명나라 말기 역법 기관에서 만든 번역어도 있고, 청나라 말기에 새로 만든 말도 있다. 정과 부는 첫 번째 부류에 속한다. 그중에서도 가장 오래된 말이다.
한 단어가 중국어 안에서 천 년 넘게 살았다. 그동안 여러 종류의 수학을 거쳤고, 마지막에는 다른 길로 걸어온 개념을 번역하는 데 쓰였다. 그런데 아주 매끄럽게 맞아들었다.
산가지 배열에서 놓는 방식 하나였다가, 다항식의 계수 하나였다가, 19세기에는 자격을 논증해야 하는 대상이 되었다. 이 글자는 그 모든 과정에 함께 있었다. 뜻은 계속 바뀌었지만 글자 모양은 한 번도 바뀌지 않았다. 너무 자연스러워서 오늘날에는 아무도 번역어라고 느끼지 않는다.
지난 편에서 이야기한 알고리즘과 닮았다. 두 체계가 저마다 자기 길을 걷다가 어느 순간 누군가 같은 단어로 이어 준다. 그런데 그 단어에도 자신의 이력이 있다.
경쟁하던 다른 번역어가 있다가 탈락했는지는 현재 믿을 만한 자료를 찾을 수 없다. 후보 단어도, 처음 등장한 연도도, 탈락한 과정도 확인되지 않는다. 현대 중국어 수학 교육의 ‘상반수(相反數)’, 곧 덧셈에 대한 역원을 뜻하는 용어의 유래도 마찬가지로 찾을 수 없다. 이 두 자리는 차라리 비워 두겠다.
겉보기에 완전한 계보 하나를 채워 넣는 것보다 빈칸이 낫다. 번역어의 역사를 찾지 못했을 때 찾지 못했다고 적으면 다음 사람이 계속 찾아볼 수 있다. 누가 몇 년에 이름을 정했다고 써 버리면 다음 사람은 더 찾지 않는다.
이제 그 네 가지를 다시 펼쳐 보자.
첫째, 계산 절차에 음의 항이 나타나도 되는가. 중국에서는 이미 『구장산술』에서 성립했고, 인도와 아랍어권에서도 일찍 성립했다. 유럽도 15세기부터 거리낌 없이 사용했다.
둘째, 믿을 만한 부호 법칙이 있는가. 인도에서는 7세기에 완성되었고, 아랍어권에서는 12세기에 명확해졌으며, 유럽이 그 뒤를 이었다.
셋째, 음의 값을 최종 답으로 삼을 수 있는가. 어디서나 조건이 붙었다. 그 양에 방향이 있느냐는 조건이었다. 빚은 된다. 원숭이는 안 된다.
넷째, 음수는 양수와 동등한 자격을 가진 수인가. 이 질문은 여기서 다룬 근대 유럽의 논쟁에서 오랫동안 명확하게 전개되었다. 그렇다고 다른 전통의 관련 사유를 배제할 수는 없다. 답을 얻은 방식도 마이너스 3이 대체 무엇인지를 찾아낸 것이 아니었다. 질문의 전제를 없앴다. 기호가 연산에 참여할 자격을 얻기 위해 먼저 어떤 양으로 해석되어야 할 필요는 없다는 것이다.
드모르간 자신이 이 양상을 가장 정확히 말했다. 수학은 먼저 계산은 되는데 설명은 안 되는 것을 만들어 낸 뒤, 다시 돌아와 정의를 넓혀 그것들을 들인다. 그가 이 말을 할 때 손에는 막 들어온 것 하나와 아직 들어오지 못한 것 하나가 있었다. 뒤의 것은 음수보다 이름이 더 고약했다. 이름부터 대놓고 상상으로 만들어 냈다고 말한다. 그 이름은 오늘날까지도 바뀌지 않았다.
수학에 들어온 경로도 음수와 달랐다. 음수는 빚과 방향에서 자라났지만, 그것은 아무도 원하지 않았던 자리에서 억지로 밀려 나왔다. 음수는 적어도 가리킬 수 있는 반대편이 이미 있었다. 그 부류의 대상은 아무것도 가리킬 수 없었다. 그런데 그 근호의 길을 따라가려면, 그것을 쓰지 않고는 답을 얻을 수 없었다.
수의 계산은 계속된다. 그러나 무엇을 수학으로 쳐야 하는지는 아직 한 번도 말끔히 계산된 적이 없다.
사료와 더 읽을거리
아래 자료는 본문에 등장하는 역사적 세부 사항과 해석상의 쟁점에 관한 것이다. 소장 기록, 고대의 문학적 기록, 현대의 복원은 같은 종류의 증거가 아니다.