수학 · 09 / 25
무한소와 엄밀성의 빈틈
한 주교가 사라지는 증분을 캐묻자, 물리학을 바꾼 도구가 자기 근거를 다시 쓰기 시작했다.
이 글의 차례
1 한 주교
1734년, 한 주교가 작은 책 한 권을 펴냈다. 당시 가장 성공적인 수학 도구를 공격하는 책이었다.
그의 이름은 조지 버클리. 아일랜드 사람이었고, 바로 그해 클로인의 주교로 임명되었다. 철학사에서는 다른 일로 유명하다. 우리가 사물이라고 부르는 것은 지각되는 일을 떠나서는 논할 수 없다고 주장했다. 백여 년 뒤에는 북아메리카의 한 도시가 그의 이름을 따르게 된다.
그런데 이 작은 책은 수학자들에게 읽히려고 쓴 책이었다.
제목은 《해석학자》였다. 부제는 길었다. 뜻을 풀면 이렇다. 현대 해석학의 대상과 원리와 추론이 정말 종교의 신비와 신앙의 명제보다 더 명료한지, 더 분명하게 도출되는지 검토하겠다는 것이다. 책은 신앙이 없는 한 수학자에게 보내는 글이었다.
부제만으로도 책 전체가 향할 곳을 거의 표지에 써놓은 셈이다. 수학을 설명하는 책이 아니라, 수학은 무엇을 근거로 믿을 만하다고 하는지 묻는 책이었다. 더구나 저자가 그 문제에 관심을 가진 이유는 수학 바깥에 있었다. 주교가 나서서 수학을 공격했다니, 교회와 과학이 맞서는 익숙한 연극처럼 들린다. 하지만 이번 공연은 달랐다.
적어도 그 연극의 흔한 각본을 따르지는 않았다. 그는 수학이 틀렸다고 하지 않았다. 수학을 하면 안 된다고도 하지 않았다. 그의 말은 이것이었다. 당신들 분야에도 설명이 안 되는 대목이 있는데, 당신들은 평소 남에게 설명이 분명해야 한다는 기준을 들이대지 않는가.
그 신앙 없는 수학자는 누구였을까. 가장 흔히 지목되는 사람은 핼리다. 다만 이것은 신원에 관한 추정이지, 이름이 적혀 있어서 확인된 사실은 아니다. 뉴턴은 후보로 삼기 어렵다. 1727년에 이미 세상을 떠났다. 더 중요한 것은 버클리가 책에서 던진 또 다른 질문이다. 왜 어떤 사람은 그 위대한 저자의 수학을 찬양하면서 그의 종교는 비웃는가. 여기서 말하는 위대한 저자는 분명 경건한 뉴턴이며, 그를 신앙 없는 수학자와 구별하고 있다. 버클리가 왜 이 책을 썼는지는 뒤의 6절에서 다시 살펴보자.
그는 이 책 때문에 나중에 적잖은 반격을 받았다. 하지만 반격한 사람들은 대체로 가장 중요한 대목을 비켜 갔다.
지금은 그보다 더 중요한 사실 하나를 먼저 말해야 한다. 그의 지적은 옳았다.
전부 옳았다는 뜻은 아니다. 미적분이 자기모순에 빠진다는 것을 증명했다는 뜻도 아니다. 그러나 그가 지적한 논리적 수법은 실제로 존재했다. 당시 교과서와 설명에서 거듭 쓰였고, 그것을 해명하는 방식도 수학자마다 달랐다.
이 일이 얼마나 기묘한지 알려면, 그가 공격한 도구가 당시 어떤 위치에 있었는지부터 알아야 한다.
태어난 지 반세기밖에 안 된 도구가 벌써 하늘의 행성부터 땅 위의 포물선 운동, 진자의 주기, 물의 흐름까지 두루 계산하고 있었다. 당대에 가장 잘 드는 도구였다. 너무 잘 들어서, 대부분은 왜 잘 드는지 물을 생각조차 하지 않았다.
그때 관련 논증을 잘 알되 수학 연구를 본업으로 삼지는 않는 철학자가 나서서 말했다. 당신들 계산의 중간 단계 하나가 말이 안 된다고. 뒤이은 한 세기 동안 적어도 다섯 무리의 사람들이 답을 내놓으려 했다. 그중에는 당시 영국 최고의 수학자도, 프랑스 백과사전의 편집장도, 이 문제 때문에 700쪽이 넘는 책을 쓴 교수도 있었다.
더 눈여겨볼 것은 질문을 던진 사람이 수학 연구를 업으로 삼지 않았다는 점이다. 그는 철학자이자 주교였고, 수학을 공격한 이유는 종교를 변호하기 위해서였다. 오늘의 눈으로 보면 누구의 답도 최종적인 답은 아니었다.
훗날 표준 교과서의 토대가 된 종류의 답은 19세기에 들어서야 차츰 성숙했다. 바뀐 것은 논증 하나가 아니었다. 극한이 무엇인지, 연속이 무엇인지, 수렴이 무엇인지를 말하는 언어 전체가 바뀌었다. 그러니까 그에게 답하는 방법은 그 사라지는 양의 정체를 찾아내는 것이 아니었다. 말들의 뜻을 새로 정해서, 그 질문을 더는 물을 필요가 없게 만드는 것이었다.
2 생성과 차분
먼저 그가 무엇을 공격했는지 보자. 누군가 길을 걸었다. 이 사람이 1분 동안 얼마나 빠르게 걸었는지 묻는다면 어려울 게 없다. 그 1분 동안 간 거리를 1분으로 나누면 된다.
그런데 어느 한 순간에 얼마나 빠르게 걸었는지를 묻는다면?
순간에는 길이가 없다. 그 순간에 이동한 거리도 0이고, 걸린 시간도 0이다.
0을 0으로 나누는 셈이다.
17세기의 그 두 사람은 각자 바로 이것과 씨름했다. 다만 씨름하는 방법은 달랐다.
뉴턴은 운동에서 출발했다. 그에게 선도, 넓이도, 부피도 어떤 연속적인 운동이 그려내는 것이었다. 그것이 어느 순간 얼마나 빠르게 커지는가. 그가 구하려는 양은 이것이었다. 그는 이 양을 유율이라고 불렀다. 말뜻을 그대로 옮기면 흘러나오는 수다. 양이 흐르고, 이 수가 그 흐름이 얼마나 급한지 기록한다는 뜻이었다.
그 말 뒤에는 하나의 그림이 있었다. 세계는 움직이고, 양은 자란다. 그 그림이 틀릴 수는 있다. 그래도 그림은 그림이다. 손가락으로 가리킬 만한 것이 있다. 더구나 뉴턴은 나중에 거듭 강조했다. 자신이 구하는 것은 유한한 속도이지, 세계가 더 작아질 수 없는 조각들을 모아 만든 것이라는 주장이 아니라고.
라이프니츠는 차이에서 출발했다. 서로 연결된 두 양 가운데 하나가 조금 변하면 다른 하나도 그에 따라 조금 변한다. 그의 관심은 이 두 변화의 비에 있었다. 그 조금이 얼마나 작은지에 대해서는 못을 박으려 하지 않았다. 크기를 특정할 수 없을 만큼 작은 차이라고만 했다.
그런 작은 차이가 실제로 존재하는지에 대해 그는 언제나 같은 답을 주지는 않았다. 한 설명에서는 그것을 유용한 이상적 양으로, 또는 일종의 허구로 취급했다. 중요한 것은 올바른 법칙에 따라 계산하는 일이며, 계산 결과는 다시 보통의 유한한 양들 사이의 관계로 옮겨 쓸 수 있다는 것이다. 앞 편의 그 말이 또 등장했다. 허구란 대상을 쫓아내는 말이 아니라, 남아 있을 수 있는 신분을 마련해주는 말이었다. 두 편 사이에 백 년이 놓여 있다. 대상은 바뀌었지만, 자리를 마련해주는 방식은 바뀌지 않았다.
두 방법은 결국 서로 번역할 수 있다. 그렇다고 17세기에 둘이 하나의 개념 체계였다는 뜻은 아니다.
문제를 바라보는 눈도 달랐다. 초기 뉴턴의 핵심 관심 가운데 하나는 곡선의 구적, 무한급수, 그리고 방정식에서 변화율을 구하고 변화율에서 거꾸로 양을 구하는 일이었다. 그의 자연철학은 유율을 운동과 긴밀히 묶어놓았다. 반면 라이프니츠가 1684년 공개적으로 열어놓은 입구는 접선과 극값, 그리고 근호나 분수에 가로막히지 않는 보편적인 알고리즘이었다. 당시 사람들이 느낀 차이를 훗날 누군가는 한 문장으로 요약했다. 두 방법은 실제 사용에서 동등하지 않았다는 것이다.
후대의 눈에는 같은 것을 두 가지 방식으로 적은 것처럼 보이기 쉽다. 오늘날 교과서에서는 실제로 두 표기 사이를 자유롭게 오갈 수 있기 때문이다. 하지만 환산이 가능하다는 것과 당시 사람들이 둘을 같은 것으로 여겼다는 것은 별개다. 표기에도 그 나름의 시간표가 있었다.
라이프니츠의 개인 노트를 보면 표기가 형성되는 과정을 1675년까지 거슬러 갈 수 있다. 그해 10월, 그는 훗날 적분 기호가 된 길게 늘인 글자를 쓰기 시작했다. 합을 뜻하는 라틴어에서 가져온 글자였다. 11월에는 미소한 차분으로 변수의 변화를 나타내는 표기가 형성되었다. 하지만 더 중요한 것은 공개된 날짜다. 1684년에 공개된 것은 미분 알고리즘이었다. 적분 기호가 그의 공개 논문에 정식으로 등장한 것은 1686년이었다. 유명한 1684년 10월 논문의 원래 게재 면수는 대략 467쪽에서 473쪽까지였다. 일곱 쪽 남짓이다.
기초를 다지는 저작이라기보다, 새 알고리즘을 바짝 압축해서 알리는 공고문에 가까웠다. 미분 규칙을 설명하고, 접선과 극대·극소에 적용하고, 예제로 실제 계산이 가능한 방법임을 보여주었다. 훗날 교과서가 하는 식의 개념적 토대 작업은 거의 없었다. 오히려 그 점이 역사적으로 매우 중요하다. 먼저 퍼져나간 것은 계산할 수 있는 언어였다. 계산할 수 있는 언어는 몇 년 만에 유럽 전역으로 퍼질 수 있었다. 분명하게 설명하는 데에는 백여 년을 더 기다려야 했다.
게다가 퍼지는 속도와 설명이 분명해지는 속도를 결정하는 사람들은 같은 무리가 아니었다. 이 편에서 앞으로 벌어질 모든 일은 그 두 속도 사이에 벌어진 거리 안에서 일어난다.
앞 편 끝에서 이런 이야기를 했다. 수학은 먼저 계산은 되지만 설명은 안 되는 것을 만들어놓고, 나중에 돌아와 정의를 넓혀 그것을 받아들인다. 그 편은 한 부류의 대상을 다뤘다. 이번에는 방법 한 체계 전체를 다룬다.
3 왜 《프린키피아》는 기하학으로 말하는가
1687년의 《프린키피아》는 유율 방정식의 체계로 시작하지 않는다.
뉴턴이 세운 것은 최초비와 최종비를 이용한 기하학적 극한 논증이었다. 기하학적 양들이 연속 운동 속에서 극한에 다가가게 하고, 양들이 사라지기 전에 어떤 비가 최종적인 비에 다가가게 한다. 핵심은 마지막에 0이 아닌 무한소 삼각형이 남아 있다고 가정하는 것이 아니다. 그 비들이 다가가는 극한을 논하는 것이다. 책의 주된 언어는 선분, 넓이, 비, 닮은 도형, 원뿔곡선, 기하학적 작도였다. 널리 퍼진 설명은 이렇다. 뉴턴은 사실 전부 미적분으로 계산해놓았고, 독자들이 알아보도록 일부러 고전 기하학으로 번역했다는 것이다.
이 설명은 일부만 맞는다.
뉴턴은 말년에 실제로 이런 말을 했다. 새로운 해석 방법으로 《프린키피아》의 명제 대부분을 찾아냈고, 고대인들처럼 확실하게 만들기 위해 그것들을 종합적 방법으로 다시 증명했다고. 그러나 이 회고는 라이프니츠와 논쟁하던 시기에 나온 말이다. 자기 방법을 어떻게 보이게 할 것인가 하는 자기상 형성이 담겨 있다. 명제 하나하나를 만든 과정을 기록한 작업 일지로 읽을 수는 없다.
관련 초고를 연구한 결과, 일부 명제 뒤에서 급수, 구적, 심지어 유율 기법이 쓰였음은 분명하다. 그러나 책 전체를 기하학으로 암호화한 현대 미적분 교과서 한 권으로 환원할 수는 없다. 기하학을 택한 데에는 적어도 네 겹의 이유가 있었다.
첫째는 증명의 위계다. 그는 새로운 방법을 발견에 이르는 길로, 고전 기하학을 증명을 완성하는 형식으로 점점 더 뚜렷이 구별했다. 그가 마음속에 재구성한 고대의 전통에서는 분석은 작업실에 남겨두어도 되었고, 공개하는 글에는 종합적 증명을 제시했다.
3편에서는 이와 관련된 문제를 다뤘다. 그때 논쟁은 무엇이 원리가 될 자격이 있는가였다. 여기서는 층위가 바뀐다. 무엇이 공개적인 증명이 될 자격이 있는가.
둘째는 물리적 의미다. 그는 자연철학의 기본량을, 자신이 보기에 기하학적으로도 자연 속에서도 존재하지 않는 불가분량 위에 세우고 싶지 않았다. 한 전문 저술에서 그는 수학적 양이 연속 운동으로 생성될 수 있다고 강조했고, 자신이 구하는 양은 유한하고 실제적인 것이라고 말했다.
셋째는 《프린키피아》 자체의 연구 대상이다. 그가 연구하려던 것은 힘, 궤도, 면적속도, 천체 운동 사이의 구조적 관계였다. 먼저 일반적인 미분방정식 이론을 세우려던 것이 아니었다. 어떤 중심력 문제에서는 기하학적 작도가 서투른 번역이 아니었다. 궤도의 구조와 비례 관계를 곧바로 드러내는 방법이었다.
다음 세대는 보편적인 알고리즘, 일반적인 방정식, 반복할 수 있는 계산에 더 높은 자리를 내줄 것이다. 하지만 그것은 다음 세대가 차츰 만들어갈 기준이었다. 그 기준을 곧장 가져와 1687년의 선택을 재서는 안 된다.
넷째는 공개적인 방법과 사적인 방법의 차이다. 뉴턴 주변 사람들의 필사 자료를 보면, 몇몇 결론에는 실제로 계산할 수 있는 방법을 붙일 수 있었다. 그러나 그는 그런 기법들을 원고와 편지와 제자들의 모임 안에 남겨두었다.
그러니 뉴턴이 몰래 미적분을 썼느냐만 물어서는 안 된다. 물어야 할 것은 이것이다. 그의 증명 문화에서 자연철학의 명제 하나를 완성했다고 하려면 무엇이 필요했는가.
이 질문을 던지면 책의 모습이 달라진다. 번역된 미적분 교과서가 아니라, 한 사람이 자신이 믿는 증명의 기준에 따라 일련의 발견을 다시 수행한 책이 된다. 발견과 증명을 나누는 말은 4편의 어떤 사람도 했다. 1,900년을 사이에 두고 같은 말을 한 셈이다. 차이는 그 사람이 두 방법을 모두 적었고, 앞의 방법은 증명이 아니라고 명시했다는 데 있다. 이번 사람은 발견에 해당하는 절반을 작업실에 남겨두었다.
4 우선권
1676년 이전에는 공개적인 전쟁이 없었다.
두 사람은 중개인 한 사람을 통해 편지를 주고받았다. 뉴턴은 편지에서 급수 등의 성과를 이야기했고, 방법의 일부를 애너그램처럼 글자를 뒤섞어 감추기도 했다. 그동안 라이프니츠는 파리에서 쓴 자기 노트에서 이미 차분 알고리즘을 발전시키고 있었다. 1684년 라이프니츠가 미분법을 공개한 뒤에도, 뉴턴은 1687년의 《프린키피아》에서 그의 방법을 상당히 우호적인 어조로 언급했다.
1690년대 초, 한 사람이 사적으로 의심하기 시작했다. 1699년에는 라이프니츠가 뉴턴에게서 그 방법을 얻었다고 처음 공개적으로 암시했다. 보통 이때를 공개 분쟁의 시작으로 본다.
두 번째 격화는 1704년에서 1705년 사이에 일어났다. 《광학》의 부록으로 《곡선의 구적에 관하여》가 공개된 뒤, 한 학술지에 익명의 논평이 실렸다. 뉴턴의 유율과 라이프니츠의 미분을 나란히 놓은 글이었다. 뉴턴 쪽은 그 표현이 거꾸로 뉴턴이 라이프니츠에게서 빌려왔다는 암시라고 받아들였다. 이 논평은 대체로 라이프니츠가 쓴 것으로 여겨진다. 그래도 문구 하나하나의 책임을 물을 때는 익명으로 발표되었다는 점을 밝혀야 한다.
뒤이어 케일이 왕립학회의 논문에 명확하게 적었다. 유율 계산의 최초 발명자는 뉴턴이며, 라이프니츠는 나중에 다른 이름과 다른 표기로 발표했다는 것이다. 은근한 암투는 이제 직접적인 표절 혐의 제기로 바뀌었다. 이때부터 다툼은 누가 무엇을 먼저 계산했느냐에 머물지 않았다. 한 사람의 명예가 걸려 있었다. 명예는 절반씩 나눠 간직할 수 있는 것이 아니다. 발견은 두 사람이 각자 할 수 있다. 하지만 당사자들은 영예를 나눌 수 있다는 생각을 갈수록 받아들이려 하지 않았다. 이 분쟁이 정말로 조정될 수 없었던 지점은 여기에 있었다.
게다가 두 사람의 처지는 전혀 달랐고, 다투는 것이 각자에게 갖는 무게도 달랐다. 한 사람은 케임브리지의 교수였고, 나중에는 국가의 조폐 기관으로 들어가 대학과 학회와 실권 있는 직책을 동시에 손에 쥐었다. 다른 한 사람은 궁정의 고문이자 도서관 사서였고, 왕조사 편찬 사업을 맡고 있었다. 오랫동안 봉급을 받는 한편, 끝낼 길이 거의 보이지 않는 가문사 작업에 붙들려 있었다. 두 대학 수학 교수가 발명권을 다퉜다고 쓰면 사회적 배경 전체를 잘못 읽게 된다.
1711년, 라이프니츠가 왕립학회에 정식으로 항의했다. 학회는 1712년 3월 위원회를 꾸렸다. 이 위원회의 구성이 중요하다.
남아 있는 기록에 따르면 첫 위원들 가운데에는 수학적으로 유능한 사람들이 몇 명 있었다. 뒤에 몇 사람이 더 들어왔는데, 그중에는 프로이센의 사절도 있었다. 위원 모두가 뉴턴 개인의 측근은 아니었다. 하지만 모든 세부 사정보다 무거운 사실 하나가 있었다. 당시 왕립학회 회장은 뉴턴이었다.
조사 절차도 오늘날의 쌍방 입증, 이해충돌 회피, 독립적인 동료 심사와는 거리가 멀었다. 위원회는 주로 학회와 앞서 나온 수학 중개인이 보관한 옛 편지와 사본을 대조했다. 뉴턴은 많은 자료를 직접 공급하고 배열했다. 라이프니츠는 위원회 앞에서 항목별로 해명하도록 초대받지 못했고, 뉴턴과 동등하게 문서를 편집할 권한도 받지 못했다. 위원회는 결국 뉴턴의 방법이 먼저라고 판단했고, 그 우선권 주장이 라이프니츠의 명예를 훼손하지 않았다고 판단했다.
자료는 그 뒤 학회의 이름으로 출판되었다.
뉴턴이 집필에 관여했다는 사실은 후대 사람들이 그가 회장이었다는 이유만으로 추론해낸 것이 아니다. 케임브리지에 보관된 논쟁 원고에는 그의 자필 초고, 자료를 편집한 흔적, 그 문헌집을 위해 쓴 글이 남아 있다. 관련 기록물의 설명은 이 자료들이 뒤에 학회 간행물에 실린 익명 글 역시 뉴턴이 썼음을 입증한다고 명시한다. 다시 말해 회장, 당사자, 주요 자료 제공자, 글의 초안 작성자라는 네 역할 사이에 현대 제도가 요구하는 분리는 전혀 없었다.
이 사실로 누군가에게 유죄를 선고할 필요는 없다. 여기서 알 수 있는 것은 하나다. 이 조사는 핵심 당사자가 자료 편집과 결론 형성에서 빠지게 할 만큼 충분한 절차적 분리를 갖추지 못했다. 그것이 언제 밝혀졌는지에 대해서도, 어느 해 갑자기 비밀이 폭로되었다고 말할 수는 없다.
앞 편에 등장했던 드모르간은 이미 1852년에 글을 발표했다. 텍스트와 서지 증거를 들어 그 익명 글의 저자가 뉴턴임을 논증했다. 1872년 뉴턴 가문이 과학 논문들을 케임브리지에 넘긴 뒤, 수많은 논쟁 초고가 체계적으로 정리되기 시작했다. 1888년에는 목록이 출판되어, 그의 깊은 관여를 원고 차원에서 더 확인할 수 있게 되었다. 그렇다면 독립적으로 발전했다는 결론은 어떻게 나왔을까. 공평하게 절반씩 나눠주기 위해서가 아니었다. 서로 독립된 두 묶음의 기록물에서 나온 결론이었다.
독립 발견이라는 말은 외교적 절충처럼 들린다. 그렇지 않다. 종이 두 무더기를 대조한 뒤 얻은 결론이다. 두 표기 체계, 두 시간선, 두 사람이 각자 남긴 날짜들이 있었다.
뉴턴이 1660년대에 남긴 원고만으로도 그의 길이 라이프니츠보다 먼저 열렸음을 충분히 입증할 수 있다. 한편 라이프니츠의 1675년 전후 개인 노트는 그의 미분 표기와 알고리즘이 어떤 구체적인 문제들 속에서 차츰 나타났는지 충분히 보여준다.
뉴턴의 방법을 받은 뒤 기호만 바꿨다면, 어느 순간 갑자기 들어온 차용의 흔적이 예상될 것이다. 실제로 남아 있는 것은 실패한 시도, 표기의 변경, 개념의 재편이 빼곡한 또 하나의 작업 궤적이다. 증거의 강도를 나누면 이렇다.
그가 뉴턴의 수학 자료 일부를 보았다는 데에는 실증이 있다. 19세기에 그의 기록물에서 뉴턴 자료를 직접 옮겨 적은 것이 발견되었다. 그러므로 관련 작업을 한 번도 본 적 없다는 주장은 유지할 수 없다. 뉴턴에게 이미 강력한 방법이 있다는 사실을 그가 알았다는 주장도 성립한다. 그러나 1675년 자기 작업에 착수하기 전에 뉴턴의 체계 전체를 알고 있었다는 데에는 믿을 만한 직접 증거가 없다. 그 자료에서 방법을 끌어낸 뒤 자기 것인 양 속였다는 주장을 뒷받침하는 자료는 하나도 없다.
우선권 분쟁 때문에 영국 수학이 백 년 동안 멈췄다는 유명한 말은 어떨까. 사실에 근거한 면은 있지만, 대개 지나치게 말한다.
분쟁은 실제로 방법의 차이를 국가의 차이로 만들었다. 유럽 대륙은 점점 한 가지 언어를 채택했다. 영국은 유율, 최초비와 최종비, 뉴턴의 권위를 중심에 두었고, 대륙의 문헌을 받아들이는 속도가 더뎠다.
반대편 증거도 중요하다. 영국의 수학이 정지한 것은 아니었다. 그 세대는 급수, 차분, 유율론, 해석학에서 상당히 활발했다. 뉴턴의 점 표기 자체가 계산을 가로막은 것도 아니다.
더 타당한 판단은 이렇다. 분쟁은 두 전통 사이의 제도적·언어적 격리를 심화했고, 상대적인 쇠퇴의 한 요인이 되었다. 기호를 잘못 골라서 영국 수학이 백 년 동안 잠들었다는 이야기는 후대의 극적인 각색이다. 여기에는 물질적인 이유도 한 겹 더 있다. 이번 편에서 다루기에 알맞은 이유다.
공개 논문은 몇 쪽뿐이어도 개인 작업지는 수만 쪽일 수 있다. 뉴턴은 사후에 유난히 방대한 원고를 남겼고, 현대적인 의미의 기록물 체계는 두 세기에 걸쳐 흩어지는 과정을 통해 형성되었다. 라이프니츠 쪽에 남아 있는 문헌은 약 5만 건, 20만 쪽이며, 편지는 약 1만 5천 통, 서신 상대는 약 1,100명이다. 누구의 작업지가 남았는지, 언제 목록이 만들어졌는지, 편집자가 어느 부분을 보았는지는 후대가 쓰는 발견의 역사를 직접 바꾼다.
19세기와 20세기에 우선권 분쟁의 판정이 바뀔 수 있었던 일은 이 사실과 떼어놓을 수 없다.
5 증분
이제 버클리로 돌아가자.
2절에서 본, 0을 0으로 나누는 문제를 당시 교과서는 이렇게 피해 갔다.
어떤 양이 어느 순간 얼마나 빠르게 변하는지 계산하려면, 먼저 그 순간 대신 짧은 구간을 택한다. 독립변수를 아주 조금 늘린다. 이 조금 늘어난 부분을 증분이라고 한다.
증분은 반드시 0이 아니어야 한다. 곧 그것으로 나누어야 하기 때문이다. 0은 나누는 수로 쓸 수 없다.
나누기를 하고 나면 식에 아직 그 증분을 포함한 항들이 몇 개 남는다. 그때 계산하는 사람은 말한다. 이제 이 증분은 사라졌다고. 그래서 그 항들을 버리면 답이 나온다.
버클리는 한 논증 안에서 몰래 가정을 바꾼 셈이라고 말했다.
나눗셈이 필요할 때는 존재한다. 보기 좋은 답을 얻어야 할 때는 존재하지 않는다.
처음부터 0이었다면 앞의 나눗셈은 정당하지 않다. 0이 아니라면, 뒤에서 무슨 근거로 그것을 포함한 항들을 0으로 취급하는가.
이 비판의 힘은 지극히 구체적이라는 데 있었다. 그 작은 것의 정체가 무엇이냐는 철학적 질문을 겨냥하지 않았다. 종이 위의 몇 줄을 겨냥했다. 첫 줄에서는 반드시 0이 아니어야 하고, 셋째 줄에서는 반드시 0이어야 한다. 그런데 그사이에는 언제 바뀌었는지 설명하는 문장이 하나도 없다.
그리고 가장 유명한 그 말이 나온다.
그는 먼저 따져 묻는다. 그 양이란 도대체 무엇인가. 사라져가는 증분의 속도인가. 그렇다면 그 증분 자체는 보통의 유한량도 아니고, 간단히 0이라고 할 수도 없다.
그러고는 한마디를 던진다. 사라진 양의 유령이라고 불러도 되지 않겠는가.
따로 떼어놓고 감탄할 재치 있는 욕설이 아니다. 논리적 공격 전체가 그 말에 압축되어 있다. 계산은 그 양들에 기대어 정당한 연산을 했다. 증명이 끝날 때에는 그 양들이 사라졌다고 선언한다. 그런데 계산의 결과는 남아 있다.
실체는 죽었는데, 작용은 아직 그 자리에 있다.
이 비유에는 흔히 언급되지 않는 의도가 한 겹 더 있다. 주교가 유령이라는 말을 쓸 때는 아무렇게나 골랐을 리 없다. 그는 종교에 보이지 않는 것이 있다고 비웃는 사람들을 가리키며 말하고 있었다. 당신들 계산 속에도 보이지 않는 것들이 무리 지어 살고 있다고. 이 문장을 단지 무한소가 우스꽝스럽다고 조롱한 말로 옮기면, 원래 논증의 날을 잃는다. 다만 이 일격에도 닿는 범위가 있다.
소박한 무한소 계산을 설명하는 몇몇 교과서식 표현에는 아주 정확히 적중했다. 그러나 《프린키피아》의 최종비 논증까지 무너뜨렸다는 뜻은 아니다. 뉴턴은 이렇게 답할 수 있다. 나는 마지막에 0이 아니면서 동시에 0인 양이 남는다고 말한 적이 없다. 양이 사라져갈 때 그 비가 어디로 향하는지를 논했을 뿐이다. 뒤에 뉴턴을 옹호한 몇 사람이 바로 이 길을 택했다.
그러므로 맞은 것은 뉴턴이 가장 신중하게 다져놓은 층이 아니었다. 당시 가장 널리 유통된 층이었다. 그리고 가장 널리 유통된 층은 학생들이 배우던 층이었다.
학문에서 가장 약한 곳은 흔히 가장 깊은 층이 아니라 초심자에게 가르치는 층이다. 가장 깊은 층에는 지키는 사람이 있다. 초심자에게 가르치는 층은 이미 단순화되어 있다. 단순화할 때 빠지는 것은, 왜 그렇게 해도 되는지 설명하는 바로 그 문장들이다.
6 버클리가 하려던 일
이제 그가 왜 이 책을 썼는지 말할 차례다.
그는 당시의 자유사상가들을 오랫동안 공격했다. 이 사람들은 수학과 자연철학의 명료함과 확실함을 내세워, 기독교의 신비와 은총과 신앙의 명제들을 대비시키곤 했다. 버클리의 전략은 수학이 쓸모없음을 증명하는 것이 아니었다. 그들의 인식론적 무기를 거꾸로 돌려놓는 것이었다.
명료하게 이해할 수 있고 한 단계씩 엄밀하게 도출되는 것만 받아들인다고 했지 않는가. 좋다. 그렇다면 당신들이 날마다 쓰는 유율, 사라지는 증분, 무한소도 같은 기준으로 분명히 설명해보라.
그래서 부제에 들어간 비교는 결코 장식이 아니다. 그가 만들려던 것은 대칭이었다. 수학자들의 실천이 개념적으로 모호한 상태에서도 믿을 만한 결과를 낼 수 있다면, 완전히 개념화할 수 없는 것이 존재한다는 사실만으로 종교를 거부할 충분한 이유가 자동으로 생기는 것은 아니다.
그는 심지어 신학적인 말들을 거듭 써가며 해석학을 비꼬았다. 수학자들의 신앙, 신비, 이해할 수 없는 대상을, 그들이 공격하는 종교 개념들 옆에 나란히 세웠다.
그러므로 그를 훗날의 극한 언어를 미리 찾아낸 18세기 논리학자로 그려서는 안 된다. 그는 무엇보다 철학자이자 주교였다. 수학의 기초 문제는 여기서 자유사상가들을 향한 인식론적 반격에 쓰였다.
오히려 그 자리가 남들보다 잘 보게 해주었다. 이 분야 안에 있는 사람은 날마다 그 알고리즘을 쓴다. 알고리즘은 날마다 맞는 답을 내준다. 바깥에서 온 사람은 종이 위의 단계들만 읽는다. 익숙함에서 생기는 신뢰가 없다. 수학적 비판도 진짜이고, 종교적 목적도 진짜다. 둘은 서로 자리를 다투는 설명이 아니다.
수학을 빌려 과학을 공격한 종교 사기꾼으로 그려도, 우연히 주교직을 가진 논리학자로 그려도, 이 책이 왜 쓰였는지를 잃는다.
여기가 이번 편에서 가장 중요한 층이다. 수학의 허점을 이용해 신학을 변호한 사람이, 수학에서는 옳았다.
이 문장은 두 절반이 모두 성립해야 흥미롭다. 수학에서 틀렸다면 그저 빗나간 불평 한 번이다. 신학적 목적이 없었다면 그저 평범한 학술 비판 한 번이다. 두 가지가 함께 있었기에 그 책이 나왔다. 그렇다면 그는 얼마나 옳았을까.
전통적인 수학사는 그를 상당히 존중한다. 그가 실제로 겨냥한 서술들에 관한 한, 비판은 대체로 적중했고 당시 맥락에서도 상당히 강력했다. 먼저 0이 아닌 양으로 나눈 다음에는 그것을 0으로 보고 버리는 서술, 고차 무한소를 쓰면서 그 논리적 지위를 설명하지 않는 서술에 특히 그렇다. 다만 최근 수십 년 동안 중요한 수정도 있었다.
라이프니츠를 연구하는 역사학자들은 버클리가 무한소를 흔히 보통의 실수 같은 작은 양과 동일시한 뒤, 서로 충돌하는 성질을 동시에 만족하라고 요구했다고 지적한다. 라이프니츠 자신에게는 연속성의 법칙과 고차항에 관한 규칙들이 있었다. 왜 같은 지배적 차수의 항들만 남기는지 설명하기 위한 것이었다. 한편으로는 버클리 자신이 두 오류가 서로 상쇄되기 때문에 결과가 여전히 맞는다고 설명한 논증들 역시 완전하지 못하다는 연구도 나왔다.
그러므로 가장 안전한 결론은 이렇다. 그는 실제 기초 문제를 발견했고, 당대에 불충분한 서술이 많이 존재함도 발견했다. 미적분 자체가 필연적으로 모순이라는 것을 증명하지는 않았고, 현대 극한 이론을 제시한 것은 더더욱 아니었다. 완전히 틀렸거나 완전히 승리했다고 쓰는 것은 모두 현대 연구에 맞지 않는다. 다만 그의 책이 즉각적인 답변과 지속적인 반론을 불러일으켜, 왜 이렇게 계산하면 맞는가라는 문제를 더 집중적인 공개 논의로 끌어냈다는 점은 확인할 수 있다. 이후의 모든 기초 연구를 이 책의 결과로 돌려서는 안 된다.
뒤이은 백 년 동안 적어도 네 가지 서로 다른 답이 진지하게 제시되었다.
7 다른 곳에서
이 대목을 쓰기 전에, 시간을 삼백 년 전으로 되돌리고 장소를 인도 남단으로 옮겨야 한다.
그곳에는 현대 역사학자들이 케랄라 학파라고 부르는 전통이 있었다. 이 이름은 사제 관계와 가문, 주석 전통, 천문학의 문제를 바라보는 공통의 관심으로 이어진 연결망을 가리킨다. 학교 건물과 회원 제도를 갖춘 학원으로 상상해서는 안 된다.
이 계보를 이번 편에 가져오는 이유는 누가 먼저였는지 겨루기 위해서가 아니다. 같은 판정 기준의 문제를 제기하기 때문이다. 유럽 쪽보다 더 일찍 제기되었고, 답하기도 더 어렵다. 더 어려운 이유는 이렇다. 그곳의 글들은 이유를 제시하지만, 이유의 모양이 유럽의 것과 다르다. 이유를 제시했으니 공식만 짐작했다고 할 수 없다. 이유의 모양이 다르니 훗날의 체계를 이미 갖췄다고도 할 수 없다. 가장 이른 핵심 인물은 보통 1340년 무렵에 태어나 1420년대에 세상을 떠난 것으로 본다. 뒤로도 여러 세대가 이어졌다.
이 전통에서는 오늘날 사인, 코사인, 아크탄젠트로 식별할 수 있는 함수의 무한 멱급수가 나타났다. 아크탄젠트에 특별한 값을 대입해 원주율의 교대급수도 얻었다. 원주율을 더 효율적으로 계산하기 위한 보정항도 있었다. 현대 기호로 적으면 훗날 유럽 수학의 해당 급수와 같거나 동치다.
연대에 관해 가장 신중한 서술은 공식마다 허구의 발견 날짜를 붙이는 것이 아니다. 후대의 글들이 몇몇 핵심 결과를 가장 이른 그 인물에게 명시적으로 돌리므로, 기원을 14세기 말에서 15세기 초에 둘 수 있다. 하지만 현존하는 가장 이른 온전한 문헌 증거는 흔히 한두 세대 뒤의 것이다.
여기서는 한 가지를 분명히 나눠야 한다. 후대의 글이 이 방법은 누구에게서 왔다고 명시한다는 것에는 텍스트 증거가 있다. 오늘날 그 사람 자신의 14세기 원고가 남아 있다는 것은 사실이 아니다.
이 성과들은 그저 아름다운 급수 하나를 발견한 일이 아니었다. 삼각함수표, 원주율, 천문 수치 계산에 쓰였다. 더 중요한 것은 수렴이 아주 느린 교대급수를 어떻게 잘라내고 보정을 넣어, 유한한 계산으로 더 높은 정밀도를 얻을지 연구했다는 점이다. 그렇다면 이 글들에는 공식만 있을까, 왜 그런지에 대한 설명도 있을까. 설명도 있다. 바로 그것이 20세기에 이 전통을 재평가한 중요한 이유다.
16세기 전반의 가장 중요한 논증 문헌은 이름부터 이유를 강조한다. 공식을 그저 나열하지 않는다. 원호의 기하학을 통해 도형을 수많은 작은 부분으로 나누고, 그 부분들을 비교하고, 거듭제곱의 합을 구하는 규칙을 쓰고, 분할을 계속 더 잘게 하면서 왜 해당 전개가 나오는지 설명한다. 하지만 추론의 사슬이 있다는 것과 이미 현대적인 수렴 증명이 있다는 것은 구별해야 한다.
그 논증들은 작은 원호가 점점 어떤 단순한 양에 가까워진다거나, 분할이 충분히 잘게 이루어지면 오차를 무시할 수 있다는 식의 기하학적·수치적 직관을 이용한다. 유한한 거듭제곱 합에 관한 근사 관계에도 기댄다. 19세기의 실수 완비성, 통일된 극한 정의, 일반적인 급수 수렴 이론은 없다.
이 말은 같은 시기의 유럽에도 해당한다. 5절에서 버클리가 공격한 것이 바로 같은 종류의 빈틈이었다. 몇몇 보정항에 대해서는, 현대의 정밀한 독해에서도 전통적인 이유만으로 현대 기준에 따른 설득력을 얻기에는 부족하다고 명확하게 판단한다.
5편에서도 같은 모양의 논쟁을 다뤘다. 거기서는 한 주석가의 논증이 증명으로 인정되는지를 물었다. 여기서는 이 체계가 미적분으로 인정되는지를 묻는다. 답이 판정 기준에 달려 있다는 점도 같다.
5편의 결론은 이랬다. 용어가 그를 증명이라는 상자에 넣을지 결정하고, 자료 분석이 그 상자 안에 실제로 무엇이 들어 있는지 결정한다. 여기에도 그대로 쓸 수 있다.
한쪽은 미적분으로 봐야 한다고 생각한다. 무한 과정을 통해 삼각함수를 다루고, 국소적 변화와 합산과 넓이에 관한 추론으로 무한급수를 이끌어내며, 유한한 수의 항에서 잘라내는 문제를 논의하는 것이 기준이라면, 이 전통은 핵심 구조를 충분히 많이 갖고 있다.
다른 쪽은 더 조심스럽게 미적분 체계가 아니라 미적분의 사고라고 부른다. 그들의 기준은 더 체계적이다. 성숙한 미적분에는 몇몇 함수의 멱급수만 필요한 것이 아니다. 일반적인 미분 개념과 일반적인 적분 개념, 둘 사이의 체계적인 연결, 수많은 새 문제를 통일된 알고리즘으로 묶어낼 틀이 필요하다. 세 번째 의견도 있다. 역사학에서 특히 중요하게 받아들일 만한 의견이다. 이 질문 자체가 지나치게 유럽적일 수 있다는 것이다.
어느 지역의 수학이든 훗날의 그 체계까지 무엇이 더 부족한지 묻기만 하면, 그 수학 자체의 천문학적 목적, 논증 방식, 삼각 계산 전통, 언어 구조를 다른 곳으로 가기 위한 진도표로 바꾸기 쉽다.
그러므로 여기서 진짜 발명자의 순위를 매기는 것은 적절하지 않다. 귀속 판단의 차이는 주로 분류 기준의 차이에서 나온다. 어느 한쪽이 그 급수들의 존재를 몰라서가 아니다. 양쪽 학자들 모두 급수가 거기 있다는 것을 안다. 그들이 다투는 것은 그 급수들을 가진 체계를 무엇이라고 불러야 하는가다.
무엇이라고 불러야 하는가라는 문제를 이 연재는 벌써 세 번째 만난다. 3편에서는 그 책이 공리적 방법의 탄생에 해당하는지 물었다. 5편에서는 그 주석들이 증명에 해당하는지 물었다. 이번에는 그 급수들이 미적분에 해당하는지 묻는다. 세 번 모두 자료가 충분한지만 두고 갈린 것이 아니다. 서로 다른 자를 쓰고 있었다. 그리고 그 자는 줄곧 나중에 온 사람들의 손에 들려 있었다. 이 문제는 연재에서 이미 거듭 나타났고, 앞으로 더 무거워질 것이다. 그렇다면 전파는 어떨까.
이런 가설이 제기된 적이 있다. 16세기와 17세기에 포르투갈 사람들은 인도양에 해상 연결망을 만들었고, 선교사들이 그 지역에서 활동했다. 이들에게는 역법, 천문학, 항해 자료의 실제 수요가 있었으므로, 현지의 천문 계산자들과 그들의 글을 접할 기회와 동기가 있었다는 것이다. 이를 뒷받침하는 논거는 주로 세 종류다. 경로가 있었고, 수요가 있었고, 시간상 가능했다. 문제는 배가 있었고 선교사가 있었고 비슷한 수학이 있었다는 것에서, 이 공식이 건너갔다는 것으로 넘어가는 사이에 있다. 역사학에 가장 필요한 고리 하나가 바로 거기서 빠져 있다.
현재까지 16세기나 17세기의 유럽 번역본, 편지, 필사본, 학습 노트, 장서 목록의 기록, 유럽 수학자의 명확한 인용 가운데, 특정 급수를 구체적인 인도 문헌에서 유럽까지 끊김 없이 추적하게 해주는 것은 발견되지 않았다. 따라서 현존 자료만으로는 이 구체적인 급수들이 16세기와 17세기에 유럽으로 전해져 관련 발견에 영향을 주었다는 연속적인 증거 사슬을 확립할 수 없다.
이 결론이 전파는 절대로 불가능했다고 증명하는 것은 아니다. 흔적이 보존되지 않은 전파가 역사 속에서 일어났을 가능성은 당연히 있다. 다만 현재까지의 증거로는 가능성을 실제로 일어난 사실로 격상할 수 없다는 뜻이다.
유럽 학계가 이 자료들에 다시 주목한 계기는 1832년 12월의 논문 낭독이었다. 논문은 1834년 동양학 학회의 회보에 실렸다. 저자는 동인도회사의 관리였다. 그의 판단은 대담했다. 이 문헌들이 이미 완전한 유율 체계의 토대를 놓았다고 보았다. 이 19세기의 명칭 자체가, 훗날 이것이 과연 미적분인가를 둘러싼 논쟁의 전조였다.
하지만 그의 논문이 곧바로 유럽 수학사를 다시 쓰게 하지는 않았다. 오랫동안 주류 저술에 거의 받아들여지지 않았다. 다시 출판하고 번역하고 분석하는 작업은 1940년대 말 이후에야 이루어졌다.
그러니 그가 처음 서양에 알렸고, 뒤이어 의도적인 억압을 당했다는 이야기도 지나치게 극적이다. 더 정확히 말하면, 그는 자료의 중요성을 아주 일찍 알아보았다. 하지만 논문은 학문적 연결망의 변두리에 있었고, 원문은 읽기 어려웠고, 비판적으로 교감한 판본도 부족했다. 여기에 19세기 수학사는 이미 자기 서사의 틀을 갖고 있었다. 그래서 이 계보는 오랫동안 지속적인 연구 전통으로 이어지지 못했다. 왜 외면되었는지 한 가지 심리로 설명하는 주장들은 어느 것도 자료의 뒷받침을 받지 못한다. 단서 하나가 백 년 동안 외면되는 데에는 대개 누군가의 억압까지 필요하지 않다.
앞선 몇 편에서 만난 보존 문제와 같은 작동 방식이다. 야자잎 필사본은 주기적으로 다시 베끼고 관리해야 한다. 습하고 더운 환경, 벌레, 마모 앞에서 특히 약하다. 글 한 편이 수백 년 이어졌다는 것은 대개 끊임없이 다시 베껴졌다는 뜻이다. 14세기의 잎 한 장이 고스란히 오늘까지 살아남았다는 뜻이 아니다.
그러므로 현존하는 16세기 필사본과 텍스트가 14세기에 쓰였다는 주장은 같은 연대 증거가 아니다. 외면받는 데에는 발표된 곳이 맞지 않고, 언어가 통하지 않고, 원문이 읽기 어렵고, 당시 학문이 이미 자기 나름의 이야기를 하는 방법을 갖고 있다는 것만으로도 충분하다.
8 엄밀하다는 말의 뜻이 바뀌었을까
버클리 이후의 백 년으로 돌아가자. 그 뒤 수학자들이 백 년 동안 아무 일 없었다는 듯 계산만 계속한 것은 아니다.
그해 바로 반격한 사람이 있었다. 1734년에는 《기하학은 불신앙의 친구가 아니다》라는 제목의 글이 나와 뉴턴과 영국 수학자들을 옹호했다. 그 뒤 양쪽이 글을 주고받았다. 이 소책자 전쟁은 결국 상당한 분량으로 쌓였다. 다만 철저한 기초 재건보다는 논쟁을 통한 해명에 가까웠다.
이듬해 다른 사람은 더 수학적인 길을 택했다. 핵심 전략은 인정할 것을 인정하는 데 있었다. 뉴턴의 방법을 신비로운 실제 무한소 위에 세운다면 그 문제들은 참으로 심각하다. 그러나 가장 성숙한 뉴턴의 방법은 그렇게 읽을 필요가 없다. 변수의 최초비와 최종비, 또는 극한 과정으로 이해해야 한다. 다시 말해 무한소를 변호하는 대신, 뉴턴의 진짜 방법은 공격받은 그 방법이 아니라고 말한 것이다.
1742년의 그 책은 영국에서 나온 답 가운데 규모가 가장 크고 기술적으로 가장 진지했다. 두 권, 본문만 700쪽이 넘었다. 저자는 고전 기하학, 소진법의 사고, 비례, 극한 방식의 논증을 대거 사용했다. 유율은 존재하면서 존재하지 않는 무한소에 기대지 않고도, 유한량의 변화와 통제할 수 있는 극한 과정 위에 세울 수 있음을 보이려 했다. 단지 버클리에게 답한 책이 아니었다. 해석학 전체에 공개적으로 방어할 수 있는 토대를 마련하려는 시도였다.
700쪽, 고전 기하학을 잔뜩 동원한 책. 약 70년 전에 발전한 알고리즘을 지키려고 2천 년 전의 언어로 돌아갔다.
3편에서는 왜 그 언어가 믿을 만한 증명의 형식으로 받아들여졌는지 이야기했다. 여기서는 마지막 방어선이 되었다.
18세기 중엽, 달랑베르는 극한을 분명하게 기초의 자리에 올려놓았다. 그는 무한소를 신비로운 실체로 취급하는 데 반대했다. 미분 계산이 정말 관심을 갖는 것은, 증분이 0으로 다가갈 때 유한한 차분의 비가 다가가는 값이라고 주장했다. 자주 인용되는 그의 말이 있다. 극한 이론이야말로 미분 계산의 진정한 형이상학이라는 것이다. 뜻은 이렇다. 그 작은 것이 무엇인지 그만 묻고, 어디로 다가가는지를 물어라. 이미 19세기의 방향에 아주 가까웠다. 하지만 훗날의 정교한 언어는 아직 없었다.
라그랑주에게는 다가간다는 말조차 너무 기하학적이고, 너무 형이상학적이었다.
1797년, 그는 미적분을 온전히 유한량의 대수로 만들려고 했다. 변수가 바뀐 뒤의 함수를 멱급수로 전개하고, 일차항의 계수를 일계 도함수로 정의한 다음 같은 방식으로 이어가는 방법이었다. 겉으로 보면 유율도, 무한소도, 심지어 극한도 필요 없었다. 책의 부제부터 미분 원리를 무한소, 사라지는 양, 극한, 유율에서 해방하겠다고 선언했다.
어디서 실패했는지는 나중에 분명해졌다. 미분 가능한 모든 함수가, 심지어 무한 번 미분 가능한 모든 함수가 자기 급수로 근방에서 표현되는 것은 아니다. 어떤 멱급수 형식이 존재하더라도 수렴을 증명해야 하고, 잘라낸 뒤 남는 부분이 어떻게 움직이는지도 증명해야 한다. 바로 그것들을 형식 대수만으로 보장할 수는 없다.
그는 사실상 함수가 필요한 전개를 갖는다는 것을 기본 전제로 삼았다. 그러면서 원래의 극한 문제를, 역시 해석 이론으로 증명해야 하는 급수 문제로 바꿔놓았다.
깔끔한 실패다. 기억해둘 만하다. 계산을 틀린 것도 아니고, 게으름을 피운 것도 아니다. 어려운 문제를 다른 자리로 옮겼는데, 그 자리도 똑같이 어려웠다. 7편에서도 같은 동작이 나왔다. 골칫거리를 의미론에 넘기면 더 어려운 질문에 답하지 않아도 된다는 동작이었다. 이번에는 형식에 떠넘겼다. 하지만 떠넘겨지지 않았다.
이제 그 질문을 할 수 있다. 엄밀하다는 말의 뜻이 19세기에 바뀌었기 때문에, 후대가 거슬러 올라가 앞사람들이 엄밀하지 않았다고 한 것일까.
3편에서도 이런 모양의 문제를 다뤘다. 그때 결론은 이랬다. 옛사람들이 엉뚱한 곳을 본 것이 아니라 엄밀하다는 말의 뜻이 바뀌었다. 그리고 그 변화는 문제를 명시된 곳에서 명시되지 않은 곳으로 옮겨놓았다. 이번의 답은 조금 더 복잡하다. 두 문장이 동시에 성립하기 때문이다.
이 유추를 뒷받침하는 자료는 강력하다. 뉴턴은 고전적인 종합 기하학이 믿을 만한 증명을 대표한다고 보았다. 라이프니츠는 기호 계산의 일반 규칙을 중시했다. 오일러 세대는 형식의 일반성과 계산의 생산력도 수학적 증거의 일부로 점점 더 받아들였다. 19세기의 흐름은 극한, 연속, 수렴, 함수를 하나씩 명확한 조건으로 서술하라고 점점 더 요구했다. 시대마다 증명에 무엇이 빠졌는지를 평가하는 기준이 다른 것은 사실이다. 그러나 이 유추를 너무 멀리 밀고 가서는 안 된다.
19세기 사람들이 느닷없이 요구 조건을 한 묶음 발명한 뒤, 그제야 돌아서서 선조들의 흠을 잡은 것이 아니기 때문이다.
17세기 말부터 새로운 해석학을 공격하는 사람이 있었다. 버클리는 1734년에 증분 논증의 불일치를 지적했다. 뒤이어 두 사람은 즉시 답해야 한다고 느꼈다. 달랑베르는 진정한 기초를 분명히 찾아 나섰다. 라그랑주는 1797년에도 무한소, 극한, 유율에서 완전히 벗어나려 했다. 18세기의 당사자들 자신이 기초 문제가 존재한다는 것을 알았다. 각자 다른 답을 내놓았다는 것 자체가 증거다. 모두 문제가 없다고 여겼다면 누구도 700쪽을 쓰지 않았을 것이다.
뉴턴 자신이 한 사례다. 그는 성숙한 저작들에서 유율은 유한하고 실제적이라고 강조했다. 무한히 작은 대상보다는 눈으로 볼 수 있는 유한한 선분으로 나타내는 것이 가장 좋다고 고집했다. 이렇게 거듭 스스로 해명했다는 사실 자체가, 무한소의 대상적 지위는 답해야 할 문제임을 그도 알았다는 것을 보여준다.
그러므로 두 문장을 함께 적어야 한다. 후대는 엄밀성의 기술적 기준을 실제로 바꿨다. 19세기 후반의 요구를 영원한 법정으로 삼을 수는 없다. 동시에 17세기와 18세기의 수학자들 자신도 어떤 추론에는 설명이 필요하다는 것을 이미 발견했다. 그러므로 엄밀하지 않았다는 죄목 역시 후대가 완전히 꾸며낸 것은 아니다. 이 두 문장 사이에 이번 편의 진짜 내용이 있다.
옛사람들이 어리석었던 것도, 후대가 까다롭기만 했던 것도 아니다. 도구가 자기 설명보다 앞서 달렸던 것이다. 그렇게 앞서 달린 거리는 당시 사람들도 후대 사람들도 보았다. 본 방식이 달랐을 뿐이다.
그동안, 기초가 계속 흔들리던 그 도구는 무엇을 이루었을까.
뉴턴의 역학은 체계적으로 계산할 수 있는 해석역학으로 다시 쓰였다. 1736년에는 해석적 방법으로 질점의 운동을 조직한 사람이 있었다. 뒤이어 다른 사람들이 구속계, 가상 변위, 미분방정식, 변분법을 범용 도구로 만들었다. 1788년의 한 책은 상징적인 종착점에 이르렀다. 고전역학은 점점 일반 방정식에서 출발해 계산할 수 있게 되었다. 문제마다 《프린키피아》식 기하학적 작도를 새로 발명하지 않아도 되었다.
천체역학에서 그 무게가 특히 잘 드러난다. 《프린키피아》는 두 물체로 이루어진 이상적 모형의 핵심 구조를 해결했다. 하지만 실제 태양계는 여러 물체의 섭동 문제다. 18세기 중엽 달의 근지점 세차에 대한 고차 근사는 한때 중력 법칙을 검증하는 핵심이 되었다. 18세기 말 출간되기 시작한 그 다섯 권짜리 책에서는 행성의 섭동, 달, 조석, 지구의 모양, 장기적인 안정성이 이미 대규모 해석 체계 안에 들어가 있었다.
이쯤 되면 뉴턴을 새 기호로 옮겨 적은 일이 아니다. 1687년의 그에게는 아예 없었던 것을 만들어낸 일이다.
유체, 탄성, 진동에서도 저마다 진전이 있었다. 1822년, 푸리에는 열에 관한 책을 펴냈다. 열의 흐름을 편미분방정식으로 적고, 아주 폭넓은 온도 분포를 삼각급수로 나타냈다. 책의 주요 작업은 그가 이제르 지방의 지사로 있던 시절에 이루어졌고, 1807년 말에 이미 과학아카데미에 제출되었다. 1812년 이 연구는 아카데미의 상을 받았다. 그런데 심사평은, 그 방정식을 얻는 방법에 어려움이 없지 않으며 해를 구하는 해석은 일반성에서, 심지어 엄밀성에서도 부족한 점이 있다고 했다. 이 책은 물리학을 다시 만들었을 뿐 아니라, 거꾸로 19세기 수학자들이 함수, 급수 수렴, 항별 연산, 적분의 정의를 다시 생각하도록 몰아붙였다. 이제 기초 문제는 철학자가 바깥에서 던지는 도발이 아니었다. 물리학의 성공 자체가 밀어올린 수학 문제가 되었다.
그러므로 실상은 엄밀하지 않은 도구 하나가 200년 동안 물리학을 떠받쳤다는 말로 담을 수 없다. 기초가 아직 통일되지 않았고 개별 증명의 기준도 계속 바뀌던 해석 도구가, 자기 기초 이론보다 훨씬 빨리 성숙했다는 것이 실상이다. 1734년에 버클리가 물은 것은 당신들이 나보다 더 명료하다고 말할 근거가 무엇이냐는 것이었다. 백 년 뒤 그에게 답한 것은 철학이 아니었다. 그가 공격한 도구로 계산해냈고, 맞게 계산해낸 것들이었다. 너무 많아져서 누구도 설명을 피할 수 없는 것들이었다.
달의 세차, 행성의 섭동, 유체의 운동, 보의 휨, 현 하나가 떨릴 때의 모양, 금속 덩어리 안에서 열이 퍼지는 일. 이런 것들이 하나씩 쌓였다. 어느 순간부터는 왜 맞는지 설명할 수 없다는 문제를 다음 세대에 넘길 수 없었다. 다음 세대는 그 도구로 더 많은 것을 계산해야 했기 때문이다. 계산하는 것이 많아질수록, 옆에서 누군가 한마디 묻는 것을 견디기가 더 어려워졌다. 무슨 근거로?
마침내 답을 내놓게 한 것은 그 한마디 질문이 아니었다. 그 질문이 나온 뒤에도 백 년 동안 계산해낸 것들이었다. 한 학문이 끝내 자기 기초를 고치는 것은 대개 누군가 무너졌다고 지적해서가 아니다. 위에 지은 것들이 너무 무거워졌기 때문이다.
계산은 계속된다. 하지만 무엇을 수학으로 칠 것인지는 아직 셈이 끝난 적이 없다.
사료와 더 읽을거리
아래 자료는 본문의 역사적 세부 사항과 해석상의 이견에 대응한다. 소장 기록, 고대 문헌, 현대의 재구성은 같은 종류의 증거가 아니다.