수학 · 23 / 25

수학과 돈

수학자가 트레이딩룸과 암호기관, 플랫폼 회사에 들어선 뒤 달라진 것은 월급만이 아니었다. 성과를 어떻게 공개하는지, 모델이 얼마나 큰 권력을 갖는지, 직장을 떠날 때 무엇을 가져갈 수 있는지도 달라졌다.

Han Qin · 한국어 완역판

이 글의 차례

1. 흡연실
2. 낯선 사람 사이에서
3. 네 해 앞선 발견
4. 곱하기는 쉽다
5. 소스코드도 말인가
6. 모델의 권력
7. 책상 밖으로
8. 다시 매겨진 값
사료와 더 읽을거리

1. 흡연실

1973년 4월 26일, 시카고옵션거래소가 문을 열었다. 마침 시카고상품거래소가 생긴 지 125년이 되는 해였다. 새 거래소의 첫날 거래는 상품거래소에서 흡연실로 쓰던 방에서 이루어졌다.

몇 주 뒤 한 경제학 학술지에 옵션 가격을 어떻게 매길 것인가를 다룬 논문이 실렸다. 저자는 피셔 블랙과 마이런 숄스였다. 같은 해 봄에는 다른 학술지에 로버트 머턴이 같은 문제를 다룬 논문이 나왔다. 머턴의 초고는 이미 1971년에 있었다. 블랙은 훗날 자기들의 논문이 처음에는 학술지에서 거절당했고, 시카고의 학자 몇 사람이 나서서 힘을 써준 뒤에야 재심사를 받았다고 회고했다.

논문이 풀려던 문제는 짧게 말할 수 있다. 투자자들이 저마다 위험을 얼마나 꺼리는지 미리 알지 못하더라도, 거래할 수 있는 옵션에 가격을 붙일 수 있는가. 그 가격은 주식과 차입·대출로 복제할 수 있고, 차익거래로 검증할 수 있어야 한다. 중요한 것은 공식 자체가 아니었다. 이제 가격을 매기고 위험을 헤지하는 일을 높은 수준의 수학 훈련을 받은 사람에게 맡겨 체계적으로 할 수 있게 되었다는 점이었다.

블랙의 이력부터가 그 변화를 보여준다. 그는 1959년 하버드대 물리학과를 졸업하고 1964년 응용수학 박사학위를 받았다. 박사논문은 기계가 질문에 답하게 만드는 시스템에 관한 것이었다. 이후 기술 회사에서 인공지능을 연구하다가 1965년 말 컨설팅 회사로 옮겼고, 거기서 처음 금융을 만났다. 1971년에는 시카고대 경영대학원으로, 1975년에는 MIT로 갔다. 1984년 골드만삭스에 들어가서는 2년 뒤 파트너가 되었다. 응용수학 박사가 컨설팅 회사에서 대학으로, 다시 대학에서 투자은행으로 걸어 들어간 것이다.

공식이 학술지에서 거래소 객장으로 옮겨가는 데는 몇 년밖에 걸리지 않았다. 블랙은 모델로 계산한 이론 가격을 표로 인쇄해 상업적인 유통 경로로 트레이더들에게 팔았다. 뒤이어 프로그램을 짤 수 있는 계산기가 나왔고, 그다음에는 컴퓨터가 들어왔다. 가격 계산은 장중에도 손쉽게 할 수 있는 일이 되었다. 1970년대 중후반에 이르면 이 모델은 이미 옵션 거래의 공통 언어 가운데 하나였다. 금융을 연구한 사회학자 매켄지는 더 흥미로운 사실을 발견했다. 모델이 널리 쓰이자 시장 가격과 모델의 차이가 오히려 줄어들었다. 트레이더들이 모델을 따라 움직일수록 시장도 모델을 닮아갔다.

수학이 돈과 만난 것은 이때가 처음이 아니다. 1편에서 점토판에 장부를 적던 서기가 계산한 것도 곡물과 세금이었다. 나중에는 항해를 위해 천문표를 계산했고, 보험은 확률을 키워냈다. 포병과 측량에도 수학이 빠질 수 없었다. 20편에서 블레츨리 파크의 그 방을 가득 채운 사람들이야 말할 것도 없다. 그렇다면 1970년대 이후, 무엇이 새로워졌을까.

2. 낯선 사람 사이에서

1976년 11월, 스탠퍼드대의 휘트필드 디피와 마틴 헬먼이 정보이론 학술지에 「암호학의 새로운 방향」이라는 논문을 발표했다. 논문은 대략 이렇게 시작한다. 암호학은 혁명을 눈앞에 두고 있다. 디지털 하드웨어가 저렴해진 덕분에 고급 암호 장비도 값이 내려가, 멀리 떨어진 현금자동입출금기와 컴퓨터 단말기에 넣을 수 있게 되었다.

그들이 던진 질문은 그때까지 암호 통신의 근본적인 장벽으로 여겨지던 것이었다. 한 번도 만난 적 없고 사전에 아무런 비밀도 주고받지 않은 두 사람이, 누구나 엿들을 수 있는 회선에서 오직 둘만 아는 비밀을 만들어낼 수 있을까. 논문은 공개키라는 틀과 디지털 서명의 발상, 키를 교환하는 방법을 제시했다. 공개된 암호 연구가 여기서 시작된 것은 아니다. 섀넌을 비롯한 연구자들이 이미 중요한 성과를 공개한 바 있었다. 다만 이때부터 공개키는 대학 연구자들이 발표하고 검증하고 이어서 발전시킬 수 있는 암호 연구의 영역을 크게 넓혔다.

공개에는 대가가 따랐다. 1977년 7월, 전기전자공학자협회 IEEE에 편지 한 통이 도착했다. 보낸 사람은 미국 국가안보국 NSA 직원 조지프 마이어였다. 협회의 학술지와 학술대회에서 암호화 연구를 발표하면 무기 수출 통제 규정을 어길 수 있다는 내용이었다. 그해 10월 IEEE는 코넬대에서 정보이론 국제학술대회를 열 예정이었고, 헬먼의 두 학생 랠프 머클과 스티브 폴리그가 자기 연구를 발표하기로 되어 있었다. 머클이 그 주제에 매달린 데는 사연이 있었다. 1974년 가을, 아직 버클리의 학부생이던 그는 컴퓨터 보안 수업에 과제 제안서를 냈다. 훗날 공개키라 불릴 바로 그 발상이었다. 담당 교수가 받아들이지 않아 더 짧고 쉽게 고쳐서 다시 냈지만, 이번에도 교수는 관심을 보이지 않았다. 머클은 수강을 취소하고 혼자 연구를 계속했다. 1975년 8월 컴퓨터학회 학술지에 논문을 보냈다가 익명의 암호 전문가에게 또 거절당했고, 논문이 실리기까지 거의 3년이 걸렸다. 1977년 가을에 이르러 머클과 폴리그는 가족과 상의한 끝에 직접 발표하지 않기로 했다. 스탠퍼드의 법률 고문이 헬먼에게 해준 말은 이런 뜻이었다. 발표해도 된다. 기소되면 대학이 변호해주겠다. 하지만 유죄 판결을 받으면 벌금을 대신 내줄 수도, 대신 감옥에 가줄 수도 없다. 10월 학술대회에서는 헬먼이 학생들 대신 논문을 발표했다. 두 학생은 그의 곁에 서 있었다.

같은 해 MIT의 젊은 연구자 세 사람, 로널드 리베스트와 아디 샤미르, 레너드 애들먼이 실제로 쓸 수 있는 공개키 방식을 내놓았다. 암호화도 되고 서명도 되는 방식이었다. 8월에는 마틴 가드너가 월간 과학잡지의 수학 칼럼에서 이를 소개했다. 그달 칼럼의 제목은 깨는 데 수백만 년이 걸릴 새 암호라는 뜻이었다. 칼럼에는 문제도 하나 붙었다. 이 방식으로 잠근 문장을 풀어내는 사람에게 100달러를 주겠다는 것이었다. 정식 논문은 이듬해인 1978년 2월에야 나왔다. 세 사람은 1982년 회사를 세웠고, 1983년에는 이 방식의 특허를 얻었다.

3. 네 해 앞선 발견

1997년 12월 18일, 영국에서 열린 공개 회의에서 클리퍼드 콕스라는 수학자가 그때까지 누구도 입 밖에 낼 수 없었던 역사를 이야기했다.

1969년 무렵, 영국 정부통신본부 GCHQ의 제임스 엘리스는 원칙적으로는 양쪽이 비밀을 미리 주고받지 않아도 암호화가 가능하다는 생각에 도달했다. 1970년 내부 문서에 이를 정리하면서 그는 ‘비밀 없는 암호화’라고 불렀다. 가능하다는 것은 증명했지만 실제로 쓸 수 있는 방법은 찾지 못했다. 1973년 9월, 스물두 살의 콕스가 정부통신본부 산하 통신 보안 부서에 들어왔다. 케임브리지 킹스칼리지에서 수학을 공부하고 옥스퍼드로 가 버치에게 정수론을 배우다가, 박사과정을 마치지 않은 채 학교를 떠난 사람이었다. 얼마 뒤 동료 닉 패터슨이 그에게 엘리스의 발상을 들려주었다. 콕스는 곧 방법을 찾아냈다. 큰 소수 둘을 곱하기는 쉽지만 그 곱에서 인수를 되찾기는 어렵다는 비대칭을 이용했다. 구조는 4년 뒤 MIT의 세 사람이 내놓은 방식과 거의 같았다. 당시 그는 적어두지도 않았다. 그해 11월 20일에야 「비밀 없는 암호화에 관한 주」라는 짧은 내부 문서로 남겼다. 1974년에는 동료 맬컴 윌리엄슨이 또 다른 방법을 찾아냈다. 본질적으로 디피와 헬먼이 나중에 공개한 키 교환 방식과 가까웠다.

어느 것 하나 학술지에 보낼 수 없었다. 투고했다가 거절당한 것이 아니었다. 애초에 공개해도 되는 지식에 속하지 않았다. 연구는 20여 년 동안 문서고에 머물다가 1997년에야 기밀에서 풀렸다. 엘리스는 이미 1987년에 그 경위를 글로 써두었다. 자신의 1970년 문서에서 시작해 콕스와 윌리엄슨에 이르는 이야기였다. 그 글도 내부에서 10년을 기다렸다. 1997년 11월 25일, 엘리스가 일흔세 살로 세상을 떠났다. 3주 뒤에야 그 글이 공개 게시되었고, 다시 이틀 뒤 콕스가 그 회의에서 지난 일을 이야기했다. 뒤늦은 영예는 하나씩 찾아왔다. 콕스는 2008년 바스 훈장을 받았다. 2010년 IEEE는 엘리스와 콕스, 윌리엄슨을 기리는 기념판을 첼트넘에 세웠다. 2015년 콕스는 왕립학회 회원으로 선출되었다. 그는 정부통신본부에서 수석 수학자의 자리까지 올랐다.

여기서 부딪치는 것은 서로 다른 두 가지 우선권의 체계다. 기록으로 보면 엘리스와 콕스, 윌리엄슨에게는 더 이르고 검증도 가능한 날짜가 있다. 누가 먼저 생각했는지를 말할 때 이들을 빼놓을 수 없다. 공개된 과학의 기준에서 보면 디피와 헬먼, MIT의 세 사람도 누구의 것을 베낀 적이 없다. 영국의 연구를 모르는 상태에서 독립적으로 발견했고, 다른 사람이 읽고 검증하고 인용하고 이어서 연구할 수 있도록 결과를 공개된 공동체 안으로 들여왔다. 비밀문서는 훗날 최초 발견의 역사를 다시 쓰게 할 수 있다. 그렇다고 공개 발표자의 독립적인 발견까지 소급해 지울 수는 없다. 같은 수학도 대학에서는 논문과 인용, 명성을 뜻하고, 정보기관에서는 우선 역량과 접근 권한, 기밀을 뜻한다.

대서양 건너편도 다르지 않았다. 미국 NSA는 의회 증언에서 자신들이 미국에서, 어쩌면 세계에서 가장 많은 수학자를 고용하는 기관 가운데 하나로 여겨진다고 말한 적이 있다. 하지만 몇 명을 고용해 무슨 분야를 연구하는지 해마다 대조해볼 수 있는 공개 수치는 없다. 기밀이 수학의 성과에 영향을 주는 방식은 적어도 세 가지다. 아예 발표하지 않는 것, 몇십 년 뒤에 발표하는 것, 발상은 이야기해도 구현의 세부는 제한하는 것. 어느 쪽이든 수학자의 명성이 어떻게 쌓이고 인용이 어떻게 기록되는지, 자기 실력을 다른 곳에서도 펼칠 수 있는지가 직접 달라진다.

4. 곱하기는 쉽다

1940년, 영국 수학자 하디는 자신이 하는 일을 변호하는 짧은 책을 썼다. 그 안에 이런 뜻의 문장이 있다. 정수론이나 상대성이론이 전쟁에 쓰일 곳을 아직 아무도 찾아내지 못했으며, 앞으로도 여러 해 동안 그럴 가능성은 별로 없어 보인다는 것이다. 하디에게 정수론이 가장 깨끗한 까닭은 바로 써먹을 수 없다는 데 있었다.

정수론을 쓸모 있게 만든 것은 곱셈과 그 반대 방향의 계산 사이에 놓인 비대칭이었다. 3 곱하기 5는 15다. 한눈에 답이 나온다. 거꾸로 15를 주고 어떤 두 소수를 곱한 것이냐고 물어도 어렵지 않다. 143을 주면 몇 번 시험해봐야 11 곱하기 13임을 알아낸다. 수가 더 커지면 곱하는 데 드는 수고는 자릿수를 따라 완만하게 늘지만, 쪼개는 데 드는 수고는 가파르게 커진다. 백 자리가 넘는 소수 두 개도 컴퓨터는 대개 금방 곱한다. 곱한 값만 주어졌을 때 인수분해가 얼마나 어려운지는 자릿수와 수의 구조, 알고리즘, 계산 자원에 달려 있으므로 무조건 여러 해가 걸린다고 할 수는 없다. 암호학은 계산하기 쉽고 거꾸로 풀기 어려울 것으로 여겨지는 연산들을 이용해 일방향 장치를 만든다. 그러나 적합한 일방향 함수가 존재하는지는 아직 아무 조건 없이 증명되지 않았다. RSA가 실제로 쓰는 것은 모듈러 거듭제곱 연산이다. 인수를 알면 복호화에 도움이 되지만, 일반적으로 RSA를 깨는 일이 인수분해와 동등한지도 증명되지 않았다. MIT의 세 사람과 콕스가 보여준 솜씨는 바로 이 어려운 문제에 자물쇠를 만든 사람을 위한 지름길을 남긴 데 있었다. 곱한 값은 공개해 누구든 메시지를 잠그는 데 쓰게 한다. 두 소수를 자신이 간직하면, 잠금을 풀 개인키를 빠르게 만들 수 있다. 국가가 이를 문서고에 잠가두려 하고 회사가 특허를 내고 싶어 한 것도 바로 이 때문이었다.

1977년의 그 100달러짜리 문제에 쓰인 곱은 129자리였다. 17년 뒤인 1994년 4월, 그 수가 분해되었다. 한 연구팀이 인터넷으로 자원자 약 600명을 모아 컴퓨터 약 1,600대를 동원했고, 몇 달 동안 계산을 돌렸다. 풀려 나온 문장은 이랬다. ‘마법의 주문은 까다로운 수염수리다.’ 그들은 상금 100달러를 자유 소프트웨어를 보급하는 재단에 기부했다.

2020년에는 같은 방식으로 만든 250자리 수도 분해되었다. 계산량을 환산하면 프로세서 코어 하나가 쉬지 않고 2,700년을 계산한 셈이었다. 오늘날 실제로 쓰이는 키에 들어가는 곱은 보통 600자리가 넘는다. 하디가 써먹을 수 없다고 했던 학문은 국가가 잠가두고 회사가 특허를 내는 것이 되었다.

5. 소스코드도 말인가

1995년, 캘리포니아대 버클리 캠퍼스 수학과 박사과정 학생 대니얼 번스타인은 자신이 설계한 암호 시스템에 관한 논문과 프로그램 소스코드를 함께 발표하려 했다. 당시 수출 통제 규정에 따르면 외국 동료에게 소스코드를 건네려면 먼저 정부의 허가를 받아야 했다. 번스타인은 전자프런티어재단 EFF의 지원을 받아 정부를 상대로 소송을 냈다.

1996년 4월, 연방지방법원 판사는 그의 핵심 주장을 받아들였다. 소스코드에는 표현의 성격이 있으며 수정헌법 제1조의 보호를 받는다는 것이었다. 1999년 5월에는 제9연방항소법원 재판부가 한 걸음 더 나아갔다. 기존 통제가 암호 소스코드에 대한 위헌적인 사전 제한이라고 판단했다. 법원이 특히 짚은 사실이 있었다. 연구자에게 소스코드는 실행되는 물건이면서, 동료끼리 알고리즘의 발상을 전하는 언어이기도 하다는 점이었다. 프로그램은 기계에 더 가까운가, 수학 논문에 더 가까운가. 판사는 그 물음에 답해야 했다.

다만 법원이 1999년 9월 전원합의체 재심리를 받아들이면서 5월 재판부의 의견은 철회되었다. 따라서 이를 아무런 변경 없이 확정된 항소심 판례처럼 다뤄서는 안 된다. 사건은 이후 대법원까지 가지 않았다. 결과는 좀 더 현실적인 데서 나타났다. 1999년 정부가 상업용 강력 암호의 수출 규제를 대폭 완화하겠다고 발표했고, 2000년의 새 규정에 따라 연구자들은 통지 등 일정한 조건을 지키면 강력 암호의 소스코드를 공개할 수 있게 되었다.

비슷한 시기, 국가는 다른 방법도 구상했다. 1993년 미국 정부는 NSA가 설계한 암호화 칩을 내놓았다. 이름은 클리퍼 칩이었다. 칩마다 키 사본을 정부 기관이 따로 보관하고, 정부가 법에 따른 권한을 얻으면 이를 감청에 쓸 수 있게 했다. 이듬해 AT&T 벨연구소 연구원 맷 블레이즈는 그 키 위탁 체계에서 변조를 막기 위한 검증 부분이 고작 16비트여서 우회할 수 있음을 발견했다. 우회한 것은 정부의 키 위탁 장치였지, 그 밑에 있는 암호 알고리즘 자체를 깬 것은 아니었다. 1996년 무렵 이 칩 계획은 당초의 정책적 추진력을 잃었지만, 이를 둘러싼 논쟁까지 사라지지는 않았다.

번스타인 쪽에 선 사람들이 모두 수학과 소속인 것은 아니었다. 정부의 키 위탁 방안을 비판한 이들 가운데는 리베스트와 디피가 있었고, 블레이즈처럼 암호를 연구하는 컴퓨터과학자들이 있었다. 변호사와 소프트웨어 업계도 함께했다. 그중 상당수는 우선 컴퓨터과학자나 엔지니어였으며, 대학 수학과의 수학자가 아니었다. 이들을 한데 묶어 수학자라고 부르면 오히려 새로 나타난 현상이 가려진다. 수학을 하는 일을 둘러싼 직업의 경계가 흩어지고 있었다.

번스타인은 나중에 공개 암호학에서 가장 영향력 있는 인물 가운데 하나가 되었다. 2005년 그는 자신이 설계한 타원곡선 하나를 공개했다. 이후 원격 로그인 소프트웨어가 이를 기본값으로 채택했고, 차세대 네트워크 암호화 프로토콜은 권장 항목에 넣었다. 여러 채팅 프로그램과 암호화 통로에서도 쓰이고 있다. 동료에게 소스코드를 건네기 위해 소송부터 해야 했던 그 박사과정 학생이 써낸 것이, 이제 날마다 셀 수 없이 많은 기계에서 돌아간다.

6. 모델의 권력

1995년 8월, 블랙이 후두암으로 세상을 떠났다. 쉰일곱 살이었다. 1997년 노벨경제학상은 숄스와 머턴에게 돌아갔고, 위원회는 수상 발표문에서 블랙을 특별히 언급했다. 이 상은 세상을 떠난 사람에게는 주지 않는다.

당시 숄스와 머턴은 둘 다 한 헤지펀드의 파트너였다. 롱텀캐피털매니지먼트, LTCM은 1994년 존 메리웨더가 세운 회사였다. 채권 등 고정수익 상품과 차익거래를 다룬 사람들, 학계에서 금융을 연구한 사람들이 대거 모였다. 이들이 한 것은 높은 레버리지로 여러 시장에 걸쳐 벌이는 상대가치 거래였다. 원래 가격이 비슷해야 할 두 자산의 차이를 찾아, 언젠가 그 간격이 좁혀지는 쪽에 돈을 걸었다.

1998년 8월, 러시아가 채무불이행에 빠지자 세계의 돈이 일제히 가장 안전한 곳으로 달아났다. 과거에는 늘 함께 움직이던 가격이 더는 같이 움직이지 않았고, 팔려는 것은 팔리지 않았다. 8월 말까지 이 펀드는 자본의 절반가량을 잃었다. 9월 23일, 뉴욕 연방준비은행이 모은 민간 금융기관들이 36억 달러를 투입해 펀드를 인수했다. 연준은 협상을 주선했지만 돈을 내지는 않았다.

10월 1일, 그린스펀이 의회에서 증언했다. 펀드의 모델은 수익의 구조가 과거를 대체로 되풀이할 때 가격의 어긋남을 찾아낼 수 있었다고 그는 말했다. 그러나 펀드는 수익률을 지키려 계속 레버리지와 위험을 늘렸고, 1998년의 환경은 모델에 담긴 경험과 크게 달랐다. 그는 같은 증언에서 금융 모델에 어디까지 의존해야 하는지를 물었다. 동시에 문제를 다른 곳으로도 돌렸다. 레버리지와 유동성, 그리고 거래 상대방인 은행들은 왜 극단적인 상황을 충분히 스트레스 테스트하지 않았고, 왜 그 과도한 레버리지를 막지 않았는가.

그러니 이를 노벨상을 받은 공식의 실패로 이야기하면 사건을 너무 납작하게 만든다. 모델은 위험 관리 체계의 일부였다. 치명적이었던 것은 여러 가지가 포개진 일이었다. 모델에 대한 믿음, 막대한 레버리지, 한쪽 방향으로 몰린 거래, 갑자기 사라진 유동성, 그리고 그 어느 것도 막지 않은 거래 상대방들이 함께 있었다.

10년 뒤 또 한 차례 위기가 닥쳤다. 결과는 많은 사람의 예상과 반대였다. 금융기관이 쓰는 모델은 줄지 않았고, 오히려 모델을 전담해서 들여다보는 사람들이 늘어났다. 2011년 미국 은행 감독 당국은 모델 위험 관리 지침을 내놓았다. 모델을 등록하고, 독립적으로 검증하고, 이의를 제기할 사람을 두고, 지속적으로 감시하고, 용도를 제한해야 했다. 수학을 하는 일은 모델을 만드는 길, 심사하는 길, 스트레스 테스트를 하는 길, 모델을 관리·감독하는 길로 갈라졌다.

이매뉴얼 더먼은 이론물리학 박사였다. 7년 동안 입자물리학을 연구한 뒤 1980년 벨연구소에 들어갔고, 1985년 골드만삭스로 옮겼다. 거기서 블랙과 함께 금리 모델을 만들기도 했다. 2009년 1월, 더먼은 수리금융학자 폴 윌모트와 모델을 만드는 사람들의 선언을 발표했다. 맨 끝에는 서약문을 붙였다. 첫 문장의 뜻은 이랬다. 모델을 만드는 사람은 자신이 세상을 만든 게 아니며 세상이 자기 방정식을 따르지도 않는다는 사실을 기억해야 한다. 뒤이어, 모델로 대담하게 가치를 추정하되 수학의 위세에 눌리지 말 것, 모델을 쓰는 사람에게 정확도를 두고 거짓 안심을 주지 말 것, 무엇을 가정했고 무엇을 빠뜨렸는지 밝힐 것, 자기 일이 사회와 경제에 막대한 영향을 미칠 수 있으며 그중 상당수는 자신의 이해를 넘어선다는 사실을 알 것이라고 했다.

7. 책상 밖으로

수학자에게 새로 생긴 또 하나의 일터는 기업의 연구소였다.

벨연구소 뒤에는 AT&T가 오랫동안 규제를 받는 독점 사업으로 벌어들인 수입이 있었다. 제품과 거리가 먼 장기 연구도 대규모로 지원할 수 있었다. 1984년 회사가 분할되고 1990년대 다시 재편되면서 연구소의 규모와 자리도 달라졌다. 그래도 사라지지는 않았다. 오늘날에는 노키아에 속해 있다. 1970년 제록스가 팰로앨토에 연구센터를 세웠고, 1991년 마이크로소프트도 자체 연구소를 만들었다. 연구원은 회사가 고용했지만 평가는 논문과 학술대회, 대학과의 협력을 기준으로 이루어졌다. 검색과 플랫폼의 시대에는 또 한 가지 형태가 생겼다. 연구가 제품 안에 들어갔다. 추천, 광고 입찰, 동적 가격 책정, 사기 탐지, 검색 순위. 이런 일은 수학자 한 명이 방에 틀어박혀 끝낼 수 없었다. 엔지니어, 경제학자, 제품팀과 함께해야 했고, 모델을 로그와 실서비스 실험, 컴퓨팅 클러스터에 연결해야 했다. 알고리즘은 계속 가동되는 생산 설비가 되었다.

그러자 아주 구체적인 변화가 생겼다. 어떤 연구를 할 수 있는지를 정하는 것은 이제 책과 논문, 동료만이 아니었다. 고용주가 쥔 데이터와 계산 능력, 이용자 트래픽, 실험 권한도 필요했다. 직장을 옮길 때 잃는 것은 월급만이 아닐 수 있었다. 연구 대상 그 자체를 잃을 수 있었다.

성과가 향하는 곳도 늘어났다. 대학에서 수학의 성과는 주로 논문이었고, 특허와 코드는 부수적인 것이었다. 알고리즘 기업과 금융회사에서는 논문, 특허, 코드와 제품, 영업비밀이라는 네 갈래 길이 나란히 있었다. 뒤의 두 갈래가 오히려 주된 길일 수도 있었다. 국가의 문서고는 몇십 년 뒤 열릴지 모른다. 그러나 실패한 매매 알고리즘 하나, 내부 추천 모델 하나는 회사가 사라지면서 기록조차 남지 않을 수 있다. 이제 논문 목록을 성과 목록과 거의 같은 것으로 볼 수 없게 되었다.

직업 통계에도 드러난다. 미국 노동통계국이 2025년 ‘수학자’라는 직업명 아래 집계한 사람은 2,200여 명에 불과했고, 절반 넘게 연방정부에서 일했다. 많은 수학 박사의 직함은 이미 연구과학자, 응용과학자, 퀀트 연구원이었다. 수학을 하는 사람이 줄어든 것이 아니다. 그 이름이 사람들을 다 담지 못하게 된 것이다.

세 시대를 나란히 놓아보자. 3편의 고대 그리스 수학자들은 지리적으로 흩어진 아주 작은 저술 공동체였다. 일자리 시장은 없었고, 텍스트와 주석으로 세대에서 세대로 이어졌다. 14편의 괴팅겐은 달랐다. 세미나와 열람실, 교수직과 학술지 편집 책상이 있었고, 대학은 수학자가 몸을 의탁할 곳이 되었다. 1970년 이후 세 번째 형태가 더해졌다. 대학 밖으로도 정보기관과 트레이딩룸, 기업 연구소와 플랫폼 회사까지 일터가 펼쳐졌다. 핵심 자산은 편지와 교직에서 데이터와 계산 능력, 코드와 기관의 권한으로 옮겨갔다. 성과의 주인도 저자 한 사람만으로 정해지지 않았다. 저자와 고용주, 특허권과 영업비밀이 함께 얽혔다. 첫 번째 시대의 사람은 편지를 주고받던 벗을 잃어도 손에 쥔 문제는 남았다. 두 번째 시대의 사람은 대학을 옮겨도 문제 대부분을 가져갈 수 있었다. 세 번째 시대의 사람은 퇴사하는 순간 데이터와 실제 서비스 코드, 거래 기록, 컴퓨팅 클러스터, 발표 허가를 한꺼번에 잃을 수도 있었다.

8. 다시 매겨진 값

미국은 해마다 새로 박사학위를 받은 사람을 전수 조사한다. 2003년에 수학·통계학 박사학위를 받은 사람 가운데 미국 내에서 박사후연구직을 제외한 일자리가 확정된 사람은 325명이었다. 그중 226명, 70퍼센트가 학계로 갔다. 2023년에는 814명 중 220명, 27퍼센트였다. 이 기준으로 보면 20년 동안 학계 일자리로 간 사람 수는 거의 그대로였고, 일자리가 확정된 박사 수는 두 배 넘게 되었다. 2024년 학위 취득자들의 예상 초임 연봉 중앙값은 산업계 일자리 약 15만 달러, 학계 일자리 6만 8,000달러, 박사후연구직 7만 달러였다. 여기서 산업계란 산업 또는 기업 부문이다. 금융만을 뜻하지도 않지만, 모든 비학계 부문을 아우르지도 않는다. 정부와 비영리기관은 따로 분류된다. 어느 자본가가 나서서 누군가를 유혹할 필요도 없었다. 노동시장은 이미 스스로 값을 다시 매겨놓았다.

이 역사가 막 시작될 무렵부터 다른 질문을 던진 사람도 있었다. 1970년 그로텐디크는 파리 교외의 고등과학연구소 IHÉS를 떠났다. 소장과 다툼이 있었고, 그 원인 중 하나는 연구소 예산의 작은 몫이 군에서 나온다는 사실이었다. 이후 그는 ‘생존’이라는 단체를 조직해 군비와 생태, 과학자의 사회적 책임을 논의했다. 이는 그가 몸담았던 연구기관과의 단절을 뜻했지만, 수학자로서의 삶이 끝났다는 뜻은 아니었다. 이후 1980년대까지도 중요한 수학 연구와 저술을 이어갔다. 그로텐디크가 물은 것은 돈이 어디에서 오는가였다. 번스타인이 물은 것은 누가 자기 것을 밖으로 전하지 못하게 할 권한을 갖는가였다. 금융 모델을 만드는 사람들이 물은 것은 자기 모델이 조직 안에서 얼마나 큰 권력을 부여받았는가였다.

그렇다면 1970년 이후 새로워진 것은 무엇인가. 수학이 비로소 쓸모 있어진 것이 아니었다. 수학자가 조직 속에 들어가는 방식이 달라졌다. 먼저 사람이 늘었다. 전후의 대학은 19세기와 비교할 수 없을 만큼 많은 박사를 배출했고, 그들을 예전과 같은 비율로 받아들일 수 없었다. 정부와 기업도 가끔 수학자 한 명을 자문역으로 부르는 데 그치지 않고 안정적인 일자리 시장을 이루었다. 자리도 달라졌다. 예전에는 계산한 수를 놓고 관리가 결정을 내렸다. 이제는 호가 모델이 스스로 호가를 내고, 헤지 알고리즘이 스스로 거래하며, 순위 시스템이 수억 명에게 무엇을 보여줄지 실시간으로 줄을 세운다. 수학은 결정에 앞서 있을 뿐 아니라, 점점 더 결정을 내리는 기계 안에 들어간다. 연구의 밑천도 달라졌다. 데이터와 계산 능력, 시장 접근권, 실험에 쓸 이용자 트래픽은 고용주가 쥐고 있다. 비밀에는 한 겹이 더해졌다. 국가기밀에 영업비밀과 특허, 비밀유지계약, 독점 데이터가 포개졌다. 떠날 때 가져갈 수 있는 것도 더는 논문뿐이 아니었다.

그렇다고 수학이 자본에 포섭되었다는 이야기도 아니다. 기업도 진정으로 열린 기초연구를 길러낼 수 있었다. 벨연구소가 그 예다. 1948년 섀넌의 정보이론은 바로 이 연구소의 기술 학술지에 실렸다. 대학 역시 시장 밖에 있었던 적이 없다. 공공 예산과 국방 연구, 재단과 등록금에 기대어 산다. 국가도 지식을 지극히 단단하게 봉쇄할 수 있다. 콕스의 발견은 24년 동안 잠겨 있었다. 응용에서 수학으로 돌아오는 것도 있었다. 공개키는 정수론과 유한체, 타원곡선에 막대한 공학적 가치를 안겨주었다. 금융은 확률해석과 편미분방정식, 수치해석과 최적화에 수많은 새 문제와 일자리를 가져왔다. 알고리즘 기업과 조합최적화, 학습이론, 메커니즘 디자인 사이에서도 흐름은 양방향이었다. 그렇게 나온 성과 중 일부는 다시 공개된 수학으로 돌아왔다.

한 사람이 어디에 서 있는지는, 떠날 때 무엇을 가져갈 수 있는지를 보면 안다.

2006년 8월 22일, 마드리드의 국제수학자대회에서 그해 필즈상 수상자가 발표되었다. 수상자 네 사람 중 한 사람은 그곳에 오지 않았고, 메달도 받지 않겠다고 했다.

계산은 계속된다. 그런데 무엇을 수학으로 칠 것인지는, 아직 한 번도 셈이 끝난 적이 없다.

사료와 더 읽을거리

아래 자료는 본문에 담긴 역사적 세부 사항과 해석상의 차이에 대응한다. 소장 기록, 고대 문학, 현대의 재구성은 서로 같은 종류의 증거가 아니다.