분자시계와 화석: 그늘 속에서 겨루는 두 자

1 두 숫자가 맞지 않는다

교과서의 이야기는 이렇다. 6,600만 년 전 공룡이 멸종하고, 그 빈자리를 포유류가 채웠다. 그 뒤로 코끼리와 고래, 박쥐와 사람이 등장했다.

분자시계가 내놓는 시간표는 다르다. 여러 유전자와 유전체를 분석한 수많은 연구는 현대 태반류 포유류의 큰 계통들이 갈라진 시점을 백악기에 놓는다. 뿌리 쪽 분기점의 연대는 흔히 1억~1억 1,000만 년 전 수준이다. 다시 말해 공룡이 멀쩡히 살아 있던 때에, 훗날 코끼리로 이어질 가지와 고래로 이어질 가지는 이미 갈라져 있었다. 그것도 3,000만~4,000만 년이나 앞서서.

이 주장이 무게를 갖는 까닭은 다른 이야기 하나가 거기 따라붙기 때문이다. 그 3,000만~4,000만 년 동안 이 계통들은 줄곧 지구에서 살아 움직였으면서도, 학계가 널리 인정하는 화석을 단 하나도 남기지 않았다는 이야기다.

계통수에는 반드시 있어야 하지만 화석은 하나도 없는 가지. 고생물학에는 이를 가리키는 이름이 있다. 유령 계통이다. 분자시계가 화석보다 오래된 연대를 하나 내놓을 때마다, 계통수에는 그만큼의 유령 계통이 그려진다. 그러니 양쪽이 다투어온 것은 추상적인 숫자가 아니다. 이 유령들이 얼마나 긴가 하는 문제다.

길이가 달라지면 전혀 다른 두 풍경이 나온다. 분자 쪽이 옳다면 백악기 포유류 무리 속에는 훗날 현대의 여러 목으로 이어질 계통이 숨어 있었다. 다만 당시의 모습으로는 알아볼 수 없었고, 나중에도 아무도 발굴하지 못했을 뿐이다. 화석 쪽이 옳다면 현대 태반류가 부채처럼 펼쳐진 과정 전체가 경계 이후 수백만 년 사이에 끝났다.

자연스러운 반응은 이렇다. 자가 두 개다. 하나는 이르다 하고 하나는 늦다 하니, 하나는 틀렸겠지. 이 문제는 공룡과 포유류에만 해당하지도 않는다. “분자시계에 따르면 그 시점은……”이라는 문장은 이제 “언제 갈라졌는가”를 다루는 거의 모든 보도에 등장한다. 이번 글이 다루려는 것은 실은 그 문장 안에 무엇이 들어 있는가 하는 문제다.

이번 글에서 밝히려는 것은 그 자연스러운 반응 속에 전제 두 개가 숨어 있고, 둘 다 성립하지 않는다는 사실이다.

첫째 전제는 두 자가 같은 것을 재고 있다는 것이다. 둘째 전제는 두 자가 서로 독립적이라는 것이다. 성립하지 않는 방식도 서로 다르니, 따로 다루어야 한다.

이번 글은 어느 쪽이 옳은지 판정하려는 글도 아니다. 물으려는 것은 다른 데 있다. 구축된 두 틀이 이미 서로의 입력값이 된 뒤에도 “누가 옳은가”라는 질문에는 얼마만큼의 의미가 남아 있을까. 먼저 분자시계가 어떻게 태어났는지부터 보자. 그 출생 과정이 둘째 전제를 곧바로 결정하기 때문이다.

1962년, 두 연구자가 서로 다른 종의 단백질 서열 차이를 고생물학에서 제시한 분기 시점과 나란히 놓고 비교했다. 차이의 양이 대체로 시간에 따라 누적된다는 사실이 보였다. 1965년에는 이 생각을 체계화했다. 거의 같은 시기인 1963년, 또 다른 연구자는 시토크롬을 연구하면서 “유전적 등거리”라는 생각을 제시했다. 외군 하나를 기준으로 바라보면, 두 후손 계통이 공통 조상 이후 축적한 변화의 양이 대략 같을 수 있다는 것이다.

이 두 관찰을 합친 것이 “분자 진화에는 대략 시간을 재는 성질이 있다”는 생각의 경험적 토대다. 이 출발점을 눈여겨보자. 분자시계는 태어난 첫날부터 고생물학이 시간 눈금을 주었다. 나중에 생긴 오염이 아니다. 애초에 그렇게 태어났다. 서열 자체가 말해줄 수 있는 것은 “얼마나 변했는가”이지 “얼마 동안 변했는가”가 아니다.

엄격한 분자시계의 수학적 형태는 간단하다. 한 계통의 치환율이 일정하다면 분자 거리는 시간에 비례한다. 두 후손 계통이 같은 속도로 진화한다면, 둘 사이의 거리는 분기 이후 흐른 시간의 두 배에 대략 비례한다.

이 “만약”이 사태의 핵심이다. 이어지는 다섯 절도 거의 모두 이것을 다룬다. 더 나아가기 전에 세 단어부터 구체적으로 짚어두자. 앞으로 피할 수 없는 말들이다.

첫째는 분기점, 즉 노드다. 계통수는 계속 갈라지는 나무다. 현생종은 나뭇가지 끝에 있고, 가지가 갈라지는 자리 하나하나가 분기점이다. 두 계통이 나뉜 순간을 뜻한다. “연대를 부여한다”는 말은 이 갈림목 하나에 연도를 붙인다는 뜻이다.

둘째는 관군이다. 어떤 분류군의 현생 구성원 전체가 공유하는 마지막 공통 조상을 찾는다. 그 조상과 거기서 나온 모든 후손을 합친 것이 관군이다. 셋째는 줄기군이다. 그 조상보다 먼저 갈라져 나갔고, 오늘날에는 후손이 하나도 남아 있지 않은 가까운 친척들이다.

그러므로 “가장 오래된 태반류 관군”과 “가장 오래된 태반류의 근연종”은 서로 다른 두 시점이며, 그 사이가 아주 멀 수도 있다. 이 구분은 뒤에서 어느 쪽이 옳고 그른지를 거듭 가를 것이다. 게다가 같은 화석 하나를 놓고 두 번이나 그렇게 할 것이다.

2 엄격하지 않은 시계, 그래서 많아진 시계들

먼저 “치환”을 구체적으로 보자. 어떤 자리의 염기가 다른 염기로 바뀌어 해당 계통에 고정되는 일이다. 분자시계는 그런 사건이 얼마나 쌓였는지 추정한다. 갈라진 두 계통은 각각 치환을 쌓는다. 둘 다 단위 시간당 r의 속도로 진화한다면, 갈라진 지 t가 지난 뒤의 유전적 거리는 대략 2rt다. 차이는 곧 연대가 아니다. 속도를 모르면 아직 시계를 읽을 수 없다.

엄격한 시계가 요구하는 조건은 많은 사람이 생각하는 “중립 진화”보다 훨씬 까다롭다. 분석하는 자리들에서, 분석 대상이 되는 시간 규모에 걸쳐, 관련된 가지들의 평균 치환율이 충분히 비슷해야 한다.

그런데 돌연변이율, 세대 시간, 선택 제약, 복구 기작, 대사와 생활사는 계통에 따라 체계적으로 달라진다. 생쥐는 몇 달이면 세대가 바뀌지만 고래는 수십 년이 걸린다.

몸집이 작고 대사가 빠른 계통은 똑같은 100만 년 동안 더 많은 치환을 축적한다. 그래서 큰 분류군을 가로지르고 긴 시간 규모를 다루는 실제 자료에서는 대개 엄격한 시계가 기각된다.

기각된 결과가 “분자시계를 더는 못 쓴다”는 뜻은 아니다. 그 결과는 이렇다. 이제 분자로 추정한 연대에는 하나같이 모형 선택이 따라붙으며, 그 선택은 서열만으로 유일하게 정해지지 않는다.

따라서 오늘날 심원한 과거의 연대를 추정할 때 묻는 것은 “시계가 엄격한가”가 아니다. 가지마다 달라지는 속도를 어떻게 모형화할 것인가. 큰 길은 세 가지다.

첫째는 비상관 시계다. 가지마다 자기 속도가 있고, 그 속도는 같은 모집단 분포에서 독립적으로 뽑는다. “부모 가지가 빠르면 자식 가지도 빨라야 한다”는 조건은 없다.

모집단의 평균과 산포는 자료로 추정한다. 속도에 계통을 따라 이어지는 관성이 있다고 가정할 뚜렷한 근거가 없을 때 적합하다. 속도가 자주 급변하지만 어디서 바뀌었는지 미리 말하기 어려운 계통수에도 적합하다.

약점도 있다. 가지마다 독립적인 변화를 허용하다 보니, 실제 역사에서 한 덩어리로 오래 유지된 속도 전환이 있었다면 국소적으로 지속된 변화 하나를 계통수 전체의 무작위 이질성으로 흩어놓을 수 있다.

둘째는 자기상관 시계다. 자식 가지의 속도는 부모 가지의 속도에 조건부로 의존한다. 가까운 친척 가지끼리는 속도가 비슷하리라 예상하고, 더 긴 시간이 지나야 더 큰 표류를 허용한다.

생활사나 생리의 관성이 속도 변화에 남아 있는 경우에 적합하다. 그러나 “속도가 실제로 자기상관을 띤다”는 것 역시 경험적 가정이다. 자기상관의 규모도 표본을 얼마나 깊은 계통까지 모았는지에 따라 달라진다.

셋째는 국소 시계다. 모든 가지가 제멋대로 바뀌게 두지도 않고, 계통수 전체가 연속적으로 표류하게 두지도 않는다. 대신 나무에 속도가 같은 구역이 몇 개 있다고 가정한다. 초기 국소 시계에서는 어느 가지들이 같은 속도를 공유하는지 연구자가 미리 지정해야 했다. 나중에 나온 무작위 국소 시계는 “속도 전환이 어디서 일어났는가, 국소 시계가 모두 몇 개인가”까지 통계적 추론에 넣었다.

국소 시계는 특히 이런 역사에 잘 맞는다. 한 분류군이 생활사에 큰 전환을 겪고, 그 후손들이 새 속도를 오랫동안 유지한 경우다. 어려움은 가능한 모형의 공간과 계산량이 훨씬 커진다는 데 있다. 세 길에 공통된 사정도 있다. 어느 것이 더 적합한지는 자료로 판정해야지 직감으로 골라서는 안 된다.

이 세 길은 같은 일을 정교함의 정도만 달리해서 하는 것처럼 들린다. 실제 사례 하나를 보면 그렇지 않다는 걸 알 수 있다.

오스트레일리아의 그래스트리는 풀 무더기에 굵은 막대 하나를 꽂아놓은 듯한 외떡잎식물이다. 이 식물이 깔끔한 검증 대상인 까닭은 관군이 아주 긴 줄기가지 끝에 달려 있는데, 그 줄기가지 안에는 보정점이 하나도 없기 때문이다. 달리 말하면 시간 정보를 아주 먼 곳에서 외삽해 와야 한다.

연구자들은 먼저 모의 자료를 만들었다. 실제 관군 연대를 2,500만 년 전으로 정한 뒤 서로 다른 시계로 추정하게 했다.

무작위 국소 시계의 추정치는 2,840만 년 전, 95% 구간은 1,100만~4,200만 년이었다. 계통수 사전분포를 바꾸자 2,940만 년, 구간은 1,400만~4,300만 년이 나왔다. 두 번 모두 참값이 구간 안에 들어갔다.

비상관 로그정규 시계의 추정치는 410만 년 전, 구간은 50만~1,100만 년이었다. 계통수 사전분포를 바꾼 뒤에는 490만 년, 구간은 50만~1,000만 년이었다. 참값인 2,500만 년은 이 시계의 어느 구간에도 아예 들어가지 않았다.

실제 서열 자료의 결과도 눈에 거슬릴 만큼 달랐다. 같은 관군의 연대 중앙값이 시계 모형에 따라 330만 년 전에서 3,500만 년 전까지 움직였다. 최대 약 열 배 차이다. 같은 자료와 같은 계통수 사전분포를 쓴 비교 대부분에서는 두 시계의 95% 구간이 겹치지도 않았다. 여기서 가장 놓치기 쉬운 대목이 하나 있다. 이번 글에서 거듭 꺼내 쓸 대목이다.

그 모의실험에서 비상관 시계가 내놓은 구간은 더 좁았지만, 이미 알고 있는 참값을 포함하지 못했다. 무작위 국소 시계의 구간은 더 넓었지만 참값을 포함했다. 즉, 한 모형 안의 사후구간이 좁다는 사실은 모형들 사이의 계통오차가 작다는 증거가 아니다.

둘 다 “불확실성”이라는 이름으로 불리지만 서로 다른 것이다. 오차 막대가 재는 것은 모형 내부의 불확실성이지, 모형 선택의 불확실성이 아니다. 독자가 보는 것은 대개 앞의 것뿐이다.

3 분자시계는 어느 순간을 재는가

이제 첫째 전제를 다루자. 두 자는 같은 것을 재고 있는가. 분자시계가 공식적으로 추정하는 대상은 계통수의 어느 분기점이 놓인 시점이다. 종 계통수 분석에서는 이를 보통 두 계통이 마지막으로 조상을 공유한 뒤 갈라진 순간으로 해석한다. 그런데 이 대상에는 네 가지 단서가 붙는다. 실제 논쟁에서는 어느 하나든 수백만 년으로 불어난다.

첫째, 단일 유전자 시계가 직접 추정하는 것은 유전자 계통의 공통 조상으로 합쳐지는 시점, 즉 합류 시점이다. 종 계통이 실제로 갈라진 시점과 반드시 같지는 않다.

그 원리는 어렵지 않다. 두 종이 갈라질 때 조상 집단 안에는 이미 다형성이 있었다. 분기 이후 양쪽에서 유전자 사본을 하나씩 뽑아 과거로 거슬러 올라가면, 두 사본의 공통 조상은 종 분기보다 훨씬 이전에 있을 수 있다. 조상 집단 안에서부터 서로 다른 두 대립유전자였기 때문이다.

계산도 가능하다. 가장 단순한 이배체 중립 합류 모형에서, 두 계통이 조상 집단으로 들어간 뒤 공통 조상에 합류하기까지 추가로 기다리는 시간의 기댓값은 유효집단크기의 두 배 정도다. 단위는 세대다. 조상의 유효집단크기가 5만이고 한 세대가 20년이라면, 이 항목 하나의 기댓값만 약 200만 년이다. 유효집단크기가 10만이면 약 400만 년이다.

큰 집단이 빠르게 잇달아 분화하는 경우라면, 이 항목 하나가 고생물학에서 논쟁하는 수백만 년의 차이와 충분히 같은 규모가 될 수 있다.

2편에서 마지막 공통 조상을 다룰 때도 같은 구분을 썼다. 유전자 계통수와 종 계통수는 같은 나무가 아니다. 그 글에서는 이 구분이 조상을 재구성할 수 있는지를 결정했다.

종 분기 뒤 유전자 흐름이 없다면 유전자의 합조 시점은 종 분기보다 최근일 수 없다. 많은 유전자를 단순히 이어 붙인 뒤 곧바로 종 분기로 읽으면 조상 집단의 합조 시간 일부를 종의 마디에 얹을 수 있다. 하지만 그 방향에는 전제가 있다. 뒤에서 다룰 유전자 이입은 이 전제를 깰 수 있다. “언제나 더 오래됐다”는 모든 유전자 역사에 적용되는 규칙이 아니다.

둘째, 형태가 출현한 시점을 추정하는 것이 아니다. 한 계통이 자매 계통에서 먼저 갈라진 뒤에도 수백만 년 동안 조상형 형질을 강하게 간직한 모습을 유지할 수 있다.

실제로는 이런 모습이다. 이미 관군 안에 들어간 초기 구성원이라도 이빨과 뼈가 줄기군 친척과 똑같다면, 고생물학자는 그것을 알아낼 수 없다. “진단 형질로 알아볼 수 있게 되는 때”는 별도의 시간량이다. 특히 진단 형질이 여러 특징의 조합일 때는, 그 조합이 완성되기 전에 분기가 일어날 수 있다.

셋째, 생태적 역할이 확립된 시점을 추정하는 것도 아니다. 분기점에서 가지가 갈라졌다는 것은 두 조상 계통이 더는 같은 가지를 공유하지 않는다는 뜻일 뿐이다. 여기서 몸집이 달라지고, 먹이를 먹는 방식이 달라지고, 새로운 생태적 지위를 차지하고, 다양성이 높은 관군을 이루기까지는 또 한동안의 시간이 놓일 수 있다.

넷째, “집단의 분화가 완료된 때”를 추정하는 것도 아니다. 유전자 흐름이 있는 종 형성 과정에서 분리는 수학적 순간이 아니다. 유전체의 구간마다 서로 다른 합류 역사를 가질 수 있고, 유전자 이입은 어떤 자리의 합류 시점을 실제 종 분기보다 늦게 만들기도 한다. 그렇다면 화석 쪽이 재는 것은 무엇일까.

알려진 가장 오래된 화석이 맨 먼저 제시하는 것은 하한 하나다. 늦어도 이때에는 그 계통이 이미 존재했다는 뜻이다. 어떤 관군에 확실히 속하는 화석이 1억 년 전 것이라면, 관군의 분기는 늦어도 1억 년 전에는 일어났어야 한다. 1억 500만 년 전일 수도, 1억 2,000만 년 전일 수도, 그보다 더 오래전일 수도 있다.

“알려진 가장 오래된 화석”을 곧바로 “실제 기원 연대”로 삼는 것은 최초의 보존, 최초의 발견, 최초의 채집이 모두 기원의 순간에 딱 맞추어 일어났다고 가정하는 것과 같다.

그렇게 일련의 시점이 생긴다. 계통의 분기, 식별 가능한 관군 형태의 확립, 퇴적 기록에서의 첫 채집, 두드러진 생태적 역할을 맡는 때. 이들이 같아야 할 이유는 없다. 흔히 앞의 시점일수록 더 오래되고 뒤의 시점일수록 더 젊다.

그렇다면 분자 분기점이 식별 가능한 화석보다 오래된 것은 자연스러운 일이며, 양쪽 모두 각자의 대상을 정확히 쟀을 수도 있다.

태반류의 “긴 도화선” 모형은 바로 이렇게 설계되었다. 초기의 계통 분기와 더 늦은 형태적·생태적 확장을 나누는 것이다. 이 모형에서는 분자가 말하는 백악기 분기와 화석이 말하는 경계 이후의 방산이 동시에 참일 수 있다. 서로 같은 일을 말하는 게 아니기 때문이다.

그렇다고 어물쩍 봉합하려고 만든 모형은 아니다. 검증 가능한 귀결이 따라온다. 그 분기들이 정말 백악기에 일어났다면, 백악기 지층에 해당 계통의 구성원들이 있어야 한다. 다만 형태로는 아직 알아볼 수 없을 뿐이다. 사람을 보내 찾아보게 할 수 있는 예측이지, 핑계 한마디가 아니다.

하지만 이 해소법을 어디에나 쓸 수는 없다. 양쪽이 실제로 서로 다른 대상을 잴 때만 성립한다. 두 연구가 같은 분기점의 같은 역사적 사건을 잰다고 주장할 때에만 진짜 연대 충돌이다. 그런 경우는 실제로 있다. 7절에서 몇 가지를 볼 것이다.

4 화석 쪽 오차의 세 층

화석은 흔히 “단단한 쪽”으로 여겨진다. 암석의 나이는 그 나이일 뿐이라는 것이다. 이 말은 3분의 1만 맞다. 화석으로 분기점 하나를 보정하려면 적어도 세 층의 오차를 통과해야 하고, 그 규모는 층마다 크게 다르다.

첫째 층은 지층 연대의 오차다. 보통 가장 작아서 수십만~수백만 년 정도이며, 방법도 성숙해 있다. 여기서 물을 것은 표본이 어느 층에서 나왔는지, 그 층을 수치 연대와 어떻게 연결했는지, 연대 구간을 직접 방사성 연대측정으로 얻었는지 지층 대비로 얻었는지, 생층서의 연대 환산에 지역 차이가 있는지다.

분기점 보정의 모범 지침은 이 층에 대해 독립적인 논증을 요구한다. 정수 하나를 인용하는 것으로는 부족하다. “1억 년”이라고 적힌 화석 뒤에는 화산재를 직접 연대측정한 결과가 있을 수도 있고, 두 대륙을 가로지르는 생층서 대비가 있을 수도 있다.

그 모범 지침 자체가 점검표다. 표본 번호는 무엇이며 어느 기관에 소장되어 있는가. 그 분류군에 넣는 진단 근거는 무엇이고 다른 사람이 검토할 수 있는가. 어느 층에서 나왔는가. 그 층의 연대는 어디서 왔으며 오차는 얼마나 되는가.

행정 절차처럼 보이는 목록이다. 하지만 항목 하나하나가 연대를 수천만 년씩 틀리게 만들 수 있는 지점에 대응한다.

둘째 층은 계통적 위치의 오차다. 이 층이야말로 주인공이다.

같은 뼈 하나가 방사성 연대의 글자 하나 바꾸지 않고도, 보정 대상 분기점의 연대를 수천만 년 바꿀 수 있다. 얼핏 과장처럼 들리지만 그렇지 않다. 바뀌는 곳은 형태계통학 논문 한 편의 내부다. 그 논문은 암석 시료 하나도 다시 측정하지 않았다.

이유는 이렇다. 화석이 어느 분기점을 보정할 수 있는지는 나무 위의 위치가 결정한다. 현대 구성원을 얼마나 닮았는지가 결정하는 게 아니다. 관군 안에 확실히 들어가는 화석은 적어도 그 관군을 만든 분기가 이미 일어났음을 증명한다. 같은 화석을 관군 밖의 줄기군으로 옮기면, 더는 관군 분기점에 최소 연대를 줄 수 없다. 그보다 깊은 총군의 역사 일부만 제약할 수 있다.

태반류에서 가장 직관적인 형태로 드러난다. 백악기 후기 포유류 일부를 현생 태반류 관군 안에 넣으면, 이 화석들은 그 관군에 중생대라는 최소 연대 제약을 준다. 같은 형태들을 다시 관군 밖으로 옮기면, 증명할 수 있는 것은 더 넓은 총군이 이미 존재했다는 사실뿐이다.

논쟁이 벌어지는 자리는 “나무 위 어디에 놓이는가”이지, 반드시 “암석이 몇 살인가”인 것은 아니다. 앞의 것은 형태 행렬 하나가 결정하고 뒤의 것은 질량분석기 한 대가 결정한다. 두 판단의 안정성은 전혀 다르다.

이 층의 오차에는 방향도 있다. 방향은 양쪽으로 오갈 수 있다. 화석에는 흔히 연조직이 없고, 분자 형질이 없고, 골격 일부가 없다. 보존 편향은 경조직만 남은 화석을 형태 계통수에서 체계적으로 “줄기군 쪽으로 이동”시킬 수 있다. 따라서 “현대 관군의 어떤 특징이 없다”는 데는 두 해석이 가능하다. 정말 관군 밖에 있거나, 그 형질이 보존되지 않았거나 부호화되지 않았거나 여전히 조상형으로 남아 있는 것이다.

9편에서 세웠던 “진단 형질이 아직 한 벌을 이루지 않았다”는 주의점은 여기서 곧바로 보정의 불확실성이 된다. 그 글에서는 화석을 어떤 생물로 셀 것인가를 결정했다. 이번에는 연대를 결정한다.

반대 방향도 있다. 결과는 더 기묘하다. 줄기군 화석을 관군에 잘못 넣으면 화석이 주는 최소 연대를 너무 오래된 쪽으로 밀어낸다. 심지어 이른바 “좀비 계통”이 생길 수도 있다. 분자 분기점이 거기에 배정된 화석의 최소 연대보다 오히려 젊어지는 것이다. 논리적으로 말이 되지 않으니, 연구자는 모형과 연대측정, 계통적 위치를 다시 점검하러 돌아가야 한다.

셋째 층은 첫 출현의 지연이다. 11편에서 이미 이 층을 수량화했으니, 여기서는 규모를 가늠할 표집률 하나만 남겨두자.

보존 상태가 극히 좋은 부유성 유공충 기록에서는, 어떤 종이 100만 년짜리 시간 칸 하나하나에서 표집될 확률이 적어도 약 80%라는 추정이 있다. 일반적인 수준이 아니라 최상위 수준이다. 유공충은 개체 수가 많고 껍데기가 단단하며 심해 퇴적은 연속적이다. 화석 기록이 제공할 수 있는 거의 최선의 조건이다.

이 숫자는 다음 절의 바탕을 마련하는 데 쓸모가 있다. 100만 년마다 탐지 확률이 정말 80%라면, 수백만 년 연속된 부재는 빠르게 강한 부정적 증거가 된다. 어떤 분류군의 100만 년당 실효 탐지 확률이 몇 퍼센트뿐이라면, 같은 길이의 공백도 연대의 강한 상한은 거의 만들어주지 못한다.

세 층을 합치면 이런 결론이 나온다. 화석 쪽을 “오차 ±200만 년”으로 적어놓으면 심원한 과거의 논쟁을 실제로 지배하는 층을 빠뜨리게 된다. 지배하는 것은 첫째 층이 아니라 둘째와 셋째 층이다. 이 두 층은 오차 막대처럼 생기지도 않았다.

5 순환인가

이제 둘째 전제를 다룰 차례다. 이 자는 대체 얼마나 독립적인가.

먼저 왜 문제가 생기는지부터 분명히 하자.

한 서열에 치환이 몇 번 누적되었는지는 셀 수 있다. 그 수는 두 가지의 곱과 같다. 속도 곱하기 시간이다.

골칫거리는 바로 이 곱셈에 있다. 모든 시간을 두 배로 늘리고 모든 속도를 절반으로 줄여도 곱은 똑같다. 서열 자체로는 아무 차이도 알아낼 수 없다. 이 두 방식으로 읽을 때 계통수의 모든 가지 길이는 완전히 같다.

다시 말해 서열은 모형에 “이 가지에 치환이 얼마나 쌓였는가”, “어느 분기점이 상대적으로 더 깊은가”는 말해줄 수 있다. 하지만 연도는 줄 수 없다. 연도는 밖에서 들여와야 한다.

그래서 절대 척도가 적어도 하나는 필요하다. 현대의 분기점 연대추정에서는 보통 여러 내부 분기점에 화석의 최소 연대나 최대 연대, 또는 확률밀도를 놓는다. 그런 다음 분자 가지 길이와 속도 모형을 통해 이 시간 정보를 나무 전체로 퍼뜨린다. 2023년 연구는 태반류 241종을 다뤘다. 65분류군의 유전자좌 계통수 연대 추정에는 연성 경계 화석 보정 37개를 썼고, 241종의 연결 분석에는 23개를 더했다. 아래의 37개 기준점은 원리를 설명하는 수이지 전체 분석의 보정 총수가 아니다.

37이라는 수는 많아 보인다. 동시에 그 뜻은 이렇다. 이 나무에는 화석의 연대와 계통적 위치가 입력 단계에 직접 적혀 들어간 자리가 37곳 있다.

여기서 위험한 논증 형식 하나가 나타난다. 화석 갑·을·병의 연대와 계통적 위치를 가정해 시계를 보정한다. 시계는 목표 분기점이 그 분기점에 해당하는 가장 오래된 화석보다 더 오래되었다고 추정한다.

그러므로 분자 증거가 화석 기록의 불완전성을 “독립적으로” 증명했다는 것이다. 끝의 “독립적으로”는 성립하지 않는다. 출력은 이미 화석 입력에 조건부로 의존하고 있기 때문이다.

그렇다고 “분자가 화석보다 오래되었다”는 모든 주장이 형식논리의 순환이라는 뜻은 아니다. 나무의 갑·을·병 세 곳에 화석이 시간 제약을 주고, 목표 분기점에는 직접 보정이 전혀 없다고 하자. 서열의 가지 길이와 시계 모형이 갑·을·병에서 목표로 외삽한 뒤, 목표의 사후 연대와 그 목표 자체의 가장 오래된 화석을 비교한다.

여기에는 “답을 미리 넣어놓고 다시 꺼내는” 동어반복이 없다. 있는 것은 다른 것이다. 증거들 사이의 의존성에 모형 외삽이 더해진 것이다. 순환이라는 지적에 흔히 나오는 세 반론은 각각 얼마나 해결해주는지 따로 계산해야 한다.

첫째 반론은 “보정점이 다른 분류군이나 다른 시대에서 왔다”는 것이다. 가장 강한 형태의 순환은 해결하지만 외삽 편향은 해결하지 않는다. 목표 분기점과 보정 분기점이 멀리 떨어져 있으면 계통오차가 속도 모형을 타고 줄곧 전달될 수 있다. 특히 보정점이 모두 나무 한쪽에 몰려 있고, 목표는 속도가 크게 꺾인 다른 긴 가지에 놓여 있다면 “같은 분기점이 아니다”라는 사실만으로 추론의 견고함을 보장할 수 없다.

그래스트리 사례가 바로 이 모양이다. 2절의 그 오스트레일리아 그래스트리는 관군이 내부 보정점 하나 없는 긴 줄기가지 끝에 달려 있었다. 시계 모형을 바꾸자 추정 연대가 300만~600만 년 전에서 2,600만~3,000만 년 전으로 뛰었다.

같은 서열, 같은 보정점인데 연대가 거의 열 배나 달랐다. 바뀐 것은 “속도의 변화를 어떻게 모형화하는가”라는 항목 하나뿐이었다.

둘째 반론은 “보정은 경계만 줄 뿐 답을 정하지 않는다”는 것이다. 이 말은 일부 맞다. 단단한 최소 연대 경계는 분기점이 특정 시점보다 젊을 수 없다는 뜻일 뿐이다. 이론상 사후분포는 그보다 오래된 어느 곳에나 놓일 수 있다. 유연한 최대 연대 경계는 작은 확률로나마 상한을 넘어가는 것도 허용한다. 그러니 분기점을 화석 연대에 그저 못 박는 것은 아니다.

하지만 여러 경계가 계통수 사전분포와 상호작용하면 이른바 유효 사전분포가 생긴다. 보정하지 않은 분기점의 시간 분포까지 강하게 빚어놓는다. 경계가 한 점짜리 답은 아니지만, 답을 결정하는 주된 정보원은 얼마든지 될 수 있다.

셋째 반론은 “보정점이 많을수록 한 점의 오류가 미치는 영향은 제한된다”는 것이다. 오류들이 대체로 독립적이고 나무 위에 적절히 분포할 때만 성립한다. 독립적이고 믿을 만한 여러 보정은 실제로 서로를 제약할 수 있다. 유난히 오래되거나 젊은 보정은 다른 자료와 더 쉽게 충돌하고, 유연한 경계는 서열과 다른 보정이 그 영향을 눌러줄 여지도 남긴다.

그러나 보정 열 개가 같은 계통 분류의 오판을 공유하거나, 같은 잘못된 최대 연대를 공유하거나, 아예 전부 한 가지에 몰려 있다면 독립된 정보 열 개가 아니다. 같은 계통오차를 열 번 반복한 것이다.

자주 간과하는 사실이 하나 더 있다. 보정의 위치는 적어도 개수만큼 중요하다. 내부 보정은 긴 가지에서 시간과 속도가 서로 자리를 바꾸는 여지를 직접 끊어낼 수 있다.

반면 나무뿌리 근처에 보정을 더 보탠다고 해서, 독자적인 속도 전환을 겪은 먼 끝의 관군까지 제약할 수 있는 것은 아니다. 앞의 그래스트리에서 문제가 증폭된 곳이 바로 내부 보정이 없는 그 긴 줄기가지였다.

따라서 올바른 판정은 “필연적으로 순환이다”도, “완전히 독립적이다”도 아니다.

목표 분기점의 분자 연대는 일련의 화석, 시계 모형, 서열 모형, 계통수 사전분포를 조건으로 한 예측이다. 목표 분기점 자체의 첫 출현 화석과는 독립적일 수 있지만, 대개 화석의 시간 척도 자체와 독립적이지는 않다. 길지 않은 문장이지만 흔한 두 주장을 동시에 부정한다. 하나는 분자시계가 화석이 알려준 것을 되풀이할 뿐이라는 주장이고, 다른 하나는 분자시계가 화석과 무관한 독립적인 자라는 주장이다. 둘 다 틀렸다. 틀린 방향도 반대다.

이를 바탕으로 목표 분기점의 기록 완전성을 검토하는 것은 교차 예측이다. 해도 된다. 다만 이것을 고생물학에 전혀 의존하지 않는 두 번째 시계라고 설명한다면 독립성을 부풀리는 것이다.

6 최대 연대 쪽 끝

보정에는 양쪽 끝이 있고, 두 끝을 뒷받침하는 논증의 강도는 전혀 다르다. 단단한 최소 연대 경계의 논리가 가장 확실하다. 어떤 관군에 확실히 속하는 화석이 적어도 1억 년 되었다면, 그 관군을 만든 분기점이 고작 9,000만 년 되었을 수는 없다.

문제는 따라서 두 전제에 모인다. 화석이 정말 이 관군에 속하는가. 이 암층이 정말 적어도 그만큼 오래되었는가. 두 가지가 믿을 만해지면 방향은 단단하게 고정된다.

최대 연대는 다르다. 최소 연대는 “하나를 이미 찾았다”에서 나온다. 최대 연대는 “더 오래되었고 그 분류군이 보존되어 있어야 할 지층에서도 찾지 못했다”에서 나온다. 부정적 증거에 의존한다.

부재를 상한으로 바꾸려면 추가 논증이 줄줄이 필요하다. 더 오래된 지층이 존재하는가. 표집은 충분히 촘촘한가. 당시 환경은 적합했는가. 그때 그 분류군에 보존도 가능하고 진단도 가능한 구조가 있었는가. 연구자가 실제로 그것을 알아볼 수 있었겠는가.

열한 번째 글의 단순화된 계산을 쓰자. 시간 구간들이 서로 독립이고 발견 확률도 같다면, 모두 놓칠 확률은 한 구간에서 놓칠 확률을 구간 수만큼 곱한 값이다. 100만 년당 발견 확률이 80퍼센트라면 오랜 부재는 설명하기 어렵다. 하지만 확률이 낮거나 지역과 시대에 따라 달라지거나 공백끼리 연관되어 있다면 이 곱셈을 그대로 쓸 수 없다. 같은 길이의 공백이라도 믿을 만한 상한을 주지 못할 수 있다.

여기서 중요한 말이 나온다. 최대 연대 보정이 들여오는 것은 날짜만이 아니라 화석 기록의 완전성에 관한 가정이기도 하다. 사전분포로 표현한다고 검증 불가능해지는 것도, 연구자가 숨겼다는 뜻도 아니다. 독자가 그 가정을 볼 수 있는가. 다른 합리적인 사전분포를 쓰면 결과는 얼마나 달라지는가. 새 화석이 나와도 그 가정은 버틸 수 있는가.

단단한 경계와 유연한 경계의 차이도 여기서 드러난다. 유연한 최대 연대 경계는 사전확률의 작은 몫이 경계 밖에 놓이는 것을 허용한다. 뜻은 이렇다. “이 분류군이 일찍부터 있었다면 높은 확률로 보였어야 한다. 그래도 놓쳤을 확률이 0인 것은 아니다.”

모의실험과 실제 사례에 따르면 화석과 서열이 양립할 때는 단단한 경계와 유연한 경계의 결과가 아주 비슷할 수 있다. 하지만 둘이 충돌하면 유연한 경계는 다른 정보가 나쁜 보정을 이길 수 있게 해준다. 단단한 경계는 답을 잘못된 제약에 억지로 복종시키며, 지나치게 좁은 신용구간을 낳을 수도 있다. 태반류는 이 논리가 실제로 작동하는 모습을 보여준다. 어느 쪽도 억지를 부리는 게 아니다.

더 젊은 관군을 지지하는 쪽은 이렇게 지적한다. 백악기 후기 북아메리카와 유라시아에는 비교적 풍부한 포유류 화석 산지가 있다. 현대 태반류의 큰 계통 여럿이 그때 이미 널리 존재했다면, 식별 가능한 구성원이 나올 확률이 어느 정도는 있어야 한다.

반대쪽은 이렇게 지적한다. 같은 시기의 아프리카, 남극, 마다가스카르, 인도 등은 기록이 훨씬 빈약하다. 게다가 초기 관군 구성원은 애초에 형태만으로 줄기군과 구별하기 어려웠을 수 있다.

그러니 논쟁은 단순히 “발견했나 못 했나”가 아니다. 탐지 확률이 그 최대 연대를 뒷받침할 만큼 충분히 높은가 하는 문제다. 그 확률은 직접 측정한 값이 아니라 추정한 값이며, 대륙마다 자릿수가 다를 만큼 차이가 난다. 이것이 바로 11편의 공식이 실제로 나타나는 모습이다. 부정적 증거의 힘은 0이라는 숫자 자체가 결정하지 않는다.

보정 사전분포의 모양도 같은 계열의 문제다. 균등분포, 지수분포, 로그정규분포는 무해한 수학적 포장지가 아니다. 균등분포는 상한과 하한 사이의 어떤 연대에도 특별한 선호를 주지 않는다.

지수분포는 최소 경계 근처에 확률을 가장 높이 쌓고, 과거로 갈수록 낮춘다. 로그정규분포는 화석의 최소 연대 경계를 넘은 오래된 쪽에 비대칭 봉우리를 만들면서 긴 꼬리를 남길 수 있다.

실은 각각 서로 다른 가설을 부호화한 것이다. 가장 오래된 화석은 진짜 분기 시점에서 보통 얼마나 떨어져 있는가. 따라서 분기점 자체의 분자 정보가 약할 때는 사전분포의 모양을 바꾸면 사후분포도 바뀐다. 속씨식물은 현재 이 문제를 가장 잘 보여주는 사례다.

그동안 나온 분자 추정치는 약 1억 4,000만~2억 7,000만 년 전을 아우른다. 2025년의 한 분기점 연대추정 및 화석화 출생–사망 분석에서는 관군 연대가 주로 2억 5,500만~2억 200만 년 전으로 나왔다. 대부분 트라이아스기에 걸친 범위지만 가장 오래된 끝은 페름기 후기까지 닿는다. 한편 2026년 화석 산출 모형과 분자 연대추정을 순차적으로 통합한 연구는 기원을 쥐라기 후기, 대략 1억 5,000만 년 전 수준으로 당겼다.

화석 쪽에서 널리 받아들여지는 가장 이른 속씨식물 꽃가루와 대형 화석 증거는 백악기 전기, 약 1억 3,300만~1억 2,500만 년 전에 모여 있다.

따라서 2025년 결과와의 차이는 7,000만~1억 2,000만 년이다. 2026년 결과에서는 1,500만~2,500만 년 정도로 줄어든다. 줄었지만 0이 되지는 않았다.

발표는 1년 차이지만 추정 연대는 크게 벌어졌다. 단순히 “유전자를 더 읽어서” 생긴 차이라고 할 수 없다. 화석을 넣는 방식, 보정, 표본추출 모형도 답을 바꾼다. 다만 두 연구는 다른 입력을 고정하고 보정만 바꾼 통제 비교가 아니다. 차이 전부를 한 요인에 돌릴 수는 없다. “최근 분자 증거가 이 연대를 지지한다”는 문장을 만나면 인용 목록뿐 아니라 각 연구의 가정도 물어야 한다.

끝으로 반대편에도 경고 하나를 붙여두자. 최대 경계를 비합리적으로 오래된 곳에 두면 깊은 분기점에 과거로 뻗어갈 여지를 체계적으로 너무 많이 남긴다. 반대로 단단한 경계를 너무 조이면 거짓된 고정밀도를 만들어낸다. 깊은 분기점은 특히 위험하다. 긴 시간 규모에서는 서열이 이미 포화되었을 수 있고, 절대 시간은 서열보다 보정과 속도 사전분포에 더 많이 기대게 되기 때문이다.

7 맞지 않는 몇 장의 장부와 방향표 하나

이제 실제 장부를 보자. 먼저 태반류다. 분자 쪽에서는 21세기의 수많은 다유전자·유전체 분석이 태반류 관군의 출발점과 많은 목 사이의 분기를 백악기에 놓는다. 뿌리 쪽 분기점은 흔히 1억~1억 1,000만 년 전 수준에 놓인다. 하지만 보정과 속도 모형을 달리하면 뿌리 연대가 7,000만 년 전에서 1억 2,000만 년 전을 넘는 곳까지 움직일 수 있다.

화석 쪽에서는 엄격한 형태학적 “폭발 모형”이 논란 없는 태반류 관군 구성원을 주로 6,600만 년 전 이후에 놓는다. 2023년 대규모 화석 산출 기록을 직접 모형화한 연구는 태반류 관군이 백악기 후기, 경계에 가까운 시점에 이미 출현했지만 대부분의 목 수준 관군은 더 늦었다는 견해를 지지했다.

그래서 전통적으로 3,000만~4,500만 년이던 간격이 수백만 년, 또는 천수백만 년 수준으로 좁혀졌다. 그렇다고 모든 목 수준 분기점이 일치하게 된 것은 아니다.

여기에는 자주 뒤섞이는 세 모형이 있다. 올바른 정의 기준은 “누가 지지하는가”가 아니라 “어느 분기점이 백악기 말 경계를 넘어서는가”다. 폭발 모형에서는 태반류 관군의 목 사이 분기와 목 내부 주요 분기의 대부분, 나아가 전부가 6,600만 년 전 무렵이나 그 이후에 놓인다.

긴 도화선 모형에서는 태반류 관군과 대부분의 목 사이 분기가 백악기에 이미 일어났지만, 목 내부 관군의 확장은 대부분 더 늦다. 짧은 도화선 모형에서는 목 사이 분기뿐 아니라 일부 목 내부 분기까지 백악기 말 경계보다 한참 앞선 백악기에 이미 일어났다고 본다.

이 셋은 “화석 모형, 분자 모형, 절충 모형”이 아니다. 폭발 모형을 가장 직접적으로 지지하는 것은 관군 화석 기록의 엄격한 해석과 형태계통학이다.

긴 도화선은 다유전자 완화 시계에서 가장 흔히 나온다. 짧은 도화선과 여러 중간 형태는 속도 선별 방식, 화석 보정, 화석 산출 모형을 달리하면 나올 수 있다. 보정 한 묶음을 바꾸는 것만으로도 같은 대형 분자 행렬이 이 여러 양상 사이를 움직일 수 있다.

태반류는 이번 글에서 거듭 등장하는 사실 하나도 함께 보여준다. 한 방법 내부의 오차는 방법들 사이의 차이보다 훨씬 작을 수 있다. 어느 분자 분석에서 뿌리 쪽 분기점 하나의 95% 구간 폭은 불과 수백만~천수백만 년일 수 있다.

반면 엄격하게 잡은 화석 첫 출현과 어떤 분자 추정의 중심값은 3,000만~4,000만 년씩 떨어져 있을 수 있다. 보정과 속도의 불확실성을 함께 재표집한 연구에서는 태반류 뿌리의 전체 구간이 7,000만~1억 3,000만 년 전까지 벌어졌다. 모형 하나만을 조건으로 얻는 내부 오차보다 훨씬 넓다.

다음은 조류다. 분자 시간 계통수는 오랫동안 현대 조류의 뿌리와 일부 주요 계통을 백악기에 놓아왔다. 분석에 따라 뿌리 쪽 연대는 흔히 8,000만~1억 년 전, 때로는 그보다 오래된 값으로 나온다. 화석 보정 20개를 쓴 2024년 연구 역시 현대 조류가 백악기 후기에 분화하기 시작해 경계를 가로지르며 계속 가지를 뻗었다는 결과를 얻었다.

화석 쪽에서는 과거 가장 확실한 조류 관군 화석들이 6,700만 년 전 부근에 모여 있었다. 새 남극 표본은 “6,900만 년 전에는 이미 조류 관군의 계통이 있었다”는 증거를 강화했다. 그렇다고 모든 현생 주요 계통의 확실한 화석을 백악기의 더 깊은 곳으로 밀어 올린 것은 아니다.

이 사례를 다루는 방식이 문제를 잘 보여준다. 2024년의 그 연구는 화석 보정의 선택에 대해 곧 공개적인 비판을 받았다. 원저자들은 자신들의 백악기 시간 척도가 견고하다고 다시 응답했다. 실제로 한 일은 보정을 바꾸고 분기점의 사후분포를 다시 살피는 것이었다. 화석 첫 출현과 분자 중심값의 평균을 낸 것이 아니었다.

유대류와 태반류의 깊은 분기도 있다. 2012년 계통유전체 분석은 약 1억 6,800만~1억 7,800만 년 전이라는 값을 내놓았다. 2011년에는 약 1억 6,000만 년 된 화석 하나가 진수류로 해석되면서, 화석의 연대 하한이 한때 분자시계를 거의 따라잡았다.

그러나 그 화석의 계통적 위치는 나중에 도전을 받았다. 더 확실한 백악기 전기 기록만 받아들인다면 하한은 약 1억 2,500만~1억 1,000만 년 전이다.

따라서 표본이 실제로 약 1억 6,000만 년 전의 것이고 진수류 가지에 속한다면, 앞서 말한 간격은 800만~1,800만 년이다. 그 기준점을 빼면 4,000만~6,000만 년으로 벌어질 수 있다. 하지만 계통상의 위치만 논쟁거리가 아니다. 표본의 출처와 연대도 의문이 제기됐다. 형태 자료를 이용한 말단 연대 추정은 더 젊은 나이를 제시했지만, 암석을 직접 다시 측정한 결과는 아니다. 이 보정의 두 전제를 모두 드러내야 한다.

이 사례들이 왜 “분업”이 아니라 “경쟁”인지도 짚고 가자. 2013년의 대규모 형태·총증거 분석은 태반류 뿌리의 젊은 연대를 뒷받침했고, 이후의 분자 시간 계통수 연구는 이 연대를 명시적으로 반박했다. 양쪽은 생태적 역할이 언제 확립되었는지를 다투는 게 아니다. 태반류 관군의 공통 조상이 언제 존재했는지를 다툰다. 같은 분기점, 같은 역사적 사건, 서로 겹치지 않는 두 구간이다.

두 대조 사례도 유용하다. 하나는 파나마 지협 양쪽에 사는, 껍데기를 가진 해양 자매 분류군이다. 화석 보정으로 지협 양쪽의 자매종 쌍을 검토하면, 믿을 만한 패각 기록이 있는 일부 계통의 분자 분기 시점은 지협이 형성된 시기와 가깝게 나온다. 방법 사이의 차이는 수천만 년이 아니라 100만 년 단위다.

단단한 껍데기의 보존에 비교적 얕은 시간 규모가 더해져 민감도 높은 기록을 준다. 하지만 모든 종 쌍이 동시에 갈라진 것은 아니므로, 지협의 폐쇄를 모든 계통에 공통된 시각으로 삼을 수도 없다.

다른 하나는 반례다. 대조 사례보다 더 중요한 반례, 성게다. 성게에는 극히 잘 보존되는 광물화 골격이 있고, 화석 기록은 전형적인 연체성의 깊은 줄기군보다 훨씬 좋다.

그런데도 현대 계통유전체 연대추정은 어떤 관군 분기점을 알려진 화석보다 수천만 년 앞에 놓을 수 있다. 광물화된 경조직은 탐지 확률을 높이지만, 분자와 화석이 반드시 일치한다고 보장하지는 않는다. 이 장부들 뒤의 기작을 늘어놓으면 방향표 하나가 나온다. 그 표의 모양 자체가 결론이다.

방향이 고정되어 있고 차이를 “분자가 더 오래된 쪽”으로 미는 것들이 있다. 첫 출현의 지연은 알려진 화석의 첫 출현을 젊게 만든다. 관군의 진단 형질이 늦게 만들어지거나 식별하기 어려운 경우에도 식별 가능한 첫 출현이 젊어진다.

조상 집단의 다형성과 불완전 계통분리는 단일 유전자의 합류 시점을 종 분기보다 오래되게 만든다. 목표 가지에서 실제로 속도가 빨라졌는데 모형이 알아채지 못하면, 흔히 분자 시간을 오래된 쪽으로 민다.

반대 방향도 실제로 존재한다. 줄기군을 관군으로 잘못 보면 화석의 최소 연대 경계가 너무 오래된 쪽으로 치우친다. 뒤이은 유전자 흐름과 유전자 이입은 영향을 받은 유전자의 합류 시점을 젊게 만든다.

목표 가지에서 실제로 속도가 느려졌는데 모형이 알아채지 못하면, 흔히 분자 시간을 젊은 쪽으로 민다. 포화를 충분히 보정하지 않으면 일차적인 경향은 깊은 과거의 시간을 젊은 쪽으로 눌러놓는 것이다. 단단한 최대 경계를 너무 젊게 잡으면 분기점을 젊은 쪽으로 강제한다.

아예 방향이 고정되지 않은 부류도 있다. 긴 가지 끌림, 조성 편향, 복잡한 자리별 이질성이다. 이들은 먼저 나무의 위상 구조를 망가뜨린 뒤 간접적으로 연대를 바꾼다. 어느 분기점이 어떤 역사적 분리를 가리키는지가 바뀌면 보정의 배치와 가지 길이도 함께 바뀌고, 결과는 오래질 수도 젊어질 수도 있다.

그러므로 문헌에서 “분자가 화석보다 오래되었다”는 결과가 유난히 흔한 것은 적어도 네 기작이 그 방향으로 겹쳐 작동하기 때문이다. 수학적 필연이어서가 아니다. 어느 방향이 다수를 차지한다는 관찰을 거꾸로 돌려 원인이 하나뿐이라는 증거로 쓸 수는 없다.

8 잔여항은 독립성 안에 있다

마지막 절에서는 먼저 합치려는 노력을 보고, 그다음 합친 뒤 무엇이 남는지 보자.

“먼저 화석을 분기점의 경계로 바꾼 다음 화석 자체는 버리는” 일을 그만두려는 길이 있다. 총증거 연대추정은 현생 분류군의 분자 서열, 현생 및 화석 분류군의 형태 형질, 화석의 지질 연대를 한데 묶어 계통수를 추론한다. 화석은 나무 끝의 표본으로 분석에 들어간다. 그 위치는 형태 행렬이 정한다. 연구자가 “이 화석은 이 분기점을 보정한다”고 미리 지정하는 것이 아니다.

화석화 출생–사망 과정은 한 걸음 더 나아간다. “왜 이 자리에 화석이 나타나는가”도 모형화한다. 계통은 일정한 속도로 생겨나고 멸종하며, 동시에 일정한 속도로 화석 기록에 들어간다. 현생종과 화석종을 같은 대진화 과정에서 얻은 서로 다른 표본으로 본다. 한쪽은 진짜 나무이고 다른 쪽은 밖에서 보탠 보정일 뿐이라고 보지 않는다.

실질적인 문제 하나를 해결하기는 한다. 표준적인 분기점 연대추정에서는 “이 1억 년 전 화석이 있다는 것은 분기점이 1억 200만 년 전일 가능성이 가장 높다는 뜻인가, 1억 1,000만 년 전인가, 1억 4,000만 년 전인가”를 연구자가 지정한 분포에 맡겨야 한다. 이 길은 화석 표집 과정 자체로부터 분기점 시간의 분포를 만들어내려 한다.

대신 추가로 추정하거나 정해야 할 것도 많아진다. 종 형성률, 멸종률, 화석 표집률, 현생 분류군의 표집 비율이다. 기존의 분기점 보정 사전분포가 줄어드는 대신, 대진화와 표집에 관한 명시적 가정 한 벌이 들어온다. 여기서는 11편의 주의점이 유난히 직접적인 모습으로 나타난다. 모형이 보정할 수 있는 부재는 매개변수로 표현해놓은 부재뿐이다.

모형에 “100만 년당 평균 화석 표집률” 하나만 있다면 무작위 누락은 보정할 수 있다. 하지만 어느 대륙에 한 시대 내내 퇴적 노두가 없었다는 사실, 어떤 신체 구조는 애초에 보존되지 않는다는 사실, 어느 연구 전통은 미세한 표본을 전혀 채집하지 않는다는 사실, 어떤 계통의 화석은 전부 오분류되었다는 사실까지 저절로 알 수는 없다. 이들은 그 표집률에 이미 반영된 무작위 부재가 아니다. 알고리즘의 이름을 바꾼다고 사라지지 않는다.

이를 확인한 검증도 있다. 이런 방법은 “어느 화석들을 먹이로 넣어주느냐”에 민감하다. 화석의 계통적 소속을 통제하지 않은 채 화석 산출 기록의 일부를 임의로 뽑아 하위표본을 만들면, 알려진 화석 증거와 양립하지 않는 분류군 연대를 얻을 수 있다.

정답을 아는 대규모 모의실험 하나도 “언제나 참값을 되찾는다”는 결론을 내리지는 않았다. 이 방법은 대체로 현생 분류군의 관계를 잘 복원했지만, 화석의 올바른 계통적 위치를 복원하기는 더 어려웠다. 분기점 시간에 대해서는 화석의 수와 가장 오래된 화석의 연대가, 가지 사이 속도 이질성의 정도나 형태 형질의 수보다 더 큰 영향을 미치는 경우가 많았다.

형태 진화 모형은 새로 생기는 또 하나의 의존성이다. 총증거 분석에서는 보통 불연속 형태 형질의 모형을 정해야 한다. 형질 사이의 속도가 같은지, 형태 시계가 엄격한지, 구획을 나누고 방향성 있는 변화를 허용할지도 정해야 한다. 그런데 이빨과 두개골, 팔다리와 연조직의 형질을 반드시 서로 독립적이고 속도도 같고 전이 확률도 같은 “문자 자리”라고 볼 수는 없다.

합친다고 저절로 더 나은 세 번째 자가 생기지는 않는다. 두 자를 하나의 확률 체계에 놓는 일이다. 가정이 적절하면 추정을 개선하고 모형에 담긴 불확실성을 일관되게 전달할 수 있다. 그러나 모형에 없는 부재, 오동정, 보존 편향은 “통합”이라는 말로 사라지지 않는다. 이제 제목의 질문으로 돌아갈 수 있다. 경쟁인가, 분업인가.

정확한 답은 세 층이 동시에 성립한다는 것이다. 직접 관측의 층에서는 분업이다. 화석 쪽에서 직접 관측하는 것은 보존된 형태를 지닌 개체와 그 층서적 위치이고, 분자 방법으로 직접 관측하는 것은 현생 서열에 남은 치환 차이다.

숨은 분기점의 층에서는 경쟁이다. 둘 다 직접 볼 수 없는 같은 분기점에 대해 확률적 추정치를 내놓는 경우가 있고, 구간이 전혀 겹치지 않을 수 있다. 추론 체계의 층에서는 결합이다. 분자시계는 화석으로 보정하고, 결합 모형은 두 자료를 아예 같은 생성 과정 안에 넣는다. 이 가운데 어느 한 층만을 “진짜 관계”라고 말하면 나머지 두 층을 잃는다.

이 결합을 아주 선명하게 보여주는 실험이 있다. 가상 멸종 실험이다. 연구자들은 먼저 분자 자료로 현생의 여러 목을 높은 지지도를 가진 골격에 배치한다. 그런 다음 현생 분류군 하나에서 분자 형질과 연조직 형질을 일부러 전부 지운다. “화석으로 보존될 수 있는 경조직만 남은 멸종 분류군”으로 취급해 형태 계통수에 다시 넣는 것이다.

결과는 대부분의 목 수준 분류군이 크고 작은 위치 이동을 겪었다는 것이었다. 그대로인 것은 소수뿐이었다. 다시 말해 현대의 분자 계통수는 거꾸로 고생물학자에게 알려줄 수 있다. 손에 남은 것이 화석으로 보존될 수 있는 형태뿐이라면, 어느 계통적 위치가 수렴과 결측 자료에 가장 쉽게 휘둘리는가.

흔한 과장 하나도 여기서 고쳐두자. 두 쪽은 서로 왕래하지 않는 두 학파 국가가 아니다. 방법을 혁신하는 연구자들은 상당 부분 겹친다. 고생물학 연구자들 스스로 확률적 화석 표집 모형을 개발하고 있다. 결합 모형이 바로 이 합류의 산물이다.

진짜 비대칭은 다른 데 있다. 분자 계통수가 화석의 계통적 동정을 바꾸는 일은 자주 일어난다. 분자시계가 암석 자체의 수치 연대를 바꾸는 일은 거의 일어나지 않는다. 믿을 만하게 연대측정된 화산재층 하나가, 어떤 시계가 다른 분기점 연대를 내놓았다고 젊어지지는 않는다. 따라서 이번 글에서 잔여항 목록에 더할 열두 번째 유형은 이것이다. 잔여항은 독립성 안에 있다.

두 자는 서로 독립적인 검증처럼 보인다. 그런데 한 자의 입력단에 다른 자가 들어 있다. 그러므로 둘의 차이는 “둘 중 하나는 틀렸다”로 읽어서도 안 되고, “독립적인 두 증거의 교차 검증이 실패했다”로 읽어서도 안 된다.

이 유형은 14편의 “잔여항은 존재하지 않는 자 안에 있다”와 다르다. 거기에는 자가 없었다. 여기에는 자가 둘 다 있고, 둘 다 작동하며, 둘 다 숫자를 내놓는다. 잔여항이 있는 곳은 바로 “둘은 서로 독립적이다”라는 가정이다.

하나 더 가져갈 원칙이 있다. 이번 글의 구체적인 내용보다 오래 쓸 수 있는 원칙이다. 한 모형 안의 사후구간이 좁다는 사실은 모형 사이의 계통오차가 작다는 증거가 아니다. 그래스트리 사례에서는 더 좁은 구간을 내놓은 모형이 하필 참값을 포함하지 못한 그 모형이었다.

따라오는 결론은 이렇다. 연대를 보고할 때는 적어도 두 가지를 나누어 보고해야 한다. 모형 안의 구간과, 모형을 바꾸었을 때 벌어지는 폭이다. 뒤의 것을 감추면 독자가 보는 정밀도는 가짜다. 끝으로 통일된 답이 없는 질문을 다루자. 같은 분기점에서 두 자가 엄청나게 어긋날 때는 어떻게 해야 할까.

실제 연구 현장에는 자동으로 적용할 단 하나의 판결 규칙은 없다. 세 사례는 저마다 다른 길로 갔다. 태반류에서는 경쟁 모형을 나란히 놓는다. 폭발, 완화형 폭발, 경계 횡단, 긴 도화선, 짧은 도화선에 계속 명시적으로 이름을 붙이고 비교한다. 연구자는 각각 어떤 속도와 어떤 화석 위치, 얼마나 많은 유령 계통이나 좀비 계통을 요구하는지 따로 점검한다. 조류에서는 다른 보정으로 다시 분석하고 공개적으로 논쟁한다. 속씨식물에서는 민감도 범위를 보고하고 모형 의존성을 밝힌다.

아무도 6,600만 년과 1억 년의 평균을 내어 8,300만 년으로 만들지 않는다. 이 사실 자체가 이 시리즈에서 거듭 만나는 모양이다. 차이의 원인이 잡음이 아니라 모형일 때, 중간값을 취하는 것은 절충이 아니다. 서로 다른 두 가설을 합쳐 누구도 주장한 적 없는 가설 하나를 만드는 일이다.

보수적인 종설에서 구간들의 합집합을 취하는 것은 의미가 있다. 다만 그것을 새로운 95% 확률구간으로 해석할 수는 없다. 각 모형이 같은 확률공간에서 표본을 뽑은 것이 아니기 때문이다. 하나를 선택하는 것 역시 추가적인 모형 검증이 있을 때에만 정당화할 수 있다. 그래스트리 사례에서는 주변우도가 무작위 국소 시계를 강하게 지지했으므로 저자들이 더 오래된 결과들을 채택할 이유가 있었다. 오래된 연대가 본래 더 믿을 만해서가 아니다. 같은 자료가 속도 모형을 가려낼 추가 정보를 제공했기 때문이다.

그리고 “아직 결정되지 않았다”고 선언하는 것은 방법의 실패가 아니다. 계통오차가 양쪽의 내부 오차보다 클 때, 그것만이 정직한 상태다.

이 문장은 검증 가능한 형태로 쓸 수 있다. 먼저 묻는다. 양쪽 각각의 내부 오차는 얼마나 큰가. 다음으로 묻는다. 시계 모형을 바꾸고, 보정 묶음을 바꾸고, 사전분포의 모양을 바꾸면 중심값은 얼마나 이동하는가. 둘째 수치가 첫째 수치보다 뚜렷하게 크다면, 어느 쪽이 아무리 좁은 구간을 보고하든 지금 정직하게 말할 수 있는 것은 범위 하나뿐이다.

태반류의 뿌리가 바로 그런 모습이다. 분석 하나의 내부 구간 폭은 천수백만 년에 불과할 수 있다. 보정과 속도의 불확실성을 함께 풀어놓으면 범위는 7,000만~1억 3,000만 년 전까지 벌어진다. 두 폭은 몇 배나 차이 난다. 그런데 보통 인용되는 것은 앞의 수치다.

이번 글에는 층을 바꾸어 내릴 수 있는 판정이 없다. 여기서 제시하는 것은 다른 것이다. 구축된 두 틀이 서로의 입력이 된 뒤에도 여전히 겹치지 않는 그 부분이다. 어느 한 자 안에 있지 않다. 두 자 사이에 있다. 한 번도 측정된 적 없으면서 줄곧 전제로 여겨져온 그 가정 안에 있다.

두 자는 앞으로도 함께 써야 한다. 깔끔한 연대 하나를 만나면 잠깐 멈춰, 자의 양 끝을 무엇이 붙들고 있는지 살펴보자.