1. 이 물음을 다른 물음으로 바꾸겠다
1950년 10월, 한 계간지의 첫 글은 앨런 튜링의 《계산 기계와 지능》이었다. 28쪽을 차지했다.
심리학과 철학을 다루는 계간지였고 편집장은 철학자 길버트 라일이었다. 그 호의 다른 글은 철학자들이 썼다. 수학자 한 사람이 철학 학술지에 원고를 낸 것이다.
그는 당시 맨체스터 대학 수학과의 선임 강사였다. 전해 가을과 겨울 맨체스터에서 마음과 기계에 관한 토론이 몇 차례 열렸다. 수학자 뉴먼과 화학자 출신 폴라니, 신경외과의 제퍼슨과 동물학자 한 사람이 참여했다.
글은 일곱 절로 나뉘었다. 초록도 삽화도 글 끝의 참고문헌 목록도 없었다. 인용한 것은 본문에 적었다. 괴델, 처치, 클레이니, 로서, 자신의 1937년 결과, 제퍼슨의 1949년 강연, 해석기관에 관해 러브레이스가 쓴 주석, 하트리의 1949년 책이 나왔다. 역사 이야기에는 배비지도 나왔다. 수학자가 철학 학술지에서 인용한 이름의 절반은 논리학자들이었고, 다른 쪽에는 신경외과의와 19세기 백작부인이 있었다.
첫 문장이 꺼낸 물음은 이렇다. 기계는 생각할 수 있는가.
튜링은 보통 방식으로 답하려면 우선 ‘기계’와 ‘생각’이라는 두 말을 정의해야 한다고 했다. 뜻을 일상적인 말의 쓰임에서 찾으려 한다면, 물음의 뜻도 답도 여론 조사 같은 통계 조사로 결정하게 된다. 그는 그것이 터무니없다고 했다.
정의하는 일을 반대한 게 아니다. 정의의 근거를 말의 쓰임에 관한 통계에 두는 것을 반대했다. 말의 의미를 머릿수로 정하면, 기계가 생각할 수 있느냐는 답도 지금 몇 명이 그렇게 말할 뜻이 있느냐에 달린다.
그래서 그는 이렇게 썼다. 이 물음을 다른 물음으로 바꾸겠다.
원래 물음이 가짜라거나, 물어선 안 된다거나, 새 물음과 같은 것이라고 하지 않았다. 새 물음은 원래 물음과 밀접하게 관련되고, 비교적 모호하지 않은 말로 되어 있다고 했다.
밀접하게 관련된다고 같은 것은 아니다. 비교적 모호하지 않다고 전혀 모호하지 않은 것도 아니다. 두 한정 모두 그가 직접 붙였다. 그 뒤 70년 넘게 두 말이 함께 인용되는 일은 드물었다.
나중에 널리 알려진 ‘의논할 가치가 없을 만큼 뜻이 없다’는 말은 여기에 없다. 놀이를 다 설명하고 기계를 형식적으로 정의한 뒤, 제6절 머리에 나온다. 첫 단락의 표현은 훨씬 조심스럽다. 제6절의 문장을 첫 단락으로 옮겨 읽으면 글 전체의 어조가 달라진다. 어떻게 물을지 바꿔 보겠다는 사람에서, 원래 물음은 의논할 자격이 없다고 말하는 사람이 된다.
2. 놀이의 원래 모습
제1절의 놀이는 원래 세 사람이 하는 것이었다.
갑은 남자다. 을은 여자다. 병은 질문하는 사람으로, 남자든 여자든 상관없다.
이 구성에서 가려내야 하는 것은 사람과 기계가 아니라 남자와 여자다. 노는 세 사람이 모두 사람이다. 이 판에는 기계가 아예 없다. 기계는 다음 단락에 들어오는데, 한 사람의 자리를 대신해 그가 맡았던 일을 넘겨받는다.
병은 다른 두 사람과 떨어진 방에 있다. 보이지 않는 두 사람을 표지로만 알아본다. 우선 X와 Y라고 하자. 놀이가 끝날 때 어느 표지가 남자이고 어느 표지가 여자인지 판단하는 것이 병의 일이다.
병은 양쪽에 질문할 수 있다. 튜링이 든 첫 예는 이렇다. X에게 머리카락이 얼마나 긴지 말해 달라고 하자.
남자인 갑에게 주어진 역할은 헷갈리게 하는 것이다. 병이 잘못 고르게 해야 한다. 예시에서 갑은 자기 머리 모양을 여성의 머리처럼 묘사한다. 이 판의 핵심 동작은 흉내 내기다. 한 사람이 자기를 다른 부류인 척하고, 다른 이가 사실대로 말하려 애쓰면, 제삼자가 그사이에서 가린다.
여자인 을은 반대 역할을 한다. 병을 돕는다. 아마 가장 좋은 방법은 사실대로 말하는 거라고 튜링은 했다. 자기가 바로 그 여자라고 말하는 일도 포함된다. 하지만 갑도 같은 말을 할 수 있다고 곧바로 짚었다.
목소리가 정체를 드러내지 않도록 답을 써야 하고, 타자를 치면 더 좋다. 이상적으로는 두 방을 텔레타이프로 잇는다. 방 두 개와 전신선 하나. 얼굴은 보이지 않고 목소리는 들리지 않는다. 남는 것은 타자로 친 글자뿐이다.
그러고 나서 한 걸음이 더 있다.
기계를 놓는 곳은 갑의 자리다.
기계는 원래 질문하는 사람을 잘못 이끌어야 했던 남자의 역할을 맡는다. 을의 자리도 병의 자리도 아니다. 네 번째 참가자로 들어가는 것도 아니다.
나중에 널리 알려진 판은 이렇다. 한쪽에는 사람, 다른 쪽에는 기계가 있고, 판정자가 사람 쪽을 찾아낸다. 원래 판에서 기계는 이미 누군가 연기하고 있던 역할을 이어받는다. 그 남자와 같은 일을 한다. 병이 잘못 고르게 한다.
바꿔 넣은 다음 물을 수 있는 것은 비교다. 기계가 들어간 판에서도 병이 틀리는 횟수가 한 남자와 한 여자가 들어갔을 때와 같을까. 진실이 기준이 아니라, 다른 흉내 내기에서 나온 성적이 기준이다. 기계가 겨루는 상대는 사람이 아니라, 여자라고 가장하는 남자다.
튜링은 이 물음들이 기계가 생각할 수 있는가라는 원래 물음을 대신한다고 했다.
제1절은 두 판에서 각각 얼마나 틀리는지 묻는다. 판정자가 사람과 컴퓨터를 구별할 수 있는가로 바로 줄일 수 없다. 그렇다고 첫 장면을 글 전체에 고정해 두지는 않았다. 제5절에서 튜링은 을의 자리에 남자가 앉을 수도 있다고 했다. 훗날 통용되는 방식에서는 제1절의 남녀 대조가 빠졌지만, 원문의 모든 물음을 아무 근거 없이 바꾼 것도 아니다.
제1절의 규칙에는 시간도 백분율도 없다. 물음 수와 주제, 질문하는 사람의 자격도 정하지 않았다. 기계가 성적을 어느 정도 올리면 생각할 수 있다고 치자는 말도 없다.
제1절이 내놓은 것은 배치와 방법이지 시험 문제 하나가 아니다.
튜링 테스트라는 고유 이름은 논문에 없다. 그가 쓴 말은 모방 게임, 판정 기준, 실험, 시험이다. 말마다 무게가 다르지만 넷을 다 썼다. 기준은 선 하나이고, 실험은 한 차례 해 보는 일이며, 시험은 치르는 일이고, 게임은 노는 일이다. 넷 가운데 어느 하나만 옳다고 정하지 않았다. 고유 이름은 뒤에 남이 붙였다.
3. 두 가지 예측
제6절 첫머리에서는 자신이 믿는 일과 이미 증명된 사실을 갈라 놓았다. 아래에 오는 것은 추측이라고 밝혔다.
그리고 70년 넘게 인용된 숫자가 나온다.
요지는 약 50년이 지나면 컴퓨터에 10억 규모의 기억 용량을 마련하고 프로그램을 짤 수 있으리라는 것이다. 5분 동안 물은 뒤 보통 수준의 질문자가 올바르게 판정할 확률이 70퍼센트를 넘지 않게 하는 프로그램이다.
50년, 5분, 70퍼센트. 세 숫자는 여기 있고 제1절의 규칙에는 없다. 훗날 이를 시험으로 치른 이들은 대개 이 세 숫자를 썼다. 원문에서는 제도의 조항이 아니라 추측의 매개변수다.
그리고 바로 다음 문장은 또 다른 예측이다.
이 세기가 끝날 무렵에는 보통 사람들의 말 쓰임과 교육받은 사람들의 견해가 달라져, ‘기계가 생각한다’고 해도 대개 반박을 받지 않게 되리라고 했다.
두 문장은 붙어 있지만 같은 일이 아니다. 첫 문장은 놀이에서 나올 결과에 관한 경험적 예측으로, 기억 용량과 시간, 확률이 조건이다. 둘째는 사람들이 말을 쓰는 방식과 교육받은 이들의 견해에 관한 예측이다. 앞의 것은 기계와 초시계로 시험할 수 있다. 뒤의 것은 사람들이 어떻게 말하는지 들어 보아야 한다.
한 사람이 같은 쪽에서 두 번 앞날을 내다봤다. 한 번은 기계, 한 번은 말이다. 사람의 이해와 말에 따라 경계가 옮겨 다닌다는, 앞 네 편에서 쫓아온 실마리가 여기서는 당사자가 남긴 예측이 됐다. 기계가 어느 선을 넘어가리라 하지 않았다. 사람들이 말하는 방식이 바뀌리라고 했다.
1편에서 전해지는 도중 말 하나가 붙었다. 2편에서는 범위를 한정한 기술적 진술에서 한정이 떨어졌다. 4편에서는 서랍 속 원고에 경계가 보는 사람 쪽에 있다고 적혔다. 여기서는 당사자가 앞으로 일어날 일로 썼다. 예측 대상은 바로 낱말의 쓰임이다.
그 문장이 첫 문장을 지우지는 않았다. 제7절에서 튜링은 제6절의 견해를 끝내 만족스럽게 뒷받침하려면 세기말을 기다렸다가 실험을 실제로 해 보는 것이라고 했다. 말에 관한 예측이 실험에 관한 예측을 삼키지 않았다. 둘 다 남았다.
제6절 첫머리에 그는 가장 널리 전해진 말도 썼다. 원래 물음은 글자 그대로라면 의논할 가치가 없을 만큼 뜻이 없다고 했다.
같은 곳에 훨씬 덜 전해진 문장도 있다. 물음을 바꾸는 것이 적절한지를 두고 견해가 갈릴 수 있으므로, 원래 형태를 완전히 버릴 수는 없다.
이 편에서 줄곧 보는 동작이 이것이다.
닿을 수도 잴 수도 없는 물음을 닿고 잴 수 있는 대리 물음으로 바꾼다. 원래 물음에 답한 것도, 틀렸다고 증명한 것도, 존재하지 않는다고 선언한 것도 아니다. 곁으로 옮겼다. 옮긴 사람은 이 이동을 의심할 수 있으므로 처음 물음을 버리면 안 된다고 직접 썼다.
식민화는 여기서 일어난다. 누군가 남의 땅을 빼앗은 일이 아니다. 잴 수 없는 땅 옆에 잴 수 있는 땅을 그었고, 논쟁이 대부분 뒤의 땅으로 옮겨 갔다. 앞의 땅은 여전히 있지만 그쪽을 보는 사람은 줄었다.
앞의 몇 편과 다른 걸음이다. 앞에서는 구축된 틀이 무언가를 해내자 경계가 물러났다. 이번에는 틀이 아무것도 해내지 않았다. 잴 대상을 바꾸었을 뿐이다. 1950년에 그 놀이를 할 수 있는 기계는 한 대도 없었다. 바뀐 것은 물음이지 기계의 능력이 아니다. 앞 네 편에서는 양보가 일어날 때마다 뒤에 해낸 일이 하나씩 있었다. 이번에는 없다. 옮겨 놓은 것은 자였다.
제6절 절반이 넘는 분량은 기계가 생각할 수 있는지를 두고 나온 반론에 직접 답한다. 그 물음을 없앤 것이 아니라 12쪽에 걸쳐 다퉜다. 의논할 가치가 없다고 한 사람이 같은 물음을 두고 아홉 가지 의견에 12쪽으로 답했다. 두 일을 함께 놓으면, 중요하지 않다고 내린 판단이 아님을 알 수 있다. 물음의 문자 그대로인 형태에는 바로 답할 수 없다고 한 것이다.
4. 아홉 가지
제6절에서 그는 아홉 가지 반론을 늘어놓고 하나씩 답했다.
첫째는 신학적 반론이다. 사고는 신이 사람에게 준 불멸의 영혼이 하는 일이다. 동물과 기계에는 그런 영혼이 없으니 생각할 수 없다.
튜링은 유물론을 논증하지 않고 상대가 마련한 틀 안에서 답했다. 그렇게 신의 능력을 제한하는 것부터 문제가 있다. 생각하는 기계를 만드는 일은 출산에 견줄 수 있고, 그 안에서 사람은 신의 창조력과 겨루는 상대가 아니라 그것이 쓰는 도구라는 것이다. 자신도 이 가운데 일부는 사변적인 신학이라고 했다. 이 대목에서 상대보다 강경해지지 않았다. 상대가 신학으로 말하니 함께 신학으로 말했다. 아홉 가지 반론에 대처하는 방법은 각각 다르지만, 매번 상대가 마련한 땅에 올라섰다. 전장을 바꾸지 않고 상대가 그은 자리에서 답하는 논법이다. 글 전체의 주장은 바로 전장을 바꾸자는 것이다. 두 가지가 한 글 안에 함께 있다. 다른 모양으로 묻자고 하면서도, 옛 물음의 자리에서 하나씩 맞섰다.
둘째는 머리를 모래에 묻는 반론이다. 기계가 생각할 수 있을 때 일어날 일이 너무 무서우니 못 하기를 바라며, 못 하리라 믿는다.
그는 이를 감정적인 입장으로 보았다. 인간의 우월함을 주로 지성에 걸어 둔 사람에게는 특히 이해할 만하다고 했다. 실질적인 근거가 부족해 논리로 반박할 필요는 없다고 했다. 이해는 하지만 물러서지 않았다. 아홉 가지 중 논리로 반박할 가치가 없다고 직접 말한 것은 이것뿐이다.
셋째는 수학적 반론이다.
1931년에서 1937년 사이의 결과들, 자신의 1936년 논문도 인용한다. 고정한 규칙을 한 단계씩 밟는 기계라면 아무리 크게 만들어도 답하지 못하는 문제가 있기 마련이다. 공학적으로 능력이 모자란 것이 아니라 증명된 일이다.
그는 여기서 한 걸음 분명히 양보했다. 이런 부류에 속하는 구체적인 기계 한 대에는 저마다 한계가 있다. 그 기계가 답하지 못할 문제로 막을 수 있다. 3편에 나온 일이다. 사람이 그은 경계가 아니라 틀이 자기 규칙에서 이끌어 낸 경계다.
그의 반박은 비교에 있었다. 사람의 지성에는 그와 같은 한계가 없다고 증명한 사람이 없다. 사람도 틀린다.
아홉 가지 중 그가 대충 지나갈 수 없다고 직접 말한 대목이다. 양보한 것은 구체적인 기계에 수학적 한계가 있다는 점이다. 그 까닭에 사람이 겨룰 수 없는 능력을 갖게 된다는 말은 양보하지 않았다. 그 사이에는 누구도 증명하지 못한 전제가 있다.
넷째는 의식에 근거한 논증이다.
튜링은 여기서 1949년 6월의 강연을 인용했다. 실제로 느낀 생각과 감정으로 소네트를 쓰거나 협주곡을 작곡해야 한다는 부분에서, 자기가 만들었다는 사실을 알아야 한다는 부분까지, 또 성공의 기쁨과 슬픔, 아첨받는 것, 실수, 성, 분노와 낙담의 목록까지 인용했다.
4편에서 본 세 겹의 조건을 하나도 빼지 않았다.
그의 첫 답은 타자의 마음 문제였다. 기계의 주관적 감각에 직접 들어가야만 인정하겠다고 고집하면, 그 기준을 남에게도 일관되게 적용할 때 나만 의식이 있다는 것만 알 수 있다는 입장으로 미끄러진다.
두 번째는 상상 속 구술시험이었다. 기계 한 대가 시에 관한 문답을 하게 한다. 다른 사람이 이런 말을 했다면 증거로 받아들이지 않았을까 하고 묻는다.
의식이 어려운 문제임을 부정하지 않았다. 의식에는 수수께끼가 있다고 명확히 말했다. 그 수수께끼를 해결해야만 기계에 관한 물음에 답할 수 있는 것은 아니라고 했을 뿐이다. 의식 문제를 해결하지 않고 뒤로 옮겨 두었다. 글 전체의 방법과 같은 방법이다.
다섯째는 갖추지 못한 여러 능력에 근거한 논증이다.
이 아래에는 목록이 있다. 기계는 결코 친절하거나 재치 있거나 아름답거나 다정할 수 없고, 자발성이나 유머를 지닐 수 없으며, 옳고 그름을 가리거나 실수하거나 사랑에 빠지거나 딸기에 크림을 얹어 먹으며 즐길 수 없다고들 한다. 남이 자신을 사랑하게 하거나, 경험에서 배우거나, 말을 알맞게 쓰거나, 자신의 사고를 사고의 대상으로 삼거나, 사람만큼 다양한 행동을 하거나, 정말 새로운 것을 해낼 수도 없다고 한다. 열여섯 가지, 튜링이 1950년 무렵에 모은, 사람들이 기계는 영원히 못 한다고 말한 일들이다.
그런 주장은 대개 증거가 없고, 말하는 사람이 아는 극히 제한된 기계 몇 대에서 나온 경우가 많다고 했다. 귀납에 관한 말이다. 본 기계가 못 했다고 기계가 못 하는 것은 아니다. 1950년에 볼 수 있는 그런 기계는 온 세계를 통틀어 십여 대를 넘지 않았고 대개 연구실에 있었다.
딸기와 크림에서 얻는 즐거움, 사랑에 빠지는 일, 그와 관련된 감각은 의식 반론을 다른 모습으로 꾸민 것이지 따로 증명된 한계가 아니라고 보았다.
실수에 관해서는 기능상의 오류와 결론상의 오류를 갈랐다. 기계에 일부러 오도하는 답을 내놓도록 할 수 있고, 설계대로 정상 작동하는 과정에서 잘못된 결론을 내게 할 수도 있다.
자기를 대상으로 삼는 것에 관해서는 자신의 작동과 프로그램을 소재로 다룰 수 있다고 했다. 다양한 행동에 관해서는 유한한 장치가 반드시 단조로운 반복을 낳는다고 인정하지 않았다. 기억 용량이 충분히 크면 넓은 범위가 가능하다고 했다.
일곱째는 신경계의 연속성에서 오는 논증이다. 신경계는 이산 상태 기계가 아니다. 미세한 연속 변화가 중요할 수 있으므로 물리적 조직이 디지털 계산기와 다르다.
그는 물리적 차이를 받아들이면서도 놀이에서 보는 것은 출력이라고 했다. 미분 해석기와 같은 연속적 장치를 디지털 기계가 그만큼 가깝게 근사할 수 있어서, 질문하는 사람이 답만 보고 안쪽의 물리 장치를 알아낼 수 없다는 것이다.
양보한 것은 신경계가 정말 이산 상태일 필요는 없다는 것이다. 그 차이가 이 놀이에서 관찰해 구별할 방법을 준다는 것은 받아들이지 않았다.
이 단계는 글 전체의 방법을 구체적인 반론 하나에 적용한 것이다. 문 바깥에서 볼 수 없는 차이라면 이 놀이에서는 차이가 아니다. 그 방법의 힘이자 값이다.
여덟째는 행동의 비형식성에서 오는 논증이다. 유한한 상황과 행동의 대응 규칙으로 사람의 행동을 망라할 수 없으므로 규칙을 따르는 기계는 재현할 수 없다.
튜링은 더 좁은 부분을 명확히 양보했다. 경우마다 무엇을 해야 할지 알려 줄 간단한 행동 수칙 묶음은 실제로 없다.
그러고 나서 수칙과 행동의 법칙을 갈랐다. 완전하고 명시적인 행동 법칙을 찾지 못했다고 그런 법칙이 없다고 증명한 것은 아니다. 하나는 사람이 따라 행동하는 수칙이고, 다른 하나는 사람의 행동을 설명하는 법칙이다. 앞의 것은 없다. 뒤의 것은 없으리라는 법이 없다.
아홉 가지 가운데 가장 많이 양보한 것은 셋째, 일곱째, 여덟째다. 셋 모두 같은 종류의 것을 양보했다. 구체적인 물리적 또는 형식적 한계다. 사람이 가지고 기계는 반드시 가지지 못하는 것이 있다는 양보는 하나도 없다.
양보한 것은 모두 손을 들어 가리킬 수 있는 구체적인 한계다. 양보하지 않은 것은 모두 그 한계에서 사람의 능력으로 건너가는 한 걸음이다.
5. 여섯째 반론
여섯째의 이름은 러브레이스 부인의 반론이다.
배비지의 해석기관을 가장 자세히 알려 주는 것은 러브레이스 부인의 주석이라고 튜링은 했다. 연도를 1842년으로 적었다. 그 글이 발표된 때는 1843년이다.
그는 그 안에서 명제 둘을 가져왔다. 해석기관이 무언가를 처음 만들어 낸다고 내세울 근거는 없다. 할 수 있는 것은 사람이 어떻게 명령해야 하는지 아는 일이다.
1편에서 본 마지막 주석의 두 문장이다. 107년 뒤 철학 계간지에 답해야 할 반론의 표제 구절로 다시 인쇄됐다.
원문의 첫 문장에는 힘을 실어 주는 말이 하나 있는데, 튜링의 인용에는 빠져 있다. 러브레이스의 단락은 두 문장 뒤로 이어졌다. 기계가 과학을 간접적으로 바꿀 수 있다는 말, 연산이 수에만 한정될 필요는 없다는 말도 인용 바깥에 남았다.
그다음에는 하트리의 1949년 책을 인용했다. 하트리는 조건반사와 비슷한 학습 장치를 갖춘 기계가 스스로 생각한다는 물음을 복잡하게 만들 가능성을 생각해 보았다. 동시에 당시에 이미 만들었거나 계획에 들어간 기계에는 그런 성질이 없다고 판단했다.
튜링은 당시에 쓸 수 있던 증거에 관한 하트리의 판단에 동의한다고 했다. 더 강한 결론, 그런 성질이 원리상 불가능하다는 결론에는 동의하지 않았다.
1편에서 봤듯 하트리는 이 문장을 인용할 때 여지를 남겼다. 튜링은 그 여지까지 옮겨 적으며 전적으로 동의한다고 했다. 세 사람이 들인 분별이 여기서 한 줄로 이어진다. 러브레이스는 그때 존재하지 않던 기계를 말했고, 하트리는 1949년에 만들어졌거나 계획 중이던 기계를 말했고, 튜링은 같은 기계들을 말했다. 셋 다 그때를 두고 말했으며 영원을 두고 말한 사람은 없었다.
그다음에 튜링은 반론을 더 강한 두 가지 모양으로 바꿨다.
하나는 기계가 결코 정말로 새로운 것을 해낼 수 없다는 것이다.
다른 하나는 기계가 결코 사람을 놀라게 할 수 없다는 것이다.
뒤의 주장에 그는 한 문장으로 답했다. “기계는 나를 아주 자주 놀라게 한다.”
이 문장은 논쟁의 자리를 옮긴다. 처음에는 기계에 무슨 능력이 있느냐가 쟁점이었다. 옮겨 놓고 나면 사람이 자신이 세운 규칙의 귀결을 남김없이 계산했느냐가 쟁점이다.
사람은 자기가 준 규칙과 자료에서 어떤 결과가 따라 나올지 흔히 계산해 내지 못한다고 했다. 규칙은 자기가 정했으나 결과를 다 계산하지는 않았다.
제7절이 거의 끝날 때 자기가 쓴 문장에 각주 하나를 달았다. “기계는 우리가 어떻게 명령해야 하는지 아는 일만 할 수 있다”는 문장이었다. 각주에서 앞의 러브레이스 문장으로 독자를 돌려보내며 한 가지를 적었다. ‘만’은 그녀의 원문에 없는 말이다.
이 연재에서 문헌으로 되짚어 한 바퀴를 완전히 도는 첫 자리다. 1편의 그 문장이 1843년에 쓰이고 107년 뒤 인용됐다. 인용한 사람이 같은 글 뒤쪽에서 직접 지적했다. 전해지는 동안 말 하나가 더 붙었다.
그리고 바로 그 글에서 튜링 자신은 주석의 연도를 한 해 틀리게 인쇄했다.
한 사람이 문헌의 잘못된 전승을 고치는 동안, 자기 역시 그 문헌의 한 곳을 다르게 기억했다. 두 일이 28쪽짜리 같은 글에 인쇄됐다. 아홉 쪽을 사이에 두고 있다.
6. 텔레파시가 통하지 않는 방
아홉째는 초감각적 지각에 근거한 논증이다.
뒤에 전해지는 이야기에서 이 절은 자주 잘려 나간다. 원문에서 두 쪽을 차지한다. 아홉 가지 반론 중 마지막이며 그가 가장 무겁게 평가한 것 가운데 하나다.
그가 꼽은 현상은 네 가지다. 텔레파시, 투시, 예지, 염력이다.
먼저 자기 논증에는 다루기 난감한 주제라고 했다. 자신은 그런 것이 성립하지 않았으면 좋겠다고 했다. 이어 바로 반대 방향의 말을 썼다. 이 현상들 중 적어도 텔레파시를 지지하는 통계적 증거는 그때 그가 보기에 압도적이었다. 헛소리로 치부하지 않았다. 바람과 판단을 나눠 쓰고, 바람부터 썼다.
이 반론에는 아홉 가운데 가장 무거운 평가에 드는 말을 주었다. 강력한 반론이라고 했다. 이유는 구체적이다. 이런 현상이 있다고 허용하면 질문자와 응답자 사이에서 정보가 서로 차단된다는 표준 가정이 무너진다.
기계가 생각할 수 있느냐를 공격하는 반론이 아니다. 방을 공격한다. 문이 정말 양쪽을 가르느냐. 방법 전체가 격리 위에 서 있는데, 그 격리에 틈이 있을 수 있다는 것이다. 자에 가장 치명적인 결함은 눈금이 아니라 정말로 잴 것을 재고 있느냐에 있다. 이 절의 이야기다. 말을 한 사람은 자를 만든 사람이다.
그 가정에 따라 계산 예를 들었다. 질문자가 카드를 들어 무늬를 묻는다. 텔레파시가 있는 사람은 가령 400번 가운데 130번을 맞히고, 아무렇게나 찍는 기계는 가령 한 차례 104번을 맞힐 수 있다. 이 차이면 질문자가 성적만 보고 사람을 가릴 수 있다. 그렇다면 놀이가 구별하는 것은 생각을 하느냐가 아니다. 어떤 다른 일을 할 줄 아느냐다.
튜링은 자기 예를 한 겹 더 복잡하게 했다. 디지털 컴퓨터의 난수 장치가 질문자의 염력에 영향을 받는다면 무작위 기준선조차 흔들린다. 투시로는 정상적인 문답을 거치지 않고 정체를 알아낼 수도 있다.
보완책은 참가자를 서로 격리하는 것이다. 가령 텔레파시가 통하지 않는 방을 쓰는 것이다.
텔레파시가 통하지 않는 방 하나. 이 문장이 1950년 철학 계간지 본문에 인쇄됐다.
이 절의 자리는 이렇다. 논문 전체가 한 일은 잴 수 없는 물음을 잴 수 있는 놀이로 바꾸는 것이다. 이 절은 이렇게 말한다. 내가 잴 수 있게 만든 이 놀이에는 성립하지 않을 수 있는 전제가 하나 있다. 그는 그 전제를 지우지 않았다. 놀이에 방을 하나 더했다.
무언가를 재는 장치가 정확히 재지 못하는 곳에 부닥치면 세 가지가 가능하다. 정의를 바꿔 그곳을 지우거나, 입에 올리지 않거나, 장치를 고친다. 그는 셋째를 골랐다.
그래서 이 절은 글 전체가 스스로를 설명하는 자리다. 자기 방법이 무엇 위에 서 있는지 알았고, 그것이 단단하지 않을 수 있다는 것도 알았다.
훗날 이 방법을 전하는 데 이 절은 대개 들어 있지 않다.
7. 어린이 기계
제7절은 학습 기계를 다룬다.
먼저 어른의 마음이 형성되는 길을 셋으로 가른다. 태어날 때의 초기 상태, 교육, 교육이라고 세지 않는 다른 경험이다. 셋 중 둘째만 남이 손댈 수 있다. 튜링은 둘째를 맡고 첫째는 프로그램을 짜는 사람에게, 셋째는 운과 환경에 맡기려 했다.
그리고 보통의 프로그래밍 문제를 뒤집자고 했다. 어른의 마음을 직접 모의하지 않고 어린이의 마음에 해당하는 것을 만들어 교육을 받게 하자는 것이다.
막 산 공책에 견주었다. 어린이는 내장된 장치가 적고 빈 쪽이 많다고 가정한다. 단, 실제 아이의 뇌는 그렇게 간단할 가능성이 낮다고 곧 밝혔다. 비유는 비유였다. 비유가 닿는 데까지를 자기가 먼저 적었다.
그는 일을 서로 연결된 두 가지 실험으로 나눴다. 어린이 프로그램을 만드는 일과 교육 과정을 짜는 일이다. 첫 번에 맞게 만들지 못하고 여러 차례 시험하리라고 내다봤다. 1948년 내부 원고에서 간 길과 같다. 완성품을 다 설계하지 않는다. 바뀔 수 있는 것을 먼저 만들고 가르친다. 2년이 지나도 그 원고는 공개되지 않은 채였다. 안에 있던 생각은 다른 표현으로 이번 글에 실렸다.
어린이 기계를 차례로 바꾸는 일을 생물 진화와 비교했다. 구조는 유전 물질, 바꾸는 일은 돌연변이, 실험하는 사람의 판단은 자연선택에 대응한다.
이 대응에서 자연선택 자리에 서 있는 것은 실험자다. 어느 변화가 좋다고 칠지 정하는 일을 넘기지 않았다. 진화에서는 정하는 사람이 없지만 이 계획에는 있다. 그의 구상에서 교육은 줄곧 누군가 가르치는 일이었다.
어린이가 쓸 수 있는 경로를 모두 되살려야 한다고 하지 않았다. 양방향 소통이 충분하면 원리상 꽤 많은 교육이 가능하다. 심각한 감각 제약이 지성의 발달을 꼭 막지는 않는다고 헬렌 켈러를 예로 들었다. 그러니 바란 것은 기계에 눈과 귀를 돋게 하는 것이 아니었다. 쓸 만한 양방향 통로였다.
보상과 벌에 대해서는 이렇게 생각했다. 벌 바로 앞의 사건이나 양상이 되풀이될 가능성을 낮추고, 보상 바로 앞의 것은 더 높이는 교육 방법이다.
그 모형은 기계가 즐거움이나 고통을 실제로 느낀다고 전제할 필요가 없다고 했다. 보상과 벌을 앞으로의 행동을 바꾸는 제어 신호로 만들 수 있다.
이 편에서 두 번째로 바꾸는 자리다. 이번에는 훨씬 작다. 감각이 담긴 두 말을 감각 없는 신호 두 종류로 바꾼다. 그렇게 해도 교육 구상은 돌아간다. 1936년에 마음 상태 대신 쪽지를 놓은 것과 같은 방법이다.
이런 방법을 직접 해 보았다고 했다. 하지만 자기 방식이 너무 이례적이어서 완전히 성공하지는 못했다고 한다. 글에 몇 군데 나오지 않는 일인칭 실험 기록인데, 이루지 못했다는 기록이다.
보상과 벌만 있는 것은 아니다. 감정에 기대지 않는 통로를 더 두어 명령과 명제, 기호 언어를 전하게 했다. 보상과 벌로만은 가르칠 수 없다. 말을 걸 수 있어야 한다.
무작위에 관해서는 학습 기계에 무작위 요소가 있는 것이 좋다고 했다. 없으면 좋은 가능성에 닿기까지 좋지 않은 가능성을 하나씩 체계적으로 훑어야 한다. 이 요소를 진화의 돌연변이에 견주었다. 무작위는 대안을 내놓고 선택이나 평가는 유용한 것을 남긴다.
마지막 단락에서 튜링은 기계가 마침내 순전히 지적 활동인 여러 분야에서 사람과 겨루리라고 보았다. 어디서 시작할지에 대해서는 두 길을 냈다. 체스처럼 추상적인 활동에서 시작할 수 있다. 또는 손에 넣을 수 있는 가장 좋은 감각기관을 기계에 달고 어린아이를 가르치듯 영어로 말하고 쓰도록 가르칠 수 있다. 두 길 가운데 하나를 택하지 않았다.
그 두 길 모두 나중에 누군가 걸었다. 한 길은 체스 같은 판놀이와 형식적 게임으로, 한 길은 언어로 갔다. 이후 수십 년 동안 분야의 무게중심은 두 길을 몇 차례 오갔다.
논문의 마지막 문장은 대략 이런 뜻이다. “우리는 앞을 멀리까지 내다볼 수 없다. 하지만 눈에 들어오는 그 거리만 해도 이미 할 일이 많다.”
8. 그 뒤
첫 공개 응답은 1951년 7월 같은 학술지에 실린 짧은 글이다. 레너드 핀스키가 쓴 《기계는 기계가 생각한다고 생각하는가》다.
새 이론을 세우는 글이 아니라 풍자였다. 튜링이 말한 아주 복잡한 전자 또는 디지털 컴퓨터를 한 대 가져와 같은 학술지를 한 부 구독시킨다. 기계가 생각할 수 있느냐는 논쟁에 무엇이라 반응하는지 거꾸로 실험해 보자는 것이다. 튜링의 제안을 실제로 해야 할 결정적 실험으로 읽고, 흉내를 내어 증거로서의 힘을 찔렀다.
첫 공개 응답은 농담이었다. 1951년 철학 계간지의 독자에게 제안은 우선 농담으로 삼을 만한 일이었다.
1952년 4월, 다른 철학 학술지에 철학자 울프 메이스의 〈기계는 생각할 수 있는가〉가 나왔다. 그때 그도 튜링과 같은 도시인 맨체스터에 있었다.
발표 뒤 첫 10년 동안 이름을 댈 수 있는 응답은 이 몇 가지다. 농담 한 편, 같은 도시에서 나온 글 한 편, 드문드문 오간 몇 차례의 말. 뒤에 시작점이라 불린 것이 처음 10년 동안 일으킨 물결은 그 정도였다.
1951년 5월 15일 튜링은 라디오 제3 프로그램에서 〈디지털 컴퓨터는 생각할 수 있는가〉라는 강연을 했다. 1950년 글에서보다 디지털 컴퓨터를 뇌라고 부를 수 있는 사정을 더 직접적으로 생각했다. 그해 다른 강연에서는 훨씬 긴 시간을 놓고 말했다. 언젠가 기계의 지능이 사람을 넘는다면 몇백만 년 안이 아니라 앞으로 1천 년 안에 일어날 일이라고 했다.
1952년 1월 같은 프로그램에서 네 사람이 〈자동 계산 기계가 생각한다고 말할 수 있는가〉라는 제목으로 토론했다. 뉴먼, 튜링, 제퍼슨, 브레이스웨이트가 참여했다.
그 방송에는 두 대목이 있다. 하나는 튜링이 사고를 정의하고 싶지 않다고 한 말이다. 자신이 제안한 비교를 하려면 정의는 필요하지 않다고 덧붙였다.
다른 하나는 배치가 바뀌었다는 것이다. 1950년에는 질문하는 사람이 하나였다. 1952년에는 배심원이 여럿이고, 그중 상당수가 기계를 사람이라고 판단하게 할 과제로 제시됐다.
한 사람이 2년 만에 자기 방법의 핵심 장치를 한 사람에서 무리로 바꾸었다.
질문자 한 사람의 판단과 여러 사람 중 상당수의 판단은 다르다. 앞의 것은 한 번 구별하는 일이었고 뒤의 것은 표를 던지는 일이다. 그런데 2년 전 그가 반대한 것은 낱말 하나의 뜻을 통계에 넘기는 일이었다. 하나는 말을 어떻게 쓸지에 한 표, 하나는 눈앞의 판에서 누가 사람인지에 한 표다. 그래도 두 일의 모양은 닮았다.
튜링 테스트라는 이름이 처음 어디에 인쇄됐는지는 여기서 아직 확인하지 못했다. 자신이 그렇게 부른 적은 없다. 사람의 이름을 방법에 붙이는 것은 대개 사람이 자리에 없을 때다. 이 연재에서 네 번째다. 기계의 이름, 한 사람의 칭호, 논제의 두 이름, 그리고 이번이다.
이런 시험을 명시적으로 내건 첫 대회는 휴 뢰브너가 후원한 1991년 11월 뢰브너상 대회였다. 첫해에는 대화 주제가 한정된 판을 썼다. 사람 심사위원이 문자 단말기로 사람과 프로그램에게 말을 걸어 누가 사람이고 누가 기계인지 판단했다. 41년 뒤 실제로 열린 것은 1950년의 원래 모습이 아니라 나중에 통용된 판이었다.
전해진 말과 원문을 나란히 놓으면 이렇다.
전해진 말은 튜링이 기계에 지능이 있는지 판단하는 기준을 내놨다는 것이다. 원문에서는 판정 기준을 말했지만 일정한 합격점을 말하지 않았다. 합격하면 지능이 있다고도 하지 않았다.
전해진 말은 튜링이 2000년에 기계가 시험을 통과할 것이라 예언했다는 것이다. 원문에서 가장 가까운 것은 제6절의 기억 용량, 시간, 확률을 단 추측이다. 통과나 합격, 어느 특정한 해까지라는 표현으로 인쇄되지 않았다.
전해진 말은 튜링이 기계가 생각할 수 있다고 믿었다는 것이다. 원문에서 그는 물음의 문자 그대로인 꼴로는 의논할 가치가 없다고 하고, 놀이의 결과에 관한 추측을 적었으며, 장차 말 쓰임이 달라지리라고 내다봤다.
전해진 말은 5분 동안 대화하는 시험이라는 것이다. 5분은 제1절의 규칙이 아니라 제6절의 예측 안에 있다.
전해진 말은 튜링이 의식 문제를 피했다는 것이다. 원문에는 ‘의식에 근거한 논증’이라는 대목이 여러 쪽에 걸쳐 있다. 제퍼슨을 길게 인용하고, 유아론과 타자의 마음을 논하고, 구술시험을 짜며, 의식에는 수수께끼가 있다고 직접 말한다.
몇 가지의 모양이 같다. 원문에는 조건이 있고 한정이 있으며 저자가 직접 표시한 의견 차이가 있다. 전해진 판은 말끔하고 실행할 수 있으며 점수도 있다. 방법 하나를 널리 쓰려면 먼저 이런 꼴로 단순하게 해야 한다. 그때 빠진 것이 바로 저자가 이 방법은 어디까지 통한다고 표시한 것들이다. 한정이 빠지고 나면 더 쓰기 좋다. 그리고 경계 하나로 여기기도 쉬워진다.
마지막으로 날짜 몇 개가 있다. 1952년 3월 31일 튜링은 체셔에서 중대한 외설 행위로 재판을 받았다. 징역형 대신 의료 처치를 조건으로 12개월 보호관찰을 선고받았다. 1954년 6월 7일 체셔 윌름슬로의 집에서 사망했고 이튿날 발견됐다. 공식 결론은 자살이었다.
그보다 네 해 앞서 같은 사람은 철학 계간지에 이렇게 썼다. 이 물음을 다른 물음으로 바꾸겠다.
대신 밀려난 물음은 제자리에 있다.
아무도 답하지 않았고, 물어서는 안 된다고 증명하지도 않았다. 그해부터 논쟁은 대부분 새로 들인 물음에 닿았다. 규칙을 두고, 얼마나 오래 하는지 두고, 인정할 만한지 두고, 누가 통과했는지 두고 다퉜다. 그 땅의 경계는 1950년에 누군가 그었다. 경계를 그은 사람은 이미 제6절에서 밝혔다. 바꾸는 것이 적절한가에 독자들의 견해가 갈릴 것이므로 옛 물음도 남겨 두어야 한다.
그 말을 앞말과 함께 인용하는 경우는 드물다. 앞의 것만 인용하면 한 사람이 옛 물음을 쓸어 내쫓는다. 둘을 같이 읽으면 한 사람이 옛 물음을 옆으로 옮긴 뒤, 아직도 여기 있다고 알리는 쪽지를 곁에 놓았다.
기계는 계속 만들어지고, 경계가 어디인지는 세대마다 다시 말한다.