깎아내기와 구축의 주기 법칙 · AI 연재 · 11

한 철학자가 말했다: 인공지능은 연금술이다

Han Qin · 읽는 데 약 18분 · 공개일

1. 어느 날짜

1965년 12월, 랜드 연구소에서 3244번 문서를 찍었다. 제목은 《연금술과 인공지능》이다. 글쓴이는 철학을 하는 휴버트 드레이퍼스였다. 그는 3쪽과 4쪽에 8년 전 나온 말들을 하나씩 옮겨 적었다.

1957년 11월, 피츠버그의 한 호텔 만찬에서 사이먼이 읽은 네 가지 예언이다. 이 연재의 일곱 번째 글은 그날 저녁에서 출발했다. 10년 안에 컴퓨터가 체스 세계 챔피언이 된다. 10년 안에 컴퓨터가 중요한 새 수학 정리를 발견하고 증명한다. 10년 안에 컴퓨터가 평론가의 인정을 받는 음악을 쓴다. 10년 안에 심리학 이론 대부분이 프로그램의 형태로 쓰인다.

드레이퍼스는 네 항목을 다 옮긴 뒤 한 문장을 썼다. 지금 이 주장들을 검증해 결론을 내리기에는 아직 이르다. 그리고 날짜를 하나 제시했다. 10주년이 되는 1967년 11월에 처음 구상과 그때의 현실을 나란히 놓고 비교해 보자고 했다. 장부를 맞춰 보자는 약속이었다.

일곱 번째 글의 끝에 한 가지를 적었다. 네 예언의 기한이 지난 뒤, 두 사람이 네 항목을 하나씩 대조한 글은 찾지 못했다. 그런데 기한이 오기 2년 전, 이 분야 바깥의 한 사람이 그날을 흰 종이 위에 검은 글씨로 적었다. 이 글은 그 사람과, 그가 제안한 장부 대조가 나중에 무엇으로 바뀌었는지에 관한 이야기다.

3244번 문서 첫 쪽 각주에는 이 글이 1964년 8월 랜드 연구소에서 한 비공식 강연을 바탕으로 쓰였으며, 본문의 의견은 글쓴이 개인의 것이라고 적혀 있다. 랜드는 직원들의 편의를 위해 이런 문서를 찍었다. 강연 하나가 원고가 되어 랜드 안에서 돌았다.

나중에는 랜드가 글을 묻어 버렸다는 이야기가 돌았다. 이야기는 십여 년 뒤 나온 한 권의 책에서 비롯됐다. 1979년 패멀라 매코덕은 《생각하는 기계들》에 랜드의 폴 아머가 훗날 한 회고를 적었다. 아머는 이 글을 내놓는 데 망설였고, 동료 로버트 라인스테트는 내부 연구의 결론이 마음에 들지 않는다는 이유만으로 내놓지 않아서는 안 된다며 발행을 밀었다. 1965년 12월 문서는 3244번으로 찍혀 나왔다. 망설임이 있었고, 그 뒤에 냈다. 훗날 전해진 이야기는 묻어 버렸다는 것이었다.

라인스테트의 이름은 문서 자체의 감사 인사에도 나온다. 함께 감사를 받은 사람 가운데 스튜어트 드레이퍼스가 있다. 그의 형제다. 20여 년 뒤 두 사람은 글 한 편에 함께 이름을 올린다.

2. 네 가지 활동

3244번 문서가 질문을 어떻게 던졌는지부터 보자. 훗날 나온 여러 이야기는 여기서부터 갈라졌다. 그는 기계가 생각할 수 있느냐고 묻지 않았다. 서론에서 질문을 아주 좁혔다. 디지털 컴퓨터를 프로그램해서 어린아이나 동물이 보이는 정도의 단순한 지적 행동을 하게 할 수 있는가. 체스를 두고, 간단한 문제를 풀고, 문장을 읽고, 무늬를 알아보는 일이다. 이 넷은 문서 1부가 살펴본 네 분야, 체스와 문제 풀이, 언어 번역과 패턴 인식에 해당한다. 1부 제목은 ‘인공지능 분야의 현황’이다.

2부는 ‘사람과 기계의 정보 처리’다. 여기서 그는 사람이 정보를 처리하는 방식이 디지털 컴퓨터와 어떻게 다른지 말하려고 세 가지를 들었다. 하나는 주변부 의식이다. 사람이 무언가에 주의를 기울이면 정면으로 보고 있지 않은 주위의 것들도 작용한다. 하나는 본질적인 것과 우연히 딸려 온 것을 구분하는 일이다. 사람은 어떤 상황에서 무엇이 중요한지, 무엇이 어쩌다 들어맞은 것인지 가려 낸다. 하나는 모호함을 견디는 일이다. 사람은 한 문장의 여러 뜻을 열어 둔 채 계속 읽다가 맥락에 맡겨 뜻을 정할 수 있다.

문서의 요약에는 다른 쪽이 깔고 있던 전제도 적혀 있다. 그가 쓴 바에 따르면, 당시의 낙관론자들은 여러 지적 활동이 복잡한 정도에서만 다르다고 믿었다. 그 믿음이 초기의 몇 가지 성공과 맞물리자, 어떤 인지 활동이든 그 밑의 정보 처리를 프로그램으로 쓰고 디지털 컴퓨터로 모사할 수 있다는 확신이 생겼다. 그가 의문을 제기하려는 것은 이 전제였다.

그는 지적 활동을 네 부류로 나누었다. 요약에 따르면 그중 두 부류는 사람이 쓰는 그 세 가지 방식이 없어도 되니 당시 방법으로 프로그램을 짤 수 있다. 나머지 두 부류에서 큰 진전을 내려면 완전히 다른 컴퓨터를 기다려야 한다. 당시 그런 컴퓨터의 유일한 원형은 아직 사람이 이해하지 못한 사람의 뇌였다.

3부는 프로그램을 짤 때 부딪히는 난점을 셋으로 갈랐다. 제목에 쓰인 말은 ‘사실의 무한성’, ‘필요의 불확정성’, ‘맥락의 상호 의존성’이다. 사실의 무한성이란 어떤 일을 제대로 하려면 알아야 할 사실을 아무리 늘어놓아도 끝이 없다는 뜻이다. 필요의 불확정성이란 무엇이 관련되는지가 하려는 일에 달렸는데, 하려는 일을 정하려면 무엇이 관련되는지부터 알아야 한다는 뜻이다. 맥락의 상호 의존성이란 낱말의 뜻이 앞뒤에 달렸고 앞뒤의 뜻은 다시 그 낱말들에 달렸으니 한 바퀴 돌아 처음으로 온다는 뜻이다. 하나는 끝없이 늘어놓는 일, 하나는 뒤로 물러나는 일, 하나는 제자리로 돌아오는 일이다.

여기까지 90여 쪽은 구체적인 프로그램과 예언, 문제를 놓고 벌인 논증이다. 그중 나중에 장부를 대조할 때 돌아올 대목이 두 군데였다. 하나는 그 날짜, 1967년 11월이다. 하나는 요약에 나온 그 문장, 나머지 두 활동에는 완전히 다른 컴퓨터를 기다려야 한다는 말이다. 두 대목은 나중에 저마다 다른 뒷이야기를 얻었다.

3. 열 살 아이

3244번이 나온 뒤 이 분야 안에서 답이 왔다. 1968년, 패퍼트가 76쪽짜리 실험실 메모를 썼다. 앞의 두 글 모두에 이름이 나왔던 사람이다. 퍼셉트론을 다룬 책을 민스키와 함께 썼다. 메모의 제목은 《휴버트 드레이퍼스의 인공지능: 오류 목록》이다. 제목이 곧 대답이다.

두 글의 형식은 서로 꼭 맞는다. 드레이퍼스의 글은 랜드가 직원들에게 찍어 준 내부 원고고, 패퍼트의 글은 MIT 인공지능 실험실이 소속 연구자들에게 찍어 준 내부 메모다. 한 기관의 내부 문서가 다른 기관의 내부 문서에 답했다. 어느 쪽도 학술지 논문이 아니었고 외부 심사를 거치지 않았다. 논쟁은 처음부터 두 기관이 각각 쓰는 등사기에서 벌어졌다.

사이먼의 반응은 한마디였다. 그는 랜드 이름을 달고 찍힌 그 글을 쓰레기라고 불렀다.

바깥의 반응은 달랐다. 1966년 6월 11일, 《뉴요커》에 일반 독자를 상대로 그를 소개하는 짧은 글이 실렸다. 글에는 당시 제대로 된 체스를 한 판 둘 수 있는 컴퓨터는 아직 없다고 쓰여 있다. 아직 없다는 말이다. 영원히 없으리라는 말이 아니다.

그다음엔 제목 하나가 나온다. 이 일은 뒤에 미국컴퓨터학회 인공지능 분과 소식지에 실렸다. 제목은 두 토막이다. 앞은 ‘열 살 아이도 이 기계를 이길 수 있다’였다. 뒤에 드레이퍼스의 이름이 붙었다. 뒷부분은 편집자가 보탰다. ‘그런데 이 기계가 드레이퍼스를 이길 수 있다.’ 제목이 가리킨 것은 체스 한 판이다.

4. 그 한 판

상대는 맥 핵 VI라는 체스 프로그램이었다. MIT의 리처드 그린블랫이 만들었다. 학교에 원래 있던 체스 프로그램에 체스에서 경험으로 배운 규칙 50여 개를 더 넣었다. 프로그램이 돌아간 것은 DEC 컴퓨터로, 아홉 번째 글의 블록 프로그램과 같은 학교의 같은 기종이었다. 1967년에 이 프로그램은 사람이 두는 체스 대회에 나갔고 레이팅은 1400 안팎이었다.

드레이퍼스가 백을, 기계가 흑을 잡았다. 양쪽 모두 왕 앞의 폰을 두 칸 밀며 시작했다. 기계가 이겼다. 이 한 판을 주선한 것은 패퍼트였다.

사이먼이 나중에 그 대국을 두고 한 말이 있다. 썩 잘 두지 못하는 두 기사가 벌인 멋진 대국으로, 끝까지 승부를 알 수 없었다고 했다. 기계는 연달아 체크를 부른 뒤 퀸으로 동시에 두 곳을 공격해 위기에서 벗어났고, 그리고 이겼다. 썩 잘 두지 못하는 두 기사. 그렇게 말한 사람은 네 예언을 내놓은 사람 가운데 하나였다.

이제 그 한 판을 그 날짜 옆에 돌려놓자. 1957년 첫 예언은 10년 안에 세계 챔피언이 나온다는 것이었다. 1965년 드레이퍼스는 1967년 11월에 장부를 맞춰 보자고 했다. 1967년 무렵 체스판 건너편에 앉은 그 기계는 레이팅 1400 안팎이었다. 기한이 끝나는 달에도 세계 챔피언은 사람이었다. 네 예언 가운데 첫째는 이루어지지 않았다. 그런데 기억에 남은 것은 이 항목이 아니었다. 이 기계가 드레이퍼스를 이겼다는 일이 남았다.

드레이퍼스가 물은 것은 기한이 되었을 때 기계가 세계 챔피언이 되었느냐는 것이었다. 그 한 판이 답한 질문은 기계가 드레이퍼스를 이길 수 있느냐는 것이었다. 뒤의 질문은 앞의 질문보다 훨씬 쉬웠고, 그가 던진 질문도 아니었다.

이 연재 다섯 번째 글에서 한 가지 방법을 이야기했다. 잴 수 없는 질문을 잴 수 있는 게임으로 바꾼다. 그때는 질문을 던진 사람이 직접 바꾸었고, 글에 바꾸고 있다는 사실도 적었다. 이번에는 장부를 한 번 맞추는 일이 체스 한 판으로 바뀌었다. 바꾼 사람은 질문을 던진 사람이 아니었다.

드레이퍼스 자신의 항의도 남아 있다. 그는 소식지에 편지를 보냈다. 기계가 부정을 저질렀다거나 그 대국을 인정할 수 없다고 항의한 게 아니다. 한 적 없는 말을 반박하는 데 이 한 판이 쓰였다고 항의했다. 그의 눈에는, 사람들이 당시 프로그램에 대한 비판과 10년이라는 기한에 대한 의문을 ‘컴퓨터는 영원히 체스를 둘 수 없다’로 고쳐 쓰고서 한 판으로 반박한 것이었다. 사이먼도 이 항의에 답했다. 그의 말뜻은 드레이퍼스 자신이 이빨 달린 펜을 썼으니 물린 사람이 되물 것쯤은 예상했어야 한다는 것이었다. 말이 오갈 때에는 이미 체스 이야기가 아니었다.

5. 네 가지 가정

1972년 1월, 그는 《컴퓨터가 할 수 없는 것: 인공 이성 비판》을 냈다. 1965년 문서에 담았던 것을 이 책에서 다시 배열했다. 2부는 네 장으로, 장마다 가정 하나가 있다. 원제는 각각 생물학적 가정, 심리학적 가정, 인식론적 가정, 존재론적 가정이다. 무엇을 가정하는지 차례로 보자.

생물학적 가정. 뇌는 어떤 층위에서, 흔히 뉴런 층위로 짐작하는 곳에서, 하나하나 분리된 조작으로 정보를 처리한다. 디지털 컴퓨터의 스위치에 해당하는 생물학적 기제가 있다.

심리학적 가정. 마음은 형식 규칙에 따라 정보를 처리하는 장치로 볼 수 있다. 이 가정을 강하게 받아들이면, 그 규칙들이 바로 실제 행동을 일으키는 규칙이다.

인식론적 가정. 모든 지식은 형식화할 수 있다. 그는 이를 다시 둘로 나눈다. 행동은 형식화할 수 있다. 그리고 형식화해서 얻은 체계로 그 행동을 다시 만들어 낼 수 있다.

존재론적 가정. 지적 행동에 관련된 세계의 정보는 원칙상 모두 구체적인 상황에 기대지 않는 요소로 분해할 수 있다. 그렇게 보면 세계는 논리적으로 서로 독립된 사실의 더미가 된다.

넷을 다 쓰고 그가 하려던 일이 무엇이었나. 훗날 가장 말끔하게 지워진 단서가 여기에 있다. 그는 이 넷이 거짓임을 증명했다고 하지 않았다. 이 분야 사람들이 흔히 그 넷을 결과를 보장해 주는 공리처럼 취급하는데, 자신은 다시 가설로, 연구가 성공하거나 실패하는 것을 보고 검증해야 할 자리로 내려놓으려 한다고 했다. 공리를 가설로 내리는 일이다. 공리를 오류라고 단정하는 일이 아니다.

생물학을 다룬 장에도 비슷한 분별이 있다. 그는 뇌가 어떤 층위에서 디지털 컴퓨터와 닮았다는 것과, 이 분야에서 쓰는 휴리스틱 프로그램이 성공한다는 것을 갈라 놓았다. 앞이 맞더라도 뒤가 따라오지는 않는다. 인식론적 가정을 다룬 장에서도 어떤 능력을 형식화할 수 있다는 것과 그 형식화가 사람이 실제로 하는 일의 인과적 설명이라는 것을 갈라 놓았다. 그가 겨눈 것은 모든 수학적 기술이 아니라, 형식적으로 기술했다는 사실에서 지적 과정이 실제로 어떻게 돌아가는지 곧바로 끌어내는 방식이었다.

체스도 이 책에 자리가 있다. 그는 체스와 바둑을 복잡한 형식 체계로 묶었다. 원칙상 형식화할 수 있지만 요소가 늘면 조합의 수가 어마어마하게 불어나므로, 실제로는 다 훑어볼 수 없고 휴리스틱 프로그램에 기대야 한다. 1965년 문서의 표현은 조금 더 단호했다. 어떤 국면에서는 사람이 곁가지를 접고 이길 수 있지만 당시 구상한 휴리스틱 프로그램은 그렇게 하지 못한다. 그는 체스와 바둑을 모두 제한적으로만 프로그램할 수 있는 부류에 넣었다. 그렇다고 컴퓨터가 영원히 체스를 잘 둘 수 없다는 뜻은 아니다. 1972년에도 체스는 원칙상 형식화할 수 있는 부류에 놓였다.

책에는 강한 판단도 있다. 당시의 경험적 자료를 살핀 뒤, 인지 모사나 인공지능에서 더 큰 진전을 거둘 가능성은 극히 낮다고 했다. 여전히 낙관하는 쪽에 입증할 몫을 넘겼다. 단호한 말이다. 그런데 그는 바로 다음에 단서를 하나 더 달았다. 더 빠른 기계, 더 좋은 프로그래밍 언어, 더 영리한 휴리스틱이 이 경계를 얼마나 더 밀어낼 수 있는지는 실험으로만 정할 수 있다고 했다. 그래서 증명할 수 있는 기술적 상한이 여기 제시된 건 아니다. 판단이 있고, 그 판단의 확인을 실험에 맡긴다는 말이 있다.

책의 결론에도 훗날 거의 인용되지 않은 대목이 있다. 아테나처럼 태어나자마자 완전히 성숙한 디지털 지능이 원칙상 불가능하더라도, 또 따로 물어야 할 것이 있다고 그는 썼다. 이 분야의 조각조각 나뉜 기술이 사람의 지적 행동에 어느 정도 가까이 갈 수 있느냐는 것이다. 완전한 인조인간과 조각조각 이루는 국소적 성공을 그는 같은 명제로 보지 않았다.

6. 자기 장부

책은 이후 두 번 더 나왔고, 매번 그가 직접 앞에 서문을 붙였다. 1979년 개정판에서는 부제가 《인공지능의 한계》로 바뀌었다. 새로 쓴 긴 서문에 개정의 방식을 밝혔다. 원래 본문은 남기되 모호하거나 오해를 부를 만한 몇몇 문장과 단락만 고친다. 1967년부터 1977년까지 10년 동안 나온 새 자료와 결론은 책 앞의 긴 서문에 모두 넣는다. 옛 책은 대체로 그대로 두고 새 장부는 앞에 썼다.

이 긴 서문에는 새로 나온 말이 있다. 이 분야의 연구자들이 이제 상식 지식이라는 문제와 정면으로 부딪혔다고 했다. 그의 생각에 사람이 일을 할 때 기대는 그 너른 배경은 주로 몸에 밴 능력과 할 줄 아는 요령이지, 그저 더 큰 사실 저장고가 아니다.

1992년에는 책이 세 번째로 나왔고 제목이 《컴퓨터가 여전히 할 수 없는 것》으로 바뀌었다. ‘여전히’가 더해졌다. 맨 앞에 또 서문을 붙였고, 1979년 서문과 본문은 남겼다. 그래서 1992년의 독자가 손에 든 책은 세 겹이다. 가장 안쪽에 1972년 본문, 그 바깥에 1979년 서문, 맨 바깥에 1992년 서문이 있다. 한 사람의 세 시기를 책 한 권에 묶었는데, 나중에 쓴 것이 먼저 나온다.

1992년 서문에는 스스로 바로잡은 대목이 있다. 그는 초기에 맥락의 전체성을 두고 한 설명이 모호했음을 인정했다. 형제 스튜어트의 기술 습득 모형을 빌려 오고 신경망 연구를 살핀 뒤에야, 손에 좀 더 구체적인 대안이 생겼다고 느꼈다. 같은 서문에서 규칙과 사실에 의존하는 길은 실패했다고 선언하고는 곧 한 문장을 보탰다. 이 실패가 이런 인공지능이 불가능하다는 뜻은 아니다. 그리고 앞으로의 판단에도 ‘적어도 지금으로서는’이라는 한계를 그었다.

3244번 문서의 다른 한 대목에도 뒷이야기가 있다. 두 부류의 활동에서 크게 진전하려면 원형이 사람의 뇌밖에 없는 다른 컴퓨터를 기다려야 한다고 썼다. 1997년, 딥 블루라는 기계가 공식 경기에서 세계 챔피언 카스파로프를 꺾었다. 그 기계 역시 디지털 컴퓨터였다. 이 대국은 장부의 한 줄을 고쳤지만, 책에서 일상의 맥락을 두고 남긴 다른 줄까지 결산해 주지는 않았다. 1957년 그날 저녁에 나온 말은 10년이었다. 그날부터 이 경기까지 40년이 지났다. 두 날짜는 같은 장부에 적혀 있다.

7. 갈림길

1988년 겨울, 두 형제는 인문·과학 아카데미의 한 간행물에 《마음을 만들 것인가, 뇌를 모사할 것인가: 다시 갈림길에 선 인공지능》이라는 글을 함께 썼다. 첫 문장은 이렇게 열린다. 한쪽은 컴퓨터를 마음속의 기호를 다루는 체계로 보며, 다른 쪽은 뇌를 모형으로 만드는 매체로 본다. 그들은 이어 두 쪽의 차이를 짝지어 늘어놓았다. 한쪽은 형식적 표상과 문제 풀이와 논리가 중심이고, 한쪽은 모사된 신경 상호작용과 학습과 통계가 중심이다.

이것은 여덟 번째 글에 나왔던 선의 다른 끝이다. 1969년 그 책은 한 부류의 기계가 어디서 경계에 부딪히는지 쟀다. 그 길은 그 뒤 10년 동안 죽었다고들 했다. 1988년에 이 두 사람은 그 길을 다시 갈림길 한쪽에 놓았다.

그들은 기호를 쓰는 길의 역사를 세 시기로 나눴다. 대략 1955년부터 1965년까지는 표상과 탐색. 대략 1965년부터 1975년까지는 작은 세계. 1975년 이후는 상식 지식의 문제다. 작은 세계 시기의 예로는 아홉 번째 글의 블록 프로그램도 들었다. 그들이 쓰기에 당시의 바람은 제한된 작은 세계를 하나씩 더 그럴듯하게 만들고, 그것들을 이어 붙여 현실 세계에 대한 이해로 넓혀 가는 것이었다. 그리고 1975년 이후에는, 그들의 표현대로라면, 이 문제가 처음에는 되도록 둘러 가려 했던 일상의 그 너른 배경과 연구자들을 마주 세웠다.

세 시기는 공교롭게도 이 연재가 걸어온 길과 겹친다. 여섯 번째와 일곱 번째 글의 그 여름과 그 10년은 표상과 탐색이다. 아홉 번째 글의 탁자 위 블록은 작은 세계다. 셋째인 상식은 아직 이 연재가 이르지 않은 곳이다. 이 분야를 비판한 사람이 이 분야를 위해 시기별 지도를 그렸다. 지도는 바깥에서 그렸지만, 그린 사람은 자신을 세 번째 시기의 문 앞에 놓았다. 일상의 그 너른 배경이야말로 그가 1965년부터 줄곧 가리킨 것이었다.

이 글을 두고 흔히 드레이퍼스가 신경망을, 심지어 훗날의 딥러닝을 예견했다고 한다. 글 끝에 쓰인 말은 다르다. 두 사람은 신경망을 답이라고 선언하지 않았다. 신경망 모형은 마침내 실패해 볼 기회를 얻었을 뿐인지도 모른다고 썼다. 그런 다음 다시 물었다. 신경망이 어떻게 해야 구체적인 상황에 맞게 일반화할 수 있는가.

더 내려가면 목록이 나온다. 신경망이 훈련하는 사람이 미리 정해 준 연상이 아니라 사람과 같은 연상을 제 경험에서 길러 내고자 한다면, 어쩌면 사람과 이런 것들을 공유해야 한다고 했다. 무엇이 적절한지 판단하는 일, 필요, 욕망, 감정, 사람과 비슷한 몸, 스스로 행동할 능력, 그리고 다칠 수 있다는 것. 다칠 수 있다는 것이 목록의 마지막이다.

이 문장은 기계가 영원히 못 한다고 하지 않는다. 사람과 같으려면 더 많은 데이터나 더 좋은 알고리즘만으로는 안 될지도 모른다는 말이다. 필요한 것이 있고 바라는 것이 있고, 아픔을 느낄 몸이 있어야 할지도 모른다. 이 대목도 훗날 거의 인용되지 않았다. 인용된 것은 갈림길에 관한 그 한 문장이다.

2007년에도 그는 글을 쓰고 있었다. 그해 인공지능 학술지에 낸 글의 제목은 《하이데거식 인공지능은 왜 실패했고, 고치려면 왜 한층 더 하이데거식이어야 하는가》였다. 제목에 ‘고치다’가 들어 있다.

8. 장부 대조

마지막으로 다른 사람들이 그에게 적어 준 장부를 연도순으로 놓아 보자. 1968년 패퍼트. 오류 목록.

1979년, 매코덕은 이 분야가 그에게 보인 강한 적개심을 책에 기록했다. 그 자신은 드레이퍼스를 모조리 부정하지 않았다. 비판한 것은 비꼬는 필치가 자칫 설득될 수도 있었던 사람을 밀어냈다는 점이다.

1983년, 뉴얼. 이 연재에서 여러 번 나온 이름이다. 1957년 네 예언에 가담했고, 1969년 퍼셉트론 책에 서평을 썼다. 그는 1983년 인공지능 사상의 역사를 다룬 글에서 맥락을 서로 독립된 낱낱의 요소로 나눌 수 없다는 드레이퍼스의 비판은 진정으로 핵심적인 사상적 이의이며, 그때까지 나왔던 답변은 실제로 이 문제에 닿지 못했다고 썼다. 네 예언을 내놓은 사람 가운데 하나가 드레이퍼스의 장부 대조 제안에서 18년이 지나 쓴 말이다. 뉴얼은 그의 결론을 받아들이지 않았다. 그 질문에는 답이 나온 적 없음을 인정했다.

1990년 1월, 처치랜드 부부가 한 대중 과학지에 《기계는 생각할 수 있는가》를 썼다. 드레이퍼스의 1972년 책은 시범적으로 내보인 인지 모사에 무엇이 모자라는지와, 어떤 양상의 실패가 되풀이되는지를 함께 짚었다고 했다.

1993년에 인공지능의 역사를 쓴 크레비에가 범위를 정해 말했다. 세월을 두고 보니 드레이퍼스의 논평 가운데 얼마는 정확하고 통찰력이 있었다. 얼마라고 했지, 전부라고 하지 않았다. 그는 당초 표현이 덜 공격적이었다면 그 속의 건설적인 말들을 사람들이 조금 일찍 받아들였을지도 모른다고 덧붙였다.

1996년, 매카시. 그는 1992년 판의 서평을 쓰며 첫머리에서 물었다. 기호로 가는 길이 이미 쇠퇴하는 연구 프로그램임을 드레이퍼스가 어떻게 아는지 알기 어렵다는 것이다. 그는 비단조 추론 같은 최근 연구를 드레이퍼스가 읽지 않았다고 비판했다. 그 갈래가 성장하고 있음을 기호의 길이 여전히 진전한다는 반증으로 들었다.

그런데 같은 서평에서 매카시는 상식 지식과 추론을 이 분야의 중심에 놓았다. 맥락, 비단조 추론, 자기 성찰, 기술의 층위 같은 아직 해야 할 일도 열거했다. 사람 수준의 인공지능은 현시점에 공학적으로 해결할 수 있는 범위에 들지 않고 근본적인 과학적 발견이 더 필요할 가능성이 크다고도 했다. 서평 말미에는 질문을 돌려보냈다. 사람이 할 수 있고 컴퓨터는 할 수 없다고 분명히 말할 만큼 정확하고 단순한 지적 행동을 하나 들어 달라는 것이었다.

2004년 매코덕 책의 개정판에는 두 무리의 이야기가 다 남았다. 1960년대의 멸시와 조롱, 그리고 훗날 그의 판단 가운데 얼마는 가치가 있었다고 인정하는 이야기다.

이렇게 한 줄에 놓고 뒤에 떠돈 두 말을 보자. 하나는 드레이퍼스가 전부 옳았음이 증명됐다는 말이다. 이 줄에서 뉴얼이 인정한 것은 질문에 답이 나오지 않았다는 점이고, 크레비에가 쓴 말은 ‘얼마’고, 매카시는 1996년에도 여전히 결론을 하나씩 반박했다. 다른 말은 그 반대다. 드레이퍼스가 전부 틀렸음이 증명됐다고 한다. 그런데 이 줄에는 매카시 자신이 상식과 맥락을 분야의 중심에 놓고 인간 수준은 아직 공학적으로 풀 범위에 들지 않는다고 한 말도 있다. 두 말은 저마다 무엇을 지웠다. 앞은 ‘얼마’를 지웠고, 뒤는 매카시가 스스로 인정한 대목을 지웠다.

이 글에서 벌어진 삭제와 고쳐 쓰기도 전과 다를 게 없다. 다만 이번에는 가장 많은 일이 한 사람에게 겹쳤다.

그가 쓴 것은 지금 검증하기에는 이르니 10주년 때 대조하자는 말이다. 전해진 것은 컴퓨터가 영원히 체스를 둘 수 없다는 말이다.

그가 쓴 것은 그때 아직 없었다는 말이다. 전해진 것은 영원히 없을 거라는 말이다.

그가 쓴 것은 공리를 가설로 내리자는 말이다. 전해진 것은 인공지능이 불가능함을 증명했다는 말이다.

그가 쓴 것은, 실패가 불가능을 뜻하지 않으며 적어도 지금은 그렇다는 말이다. 전해진 것은 인공지능이 반드시 실패한다고 했다는 말이다.

그가 쓴 것은 신경망이 드디어 실패해 볼 기회를 얻었을 뿐인지도 모른다는 말이다. 전해진 것은 그가 딥러닝을 예언했다는 말이다.

다섯 군데의 방향은 꼭 같지 않다. 앞의 넷은 본래 말보다 더 단정적인 사람으로, 마지막은 본래 말보다 더 신통한 사람으로 만들었다.

그런데 그 자신이 이 27년 사이 한 일은 따로 있다. 자기 책을 한 겹씩 쌌다. 옛 본문은 대체로 그대로 가장 안에 넣고 모호한 문장 몇 군데만 고쳤다. 십여 년마다 바깥에 서문을 한 겹 덧대면서 어디를 모호하게 말했는지, 어디가 버티지 못하는지, 무엇을 달리 말하게 됐는지를 적었다. 1992년의 책은 곧 장부다. 열면 가장 최근의 정정이 먼저 보인다. 안쪽의 장을 넘기면 그보다 이른 정정이 나오고, 더 들어가면 정정의 대상이 된 1972년의 그 사람이 있다.

깎아내고 구축하는 일로 이 연재가 줄곧 바라본 것은 기계를 만드는 사람들이다. 무언가를 만들어 그 둘레에 선을 긋고, 밖에 늘 무엇이 남으니 다시 만든다. 드레이퍼스는 선을 그은 사람이다. 그의 선도 움직였다. 움직일 때마다 옛 선 하나는 책 속에 남았다.

마지막으로 그 날짜로 돌아가자. 1965년 12월, 그는 3244번 문서 4쪽에서 날짜를 하나 잡았다. 10주년이 드는 달, 구상과 현실을 한자리에 놓고 보자는 것이었다. 그달은 지나갔다. 넷 가운데 첫 예언은 이루어지지 않았다. 체스판 앞에 앉을 수 있던 기계의 레이팅은 1400 안팎이었다. 기억에 남은 것은 그가 진 한 판과, 기계가 그를 이길 수 있다는 제목이다.

장부를 맞춰 보자던 사람이 나중에 장부에 오른다. 그가 맞춰 보자던 장부에는 네 가지가 있었다. 기억에 남은 것은 그 자신에게 매긴 한 줄이다.

기계는 계속 만들어지고, 경계가 어디인지는 세대마다 다시 말한다.