깎아내기와 구축의 주기 법칙 · AI 연재 · 18

이세돌의 78수

Han Qin · 읽는 데 약 12분 · 공개일

1. 제대로 된 한 판

1965년 1월 21일, 영국 주간지 《뉴 사이언티스트》에 《바둑의 수수께끼》라는 글이 실렸다. 저자 어빙 존 굿은 수학자였고, 전쟁 때 영국의 암호 해독 기관에서 튜링과 함께 일했다. 한 절에서는 컴퓨터가 바둑을 둘 수 있는지 묻는다. 그의 답은 이랬다. ‘그래서 나는 컴퓨터가 제대로 된 바둑을 한 판 두게 프로그램하는 일이 체스를 두게 하는 일보다 더 어려우리라고 본다.’

네 번째 글에 나온 1950년 체스 논문은 왜 이 주제를 골랐는지 이렇게 썼다. 체스를 잘 두려면 보통 생각이 필요하다고 여긴다. 15년 뒤 굿은 이 선을 한 걸음 더 옮겨 체스보다 어려운 놀이 앞에 놓았다.

바둑 규칙은 많지 않다. 가로세로 19줄인 바둑판에서 두 사람이 번갈아 교차점에 흑돌과 백돌을 놓는다. 한 무리의 돌이 상대에게 둘러싸여 활로를 모두 잃으면 잡혀 나간다. 마지막에는 누가 더 넓은 곳을 둘러쌌는지 본다. 규칙은 적지만 둘 자리는 많다. 첫 수에만 고를 곳이 361개다. 바둑판에 나타날 수 있는 국면은 우주에 있는 원자보다 많다.

1997년 5월, 열한 번째 글에 나온 딥 블루는 공식 경기에서 체스 세계 챔피언을 이겼다. 같은 해 7월 29일, 《뉴욕 타임스》는 천체물리학자 피트 훗을 인터뷰했다. ‘컴퓨터가 바둑에서 사람을 이기려면 100년이 더 걸릴 수도 있습니다. 더 오래 걸릴지도 모르고요.’ 영리한 사람이 바둑을 몇 달만 배우면 당시 프로그램을 이길 수 있다고도 했다.

2014년 《와이어드》 기자가 바둑 프로그램을 짜는 레미 쿨롱에게 물었다. 기계가 접바둑이 아닌 호선으로 사람을 언제 이기겠느냐고. 그는 ‘한 10년쯤 아닐까요’라고 답했다. 곧 ‘하지만 저는 예측하는 걸 좋아하지 않습니다’라고 덧붙였다.

2. 접바둑

접바둑은 기력 차이가 큰 두 사람이 두는 방법이다. 약한 쪽이 바둑판에 돌을 몇 개 먼저 놓고 시작한다. 깔아 놓는 돌이 많을수록 두 사람의 기력 차이가 크다.

2006년 무렵 유럽 연구자 몇이 바둑 프로그램의 생각을 바꾸었다. 국면이 앞에 놓였을 때 프로그램은 좋은 수를 먼저 판단하려 하지 않는다. 그 국면부터 되는대로 빠르게 끝까지 많은 판을 둔다. 어느 수를 둔 뒤에 많이 이겼는지 보고, 많이 이긴 몇 갈래를 골라 더 깊게 살핀다. 쿨롱은 2006년 논문에서 이 방식을 몬테카를로 트리 탐색이라고 불렀다. 몬테카를로는 모나코에서 카지노가 있는 곳이다. 무작위로 시험해 가며 어림한다는 뜻으로 이름을 빌렸다. 쿨롱 자신의 프로그램은 크레이지 스톤(Crazy Stone)이었다.

2012년 6월 22일 일본기원과 도쿄 전기통신대가 협력 문서에 서명했다. 그 뒤로 매년 봄 프로 기사와 프로그램이 접바둑을 두게 했고, 대회 이름은 덴세이센이었다. 2013년 3월 첫 대회에서 크레이지 스톤은 이시다 요시오 9단에게 네 점을 깔고 이겼다.

2014년 3월 21일 두 번째 대회에서는 요다 노리모토 9단과 크레이지 스톤이 역시 접바둑을 두었다. 《와이어드》 기자가 현장에 있었다. 경기는 회의실에서 했다. 벽에는 나뭇결을 흉내 낸 판을 붙여 두었고 머리 위에는 형광등, 구석에는 투사 화면 하나가 있었다. 촬영팀은 인터넷 생중계를 준비했다. 프로그램은 낡은 노트북 옆의 시스템에서 돌아갔다. 화면에는 프로그램이 가늠한 승률이 나왔고, 돌은 사람이 화면을 보고 대신 놓았다. 요다는 바둑을 두며 손의 부채를 폈다 접었다 했다. 끝나기 직전 프로그램은 자기 집 안에 몇 수를 두어 집을 공연히 줄였다. 이길 가능성만 고려할 뿐 몇 집을 이기는지는 따지지 않아, 곁에서 보던 개발자가 좀 난처해졌다. 마지막에 프로그램이 두 집 반으로 이겼다. 이듬해 3월 세 번째 대회에서 조치훈 9단은 한국 프로그램에 네 점을 접어 주고 불계패했다.

그해 프로 기사 마이클 레드먼드는 《와이어드》 기자에게 사람이 바둑을 두는 법을 이야기했다. 어떤 때는 한 수를 보고 그게 맞다는 확신이 들지만 왜인지는 말할 수 없다고 했다. 기자는 이를 직관이라 불렀고, 오랜 훈련에서 자라난 것이라고 썼다.

3. 벽 하나

2015년 10월 5일부터 9일까지, 런던 딥마인드 본사에서 유럽 바둑 챔피언 판후이와 회사가 만든 프로그램 알파고가 공식 대국 다섯 판을 호선으로 두었다. 딥마인드는 열일곱 번째 글에서 구글이 사들인 그 런던 회사다. 제한 시간은 양쪽 한 시간씩, 그 뒤에는 30초 초읽기 세 번이었다. 기본 시간을 다 쓰면 한 수를 30초 안에 두어야 하고, 한 번 넘길 때마다 남은 초읽기 한 번을 쓴다. 알파고가 다섯 판 모두 이겼다.

당시에 다섯 판을 밖에 알리지는 않았다. 2016년 1월 27일 영국 주간지 《네이처》가 《심층 신경망과 트리 탐색으로 바둑 익히기》라는 논문을 온라인에 실으면서 이 일도 함께 공개됐다. 저자가 스무 명이고 두 번째 이름은 황스제였다.

논문은 알파고가 한 방식을 설명했다. 망이 두 개다. 하나는 국면을 보고 프로 기사가 어디에 돌을 놓을지, 자리별로 가능성이 얼마인지 가늠한다. 논문에서는 정책망이라 불렀다. 하나는 국면을 보고 마지막에 어느 쪽이 이길지 가늠한다. 가치망이다. 이 두 망은 앞 절에서 본 방식으로 수를 내다보는 탐색이 헛길을 덜 가게 도왔다. 사람의 기보로 학습한 망은 사람이 어떻게 둘지 가늠한다. 프로그램은 이를 바탕으로 스스로 대국을 하며 더 강한 수를 익혔고, 그렇게 둔 기보를 이용해 어느 쪽이 이길지 가늠하는 망을 훈련했다. 판후이와 둔 버전에는 CPU 1202개와 GPU 176개를 썼다.

판후이는 나중에 《와이어드》 기자에게 프로그램이 ‘강하고 흔들리지 않고 벽 같다’고 말했다. 아무도 알려 주지 않았다면 맞은편에 두는 법이 조금 이상하지만 아주 강한 사람이 있다고 여겼을지도 모른다고도 했다.

아무도 알려 주지 않았다면. 다섯 번째 글에서 1950년에 튜링이 내놓은 모방 게임이 요구한 것이 바로 그런 사람이다. 맞은편을 보지 못한 채 맞은편에서 내놓은 것만 보고 판단하는 사람. 65년 뒤 프로 기사 한 명이 바둑판 건너편에 앉아 그 질문에 답하는 듯한 말을 했다. 상대가 기계라는 것을 안 이유는 누군가 알려 주어서였다.

4. 포시즌스 호텔

2016년 3월, 서울 포시즌스 호텔 6층에서 알파고와 한국의 이세돌 9단이 다섯 판을 두었다. 대국은 9일, 10일, 12일, 13일, 15일 오후 1시에 시작했다.

중국 규칙을 썼고 덤은 일곱 집 반이었다. 중국 규칙에서는 마지막에 돌과 집을 센다. 흑은 먼저 두는 이점이 있으니 셈을 마친 뒤 흑의 점수에서 일곱 집 반을 빼고 견준다. 양쪽 두 시간씩, 그 뒤에는 1분 초읽기 세 번이었다. 상금은 100만 달러였다. 알파고의 종합 승리가 확정된 뒤 회사는 이 돈을 자선 기관과 바둑 단체에 기부하겠다고 밝혔다.

이세돌 맞은편에 앉은 사람은 황스제였다. 앞에 컴퓨터 한 대가 있었다. 이세돌이 돌을 놓으면 그 수를 입력했다. 화면에 알파고가 둘 자리가 나오면 돌 하나를 집어 바둑판에 놓은 뒤 바둑 시계를 눌렀다.

열여섯 번째 글에 나왔던 1770년 무렵의 체스 기계 튀르크인에서는 사람이 장 안에 숨어 기계 대신 체스를 뒀고, 구경하는 사람은 그를 보지 못했다. 2016년 서울에서는 사람이 드러난 자리에 앉아 보는 이들 앞에서 기계 대신 돌을 놓았다. 수를 정한 것은 기계이고 놓은 것은 사람의 손이다. 수를 계산한 기계는 그 방에 없었다.

첫 세 판은 모두 이세돌의 불계패였다. 다섯 판의 승부는 세 번째 판에서 이미 정해졌다. 네 번째 판에서는 프로그램이 돌을 거뒀다. 마지막 판에서는 이세돌이 돌을 거뒀다. 4 대 1.

5. 37수

3월 10일 두 번째 판에서 알파고가 흑을 잡았다. 37수에 알파고가 돌 하나를 놓았다. 영어 해설석에서 한 사람이 말했다. ‘아주 이상한 수네요.’ 다른 한 사람은 ‘잘못 둔 줄 알았습니다’라고 했다.

판후이는 현장에 있었다. 그 수를 보고 말했다. ‘사람이 둘 수가 아닙니다. 이렇게 두는 사람을 본 적이 없어요.’ 10초쯤 지나 그 수와 바둑판에 먼저 놓인 돌의 관계를 알아보고 말했다. ‘아주 아름답네요.’

그때 딥마인드의 데이비드 실버는 조정실에서 알파고의 기록을 불러냈다. 나중에 《와이어드》 기자에게 말했다. 사람의 기보로 배운 정책망은 프로 기사가 이 국면에서 이 수를 둘 가능성이 1만 분의 1이라고 가늠했다.

1만 분의 1이 잰 것은 이런 일이다. 과거 사람이 둔 바둑을 놓고 볼 때, 프로 기사가 이런 국면에서 이렇게 둘까. 수가 좋은지, 사람이 생각해 낼 수는 있는지를 잰 게 아니다.

몇 해 뒤 회사 웹사이트에는 이렇게 쓰였다. 37수, 둘 가능성이 1만 분의 1밖에 안 되는 수. 배워서 만들어진 모형도, 프로 기사도 한 문장 안에서 모두 사라졌다.

그날 대국 뒤 기자회견에서 이세돌이 통역을 통해 말했다. ‘어제는 놀랐습니다. 오늘은 할 말이 없습니다.’ 처음부터 끝까지 단 한 순간도 자기가 앞선다고 생각하지 않았고, 이 판에서 알파고는 거의 완벽했다고 했다.

6. 78수

3월 12일 세 번째 판에서 진 뒤 이세돌은 기자회견에서 먼저 말했다. ‘이렇게 무력한 모습을 보여 드려 정말 죄송합니다.’ 같은 기자회견에서 훗날 가장 널리 퍼진 말은 ‘이세돌이 진 것이지, 인간이 진 것은 아닙니다’였다.

3월 13일 네 번째 판에서 이세돌이 백을 잡았다. 78수에 바둑판 가운데에 한 수를 놓았다. 그날 구리 9단은 이 수를 신의 한 수라 불렀다.

알파고는 곧바로 돌을 거두지는 않았다. 해설자들도 이해하기 어려운 수를 연달아 두었고, 몇 수가 지나서야 국면에 대한 판단이 바뀌었다. 대국 뒤 이세돌은 프로그램에 문제가 생긴 것 같았다고 말했다. 결국 돌을 거둔 것은 프로그램이었다. 기자회견에서 이세돌이 말했다. ‘한 판밖에 이기지 않았는데 이렇게 축하를 많이 받은 건 처음인 것 같습니다.’

회사 웹사이트에는 나중에 78수에도 숫자가 하나 붙었다. 1만 분의 1. 37수는 기계가 뒀고, 사람의 기보로 학습한 정책망은 프로 기사가 그렇게 둘 가능성을 1만 분의 1로 가늠했다. 78수는 사람이 뒀다. 회사는 나중에 여기도 같은 말과 같은 수치를 썼지만, 78수의 숫자를 어떻게 얻었는지는 설명하지 않았다.

3월 15일 마지막 판에서 이세돌은 돌을 거뒀다. 보는 사람이 많았다. 구글은 첫 판만 중국에서 6000만 명이 봤다고 했다. 딥마인드는 뒤에 전 세계에서 2억 명 넘게 이 다섯 판을 봤다고 밝혔다. 대국 이틀 뒤에 한국 정부는 5년간 인공지능 연구에 약 1조 원을 쓰겠다고 발표했다.

7. 제로

2016년 말부터 2017년 초까지 한국 타이젬과 중국 예후 바둑에서 한 계정이 정상급 프로 기사들과 속기를 잇달아 두었다. 커제, 박정환, 이야마 유타, 구리도 상대였다. 중간에 계정 이름이 바뀌었고 나중 이름은 마스터였다. 2017년 1월 4일까지 60판을 두어 60판을 이겼다. 이날 딥마인드의 허사비스는 알파고 새 시제품을 시험하고 있다고 온라인에서 밝혔다.

2017년 5월 23일과 25일과 27일, 저장성 우전에서 커제와 알파고가 세 판을 두었다. 첫 판은 백을 잡은 알파고가 반 집으로 이겼고 다음 두 판은 커제가 돌을 거뒀다. 대국이 끝나자 회사는 알파고가 더는 이런 대회에 참가하지 않는다고 발표했다.

그해 10월 《네이처》에는 《인간의 지식 없이 바둑 익히기》라는 논문이 또 나왔다. 새 버전은 알파고 제로였다. 회사 설명으로는 앞 버전은 사람의 아마추어 기보와 프로 기보 수천 판을 먼저 배웠지만, 이 버전은 그 단계를 건너뛰었다. 무작위에 가깝게 두면서 시작해 줄곧 자기 자신하고만 대국했다. 사흘간 훈련한 뒤 이세돌을 이긴 버전과 100판을 두어 모두 이겼다. 40일까지 더 훈련하니 한층 강해졌다. 이듬해에는 같은 갈래의 방법을 체스와 일본 장기인 쇼기에도 적용했다. 이름은 알파제로였다.

제목은 사람의 지식을 쓰지 않았다고 한다. 무엇을 주었는지는 논문과 회사 설명에 나와 있다. 19줄 바둑판, 흑돌과 백돌, 지금 누구 차례인지, 어디에 둘 수 있고 어디에는 못 두는지, 다 두고 나면 누가 이겼는지다. 망을 설계한 것은 사람이다. 탐색하는 법도 사람이 설계했고, 한 판 한 판 어떻게 훈련할지도 사람이 정했다. 사람이 둔 기보를 배우지 않았다. 그런데 프로그램이 둔 것은 사람들이 몇 세기 동안 두어 온 바로 그 바둑이다.

기사들도 달라졌다. 2017년 4월 딥마인드는 중국 프로 기사 몇을 인터뷰했다. 저우루이양은 영향을 받은 뒤 이렇게 생각하게 됐다고 했다. 불가능한 수는 없다. 초반에 바로 삼삼에 들어가는, 예전에는 잘 두지 않던 정석도 다시 꺼내 연구했다.

2023년 3월, 미국의 한 과학원 회보에 연구자 네 명의 글이 실렸다. 제목은 《인간을 능가하는 인공지능은 새로움을 늘려 사람의 의사결정을 개선할 수 있다》는 뜻이다. 사람보다 강한 바둑 프로그램으로 프로 기사들이 수십 년간 실제로 둔 수를 하나씩 평가했다. 2016년 이후 사람이 둔 수의 질이 측정할 수 있을 만큼 높아졌고, 새로운 수가 더 많이 나온 것과 관련이 있었다.

8. 1만 분의 1

2019년 11월, 이세돌은 프로 바둑 기사 은퇴 절차를 밟았다. 연합뉴스 기자에게 말했다. ‘제가 1인자가 되더라도 이길 수 없는 존재가 있습니다.’ 한 달 뒤 12월 18일부터 21일까지 한국 회사에서 만든 프로그램 한돌과 은퇴 대국을 세 판 두었다. 첫 판에서 이세돌은 두 점을 깔았다. 프로그램이 큰 돌 무리의 형세를 잘못 보고 돌을 거뒀다. 다음 두 판은 프로그램이 이겼다.

2023년 연구자들이 《대항 전략이 인간을 능가하는 바둑 인공지능을 이기다》라는 논문을 냈다. 다른 프로그램을 훈련해 공개 소스의 강한 바둑 프로그램 카타고(KataGo)의 빈틈을 찾게 했다. 알아낸 수법은 상대가 아주 큰 고리를 만들도록 한 수씩 이끌어서, 고리 안에 있는 돌의 사활을 거듭 잘못 보게 하는 것이었다. 실력 있는 아마추어 기사 켈린 펠린이 이 수법을 배웠고, 사람이 둔 시험에서 카타고에 15판 중 14판을 이겼다. 카타고의 작성자는 곧 프로그램을 고쳤다. 더 뒤에는 고친 버전에도 통하는 방법을 찾은 사람이 있었다.

이길 수 없는 존재라고 말한 것은 2019년의 프로 9단이었다. 4년 뒤 한 아마추어 기사는 다른 기계가 찾은 수법으로 논문 제목에서 인간을 능가한다고 부른 프로그램을 이겼다.

이 글에서 지워진 곳은 둘이다. 하나는 1만 분의 1 앞의 반 문장이다. 사람의 기보로 학습한 모형이 프로 기사가 이렇게 둘지 가늠한 숫자다. 지우면 그 수 자체가 얼마나 드문지를 나타내는 말이 된다. 다른 하나는 ‘인간의 지식 없이’ 뒤에 써 놓지 않은 단서다. 사람의 기보에서 바둑을 배우는 단계를 건너뛴 것이지, 바둑판과 규칙은 여전히 사람이 준 것이다. 이 단서를 빼면 사람에게서 아무것도 가져오지 않은 듯 들린다.

지우든 지우지 않든 기계 안에 들어 있지 않은 것이 하나 더 있다.

알파고가 내준 것은 돌을 놓을 자리였다. 아주 이상하다, 잘못 뒀다, 사람이 둘 수가 아니다, 아름답다, 신의 한 수다, 창의적이다. 모두 사람이 한 말이다. 회사 웹사이트에는 나중에 37수는 창의적이고 78수는 신의 한 수라고 이름을 달았다. 사람이 수에 붙인 이름이다. 프로그램의 기록에는 그런 칸이 없다. 판후이가 ‘아주 아름답네요’라고 하기까지 10초가 흘렀다. 그 10초는 자기 것이었다.

바둑판 옆에서 기계 대신 돌을 놓은 이는 사람, 건너편에 앉은 이도 사람, 돌을 거둔 뒤 죄송하다고 한 이도 사람이다. 회사가 말하기로는 다섯 판을 본 사람은 2억 명이었다. 두는 사람도 보는 사람도 없는 한 판을 그래도 바둑 한 판이라 할 수 있을까.

회사가 나중에 제시한 숫자로는 78수가 1만 분의 1이었다. 이세돌은 그 수를 뒀다. 앞에서 말한 자도 사람이 둔 기보로 만들었다. 다음 수를 두는 것은 여전히 바둑판 앞에 앉은 그 사람이다. 이 연재에서는 과거에 비추어 아무리 계산해도 셈 안에 넣을 수 없는 부분을 ‘남는 몫’이라 부른다.

기계는 계속 만들어지고, 경계가 어디인지는 세대마다 다시 말한다.