깎아내기와 구축의 주기 법칙 · AI 연재 · 15

‘언어학자를 한 명 해고할 때마다 인식률이 오른다’

Han Qin · 읽는 데 약 12분 · 공개일

1. 친구

2004년 5월 리스본에서 언어 자원과 평가를 다루는 학술대회가 프레더릭 옐리네크를 초청했다. 그가 강연에 붙인 제목은 《내 가장 친한 친구 중에는 언어학자가 몇 명 있다》였다.

제목은 영어에서 오래 써 온 말투를 빌렸다. 편견이 없다고 자신을 변호하고 싶은 사람이 가장 친한 친구 몇이 바로 그런 사람들이라고 말한다. 대개 이 말을 꺼낼 때는 이미 다른 말 하나가 그 사람에게 따라붙어 있다.

옐리네크에게 따라붙은 말은 후대에 이렇게 전해졌다. 언어학자를 한 명 해고할 때마다 인식률이 한 단계 오른다.

2011년에 동료들이 그를 기리는 글에 적은 말은 이렇다. ‘언어학자가 한 명 이 팀을 떠날 때마다 인식률이 오른다.’ 그 글에 따르면 그는 1988년에 한 이 농담으로 사람들을 웃기곤 했다.

당시 리스본에서 청중석에 앉아 있던 한 사람이 2012년에 그 자리를 회고했다. 그런데 그가 적은 것은 널리 퍼진 판이다. 내가 언어학자를 한 명 해고할 때마다.

두 판은 동사가 하나 다르고 주어도 다르다. 하나는 언어학자가 이 팀을 떠난다는 말이고 하나는 내가 언어학자를 해고한다는 말이다. 앞의 것은 사람이 팀을 떠났다고만 했지 누가 정한 일인지 말하지 않았다. 뒤의 것에는 손을 쓴 사람이 있다.

2. 전화 한 통

이 팀이 어떻게 시작했는지, 옐리네크가 2009년 회고에 썼다. 1971년 IBM의 뉴욕주 요크타운하이츠 왓슨 연구센터에 내부 검토팀이 있었다. 존 코크와 허먼 골드스타인이 그 팀에 있었다. 검토팀은 연구 부서에 연속 음성 인식이라는 팀을 꾸릴 것을 권했다. 1972년 초, 조 라비브가 이끌며 일을 시작했다.

그해 여름 옐리네크는 아직 코넬대에 있었다. 1962년 가을부터 거기서 가르쳤고 정보 이론과 통신 이론을 연구했다. 라비브에게 전화를 걸자 회사에서 음성 인식을 시작하고 있다는 말을 들었다. 그는 코넬에서 휴직하고 왔고 몇 주 뒤 팀의 연구 방향을 맡았다.

팀원은 여러 곳에서 모였다. 그의 말에 따르면 원래 음성을 알던 사람은 넷뿐이었다. 짐 베이커와 재닛 베이커 부부도 뒤에 들어왔다. 1972년 9월에는 로버트 머서가 왔다. 옐리네크가 쓴 말로는 막 졸업한 물리학자였다.

회사는 언어학 쪽에서도 세 사람을 임시로 보냈다. 프레드 대머로, 스탠 페트릭, 제인 로빈슨이다. 옐리네크는 베이커 부부가 올 무렵 이 셋이 원래 팀으로 돌아갔다고 썼다. 여기서 쓴 동사는 ‘돌아가다’다. 언어학자 셋이 이 팀을 떠난 것은 원래 부서로 돌아간 일이었다.

팀 이름을 지을 때는 연속 음성 인식이라고 했다. ‘연속’이라 한 것은 사람들이 평소에 말할 때처럼 낱말이 낱말에 이어지고 중간에 멈추지 않는다는 뜻이다. 1972년 팀 이름에 들어간 말이다.

3. 잠깐씩 멈추다

13년 뒤, 이 팀은 실시간으로 받아쓰는 기계를 만들었다. 1985년 회사가 낸 논문 제목은 《개인용 컴퓨터 기반 대어휘 단독 발화 음성 인식기》다. 회사가 만든 개인용 컴퓨터 안에 역시 회사가 만든 신호 처리기 두 장을 꽂았다. 어휘는 5000개이고, 바탕 어휘 목록은 사무실 메모와 업무 서신에 자주 쓰는 낱말에서 뽑았다. 새로 말하는 사람은 기계가 자기 목소리를 알도록 약 20분 먼저 말해야 했다. 같은 해 옐리네크가 다른 논문에서 어떻게 말할지 분명히 썼다. ‘단어 사이에는 반드시 짧은 쉼을 둬야 한다.’

1986년에 어휘를 2만으로 늘렸다. 처리기를 두 장 더 보태 컴퓨터 바깥에 따로 연결한 확장 상자에 넣었다. 말로 문서를 쓰는 방법을 연구할 음성 작업용 워크스테이션도 따로 붙였다. 그해 논문에 탱고라(Tangora)라는 이름이 생겼다.

이름의 내력을 옐리네크가 2009년에 썼다. ‘우리는 앨버트 탱고라의 이름을 따서 이 시스템을 탱고라라고 불렀다.’ 앨버트 탱고라는 1923년 뉴욕의 한 상업 박람회에서 타자 기록을 세운 사람이다. 한 시간에 8840단어를 철자 하나 틀리지 않고 쳤으니 1분에 147단어다. 사람이 입으로 문서를 쓰게 한 기계는 타자를 가장 빨리 친 사람의 이름을 가져왔다.

1972년 팀 이름에는 ‘연속’이 있었고, 1985년 기계는 낱말 하나를 말할 때마다 잠깐 멈추라고 했다. 논문 제목에는 ‘단독 발화’라고 적혔다. 팀 이름의 그 말을 만나기까지 12년을 더 기다려야 했다. 1997년 10월, 음성 기술 업계지 한 곳이 일반인을 위한 받아쓰기 소프트웨어 두 가지를 한꺼번에 시험했다. 하나는 드래곤 시스템스의 내추럴리스피킹 첫 버전이고, 하나는 아직 시험 단계인 IBM 제품이었다. 잡지가 쓴 말은 ‘연속 음성’이었다. 드래곤 시스템스는 나중에 베이커 부부가 직접 세운 회사다.

1985년 그 논문에서 옐리네크는 자신이 택한 길을 이렇게 정의했다. ‘전문가 시스템식이 아닌 정보 이론식의 정식화.’ 매개변수는 자료에서 직접 추정한다. 대조한 쪽은 전문가 시스템이라 불렀다. 열두 번째 글에서 썼듯 1985년은 전문가 시스템이 가장 뜨거울 때였다.

4. 암호

1947년 3월, 록펠러재단의 워런 위버가 네 번째 글에 나왔던 위너에게 편지를 썼다. 편지에서 번역을 암호 해독에 비겼다. 그중 한 문장은 ‘실제로는 영어로 쓰였는데, 낯선 기호 몇 가지로 부호화해 놓았을 뿐이다’라고 했다. 그가 보고 있던 것은 러시아어 글이었다.

1949년 7월 위버는 이 생각을 메모에 썼다. 제목은 《번역》이었다. 뉴멕시코주에서 써서 아는 사람 서른 명 남짓에게 보냈다. 열 번째 글에서 썼듯 미국은 이후 10여 년간 기계 번역에 돈을 댔다. 1966년에 평가서가 나왔다. 가까운 시일 안에 기계 번역을 실용화할 전망은 보이지 않으니 계산언어학과 보조 번역 같은 주제로 연구를 돌리라고 권했다. 보고서에 무엇을 썼는지와 뒤에 예산을 어떻게 배정했는지는 별개의 장부다.

요크타운하이츠의 그 팀은 1987년 무렵 번역을 시작했다. 옐리네크는 그 일을 맡은 중심 인원 가운데 프랑스어 전문가는 한 명도 없었다고 회고했다. 발, 피터 브라운, 머서, 그리고 자기 이름을 들고, 나중에 프랑스어 몰입 과정에 다녔다고 했다.

1988년 6월 12일부터 14일까지 피츠버그에서 기계 번역의 이론적·방법론적 문제를 다루는 회의가 열렸다. 이들은 《프랑스어에서 영어로 번역하는 한 가지 통계적 방법》을 냈다. 같은 해 부다페스트의 국제 계산언어학 회의 논문집에는 《언어 번역의 한 가지 통계적 방법》을 실었다. 1990년 6월 학술지판은 《계산언어학》에 나왔고 제목은 《기계 번역의 한 가지 통계적 방법》으로 바뀌었다. 1993년 6월에 낸 긴 글은 《통계적 기계 번역의 수학: 매개변수 추정》이라고 했다. 5년 동안 제목은 프랑스어에서 영어로의 번역에서 언어 번역으로, 기계 번역으로, 끝으로 통계적 기계 번역이라는 이름에 이르렀다.

1990년 논문은 번역을 확률 문제로 썼다. 프랑스어 문장이 하나 보이면, 그것의 출발점일 가능성이 가장 큰 영어 문장을 찾는다. 문제를 다시 둘로 나눈다. 영어 문장 자체가 얼마나 영어다운가를 보는 것이 언어 모형이다. 그 영어 문장이 이 프랑스어 문장으로 바뀔 가능성이 얼마나 큰가를 보는 것이 번역 모형이다. 1947년 편지에는 본래 영어인데 기호만 바뀌었다고 했다. 43년 뒤 두 문장을 나란히 놓으면 하나는 비유고 하나는 알고리즘이다.

옐리네크의 2009년 회고에는 심사 의견 한 부도 복사돼 있다. 처음 결과를 1988년 국제 계산언어학 회의에 냈는데 익명의 심사 의견이 돌아왔고 날짜는 1988년 3월 1일이라고 했다. 한 문장이 이렇다. ‘컴퓨터의 무식한 완력은 과학이 아니다.’ 같은 해 그 회의의 논문집에 이들의 논문이 찍혔다.

5. 번역하는 사람

이 논문들에서 번역을 배우는 데 쓴 것은 캐나다 의회의 토론 기록이었다. 캐나다 의회 기록은 영어판과 프랑스어판이 함께 남는다. 옐리네크가 뒤에 특별히 밝힌 바에 따르면, 어느 의원이 한 언어로 발언하면 그 말은 다른 언어로 옮겨진다.

기계가 여기서 배운 문장 쌍마다 한쪽은 의원의 말이고 한쪽은 번역한 사람의 말이다. 그 무렵 의회에 번역하는 사람이 몇이었고 어느 대목을 누가 옮겼는지는 논문에 쓰이지 않았다.

그보다 20여 년 먼저 브라운대에서 말뭉치 하나를 만들었다. 사람들은 브라운 말뭉치라 부른다. 1961년 한 해 미국에서 출판된 영어 산문에서 표본 500개를 뽑았다. 하나에 2000단어 안팎이고 합하면 약 100만 단어다. 1963년에서 1964년 사이에 엮었다.

그때 말뭉치를 만든 사람들의 이름이 오늘날 한 대학의 말뭉치 아카이브에 남아 있다. 책임자는 넬슨 프랜시스와 헨리 쿠체라다. 말뭉치를 만든 사람은 앤 로브 테일러, 로레타 펠리스, 메리 로이스 마크워스, 헨리 홀 페이턴 주니어, 로버트 스타우트 주니어다. 프로그램을 쓴 사람은 앤드루 매케이다. 100만 단어 모두 누군가 책장에서 하나씩 골라 기계에 쳐 넣어야 했다.

1992년에는 존 고드프리, 에드워드 홀리먼, 제인 맥대니얼이 전화 음성 말뭉치 하나를 발표했다. 스위치보드(Switchboard), 전화 교환대라는 뜻이다. 전화 약 2400통에 말하는 사람 543명이 들어 있다. 통화하는 두 사람은 대개 서로 모르는 사이였고, 미리 정한 주제 목록에서 이야기할 것을 정해 주었다. 낯선 두 사람이 목록의 주제로 전화에서 이야기하면 그걸 녹음해 기계에게 사람이 어떻게 말하는지 배우게 했다.

6. 나무

1989년부터 1992년까지 펜실베이니아대에서 주석이 붙은 영어 말뭉치를 만들었다. 펜 트리뱅크다. 1993년 6월 논문을 보면 이미 450만 단어가 넘었다. 모든 단어에 품사를 표시했고, 절반이 넘는 분량에는 문장의 뼈대도 그렸다.

작업 순서는 기계가 먼저고 사람이 나중이다. 품사를 붙이는 일은 벨 연구소에서 케네스 처치가 쓴 확률 기반 태깅 프로그램으로 한 차례 돌린 뒤 사람이 하나씩 고쳤다. 문장 구조를 그릴 때는 구문 분석 프로그램이 나무 하나를 먼저 내놓으면 사람이 손봤다.

초기에 비교 시험을 했다. 주석을 다는 사람은 네 명이었고 모두 대학원에서 언어학을 공부했다. 각자 먼저 15시간 동안 기계의 표지를 고치는 연습을 하고, 6시간 동안 처음부터 자기 손으로 표지를 다는 연습을 했다. 1000단어를 처음부터 다는 데 평균 44분, 기계가 붙인 표지를 고치는 데 평균 20분이 걸렸다. 나무를 그리는 일은 한결 더 느렸다. 몇 주를 연습해도 한 시간에 수백 단어였다. 더 단순한 뼈대를 쓰자 숙련자는 한 시간에 750단어에서 1000단어 넘게 처리했다.

주석 작업자의 화면에는 아무 표시도 없는 문장만 놓여 있는 게 아니다. 분석 프로그램이 내놓은 나무에서 이어지지 않는 조각 옆에는 물음표가 달려 있다. 작업자는 물음표 옆에서 마우스를 눌러 그 조각이 매달려야 할 상위 마디로 끌고 가서 놓는다. 조각을 붙이고, 잘못된 것은 지운다. 화면은 들여쓰기를 다시 정돈한다. 품사를 붙이는 작업은 프로그래머들이 자주 쓰는 텍스트 편집기에서 했다. 표지가 잘못 붙은 단어로 커서를 옮겨 맞는 표지를 쳐 넣으면, 소프트웨어가 규칙에 맞는 표지인지 검사한다. 무엇을 어떻게 붙이는지에 관해서는 안내서 두 권이 있었다. 비어트리스 산토리니가 1990년에 쓴 품사 태깅 안내서, 그리고 그와 메리 앤 마친키에비치가 1991년에 쓴 문장 구조 주석 안내서다.

논문은 이 프로젝트가 통계적 성향을 띤다고 설명했다. 그리고 화면 앞에 앉아 물음표 하나씩 문장을 이어 붙인 사람은 언어학을 배운 사람이었다.

1993년 6월에 이 나무들은 언어 데이터 컨소시엄 회원들에게 공개됐다.

1972년에 그 팀을 떠난 것은 언어학자 세 명이었다. 20년 뒤 언어학자들은 다른 쪽에 앉아 있었다. 통계 기계가 배울 나무를 한 그루씩 그린 것은 그들이었다.

7. 시험지

1991년 2월, 찰스 웨인은 한 음성 및 자연어 워크숍에서 자신이 맡은 사업 둘을 소개했다. 구어를 다루는 사업을 설명할 때 두 부분으로 갈랐다. 하나는 대어휘 음성 인식, 하나는 구어 이해라고 불렀다. 그런 다음 이 사업이 ‘객관적인 성능 평가를 강조한다’고 썼다.

열 번째 글에 나온 1971년부터 1976년까지의 계획 이름은 음성 이해였다. 1991년 한 문서에서는 인식과 이해를 두 부분으로 나누어 나란히 적었다.

시험에는 몇 가지 공용 문제가 쓰였다. 하나는 자원 관리, 소리 내어 읽은 질의와 명령이다. 다른 하나는 항공 여행 정보 시스템, 즉석에서 말한 질의다. 뒤의 녹음은 참가자에게 항공편 조회 시스템과 이야기하게 하면서 얻었다. 그 시스템은 모의 시스템이었고, 당시에는 마법사 방식이라고 불렀다. 뒤에 앉아 기계 대신 대답한 것은 사람이다. 사람이 기계와 어떻게 말할지 알기 위해, 먼저 기계인 척하는 사람에게 말을 걸게 했다.

지원을 받아 참여한 곳은 기업과 대학, 국립 연구소를 합해 열 곳이었고, 베이커 부부의 드래곤 시스템스도 들어 있었다. 출제와 채점은 미국 국립표준기술연구소가 했다.

문어에도 시험이 있었다. 1989년 제2회 메시지 이해 회의에서는 해군 작전 전문을, 1991년 제3회에서는 해외 방송 정보국에서 번역하고 편집한 뉴스 원고를 썼다. 글 한 토막에서 무슨 일이 일어났는지 뽑아 데이터베이스의 표를 채우는 시험이다. 기계 번역도 시험해야 했다. 웨인은 ‘미리 보지 않았으며 자연스럽게 생겨난 텍스트’로 시험하라고 명시했다.

2001년 7월 툴루즈의 계산언어학회 연례 대회에서 마이크로소프트의 미셸 방코와 에릭 브릴이 《자연어 중의성 해소를 위해 아주, 아주 큰 말뭉치로 규모를 키우기》라는 글을 냈다. 시험은 작은 일 하나를 다뤘다. 영어에는 발음이 같고 철자가 다른 단어 셋, ‘~로’를 뜻하는 to, ‘둘’을 뜻하는 two, ‘역시’를 뜻하는 too가 있다. 기계는 문장에서 맞는 하나를 골라야 했다. 연구자들은 학습 방법 네 가지로 이 일을 배우게 했다. 그중 하나는 여덟 번째 글의 퍼셉트론이다. 훈련 자료를 100만 단어에서 10억 단어로 늘렸다. 시험지는 《월스트리트저널》의 100만 단어였다.

곡선은 계속 올랐고 10억 단어에 이르러도 평평해지지 않았다. 곧이어 저자들은 단서 하나를 붙였다. ‘훈련 자료를 더하는 데 비용이 들지 않는 것은 아니다.’ 결론에서 권한 것은 작은 말뭉치로 알고리즘의 우열을 비교하는 데 힘을 덜 쓰고, 표지를 단 말뭉치를 만드는 데 더 쓰자는 것이었다. 뒤에 퍼진 ‘더 많은 데이터가 더 좋은 알고리즘을 이긴다’는 말은 흔히 이 글에 붙는다. 글에는 그 말이 없다.

8. 떠나다

다른 쪽 말에도 저마다 연도가 있다.

1957년 촘스키의 《통사 구조》 2장에 낱말을 이은 두 줄이 나온다. 앞은 ‘Colorless green ideas sleep furiously’, 곧 ‘무색의 초록 생각들이 사납게 잠잔다’다. 뒤는 같은 영어 단어를 거꾸로 늘어놓은 것이다. 둘 다 뜻은 통하지 않는데 앞은 문법에 맞고 뒤는 맞지 않는다. 그는 두 줄을 두고 문법에 맞느냐는 일과 단순한 통계 모형이 제시하는 근사가 같은지 논했다.

2000년 페르난두 페레이라는 《형식 문법과 정보 이론: 다시 만날까?》를 발표했다. 신문 글로 훈련한 단순한 통계 모형으로 두 줄을 다시 계산했다. 문법에 맞는 줄의 확률은 뒤집어 놓은 줄의 약 20만 배였다. 초록에서 그가 한 말은 지난 40년 동안 서로 어울릴 수 없다고들 여겼던 두 전통, 촘스키 쪽의 형식 언어학과 섀넌 쪽의 정보 이론을 다시 이어야 한다는 것이었다. 제목 끝에는 물음표가 있다.

2011년 MIT 개교 150주년 토론회에서 핑커가 촘스키에게 확률 모형을 어떻게 보느냐고 물었다. 촘스키의 대답은 이렇게 시작했다. ‘성공한 것도 있지만 실패한 것도 많았다.’ 뒤이어 분석하지 않은 자료에 얼마나 근접하느냐를 성공 기준으로 삼는 접근을 비판했다. 같은 해 노비그는 《촘스키와 통계 학습의 두 문화에 관하여》라는 글로 답했다. 그해 10월 처치는 《시계추가 너무 멀리 갔다》라는 글을 발표했다. 이 말들은 나란히 놓여 저마다 할 말을 한다.

그 한마디로 돌아가자. 널리 퍼진 판은 언어학자가 이 팀을 떠났다는 말을 ‘내가 언어학자를 해고했다’로 바꾼다. 바뀐 것은 동사 하나와 주어 하나다. 바꾸고 나니 농담에 손을 쓴 사람이 한 명 늘었다. 그런데 1972년의 그 세 사람에 대해 옐리네크는 원래 팀으로 돌아갔다고 썼다.

달라진 것이 동사 하나만은 아니다. 그 말은 사람이 떠나고 숫자가 올랐다고 한다. 숫자들이 어디에서 왔는지는 말하지 않는다. 기계가 의회 기록으로 번역을 배울 때 줄줄이 이어진 프랑스어는 번역사가 옮긴 것이었다. 기계가 신문과 책에서 영어를 셀 때 그 100만 단어는 브라운대의 몇 사람이 하나씩 골라 쳐 넣은 것이었다. 기계가 트리뱅크에서 문장의 구조를 배울 때, 그 나무는 언어학을 배운 사람들이 화면 앞에서 물음표 하나씩 붙인 것이었다. 기계가 사람이 기계에게 어떻게 말하는지 배울 때, 맞은편에는 기계 흉내를 내는 사람이 앉아 있었다.

언어를 세었다. 세어 낸 것은 사람이 쓰고, 번역하고, 표시하고, 입 밖에 낸 것이다. 이 연재는 아무리 계산해도 늘 바깥에 남는 것을 ‘남는 몫’이라 부른다. 숫자가 한 단 오를 때마다 그 아래에는 사람 여럿의 일이 깔려 있다. 대개 그 이름들은 숫자를 따라 전해지지 않았다.

리스본의 그 강연 제목은 《내 가장 친한 친구 중에는 언어학자가 몇 명 있다》였다.

기계는 계속 만들어지고, 경계가 어디인지는 세대마다 다시 말한다.