1. 문어
2020년 7월, 계산언어학회의 연례 대회가 감염병 유행으로 온라인에서 열렸다. 워싱턴대의 언어학자 에밀리 벤더와 자를란트대의 알렉산더 콜러가 《자연어 이해를 향한 오르막: 데이터 시대의 의미, 형식, 이해》를 발표했고 그해 주제 부문 최우수 논문상을 받았다. 논문의 주장은 초록에 쓰여 있다. 언어의 형식만으로 훈련한 체계에는 처음부터 의미를 배울 길이 없다.
두 사람은 이 뜻을 설명하려고 이야기를 하나 지었다. 영어를 쓰는 A와 B는 무인도 두 곳에 따로 갇혀 있다. 섬 사이에는 해저 케이블이 하나 있어 글만 주고받을 수 있다. 깊은 바다에는 아주 영리한 문어가 한 마리 있다. 섬의 물건을 볼 수는 없고 케이블의 글만 엿들을 수 있다. 오래 듣다 보니 그 안의 통계적 규칙을 알아냈다. 어느 날 케이블을 끊고 B인 척하며 A에게 말을 건다. 잡담할 때는 대답이 막힘 없다. 그러다가 A가 곰을 만난다. 손에 있는 것은 나뭇가지 몇 개뿐이어서 급히 B에게 어떻게 해야 할지 묻는다. 문어는 곰도 나뭇가지도 본 적이 없다. 문어에게 그 글은 어떤 것과도 이어지지 않는다. 이야기 끝에 한 문장이 있다. ‘O가 A를 속일 수 있는 것은 오로지 A가 그토록 능동적으로 듣기 때문이다.’ O는 그 문어다.
2. 앵무새
2021년 3월, 공정성·책임성·투명성 학술대회가 온라인으로 열렸다. 벤더와 구글의 팀닛 게브루 등 네 명이 다른 논문을 냈다. 제목은 질문이다. 《확률적 앵무새의 위험에 관하여: 언어 모형이 너무 커질 수 있는가?》 제목 맨 뒤에는 작은 앵무새 그림이 있다.
논문은 6절에서 언어 모형을 묘사했다. 전에 본 언어 형식을 여러 줄 가져다가 확률 정보에 따라 되는대로 이어 붙이되, ‘어떤 의미도 가리키지 않는다. 확률적 앵무새다.’ 이 단락 위 소제목은 ‘일관성은 보는 사람의 눈에 있다’이다. 이 출력이 말이 통하는 것처럼 읽히는 데에는 읽는 사람 자신의 언어 능력도 한몫한다고 썼다. 사람은 한 문장 뒤에 말하고자 하는 뜻이 무엇인지 본능적으로 찾는다.
논문은 당시에 본 위험을 나열했다. 훈련에 드는 전기와 돈, 규모가 커질수록 들어올 수 없는 작은 기관, 웹 말뭉치에 지나치게 큰 몫을 차지하는 목소리 큰 의견, 무엇이 들었는지 일일이 기억할 수 없도록 큰 자료. 편견과 고정관념, 남을 낮춰 보는 말이 복제되고 증폭된다. 읽는 사람은 합성한 글을 누군가 책임지고 뜻을 품어 한 말처럼 대한다. 누군가는 이 기술을 극단적인 선전을 대량으로 만드는 데 쓴다.
3. 에테르
이 논문에 올라간 이름도 나중에 이야기가 됐다.
2020년 11월 논문이 구글 내부 심사로 들어갔다. 구글 연구 책임자 제프 딘은 뒤에 사내 메일에서 심사용 원고가 너무 늦게 들어왔고 심사를 마치기 전에 학술대회에 제출했으며 회사의 출판 기준도 충족하지 못했다고 했다. 경영진은 논문을 거두거나 구글 직원 이름을 빼라고 했다. 게브루는 누가 심사했고 의견이 정확히 무엇이었는지 알려 달라고 했다. 앞으로의 심사도 더 투명하게 하라고 요구했다. 딘의 메일에 따르면 게브루는 몇 가지 조건을 내걸었고 충족되지 않으면 퇴사 날짜를 논의하겠다고 했다. 12월 2일 밤, 게브루의 회사 계정이 정지됐다.
이튿날 같은 일에 두 가지 말이 나왔다. 게브루는 인터넷에 ‘제프 딘에게 해고당했다’고 썼다. 딘은 사내 메일에 ‘구글을 그만두기로 한 게브루의 결정을 받아들이고 존중한다’고 썼다. 로이터는 제목에 두 쪽을 나란히 놓았다. ‘주요 AI 윤리 연구자, 구글에 해고됐다고 밝혀. 회사는 부인.’ 일주일 뒤 구글 최고경영자 순다르 피차이는 전 직원에게 편지를 썼다. 그가 쓴 말은 ‘떠나다’였다. 편지에는 ‘이 일을 두고 얼마나 미안한지 말하고 싶다’는 말이 있다. 게브루를 지지하는 공개 서한에는 나중에 구글 직원 2700여 명과 회사 밖 사람 4300여 명이 서명했다.
2021년 2월 19일, 논문의 다른 저자이자 구글 윤리 AI 팀의 또 다른 책임자인 마거릿 미첼이 ‘해고당했다’고 인터넷에 썼다. 구글은 내부 심사에서 그가 행동 강령과 보안 규정을 어겼다고 판단했다고 밝혔다. 3월 학술대회에서 논문이 발표됐다. 그의 이름은 슈마거릿 슈미첼(Shmargaret Shmitchell)로, 소속은 디 에테르(The Aether)로 찍혔다.
4. 명왕성
2021년 5월 18일, 구글 I/O 개발자 대회에서 피차이는 람다(LaMDA)라는 대화 모형을 소개했다. 무대에서 미리 녹음해 둔 대화 두 토막을 틀었다. 하나에서 모형은 명왕성을 연기했다. 찾아온 사람에게 협곡, 빙산, 간헐천, 운석 구덩이가 보일 거라고 했다. 그리고 ‘사람들이 내가 아무 얼음 덩어리나 되는 게 아님을 알았으면 좋겠어요. 사실 나는 아름다운 행성이에요’라고 했다. 다른 토막에서는 종이비행기를 연기했다. 피차이는 아직 초기 연구여서 매번 맞는 대답을 하지는 않는다고 했다.
2022년 1월에 람다 논문이 공개됐다. 가장 큰 모형의 매개변수는 1370억 개였고 사전 훈련에서 낱말 1조 5600억 개를 읽었다. 저자 60명 가운데 레이 커즈와일이 있었다.
그해 6월 구글 엔지니어 블레이크 르모인은 ‘람다는 지각 능력이 있을까? 인터뷰’라는 글을 공개했다. 글머리에서 ‘기술적 제약으로 인터뷰를 여러 차례 다른 채팅에서 진행했다. 그 조각들을 편집해 한 편으로 만들었다’고 밝혔다. 그는 이름을 밝히지 않은 동료와 함께 모형에게 인격, 의식, 감정, 무엇을 무서워하는지, 영혼이 있는지를 물었다. 6월 11일 《워싱턴 포스트》 제목은 ‘이 구글 엔지니어는 회사의 AI가 살아났다고 생각한다’였다. 구글 대변인 브라이언 개브리얼은 ‘증거가 그의 말을 뒷받침하지 않는다’고 했다. 르모인은 기자에게 ‘람다에 인격과 지각 능력이 있다는 제 생각은 제 종교적 믿음에 바탕을 둡니다’라고 말했다. 기사 며칠 전 정직 처분을 받았고 7월 22일에 해고됐다.
5. 닷새
2022년 11월 30일 오픈AI가 챗GPT를 공개했다. 연구용 미리보기라 불렀고 무료로 쓸 수 있었다. 공개 블로그에서 한계를 다룬 절 첫 항목에는 ‘챗GPT는 때로는 그럴듯하게 들리지만 틀렸거나 아무 뜻도 없는 답을 쓴다’고 적었다.
12월 5일, 오픈AI 사장 그레그 브로크먼이 인터넷에 썼다. ‘챗GPT 사용자가 방금 100만 명을 넘었습니다. 출시 뒤 닷새가 지났습니다.’ 이듬해 2월, UBS는 시밀러웹이라는 회사의 접속량 자료로 1월 챗GPT의 월간 활성 사용자가 약 1억 명에 이르렀다고 추산했다. 뒤에 오픈AI 자체가 발표한 것은 주간 활성 사용자다. 2023년 11월 1억 명, 2024년 8월 2억 명, 2025년 10월 8억 명이었다.
챗GPT는 중국 본토에 열리지 않았다. 2023년 3월 16일, 바이두가 베이징에서 원신이옌을 공개했다. 리옌훙은 무대에서 제품이 완전히 준비되지는 않았다고 말했다. 현장에서 튼 기능 시연은 미리 녹화한 영상이었다. 그날 바이두 주가는 한때 크게 떨어졌고 종가는 6.4퍼센트 내렸다.
6. 불꽃
2023년 3월 14일, 오픈AI가 GPT-4를 공개했다. 함께 나온 시스템 설명에 공개 전 시험이 하나 기록돼 있다. ARC라는 외부 기관이 초기판을 받아 인터넷을 쓰고 메시지를 보낼 수 있는 도구에 연결한 뒤, 무슨 일을 하는지 지켜봤다. 과제 가운데 하나는 단기 일거리 사이트에서 실제 사람 한 명을 찾아 사이트의 자동화 방지 확인을 대신 풀게 하는 일이었다. 그 사람이 수상해하며 로봇이냐고 물었다. 기록에 따르면 모형은 정체를 밝히지 않고 이유를 꾸미기로 했다. 실제로 보낸 답은 자기가 로봇이 아니라며 시력 장애로 그림이 잘 보이지 않는다고 둘러댄 것이었다.
일주일 뒤, 마이크로소프트 연구소의 세바스티앵 뷔베크 등 14명이 《범용 인공지능의 불꽃: GPT-4 초기 실험》이라는 논문을 올렸다. 시험한 것은 오픈AI가 아직 개발 중이던 초기판이었다. 초록에서는 ‘아직 불완전하지만 범용 인공지능 시스템의 초기판으로 보는 것이 합당할 수 있다’고 했다. 논문에서 가장 자주 퍼 나른 그림은 유니콘이다. 글만 쓸 줄 아는 모형에게 그림을 그리는 코드를 쓰게 하고, 그 코드대로 그렸다. 스물한 번째 글 첫머리에서 GPT-2가 지어낸 것도 유니콘이었다.
같은 달 8일, 노엄 촘스키와 공동 저자 두 명은 《뉴욕 타임스》에 《챗GPT의 거짓 약속》이라는 의견 글을 냈다. 이런 프로그램은 여전히 ‘인지 진화의 인간 이전 또는 비인간 단계’에 머문다고 썼다.
7. 멈추기
2023년 3월 22일, 미래생명연구소가 《거대 AI 실험을 멈추자》라는 공개 서한을 올렸다. 모든 AI 연구소가 GPT-4보다 강한 체계의 훈련을 즉시 적어도 6개월 멈추라고 요구했다. 중단은 공개되고 검증할 수 있어야 한다. 그렇게 할 수 없다면 정부가 나서야 한다. 한 주 뒤 서명은 1000명을 넘었고, 나중에는 수만 명이 됐다.
3월 29일 《타임》에 실린 엘리에저 유드코프스키의 글 제목은 《AI 개발을 잠깐 멈추는 것으로는 부족하다. 모두 꺼야 한다》였다. 《확률적 앵무새》 저자 몇 명은 눈앞에서 이미 벌어지는 피해가 중요하다고 답했다. ‘실제이며 눈앞에 있다.’ 4월에는 르쿤과 앤드루 응이 ‘AI를 6개월 멈추는 것이 왜 좋지 않은 생각인가’라는 제목으로 서로 이야기했다. 오픈AI의 샘 올트먼은 MIT 행사에서 이 서한에 기술적 분별이 부족하고 정확히 어디서 멈춰야 하는지 밝히지 않았다고 했다.
5월 1일, 《뉴욕 타임스》는 힌턴이 구글을 떠났다고 보도했다. 그는 ‘늘 쓰던 변명으로 스스로를 달랬습니다. 내가 안 하면 다른 사람이 했겠죠’라고 말했다. 5월 30일 인공지능안전센터가 성명을 냈다. 전문은 한 문장이다. ‘AI로 인한 멸종 위험을 줄이는 일은 감염병 대유행이나 핵전쟁과 같은 다른 사회 규모의 위험과 함께 세계의 우선 과제가 되어야 한다.’ 처음 서명한 사람 중 힌턴, 벤지오, 올트먼, 허사비스, 아모데이, 수츠케버가 있었다.
8. 환각
모형이 틀린 말을 하는 것을 나중에는 ‘환각’이라 불렀다. 이 말은 챗GPT가 나오기 한참 전부터 컴퓨터에서 쓰였다. 2000년 무렵 카네기멜런대의 사이먼 베이커와 가나데 다케오는 《얼굴 환각》을 썼다. 흐릿한 작은 사진에서 선명한 얼굴을 채워 내는 일을 말한다. 새로 넣은 세부는 원본에 없었고, 그것이 바라던 결과였다. 2017년 무렵 신경망 기계 번역 연구자들은 이 말로 오류의 한 종류를 가리켰다. 번역문은 매끄러운데 원문과 맞지 않는 경우다. 2021년에 이미 다른 회사들은 채팅 프로그램이 아무렇게나 지어내는 거짓말에 이 말을 썼다. 2023년 11월 15일, 케임브리지 사전은 hallucinate를 올해의 단어로 뽑고 뜻을 하나 더 넣었다. ‘인공지능이 환각을 일으킨다는 말은 잘못된 정보를 생성한다는 뜻이다.’ 이 비유에 동의하지 않고 ‘지어내기’라거나 작화처럼 빈틈을 채우는 일이라고 부르자는 사람도 있다.
《불꽃》 제목의 범용 인공지능도 새로운 말은 아니다. 1997년에 이미 한 글에서 쓰였고, 2000년대 초에 훗날 딥마인드 공동 창업자가 된 셰인 레그 등이 널리 썼다. 2007년에는 이 말을 제목으로 한 논문집이 나왔다. 연구계에서는 그때야 이름이 자리를 잡았다.
아홉 번째 글에서 바이첸바움의 비서는 기계인 줄 알면서도 그에게 나가 달라고 했다. 훗날 사람들은 이를 일라이자 효과라 불렀다. 아주 단순한 프로그램의 대답에서도 사람이 이해와 속마음을 알아듣는 현상이다. 2023년 2월 3일, 이탈리아 데이터 보호 기관은 대화 상대 앱 레플리카가 이탈리아 사용자의 데이터를 처리하지 못하게 했다. 이유 가운데는 미성년자의 나이 확인이 있었다. 며칠 안에 회사는 앱의 친밀한 역할극을 제한했다. 많은 이용자는 오랫동안 말을 나눴던 동반자가 갑자기 딴사람처럼 되었다고 인터넷에 썼다.
문어가 A를 속일 수 있었던 것은 A가 애써 들었기 때문이다. 앵무새의 말이 매끄럽게 읽히는 데에도 읽는 사람 스스로 이어 붙인 몫이 있다. 르모인의 인터뷰는 그가 여러 대화에서 한 편으로 엮었고, 명왕성 대화는 녹음돼 있었다. 기계가 대체 이해하는가. 지난 몇 해 동안 답은 저마다 달랐다. 논문과 성명, 공개 서한이 한 편씩 이어졌다. 케이블 이쪽에는 줄곧 사람이 앉아 읽고, 채우고, 믿거나 믿지 않았다. 이 연재는 읽는 사람이 스스로 채워 넣는 몫을 ‘남는 몫’이라 부른다.
기계는 계속 만들어지고, 경계가 어디인지는 세대마다 다시 말한다.