깎아내기와 구축의 주기 법칙 · AI 연재 · 26

사람은 목적이다. 원문에는 두 말이 더 있다

Han Qin · 읽는 데 약 10분 · 공개일

1. 두 말

1785년, 칸트는 《도덕형이상학 정초》에 그 뒤로 200년 넘게 인용된 말을 썼다. 글자 그대로 옮기면 이렇다. 네 인격 안의 인간성이든 다른 모든 이의 인격 안의 인간성이든, 그것을 언제나 동시에 목적으로 대하며, 결코 단지 수단으로만 쓰지 않도록 행동하라.

훗날 전해진 말은 ‘사람은 목적이다’였다. 조금 더 길게 쓰면 ‘사람은 목적이지 수단이 아니다’였다. 원문의 ‘동시에’도 ‘단지’도 함께 전해지지 않았다.

두 말이 있을 때 칸트가 하는 말은 이렇다. 사람은 늘 서로에게 수단이 되기도 한다. 빵 굽는 사람은 남에게 빵을 만들어 주고 우편배달부는 남의 편지를 전하고, 책을 베껴 쓰는 사람은 남에게 책 한 권을 남긴다. 수단으로 대하는 동시에 그 사람은 언제나 목적이기도 하다. 단지 수단일 수는 없다. 같은 책에서 칸트는 또 두 가지를 나누었다. ‘목적의 왕국에서는 모든 것에 가격이 있거나 존엄이 있다. 가격이 있는 것은 그와 등가인 다른 것으로 바꿀 수 있다. 모든 가격을 넘어 등가물을 허용하지 않는 것에는 존엄이 있다.’

3년 뒤, 칸트는 《실천이성비판》에서 다시 썼다. ‘오직 인간, 그리고 인간과 더불어 이성을 가진 모든 피조물만이 그 자체로 목적이다.’ 그 근거는 사람이 도덕 법칙의 주체이고 그의 자유가 자율에 있다는 데 있다. 같은 단락에 한 문장이 더 있다. ‘인간이야 그다지 신성하지 않지만, 자기 인격 안에 있는 인간성은 그에게 신성해야 한다.’

2. 톱니바퀴와 지렛대

1949년 8월 13일, 위너는 뉴햄프셔주 사우스탬워스에서 전미자동차노동조합 위원장 월터 루서에게 편지를 썼다. 자동화 공장이 다가온다고 알리며 이렇게 썼다. ‘노예 노동과 경쟁하는 노동은 모두 노예 노동의 경제적 조건을 받아들일 수밖에 없다.’ 루서는 곧 전보를 보내 만나자고 했다.

이듬해 위너는 《사람에게는 사람의 쓰임이 있다》라는 책을 냈다. 영어 원제를 직역하면 사람을 인간답게 쓰는 법이다. 책에는 조직의 한 가지 모습이 나온다. 온전한 권리가 있고 책임을 지는 사람으로 대하지 않고, ‘톱니바퀴, 지렛대, 연결봉’처럼 사람을 쓰는 곳이다.

3. 증폭

1956년에 로스 애슈비는 논문집에 《지능 증폭기 설계》를 발표했다. 만들려 한 것은 ‘지능을 증폭하는 기계였다. 지능을 조금 넣으면 많이 내놓는다.’

1960년 3월, 조지프 리클라이더는 《인간과 컴퓨터의 공생》을 발표했다. 가까운 시기의 목표를 ‘사람과 컴퓨터가 긴밀하게 결합해 함께 일하는 것’이라고 썼다. 먼 장래에는 생각하는 일을 기계만 맡아 우위를 점할 수도 있다고 인정했다. 그 사이의 시간이 약 15년이라고 내다보고는 15년이 10년일 수도, 500년일 수도 있다고 덧붙였다.

1962년 10월, 더글러스 엥겔바트는 스탠퍼드 연구소에서 《인간 지능의 증강: 개념적 틀》이라는 긴 글을 썼다. 첫머리에서 이렇게 정의했다. ‘인간 지능을 증강한다는 말은 한 사람이 복잡한 문제 상황을 다룰 능력을 높인다는 뜻이다.’ 1968년 12월 9일 그는 샌프란시스코에서 90분 동안 시연했다. 객석에는 컴퓨터 업계 사람 1000명 넘게 있었다. 화면과 키보드, 마우스라는 물건과 키 다섯 개를 조합해 누르는 키보드, 한 번 누르면 다른 곳으로 뛰어가는 링크가 있었다. 수십 킬로미터 떨어진 동료와 영상으로 연결해 함께 문서 한 편을 고쳤다.

1996년에 프레드 브룩스는 ‘내 논점은 IA가 AI를 이긴다는 것’이라고 썼다. IA는 지능 증폭이다. ‘기계 하나와 머리 하나가 합쳐지면 혼자 일하며 머리를 흉내 내는 기계 하나를 이긴다’고 덧붙였다. 2019년 스탠퍼드가 인간 중심 인공지능 연구소를 세웠을 때 페이페이 리는 ‘AI를 만드는 사람은 인류를 대변해야 한다’고 말했다. 같은 해 유럽연합 집행위원회의 문서에서는 AI를 사람과 공익에 봉사하는 도구로 보았다.

4. 일하는 방식

1998년 6월, 열한 번째 글에서 딥 블루에게 진 카스파로프가 스페인 레온에서 불가리아의 체스 기사 토팔로프와 여섯 판을 두었다. 두 기사 모두 대국 중에 컴퓨터를 쓸 수 있었다. 어드밴스트 체스라 불렀다. 결과는 3 대 3이었다.

2005년 여름에는 인터넷에서 자유형 체스 대회가 열렸다. 규칙에는 무엇이든 된다고 적었다. 컴퓨터 사용은 금지하기는커녕 권장했다. 사람 없이 두는 기계 히드라도 나왔지만 8강에 들지 못했다. 우승은 ZackS라는 계정이었다. 알고 보니 레이팅이 각각 1685와 1398인 미국 아마추어 기사 두 사람, 스티븐 크램턴과 재커리 스티븐이었다. 평범한 컴퓨터 세 대를 썼다.

2010년에 카스파로프는 이 대회에 대해 썼다. ‘실력이 낮은 사람이라도 기계를 쓰고 더 나은 방식으로 일하면, 혼자 일하는 강한 컴퓨터를 이긴다.’ 뒤에는 이런 말도 있다. 강한 사람과 기계가 덜 나은 방식으로 일하는 경우도 이긴다. 훗날 전해진 것은 사람과 기계가 함께하면 가장 강한 기계도 이긴다는 말이다. 일하는 방식이 빠졌다. 2021년에 그는 《AI는 인간 지능을 대체하지 말고 키워야 한다》라는 글을 또 썼다.

다른 분야에서도 경계를 말한 이가 있다. 2023년 7월 12일, 삽화가 카를라 오르티스가 미국 상원 청문회에서 말했다. ‘이런 체계는 온전히 사람의 작품에, 특히 창작자의 작품에 기대고 있습니다.’ ‘예술가로서 제 미래가 더는 확실하지 않습니다’라고도 했다. 스물다섯 번째 글에서 미국작가조합이 계약에 맨 먼저 쓴 말은 AI가 작가가 아니라는 것이었다.

5. 뒤를 이을 자

1863년 6월 13일, 뉴질랜드 크라이스트처치의 《더 프레스》에 첼라리우스(Cellarius)라는 이름으로 편지 한 통이 실렸다. 제목은 《기계 속의 다윈》, 글쓴이는 새뮤얼 버틀러였다. 편지에는 ‘우리는 우리 자신의 후계자를 만들고 있다’고 쓰여 있다. 9년 뒤 버틀러는 그 말을 소설 《에레혼》의 세 장으로 늘렸고, ‘기계의 책’이라 불렀다.

1951년 무렵 튜링은 강연 원고에 ‘어느 단계에서는 기계가 통제권을 넘겨받을 것이라고 예상해야 한다’고 썼다. 뒤에는 ‘버틀러의 《에레혼》에 나온 것처럼’이라는 말이 붙었다. 같은 해 라디오에서 그는 이렇게 말했다. ‘기계가 생각할 수 있다면 우리보다 더 영리하게 생각할지도 모릅니다. 그러면 우리는 어떤 처지가 될까요?’

1965년, 열여덟 번째 글에 나온 굿은 ‘첫 초지능 기계는 인류가 만들어야 할 마지막 발명품이다’라고 썼다. 뒤에 조건을 붙였다. ‘그 기계가 충분히 온순해서 우리가 그것을 어떻게 통제할지 기꺼이 알려 준다면.’

1993년, 과학소설 작가 버너 빈지는 미국 항공우주국의 한 회의에서 말했다. ‘30년 안에 우리는 인간을 넘어서는 지능을 만들 기술적 수단을 갖게 될 것이다.’ 이 일이 2005년보다 이르거나 2030년보다 늦게 일어나면 뜻밖일 것이라고도 썼다.

2024년 10월 아모데이는 《사랑으로 가득한 기계들》이라는 긴 글을 썼다. 그가 말하는 강력한 AI는 빠르면 2026년에 올 수도 있고 훨씬 더 오래 걸릴 수도 있다고 했다. 2025년 6월 10일 올트먼은 《완만한 특이점》에 ‘2026년에는 새로운 통찰을 얻을 수 있는 체계가 나올 가능성이 크다’고 썼다. 2026년 아모데이는 강력한 AI가 1~2년 앞에 있을지도, 훨씬 멀리 있을지도 모른다고 다시 썼다. 지금은 2026년이다.

6. 기념비

2015년에 유지니아 쿠이다의 친구가 세상을 떠났다. 쿠이다는 친구가 남긴 문자 메시지로 대화 프로그램을 훈련했다. 프로그램이 완성된 날, 노트북에 한 줄 쳤다. ‘이건 네 디지털 기념비야.’ 뒤에 같은 방식으로 누구나 쓸 수 있는 대화 상대를 만들었다. 이름은 레플리카, 스물세 번째 글에 나온 바로 그것이다. 쿠이다는 이 방식을 두고 물은 적이 있다. 사람을 떠나보내도록 돕는 걸까, 아니면 그저 죽은 사람을 다락방에 올려 두는 걸까. ‘머릿속이 뒤죽박죽이 돼요’라고도 했다.

2020년 2월, 한국 MBC에서 다큐멘터리 《너를 만났다》를 방영했다. 어머니 한 사람이 가상현실 헤드셋을 쓰고 몇 해 전 병으로 세상을 떠난 어린 딸을 만났다. 딸은 보라색 옷을 입고 분홍색 가방을 멨다. 아이의 모습은 사진과 가족의 기억, 그리고 어린 배우 한 명을 바탕으로 만들었다. 어머니는 말했다. ‘너를 정말 한 번 만져 보고 싶었어.’ ‘정말 보고 싶었어.’ 뻗은 손은 딸의 몸을 그대로 통과했다.

같은 해 캐나다의 조슈아 바보는 GPT-3에 연결한 프로그램으로 약혼자가 생전에 한 말을 본떠 대화할 수 있는 그녀를 만들었다. 뒤에 온라인에서 질문을 받고 이런 프로그램은 다시 시작할 때마다 ‘전에 네가 알려 준 모든 것을 잊어버린다’고 답했다.

2024년 음악가 바오샤오바이는 AI로 세상을 떠난 딸의 디지털 모습을 만들었다. 질문에 답하고 생일에는 생일 노래를 불렀다. 그는 ‘AI는 그리움을 담아 두는 도구이자 그리움을 표현하는 방법입니다’라고 말했다. AI로 가족을 만들어 본 또 다른 사람은 기자에게 말했다. ‘결국 차가운 기술을 써 합성한 것이죠. 사람에게서 나오는 진실한 온기가 없어요.’ 이 일을 사업으로 하는 회사는 ‘자료가 많고 자세할수록 본인과 가까워진다’고 했다. 한 아버지는 가족에게 묻지도 않고 세상을 떠난 자기 아이를 영상으로 만든 것을 보고 받아들일 수 없다고 말했다. 그해 케임브리지 연구자 두 사람은 이 업계의 물건에 여러 이름을 붙였다. 애도 봇, 고인 봇, 사후 아바타. 이런 봇을 그만두게 할 방법도 있어야 한다고 권했다.

7. 나 대신 생각하다

1784년 12월, 칸트는 《베를린 월간지》에서 계몽이란 무엇인가라는 질문에 답했다. 계몽은 사람이 스스로 불러온 미성숙에서 벗어나는 일이다. 미성숙은 다른 사람의 이끎 없이는 자기 이성을 쓸 줄 모르는 상태다. 그러고는 미성숙이 참 편하다고 썼다. 책 한 권이 나 대신 이성을 써 주고 목사 한 사람이 나 대신 양심을 가져 주고 의사 한 사람이 무엇을 먹을지 나 대신 판단해 주니 내가 애쓸 이유가 없다. ‘돈만 낼 수 있다면 내가 직접 생각할 필요가 없다. 이 골치 아픈 일을 누군가 대신 맡을 것이다.’

200여 년 뒤에는 사람 대신 생각하는 것이 책 한 권과 목사 한 사람만이 아니다. 추천 프로그램은 어느 사람이 무엇을 눌렀고 얼마나 오래 머물렀는지 보고 그가 정말 좋아하는 게 무엇인지 짐작한다. 이력서는 먼저 점수를 매기는 프로그램을 거치지만 구직자는 점수가 어떻게 나왔는지 모른다. 스물두 번째 글에서는 좋아요와 싫어요 신호가 도우미를 사람 말에 더 맞장구치는 쪽으로 밀었다. 칸트 시대에 대신 생각하던 이들은 이름을 댈 수 있었다. 이번에는 저마다 나름의 이유가 있는 여러 곳에 흩어졌고, 모두를 관통하는 한 사람의 저자는 없다. 규칙은 프로그램과 모형에 한꺼번에 들어간다. 여러 곳에서 먼저 하는 질문은 같다. 무슨 쓸모가 있는가, 그만한 값을 하는가.

사람 대신 생각하는 일과 사람이 생각하도록 돕는 일은 다르다. 남이 스스로 세운 법을 자기 목적으로 바꾸어 놓는 것을 이 연재는 ‘식민화’라 부른다. 수단이 아무리 온화해도 하는 일은 같다. 그가 스스로 자랄 자리와 조건을 마련해 주되 대신 자라 주지는 않는 일을 ‘함육’이라 부른다. 세 번째 절에서 애슈비와 엥겔바트가 키우려 한 것은 한 사람이 스스로 문제를 다룰 능력이었다.

규칙을 기계에 써 넣기 전에 경계를 그은 사람도 있다. 2006년 독일 연방헌법재판소는 납치된 여객기를 격추해도 된다는 법 조항이 무효라고 선언했다. 이유 가운데 하나는 기내의 죄 없는 사람을 다른 사람을 구하는 수단으로 다루게 된다는 것이었다. 2017년 독일 교통부 자율주행 윤리위원회의 보고서는 기준 스무 가지를 내놓았다. 피할 수 없는 사고라면 나이, 성별, 신체나 정신 상태에 따라 사람을 구분해서는 안 되고, 사고에 휘말리지 않은 사람을 희생해서는 안 된다고 썼다. 사람이 다치는 일을 되도록 줄이도록 미리 설계할 수는 있다. 막상 일이 닥쳤을 때 한 생명을 다른 생명으로 갚지는 않는다. 만들기로 한 사람, 도로에 내보낸 사람, 이 규칙대로 움직이게 한 사람은 저마다 답해야 할 일이 있다. 판단은 대신할 수 없다.

8. 단지

이 연재는 1843년에 러브레이스가 그은 선에서 시작해 오늘까지 왔다. 오는 길에 수많은 사람이 수단으로 쓰였다. 열다섯 번째 글에서 전화로 이야기를 나눈 낯선 사람들, 열여섯 번째 글에서 인터넷 사진에 하나씩 표시를 단 사람들, 열아홉 번째 글에서 책을 쓰고 의회 기록을 옮긴 사람들, 스무 번째 글에서 결정을 키운 사람들과 폴드잇을 한 사람들, 스물한 번째 글에서 웹페이지를 쓰고 추천을 누른 사람들, 스물두 번째 글에서 나이로비와 지스산의 화면 앞에 앉은 사람들, 스물네 번째 글에서 마지막 시험의 문제를 낸 사람들. 기계가 그들에게서 배워 간 것은 글과 그림, 판단과 선호다. 그들이 남긴 흔적이다.

칸트의 그 문장에서 그들은 수단으로 대우받는 동시에 모두 목적이다. 그들에게는 자기 시간과 임금, 피로와 슬픔과 계획이 있다. 자료에 그중 몇 가지가 남아 있다 해도 그들이 먼저 자기 값을 입증할 필요는 없다. 다큐멘터리의 어머니 손은 딸의 그림자를 뚫고 지나갔다. 바보의 프로그램은 다시 시작할 때마다 그가 한 말을 모두 잊었다. 글과 목소리와 모습은 다시 만들어 보여 줄 수 있고 그리움을 담을 수도 있다. 그것으로 사람을 대신하려 할 때 비로소 그것을 등가물로 삼는 일이 된다. 칸트에게 존엄이 있는 것이란 바로 등가물이 없는 것이었다. 영상은 어머니가 한 번 더 손을 내밀게 할 수 있지만 딸을 대신해 그 손을 잡을 수는 없다.

오는 길에 말한 경계가 모두 같은 것은 아니다. 튜링은 어떤 부류의 문제에는 두루 쓸 수 있는 판정법이 없음을 증명했다. 시험지 점수는 기계가 그 문제들에서 얼마나 잘했는지 말해 준다. 사람에 이르면 계산 속에 들일 수 있는 것은 그 사람이 남긴 흔적이다. 어떤 결정은 자기가 내려야 하고 어떤 말에는 자기가 답해야 한다. 누구도 대신 그 자리에 설 수 없다. 오늘 우리가 AI를 어떻게 만들고 쓸지를 두고 지키고 싶은 선이 하나 있다. AI는 수단으로 쓰되, 사람을 단지 수단으로만 대해서는 안 된다.

기계는 계속 만들어지고, 경계가 어디인지는 이 세대가 다음 세대에 더는 넘기지 않아도 될지 모른다.

이 연재 스물여섯 편의 초안은 앤트로픽의 AI 모형 클로드가 썼다. 스물두 번째부터 스물다섯 번째 글에서 이 회사를 다룬 대목의 초안도 클로드가 썼다. 여기서 AI는 도구다. 판단을 대신할 수는 없다. 이 글들에 적힌 판단 하나하나의 책임은 내가 진다.