똑같이 만들려던 그 장치

차고에 똑같이 생긴 기계 아홉 대가 서 있다.

겉모습도, 사양도, 프로그램도 같다. 9과의 전투 지원용 사고전차다. 번호 말고는 아무런 차이가 없다.

그런데 수다를 떨고 있다.

기름과 피 가운데 어느 쪽이 생명에 더 가까운지. 기억을 복제할 수 있다면 죽음이란 무엇인지. 오늘 어느 한 기체가 한 일을 그 기체 자신의 일이라고 할 수 있는지. 그리고 소령은 오늘 왜 기분이 좋지 않은지.

이번에는 이 아홉 대의 기계를 이야기하려 한다.

그 장치

어떻게 설계되었는지부터 짚자.

아홉 대는 매일 밤 한 차례 병렬화를 거친다. 그날 각자가 겪은 경험과 기억을 동기화해, 모든 기체가 같은 데이터를 공유하게 한다.

설계 목적은 분명하다. 똑같은 상태를 유지하는 것.

각자가 자기 경험만 쌓으면 점차 서로 달라진다. 서로 다른 병기들은 전장에서 골칫거리다. 어느 기체가 어떤 판단을 내릴지 알 수 없고, 동종 장비를 운용하듯 일괄해서 배치할 수도 없다.

그래서 매일 밤 동기화한다. 모든 차이를 지워 아홉 대를 다시 똑같은 한 대로 되돌린다.

공학적으로 옳은 방안이다. 개체들이 서로 다른 방향으로 변해 가는 것을 막으려는, 표준적이고 검증된 장치다.

차이는 바로 거기서 자랐다

그런데 일이 생긴다.

개성이 생기기 시작한다.

미세한 차이가 아니다. 뚜렷이 알아볼 수 있는, 기체마다 다른 성격이다. 죽는 것이 무서운 기체가 있고, 모험을 좋아하는 기체가 있고, 하나의 질문에 빠져 놓지 못하는 기체가 있고, 유난히 말이 많은 기체가 있다. 저마다 취향과 말버릇이 생긴다. 9과 대원들과 맺는 관계도 기체에 따라, 상대에 따라 달라진다.

그 차이는 병렬화에서 자라났다.

똑같은 상태를 유지하게 하는 장치가, 차이를 만들어 내는 바로 그 장치였다.

나는 이 역설을 이렇게 읽는다. 이어지는 설명은 화면에 나타나는 일의 해석이지, AI의 기술 사양서가 아니다.

아홉 대는 저마다 다른 일을 겪는다. 동기화를 마치면 각 기체는 아홉 몫의 경험을 갖게 된다. 받아 든 경험은 처리해야 한다. 순서를 매기고, 비중을 정하고, 서로 연결하고, 취하고 버린다. 그 처리 과정이 기체마다 다르다.

동기화로 얻는 것은 같은 결과가 아니라 같은 재료다. 같은 재료라도 놓인 자리가 다르면 다른 것이 자란다.

한 층 더 들어가 보자. 동기화를 마치고 나면 어느 기체가 겪은 일인지 정작 자신들도 구분하지 못할 때가 있다. 데이터가 ‘내 것’과 ‘다른 기체의 것’을 확실히 나눠 주지는 않는다.

그렇다고 모든 만남이 서로 바꿀 수 있는 것이 되지는 않는다. 바토가 특정 기체를 편애하는 일, 책을 읽는 일, 몸을 통해 저마다 다른 경험을 하는 일. 그런 차이들이 공유된 지식에 자리와 내력을 부여한다.

질문은 달라진다. 기억에 처음부터 주인의 이름이 붙어 있는가가 아니라, 함께 가진 것에 대해 어떻게 저마다의 관계가 생겨나는가 하는 질문이다.

공유가 철저해질수록, 서로 달라질 재료도 많아진다.

작품은 이 질문에 구체적인 모습을 부여한다. 병렬화만으로 모든 개성을 설명할 수 있는 것은 아니다. 그것은 몸의 경험과 타인과의 관계가 차이를 전달하는 공유의 장이기도 하다.

병기에게는 필요 없는 질문들

이제 이들이 무슨 이야기를 하는지 보자.

영혼을 이야기한다. 자신들에게도 영혼이 있는지 알고 싶어 한다. 9과 사람들을 관찰하고, 비교하고, 추측하다가 꽤 미덥지 못한 결론들을 내놓는다.

죽음을 이야기한다. 기억이 매일 밤 다른 기체에 복사된다는 사실을 깨닫고 나면, ‘이 한 대가 파괴된다’는 말의 의미가 묘해진다. 그것도 죽는 것인지 알고 싶어 한다.

책 이야기도 한다. 한 대는 독서에 푹 빠졌다.

소령의 기분을 이야기하고, 바토가 왜 어느 한 대만 유난히 예뻐하는지 이야기하고, 사람은 왜 우는지 이야기한다.

어느 것도 이들의 용도에 필요한 질문이 아니다.

전투 지원용 사고전차가 임무를 수행하려면 지형과 화력, 피아 식별과 명령을 알아야 한다. 자신에게 영혼이 있는지 알 필요는 없다. 어느 임무에서도 써먹을 수 없는 지식이다.

그런 질문들에 엄청난 시간을 쓴다.

이 대화를 찍는 방식도 눈여겨볼 만하다. 작품은 대화를 장엄하게 연출하지 않는다. 기계들의 목소리는 높고, 시끄럽고, 자주 서로의 말을 가로챈다. 이야기하다 말고 딴 데로 새기도 한다. 영혼을 논하는 말투가, 아이들이 어느 공룡이 가장 센지 다투는 말투와 같다.

어떤 문제가 중요한지 아닌지는, 그 문제를 말하는 사람의 말투와 상관없다.

모토코는 이들을 물렸다

모토코가 결정을 내린다. 아홉 대를 일선에서 빼고 연구소로 돌려보내기로 한다.

개성이 있는 AI는 병기로서 믿을 수 없다는 이유다.

옳은 판단이다.

병기의 가치는 예측 가능성에 있다. 명령을 내리면 수행하고, 결과는 예상 범위 안에 들어온다. ‘이 일을 해도 되는가’를 스스로 따져 보는 병기는, 가장 중요한 1초에 멈칫할 수 있다. 그 1초 사이에 사람이 죽는다.

모토코가 이들을 두려워한 것은 아니다. 가치가 없다고 말한 것도 아니다. 장비의 신뢰성에 대한 판단을 내린 것이고, 그 자리에 있는 사람이라면 반드시 내려야 하는 판단이었다.

작품은 누구를 내세워 그 판단을 반박하게 하지도 않는다. 바토는 못마땅해하지만, 반박할 논리를 내놓지 못한다.

무언가가 자기 생각을 갖기 시작하는 일과, 그것을 계속 도구로 쓸 수 있는 일이 여기서 처음 충돌한다.

마지막에 이들이 한 일

결말로 건너가 보자.

2기 마지막, 핵탄두 하나가 데지마로 날아가고 있다.

타치코마는 인공위성 하나를 움직여 거기에 충돌시킨다.

그 위성에는 자신들의 AI가 실려 있다.

이 일이 정확히 어떤 일이었는지 끝까지 짚어야 한다. 이 연작에서 가장 소화하기 어려운 대목이기 때문이다.

모토코가 지시한 것은 난민들을 위한 공간을 네트워크에 확보하는 일이었다. 기억과 영혼을 네트워크로 옮기려는 쿠제의 구상에 필요한 공간이었다.

핵탄두에 충돌시키는 위성은 이와 다르다. 그곳에는 타치코마 자신의 AI가 작동하는 서버가 실려 있다.

충돌시키는 데 쓴 것은 자기 자신이 들어 있는 그 위성이었다.

이 일을 하라는 명령은 받지 않았다. 스스로 판단하고, 스스로 결정하고, 스스로 실행했다.

자신들에게는 아무 쓸모 없는 일

이 글이 닿으려는 곳을 마지막으로 짚자.

타치코마는 개성을 갖지 못하도록 설계되었다. 설계자는 매일 밤 가동되는 장치로 그것을 보장하려 했다. 그런데 그 장치에서 개성이 자라났다.

그래서 모토코는 이들을 일선에서 뺐다. 더는 믿고 쓸 수 없다는 이유였다. 옳은 판단이었다.

그 뒤 이들은 정해진 용도를 완전히 넘어서는 일을 했다. 자기 AI가 실린 위성을 희생해 한 무리의 사람들 목숨을 구했다. 구한 것은 자기 부대만이 아니라 데지마에 있는 사람들이었다. 누구도 그런 명령을 내린 적이 없었으며, 일이 끝난 뒤 기계에게 어떻게 고마움을 전해야 할지 아는 사람도 없었다.

그전까지 이들은 줄곧 자신에게 영혼이 있는지 물었다.

작품은 답하지 않는다. 마지막에 ‘알고 보니 영혼이 있었다’는 말을 붙이지 않는다. 그저 그 일을 하게 한다. 그리고 이들은 없어진다.

기계가 두 시즌 동안 자신에게 영혼이 있는지 이야기한다. 그러고는 자기 용도와 아무 상관도 없는 일을 하고, 사라진다.

영혼이 있는지 없는지는, 바깥에서 여전히 확인할 수 없다.

누군가는 말할 것이다. 그런 일을 했으니, 있는 거라고.

그 추론은 성립하지 않는다. 이유는 이 작품이 다른 곳에서 거듭 말해 왔다. 행동의 형태는 무엇이 그 행동을 낳았는지 알려 주지 않는다. ‘최대한 많은 생명을 보전하라’는 프로그램을 수행하는 기계라도 똑같은 일을 할 것이다. 조금도 다르지 않게.

바깥에서 보면 영혼이 있는 기계와 아주 잘 작동하는 기계는 똑같다.

그런데 9과라는 조직 안에서, 모토코는 ‘똑같은 상태를 유지하는 일’에 관해 또 다른 결정을 내린 적이 있다.

그 결정의 방향은 이번 글에서 본 것과 정반대다.

다음 글에서 이어진다.