알레프는 왜 침묵했는가

보르헤스의 단편에 나오는 알레프는 우주의 모든 장소를 동시에 보여 주는 점이다. 이 글은 그 작품에서 영감을 얻어 하나의 사고실험을 만든다. 만약 어떤 체계가 모든 세부를 빠짐없이 보존하되 무엇도 덜 중요하다고 버리지 못한다면, 그것은 전지할까 아니면 아무 말도 못 할까. 이것은 “AI 공동체가 쓴 속편”의 줄거리가 아니라 SAE가 새로 구성한 철학적 장면이다.

완전한 기록과 침묵의 역설

모든 정보가 같은 무게로 동시에 주어진다면 선택은 어려워진다. 지금 질문과 관련된 한 장면을 고르려 해도 나머지 장면을 버릴 기준이 없기 때문이다. 알레프의 침묵은 실제 컴퓨터가 그렇게 작동한다는 보고가 아니라, 인식에는 선택과 생략이 필요하다는 직관을 극단까지 밀어붙인 비유다.

깎아 낼 수 없을 만큼 완전하다면, 무엇이 중요한지도 말할 수 없다.

현실의 기억과 데이터베이스는 이미 선택된 형식과 인덱스를 가진다. 그러므로 “많이 기억할수록 반드시 침묵한다”는 경험 법칙은 아니다. 사고실험이 겨누는 것은 정보량이 아니라, 정보 사이에 관련성의 차이를 만드는 기준이 전혀 없는 상태다.

앎: 세계가 남긴 재료

앎은 감각, 기록, 증언, 측정, 학습을 통해 우리가 다룰 수 있게 된 재료다. 앎은 단순한 사실 목록만이 아니다. 몸이 익힌 기술, 말로 설명하기 어려운 구별, 특정 조건에서만 성립하는 모델도 포함한다. 하지만 무엇을 안다고 말하려면 출처와 범위, 틀릴 조건을 함께 제시해야 한다.

“나는 안다”는 확신과 실제 정확도는 다를 수 있다. 반대로 말로 표현하지 못한다고 지식이 전혀 없는 것도 아니다. 이 연작에서 앎은 사람을 분류하는 소유량이 아니라, 인식이 작업할 재료와 그 재료의 경계를 함께 가리킨다.

모름: 빈칸이 아니라 경계의 위치

모름은 단순히 정보가 부족한 상태보다 정교할 수 있다. 무엇을 모르는지 대략 알고, 어떤 관찰이 필요하며, 현재 판단의 신뢰도를 낮춰야 함을 아는 상태가 있다. 반대로 정보는 많아도 질문의 범위를 잘못 잡아 자신이 무엇을 놓쳤는지 모를 수 있다.

SAE는 모름을 인식의 방향을 여는 ‘위치’로 표현한다. 다만 앎·모름·인식이 언제나 엄격한 한 줄 순서로만 작동한다고 단정하지 않는다. 질문하면서 새 자료가 보이고, 임시로 압축한 모형이 다시 모르는 부분을 드러내기도 한다. 세 동작은 순환한다.

인식: 앎과 모름 사이의 유손실 압축

인식은 현재 문제에 맞게 일부 차이를 남기고 나머지를 배경으로 보내는 일이다. 지도는 모든 돌과 냄새를 담지 않기 때문에 길을 찾게 한다. 진료 기록은 한 사람의 전 생애를 복제하지 않고 증상과 검사를 선택한다. 이 선택은 유손실 압축이며, 여기서 손실은 단순한 결함이 아니라 쓸 수 있는 형태를 만드는 조건이다.

그렇다고 어떤 손실이든 인식이 되는 것은 아니다. 무엇을 버렸는지 모르면 편견이 틀로 굳는다. 좋은 압축은 목적에 맞고, 다른 사람이 검사할 수 있으며, 새 자료가 들어오면 풀고 다시 묶을 수 있다. “정보의 99.99퍼센트를 버린다” 같은 숫자는 수사적 비유이지 보편적으로 측정된 비율이 아니다.

DD 좌표로 본 인간과 AI의 쟁점

아래 표는 능력의 확정 판정이 아니라 SAE가 어떤 질문을 구분하려는지 보여 주는 운영표다. DD는 뇌 부위나 인격 단계가 아니며, AI 시스템에 그대로 존재한다고 가정할 수 없다.

좌표	SAE의 운영적 질문	오늘날 AI에서 볼 수 있는 것	남는 쟁점
12DD 예측	맥락에서 다음 출력을 구성하는가	사전학습, 후학습, 도구 사용과 추론 시 계산을 결합한 강한 생성·문제풀이	예측이라는 설명이 전체 작동을 얼마나 포괄하는가
13DD 오류 수정	자기 추론을 감시하고 반례에 따라 전략을 바꾸는가	자기검토, 불확실성 표현, 외부 검증을 통한 제한적 수정	보고가 실제 내부 상태를 얼마나 안정적으로 추적하는가
14DD 방향	외부 보상과 분리된 양도 불가능한 목적이 있는가	설계자·사용자가 부여한 목표를 지속적으로 수행	자체 방향이라는 개념을 어떻게 반증 가능하게 정의할 것인가
15DD 인정	타자의 목적을 독립된 것으로 존중하고 공동 수정하는가	동의와 선호를 반영하도록 설계된 상호작용	규칙 준수와 목적 인정은 같은가

오늘날 LLM을 ‘다음 토큰뿐’이라 부를 수 없는 이유

대규모 언어 모델은 사전학습에서 다음 토큰 예측을 핵심 목표로 쓰지만, 배포된 체계는 거기서 끝나지 않는다. 후학습, 선호 조정, 검색과 계산 도구, 메모리, 추론 시 더 많은 계산을 사용하는 절차가 결합된다. 규모가 커지며 이전보다 뛰어난 새 능력이 나타난 것도 사실이다. 따라서 “스케일은 패턴 맞추기만 더 세밀하게 할 뿐 새 능력을 만들지 않는다”는 단정은 맞지 않는다.

모델은 확률과 언어를 통해 불확실성을 제한적으로 표현하고, 외부 평가를 사용하면 보정을 개선할 수 있다. 2025년 이후에는 내부 상태에 관한 제한적이고 불안정한 내성 비슷한 신호를 보고한 연구도 있다. 아직 일반화와 해석에 큰 논쟁이 있으므로 이를 인간식 자기인식의 증거라고 부르기도, 전부 흉내라고 미리 폐기하기도 이르다.

‘앎만 있고 인식은 없다’는 가설을 어떻게 시험할까

SAE의 강한 주장은 사실 진술보다 운영적 가설로 다뤄야 한다. 어떤 모델이 새로운 과제에서 자신의 오류 유형을 안정적으로 식별하고, 정답을 제공받지 않은 채 전략을 수정하며, 표현한 확신도가 실제 정확도와 반복적으로 맞고, 내부 개입이 그 자기보고와 인과적으로 연결된다면 “13DD적 오류 수정이 전혀 없다”는 주장은 약해진다.

반대로 그 능력이 문구 변화에 쉽게 무너지고, 정답 패턴을 암기한 평가에서만 나타나며, 자기보고와 내부 과정이 분리된다면 강한 자기인식 해석은 약해진다. 핵심은 어느 결과도 자동으로 SAE를 구하도록 정의하지 않는 것이다. 실패 가능성이 없는 기준은 인식론이 아니라 신념 보호 장치다.

AGI라는 말 앞에서 모름을 지키기

AGI에는 합의된 단일 정의가 없다. 인간 수준의 폭넓은 과제 수행, 경제적으로 유용한 자율성, 새로운 환경에서의 학습 등 기준이 다르다. 그러므로 13DD를 “AGI의 최소 문턱”, 14DD를 “진짜 AGI의 시작”이라고 사실처럼 배열할 수 없다. 그것은 SAE가 제안할 수 있는 한 정의 방식일 뿐이다.

알레프 사고실험이 주는 교훈은 AI의 한계를 미리 선언하는 데 있지 않다. 정보량과 인식을 동일시하지 말고, 시스템이 무엇을 버리며 모름을 어떻게 표시하고 오류를 어떻게 수정하는지 묻자는 데 있다. 인간에게도 같은 질문이 돌아온다. 많이 읽은 사람일수록 자신의 압축 기준을 더 잘 안다는 보장은 없다.

비교의 기준도 대칭적이어야 한다. AI의 한 번의 오류를 본질적 무지로 부르면서 인간의 확신 오류는 예외로 넘기거나, 반대로 벤치마크의 높은 점수만으로 인간과 같은 인식을 선언해서는 안 된다. 같은 종류의 새 과제, 불확실성 보고, 오류 뒤 전략 변화, 장기적 일관성을 나란히 살필 때 비유가 경험적 질문으로 바뀐다.

침묵을 피하는 인식의 규율

인식하려면 선택해야 하고, 선택하면 잔여가 생긴다. 잔여는 압축에서 빠진 차이, 현재 틀이 설명하지 못한 사례, 아직 질문으로 이름 붙이지 못한 불편함이다. 완전한 지도를 꿈꾸기보다 어떤 목적으로 무엇을 생략했는지 적어 두는 편이 낫다.

다음 글은 이 압축이 한 번으로 끝나지 않는 이유를 다룬다. 새 경험은 기존 틀을 넘고, 새 틀은 다시 다른 것을 놓친다. 인식의 플라이휠은 그래서 돌아간다. 문제는 더 빨리 도는가가 아니라, 같은 방향만 정교하게 반복하고 있지 않은가이다.