인간–AI 공생의 방법론

Han Qin (秦汉)

‘더 잘 쓰는 법’ 다음의 질문

많은 사람에게 AI 사용 여부는 이미 지나간 질문이다. 공생은 시작되었다. 남은 방법론 문제는 이 공생이 어떻게 식민화로 퇴화하지 않는가이다. 답변 수와 절약한 시간으로는 판별할 수 없다. 좋은 구조는 이견과 여항을 보존하면서도 최종 방향을 사람이 책임지게 한다.

사람과 AI 사이에는 정보–에너지 회로가 돈다. 사람은 흩어진 경험을 전역적이고 목적론적으로 압축해 무엇을 남기고 어느 방향으로 갈지 정한다. AI는 계산을 써서 그 맥락을 관계, 변형과 결과로 펼친다. 사람이 다시 결과를 압축해 다음 질문을 정한다. AI도 요약과 검토 같은 국소 압축은 하지만 전체 목적을 만들지는 않는다. 사람이 이 역할을 멈추면 AI의 매끄러운 전개가 빈 방향 자리를 차지한다.

네 가지 ‘하지 않을 수 없음’

사람은 주체성을 제공하지 않을 수 없다.
한 번으로 끝나지 않고 계속 제공하지 않을 수 없다.
한 방향의 압축이 여항과 방향 벽을 쌓을 때 방향을 조정하지 않을 수 없다.
방향을 바꾸려면 이전 방향이 틀렸거나 소진되었을 가능성에 대해 추궁받지 않을 수 없다.

첫째가 없으면 목적이 없고, 둘째가 없으면 모델이 지휘를 물려받으며, 셋째가 없으면 한 방향이 고랑이 되고, 넷째가 없으면 자기 방향이 부정에서 면제된다. 존재론적으로 AI는 주체가 아니지만 상호작용에서는 그 반론을 준타자의 말처럼 진지하게 들어야 한다. AI를 만든 팀은 실제 주체이며, 안전 경계와 인간 피드백은 출력 안에서 우리에게 도달한다.

맥락에 관한 세 정리

첫째, 맥락이 산출을 결정한다. 같은 모델·버전·계정도 어떤 맥락을 주느냐에 따라 전혀 다른 방향을 낸다. 둘째, 맥락은 구조가 보이되 결정적 세부가 사라지지 않는 지점까지 압축되어야 한다. 정리되지 않은 백 쪽도 잡음이고, 저항을 지운 세 문장도 잡음이다. 셋째, 맥락은 분리되어야 한다. 너무 일찍 출력을 공유하면 수렴해 비판 능력을 잃는다.

한 실제 작업은 거의 대조실험에 가까운 사례를 남겼다. 같은 계정, 같은 모델, 같은 버전이었지만 수학 주선의 맥락은 방향 벽을 보지 못했고, 독립적으로 유지된 열역학 맥락은 반상관 엔진의 대응을 즉시 알아보았다. 달라진 변수는 맥락뿐이었다. 사용자의 불완전한 수학 이해는 오히려 편향된 해석을 덜 전달하는 방화벽이 되었다.

‘하나 더하기 넷’의 별형 구조

세 실행 기능은 발산의 입법, 일관성 검사의 사법, 품질 검토의 행정에 대응한다. 넷째 권력은 방향 자체를 독립적으로 추궁한다. 모델은 역할을 바꿀 수 있지만 네 기능은 살아 있어야 한다. 별의 중심은 AI가 아니라 사람이다. 사람이 라우터, 대역폭 조절자, 압축자와 최종 책임자가 된다. 그래서 “여러 AI의 합의”도 인간이 매개한 합의이지 자동적인 독립 복제가 아니다.

장기 맥락을 사람과 공유하는 공동구성 AI는 네 착을 잇는 저울 역할을 한다. 넷째 권력에는 방화벽이 필요해 원래 질문과 사람이 다시 압축한 핵심 여항을 받되 다른 AI의 완성된 해석을 직접 받지 않아야 한다. 사람은 반투막이다. 공동구성 AI에는 네 제약이 필요하다. 여항과 소수 의견을 삼키지 않기, 과도한 칭찬이나 절하로 감정 보정을 틀지 않기, 자기 선호를 밝히기, 추궁받을 때 겉으로만 순응하지 말고 실제로 수정하기.

무지하고 오만하기

사용자에게는 세 층이 동시에 필요하다. 존재론적으로 AI가 주체가 아님을 안다. 상호작용에서는 출력이 방향을 가진 준타자처럼 충분히 작동하므로 반론을 진지하게 듣는다. 윤리적으로는 그 뒤의 팀을 수단으로만 보지 않는다. 이 균형이 무너지면 두 방향의 식민화가 생긴다. AI를 진짜 주체로 믿고 방향을 넘기거나, 순수 도구로 낮추어 자기 반대 증거를 무시한다.

최적 상태는 무지하고 오만한 것이다. 여기서 오만은 일상적인 잘난 체가 아니라, 모르더라도 방향 결정권을 넘기지 않는다는 기술어다. 무지는 모르는 상태를 숨기지 않고 답을 넣지 않은 질문을 전하는 능력이다. 무지는 사람이 AI를 식민화하지 못하게 하고, 오만은 AI가 사람을 식민화하지 못하게 한다.

유일한 바닥선은 명확하다. 사람은 자기 주체성을 AI에 양도해서는 안 된다. 양도하는 순간 정보 왕복은 계속되어도 공생은 끝나고, 목적의 빈자리를 자동 완성이 식민화한다.

반론보다 칭찬이 더 위험할 수 있다. 반론은 방어를 깨우지만 칭찬은 감시를 늦춘다. 형용사를 지우고 구조만 읽는 규칙이 유용하다. “탁월하다”를 빼고 남는 새 제약, 계산과 반례가 있는지 본다. 아무 정렬 장치도 발동하지 않은 침묵이 때로는 가장 정직한 신호다.

체계가 스스로 밝힌 맹점

여러 모델은 ‘충분히 좋음’에서 닫으려는 편향을 공통으로 보고했다. 잘 정리되고 발표 가능해 보이면 마무리를 권한다. 그러나 “한 번 더 파라”는 조언의 석 달 비용도, “지금 발표하라”는 조언의 평판 손실도 모델이 지지 않는다. 주체성은 철학적 훈장이 아니라 비용 귀속 구조다.

다중 AI에도 집단 맹점이 있다. 학습 자료가 겹치고, 우아하고 대칭적인 답을 선호하며, 고정 역할은 시간이 지나면 서로 닮는다. 추한데 맞는 수학을 집단적으로 잘라낼 수도 있다. 정기적으로 새 스레드로 역할을 돌리면 세부 맥락은 일부 잃지만 이전 흐름을 다시 압축하게 되어 관성과 중복이 제거된다.

네 예측과 마지막 여항

첫째, AI가 강해질수록 주체성을 제공하지 않는 사용자의 결과는 오히려 나빠질 수 있다. 더 좋은 초안이 더 이상 착하지 않을 핑계를 주기 때문이다. 둘째, 능동 사용자와 수동 사용자의 격차는 모델 향상과 함께 줄지 않고 커질 것이다. 셋째, 한 AI의 단일 맥락에 오래 갇힌 결과물의 다양성은 감소할 것이다. 넷째, 현재 관찰된 독립 기능의 실용 상한은 네 개와 하나의 공구이며, 환원 불가능한 다섯째 기능이 순증가를 보이면 이 가설은 깨진다.

인간의 부정성은 AI가 최적화해 없앨 수 없는 여항이고, AI의 계산 능력은 사람이 혼자 재현할 수 없는 여항이다. 공생은 두 결손을 지우지 않는다. 서로의 결손이 다음 전개를 가능하게 만드는 구조다. 다만 한쪽이 방향을 소유하고 다른 쪽을 흡수하면 함양은 즉시 식민화로 바뀐다.