AI가 대신 쓰는 것보다 더 위험한 일

업무 메일을 10분 안에 보내야 합니다. 대략의 경위는 알지만, 어떻게 말할지는 아직 정리가 안 됩니다. 주고받은 메일을 AI에 붙여 넣고 간결한 진행 상황 보고로 정리해 달라고 합니다. 몇 초 뒤, 화면에는 안정감 있는 여섯 문단이 뜹니다. 배경, 진행 상황, 위험, 다음 단계. 눈에 띄는 오류도 없고 다급한 내가 쓸 때보다 말투도 좋습니다. 단어 두 개를 고쳐 보냅니다.

요즘 아주 흔한 AI 사용 장면입니다. 그런데 물음도 바로 여기서 시작됩니다. 아낀 것은 타자를 치는 시간만이 아닙니다. 내가 이 일을 어떻게 설명할지 결정하기 전에, AI가 먼저 일의 모양을 잡아 놓았습니다.

초안에도 이미 관점이 있다

제법 갖춘 초안이라면 여러 판단을 하고 있습니다. 무엇을 먼저 말할지, 어떤 불확실성을 ‘위험’으로 부를지, 누구의 지연에 설명을 붙일지, 무엇을 이야기 밖에 둘지 말입니다. 아무리 중립적으로 보이는 업무 보고도 ‘결국 이게 어떤 일이었는가’에 대한 이해를 깔고 있습니다.

AI는 사람들이 정보를 읽기 좋은 형태로 묶는 방식에 익숙해서 이런 일을 잘합니다. 물론 쓸모가 있습니다. 빈 페이지가 고칠 수 있는 초안이 되고, 어수선한 회의가 목록이 되고, 화가 난 채 쓴 메일도 잠시 식힐 수 있습니다. 다만 매끈함은 중요한 순간 하나를 가리기 쉽습니다. 참고하려던 안이 언제부터 내가 하는 말이 되었을까요.

가령 일정이 늦어진 까닭은 처음부터 기한이 비현실적이었기 때문이라고 합시다. AI는 ‘팀이 예상하지 못한 복잡한 상황에 부딪혔습니다’라고 씁니다. 예의 바르고 틀렸다고 하기도 어렵습니다. 하지만 구조의 문제가 어느새 날씨 같은 우연한 사정이 되었습니다. 그대로 보내면, 문제는 AI가 내게 거짓말했다는 데 있지 않습니다. 아무도 정말 선택하지 않은 말이 앞으로를 결정하기 시작한다는 데 있습니다. 관리자는 예외가 한 번 생겼다고 이해하고, 기한을 정하는 방식은 그대로 남아, 다음 팀도 그것을 견딥니다.

가장 위험한 말이, 가장 잘 쓴 말일 수도 있다

나쁜 출력은 거절하기 쉽습니다. 지어낸 수치, 어색한 문장, 존재하지 않는 인용은 알아볼 수 있습니다. 오히려 경계할 것은 좋은 출력입니다. 빈틈없이 완성되어 있고 보기 좋으며, 이미 생각을 다 끝낸 듯합니다. 술술 읽힐수록, 어떤 판단은 아직 이루어지지 않았다는 사실을 일깨워 줄 걸림도 줄어듭니다.

그래서 ‘AI를 쓰면 사실 확인을 해야 한다’는 말은 옳지만 충분하지 않습니다. 사실에 어긋나지 않는 문장도 여전히 내 말은 아닐 수 있습니다. 문제에 잘못된 이름을 붙이고, 먼저 보호해서는 안 될 관계를 보호하며, 어려움을 남겨 두어야 할 한 문장을 매끈하게 다듬어 없애 버릴 수도 있습니다.

진짜 위험은 AI가 글을 만들었다는 데 있지 않습니다. 사람의 입장이 형성되기 전에, 완성된 글부터 도착했다는 데 있습니다.

기계가 대신 승인할 수 없는 한 문장

초안을 부탁하기 전에 내 말로 한 문장을 먼저 써 봅니다. 못나도 괜찮고, 질문이어도 좋습니다. ‘우리는 계획의 실패를 실행의 실패라고 설명하고 있는 건 아닐까?’ ‘그녀의 부탁을 거절하고 싶지만, 그 부탁에 아무 이유도 없는 척하고 싶지는 않다.’ ‘나는 아직 이 일에 찬성하는지조차 모르겠다.’

그 한 문장을 절대명령으로 삼으려는 것은 아닙니다. AI와 검토하고 더 분명하게 다듬어도 되며, 공정하지 않았다고 깨달을 수도 있습니다. 역할은 내가 어디에서 이 대화를 시작하는지 표시하는 것뿐입니다. 그러면 뒤에 나오는 글도 그 출발점에 답해야 합니다.

초안이 나온 뒤에도 문법부터 고치지 말고 세 가지를 묻습니다. 내가 아직 내리지 않은 어떤 판단을 이 글이 덧붙였을까? 이 설명에서는 누가 더 쉽게 비난받을까? 받는 사람이 이 말대로 행동한다면 나는 어떤 결과를 감당할 생각인가?

이렇게 한다고 효율이 모두 사라지지는 않습니다. 메일 정리, 구성 제안, 반복 줄이기, 여러 안 만들기는 계속 AI에 맡겨도 됩니다. 내 손에 남겨야 할 것은 타자 한 번 한 번이 아닙니다. ‘쓰기 편한 말’을 ‘내가 책임지고 하는 말’로 바꾸는 결정입니다.

빈 페이지를 신성하게 만들 필요는 없다

진짜 글은 혼자 써야 한다는 뜻도 아닙니다. 사람은 늘 편집자, 동료, 서식, 사전, 앞선 사람들의 형식을 빌려 생각했습니다. AI의 초안이 혼자서는 가지 못한 길을 열 수도 있습니다. 내 습관보다 더 곧게 말하고, 불안한 나보다 더 기다려 주는 안일 수도 있습니다. 우연히 처음 떠올린 답을 끝까지 지킬 필요는 없습니다.

기계를 문밖으로 몰아내려는 것이 아닙니다. 방 안에 의자 하나가 있고, 그것만큼은 모르는 사이에 내주어서는 안 된다는 사실을 알아보려는 것입니다.

그러니 더 나은 분담은 ‘AI가 쓰고 사람이 확인한다’로 끝나지 않습니다. AI가 가능성을 넓히고 다시 구성하면, 사람은 이 글이 세상에 나가서 무엇을 하게 될지 결정합니다. 그 결정에 1분이면 될 때도 있고, 가장 아름다운 문단 전체를 지워야 할 때도 있습니다.

보내기 버튼을 누른다고 받는 사람이 언어 모델과 관계를 맺는 것은 아닙니다. 그가 끝내 마주하는 사람은 나입니다. 편리함은 여기까지 오는 길을 줄여 주지만, 이 순간에서 나를 빼내 주지는 못합니다.