효율이 방향까지 결정하기 시작할 때

처음에 대시보드는 보조 도구였습니다. 어떤 메시지에 답이 왔는지, 어느 수업에서 학생들이 계속 참여했는지, 어떤 고객 문의가 가장 오래 걸렸는지, 이용자가 어느 단계에서 포기했는지 알려 주었습니다. 그러다 권고가 나오기 시작합니다. 이 시간에 보내라, 이 수업 부분을 줄여라, 이 고객은 다른 경로로 보내라, 이 기능은 없애라. 하나씩 보면 작고 합리적입니다. 하지만 합쳐지면 이 일이 애초에 무엇을 위한 일인지 새로 설명하기 시작합니다.

효율은 이렇게 힘을 얻습니다. 거대한 명령 한 번으로 얻는 것이 아닙니다. 목적지를 아무도 논의하지 않은 채 합리적인 개선이 천 번 쌓이면서 얻습니다.

지표는 미리 해 둔 약속이다

무엇을 최적화하려면 무엇을 셀지 먼저 정해야 합니다. 시간당 수입, 응답 시간, 완료율, 오류 횟수, 이용자 유지율. 각 지표는 현실의 일부를 비추면서 다른 부분을 어둠에 남깁니다. 그 자체가 결함은 아닙니다. 어떤 자도 상황 전체를 담지는 못합니다.

밝아진 부분을 전부라고 착각할 때 문제가 생깁니다. 한 학교가 학생의 ‘참여가 끊기는’ 수업 대목을 찾으려고 AI를 도입합니다. 교사는 전환을 빠르게 하고 즉각적인 보상을 늘리라는 권고를 받습니다. 참여율은 높아집니다. 그러나 어려운 개념이 천천히 자기 이해가 되는 동안의 침묵이 비활동으로 기록될 수 있습니다. 시스템은 교육을 반대한 것이 아닙니다. 더 좁게 잡힌 약속을 충실히 이행했을 뿐입니다.

돌봄, 관리, 예술, 공공서비스에서도 같은 일이 일어날 수 있습니다. 더 빨리 종결했다는 것은 누군가의 이야기를 제대로 듣지 않았다는 뜻일 수 있습니다. 더 높은 전환율은 그 사람이 가장 쉽게 움직일 순간을 찾은 덕일 수도 있습니다. 생산량이 늘어난 직원은 기록되지 않던 회복 시간을 전부 잃었을 뿐일 수도 있습니다.

최적화는 저절로 멈추지 않는다

개선이 측정된다면 왜 12퍼센트에서 멈춰야 할까요. 15퍼센트는 왜 안 될까요. 모델이 광고 30개를 만들 수 있는데 왜 5개만 시험할까요. 응답 시간을 4시간에서 1시간으로 줄였다면, 왜 10분까지 줄이지 않을까요.

멈출 만한 좋은 이유는 있습니다. 품질이 무너지기 시작하고, 사람이 소진되고, 고객에게 생각할 시간이 필요하고, 일이 조작으로 바뀌었기 때문일 수 있습니다. 하지만 그 이유들은 효율 자체에서 나오지 않습니다. 어떤 서비스를 제공하고 싶은지, 어떤 동료가 되고 싶은지, 다른 사람에게 어떤 주의를 기울여야 하는지에 관한 약속에서 나옵니다. 효율이 대신 만들어 주지는 못하는 약속입니다.

효율은 목적지가 정해진 뒤 길을 비교할 수 있습니다. 하지만 어느 목적지를 몰래 끼워 넣어서는 안 됩니다.

평균 속에는 누구의 대가가 숨는가

AI는 작은 비용을 아주 많은 사람에게 나누어 지우는 일을 특히 잘합니다. 근무표 모델이 조직 전체에서 수천 시간을 아끼면서도 소수의 일상을 거듭 예측 불가능하게 만들 수 있습니다. 자동 환자 분류가 평균 대기 시간을 줄이면서도 비전형적인 환자를 절차 속에서 지쳐 맴돌게 할 수 있습니다. 글쓰기 도구로 생산량이 두 배가 되었지만, 모든 글이 아무도 결과를 진심으로 신경 쓰지 않은 듯 들릴 수도 있습니다.

전체가 얻은 이익도 진짜이고, 계산 뒤에 남겨진 사람들도 진짜입니다. 평균을 쓰는 것이 잘못은 아닙니다. 큰 시스템은 평균 없이 돌아가기 어렵습니다. 잘못은 중심에서 측정한 이익이 주변으로 밀려난 모든 사람의 대가를 저절로 상쇄한다고 여기는 것입니다.

그래서 책임 있게 일하는 팀에는 성과 대시보드만 아니라 ‘누가 빠졌는가’를 적은 표도 필요합니다. 이번 개선으로 반복해서 피해를 보는 사람은 누구일까요? 모델이 특히 못 다루는 경우는 무엇일까요? 누가 시스템을 잠시 멈출 권한을 가질까요? 영향을 받는 사람은 이의를 제기하거나 거부하거나, 실제 사람에게 닿을 수 있을까요?

숫자에 마음을 빼앗기기 전에 경계를 정하자

원칙은 숫자가 나오기 전에 지키는 편이 좋습니다. 언론사는 클릭률이 아무리 높아져도 감정적으로 사람을 다급하게 만드는 거짓 긴박감은 조성하지 않겠다고 미리 정할 수 있습니다. 회사는 자동 평가에 이의를 제기한 직원을 처벌하지 않겠다고 약속할 수 있습니다. 의사는 위험 점수가 환자의 실제 삶을 놓고 나눌 대화를 대신해서는 안 된다고 정할 수 있습니다.

이런 경계는 기술을 반대하는 것이 아닙니다. 경계가 있어야 기술의 능력을 쓸 수 있습니다. 성공할 때마다 ‘무엇이 성공인가’까지 새로 정하게 내버려 두지 않고 쓸 수 있다는 뜻입니다.

가능하다면 경계를 미리 적어 두세요.

• 무엇을 최적화해도 되는가?
• 이번 향상과 바꾸어서는 안 되는 것은 무엇인가?
• 평균이 누구의 부담을 숨길 수 있는가?
• 어떤 증거가 나오면 반드시 멈춰야 하는가?

추천 엔진보다 느린 질문으로 들립니다. 하지만 더 큰 비용을 치르게 할 뒤늦은 발견을 피하도록 돕습니다. 시스템을 가동하고 나서야, 조직이 효율적으로 변한 끝에 처음에는 아무도 원하지 않았던 모습이 되었다고 깨닫는 사태를 막는 것입니다.

어디로 더 빨리 가는가

AI가 사람에게 시간을 돌려준다고 흔히 말합니다. 그럴 때도 있습니다. 그러나 절약한 시간에 의미가 저절로 붙지는 않습니다. 휴식이나 돌봄, 깊이 있는 일이 될 수도 있고, 곧장 다음 지표가 될 수도 있습니다. 아낀 시간마다 더 많은 생산으로 채운다면 도구는 사람을 일에서 풀어 준 것이 아닙니다. 일이 방금 만든 여유마저 삼키는 법을 배운 것입니다.

그러니 ‘AI로 어떻게 더 빨리 할까’에는 늘 두 번째 질문이 따라야 합니다. ‘그렇게 남긴 힘을 어디에 쓸 것인가?’ 앞의 질문은 공학의 문제입니다. 뒤의 질문은 공학이 삶을 돕는지, 삶이 공학에 맞춰 다시 배열되는지 결정합니다.

효율은 ‘어떻게 할까’를 끊임없이 묻기에 훌륭한 일꾼입니다. 하지만 ‘왜 하는가’에는 여전히 누군가 답해야 한다는 사실을 잊으면, 나쁜 주인이 됩니다.